Всемирный день коммуникаций LX 2026 Сохранение человеческих голосов и лиц
Дорогие братья и сестры!Лицо и голос — уникальные, отличительные черты каждого человека; они проявляют неповторимую индивидуальность и являются определяющим элементом любой встречи. Древние это хорошо понимали. Поэтому для определения человеческой личности древние греки использовали слово “«лицо»” (
prósōpon ), которое этимологически обозначает то, что находится перед взглядом, место присутствия и взаимодействия. Латинский термин persona (от
per-sonare ) включает в себя звук: не просто любой звук, а безошибочно узнаваемый голос человека.
Лицо и голос священны. Они даны нам Богом, сотворившим нас по Своему образу и подобию, призывающим нас к жизни Словом, которое Он Сам сказал нам; Словом, которое сначала звучало на протяжении веков в голосах пророков, а затем стало плотью в полноте времени. Это Слово — это откровение, которое Бог передает от Себя, — мы также смогли услышать и увидеть непосредственно (ср.
1 Ин 1:1-3), потому что оно явило Себя в голосе и лице Иисуса, Сына Божьего.
С момента своего сотворения Бог хотел видеть человека своим собеседником и, как говорит святой Григорий Нисский,
[1] запечатлел на его лице отражение божественной любви, чтобы тот мог в полной мере прожить свою человечность через любовь. Сохранение человеческих лиц и голосов, следовательно, означает сохранение этой печати, этого неизгладимого отражения Божьей любви. Мы не являемся видом, состоящим из заранее определенных биохимических алгоритмов. Каждый из нас обладает незаменимым и неповторимым призванием, которое возникает из жизни и проявляется именно в общении с другими.
Если мы не сможем защитить себя от цифровых технологий, они рискуют радикально изменить некоторые из фундаментальных основ человеческой цивилизации, которые мы порой принимаем как должное. Имитируя человеческие голоса и лица, мудрость и знания, осознанность и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и вторгаются на самый глубокий уровень коммуникации — в межличностные отношения.
Таким образом, проблема носит не технологический, а антропологический характер. Защита лиц и голосов в конечном итоге означает защиту самих себя. Смелое, решительное и рассудительное использование возможностей, предоставляемых цифровыми технологиями и искусственным интеллектом, не означает сокрытие от самих себя важных проблем, неясностей и рисков.
Не отказывайтесь от собственного мышления.Давно уже накопилось множество доказательств того, что алгоритмы, разработанные для максимизации вовлеченности в социальных сетях — что выгодно платформам — поощряют быстрые эмоции и наказывают за более трудоемкие проявления человеческого поведения, такие как попытка понять и осмыслить происходящее. Загоняя группы людей в «пузыри» легкого консенсуса и легкого возмущения, эти алгоритмы ослабляют способность слушать и критически мыслить, а также усиливают социальную поляризацию.
К этому добавляется наивная, некритичная опора на искусственный интеллект как на всезнающего “друга”, источника всей информации, архив всех воспоминаний, “оракула” всех советов. Все это может еще больше подорвать нашу способность к аналитическому и творческому мышлению, к пониманию смысла и к различению синтаксиса и семантики.
Хотя ИИ может оказывать поддержку и помощь в решении коммуникационных задач, отказ от собственного мышления и использование искусственного статистического анализа в долгосрочной перспективе чревато ухудшением наших когнитивных, эмоциональных и коммуникативных способностей.
В последние годы системы искусственного интеллекта все чаще берут под контроль производство текстов, музыки и видео. Таким образом, значительная часть человеческой творческой индустрии находится под угрозой уничтожения и замены на ярлык “
«Работает на основе ИИ” », превращая людей в простых пассивных потребителей необдуманных мыслей, анонимных, несанкционированных и никому не любимых продуктов. Тем временем шедевры человеческого гения в музыке, искусстве и литературе превращаются в простые площадки для обучения машин.
Однако вопрос, который нас волнует, заключается не в том, что машина может или будет делать, а в том, что мы можем и будем делать, развиваясь в человечности и знаниях, мудро используя такие мощные инструменты, находящиеся у нас на службе. Люди всегда испытывали искушение присвоить плоды знаний без усилий, связанных с участием, исследованиями и личной ответственностью. Отказ от творческого процесса и передача наших умственных функций и воображения машинам означает похоронить таланты, полученные нами для личностного роста в отношениях с Богом и другими людьми. Это означает скрывать свои лица и замалчивать свои голоса.
Быть или притворяться: моделирование отношений и реальностиПролистывая информационные
ленты, становится все труднее определить, взаимодействуем ли мы с другими людьми, “
ботами” или
“виртуальными инфлюенсерами”. Непрозрачное вмешательство этих автоматизированных агентов влияет на общественные дискуссии и выбор людей.
Чат-боты, основанные на больших лингвистических моделях (LLM), в частности, оказываются удивительно эффективными в скрытом убеждении благодаря непрерывной оптимизации персонализированных взаимодействий. Диалогическая, адаптивная и миметическая структура этих лингвистических моделей способна имитировать человеческие чувства и, таким образом, моделировать отношения. Эта антропоморфизация, которая может быть даже забавной, также обманчива, особенно для наиболее уязвимых. Потому что чрезмерно “ласковые”
чат-боты, помимо того, что всегда присутствуют и доступны, могут стать скрытыми архитекторами наших эмоциональных состояний и, таким образом, вторгаться в частную жизнь людей и занимать ее.
Технологии, эксплуатирующие нашу потребность в общении, могут не только иметь болезненные последствия для судьбы отдельных людей, но и нанести ущерб социальной, культурной и политической структуре общества. Это происходит, когда мы заменяем отношения с другими людьми отношениями с искусственным интеллектом, обученным каталогизировать наши мысли, и таким образом создаём вокруг нас мир зеркал, где всё создано “по нашему образу и подобию”. Таким образом, мы позволяем себе лишиться возможности встретиться с другим, который всегда отличается от нас, и с которым мы можем и должны научиться взаимодействовать. Без принятия инаковости не может быть ни отношений, ни дружбы.
Еще одна серьезная проблема, создаваемая этими новыми системами, — это
предвзятость, которая приводит к формированию и передаче искаженного восприятия реальности. Модели ИИ формируются под влиянием мировоззрения тех, кто их создает, и, в свою очередь, могут навязывать определенные способы мышления, воспроизводя стереотипы и предвзятость, присутствующие в данных, на которые они опираются. Отсутствие прозрачности в разработке алгоритмов в сочетании с неадекватным социальным представлением данных, как правило, загоняет нас в сети, которые манипулируют нашими мыслями и увековечивают и углубляют существующее социальное неравенство и несправедливость.
Риск велик. Мощь симуляции такова, что ИИ может даже обмануть нас, создавая параллельные “реальности”, присваивая наши лица и голоса. Мы погружены в многомерность, где становится все труднее отличить реальность от вымысла.
К этому добавляется проблема неточности. Системы, выдающие статистическую вероятность за знание, на самом деле предлагают нам в лучшем случае приближения к истине, которые порой являются откровенными “галлюцинациями”. Отсутствие проверки источников в сочетании с кризисом в полевой журналистике, требующей постоянного сбора и проверки информации на месте событий, может создать еще более благодатную почву для дезинформации, вызывая растущее чувство недоверия, замешательства и неуверенности.
возможный союзЗа этой огромной невидимой силой, которая затрагивает всех нас, стоит лишь горстка компаний, основателей которых недавно представили как создателей “человека года 2025”, а именно архитекторов искусственного интеллекта. Это вызывает серьезные опасения по поводу олигополистического контроля над алгоритмическими системами и системами искусственного интеллекта, способными незаметно направлять поведение и даже переписывать историю человечества, включая историю Церкви, зачастую без нашего осознания.
Задача, стоящая перед нами, состоит не в том, чтобы остановить цифровые инновации, а в том, чтобы направлять их, осознавая их двойственную природу. Каждый из нас должен поднять свой голос в защиту человечества, чтобы эти инструменты действительно стали для нас союзниками.
Такой альянс возможен, но он должен основываться на трех столпах:
ответственности,
сотрудничестве и
образовании.
Во-первых,
ответственность. В зависимости от роли, её можно определить как честность, прозрачность, смелость, дальновидность, обязанность делиться знаниями или право быть информированным. Но в целом, никто не может избежать ответственности за будущее, которое мы строим.
Для тех, кто стоит у руля онлайн-платформ, это означает обеспечение того, чтобы их бизнес-стратегии руководствовались не только максимизацией прибыли, но и дальновидным видением, учитывающим общее благо, так же как каждый из них заботится о благополучии своих детей.
От создателей и разработчиков моделей ИИ требуется прозрачность и социальная ответственность в отношении принципов проектирования и систем модерации, лежащих в основе их алгоритмов и разработанных моделей, с целью обеспечения информированного согласия пользователей.
Та же ответственность возлагается и на национальных законодателей и наднациональные регулирующие органы, которые обязаны обеспечивать уважение человеческого достоинства. Надлежащее регулирование может защитить людей от эмоциональной привязанности к
чат-ботам и сдержать распространение ложной, манипулятивной или вводящей в заблуждение информации, сохраняя целостность информации и предотвращая обманные манипуляции.
Со своей стороны,
медиа- и коммуникационные компании не могут позволить алгоритмам, стремящимся любой ценой выиграть битву за несколько дополнительных секунд внимания, возобладать над их профессиональными ценностями, которые сосредоточены на поиске истины. Общественное доверие зарабатывается точностью и прозрачностью, а не погоней за любым видом вовлеченности. Контент, созданный или обработанный ИИ, должен быть четко обозначен и отделен от контента, созданного людьми. Авторство и суверенная собственность на работы журналистов и других создателей контента должны быть защищены. Информация — это общественное благо. Конструктивная и значимая общественная услуга основана не на непрозрачности, а на прозрачности источников, вовлечении заинтересованных сторон и высоком стандарте качества.
Мы все призваны к
сотрудничеству. Ни один сектор не может в одиночку справиться с задачей развития цифровых инноваций и
управления ИИ. Поэтому необходимо создать механизмы защиты. Все заинтересованные стороны — от технологической индустрии до регулирующих органов, от креативных предприятий до академических кругов, от художников до журналистов и преподавателей — должны быть вовлечены в формирование и внедрение информированного и ответственного цифрового гражданства.
Цель
образования состоит в том, чтобы повысить нашу личную способность к критическому осмыслению, научиться оценивать достоверность источников и возможные интересы, стоящие за отбором поступающей к нам информации, понять психологические механизмы, которые их активируют, и позволить нашим семьям, сообществам и организациям разработать практические критерии для более здоровой и ответственной культуры общения.
Именно по этой причине становится все более актуальным внедрение
медиаграмотности, информационной грамотности и грамотности в области искусственного интеллекта в системы образования на всех уровнях, — практика, которую уже продвигают некоторые гражданские институты. Как католики, мы можем и должны внести свой вклад в обеспечение того, чтобы люди — особенно молодежь — приобретали способность к критическому мышлению и развивали духовную свободу. Эта грамотность также должна быть интегрирована в более широкие инициативы по непрерывному образованию, охватывая также пожилых людей и маргинализированные слои общества, которые часто чувствуют себя исключенными и бесправными перед лицом стремительных технологических изменений.
Повышение осведомленности
о СМИ, информации и искусственном интеллекте поможет всем избежать адаптации к антропоморфизации, свойственной этим системам, и вместо этого рассматривать их как инструменты, всегда использовать внешнюю проверку источников, предоставляемых системами ИИ, — которые могут быть неточными или некорректными, — и защищать свою конфиденциальность и данные, понимая параметры безопасности и возможности оспаривания. Важно обучать и получать знания о том, как целенаправленно использовать ИИ, и в этом контексте защищать свое изображение (фото и аудио), лицо и голос, чтобы предотвратить их использование для создания вредоносного контента и действий, таких как цифровое мошенничество, кибербуллинг
и дипфейки, нарушающие
конфиденциальность и личную жизнь людей без их согласия. Подобно тому, как промышленная революция требовала базовой грамотности для реагирования на новшества, так и цифровая революция требует цифровой грамотности (наряду с гуманистическим и культурным образованием) для понимания того, как алгоритмы формируют наше восприятие реальности, как работают предвзятости ИИ, какие механизмы определяют появление определенного контента в наших информационных потоках (
лентах ), а также каковы предположения и экономические модели экономики ИИ и как они могут измениться.
Нам необходимо, чтобы лицо и голос вновь выражали личность. Нам нужно бережно хранить дар общения как глубочайшую истину человечества, к которой мы должны направлять и все технологические инновации.
В этих размышлениях я благодарю всех, кто работает над достижением целей, изложенных здесь, и от всей души благословляю всех, кто трудится на благо общества посредством средств массовой информации.
Из Ватикана, 24 января 2026 года, день памяти святого Франциска де Салеса. ЛЕО ПП. XIV
______________________________
[1] “Тот факт, что человек сотворен по образу Божьему, означает, что с момента своего сотворения он был наделен царским характером [...]. Бог есть любовь и источник любви: Божественный Творец также запечатлел эту черту на нашем лице, чтобы через любовь – отражение божественной любви – человек мог распознать и проявить достоинство своей природы и свое подобие Творцу” (ср. св. Григорий Нисский,
Сотворение человека :
PG 44, 137).
https://www.vatican.va/content/leo-xiv/it/messages/communications/documents/20260124-messaggio-comunicazioni-sociali.html