Ватикан не новичок в области искусственного интеллекта. Новый Папа об ИИ и проблемах технической революции

• Новый Папа Лев XIV уже в начале своего понтификата подчеркивает социальные вызовы новой технологической революции, особенно искусственного интеллекта.
• Ватикан уже много лет занимается этическими размышлениями по поводу ИИ. Подчеркивается необходимость его развития на службе у человека, а не вместо него.
• В январе 2025 года был опубликован документ «Antiqua et Nova», в котором Святой Престол четко заявляет, что технологии не являются морально нейтральными и при их использовании необходимо учитывать такие ценности, как справедливость, солидарность и защита жизни.

Роберт Прево — новый Папа, избранный Коллегией кардиналов 8 мая . Он выбрал себе новое имя — Лев, и во время своей первой встречи с кардиналами он ясно дал понять, что его вдохновлял Лев XIII. - В своей исторической энциклике «Rerum Novarum» он рассматривал социальный вопрос в контексте первой великой промышленной революции, - пояснил он.

Поэтому не исключено, что первые документы, выпущенные новым Папой, будут касаться искусственного интеллекта. В ходе встречи с кардиналами он признал, что разработки в области искусственного интеллекта «ставят новые вызовы для защиты человеческого достоинства, справедливости и труда».

Ватикан с Microsoft: прогресс должен развивать человеческий гений, а не заменять его

Это не первый раз, когда Ватикан высказывается по поводу искусственного интеллекта. Еще в феврале 2020 года Папская академия жизни совместно с Министерством инноваций Италии и технологическими компаниями Microsoft и IBM подписали «Римское воззвание об этике в области искусственного интеллекта».

Он призвал поддержать этичный подход к искусственному интеллекту и способствовать формированию чувства ответственности среди организаций, правительств и компаний частного сектора, чтобы технологический прогресс служил развитию «человеческого гения и креативности, а не постепенно заменял их».

В документе предложены шесть этических принципов, связанных с развитием искусственного интеллекта:

1. Прозрачность: системы ИИ должны быть понятными и объяснимыми.
2. Инклюзивность: ИИ должен быть доступен всем без исключения.
3. Ответственность: Создатели и пользователи ИИ несут ответственность за его работу.
4. Беспристрастность: ИИ не должен дискриминировать ни одного человека или группу.
5. Надежность: системы ИИ должны быть безопасными и функционировать так, как задумано.
6. Конфиденциальность: Защита личных данных и конфиденциальности пользователей имеет решающее значение.

Авторы также напомнили о необходимости поддержки устойчивого развития, включая охрану окружающей среды и борьбу с бедностью. Они также подчеркнули необходимость широкого просвещения в области искусственного интеллекта, чтобы как можно больше людей могли участвовать в его использовании.

Интересно, что сам Ватикан использует решения на основе искусственного интеллекта. Компания Microsoft воссоздала в цифровом виде местную базилику.

Искусственный интеллект должен развиваться ради общего блага

Однако довольно техничная «Римская перекличка» — это еще не конец. В январе этого года, в конце понтификата Папы Франциска, Ватиканским департаментом вероучения и культуры и образования был издан документ «Antiqua et Nova». Это уже весомое размышление церкви о взаимоотношениях между ИИ и человеческим интеллектом . В тексте рассматриваются антропологические и этические проблемы, возникающие в связи с развитием искусственного интеллекта, и подчеркивается необходимость направлять его развитие таким образом, чтобы оно служило человеческому достоинству и общему благу.

Прежде всего, подчеркивается, что человеческий интеллект не может быть заменен технологией , поскольку он включает в себя духовные, физические, реляционные и моральные аспекты. Между тем, как пишут кардиналы, ИИ, хотя и способен выполнять сложные задачи, основан на обработке данных и алгоритмах и не обладает сознанием, способностью выносить моральные суждения или создавать подлинные отношения .

Поскольку искусственному интеллекту не хватает богатства телесности, относительности и открытости человеческого сердца истине и добру, его возможности — хотя и кажущиеся безграничными — несопоставимы с человеческой способностью понимать реальность. Так многому можно научиться из болезни, примирения или даже простого заката; на самом деле, многие из переживаний, которые мы получаем как люди, открывают новые горизонты и дают возможность обрести новую мудрость. Ни одно устройство, работающее исключительно с данными, не сможет справиться с этими и бесчисленными другими событиями, которые присутствуют в нашей жизни.

Ватикан ясно заявляет, что технология не является морально нейтральной

В «Antiqua et Nova» кардиналы призывают к ответственному развитию и использованию ИИ, направленному на служение человечеству и общему благу. Вопреки обычной позиции руководителей технологических компаний, Ватикан четко заявляет, что технологии не являются морально нейтральными и их применение должно учитывать такие ценности, как справедливость, солидарность, защита жизни и окружающей среды .

Как и любой продукт человеческого творчества, ИИ может быть направлен на достижение позитивных или негативных целей. При использовании с уважением к человеческому достоинству и содействием благополучию отдельных лиц и сообществ оно может внести позитивный вклад в человеческое призвание. Однако, как и во всех областях, где люди призваны принимать решения, здесь также появляется тень зла. Там, где свобода человека позволяет выбирать, что является злом, моральная оценка этой технологии должна будет учитывать, как она направляется и используется.

Авторы документа Ватикана также напоминают, что «Церковь особенно выступает против тех видов использования, которые угрожают святости жизни или достоинству человеческой личности».

«Antiqua et Nova» также предостерегает от отношения к ИИ как к замене Бога или людей. Он подчеркивает, что это должен быть инструмент, поддерживающий человеческий интеллект, а не заменяющий его. Призывает к ответственности и моральному различению при использовании технологий.

«Необходимость идти в ногу с темпами развития технологий может подорвать чувство самостоятельности»

В документе Ватикана также подчеркивается ряд рисков, связанных с развитием ИИ. Среди прочего, это касается вопросов дезинформации и глубоких фейков, разработки автономных систем оружия, а также нарушения неприкосновенности частной жизни и свободы личности.

Хотя ИИ обещает повысить производительность, взяв на себя выполнение рутинных задач, он часто заставляет работников приспосабливаться к скорости и требованиям машин, а не к машинам, предназначенным для поддержки тех, кто выполняет работу. В результате, вопреки рекламируемым преимуществам ИИ, нынешний подход к этой технологии может парадоксальным образом дезорганизовать работников, подвергнуть их автоматическому контролю и поручить им выполнение жестких и повторяющихся задач. Необходимость идти в ногу с темпами развития технологий может подорвать у сотрудников чувство самостоятельности и подавить инновационные способности, которые они должны привносить в свою работу .

И здесь мы можем вернуться к словам Папы Льва XIV. Возможно, новый лидер Церкви разовьет эту тему в последующих документах.