Ватикан щодо штучного інтелекту – Папа Лев XIV висловив критику на адресу технологічних еліт.

Енцикліка Льва XIV акцентує увагу на еру ІІ (фото: офіційний акаунт Папи Льва XIV в Х)

Перша енцикліка Папи Римського Льва XIV Magnifica Humanitas стала потужним сигналом для технологічної сфери: церква втручається в дискусію про майбутнє людства в епоху ІІ. У 200-сторінковому тексті Папа окреслює ризики, пов’язані з нерівністю, війною та “ерозією демократії”, пропонуючи натомість концепцію “цивілізації любові”, де технології служать “загальному благу”.

Філософія “роззброєння” технологій

Ключовим терміном енцикліки є “роззброєння” штучного інтелекту. Папа Лев XIV свідомо використовує це висловлювання, щоб привернути увагу до того, що ІІ не повинен ставати інструментом виключення або насильства.

Понтифик зазначає, що ІІ-системи лише імітують певні функції людського розуму: вони можуть перевершувати людину в швидкості обчислень, але не мають тіла, не відчувають радості чи болю, не здатні на любов, дружбу або моральні судження.

Попереджаючи про перебільшення поняття “інтелекту” в алгоритмах, Лев XIV підкреслює, що технічна потужність без мудрості та емоцій робить людину більш ізольованою та вразливою.

Критика еліт і концентрації влади

Документ містить гостру критику монополізації інфраструктури, алгоритмів і патентів вузьким колом технологічних еліт. Папа порівнює збір даних про здоров’я, генетичні карти та демографічну інформацію з “новими рідкісними землями” колоніальних епох.

Понтифик зазначає, що влада, зосереджена в руках небагатьох, стає непрозорою і уникає громадського контролю, що створює ризики маніпуляції інформацією та впливу на демократичні процеси.

Лев XIV також виступив за припинення “гонки озброєнь”, де компанії та держави прагнуть до домінування, і закликав до розробки інструментів регулювання, заснованих на справедливості та залученні громад.

Шлях до “цивілізації любові”

Незважаючи на критику, Ватикан не виступає проти прогресу. Навпаки, церква вже використовує ІІ для перекладу богослужінь.

Лев XIV пропонує п’ять шляхів до побудови “цивілізації любові”:

• “Роззброєння” мови ворожнечі,
• Побудова миру через справедливість,
• Прийняття позиції жертв,
• Культивування реалізму,
• Відродження багатовекторної співпраці.

Натхненний словами Гендальфа з творів Дж. Р. Р. Толкіна, Папа закликає здійснювати “маленькі і непохитні акти вірності”, які стануть захистом від дегуманізації.

Погляд зсередини: коментар Anthropic

Співзасновник Anthropic Крістофер Ола назвав енцикліку “надзвичайно своєчасною”. Він виділив три ключові виклики, над якими індустрія ІІ повинна працювати разом з лідерами думок:

Глобальна нерівність – як забезпечити справедливий розподіл переваг ІІ, щоб вони не концентрувалися лише в багатих країнах.

Моральна уява – визначення того, що означає процвітання для сімей зокрема та людства в цілому в умовах масового впровадження ІІ.

Дискримінація – вивчення внутрішньої структури великих мовних моделей.

Ола зізнався, що вчені знаходять у нейромережах “таємничі та тривожні” стани, які функціонально нагадують страх, задоволення або смуток. На думку співзасновника Anthropic, це вимагає “постійного морального контролю”.

Примітно, що Папа прийняв запрошення Ола “іти разом”, щоб знайти шлях для людства в епоху штучного інтелекту. Водночас понтифик закликав уряди гарантувати, що остаточні рішення – особливо щодо зброї – залишатимуться за людьми.