Богослови вже допомагають розробникам ІІ (фото: Unsplash)
Швидкий розвиток генеративного штучного інтелекту змусив керівників Кремнієвої долини переглянути своє традиційно скептичне ставлення до релігійних інститутів. Провідні розробники нейромереж зіткнулися з серйозним викликом: державне регулювання технологій катастрофічно відстає від інновацій, а потреба в закладці моральних та етичних обмежень у базові алгоритми стає критично важливою.
У Нью-Йорку відбувся перший історичний круглий стіл Faith-AI Covenant (Пакт релігії та ІІ), який зібрав за одним столом топ-менеджерів Anthropic, OpenAI та лідерів найбільших світових конфесій.
Організатором зустрічі виступив міжрелігійний альянс з Женеви, що спеціалізується на боротьбі з екстремізмом і торгівлею людьми.
Метою несподіваної колаборації стало створення єдиного переліку загальнолюдських принципів, якими будуть керуватися ІІ-агенти майбутнього. Після першого раунду переговорів у США заплановані аналогічні зустрічі в Пекіні, Найробі та Абу-Дабі.
Чи потрібні ІІ духовні пастирі?
Ініціатор проекту баронеса Джоанна Шилдс, яка раніше будувала кар’єру в Google та Facebook, зазначила, що розробники технологій чітко усвідомлюють масштаб влади та небезпеки, яку вони випустили у світ. На її думку, саме світові релігії, що мають мільярди прихильників, володіють унікальною експертизою у формуванні етичних орієнтирів.
Цікаво, що деякі конфесії почали діяти на випередження ще до офіційного запрошення від техногігантів:
Церква Ісуса Христа Святих Останніх Днів (мормони): вже внесла ІІ до свого офіційного довідника, зазначивши, що технологія не може замінити божественне натхнення, але є корисним інструментом для навчання.
Південна баптистська конвенція: ухвалила спеціальну резолюцію з вимогою проактивно формувати етичні рамки для нових технологій, а не просто реагувати на наслідки їх впливу на громади.
Найактивнішу позицію в залученні релігійних діячів наразі демонструє стартап Anthropic. Створювачі популярного чат-бота Claude відкрито заявляють, що їхня внутрішня “Конституція ІІ” створювалася за безпосередньої участі експертів з етики та теології.
Цікаво, що для Anthropic це також важливий крок для відновлення репутації після публічного конфлікту з Пентагоном щодо заборони використання їх моделей для створення автономної зброї масового ураження.
Конфлікт цінностей і скепсис експертів
Незважаючи на благі наміри учасників пакту, ініціатива стикається з жорсткою критикою як з боку релігієзнавців, так і з боку незалежних дослідників ІІ.
Головна внутрішня проблема полягає в тому, що навіть за наявності спільних базових цінностей, пріоритети різних релігійних спільнот суттєво відрізняються. Створити єдиний універсальний моральний код регулювання високих технологій, який однаково задовольнить християн, сикхів, юдеїв і буддистів, практично неможливо.
З іншого боку, частина наукового співтовариства вважає таке заигрування з релігією звичайним піаром.
Експерти нагадують про старий слоган Кремнієвої долини – “Рухайся швидко і руйнуй все навколо”. Компанії зруйнували занадто багато соціальних інститутів і тепер намагаються знайти виправдання своїм діям.
Колишня профільна представниця адміністрації США Румман Чоудхури називає релігійні круглі столи спробою втекти від реального вирішення юридичних проблем і регулювання, намагаючись перекласти відповідальність за неоднозначні “сірі” етичні зони в розробці ІІ на плечі духовних лідерів.