Поширення штучного інтелекту радикально змінює усталений спосіб життя у всьому світі. У відповідь на це лідер Католицької церкви опублікував документ, в якому викладає своє ставлення до ІІ, проте акцентує увагу лише на деяких його аспектах.
Чому дискусія про штучний інтелект вимагає більш широкого залучення моральних авторитетів людства та яким має бути відповідь на виклики, пов’язані з поширенням цієї технології – читайте в колонці лауреата Нобелівської премії з економіки 2024 Дарона Аджемоглу.
Основні моменти:
- Помилка філософії розробників: ІІ-індустрія бездумно копіює людські завдання для автоматизації замість створення систем, які доповнюють і розширюють можливості працівників.
- Енцикліка Папи Льва XIV: Глава Ватикану назвав сучасний вектор ІІ загрозою людській гідності та закликав зупинити військово-алгоритмічну гонку озброєнь.
- Загроза глобальній стабільності: Для мільярдів людей у країнах, що розвиваються, тотальна автоматизація робочих місць стане рецептом катастрофи та бідності.
- Конкретні рішення: Необхідно ввести антимонопольні заходи проти ІІ-платформ і надати громадянам реальні права на їхні дані.
Штучний інтелект змінює способи нашого спілкування, доступу до інформації та роботи, а також те, як розподіляються доходи і статус, і навіть як ми ведемо війни. Проте суспільна дискусія все ще залишається вузькоспрямованою на конкуренцію між лабораторіями ІІ або на абстрактні дебати про можливості цієї технології.
Практично ніхто не ставить питання, для якої мети має служити ІІ, або чи здатні наші нинішні мислення, інститути та механізми контролю направити цю технологію на широке покращення добробуту людей.
Тому було приємно побачити, що Папа Лев XIV висловився з цього питання у своїй першій енцикліці, в якій він описує сучасну траєкторію розвитку ІІ як серйозну загрозу людській гідності. Як економіст, який давно стверджує, що результати технологічного прогресу – це питання вибору, а не долі, я вітаю його втручання.
Лев випереджає більшість коментаторів, зазначаючи, що “технологія ніколи не буває нейтральною, оскільки вона набуває рис тих, хто її розробляє, фінансує, регулює та використовує”. І все ж я побоююся, що навіть він не зайшов достатньо далеко в найважливішому питанні: для чого має бути розроблений ІІ?
Як ми з Саймоном Джонсоном підкреслюємо у нашій книзі “Влада і прогрес: наша тисячолітня боротьба за технології та процвітання”, у такої технології, як ІІ, є безліч шляхів розвитку, і кожен з них має далекосяжні наслідки для суспільства.
Наприклад, Папа прав, ставлячи під сумнів сучасний напрямок розвитку ІІ у військовій справі та правоохоронній діяльності. Те, що ще кілька років тому було табу – масове спостереження за допомогою ІІ, алгоритми, які обирають цілі для знищення, – стало звичайною практикою.
У той час як багато хто в Кремнієвій долині закликає Сполучені Штати зміцнити свою “жорстку силу” за допомогою нового військово-алгоритмічного комплексу, Лев попереджає, що “будь-яка технологія, яка полегшує напад, не дозволяючи побачити обличчя людей, знижує моральний поріг конфлікту”.
Далі Папа закликає до “роззброєння ІІ”, щоб звільнити його “від ментальності “озброєної” конкуренції, яка сьогодні не обмежується лише військовим контекстом, але є також економічним і когнітивним явищем”.
За цими конкретними побоюваннями лежить більш фундаментальна мудрість: технологічний прогрес не завжди є моральним прогресом. Те, що щось технічно здійсненно, не означає, що це добре для людства.
Бажаність тієї чи іншої технології залежить від того, хто нею керує, а також від ідеології та інтересів, якими керуються ці люди.
Лев натякає на те, що я вважаю найбільш безпосереднім ризиком, а саме: “хоча ІІ обіцяє підвищити продуктивність, взявши на себе рутинні завдання, він часто змушує працівників підлаштовуватися під швидкість і вимоги машин, замість того щоб проектувати машини для роботи з тими, хто працює”.
Проте Папа не ставить під сумнів панівну філософію проектування ІІ. Підхід усієї індустрії ІІ зосереджений на імітації людських здібностей і автоматизації людських завдань з метою створення “штучного загального інтелекту”, здатного робити все, що може людина.
Ця філософія ґрунтується на помилковому припущенні, що машинний інтелект і людський інтелект принципово схожі. Люди – це “однократні” навчальні. Ми формуємо гіпотези на основі кількох прикладів, моделюємо можливості у своїй уяві та уточнюємо своє розуміння через соціальний процес проб і помилок.
Тому діти вивчають мову, наслідуючи кілька слів, узагальнюючи та коригуючи свою мову в залежності від того, як на неї реагують оточуючі. Ми не дуже добре засвоюємо величезні обсяги інформації або відбираємо релевантні патерни з неструктурованих даних.
Натомість моделі ІІ процвітають на величезних навчальних наборах і відмінно розпізнають патерни в масштабах, але їм ще потрібно продемонструвати справжню креативність.
У них немає досвіду втілення в реальному світі, ні здатності до навчання методом проб і помилок через взаємодію з фізичним і соціальним світом (за винятком обмежених випадків, коли існують явні винагороди для навчання з підкріпленням у конкретних областях).
Коли дві речі відрізняються, не слід – і, як правило, неможливо – використовувати одну для імітації іншої. Результати будуть неоптимальними.
Було б колосальною помилкою, якби Філ Джексон, легендарний тренер “Чикаго Буллз” 1990-х років, підштовхував Майкла Джордана до того, щоб той копіював усе, що робили Скотті Піппен і Деніс Родман. Команда переходила від одного чемпіонства до іншого саме тому, що ці гравці працювали разом і доповнювали навички один одного.
Те ж саме стосується ІІ та людських навичок. Використання ІІ для виконання того, що не під силу людині, щоб людина могла розширити сферу своєї діяльності, є більш продуктивним, ніж імітація.
У майбутньому сценарії, де ІІ розширює, а не витісняє людські можливості, електрики користуватимуться допомогою ІІ-діагностики, медсестри звертатимуться до ІІ при інтерпретації симптомів, а вчителі можуть використовувати ІІ для персоналізації навчання кожного учня.
Оптимісти та інсайдери галузі можуть відповісти, що ІІ, орієнтований на автоматизацію, все ж може принести користь усім, за умови, що політика перерозподілу доходів буде йти в ногу з цим. Але цей аргумент має погану репутацію.
Чотири десятиліття цифрової автоматизації вже призвели до концентрації вигод у верхівці, спустошили ринок праці середньої кваліфікації та призвели до неутішного сукупного зростання продуктивності. Є мало підстав очікувати, що ще більш потужний виток автоматизації, впроваджуваний ще більш концентрованою галуззю, закінчиться інакше.
А глобальні ставки ще вищі, ніж у США. Для мільярдів людей у країнах, що розвиваються, де гідна праця – єдиний надійний шлях виходу з бідності, орієнтована на автоматизацію програма в галузі ІІ – це рецепт катастрофи. Ми можемо і повинні вимагати іншого підходу.
Мабуть, найбільшим недоліком сучасної індустрії ІІ є її відмова визнати все це. Група людей, які випускають цю технологію у світ, керуються ідеологією контролю (над людством) та переконанням, що машини в усіх відношеннях кращі за людей.
Лев прав, закликаючи до моральної ясності та серйозної суспільної дискусії. Але розмова повинна вийти за межі закликів і перейти до конкретних рішень: антимонопольні заходи проти домінуючих платформ, державні інвестиції в ІІ, що доповнює людину, регулювання систем спостереження та автономної зброї, а також реальні права працівників і громадян щодо даних, від яких залежать ці системи.
Виступ Льва робить такий відповідь трохи більш імовірним, ніж раніше. Але й інші з нас повинні стати на захист людства.
Дарон Аджемоглу, лауреат Нобелівської премії з економіки 2024 року та професор економіки в Массачусетському технологічному інституті, є співавтором (разом із Саймоном Джонсоном) книги “Влада і прогрес: наша тисячолітня боротьба за технології та процвітання” (PublicAffairs, 2023).
Авторські права: Project Syndicate, 2026. www.project-syndicate.org