Генеральний директор Anthropic Даріо Амодей застеріг, що людство наближається до критичного етапу розвитку штучного інтелекту. У 38-сторінковому есе, під назвою The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI (“Юність технологій: Протистояння та подолання ризиків потужного штучного інтелекту”), він пише про “реальну небезпеку” шкоди для цивілізації без негайного та розумного втручання, пише Axios.
“Я вважаю, що ми вступаємо в обряд посвячення, водночас бурхливий і неминучий, який випробує, ким ми є як вид”, — зазначив Амодей. За його словами, людству передається “майже неймовірна влада”, до якої соціальні та політичні системи можуть бути неготовими.
Амодей наголошує, що уряди, технологічні компанії та суспільство суттєво недооцінюють можливі загрози. Нове есе стало продовженням попереднього під назвою Machines of Loving Grace: How AI Could Transform the World for the Better (“Машини люблячої благодаті: Як штучний інтелект може змінити світ на краще”) 2024 року, та написане для того, щоб “роздратувати інших і спровокувати дебати”.
Однією з ключових загроз він називає стрімке наближення так званої “країни геніїв у центрі обробки даних”. Йдеться про системи ШІ, здатні перевершити нобелівських лауреатів у науці, інженерії та інших сферах і автономно створювати як корисні, так і небезпечні речі.
Амодей продовжує цю тему концентрацією можливостей ШІ на рівні держав. Він порівнює її з появою “50 мільйонів надгеніальних людей” і називає такий сценарій “найсерйознішою загрозою національній безпеці за століття”.
“Навряд чи пройде більше кількох років, перш ніж штучний інтелект стане кращим за людей практично в усьому”, — заявив Амодей. Він вважає, що стрімкий прогрес може привести до цього вже за 1–2 роки.
Серед конкретних ризиків Амодей називає масову втрату робочих місць. За його оцінкою, протягом 1–5 років ШІ може змінити до 50% посад початкового рівня в ІТ-секторі. Водночас останній звіт Anthropic засвідчує, що штучний інтелект поки що частіше доповнює роботу людей, ніж замінює їх.
Окремо він застерігає про зростання терористичних ризиків, особливо у сфері біології. Амодей вважає, що ШІ може значно полегшити масові атаки, потенційно з мільйонами жертв. Також він прямо пише про небезпеку посилення авторитарних режимів.
“Авторитаризм, що підтримується штучним інтелектом, жахає мене”, — наголосив Амодей, згадуючи високотехнологічні держави.
Критикує генеральний директор Anthropic і самі компанії, що займаються ШІ. Він попереджає, що вони контролюють дані, моделі та вплив на сотні мільйонів користувачів і потенційно можуть зловживати цією владою. Окремим ризиком він називає спокусу для лідерів замовчувати проблеми через величезні прибутки галузі: “За допомогою штучного інтелекту можна заробити буквально трильйони доларів на рік”.
Попередження пролунали від керівника компанії, що, за словами Axios, створила “одну з найсучасніших LLM у світі”. Зокрема, нова модель Claude Opus 4.5 та інструменти для кодування й коворкінгу активно використовуються у глобальному бізнесі, а ШІ виконує до 90% програмування продуктів Anthropic.
“Людству потрібно прокинутися, і це есе — спроба розбудити людей”, — підсумував Амодей та підкреслив, що найближчі роки будуть вирішальними.
Водночас колишній дослідник OpenAI Даніель Кокотайло переглянув свій резонансний прогноз “ШІ 2027”, визнавши, що розвиток штучного інтелекту відбувається повільніше, ніж очікувалося. Якщо раніше експерт прогнозував появу суперінтелекту та катастрофічні ризики для людства вже до кінця поточного десятиліття, то тепер змістив ці терміни на середину 2030-тих років.