Anthropic порівняла загрозу ІІ з ядерною зброєю (фото: Getty Images)
Штучний інтелект нового покоління демонструє перші ознаки можливого виходу з-під контролю людини. Як наслідок, американська компанія Anthropic ініціювала оголошення тимчасової паузи у створенні потужних LLM (великих мовних моделей).
Чому розробники просять зупинити стрімкий розвиток ІІ?
У спеціальному звіті компанії Anthropic зазначається, що глобальне уповільнення розробки передових технологій піде на користь суспільству. Це дозволить державним установам і науковцям встигати за швидким прогресом нейромереж.
Проте фахівці попереджають про основні труднощі на цьому шляху:
Одностороння зупинка неможлива. Якщо лише одна компанія припинить дослідження, конкуренти миттєво вирвуться вперед.
Необхідність міжнародної згоди. Справжня пауза вимагає одночасного рішення провідних компаній у різних країнах, насамперед у США та Китаї.
Складність контролю. Тренування ІІ значно легше приховати, ніж будівництво військових об’єктів або ракетних шахт, тому спокуса таємно продовжити роботу залишатиметься.
Особливе занепокоєння викликає внутрішня статистика компанії. Дані свідчать, що ІІ вже починає суттєво прискорювати відтворення самого себе.
Це запускає процес безперервного самовдосконалення, при якому система зможе навчатися без людського втручання. Вже зараз роль людини на кожному етапі створення ІІ поступово зменшується.
Геополітичний конфлікт і фактор Ілона Маска: хто виступає проти паузи
Ідея заморожування досліджень викликає серйозний опір як у Кремнієвій долині, так і у Вашингтоні.
Американські чиновники та керівники великих корпорацій неодноразово підкреслювали, що будь-яке уповільнення з боку США надасть Китаю вирішальну стратегічну перевагу в головній технологічній гонці століття.
Крім того, ініціатива Anthropic суперечить комерційним інтересам інших учасників ринку. Зокрема, вихід компанії SpaceX Ілона Маска на фондовий ринок, до структури якої входить його ІІ-проект xAI, може офіційно зробити підприємця першим трильйонером у світі.
Представники індустрії та деякі чиновники з Білого дому також відкрито критикують позицію Anthropic. Вони зазначають, що компанія зосереджується виключно на найгірших сценаріях і перебільшує ризики, щоб під приводом безпеки заблокувати розвиток своїх прямих конкурентів.