Штучний інтелект наближається до здатності до самовдосконалення. Компанія Anthropic виступила з ініціативою про необхідність глобальної паузи у розвитку технологій штучного інтелекту.

Компанія закликала світових розробників домовитися про тимчасову зупинку розвитку ШІ.

Розробник штучного інтелекту Anthropic висловив думку, що світові лабораторії ШІ повинні розглянути можливість уповільнення прогресу у створенні найпотужніших систем. У компанії вважають, що технологія наближається до моменту, коли моделі зможуть самостійно вдосконалюватися без участі людини. Anthropic попереджає, що такий розвиток подій може призвести до серйозних суспільних наслідків, а інститути та регулятори можуть виявитися неготовими до нової реальності, повідомляє The Wall Street Journal.

Наближення до “рекурсивного самовдосконалення”

Компанія Anthropic опублікувала заяву, в якій закликала провідні лабораторії штучного інтелекту розглянути можливість уповільнення темпів розвитку галузі. Автори матеріалу — співзасновник компанії Джек Кларк та керівниця внутрішнього дослідницького інституту Марина Фаваро — стверджують, що сучасні ШІ-моделі швидко наближаються до порогу так званого рекурсивного самовдосконалення.

Йдеться про гіпотетичну ситуацію, коли системи штучного інтелекту зможуть покращувати свої можливості без втручання людини. У компанії підкреслюють, що цей момент ще не настав і не є неминучим, однак він може настати раніше, ніж більшість державних та суспільних інституцій будуть до нього готові.

“Ми вважаємо, що для світу було б корисно мати можливість уповільнити або тимчасово призупинити розвиток передових технологій ШІ, щоб соціальні структури та дослідження з узгодження цілей встигали за прогресом технологій”, — наголосили автори публікації.

Розроблення міжнародної угоди

У документі пропонується створити міжнародну угоду, яка б дозволила координувати можливе уповільнення розвитку ШІ та перевіряти, чи дотримуються учасники домовленостей. Anthropic визнає, що реалізувати такий механізм буде складно, адже процес навчання моделей значно легше приховати, ніж, наприклад, військову інфраструктуру.

Компанія порівнює майбутню систему контролю з міжнародними договорами щодо ядерного озброєння. Водночас у блозі зазначається, що будь-яка пауза матиме сенс лише за умови широкої підтримки, оскільки країна або компанія, яка продовжить розробку, може отримати значну конкурентну перевагу.

“Такого роду технології раніше не існувало, але я вірю, що це може статися вже протягом найближчих двох років, а можливо, й раніше”, — заявляв Кларк під час лекції в Оксфордському університеті, де також припускав, що ШІ вже протягом наступних 12 місяців може допомогти людям зробити відкриття рівня Нобелівської премії.

План дій Anthropic

Внутрішній дослідницький центр Anthropic разом із зовнішніми експертами вивчатиме та створить “системи, необхідні для надійного уповільнення або призупинення роботи”. Найближчими місяцями компанія проведе обговорення з політиками та науковцями щодо “рекурсивного самовдосконалення” технологій.

“Настав час спільно розглянути ці питання, і до цього обговорення слід залучити людей, які не працюють у компаніях, що займаються штучним інтелектом”, — зазначили автори публікації.

Критика політики Anthropic

Anthropic останніми роками послідовно позиціює себе як один із головних прихильників безпечного розвитку штучного інтелекту. Проте критики компанії стверджують, що її ініціативи можуть також допомагати стримувати конкурентів. Зокрема, неформальний радник президента США Дональда Трампа Девід Сакс звинувачував керівництво Anthropic у просуванні “регуляторного захоплення” та попереджав про обмеження розвитку моделей з відкритим кодом.

Anthropic також конфліктувала з Пентагоном через обмеження використання її ШІ-моделі Claude для масового стеження та створення автономної зброї. Після зриву переговорів Міністерство оборони США внесло компанію до списку ризиків для ланцюга постачань та заборонило використання її технологій.

Скептики вважають, що частина заяв про ризики ШІ може виконувати маркетингову функцію. Як приклад вони наводять рішення компанії обмежити доступ до потужної моделі кібербезпеки Mythos, одночасно наголошуючи на її високих можливостях.

Паралельно керівники найбільших компаній у сфері штучного інтелекту, серед яких генеральний директор Anthropic Даріо Амодей, закликали Конгрес США посилити контроль над замовленнями синтетичної ДНК та РНК, щоб запобігти можливому використанню ШІ для створення небезпечних патогенів. Відповідний лист підписали СЕО OpenAI Сем Альтман, керівник Google DeepMind Деміс Хассабіс, очільник напряму штучного інтелекту Microsoft Мустафа Сулейман та головний директор з питань ШІ компанії Meta Александр Ван.