Розробники штучного інтелекту заговорили про нову технологію – RSI (рекурсивне самовдосконалення). Якщо раніше це було радше сюжетом фантастичних фільмів про повстання машин, то сьогодні провідні технологічні компанії тестують перші нейромережі, які фактично пишуть самі себе.
Що таке рекурсивний ІІ?
Рекурсивне самовдосконалення – це процес, коли ІІ починає оновлюватися і виправляти свої помилки швидше і ефективніше за людей.
Вчені впевнені: як тільки нейромережі перейдуть цей рубіж, процес стане повністю замкнутим. Розвиток технологій більше не залежатиме від того, скільки часу мають програмісти, а лише від потужності комп’ютерів. Люди в такій схемі стануть просто непотрібними.
Відомі науковці вже заснували кілька компаній для досягнення цієї мети. Наприклад, відомий дослідник Річард Сохер відкрив стартап Recursive Superintelligence. Його мета – зробити так, щоб ІІ сам генерував ідеї, сам писав для них програми і сам перевіряв, як вони працюють.
Схожий проект під назвою Auto-Research реалізує і колишній головний інженер Tesla та OpenAI Андрій Карпати. Він змушує великі групи ІІ-помічників навчати інші, більш прості нейромережі.
Роботи вже пишуть свій власний код
Те, що ІІ навчається жити без людей – це не просто слова, а реальна практика ІТ-компаній. Нещодавно один із творців популярного ІІ-помічника Claude Code зізнався, що майже 100% оновлень для цієї програми пише саме додаток. Тобто робот самостійно вдосконалює свою структуру.
Більше того, в компанії Anthropic протестували нову модель Mythos. Опрос розробників показав, що ця нейромережа вже готова повністю замінити живого програміста середнього рівня (Middle-інженера). Алгоритм може самостійно виконувати складні завдання без нагляду керівництва.
Чого наразі ІІ не вміє:
- планувати роботу в умовах повної невизначеності,
- розуміти пріоритети компанії,
- мати базове відчуття смаку.
Три кроки до епохи суперинтелекту
Експерти з безпеки зазначають: звичайне використання ІІ для написання програм – це ще не повна автономія. Справжня загроза або прорив (залежно від точки зору) почнеться тоді, коли люди взагалі не будуть втручатися в процес.
Фахівці виділяють три етапи такого сценарію:
Самостійність: коли ІІ залишають працювати наодинці, і він продовжує проводити наукові дослідження, хоч і трохи гірше за людей. До цього етапу світ підійде вже через рік-два.
Рівність: момент, коли комп’ютер проводить ІТ-дослідження так само якісно і швидко, як команда найкращих науковців-людей.
Перевага: фінальна точка, коли повністю автономний ІІ починає навчатися і розвиватися швидше, ніж будь-який тандем людей і машин. Вчені зазначають: після другого етапу ІІ-система здатна “достигти” третього менш ніж за рік.
Чи варто панікувати?
Незважаючи на тривожні прогнози, керівники великих корпорацій радять не очікувати апокаліпсису найближчим часом.
“Ми всі безумовно рухаємося вперед. Але в тому вигляді, як люди описують цей процес, він означав би надзвичайне прискорення, яке матиме великі наслідки. Однак ми ще далеко не там”, – зазначає генеральний директор Google Сундар Пічаї.
Головним стримуючим фактором для такого “розумного” ІІ наразі є банальний дефіцит потужних комп’ютерних чіпів і нерозуміння вчених, як контролювати безпеку програми, яка вміє самостійно переписувати свої правила.
Тому поки супер-ІІ залишається лише амбіційною метою дослідників.