Керівники провідних компаній у сфері штучного інтелекту, серед яких OpenAI, Anthropic та Google DeepMind, підписали відкритий лист до Конгресу США з вимогою запровадити законодавство для суворого контролю за синтезом ДНК, щоб уникнути створення біологічної зброї за допомогою нейромереж.
Нейромережі навчилися модифікувати послідовності небезпечних патогенів таким чином, що автоматизовані системи безпеки біотехнологічних лабораторій перестають їх ідентифікувати.
Чому ІІ спрощує створення вірусів?
Сьогодні процес синтезу ДНК автоматизований: десятки компаній по всьому світу використовують комерційні синтезатори для фактичного “друку” індивідуальних генетичних послідовностей для медичних досліджень. Проте не всі постачальники ретельно перевіряють своїх клієнтів та замовлення.
Ще у 2017 році дослідники змогли замовити ДНК поштою та відтворити вимерлий вірус конської оспи, який є близьким родичем небезпечної для людини натуральної оспи. Відтоді технологія синтезу значно здешевилася.
Сучасні великі мовні моделі та інструменти ІІ для дизайну білків стали потужними каталізаторами цієї загрози.
Як це можуть використати зловмисники?
Пошук лазівок: ІІ здатен миттєво підказати користувачу, до яких саме постачальників ДНК варто звернутися, щоб уникнути перевірок.
Маскування замовлень: нейромережі можуть перефразувати або змінити структуру генетичного замовлення так, щоб захисне програмне забезпечення лабораторії не виявило токсичності або вірусної природи коду.
Генерація нових загроз: дослідження показують, що ІІ-моделі для проектування білків здатні створювати абсолютно нові небезпечні послідовності, які мають структуру відомих токсинів, але повністю ігноруються стандартним фільтруючим програмним забезпеченням.
Позиція техногігантів
Ініціаторами відкритого листа стали Інститут прогресу (Institute for Progress) та Фонд американських інновацій (Foundation for American Innovation). Серед підписантів – Деміс Хассабіс (Google DeepMind), Сэм Альтман (OpenAI), Дарио Амодеї (Anthropic) та Мустафа Сулейман (Microsoft AI), а також ряд провідних науковців.
Вони закликають Конгрес зобов’язати всіх постачальників синтетичної ДНК та РНК проводити обов’язковий скринінг клієнтів та замовлень на наявність небезпечних патогенів.
На даний момент у США діють лише рекомендації для установ з федеральним фінансуванням, а загальний ринок спирається на добровільний аудит в рамках Міжнародного консорціуму з синтезу генів.
У Сенаті вже розглядається двопартійний законопроект, який має на меті запровадити таку обов’язкову перевірку на законодавчому рівні.
Чому потрібна багаторівнева захист?
Експерти з біобезпеки зазначають, що контроль лише на етапі друку ДНК не є панацеєю, оскільки фільтри автоматизованих систем захисту не є досконалими.
Лабораторії ІІ повинні впроваджувати власні внутрішні обмеження: моделі повинні бути спроектовані так, щоб блокувати будь-які запити користувачів, пов’язані з розробкою токсинів або патогенів, здатних спровокувати глобальну пандемію.