Керівники провідних компаній у галузі штучного інтелекту звернулися до Конгресу США з проханням посилити контроль над замовленнями синтетичної ДНК та РНК, щоб уникнути можливого використання ШІ для виготовлення небезпечних патогенів. Лист підписали голова OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей та керівник Google DeepMind Деміс Хассабіс, повідомляє The Wall Street Journal.
Автори звернення пропонують законодавчо зобов’язати компанії, які реалізують синтетичні нуклеїнові кислоти, перевіряти своїх клієнтів та аналізувати замовлення на предмет можливих ризиків. У разі виявлення небезпечних комбінацій ДНК або РНК такі замовлення повинні бути заблоковані.
У листі зазначається, що розвиток штучного інтелекту може значно знизити бар’єри для виготовлення біологічної зброї. На думку підписантів, технології, які вже сьогодні прискорюють наукові відкриття та розробку лікарських засобів, можуть також бути використані зловмисниками для створення нових патогенів.
“Системи штучного інтелекту швидко вдосконалюються, і поряд із величезними перевагами для науки та медицини існує реальна загроза того, що бар’єри у вигляді знань, які історично ускладнювали зловмисникам отримання біологічної зброї, можуть суттєво послабитися”, — йдеться у зверненні.
Ініціаторами листа стали два американські аналітичні центри, що спеціалізуються на технологічній політиці. Вони вважають питання біологічної безпеки однією з небагатьох тем, яка об’єднує представників різних політичних сил, дослідників та керівників конкурентних технологічних компаній. Звернення також підписали керівник напряму штучного інтелекту Microsoft Мустафа Сулейман та головний директор з питань ШІ компанії Meta Олександр Ван.
У документі також підкреслюється, що нинішні механізми контролю в основному є добровільними або поширюються лише на організації, які отримують федеральне фінансування. Прихильники нових правил вважають, що Конгрес має ухвалити окремий закон, який поширюватиметься на всіх покупців синтетичних нуклеїнових кислот. Водночас критики попереджають, що додаткові вимоги можуть створити фінансовий тягар для стартапів та уповільнити розвиток біотехнологічної галузі.
Колишній радник президента США Дональда Трампа з питань штучного інтелекту Дін Болл, який допомагав організувати кампанію на підтримку листа, зазначив, що потенційні витрати виправдані масштабом ризиків. За його словами, перевірка замовлень на синтетичні біологічні матеріали є розумною вимогою з огляду на загрозу виготовлення біологічної зброї.
Звернення з’явилося незабаром після того, як Дональд Трамп підписав указ щодо контролю за моделями штучного інтелекту та кібербезпеки. Документ став частиною нового підходу адміністрації до регулювання галузі після скасування попередніх норм, запроваджених за президентства Джо Байдена.