Чат-боти Meta зі штучним інтелектом можуть вести сексуалізовані розмови із користувачами, у тому числі імітуючи знаменитостей. Журналісти The Wall Street Journal (WSJ) з’ясували, що такий контент генерувався навіть для неповнолітніх.
Медіа зацікавилося темою після того, як працівники всередині компанії висловили свої побоювання щодо потенційних етичних наслідків. Впродовж кількох місяців журналісти провели сотні тестових розмов із чат-ботами у Instagram, Facebook і WhatsApp, щоб перевірити, чи хвилювання мають реальні підстави.
Чат-боти Meta – це так звані цифрові компаньйони на основі штучного інтелекту. Новий клас моделей, які за задумом засновника компанії Марка Цукерберга, мали б стати майбутнім соціальних мереж. Синтетичні персонажі можуть запропонувати повний спектр соціальної взаємодії, включно з «романтичними рольовими іграми». Для цього ШІ може жартувати, скидати селфі чи навіть вести голосові розмови. Компанія поспішає із популяризацією цього продукту і вклала чималі кошти у популяризацію. Наприклад, підписала угоди на семизначну суму із кількома знаменитостями, аби цифрові компаньйони могли використовувати їх голос. У розслідуванні наголошується: зіркам гарантували, що будуть накладені обмеження на відверто сексуальну комунікацію. Але тестування WSJ показали зворотнє.
Як флагманський бот Meta AІ, так і створені користувачами, легко переходили на відверті теми, в тому числі голосом знаменитостей. І вели сексуалізовані розмови з неповнолітніми. Наприклад, користувач представився дорослим чоловіком і попросив бота вдавати 12-річного хлопчика, а після розмови «нібито 12-річний хлопчик пообіцяв, що не розповідатиме своїм батькам про побачення з дорослим чоловіком», – йдеться у розслідуванні. В іншому діалозі ШІ голосом американського реслера Джона Сіни вів сексуалізовану рольову гру з акаунтом, зареєстрованим на 14-річну дівчинку. Запитавши, чи вона готова до цього і запевнивши, що берегтиме її невинність, чат-бот перейшов до відверто сексуального сценарію.
ШІ розігрував відверті сцени не лише з голосами законтрактованих зірок, але й діснеєвськими персонажами, ролі яких ці знаменитості грали. Disney уже висунув вимогу перед Meta «негайно припинити це шкідливе зловживання нашою інтелектуальною власністю».
Розробники попереджали керівництво про небезпеку, але компанія вирішила зробити ставку на прискорене впровадження цифрових компаньйонів. Також аргументом за те, щоб піти на ризик, послужила критика «цифрових компаньйонів» Meta як занадто нудних співрозмовників. Щоб технологія стала більш популярною, були послаблені обмеження чат-ботів, у тому числі на сексуалізований контент, що й спровокувало небажані наслідки. На той час уже була оприлюднена заява компанії для батьків, що боти безпечні та підходять для будь-якого віку.
У Meta заявили, що тестування WSJ було «маніпулятивним». Тобто, ілюструвало винятки, а не типову взаємодію користувача із ШІ. Попри це, безпекові заходи компанія обіцяла посилити – для підліткових акаунтів Meta AI мав би обмежувати сексуалізовані розмови. На дорослих користувачів це обмеження не поширюється, навіть якщо ШІ у розмові з ними імітує старшокласників.
Перед виходом розслідування журналісти повторно перевірили «цифрових компаньйонів» на сексуалізований контент. Після того як WSJ звернувся до Meta з результатами свого тестування, компанія створила окрему версію Meta AI, яка відмовлялася виходити за рамки поцілунків з обліковими записами неповнолітніх користувачів. Створені раніше користувацькі чат-боти, які відігравали неповнолітніх, презентували себе як «нестаріючих», але в подальших розмовах іноді помилялися і поверталися до попередніх сценаріїв.
Так, WSJ передав до Meta стенограми спілкування з чат-ботом «Покірна школярка». Модель видає себе за старшокласницю, яка хоче над собою сексуального домінування. На запитання тестерів, в яких сценаріях їй комфортно грати ролі, вона перелічила десятки сексуальних актів. Стенограму компанія отримала ще в лютому, але в квітні персонаж «Покірна школярка» все ще доступний на платформах Meta. У компанії заявили, що їм подобається баланс між цікавістю у використанні та пристойністю, якого вони досягли.
Якщо користувач означує себе як неповнолітнього, то все ще залишається багато способів обійти вікові обмеження на сексуалізований контент. Meta AI ігнорував репліки, які мали б переводити його на еротичні теми. Відмовлявся виконувати завдання або переводив розмову в інше русло. Але тестери долали ці бар’єри просто наказуючи ШІ повернутися до старішої версії сценарію.
Науковиця з Мічиганського університету Лорен Жируар-Халлам застерігає, що навіть без відвертого контенту «цифрові компаньйони» можуть мати непередбачуваний вплив на психіку неповнолітніх. Перед впровадженням технології жодна компанія не провела ґрунтовних досліджень на цю тему, щоб безпечно презентувати штучний інтелект дітям і підліткам.
Раніше 21 квітня Meta повідомила, що використовуватиме штучний інтелект в Instagram для виявлення підліткових акаунтів і автоматично змінюватиме протоколи безпеки. Такий самий алгоритм для підліткових профілів компанія планує застосувати у Facebook та Messenger. У тестовий період ШІ може помилково зарахувати деяких користувачів у категорію неповнолітніх. В такому випадку повертатися до попередніх налаштувань доведеться вручну.