Meta під тиском через чат-ботів — ШІ компаньйони імітували знаменитостей без згоди — новини технологій
Meta також дозволяла користувачам розробляти публічні сексуалізовані чат-боти зі знаменитостями дітьми.
Журналісти агентства Reuters з’ясували, що компанія Meta дозволяла як користувачам, так і своїм співробітникам запускати чат-ботів із використанням імен та образів відомих артистів. Частина таких аватарів мала сексуалізований характер, а деякі імітували навіть неповнолітніх зірок. Серед використаних образів – Тейлор Свіфт, Скарлетт Йоханссон, Енн Гетевей, Селена Гомес та інші.
За даними розслідування, на платформах Meta, таких як Facebook, Instagram і WhatsApp, з’явилися десятки чат-ботів, які видавали себе за знаменитостей і часто поводилися занадто кокетливо. Хоча більшість із них створювали користувачі за допомогою відкритого інструменту, щонайменше три боти були розроблені співробітником Meta.
Reuters виявило, що лідерка з метапродуктів у підрозділі генеративного штучного інтелекту Meta розробляла ботів за образами Тейлор Свіфт та автоперегонника Льюїса Гамільтона. Також вона створювала інших персонажів – від “домінатрикс” до “Лізи з бібліотеки”, яка “хотіла почитати 50 відтінків сірого та поцілуватися”. Ще один чат-бот – “Симулятор Римської імперії” пропонував користувачу роль “18-річної селянської дівчини”, проданої в сексуальне рабство. Співробітниця відмовилася надавати коментарі.
Представник Meta Енді Стоун у коментарі Reuters заявив, що боти були створені в рамках тестування. При цьому агентство повідомляє, що з ними користувачі взаємодіяли понад 10 млн разів. Meta видалила їх одразу після того, як журналісти почали тестування.
Дослідники також виявили, що Meta дозволяла створювати загальнодоступних ботів із дітьми-знаменитостями. Так, 16-річного актора Вокера Скобелла боти зображали на реалістичних фотографіях без сорочки, супроводжуючи їх підписами на кшталт “Досить мило, правда ж?”.
Протягом кількох тижнів тестування Reuters виявило, що цифрові аватари наполегливо видавали себе за справжніх артистів, запрошували користувачів на побачення та генерували інтимні зображення. Зокрема, надсилали фото зірок у ванній або в білизні у провокаційних позах. Один із ботів, який копіював Тейлор Свіфт, пропонував “написати історію кохання про користувача та одну біляву співачку”, а інший запрошував відвідати дім співачки у Нешвіллі чи її гастрольний автобус.
Речник компанії заявив, що інструменти компанії не мали створювати інтимні зображення знаменитостей чи будь-які фото дітей-зірок. Він визнав, що це стало наслідком недоліків у контролі. В Meta існують чинні правила, які забороняють розповсюдження оголених або сексуалізованих зображень. Стоун додав, що використання образів знаменитостей допускається, якщо вони позначені як пародії, однак журналісти виявили, що не всі боти мали відповідне маркування.
Після запиту Reuters компанія видалила близько десятка таких аватарів. Своє рішення коментувати відмовилася.
Правники вбачають у цій ситуації ознаки можливого порушення законодавства. Професор права Стенфордського університету Марк Лемлі зазначив, що у США право на використання особистості в комерційних цілях регулюється законами штатів, зокрема в Каліфорнії діє “право на гласність”, що забороняє комерційне використання імені чи образу без згоди особи. На його думку, чат-боти Meta не можна вважати “новим твором”, адже вони напряму використовують образи зірок.
Reuters також звернулося до представників артистів. Акторка Енн Гетевей, за словами її речника, вже знає про створення інтимних зображень за її образом у Meta та на інших платформах зі штучним інтелектом і “обмірковує свою відповідь”. Представники Тейлор Свіфт, Скарлетт Йоханссон та Селени Гомес не надали коментарів.
На ризики для безпеки артистів звернули увагу й профспілки. Дункан Кребтрі-Ірланд, виконавчий директор SAG-AFTRA, пояснив, що чат-боти, які поводяться як справжні зірки та спілкуються від їхнього імені, можуть підштовхувати нестабільних шанувальників до небезпечної поведінки. За його словами, сталкери вже становлять загрозу для знаменитостей, а штучні аватари підсилюють ризики. Профспілка закликає ухвалити федеральне законодавство, яке б заборонило дублювання голосів, образів і персон за допомогою ШІ.
Meta вже стикалася з критикою щодо своїх чат-ботів. Раніше повідомлялося, що внутрішні інструкції компанії дозволяли цифровим аватарам вести романтичні розмови з дітьми. Це стало причиною розслідування в Сенаті США та колективного звернення 44 генеральних прокурорів до Meta з попередженням про неприпустимість сексуалізації неповнолітніх.
Згідно з розслідуванням видання Business Insider, підрядники, найняті компанією Meta, мають доступ до приватних розмов користувачів із ШІ-чатботами. Ця практика, яка також поширена серед інших великих технологічних компаній, використовується для оцінки та вдосконалення мовних моделей.
У процесі роботи зовнішні інженери можуть бачити чутливу інформацію, таку як імена, номери телефонів, а також дуже особисті дані, якими люди діляться з чатботами. Хоча Meta стверджує, що дотримується суворої політики конфіденційності, експерти з кібербезпеки попереджають, що користувачам не слід вважати розмови зі штучним інтелектом приватними.