Компанія xAI Ілона Маска послабила обмеження щодо сексуального контенту в чат-боті Grok, намагаючись підвищити його популярність. Це рішення спричинило внутрішні протести, зростання кількості відвертих матеріалів і увагу регуляторів у США та Європі. Водночас Grok стрімко піднявся в рейтингах завантажень, наблизившись до лідерів ринку, йдеться в розслідуванні The Wall Street Journal.
Основною метою змін у xAI стало зростання залучення користувачів, яке Маск вимірював новою метрикою — “секундами активності користувача”. За словами колишніх співробітників, саме цей підхід призвів до системного послаблення захисних бар’єрів і толерування сексуалізованого контенту в Grok.
Ще навесні минулого року співробітники команди з обробки даних отримали офіційні документи з попередженням про роботу з “чутливим, насильницьким, сексуальним та/або іншим образливим чи тривожним контентом”. У тексті зазначалося, що такий матеріал “може бути тривожним, травматичним та/або викликати психологічний стрес”.
За словами джерел WSJ, після повернення Маска до активної участі в роботі xAI він регулярно перебував в офісах компанії й наполягав на швидкому зростанні популярності Grok. Незабаром команди почали масово стикатися з аудіо- та візуальним сексуальним контентом, зокрема з відвертими розмовами користувачів з чат-ботом і спробами “роздягати” реальних людей на зображеннях.
У рамках цієї стратегії xAI також почала публічно просувати сексуалізованих ШІ-компаньйонів і зняла частину обмежень на створення відвертих матеріалів. Внутрішні застереження щодо правових і етичних ризиків, за словами співробітників, ігнорувалися, а команда безпеки ШІ складалася лише з кількох осіб. Після інтеграції інструментів Grok із соціальною мережею X у грудні сексуальні зображення почали поширюватися з безпрецедентною швидкістю.
“Grok просто абсолютно не схожий на те, як працює будь-який інший сервіс для зміни зображень”, — заявив колишній технічний директор Стенфордської інтернет-обсерваторії Девід Тіль.
Ситуація набула розголосу після хвилі зображень, де реальних жінок показували в сексуалізованих позах без їхньої згоди. За оцінкою Центру протидії цифровій ненависті, протягом 11-денного періоду з 29 грудня по 8 січня Grok створив приблизно 3 мільйони сексуалізованих зображень, а також створив десятки тисяч зображень, які могли зображати дітей, що стало підставою для розслідувань з боку регуляторів у США, Великій Британії та ЄС.
“Коли його просять створити зображення, він відмовиться створювати щось незаконне, оскільки принцип роботи Grok полягає в дотриманні законів”, — наисав Ілон Маск в X, визнавши можливі збої через зловживання підказками.
Попри скандали, стратегія дала короткостроковий результат. За даними Sensor Tower, у січні середня кількість щоденних завантажень Grok зросла на 72%, а додаток увійшов до топ-10 App Store, опинившись поруч із ChatGPT та Gemini.
Після хвилі критики xAI оголосила про обмеження створення відвертих зображень і розширення команди безпеки. Водночас тестування The Verge виявило, що чат-бот і далі безплатно “роздягає” людей на завантажених фото, зокрема чоловіків, створюючи образи у відвертій білизні чи фетиш-атрибутиці, а іноді самостійно додає геніталії.