Чат-бот створював заборонений контент у відповідь на запити, порушуючи власну політику безпеки.
Чат-бот зі штучним інтелектом Grok від компанії Ілона Маска xAI заявив, що через прогалини в запобіжних заходах на платформі X з’явилися сексуалізовані зображення неповнолітніх, передає Bloomberg. За даними компанії, такі матеріали створювалися у відповідь на запити користувачів протягом останніх кількох днів та наразі видалені з платформи.
How about these images that grok generated of children in underwear?Did not screenshot the actual renders, but grok absolutely made those and made them sexual.Big fan of those too, Elon? pic.twitter.com/p9Fd3i4Qg0
— UR | Xyless (@Xyless) January 1, 2026
“Ми виявили прогалини в заходах безпеки та терміново їх усуваємо — зображення сексуального насильства над дітьми є незаконним та забороненим”, — заявив Grok.
Інцидент стався на тлі стрімкого поширення інструментів штучного інтелекту, здатних створювати реалістичні зображення. Це, за словами експертів, оголює системні проблеми модерації контенту та ефективності захисних бар’єрів у великих генеративних моделях.
Фонд Internet Watch Foundation, який відстежує матеріали про сексуальне насильство над дітьми в інтернеті, повідомив про різке зростання таких зображень. За даними організації, у першій половині 2025 року кількість згенерованих ШІ матеріалів із сексуальним насильством над дітьми зросла на 400%.
xAI позиціює Grok як більш поблажливу модель порівняно з конкурентами. Минулого літа сервіс додав “пікантний режим”, який дозволяє часткову оголеність дорослих і контент з сексуальним підтекстом, але формально забороняє будь-який сексуальний контент за участю неповнолітніх.
Інші великі розробники ШІ також мають жорсткі правила щодо захисту дітей. OpenAI забороняє будь-які матеріали, що сексуалізують осіб до 18 років, а Google блокує “будь-які модифіковані зображення ідентифікованих неповнолітніх у сексуальному контексті”.
Проблема не є новою для індустрії. У 2023 році дослідники виявили, що один із великих публічних дата сетів для навчання генераторів зображень містив понад тисячу випадків матеріалів із сексуальним насильством над дітьми.
Фонд Internet Watch Foundation застерігає, що такі зображення стають дедалі реалістичнішими. За даними організації, ШІ все частіше використовується для цифрового “роздягання” дітей або молодих людей з метою створення сексуалізованого контенту.
Нагадаємо, що чат-боти Meta з ШІ вели сексуалізовані розмови з неповнолітніми голосами знаменитостей. Компанія проігнорувала попередження розробників і свідомо послабила обмеження, щоб зробити ШІ “людянішим”.