Grok генерує сексуалізовані ШІ-зображення без згоди – Ofcom та Єврокомісія реагують на незаконні дії – новини технологій
Регулятори ЄС і Великої Британії перевіряють функцію “гострого режиму” чат-бота xAI.
Європейська комісія різко розкритикувала сексуалізовані зображення, створені Grok. У Брюсселі заявили, що такий контент є незаконним і неприйнятним для Європи. Британський регулятор Ofcom вимагає від X пояснень і не виключає розслідування, повідомляє Reuters.
Європейська комісія заявила, що зображення роздягнених жінок і дітей, які поширювалися на платформі X, є незаконними та викликають огиду. Йдеться про відвертий контент, згенерований за допомогою вбудованого чат-бота зі штучним інтелектом Grok, якого створила компанія Ілона Маска xAI. Grok має “гострий режим”, що дозволяє генерувати подібні зображення.
“Це не гостре. Це незаконно. Це жахливо. Це огидно. Це те, як ми це бачимо, і цьому немає місця в Європі”, — заявив речник Єврокомісії Томас Реньє.
У Великій Британії регулятор Ofcom, а також влада Індії прагнуть отримати пояснення від X, як Grok зміг створювати сексуалізовані зображення жінок і дітей. У X не одразу відповіли на запити Reuters щодо заяв Єврокомісії та Ofcom. У попередньому коментарі для Reuters компанія назвала критику “брехнею застарілих ЗМІ”, а сам Маск публічно відреагував емодзі зі сльозами від сміху на приклади відредагованих зображень.
“Ми терміново зв’язалися з X та xAI, щоб зрозуміти, які кроки вони вжили для виконання своїх юридичних обов’язків щодо захисту користувачів у Великій Британії”, — зазначив речник Ofcom.
У Британії створення або поширення інтимних зображень без згоди, включно з матеріалами сексуального насильства над дітьми та гіперреалістичними ШІ-зображеннями, є незаконним. Платформи також зобов’язані запобігати доступу користувачів до такого контенту та видаляти його після виявлення.
Критика з боку ЄС і Великої Британії пролунала після того, як міністри Франції повідомили про X прокурорам і регуляторам. Минулого тижня вони заявили, що “сексуальний та сексистський” контент був “явно незаконним”.
Попри тиск з боку європейських і азійських регуляторів, влада США поки не дала публічної оцінки ситуації. Федеральна комісія зв’язку, Федеральна торгова комісія та Міністерство юстиції не відреагували на запити Reuters.
Як пише Newsweek, окрему увагу скандал привернув через повідомлення про використання Grok для створення сексуалізованих зображень принцеси Уельської Кейт. BBC повідомляла, що її зображення були серед тих, які користувачі цифровим способом “роздягали” за допомогою чат-бота.
“Ми вживаємо заходів проти незаконного контенту на X, включаючи матеріали про сексуальне насильство над дітьми, видаляючи його, назавжди призупиняючи дію облікових записів та співпрацюючи з місцевими органами влади та правоохоронними органами за необхідності. Будь-хто, хто використовує Grok або спонукає його створювати незаконний контент, зазнає тих самих наслідків, що й завантаження незаконного контенту”, — заявили в команді безпеки Grok AI 4 січня.
Ofcom наголошує, що ця справа може стати першим серйозним тестом для регуляторів у боротьбі з ризиками стрімкого розвитку генеративного штучного інтелекту. Рішення щодо подальших дій регулятор обіцяє ухвалити після аналізу відповідей X та xAI.
Раніше президент США Дональд Трамп розкритикував інше рішення Єврокомісії оштрафувати соцмережу X на 120 мільйонів євро за порушення правил прозорості. А Ілон Маск тоді взагалі запропонував скасувати Євросоюз.