Регулятори вимагають негайних запобіжних заходів для користувачів.
Індонезія та Малайзія обмежили доступ до системи штучного інтелекту Grok, розробленої компанією xAI Ілона Маска. Причиною стали випадки створення сексуального контенту з зображень жінок та дітей. Це перші країни, які запровадили прямі обмеження проти Grok на національному рівні, пише Bloomberg.
Міністерство зв’язку та цифрових технологій Індонезії запровадило тимчасову заборону на доступ до Grok 10 січня. У відомстві пояснили, що рішення ухвалене для захисту жінок, дітей і громади від фальшивого порнографічного контенту, створеного штучним інтелектом. Регулятор звернувся до X з проханням надати негайні роз’яснення щодо роботи інструменту.
“Уряд розглядає сексуальні практики з використанням діпфейків без згоди як серйозне порушення прав людини, гідності та національної безпеки в цифровому просторі”, — заявила міністерка зв’язку та цифрових технологій Меотія Хафід.
Про обмеження доступу до Grok 11 січня повідомив і малайзійський інтернет-регулятор. Комісія з питань зв’язку та мультимедіа Малайзії заявила, що доступ буде відновлено лише після впровадження ефективних запобіжних заходів.
Регулятор також направив офіційні повідомлення компаніям X та xAI. За його оцінкою, відповідь компаній не врахувала повною мірою ризики, пов’язані з можливістю створення контенту, який може суперечити законодавству Малайзії.
Рішення країн Південно-Східної Азії ухвалене на тлі дій самої xAI. У п’ятницю, 9 січня, компанія обмежила функцію генерації зображень у Grok для більшості користувачів X після хвилі критики через створення оголених зображень жінок і дітей.
Відтепер створення та редагування зображень на платформі доступне лише за платною підпискою. Раніше ці функції були безплатними, але з денними лімітами використання.
Втім, низка регуляторів, зокрема у Великій Британії, назвали ці кроки недостатніми. Автономний застосунок Grok, який працює окремо від соціальної мережі X, досі дозволяє генерувати зображення без підписки.
Занепокоєння щодо роботи Grok раніше висловлювала й Індія. За даними Press Trust of India, уряд отримав від X запевнення у дотриманні місцевих законів, після чого заблокували близько 3500 одиниць контенту та видалили понад 600 облікових записів.
Після запровадження блокування в Індонезії сам Grok відреагував повідомленням на платформі X.
“Вибачте за незручності. Ми працюємо над розв’язанням цієї проблеми”, — написав Grok після блокування в Індонезії. ШІ також порадив скористатися VPN для отримання доступу до інструменту.
Група сенаторів США вимагає від Apple та Google видалити соцмережу X та застосунок Grok з їхніх магазинів додатків через поширення згенерованих порнографічних зображень жінок і дітей. Законодавці наголошують, що це порушує правила App Store і Google Play щодо заборони відвертого та образливого контенту.