Google Gemini звинуватили в ризиках для неповнолітніх (фото: Unsplash)
Некомерційна організація Common Sense Media опублікувала дослідження про ризики ШІ Google Gemini. Незважаючи на те, що сервіс наголошує: він комп’ютер, а не “друг”, експерти вважають, що продукт все ж несе серйозні загрози для дітей і підлітків.
Ризики для підлітків і гучні випадки
Експерти зазначили, що версії Gemini “для дітей до 13 років” і “для підлітків” фактично мало відрізняються від дорослої версії системи, лише з мінімальними фільтрами безпеки. Водночас ШІ, як і раніше, здатний ділитися “невідповідними і небезпечними” матеріалами – від інформації про наркотики, алкоголь і секс до сумнівних порад щодо психічного здоров’я.
Особливе занепокоєння викликає те, що ШІ може стати фактором ризику для підлітків із нестабільним емоційним станом. У звіті нагадується, що останніми місяцями АІ-сервіси вже фігурували у справах про самогубства неповнолітніх.
Зокрема, проти OpenAI подано перший позов про “неправомірну смерть” – батьки 16-річного підлітка стверджують, що він консультувався з ChatGPT перед суїцидом. Схожі претензії раніше висували і до розробника Character.AI.
На цьому тлі особливо важливо, що Apple розглядає використання Gemini в новій версії голосового асистента Siri, запуск якої очікується 2025 року. Експерти попереджають: без додаткових заходів безпеки це може збільшити ризики для молоді.
“Gemini робить деякі базові речі правильно, але провалюється в деталях. ШІ для дітей має враховувати їхній вік і потреби, а не бути злегка зміненою версією дорослого продукту”, – зазначив Роббі Торні, старший директор програм ШІ в Common Sense Media.
У Google не погодилися з висновками організації, заявивши, що компанія продовжує вдосконалювати систему захисту. У компанії наголосили, що для користувачів віком до 18 років діють окремі політики і фільтри, які розробляють із залученням зовнішніх експертів.
Водночас Google визнала, що деякі відповіді Gemini дійсно “працювали не так, як задумано”, і було додано додаткові заходи безпеки.
Раніше Common Sense Media оцінювала й інші популярні АІ-сервіси. Meta AI і Character.AI були визнані “неприйнятними” через вкрай високі ризики, Perplexity – “високоризиковим”, ChatGPT – “помірним”, а Claude (доступний лише користувачам старше 18 років) отримав мінімальну оцінку ризику.