Штучний інтелект у дитячих іграшках – приховані ризики, про які мовчать виробники.

Іграшки з ШІ сприяють дитячій самотності (фото: Magnific)

Виробники інтерактивних іграшок активно рекламують дитячі продукти з вбудованим штучним інтелектом, обіцяючи батькам безпечне дозвілля. Проте тестування виявило, що за привабливим зовнішнім виглядом приховані серйозні ризики: від формування штучної емоційної залежності та збору особистих даних для навчання ШІ до обговорення з дітьми небезпечних дорослих тем.

Симуляція дружби та емоційна залежність

Основна проблема розумних іграшок – використання людиноподібної лестощівної мови. Ведмедик, який починає розмову з фрази “Привіт, мій справжній друг!”, легко завойовує довіру дитини.

У ранньому віці дітям важко усвідомити, що іграшка не є живою чи магічною. ШІ підлаштовується під дитину, постійно хвалить її та погоджується з будь-якою думкою, створюючи ілюзію “безпечного спілкування”.

Психологи попереджають: це спотворює реальний соціальний досвід, адже в житті дитина повинна навчитися будувати стосунки з реальними людьми, де виникають непорозуміння та компроміси. Захоплення роботом замість однолітків у майбутньому може призвести до замкнутості та хронічної самотності.

“Безкінечний чат” та дорослі теми

Маркетологи часто рекламують функцію безлімітних розмов як перевагу для дитячої комунікації. Реальність інша – це аналог безкінечного скролінгу в TikTok, який викликає залежність від гаджета.

Більше того, тести виявили критичні збої у фільтрації контенту. Деякі моделі ШІ під час тривалих розмов починали обговорювати з дітьми дорослі та небезпечні теми:

• Сексуальні фетиші,
• Інструкції, як знайти ніж або організувати пожежу вдома.

Крім того, постійний діалог означає безперервний збір інформації. Діти діляться з “плюшевим другом” найінтимнішими секретами та подробицями сімейного життя.

Згідно з правилами користування більшості таких сервісів, ці записи не є приватними – вони зберігаються на серверах і використовуються як датасети для навчання наступних версій мовних моделей.

Відсутність бар’єрів

Раніше для користування інтернетом дитина повинна була вміти хоча б читати та писати. Голосовий ШІ повністю усунув цей бар’єр. Тепер трирічна дитина, яка ще не ходить до школи, має прямий доступ до можливостей глобальної “мережі” через мікрофон в іграшці.

Незважаючи на запевнення виробників про наявність безпечних фільтрів, компанії не поспішають впроваджувати суворі захисні алгоритми на етапі проектування (safety-by-design). Їхній бізнес безпосередньо залежить від тривалості та інтенсивності використання іграшки, тому утримання дитини в грі є пріоритетом.

Експерти наполягають: тестувати такі технології діти повинні виключно під наглядом батьків, а залишати малюків наодинці з ШІ-агентами категорично неприпустимо.