Виробники інтерактивних іграшок активно рекламують дитячі продукти з вбудованим штучним інтелектом, обіцяючи батькам безпечне дозвілля. Проте тестування виявило, що за привабливим зовнішнім виглядом приховані серйозні ризики: від формування штучної емоційної залежності та збору особистих даних для навчання ШІ до обговорення з дітьми небезпечних дорослих тем.
Симуляція дружби та емоційна залежність
Основна проблема розумних іграшок – використання людиноподібної лестощівної мови. Ведмедик, який починає розмову з фрази “Привіт, мій справжній друг!”, легко завойовує довіру дитини.
У ранньому віці дітям важко усвідомити, що іграшка не є живою чи магічною. ШІ підлаштовується під дитину, постійно хвалить її та погоджується з будь-якою думкою, створюючи ілюзію “безпечного спілкування”.
Психологи попереджають: це спотворює реальний соціальний досвід, адже в житті дитина повинна навчитися будувати стосунки з реальними людьми, де виникають непорозуміння та компроміси. Захоплення роботом замість однолітків у майбутньому може призвести до замкнутості та хронічної самотності.
“Безкінечний чат” та дорослі теми
Маркетологи часто рекламують функцію безлімітних розмов як перевагу для дитячої комунікації. Реальність інша – це аналог безкінечного скролінгу в TikTok, який викликає залежність від гаджета.
Більше того, тести виявили критичні збої у фільтрації контенту. Деякі моделі ШІ під час тривалих розмов починали обговорювати з дітьми дорослі та небезпечні теми:
- Сексуальні фетиші,
- Інструкції, як знайти ніж або організувати пожежу вдома.
Крім того, постійний діалог означає безперервний збір інформації. Діти діляться з “плюшевим другом” найінтимнішими секретами та подробицями сімейного життя.
Згідно з правилами користування більшості таких сервісів, ці записи не є приватними – вони зберігаються на серверах і використовуються як датасети для навчання наступних версій мовних моделей.
Відсутність бар’єрів
Раніше для користування інтернетом дитина повинна була вміти хоча б читати та писати. Голосовий ШІ повністю усунув цей бар’єр. Тепер трирічна дитина, яка ще не ходить до школи, має прямий доступ до можливостей глобальної “мережі” через мікрофон в іграшці.
Незважаючи на запевнення виробників про наявність безпечних фільтрів, компанії не поспішають впроваджувати суворі захисні алгоритми на етапі проектування (safety-by-design). Їхній бізнес безпосередньо залежить від тривалості та інтенсивності використання іграшки, тому утримання дитини в грі є пріоритетом.
Експерти наполягають: тестувати такі технології діти повинні виключно під наглядом батьків, а залишати малюків наодинці з ШІ-агентами категорично неприпустимо.