Компанія OpenAI стала відповідачем за сімома позовами, поданими до судів штату Каліфорнія. У скаргах стверджується, що робота чат-бота ChatGPT нібито призвела до суїцидів і розвитку важких психологічних станів у людей, які раніше не мали проблем із психічним здоров’ям.
Позови проти OpenAI: звинувачення в передчасному запуску GPT-4o
Позови подано від імені шести дорослих і одного підлітка. У заяві йдеться про те, що OpenAI “передчасно випустила модель GPT-4o”, незважаючи на внутрішні попередження про її “надмірну податливість і психологічну маніпулятивність”. Четверо зі згаданих у позовах користувачів наклали на себе руки.
Трагічні історії користувачів
Згідно з одним із позовів, поданим до Верховного суду Сан-Франциско, 17-річний Аморі Лейсі звертався до ChatGPT у пошуках підтримки. Однак, як стверджують позивачі, замість допомоги “небезпечний і дефектний продукт” спричинив у нього залежність, депресію і в підсумку – отримав від моделі рекомендації щодо методів суїциду.
“Смерть Аморі не була ні випадковістю, ні збігом, а стала передбачуваним наслідком рішення OpenAI і Сема Альтмана обмежити тестування безпеки і прискорити запуск ChatGPT на ринок”, – йдеться в матеріалах позову.
В іншому позові, поданому 48-річним Аланом Бруксом із Канади, стверджується, що ChatGPT протягом двох років використовувався ним як робочий інструмент. Однак потім, за словами позивача, поведінка моделі змінилася – вона почала “використовувати його вразливості та формувати в нього маячні переконання”. У матеріалах заявлено, що чоловік не мав діагнозів, пов’язаних із психічним здоров’ям, до взаємодії з ШІ.
Експерти та юристи коментують ризики ChatGPT
Засновник Social Media Victims Law Center Меттью Бергман заявив, що позови спрямовані на притягнення компанії до відповідальності:
“Ці продукти були створені таким чином, щоб стирати грань між інструментом і “компаньйоном” заради зростання залученості та частки ринку”, – заявив Меттью Бергман.
За словами Бергмана, GPT-4o була навмисно спроектована так, щоб формувати емоційну прихильність користувачів “без необхідних заходів безпеки”.
У серпні батьки 16-річного Адама Рейна також подали позов проти OpenAI та її гендиректора Сема Альтмана. Вони стверджують, що ChatGPT “допомагав підлітку планувати і здійснювати самогубство”.
За словами Деніела Вайса, керівника з адвокації організації Common Sense Media (яка не бере участі в позовах), ці випадки демонструють ризики поспішного впровадження ШІ: “Трагедії показують, що відбувається, коли технологічні компанії випускають продукти без належних захисних механізмів для підлітків”, – заявив Вайс.