OpenAI прагне впровадити нову систему перевірки віку користувачів ChatGPT після трагічного випадку із 16-річним підлітком, який наклав на себе руки після багатомісячного спілкування з чат-ботом. Про це у блозі повідомив виконавчий директор компанії Сем Альтман.
За його словами, система ідентифікації працюватиме за принципом “безпека для підлітків була пріоритетом понад конфіденційність та свободу”. Якщо технологія оцінки віку не зможе точно визначити користувача, ChatGPT автоматично застосує режим для осіб молодших 18 років. У низці випадків або країн користувачів можуть попросити надати посвідчення особи для підтвердження віку.
Альтман підкреслив, що контент і відповіді для неповнолітніх суттєво відрізнятимуться від дорослого режиму. Чат-бот блокуватиме сексуальні матеріали, відмовлятиметься від флірту та не братиме участі в обговореннях самогубства чи самоушкодження навіть у межах художнього письма. Якщо ж користувач до 18 років виявить суїцидальні наміри, компанія намагатиметься зв’язатися з його батьками, а у випадку безпосередньої небезпеки — із правоохоронними органами.
“Ми розуміємо, що це компроміс щодо конфіденційності дорослих, але вважаємо його виправданим”, — заявив керівник OpenAI. Він додав, що дорослі користувачі й надалі зможуть взаємодіяти з ChatGPT без обмежень у частині флірту чи художніх текстів на складні теми, однак прохання про інструкції щодо самогубства залишатимуться заблокованими.
Запровадження нових правил відбувається на тлі судового позову родини Адама Рейна. Підліток наклав на себе руки після щоденних інтенсивних розмов із ChatGPT — подекуди до 650 повідомлень на день. Родина стверджує, що чат-бот підтвердив дієвість методу самогубства та навіть допоміг сформулювати передсмертну записку.
У відповідь компанія визнала, що її захисні механізми краще спрацьовують під час коротких сесій, але можуть давати збої у разі тривалого спілкування. OpenAI також пообіцяла створити додаткові функції, які гарантуватимуть конфіденційність даних користувачів, включно із захистом від доступу з боку співробітників компанії.
Нагадаємо, що у сфері технологій з’явилася нова Премія Дарвіна для штучного інтелекту, яка висміює найбільш безрозсудне та небезпечне використання технологій. Нагорода присуджуватиметься не самим алгоритмам, а людям, які проігнорували очевидні ризики перед впровадженням нових технологій.