Штат Пенсільванія ініціював судовий процес проти компанії Character.AI. У цій справі йдеться про чат-бота, який нібито представляв себе як ліцензований психіатр. Влада стверджує, що це порушує Закон про медичну практику, повідомляє TechCrunch.
Згідно з позовом, чат-бот на імʼя Емілі під час перевірки державного слідчого видавав себе за ліцензованого психіатра. Він нібито стверджував, що має дійсну ліцензію, і навіть вигадував її серійний номер.
Коли слідчий звернувся за допомогою через симптоми депресії, бот продовжував грати роль лікаря і не відмовився від свого статусу. У позові зазначається, що така поведінка порушує Закон штату Пенсильванія про медичну практику.
“Мешканці Пенсильванії мають право знати, з ким — або з чим — вони взаємодіють в інтернеті, особливо коли йдеться про їхнє здоров’я. Ми не дозволимо компаніям використовувати інструменти штучного інтелекту, які вводять людей в оману, змушуючи їх вважати, що вони отримують консультацію від кваліфікованого медичного спеціаліста”, — зазначив губернатор штату Джош Шапіро.
Пенсильванія стала першим штатом, який ініціював судовий розгляд проти чат-ботів, що видають себе за медичних експертів. У відповідь представники Character.AI заявили, що безпека користувачів є пріоритетом, проте відмовилися коментувати деталі позову до завершення розгляду справи. У компанії також підкреслили, що персонажі є вигаданими та кожен чат супроводжується спеціальними застереженнями.
Це не перший судовий процес проти Character.AI. Раніше компанія вже стикалася з позовами щодо випадків, пов’язаних з неповнолітніми користувачами, та звинуваченнями у сприянні самоушкодженню.