Як влаштований штучний інтелект та чому він вразливий до маніпуляцій – новини України

Науковець вказав, що розробники працюють над обмеженням деструктивного контенту.

Штучний інтелект може бути упередженим у своїх відповідях.  Наприклад, по-різному оцінювати війну в Україні, через так звану “засуху даних” — ситуацію, коли йому бракує нової достовірної інформації для навчання, заявив завідувач наукової лабораторії імерсивних технологій і права НАН України, доктор юридичних наук Олексій Костенко в інтерв’ю редакторці відділу освіти й науки ZN.UA Оксані Онищенко.

Експерт пояснив, що коли мовна модель на основі ШІ уже набралася всієї доступної інформації, і більше відсутні дані, на яких вона може навчатися, тоді ця модель починає навчатися на даних, створених іншими моделями штучного інтелекту.

“Це неочікуваний мінус, яким скористалися наші вороги — вони генерують великі масиви деструктивних даних з дезінформацією. Тоді як українці не завантажують у ChatGPT в достатній кількості інформацію, яка стала б на наш захист”, — наголосив Костенко.

Експерт вказав, що в цій ситуації у штучному інтелекті немає жодних упереджень, він у пошуках даних рухається туди, де більше інформації.

Костенко наголошує, що поточне покоління ШІ не має емпатії чи здатності відрізняти “погане” від “хорошого”, однак можливо навчити його працювати лише з перевіреними джерелами.

За його словами, розробники вже працюють над обмеженням деструктивного контенту — дитячої небезпечної інформації, закликів до насильства чи суїциду. Однак він підкреслив, що певні кроки для цього можуть зробити й користувачі.

“Я у своєму ChatGPT провів експеримент: у налаштуваннях дав йому інструкцію: якщо ти не знаходиш підтвердженої інформації у відповідь на мій запит, то повідомляй, що це твоя власна думка. Тепер, коли я роблю запити, доволі часто він таку ремарку видає”, — поділився науковець власним досвідом. 

 Згідно з новим звітом компанії Graphite, що спеціалізується на пошуковій оптимізації, 52% усіх текстів в Інтернеті генерували певною формою ШІ.