Міжнародна аудиторська компанія KPMG, що входить до “Великої четвірки” світових консалтерів, відкликала великий звіт “Total Experience: Redefining Excellence in the Age of Agentic AI”. Технічне розслідування виявило, що аналітики повністю покладалися на інструменти штучного інтелекту замість професійної експертизи.
Як нейромережі масово фальсифікували первинні джерела
Аналітики компанії GPTZero, яка спеціалізується на виявленні штучно згенерованого контенту, провели детальний аудит 45 фінальних посилань, використаних у тексті звіту KPMG.
Результати виявилися катастрофічними для репутації аудиторів. З’ясувалося, що лише 5 цитат з 45 насправді вказували на реальні достовірні джерела інформації.
Більша частина бібліографічної бази була сфабрикована мовними моделями за методом, який дослідники назвали vibe citing (цитування за відчуттями).
У 28 випадках штучний інтелект використовував реальні назви організацій або статей, але суттєво перефразував заголовки та додав вигадані вихідні дані. Ще 12 джерел були описані настільки розпливчасто, що перевірити їх фізичне існування виявилося зовсім неможливо.
На думку експертів, приблизно половина інформаційних тез у звіті була повністю вигадана або помилково приписана компаніям. Це сталося через те, що автоматизований пошуковик штучного інтелекту занадто буквально намагався виконати завдання і почав штучно “знаходити” приклади автономних ІІ-агентів там, де їх ніколи не було.
Читайте більше: Один копіпаст з ChatGPT може закрити доступ до науки: що вирішив arXiv
Загроза “інформаційного отруєння”
У звіті KPMG детально описувалися успіхи великих транснаціональних корпорацій, які нібито впровадили в свій бізнес агентський штучний інтелект. Однак після публікації згадані компанії виступили з офіційними спростуваннями:
Еміратський авіаперевізник Emirates: KPMG стверджувала, що бренд запустив розумного чат-бота Sara, який самостійно змінює бронювання на квитки. Насправді Sara є мобільним асистентом 2023 року без функцій штучного інтелекту та прав на бронювання.
Швейцарський банк UBS: консалтери заявили про інтеграцію ІІ-агентів в інвестиційний консалтинг та управління комерційними ризиками банку. В UBS офіційно назвали цю інформацію “фактично неправильною”.
Швейцарська залізниця SBB: прес-служба перевізника повністю спростувала тези KPMG про те, що їхні пасажири планують подорожі за допомогою ІІ-оптимізаторів вуглецевого сліду.
Генеральний директор GPTZero Едвард Тіан попередив про “надзвичайно небезпечні” наслідки цього прецеденту.
“Оскільки звіти “Великої четвірки” традиційно вважаються еталоном надійності, їх активно цитують інші дослідники, медіа та академічні спільноти. Такі інциденти буквально “отруюють інформаційне джерело”, – підкреслив аналітик.
Примітно, що фальшиві тези з відкликаного звіту KPMG вже встигли потрапити в алгоритми індексації ChatGPT від OpenAI та Gemini від Google.
Тепер ці ІІ-моделі видають сфабриковані кейси консалтерів як реальні факти, створюючи небезпечну ланцюгову реакцію вторинних ІІ-галюцинацій на рівні глобального інтернету.
В даний час KPMG проводить внутрішнє розслідування щодо безвідповідального використання штучного інтелекту.