Штучний інтелект застосовували для оцінки рішень, прийнятих людьми – що відомо про дослідження.

(скриншот: Google DeepMind)

Дослідники з Корнельського університету створили новаторський інструмент на основі штучного інтелекту, який не приймає рішення замість людини, а, навпаки, аналізує її вибір на предмет прихованих упереджень і логічних суперечностей.

Проблема суб’єктивності

Розробка розпочалася в лабораторії Ейба Дэвіса, асистента професора комп’ютерних наук Чао Чжана. Дослідник зіткнувся з труднощами оцінювання сотень творчих проектів своїх студентів. Незважаючи на чіткі критерії, асистенти часто демонстрували різні стандарти оцінювання.

“Використання технологій для прийняття рішень за нас часто є ризикованим. Ми використовуємо технології, щоб допомогти собі ухвалювати кращі рішення”, – пояснює Дэвіс.

“Основна концепція полягає в тому, що люди значно краще справляються з прямим порівнянням двох варіантів, ніж із суб’єктивною оцінкою за шкалою від 1 до 10. Штучний інтелект використовує цей принцип для створення ідеальної ієрархії вибору”, – додає дослідник.

Як працює алгоритм “перевірки” людини?

Процес складається з кількох етапів, де штучний інтелект виступає в ролі “придирливого аудитора”.

Чим займається нейронна мережа:

Визначення цінностей – спочатку користувач оцінює важливість різних критеріїв (наприклад, ціна, надійність і економічність для автомобілів).

Парне порівняння: штучний інтелект пропонує вибрати кращий варіант у кількох парах об’єктів, щоб “вловити” реальні пріоритети людини.

Виявлення суперечностей: якщо вибір людини не відповідає її ж заявленим цінностям, інструмент підсвічує ці невідповідності.

Наприклад, якщо людина стверджує, що для неї головне – надійність, але постійно обирає червоні автомобілі, ігноруючи технічні характеристики, штучний інтелект вкаже на це підсвідоме упередження щодо кольору. Користувач буде змушений або змінити рейтинг, або додати колір як офіційний критерій вибору.

Результати експериментів та етичні аспекти

Дослідники протестували систему в двох випадках:

Оцінка короткометражних фільмів: учасники експерименту зазначили, що інструмент допоміг їм перейти від чисто емоційних суджень до застосування конкретних критеріїв якості.

Академічне оцінювання: чотири асистенти ранжували студентські проекти, продемонструвавши високу узгодженість результатів – це підтверджує точність і повторюваність методу.

Важливою функцією є можливість вимкнути штучний інтелект у випадках, коли його використання може бути етично чутливим.

“Одна з найважливіших частин цього проекту – не використовувати штучний інтелект для прийняття рішень за нас, а використовувати його, щоб допомогти нам обдумати те, чого ми хочемо”, – підкреслює професор Чао Чжан.