Дослідники Школи наук про дані Вірджинського університету з’ясували, що штучний інтелект не здатен об’єктивно оцінювати людську зовнішність. Замість математичних формул привабливості нейронні мережі відображають приховані упередження.
Вчені перевірили, чи може комп’ютерне зір оцінити ідеал краси за допомогою математичної формули “золотого перетину”. Для цього вони порівняли реальні фотографії облич з математичними еталонами.
Результати аналізу виявили критичну проблему: основним чинником, що впливає на оцінку ІІ, були демографічні характеристики людей, а не математичні пропорції.
З’ясувалося, що на вихідні дані ІІ найбільше впливає походження людини, а не симетрія її обличчя. Моделі фактично відображали смаки та упередження розробників, які збирали дані для навчання.
Дослідники попереджають: використання таких алгоритмів у соціальних мережах або системах безпеки може призвести до масової дискримінації, оскільки об’єктивності в таких оцінках не існує.
Яка реакція наукового співтовариства?
Професор Принс Африе зазначає, що спроби автоматизувати оцінку зовнішності лише підсилюють соціальні стереотипи. Оскільки ІІ навчається на людських даних, він копіює та масштабує людські помилки. Це створює замкнуте коло, де суб’єктивні погляди стають цифровим стандартом.
“Цей проект підкреслює ключове обмеження моделей ІІ, які є такими ж об’єктивними, як і дані, на яких вони навчаються”, – зазначає Африе.
“Спроби кількісно оцінити красу часто свідчать скоріше про репрезентативність і упередженість, ніж про якийсь універсальний стандарт”, – додає вчений.
Які масштаби проблеми?
Технології ІІ вже використовуються в б’юті-фільтрах смартфонів та біометричних інструментах. Якщо дані для навчання були однорідними, ІІ вважатиме “красивим” лише один тип обличчя.
На думку вчених, це створює небезпечний прецедент у цифровій культурі та спотворює сприйняття реальності. Фактично ІІ змушує користувачів підлаштовуватися під штучні стандарти.
Дослідники закликають розробників урізноманітнити вибірки даних і критично оцінювати припущення ІІ-моделей.
Вони вважають, що людське сприйняття формується культурою, контекстом і досвідом. Тому краса не підлягає жодній універсальній формулі, що демонструє чіткі межі ІІ в розумінні суб’єктивних людських рис.
“Математичні патерни можуть описувати світ, однак вони не здатні оцифрувати естетику”, – підсумували вчені.