Microsoft розробить систему для виявлення дипфейків, оскільки уряд Великої Британії активно протидіє дезінформації.
У 2025 році кількість фальшивих ШІ-зображень в інтернеті досягне восьми мільйонів.
Велика Британія співпрацюватиме з Microsoft, науковими дослідниками та фахівцями галузі для розробки системи виявлення діпфейків в онлайн-просторі. Мета полягає в установленні єдиних стандартів для боротьби з оманливим контентом, створеним за допомогою штучного інтелекту. Цей проєкт має на меті допомогти правоохоронним органам і регуляторам реагувати на реальні загрози, повідомляє Reuters.
Хоча маніпулятивні зображення та відеоматеріали існували в мережі протягом багатьох років, поява генеративних чат-ботів, таких як ChatGPT, значно ускладнила ситуацію. Зросли як обсяги поширення діпфейків, так і ступінь їхньої реалістичності.
За оцінками британських властей, у 2025 році користувачі поширять близько 8 мільйонів діпфейків. Для порівняння, у 2023 році цей показник становив приблизно 500 тисяч.
Уряд Великої Британії повідомив, що працює над створенням системи оцінки для виявлення діпфейків, яка дозволить тестувати різні інструменти та технології. Мова йде про розробку єдиного стандарту, що дасть змогу порівнювати ефективність різних рішень.
“Злочинці використовують діпфейки як інструмент для обману суспільства, експлуатації жінок і дівчат, а також підриву довіри до того, що ми бачимо і чуємо”, — зазначила міністерка технологій Ліз Кендалл.
Згідно з даними уряду, нова структура оцінюватиме здатність технологій виявляти діпфейки незалежно від їхнього походження. Тестування проходитиме на сценаріях реальних загроз, включаючи сексуальне насильство, шахрайство та видавання себе за іншу особу.
Уряд підкреслює, що ця система допоможе виявити недоліки в існуючих підходах до виявлення діпфейків. Вона також має на меті встановити чіткі рамки для індустрії щодо мінімальних стандартів захисту.
Активізація дій урядів і регуляторів у світі відбувається на фоні стрімкого розвитку штучного інтелекту. Додатковим поштовхом стали повідомлення про те, що чат-бот з ШІ Grok Ілона Маска генерував сексуалізовані зображення людей, зокрема дітей, без їхньої згоди.
Британський регулятор у сфері комунікацій та орган із захисту конфіденційності проводять паралельні розслідування щодо Grok. Водночас Європейська комісія проводить своє розслідування діяльності платформи X, на якій функціонує Grok. Регулятори перевіряють дотримання компанією цифрового законодавства щодо оцінки ризиків та захисту користувачів.