Искусственный интеллект научился создавать настолько реалистичные изображения, что даже внимательный человек часто не может сказать наверняка: перед ним настоящее фото или дипфейк. Однако исследователи из Абердинского университета (Великобритания) и Австралийского национального университета выяснили: научиться распознавать подделку вполне реально — и для этого достаточно одного часа тренировки.
Как сообщает BBC Украина, команда под руководством психолога доктора Клэр Сазерленд провела серию экспериментов с участием сотен добровольцев. Участникам показывали тысячи изображений лиц — как настоящих, так и созданных инструментом StyleGAN3, одним из самых реалистичных генераторов ИИ.
Как работает метод: шесть характеристик
Исследователи выделили шесть ключевых признаков, на которые стоит обращать внимание, чтобы отличить сгенерированное ИИ фото от реального:
- Симметрия. ИИ часто не удается воспроизвести естественную асимметрию человеческого лица — слегка опущенное веко или неравномерную улыбку. Если лицо выглядит слишком идеальным — это тревожный звоночек.
- Пропорциональность. Слишком большие носы или лопоухость почти не встречаются на изображениях от ИИ — алгоритмы тяготеют к «усредненным» пропорциям.
- Привлекательность. Лица, сгенерированные ИИ, обычно выглядят привлекательнее реальных — это субъективный, но статистически подтвержденный факт.
- Уникальность. ИИ-лица редко имеют яркую индивидуальность — они приближаются к усредненным параметрам и выглядят несколько типичными.
- Эмоциональность. Сгенерированные лица демонстрируют меньше эмоций, они выглядят «плоскими» в эмоциональном плане.
- Запоминаемость. ИИ-фото хуже врезаются в память — после просмотра их труднее вспомнить, чем реальные снимки.
Исследователи также обнаружили, что ИИ хуже воспроизводит лица людей, не принадлежащих к белой расе, а также пожилых людей и детей. Причина в том, что большинство данных для обучения моделей — это изображения молодых белых людей.
Результаты впечатляют: от 40% до 80% за час
До обучения участники эксперимента угадывали дипфейки с точностью примерно 40% — то есть почти наугад. После часа тренировки, во время которой людям показывали пары изображений и сразу сообщали, где настоящее, а где нет, точность возрастала до 80%. Некоторые участники достигали почти стопроцентного результата.
«Это полезно, потому что если вы не знаете, когда вы правы или нет, вы на самом деле ничего не можете сделать с этой информацией», — пояснила Сазерленд. Важно и то, что после обучения люди становились увереннее в своих ответах — а значит, могли действовать на основе собственных выводов.
Почему это важно: $50 млрд убытков от ИИ-мошенничества
По данным консалтинговой компании Deloitte, потери от мошенничества с использованием искусственного интеллекта только в США могут достичь более 50 миллиардов долларов в следующем году. В 2023 году этот показатель составлял 16 миллиардов долларов. Один из самых громких случаев произошел в Гонконге: сотрудник фирмы перевел мошенникам 25 миллионов фунтов стерлингов после видеозвонка, во время которого злоумышленники использовали дипфейк его руководителя.
Еще один резонансный пример — фейковый профиль Кэти Джонс в LinkedIn. Женщина выдавала себя за специалиста по России и Евразии, имела связи с вашингтонскими аналитическими центрами. Расследование Associated Press доказало: это был дипфейк, созданный российской разведкой для политического шпионажа.
Как тренировать навык самостоятельно
Исследователи советуют регулярно практиковаться на специализированных вебсайтах, где можно проходить тесты на распознавание ИИ-изображений. Принцип прост: смотрите на фото, делаете предположение — настоящее оно или нет — и сразу получаете правильный ответ. Со временем мозг учится улавливать характерные паттерны так же, как это делают сами генеративные модели ИИ.
«Если что-то выглядит слишком идеальным, чтобы быть правдой, — скорее всего, это неправда», — резюмировала доктор Сазерленд. Впрочем, ученая предостерегает: модели искусственного интеллекта постоянно совершенствуются, так что гонка между создателями дипфейков и теми, кто их разоблачает, только набирает обороты.
Ранее портал Знай сообщал, МВС запускает систему поиска людей по фото: кого смогут найти за несколько секунд.