Вы живете в мире фейков: новое исследование показало, что наши глаза не видят разницы между людьми и сгенерированными ИИ
Способность отличать фотографии реальных людей от синтетических изображений, созданных нейросетями, оказалась крайне низкой у большинства людей. Группа исследователей из Университета Нового Южного Уэльса (Австралия) провела масштабное исследование, чтобы выяснить, насколько современный человек готов к вызовам эпохи дипфейков. Результаты показывают, что мы вступаем в эру, где глаза все чаще нас обманывают.
Ученые предложили участникам эксперимента отличить реальные фотографии от портретов, сгенерированных нейросетью StyleGAN2 и люди показывали результаты на уровне случайного угадывания. Их точность не превышала статистическую погрешность — фактически, они просто бросали монетку, принимая решение.
Секрет успеха ИИ кроется в их «гиперсреднестатистичности», алгоритмы усредняют тысячи реальных лиц, создавая некий усредненный портрет. Такие лица кажутся нам удивительно знакомыми и «правильными» — в них нет тех мелких несовершенств, асимметрии и уникальных черт, которые свойственны реальным людям. Проблема различения реальных и синтетических лиц выходит далеко за рамки научного любопытства и уже сегодня дипфейки и сгенерированные лица становятся инструментом для серьезных преступлений.
Исследователи приводят пугающие примеры: мошенники используют ИИ-личности при трудоустройстве, чтобы получить доступ к корпоративным системам; фейковые аккаунты с синтетическими аваторами распространяют дезинформацию; на сайтах знакомств процветают романтические аферы с использованием несуществующих красавцев и красавиц. По прогнозам экспертов, к 2027 году ущерб мировой экономике от дипфейк-мошенничества достигнет 40 миллиардов долларов ежегодно.
Как отмечают ученые, это может иметь серьезные последствия для развития детей, которые сегодня с
