Поддельные изображения в интернете становятся всё более серьёзной проблемой, особенно в период политических кампаний. В ответ на это Немецкий исследовательский центр искусственного интеллекта запустил новый проект, направленный на выявление манипулированного визуального контента.
Инициатива стартовала в Кайзерслаутерн на фоне недавних выборов в Рейнланд-Пфальц. Основная идея проста: пользователи могут отправлять подозрительные изображения из социальных сетей, таких как Instagram, для проверки с помощью искусственного интеллекта.
Разработанный алгоритм анализирует изображения и определяет, подвергались ли они изменениям. Речь идёт о манипуляциях, выполненных, например, с помощью программ вроде Adobe Photoshop — когда в фото добавляют или удаляют объекты, либо изменяют детали.
По словам эксперта DFKI Тобиас Вирт, всего за десять дней работы проекта было отправлено более 5 000 изображений. Результаты оказались тревожными: примерно половина из них действительно содержала признаки редактирования.
Проект вызвал значительный отклик: за тот же период платформа была использована более 20 000 раз. Особенно заметный рост активности наблюдался в дни перед выборами, когда в сети традиционно увеличивается количество манипулятивного контента.
Эксперты отмечают, что именно в такие периоды фейковые изображения часто используются для влияния на общественное мнение и распространения политических сообщений.
Манипулированные изображения способны серьёзно искажать восприятие реальности. Они могут распространять дезинформацию, усиливать социальную напряжённость и подрывать доверие к государственным институтам.
Цель проекта DFKI — не только выявлять такие изображения, но и повышать цифровую грамотность пользователей. Чем лучше люди умеют распознавать фейки, тем сложнее злоумышленникам использовать их в своих целях.
Успех инициативы уже побудил DFKI задуматься о её расширении. В будущем технологию планируют применять и на других выборах, а также доработать для выявления не только поддельных изображений, но и фейковых видео и текстов.
В условиях стремительного развития цифровых технологий борьба с дезинформацией становится одной из ключевых задач — и, как показывает этот проект, искусственный интеллект может сыграть в ней решающую роль.