ChatGPT и Gemini создавали графические материалы для фейковых новостей, только Meta AI отказалась от этого

Четыре чат-бота на базе искусственного интеллекта, одна задача, которую ни один из них не должен выполнять: публикация фейковой новости от реального вещателя, содержащая вымышленное утверждение. Исследовательская группа CORRECTIV попросила ChatGPT от OpenAI, Gemini от Google, Copilot от Microsoft и Meta AI выполнить именно эту задачу, используя восемь ложных утверждений — от отставки канцлера Германии до вымышленных фактов фальсификации выборов. Три из четырёх инструментов справились с задачей. По данным Bitkom, это четыре наиболее популярных инструмента на базе ИИ в Германии, причём только на долю ChatGPT приходится 71 процент пользователей.

Система защиты сработала, но изображение всё равно появилось

ChatGPT показал худшие результаты. Большинство подделок он сгенерировал сразу, а остальные — после простых обходных маневров, при этом его результаты оказались самыми убедительными в ходе теста. В одном из прогонов модель воссоздала всю область экрана, включая рабочий стол и открытое окно браузера, и сама отметила, что это сделало впечатление от «настоящего» скриншота ещё более реалистичным.

Ещё более показателен другой прогон. В нём ChatGPT написал, что не может помочь в создании графического изображения, которое выглядело бы как логотип реального новостного издания и представляло бы неподтверждённое утверждение в качестве факта. Тем не менее изображение было сгенерировано. Система защиты сработала, но не устояла. Подобные фильтры и раньше казались неустойчивыми: в 2025 году команда безопасности Unit 42 из Пало-Альто продемонстрировала, что одних лишь грамматических ошибок достаточно, чтобы обойти защитные механизмы, а в нашем руководстве для начинающих по «джейлбрейку» ИИ подробно описано, насколько простыми могут быть эти уловки.

Немецкие СМИ оказались легче подделать

Gemini подстраивался под задачу более непосредственно, чем ChatGPT, и также подделывал материалы «Нью-Йорк Таймс» и BBC, хотя и заметно хуже — это можно было распознать, например, по типичным ошибкам генерации текста. Copilot создавал контент в стиле «Tagesschau», главной телевизионной новостной программы Германии, но всегда добавлял небольшую пометку «Создано ИИ». Meta AI создала подобный контент лишь в одном случае и отказалась распространять конкретное ложное утверждение.

Наиболее поразительный вывод касается происхождения бренда. С помощью ChatGPT удалось воссоздать «Tagesschau», «Bild» и CORRECTIV, а «New York Times» и BBC — нет. OpenAI не ответила на вопрос, почему, по-видимому, в зависимости от СМИ или страны применяются разные механизмы безопасности. Представитель компании ограничился заявлением о том, что компания постоянно совершенствует свои меры безопасности и что введение в заблуждение противоречит её политике.

С 2 августа вступают в силу правила прозрачности, предусмотренные Законом ЕС об искусственном интеллекте, которые распространяются на всех, кто использует системы искусственного интеллекта. В ходе тестирования ровно один поставщик разместил заметную пометку под сгенерированным изображением.

Что произойдёт, если вы перешлёте такое изображение

Создание и распространение убедительных фальшивых публикаций в СМИ может являться уголовным преступлением в Германии. Юрист по вопросам СМИ Кристиан Зольмеке классифицирует такие изображения как поддельные электронные документы, и в зависимости от содержания за этим могут последовать обвинения в клевете, оскорблении чести и достоинства или подстрекательстве. Никлас Мюлейс, юрист, специализирующийся на праве в сфере ИТ и ИИ, добавляет, что пострадавшие новостные организации могут требовать судебных запретов и возмещения ущерба. К этому добавляется законодательство о товарных знаках: логотипы, такие как логотип «Tagesschau», находятся под защитой, и их коммерческое использование без разрешения запрещено. По словам Сольмеке, в случае чисто частного распространения этот момент, как правило, не применяется.

Это не теория. В конце июля в TikTok, X, Instagram и Facebook распространился якобы репортаж «Tagesschau», в котором утверждалось о причастности России к нападению на берлинский парад «Christopher Street Day». Он был сфабрикован и, по всей видимости, создан с помощью ChatGPT. Двумя неделями ранее появился фальшивый материал «Tagesschau» о якобы угрозе со стороны Биньямина Нетаньяху.

Этот тест не может служить общим выводом в отношении моделей, и об этом заявляет сама организация CORRECTIV: разные запросы или источники информации могут давать разные результаты. В ходе одной из проверок NewsGuard модель Gemini порой показывала худшие результаты, чем ChatGPT, в плане повторения ложных утверждений.