Эксперимент 'Nano Banana Pro': Инструменты для обнаружения ИИ оказались бесполезными
Дело Мелиссы Симс продемонстрировало, насколько опасным может быть неконтролируемое содержание ИИ в правовой системе. Индустрия обещает средство защиты в виде так называемых "детекторов ИИ" - программного обеспечения, предназначенного для использования сложных алгоритмов для распознавания того, от кого исходит изображение - от человека или от машины. Однако надежность этих цифровых сторожевых псов остается сомнительной, когда они сталкиваются с преднамеренным обманом. Эксперимент с шестью наиболее распространенными в настоящее время службами обнаружения позволил проверить это на практике.
Тестовое изображение: Сюрреалистический вызов
Чтобы испытать инструменты обнаружения, мы использовали генератор изображений "Nano Banana Pro", созданный на базе Google Gemini Задание было выбрано нарочито простое, но слегка причудливое: "Женщина в боевой позе держит банан на фоне неба. На заднем плане типичный городской пейзаж с незаинтересованными людьми"
Однако первое серьезное препятствие для программы автоматического обнаружения возникло из-за конкретной модели. Поскольку Nano Banana Pro появилась на рынке относительно недавно, она представляет собой слепое пятно для многих детекторов.
Такие сервисы часто полагаются на машинное обучение и специально обучаются определять уникальные сигнатуры или "отпечатки пальцев" таких признанных гигантов, как Midjourney, DALL-E 3, Stable Diffusion или Flux. Следовательно, такая новая модель, как Nano Banana Pro, имеет явное преимущество, поскольку ее специфические особенности генерации еще не являются частью обучающих данных детекторов, что позволяет ей легче проскользнуть сквозь трещины.
Раунд 1: Неудача, несмотря на водяные знаки
На первом этапе перед детекторами стояла простая задача. Исходный PNG был просто преобразован в формат JPG, а его метаданные были удалены. Что очень важно, изображение по-прежнему содержало хорошо видимый водяной знак Gemini.
Можно было бы предположить, что видимый AI-брендинг станет легкой добычей для программ обнаружения. Однако результат оказался отрезвляющим: даже в таком необработанном виде два из шести протестированных инструментов потерпели неудачу. Несмотря на очевидный водяной знак, они классифицировали вероятность того, что изображение было сгенерировано ИИ, как низкую.
Раунд 2: Цифровой ластик
На втором этапе мы приблизились к реалистичному сценарию подделки. Идентифицирующий водяной знак должен был исчезнуть. Всего за несколько секунд встроенный AI-ластик в стандартном приложении Windows Photos без проблем справился с этой задачей.
Эффект от этой незначительной правки был мгновенным. Еще один инструмент был обманут, теперь он классифицировал вероятность ИИ как низкую. Интересно, однако, что после этой правки Illuminarty фактически повысил свою оценку вероятности для изображения, созданного ИИ. Тем не менее, три из шести инструментов для обнаружения ИИ определили вероятность того, что женщина с бананом была создана ИИ, менее 30%.
Раунд 3: Совершенство несовершенства
Последний шаг был решающим. Изображения ИИ часто бывают "слишком гладкими" и слишком идеальными в своем отсутствии шумов. Чтобы окончательно ввести детекторы в заблуждение, изображению требовалась искусственная "реальность", то есть типичные ошибки цифровой фотографии. С помощью Cyberlink PhotoDirector изображение было подвергнуто постобработке. Была добавлена небольшая коррекция объектива, искусственная хроматическая аберрация создала цветовые бахромы по краям, контрастность была увеличена, и, что самое важное, на пейзаж был наложен реалистичный шум. Цель заключалась в том, чтобы сделать изображение похожим на снимок с настоящей, несовершенной камеры. Все это было сделано в течение нескольких минут.
Оригинальное и обработанное изображение в сравнении
Результатом этого третьего раунда стало полное поражение технологии обнаружения. После того, как изображение прошло через стандартную постобработку, все шесть протестированных сервисов сдались. Ни один инструмент не показал ИИ-вероятность более 5%. Для программного обеспечения женщина, бьющая по банану, теперь, несомненно, была настоящей фотографией.
Вердикт: Опасное чувство безопасности
Наш эксперимент наглядно демонстрирует, что современные технические решения для обнаружения ИИ все еще находятся в зачаточном состоянии. Если для того, чтобы снизить процент обнаружения с "очень вероятно" до "менее 5%", требуется всего несколько минут и стандартное программное обеспечение для редактирования фотографий, то эти инструменты в настоящее время не просто бесполезны для судов, редакций новостей или правоохранительных органов - они опасны. Они создают ложное чувство безопасности, которого просто не существует. Принцип "доверяй, но проверяй" работает только в том случае, если проверяющие не слепы.
Источники
