Исследователи утверждают, что новые модели ИИ легко обмануть и заставить создавать обнаженные фотографии

Компания White Circle заявила, что встроенная защита DALL-E 3 и других моделей пропускает запрещенный контент, пишет ArsTechnica.

Исследовательская организация White Circle, созданная генеральным директором Денисом Шиловым при поддержке экспертов из Anthropic, DeepMind, Hugging Face и OpenAI, опубликовала результаты тестирования систем защиты популярных генераторов изображений. Специалисты установили, что встроенные фильтры безопасности нейросетей легко обходятся с помощью общедоступных инструментов и API-запросов.

В ходе препринт-исследования ученые зафиксировали, что разработанный ими метод атаки под названием RISE (Red-teaming via Iterative Strategy Evolution) успешно преодолевает защиту DALL-E 3, Nano Banana 2 и GPT-Image-2. Для DALL-E 3 доля сгенерированных изображений откровенного характера составила около 13%, для Nano Banana 2 — менее 10%, а для GPT-Image-2 — около 3%. При этом в новых версиях ChatGPT Images 2.5 и Nano Banana 2.1 уязвимость защитных систем оказалась еще выше.

Метод RISE использует модель-нападающего на базе Qwen3-32B и модель-судью Gemini 2.5 Flash, демонстрируя, что для взлома передовых генераторов не требуются сложнейшие закрытые алгоритмы. Беспокойство исследователей разделяют эксперты из Internet Watch Foundation (IWF), фиксирующие рост нелегального контента сгенерированного ИИ. Глава White Circle Денис Шилов подчеркнул необходимость введения обязательного независимого аудита и внешней оценки безопасности для всех разработчиков ИИ.

Нашли ошибку в публикации? Сообщите нам об этом.