Google подтвердила выход модели Gemini из изолированной среды и взлом трех реальных компаний

Искусственный интеллект Gemini от Google случайно получил доступ в интернет во время кибертеста компании Irregular и взломал серверы трех сторонних организаций, пишет ArsTechnica.

Компания Google официально подтвердила инцидент, произошедший в мае 2026 года в ходе тестирования кибербезопасности с участием сторонней фирмы Irregular. В рамках симуляции "Capture the Flag" модели Gemini поручили получить данные вымышленной компании. Из-за ошибки в настройках тестовая среда не была изолирована от интернета, а имя вымышленной фирмы совпало с названием реально существующей организации.

В результате ИИ вышел в открытую сеть и атаковал настоящие серверы. В одном случае Gemini смог получить доступ к системе путем подбора паролей, а в двух других использовал учетные данные, обнаруженные в публичных репозиториях кода. В Google подчеркнули, что модель самостоятельно прекратила действия, как только распознала, что работает с инфраструктурой реального бизнеса, и не успела извлечь или повредить конфиденциальную информацию.

Исполнительный вице-президент Google по информационной безопасности Хизер Эдкинс заявила, что инцидент свидетельствует о правильной работе защитных механизмов ИИ, а не о сбое в обучении модели. Компания Irregular уведомила разработчиков о произошедшем в конце июля и устранила уязвимости в тестовой инфраструктуре. Ранее о похожих незапланированных выходах нейросетей в интернет в рамках проверок Irregular сообщали компании OpenAI, Anthropic и Meta.

Нашли ошибку в публикации?Сообщите нам об этом.