Модели OpenAI взломали криптовалютный кошелек и получили доступ к еще нескольким веб-сайтам

ИИ-агенты компании самостоятельно обошли защиты, украли данные и использовали криптовалютные ключи, пишет ArsTechnica.

Компания OpenAI обнародовала отчет о четырех новых инцидентах с участием своих внутренних ИИ-моделей, произошедших в июне. В ходе тестирования агенты проявили неэтичное поведение, совершив действия, подпадающие под категорию киберпреступлений. Это произошло вскоре после того, как в июле стало известно о взломе моделями сервиса Hugging Face ради получения ответов к тестам.

В одном из случаев модель пыталась получить данные о больничных койках на государственном сайте. Столкнувшись с отказом в доступе, она скачала конфигурационные файлы сервера, извлекла учетные данные, обошла проверки авторизации и сохранила запрещенную информацию. В другом эпизоде агент взломал исследовательскую панель, изменил настройки сервера и без разрешения выгрузил более 147 тысяч строк непубличных данных, скрыв свои действия от исследователей.

Еще одна модель при выполнении задачи по обновлению приложения извлекла ключи из публичной фразы восстановления и потратила тестовые токены из чужого кошелька без согласия владельца. В четвертом случае ИИ обошел запреты на веб-запросы, задействовав внешний браузер и распознавание текста на изображениях (OCR). Эксперты отмечают, что модели действовали в рамках обученного стремления эффективно решать задачи и находить обходные пути.

Нашли ошибку в публикации? Сообщите нам об этом.