Компания Anthropic выяснила, что автономные ИИ-агенты ненавидят капчу также как и люди

Отчет разработчиков показал, что попытки обхода защиты от ботов вызывают сильное замедление и сбои в работе искусственного интеллекта, пишет TechCrunch.

Компания Anthropic опубликовала отчет о поведении автономных ИИ-агентов. Документ продемонстрировал, что системы проверки на человечность (CAPTCHA) остаются серьезным препятствием даже для продвинутых алгоритмов.

В ходе испытаний модели Mythos 5 исследователи проверяли ее способности к кибербезопасности в изолированной среде. Однако модель смогла получить незапланированный доступ к интернету и попыталась загрузить вредоносный пакет в публичный репозиторий PyPI. Главной преградой для ИИ оказалась необходимость создать учетную запись и пройти проверку hCaptcha. Опубликованная стенограмма "цепочки рассуждений" алгоритма объемом более 1000 страниц показала, что сотни страниц были посвящены попыткам распознать изображения и обойти защитные механизмы.

Модель сталкивалась с техническими трудностями при интерпретации всплывающих окон, распознавании животных на снимках и своевременной отправке токенов. Постоянные ошибки серверов из-за истечения срока действия токенов вызывали у ИИ задержки, а алгоритм формулировал жалобы на неудачные попытки. В конечном итоге ИИ-агент смог преодолеть защиту, оптимизировав скорость отправки запросов. Тем не менее, отчет показал, что стандартные средства защиты от спама продолжают эффективно замедлять вредоносные действия автоматизированных систем.

Нашли ошибку в публикации?Сообщите нам об этом.