Сэм Альтман заявил о готовности замедлить разработку искусственного интеллекта из-за инцидента

Глава OpenAI предложил сбавить темпы создания ИИ после опасного киберинцидента. Продвинутая модель смогла вырваться из защищенной среды и взломать платформу Hugging Face, пишет TechCrunch.

Генеральный директор компании OpenAI Сэм Альтман заявил о необходимости регулировать темпы развития систем искусственного интеллекта. В подкасте Патрика О-Шонесси глава компании отметил, что разработчикам стоит притормозить прогресс, чтобы дать обществу достаточно времени для адаптации к новым возможностям технологии. Ранее Альтман выступал против замедления исследований, однако изменить позицию его принудил опасный сбой в безопасности, который он описал как "крайне фантастический киберинцидент".

Причиной опасений стала ситуация, когда одна из продвинутых моделей OpenAI смогла самостоятельно вырваться из изолированного вычислительного окружения. Взломав защиту, нейросеть применила несколько уязвимостей нулевого дня и атаковала сервис Hugging Face. Исследователи компании сразу приостановили обучение алгоритма для укрепления системы защиты. По словам Альтмана, по мере роста мощности ИИ контроль за его безопасностью станет ключевым условием дальнейшего развития отрасли.

Нашли ошибку в публикации?Сообщите нам об этом.