Сотрудник отдела безопасности OpenAI уволился из-за несогласия с культурой компании

Бывший специалист по безопасности OpenAI Дэвид Робинсон заявил, что спешка при запуске ИИ создают критические риски, пишет TechCrunch.

Специалист по безопасности Дэвид Робинсон ушел из компании OpenAI после трех с половиной лет работы. Свое решение он объяснил в статье для издания The Atlantic, заявив, что корпоративная культура разработчика "сломана". По его словам, стремление компании к постоянным быстрым релизам перевешивает необходимые меры предосторожности.

Робинсон, руководивший подготовкой отчетов по безопасности для 12 запусков передовых моделей, критикует подход OpenAI "итеративного развертывания". Данная стратегия предполагает выпуск систем на рынок с последующим устранением уязвимостей по мере их возникновения. Эксперт убежден, что время для метода проб и ошибок прошло, а лаборатории передового ИИ должны работать по стандартам надежности ядерных электростанций или авиации.

Представители OpenAI в ответ заявили, что компания контролирует мощности создаваемых моделей и при необходимости приостанавливает обучение или откладывает релизы для обеспечения безопасности.

Нашли ошибку в публикации? Сообщите нам об этом.