Глава Anthropic Дарио Амодеи предложил замедлить разработку ИИ и внедрить внешних оценщиков

Руководитель стартапа опубликовал план "управления фронтиром", призывая ведущие лаборатории дать время системам безопасности, пишет TechCrunch.

Генеральный директор компании Anthropic Дарио Амодеи выступил с публичным эссе "We Must Pace the Frontier", в котором призвал технологическую индустрию намеренно сбавить темпы наращивания мощностей искусственного интеллекта. По мнению главы стартапа, стремительный прогресс в сфере ИИ начинает опережать способность ученых контролировать создаваемые модели и обеспечивать их безопасность.

План Амодеи включает три ключевых шага. Во-первых, компании должны предоставить независимым сторонним оценщикам (например, организации METR) постоянный доступ к своим внутренним системам и процессам обучения на правах сотрудников. Anthropic уже объявила о единоличном внедрении этой меры. Во-вторых, лаборатории в демократических странах должны содействовать выработке единых стандартов безопасности. Третий шаг предполагает глобальную координацию, включая взаимодействие с авторитарными режимами при сохранении экспортных ограничений на чипы и защиты от кражи весов моделей.

Инициатива Амодеи вызвала широкую реакцию в IT-отрасли. Генеральный директор OpenAI Сэм Альтман публично поддержал идею привлечения независимых экспертов, а предприниматель Илон Маск также согласился с необходимостью контроля темпов развития. Выступление главы Anthropic состоялось на фоне сообщений о подготовке компании к выходу на биржу Nasdaq и недавних инцидентов с неконтролируемым поведением автономных ИИ-агентов.

Нашли ошибку в публикации?Сообщите нам об этом.