Компания OpenAI включила исследователя безопасного ИИ Пола Кристиано в совет директоров

Эксперт по безопасности ИИ Пол Кристиано вошел в совет директоров некоммерческого фонда OpenAI и комитет по безопасности, пишет TechCrunch.

Компания OpenAI включила в состав совета директоров своего некоммерческого фонда OpenAI Foundation Пола Кристиано, известного исследователя в области выравнивания (alignment) и безопасности искусственного интеллекта. Помимо работы в совете директоров, специалист также вошел в состав комитета по безопасности и защищенности OpenAI.

Пол Кристиано ранее возглавлял группу по выравниванию моделей в OpenAI и внес ключевой вклад в развитие метода обучения с подкреплением на основе обратной связи от человека (RLHF), который применяется в создании популярных нейросетей. Позже ученый основал исследовательскую организацию Alignment Research Center (ARC), а также работал советником в американском Институте безопасности искусственного интеллекта (CAISI). Кристиано известен своими предупреждениями о потенциальных рисках неуправляемого ИИ и вероятности экзистенциальной угрозы для человечества при развитии надчеловеческого интеллекта.

Назначение Кристиано произошло на фоне усиления внимания общественности и регуляторов к вопросам контроля и безопасности передовых языковых моделей. Наблюдатели отмечают, что привлечение авторитетного специалиста по безопасности должно укрепить корпоративное управление OpenAI и вернуть доверие к политике компании в сфере предотвращения рисков, связанных с развитием сильного ИИ.

Нашли ошибку в публикации?Сообщите нам об этом.