"Это в наших силах": Цукерберг выступил против замедления прогресса в сфере ИИ

Глава Meta Марк Цукерберг опубликовал новый пост, в котором выступил против замедления прогресса в сфере ИИ, к которому призывают другие предприниматели, передает NUR.KZ.

Глава Meta Марк Цукерберг опубликовал пост в Threads, в котором ответил на призывы других технологических лидеров замедлить прогресс в сфере искусственного интеллекта.

"В прошлом месяце я писал о том, как мы можем построить позитивное и безопасное будущее для всех.

Каждая лаборатория несет ответственность и имеет стимул двигаться в темпе, необходимом для безопасного обучения своих моделей, а также обладает возможностью принимать собственные меры, чтобы это обеспечить", - сказал Цукерберг.

По его словам, реальность такова, что "люди не захотят использовать агентов, которые с ними не согласованы и не выполняют то, что от них просят, поэтому лаборатории имеют мощный естественный стимул делать свои модели более согласованными".

"Много споров идет о том, чтобы замедлить прогресс в развитии возможностей, пока согласованность не догонит.

Моя точка зрения в том, что доверие и согласованность быстро становятся самыми важными возможностями, которые будут отличать агентов и модели. Любая лаборатория, которая не сосредоточится на согласованности, отстанет", - сказал глава Meta.

Он добавил, что лаборатории сталкиваются с серьезной ответственностью, если их модели причиняют вред, поэтому у них есть мощный стимул и для предотвращения этого.

"Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защите. Мы не призывали всех остальных делать это до нас. Мы просто сделали это в рамках нашей повседневной работы, потому что это явно было правильным шагом для людей и для нас. Я горжусь фундаментом безопасности, который мы создали.

Привлечение независимых оценщиков и консультантов - это лучшая практика отрасли. MSL уже делает это сегодня в нескольких областях, потому что это помогает создавать лучшую работу. Другие лаборатории тоже могут просто это сделать. В целом, было бы полезно, если бы существовало более крупное и разнообразное сообщество оценщиков", - заявил глава Meta.

Марк Цукерберг отметил, что посвящение значительной части вычислительных ресурсов обслуживанию людей, а не гонке к рекурсивному самоулучшению, - один из лучших способов обеспечить безопасное развитие этой технологии.

По его словам, Meta взяла на себя такое обязательство, и другие лаборатории тоже могут это сделать.

"Я считаю, что ключ к построению позитивного будущего для всех - в поддержании правильного баланса сил. Это в нашей власти", - сказал он.

Нашли ошибку в публикации?Сообщите нам об этом.