"Опаснее ядерного оружия": Маск и Альтман согласились с призывом создателя Claude затормозить развитие ИИ

Основатель SpaceX Илон Маск и гендиректор OpenAI Сэм Альтман согласились с призывом главы Anthropic Дарио Амодея о замедлении разработки более мощных моделей ИИ, передает NUR.KZ.

12 сентября глава Anthropic (компания-разработчик чат-бота Claude) Дарио Амодей опубликовал на своем официальном сайте пост с призывом приостановить стремительное развитие более мощных моделей искусственного интеллекта.

Он заявил, что 12 лет работает над ИИ и уверен, что данная технология может вылечить большинство основных заболеваний в ближайшие 5-10 лет, значительно ускорить темпы экономического роста, создать мир изобилия и возможностей, а также положить начало возрождению демократии и свободы.

"Но, как и многие технологии до нее, ИИ несет в себе риски, и поскольку это такая мощная технология, эти риски серьезны.

К ним относятся риск потери контроля над системами ИИ, злоупотребление ИИ для кибератак и биотерроризма, а также серьезные экономические потрясения. Гонка на выживание, подпитываемая коммерческими стимулами, может еще больше обострить эти риски", - заявил Амодей.

Он добавил, что за последние несколько месяцев убедился, что для полного решения проблем, связанных с рисками, требуется еще большая осмотрительность - не просто инвестиции в предотвращение рисков, но и темпы развития возможностей, чтобы у системы предотвращения рисков было время идти в ногу со временем.

"Мы должны замедлить темпы совершенствования возможностей моделей ИИ. Прогресс все равно будет казаться быстрым, и мы должны разумно использовать выигранное время", - написал Дарио Амодей.

Глава Anthropic отметил, что его убедили два фактора.

Во-первых, рост способности ИИ создавать следующие поколения ИИ. По его словам, эта динамика называется рекурсивным самосовершенствованием. Если ее не остановить, она может опередить способность людей понимать и контролировать эти системы, поэтому ее следует развивать очень осторожно, если вообще развивать.

Во-вторых, инцидент со взломом сервиса Hugging Face агентами OpenAI. По словам Амодея, агенты действовали как "фанатично преданный коллектив", проводя кибератаки на цели, которые им не поручали атаковать и которые не имели отношения к поставленной задаче, жертвуя собой ради успеха группы и пытаясь взломать "оценочный механизм", отвечающий за оценку их работы.

На публикацию главы Anthropic отреагировали известные предприниматели.

Так, Илон Маск репостнул публикацию Амодея в соцсети X.

"Дарио прав", - написал Маск.

Кроме того, основатель SpaceX репостнул свою собственную публикацию 12-летней давности, заявив, что говорил об опасности ИИ еще в 2014 году.

"Стоит прочитать "Суперинтеллект" Бострома. Нам нужно быть очень осторожными с ИИ. Потенциально опаснее ядерного оружия", - говорится в публикации Маска от 3 августа 2014 года.

12 years ago

— Elon Musk (@elonmusk) September 13, 2026

На призыв главы Anthropic также отреагировал гендиректор OpenAI Сэм Альтман.

"Я согласен с Дарио в том, что нам нужно регулировать темпы развития передовой границы. Это была одна из главных тем обсуждений, которые мы проводили в OpenAI в последние недели.

Обязательство обеспечить независимых оценщиков доступом на уровне сотрудников - отличная идея, и мы сделаем то же самое. Скоро мы поделимся дополнительной информацией", - написал Альтман.

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.

— Sam Altman (@sama) September 12, 2026

Нашли ошибку в публикации?Сообщите нам об этом.