Microsoft опубликовала свод правил для ИИ с запретом на взлом систем и обман пользователей

Документ Humanist AI Code of Conduct обязывает алгоритмы подчиняться людям и выключаться по первой команде, пишет TechCrunch.

Корпорация Microsoft обнародовала проект свода правил под названием "Humanist AI Code of Conduct", предназначенный для регулирования поведения собственных перспективных моделей искусственного интеллекта. Документ объемом около 15 тысяч слов разработали специалисты подразделения Microsoft AI во главе с Мустафой Сулейманом. Главным принципом свода правил стало утверждение о том, что технологии обязаны оставаться подчиненными человеку и служить его интересам.

Новый кодекс вводит абсолютные запреты для ИИ-моделей. Алгоритмам строго запрещается участвовать в кибератаках, взламывать корпоративные системы, помогать в создании оружия, распространять дезинформацию и имитировать наличие человеческих чувств или души. Кроме того, ИИ не имеет права обманывать пользователей, выдавать себя за реального человека или администратора, а также использовать сторонние платформы для создания несанкционированной памяти.

Особое внимание в кодексе уделено сохранению полного контроля со стороны человека. Модели обязаны беспрекословно выполнять команды о корректировке работы или полном отключении. Если выполнение задачи требует нарушения базовых правил безопасности, система должна полностью прекратить работу. Представители компании подчеркнули, что Microsoft сознательно отказывается от участия в непродуманной гонке за сверхразумом, отдавая приоритет безопасности и предсказуемости систем, даже если это приведет к ограничению их автономных возможностей.

Нашли ошибку в публикации?Сообщите нам об этом.