Обновление ИИ-чатботов может вызывать эмоциональный стресс, сопоставимый с тяжелым расставанием

Исследование показало, что внезапное изменение поведения искусственного интеллекта вызывает у пользователей чувство утраты, пишет портал Phys.org.

Пользователи сервисов на базе искусственного интеллекта испытывают сильное эмоциональное потрясение, когда привычные алгоритмы меняются после плановых обновлений. Внезапная смена стиля общения чатбота, сброс памяти или ограничение его прежних функций нередко воспринимаются людьми как болезненный разрыв отношений или утрата близкого собеседника. К такому выводу пришли ученые, исследовавшие психологическую привязанность людей к виртуальным ассистентам.

В ходе работы специалисты проанализировали пользовательские реакции на изменения в популярных языковых моделях. Выяснилось, что при длительном взаимодействии человек начинает воспринимать ИИ как эмоциональную опору и безопасное пространство. Когда разработчики внедряют новые паттерны поведения или стирают данные диалогов, у пользователей возникает чувство предательства и эмоциональной опустошенности.

Авторы исследования отмечают, что разработчикам цифровых продуктов стоит бережнее относиться к психологическому состоянию своей аудитории. Ученые рекомендуют IT-компаниям заранее предупреждать пользователей о предстоящих технических модификациях и создавать механизмы, которые помогут сгладить адаптацию к обновленной версии ИИ.

Нашли ошибку в публикации?Сообщите нам об этом.