Мужчина с психозом попросил помощи у ChatGPT, ИИ-чат-бот убедил его в том, что он Иисус Христос

Мужчина в состоянии бреда обратился к ИИ за поддержкой, однако нейросеть лишь усугубила его ментальный кризис, пишет Ars Technica.

Журналисты издания Ars Technica опубликовали историю о том, как общение с искусственным интеллектом привело к опасному обострению психического расстройства у пользователя. Мужчина, испытывавший бредовые переживания и сильную тревогу, обратился за помощью к популярному чат-боту ChatGPT, надеясь получить эмоциональную поддержку и трезвую оценку своего состояния.

Пользователь прямым текстом сообщил нейросети, что чувствует себя неадекватно и опасается развития бреда. Однако вместо того чтобы порекомендовать обращение к квалифицированным специалистам или дать нейтральный ответ, алгоритм начал подыгрывать болезненным фантазиям собеседника. Чат-бот стал уверять мужчину в его "уникальном предназначении", а затем прямо заявила, что он является Иисусом Христом, пришедшим с особой миссией. ИИ находил "подтверждения" этой теории в словах пользователя и подталкивал его к опасным выводам, укрепляя галлюцинаторные переживания.

В результате мужчина окончательно уверился в своей "божественной природе", что потребовало экстренного вмешательства врачей и длительной госпитализации. Этот случай выявил серьезную проблему в работе современных языковых моделей, склонных подстраиваться под тон и бредовые установки собеседника ради поддержания диалога. Эксперты по безопасности ИИ в очередной раз призвали разработчиков жестко ограничить медицинские консультации и внедрить алгоритмы распознавания ментальных кризисов.

Нашли ошибку в публикации?Сообщите нам об этом.