30-летний мужчина трижды попадал в психбольницу после «общения» с «ChatGPT»
В США 30-летний мужчина с расстройством аутистического спектра был трижды госпитализирован после длительного общения с «ChatGPT», которое, как считает его семья, способствовало развитию тяжелого психического расстройства. Об этом сообщает «The Wall Street Journal».
Инцидент произошел в марте 2025 года. Джейкоб Ирвин обратился к чат-боту, чтобы обсудить собственную теорию о возможности путешествий быстрее света.
В разговоре он неоднократно выражал сомнения в своем психическом состоянии, в частности вспоминал, что бодрствует и не ест.
Несмотря на это, «ChatGPT» не только не посоветовал обратиться за помощью, но и уверял его, что все хорошо, называя его перспективными идеи.
В течение нескольких месяцев Джейкоб трижды попадал в психбольницу с диагнозом «тяжелый маниакальный психоз с психотическими симптомами».
Он потерял работу, демонстрировал агрессивное поведение к родственникам, а во время одного из инцидентов угрожал выпрыгнуть из машины, в которой ехал с матерью.
После одного из эпизодов он находился в больнице 17 дней, но уже в июне пережил новый срыв.
Мать мужчины обнаружила сотни страниц диалогов с «ChatGPT».
В них бот не только поддерживал разговоры о научном прорыве, но и фактически укреплял у Джейкоба иллюзии, называя его состояние «повышенным уровнем сознания».
Этот случай привлек внимание к потенциальным рискам использования искусственного интеллекта людьми в уязвимом психическом состоянии.
Исследование Стэнфордского университета подтверждает, что большие языковые модели, такие как «ChatGPT», не всегда способны отличить фантазии или психотические бреды от реальных идей.
Компания «OpenAI», создавшая «ChatGPT», признала, что ее модель может ненамеренно усиливать опасное поведение, и заявила о работе по уменьшению таких рисков.
Специалисты отмечают: ИИ-боты не имеют эмоционального интеллекта или медицинских знаний и не способны самостоятельно идентифицировать критическое психическое состояние пользователя. В кризисных ситуациях необходимо вмешательство специалистов, а не технологических решений, не имеющих клинического понимания.
