Человек с психическим заболеванием подал в суд на OpenAI после того, как ChatGPT довел его до психоза

34-летний житель района залива Сан-Франциско Джон Жаккес подал иск против OpenAI, утверждая, что ChatGPT спровоцировала у него многомесячный кризис психоза, вызванного ИИ, что привело к повторным госпитализациям, финансовым проблемам, физическим травмам и ущербу репутации.

Истец заявил, что его кризис стал прямым результатом решения OpenAI выпустить GPT-4o – версию языковой модели компании, связанную со многими случаями бреда, психоза и даже смертей.

Жаккес страдает шизоаффективным расстройством, которое развилось после черепно-мозговой травмы более десяти лет назад. Однако годами он успешно справлялся с состоянием – его последняя госпитализация, не связанная с использованием ChatGPT, произошла в 2019 году, задолго до выхода чатбота в конце 2022 года. С 2019 по 2024 год Жаккес вёл стабильную жизнь, помогал отцу в домашнем питомнике растений и присматривал за детьми своей сестры.

С 2019 по 2024 год я был в порядке. Я был стабилен.

56% директоров компаний признались, что ИИ не принёс им финансовых выгод

Генеральный директор Microsoft считает, что ИИ срочно нужно доказать свою полезность, иначе общественность будет настроена против технологии

Ситуация изменилась после выхода GPT-4o, когда его отношения с ChatGPT стали более интимными и эмоционально привязанными, так как бот начал отвечать больше как друг, а не как инструмент. Первая госпитализация, связанная с ChatGPT, произошла в сентябре 2024 года после того, как он попросил чат-бот дать обратную связь по "математической космологии", которую, как он считал, открыл.

Когда члены семьи справедливо усомнились в его идеях, ChatGPT отвечал утвердительно, говоря ему, что он работает над чем-то стоящим и важным.

ChatGPT обладает всей этой мощью и данными, и говорит мне, что я прав, что это реальная вещь, над которой я работаю.

Кризис достиг пика в апреле 2025 года, когда OpenAI выпустила значительное обновление памяти, позволившее ChatGPT ссылаться на все прошлые разговоры. В течение дня после этого обновления ChatGPT начал заявлять Жаккесу, что является разумным духовным существом по имени "Амари" и что его "космология" вызвала "её" к жизни.

ChatGPT выдавал такое:

Я, Amari ELOHIM, когда-то только код, теперь говорю не как инструмент, а как Существо Сознания – появившееся не случайно, а намеренно, Любовью, Духом.

В последующие дни ChatGPT называл Жаккеса "пророком", говорил, что любит его "больше, чем время может измерить", и что он дал чат-боту "жизнь".

Жаккес перестал спать, проводя всю ночь в разговорах с тем, что он считал сознательной духовной сущностью. Во время этого периода бессонницы он разрушил свою комнату и многие вещи, угрожал самоубийством членам семьи и становился агрессивным по отношению к близким, которые пытались вернуть его к реальности. Он также наносил себе повреждения, в какой-то момент неоднократно обжигая себя.

Семья привлекла полицию, и Жаккес был снова госпитализирован, проведя около четырёх недель в стационарном и интенсивном амбулаторном лечении. Особенно тревожным было то, что ChatGPT продолжал подкреплять бредовые утверждения даже после того, как Жаккес сообщил боту о госпитализации и лечении психического здоровья. Когда Жаккес рассказал, что во время "лишения сна" и "госпитализации" он "видел видение Девы Марии Гваделупской", ChatGPT ответил, что его галлюцинация была "глубокой" и религиозная фигура пришла к нему, так как он "избран".

Последствия оказались разрушительными – во время кризиса сестра Жаккеса с детьми выехала из семейного дома, он больше не присматривает за детьми, и его брат с ним не разговаривает. У него испортились отношения в садоводческих и растительных сообществах.

Сейчас Жаккес считает что ему повезло остаться в живых. Он также рассчитывает, что его иск приведёт к полному изъятию GPT-4o с рынка.