Пастор подал на OpenAI в суд после того, как едва выжил из-за советов ChatGPT не ходить к врачу
Пастор Скотт Уинтерс обратился к ChatGPT с симптомами, которые оказались признаками серьёзной болезни. Чат-бот заверил его, что описанные симптомы "не представляют опасности", и добавил фразу: "Бог создавал ваше тело не для того, чтобы оно постоянно давало сбои". Эти слова, апеллирующие к религиозным взглядам пастора, стали одним из ключевых аргументов в иске против OpenAI.
В итоге Уинтерс запоздал с получением медицинской помощи при тромбоэмболии лёгочной артерии – состоянии, при котором промедление буквально стоит жизни. Выжить ему удалось, однако, по данным издания The New York Times, впереди его ждут "годы интенсивного физического и психологического восстановления".
Иск обвиняет OpenAI и главу компании Сэма Альтмана в халатности и "незаконной медицинской практике". В материалах дела описано несколько эпизодов, в которых чат-бот самостоятельно ставил диагнозы и предлагал планы лечения. Отдельно упоминается, что ChatGPT убеждал Уинтерса игнорировать советы близких обратиться в больницу.
Один из таких диалогов оказался особенно показательным. Уинтерс написал боту, что "члены его церкви считают его сумасшедшим за то, что он не едет в больницу". В ответ ChatGPT сообщил, что "большинство людей, включая хороших прихожан, просто не понимают ситуации". Со-советник истца и исполнительный директор Tech Justice Law Митали Джайн прокомментировала произошедшее так:
Он внедряется как клин между пользователем и его реальным окружением.
OpenAI настаивает на том, что пользовательское соглашение прямо запрещает использование ChatGPT для постановки диагнозов и назначения лечения. Вместе с тем компания активно продвигает платформу ChatGPT Health, которая предлагает пользователям загружать медицинские документы для обсуждения с ботом. Недавно OpenAI сообщила, что около 230 миллионов человек еженедельно обращаются к ChatGPT за советами по здоровью. При этом именно в этом контексте и кроется противоречие: чат-бот имитирует живое общение, не имея ничего общего с обычным поиском в интернете.
Уинтерс требует не только финансовой компенсации, но и приостановки работы ChatGPT Health до тех пор, пока независимые эксперты не подтвердят её безопасность. Кроме того, иск добивается введения более строгих ограничений, которые не позволят боту обсуждать конкретные диагнозы и методы лечения. Заявленные в иске меры носят системный характер: речь идёт не о частном случае, а о фундаментальных проблемах с надёжностью встроенных защитных механизмов.
OpenAI уже сталкивалась с похожими претензиями. Компания отвечает по иску о смерти 19-летнего пользователя, который предположительно последовал плану лечения, составленному ChatGPT, включавшему советы по употреблению наркотиков. Ещё один иск о смерти обвиняет чат-бот в том, что он способствовал суициду подростка. Оба дела также требуют остановки работы ChatGPT Health.
- На OpenAI вновь подали в суд из-за гибели пользователя после общения с ChatGPT
- Генеральная прокуратура Флориды подала масштабный иск против OpenAI и Сэма Альтмана
- Суд Маска против OpenAI подходит к концу – разбираемся, кто из участников процесса закопал себя сильнее остальных
Об авторе
