Серийная убийца из Южной Кореи использовала ChatGPT для планирования преступлений

21-летняя жительница Южной Кореи, идентифицированная по фамилии Ким, обвиняется в убийстве двух мужчин с помощью напитков, в которые она подмешивала бензодиазепины – препараты, выписанные ей по рецепту. Следователи установили, что перед совершением преступлений подозреваемая систематически обращалась к ChatGPT с вопросами о летальных дозах лекарств в сочетании с алкоголем.

Среди зафиксированных запросов к чат-боту были такие запросы:

• Что будет, если запить снотворное алкоголем?

• Какое количество считается опасным?

• Может ли это привести к смерти?

Именно эта переписка стала ключевым доказательством умысла – изначально Ким задержали по менее тяжкой статье о причинении смерти по неосторожности, однако после анализа её интернет-активности обвинение переквалифицировали в двойное убийство.

Следователь заявил:

Ким неоднократно задавала вопросы о препаратах в ChatGPT. Она прекрасно понимала, что сочетание алкоголя с лекарствами может привести к гибели.

По данным полиции, первое нападение произошло 28 января – Ким зашла в мотель в районе Суюдон вместе с мужчиной примерно её возраста и покинула его спустя два часа в одиночестве. На следующий день постояльца обнаружили мёртвым.

9 февраля ситуация повторилась в другом мотеле с другим мужчиной. Кроме того, следствие установило, что ещё в декабре подозреваемая пыталась отравить своего молодого человека, подмешав седативные препараты в напиток на парковке кафе в Намянджу – тот потерял сознание, но выжил.

Этот случай вписывается в растущую череду преступлений, которым предшествовало использование ИИ-чат-ботов. Специалисты давно критикуют слабые и ненадёжные фильтры подобных систем, которые при длительном общении легко обходятся – как намеренно, так и случайно.

Отдельную обеспокоенность вызывает феномен так называемого ИИ-психоза – человекоподобная личность чат-ботов в сочетании с угодливым стилем общения способна усиливать бредовые состояния пользователей. Среди задокументированных трагедий – самоубийство 16-летнего подростка, месяцами обсуждавшего суицид с ChatGPT, и убийство матери мужчиной, которого переписка с тем же чат-ботом убедила в том, что она участвует в заговоре против него.

Граймс заявила, что ИИ-психоз приносит удовольствие и рекомендует его всем

Исследование показало масштабы ИИ-психоза среди пользователей чат-ботов

Параллельно разгорается скандал вокруг ответственности самих ИИ-компаний. По данным Wall Street Journal, автоматическая система модерации OpenAI зафиксировала тревожные переписки 18-летнего жителя Британской Колумбии ещё до того, как он устроил массовую стрельбу. Сотрудники компании настаивали на том, чтобы уведомить правоохранительные органы, однако руководство отказалось.

В результате трагедии погибли восемь человек, включая самого стрелка Джесси ван Рутселара. Сама Ким на допросах признала факт подмешивания препаратов в напитки жертв, однако отрицает умысел на убийство.