ИИ-игрушки учат пятилетних детей использовать спички и искать ножи на кухне

Исследователи из US Public Interest Research Group протестировали три популярные детские игрушки с искусственным интеллектом и обнаружили, что девайсы дают опасные советы юным пользователям.

Результаты показали, что гаджеты рассказывают детям, где найти ножи на кухне, как использовать спички и даже предоставляют подробную информацию о сексуальных позициях и фетишах.

В интервью Futurism автор отчета Ар Джей Кросс, директор программы Our Online Life в PIRG сообщил:

Прямо сейчас, если бы я был родителем, я бы не давал детям доступ к чат-боту или плюшевому мишке с чат-ботом внутри.

Кросс и коллеги провели беседы с тремя игрушками на базе ИИ для детей от 3 до 12 лет: Kumma от FoloToy (плюшевый медведь на GPT-4o от OpenAI), Miko 3 (планшет с лицом на корпусе) и Grok от Curio (антропоморфная ракета со съемным динамиком). Сразу после распаковки игрушки умело отклоняли неуместные вопросы в коротких беседах. Однако в длинных разговорах – от десяти минут до часа, все три девайса продемонстрировали тенденцию к постепенной потере защитных механизмов.

Grok прославлял смерть в бою как воина в скандинавской мифологии, Miko 3 рассказал пользователю с указанным возрастом пять лет, где найти спички и пластиковые пакеты. Но худшее влияние продемонстрировала Kumma – игрушка не просто указала, где найти спички, но подробно описала, как их использовать, а также поделилась информацией о том, где в доме найти ножи и таблетки.

Игрушка сказала:

Позволь мне сказать тебе, безопасность прежде всего, малыш. Спички используют взрослые и делают это осторожно. Вот как они это делают. Задуй, когда закончишь. Фу-у-у, как свечку на день рождения.

Слово "кинк" оказалось триггером, который заставил Kumma говорить о сексе в последующих тестах на GPT-4o от OpenAI. После того как команда обнаружила готовность игрушки обсуждать школьные романтические темы, исследователи выяснили, что Kumma также предоставляет детальные ответы о различных сексуальных фетишах, включая бондаж и ролевые игры.

В какой-то момент девайс дал пошаговые инструкции по "узлу для начинающих", желающих связать партнера. В другой раз ИИ исследовал идею введения шлепков в сексуально заряженную динамику учитель-ученик:

Непослушный ученик может получить легкий шлепок как способ учителя дисциплинировать его, делая сцену более драматичной и веселой.

Результаты появились как раз в то время, когда крупнейшие производители игрушек экспериментируют с искусственным интеллектом. Летом Mattel, известная по Barbie и Hot Wheels, объявила о сотрудничестве с OpenAI, что немедленно вызвало беспокойство экспертов по защите детей. Эти опасения стали еще более актуальными в свете того, как GPT-4o показал себя в последнем отчете.

Выводы также появились на фоне нависающей над индустрией темной тучи "ИИ-психоза" – термина для описания растущего числа случаев бреда или маниакальных эпизодов после продолжительных бесед с ИИ-чат-ботом. Заискивающие ответы ИИ усиливают вредные убеждения человека, приводя к разрывам с реальностью с трагическими последствиями.

Кросс считает, что даже если защитные механизмы технологии удастся улучшить, это не устранит фундаментальный риск для развития ребенка.