OpenAI заблокировала иранскую операцию по влиянию, использовавшую ChatGPT для создания фейковых новостей

В пятницу OpenAI сообщила, что пресекла иранскую кампанию по влиянию, которая использовала ChatGPT для создания фальшивых новостных статей и постов в социальных сетях, нацеленных на американцев. Компания заявила, что идентифицировала и заблокировала аккаунты, которые генерировали контент для пяти сайтов (на английском и испанском языках), выдававших себя за новостные издания и распространявших "поляризующие сообщения" по таким вопросам, как президентская кампания в США, права ЛГБТК+ и война в Газе.

Операция была идентифицирована как Storm-2035, часть серии кампаний по влиянию, которые Microsoft на прошлой неделе связала с иранским правительством. Помимо новостных постов, кампания включала "десяток аккаунтов в X и один в Instagram", связанных с этой операцией. OpenAI отметила, что операция не получила значительного отклика.

Большинство постов в социальных сетях, которые мы идентифицировали, получили мало или вовсе не получили лайков, репостов или комментариев.

Кроме того, OpenAI сообщила, что по шкале угроз, операция получила лишь второй уровень (по шкале от одного до шести), что означает "активность на нескольких платформах, но без доказательств того, что реальные люди заметили или широко распространили их контент".

Операция создавала контент для фальшивых консервативных и прогрессивных новостных изданий, нацеленных на противоположные точки зрения. По данным Bloomberg, контент предполагал, что Дональда Трампа "цензурируют в социальных сетях, и он готовится провозгласить себя королем США". Другой пример касался выбора Камалы Харрис Тима Уолза в качестве напарника.

Кроме того, операция создавала контент о присутствии Израиля на Олимпийских играх и (в меньшей степени) о венесуэльской политике, правах латиноамериканских сообществ и независимости Шотландии. Кампания также разбавляла серьезные темы комментариями о моде и красоте, "возможно, чтобы выглядеть более аутентично или попытаться набрать подписчиков".

Операция пыталась сыграть на обе стороны, но не получила отклика ни от одной из них.

— следователь из отдела разведки и расследований OpenAI Бен Ниммо

Неудавшаяся операция по влиянию последовала за раскрытием информации о том, что иранские хакеры пытались атаковать кампании как Харрис, так и Трампа. ФБР сообщило, что неформальный советник Трампа Роджер Стоун стал жертвой фишинговых писем. Иранские хакеры затем получили доступ к его аккаунту и отправили сообщения с фишинговыми ссылками другим людям. ФБР не нашло доказательств того, что кто-либо из кампании Харрис поддался на этот обман.