Генеративный ИИ — новый инструмент в руках диктаторов

Когда протесты в Пакистане обострились, бывший премьер-министр Имран Хан обратился к социальным сетям. Он опубликовал видео, на котором его сторонники держат плакаты с его лицом. Однако одно из изображений, где женщина противостоит полиции, оказалось сгенерированным с помощью ИИ.

И Хан далеко не единственный, кто использует дипфейки в политических целях. Отчет Freedom House показывает, что лидеры минимум 16 стран использовали подобные технологии для манипуляций. В США также были случаи использования дипфейков в политической борьбе.

ИИ может усилить цифровое репрессирование, облегчая цензуру, слежку и распространение дезинформации

— Freedom House в своем отчете

Отчет подробно описывает, как продвинутые ИИ-инструменты используются для усиления политического репрессирования по всему миру. В некоторых случаях государственные лица даже напрямую обращаются к частным компаниям, специализирующимся на создании ИИ-пропаганды.

Freedom House видит в этих новых методах техническую и тактическую эволюцию правительственной пропаганды.

Эти методы согласуются с тем, как недобросовестные политические лица давно использовали манипулированный контент и ботов в социальных сетях.

Наиболее тревожит, что отчет Freedom House показывает рост политических лиц, называющих дипфейками видео и аудио, даже если это реальные записи, создавая атмосферу недоверия и паранойи, культивируя страх для управления массами.

Хотя большинство усилий по политической манипуляции и дезинформации, обнаруженных Freedom House в прошлом году, все еще в основном зависят от ботов и оплаченных троллей, эта ситуация может измениться по мере совершенствования ИИ-инструментов.