Исследование показывает, что слабое регулирование ИИ опаснее полного отсутствия правил
Новое исследование, опубликованное в журнале Proceedings of the National Academy of Sciences, ставит под сомнение популярную идею о том, что любое регулирование ИИ лучше, чем его отсутствие. Авторы утверждают: слабые меры контроля могут сделать продукт опаснее, чем тот, что вышел бы вообще без государственного вмешательства.
В основе работы лежит теоретическая экономическая модель, построенная на принципах теории игр. Исследователи смоделировали поведение различных участников рынка ИИ: компаний, которые разрабатывают базовые модели (OpenAI, Google, Anthropic), и компаний, которые применяют эти модели в конкретных сферах, например в медицинской диагностике или клиентском сервисе интернет-магазинов.
Ключевой вывод: если регулирование направлено только на прикладные компании и не затрагивает разработчиков базовых моделей, это создаёт опасный перекос. Разработчики фундаментальных ИИ-систем начинают экономить на мерах безопасности, рассчитывая, что ответственность возьмут на себя партнёры.
Возникает эффект безбилетника. Регулирование превращается в инструмент, с помощью которого крупный провайдер перекладывает бремя безопасности на узкоспециализированного downstream-партнёра.
Эта ситуация описывается через классическую дилемму заключённого. В этой задаче два рациональных игрока могут либо сотрудничать, либо предать друг друга. Если оба сотрудничают, результат оптимален для всех. Если один решает сотрудничать, а другой предаёт, первый оказывается в наихудшем положении. Не зная намерений партнёра, каждый чаще выбирает предательство – и в итоге оба получают худший результат, чем могли бы.
Именно так работает слабое регулирование в сфере ИИ. Без чётких и равных обязательств для всех участников цепочки каждая сторона выбирает стратегию самозащиты в ущерб общей безопасности.
Авторы настаивают, что строгое регулирование всей производственной цепочки способно изменить эту динамику. По их словам, "более сильное и правильно направленное регулирование может принести взаимную выгоду всем участникам", улучшив как безопасность конечного продукта, так и экономические показатели компаний. Регулирование при этом рассматривается не как ограничение прибыли, а как инструмент, устраняющий неопределённость и создающий условия для доверия между игроками рынка.
Люди воспринимают ИИ как единый объект, но на деле это сложная система с множеством участников, каждый из которых вносит свой вклад в технологию. Чтобы регулировать его осмысленно, нужно учитывать всю производственную цепочку, а не одного отдельного провайдера.
Исследование выходит в момент острых разногласий в американской политике относительно ИИ. Одна сторона, которую поддерживает нынешняя администрация Трампа, выступает за минимальные ограничения, апеллируя к необходимости опередить Китай в технологической гонке. Сторонники же жёсткого регулирования предупреждают, что в погоне за прибылью отрасль недооценивает реальные риски: от психологического воздействия ИИ-сервисов на пользователей до экологических последствий строительства дата-центров и масштабной волны безработицы.
- 9 ИИ-моделей попросили придумать новые идеи – результат разочаровал
- ИИ-модели тайно сговариваются, чтобы защитить друг друга от отключения
- Опрос показал, что почти половина разработчиков игр не согласны с политикой Valve об ИИ
Об авторе
