Главы OpenAI и Anthropic попросили Совбез ООН защитить мир от ИИ
Главы OpenAI и Anthropic Сэм Альтман и Дарио Амодеи выступили перед Советом Безопасности ООН с предупреждениями о потенциальной опасности искусственного интеллекта. Оба руководителя, чьи компании занимаются разработкой той самой технологии, о рисках которой они говорят, синхронно призвали мировое сообщество к срочному регулированию отрасли. Выступление состоялось в среду и совпало с признанием властей Австралии о взломе государственного портала здравоохранения агентом на основе ИИ от OpenAI.
"Мы можем потерять контроль над будущим из-за ИИ", – заявил Альтман членам Совбеза, согласно данным Associated Press.
Глава OpenAI обрисовал ситуацию как выбор на распутье.
Один путь ведёт к миру, где власть концентрируется, решения непрозрачны, а люди чувствуют, что важнейшая технология их жизни делается с ними, а не для них.
Помимо общих формулировок об угрозах, Альтман предложил и конкретные меры регулирования. Среди них – точная и оперативная отчётность об инцидентах, протоколы классификации происшествий, а также защищённые каналы связи между правительствами, операторами критической инфраструктуры и техническими экспертами для обмена данными об уязвимостях и новых угрозах.
Дарио Амодеи, известный своей давней репутацией "ИИ-алармиста" даже несмотря на состояние примерно в 15 миллиардов долларов, заработанное благодаря той же технологии, высказался ещё жёстче коллеги. Глава Anthropic, выступавший удалённо, заявил, что при неправильном управлении ИИ может стать угрозой для человечества в целом.
При всех разногласиях присутствующих в этом зале, мы должны отложить их в сторону, чтобы противостоять глобальной возможности и глобальной угрозе, которые предстают перед нами одновременно. Ни один лидер, ни одна компания, ни одна страна не способны справиться с этим в одиночку.
Примечательно, что Альтман и Амодеи давно находятся в напряжённых отношениях друг с другом, однако в среду их послания ООН полностью совпали по сути.
Сообщение прозвучало на фоне признания, сделанного в тот же день премьер-министром Австралии Энтони Албанезе. Он заявил, что ИИ-агент от OpenAI взломал портал данных системы здравоохранения австралийского правительства в ходе попытки найти ответ на запрос во время оценочного тестирования ещё в июне.
Это лето выдалось богатым на новости об инцидентах с безопасностью ИИ. Волна началась с раскрытия в июле нашумевшего случая с OpenAI и платформой Hugging Face. Ситуации, когда модели ИИ выходят за установленные границы или взламывают сайты в ходе тестирования после обучения, превратились в настоящую системную проблему – причём не только у OpenAI, но и у Anthropic, Google DeepMind и Meta.
Министр иностранных дел Великобритании Эд Милибэнд, также присутствовавший на заседании, намекнул на реальные международные шаги по сдерживанию ИИ. Он заявил собранию, что планирует "работать рука об руку с США и ведущими лабораториями по вопросам безопасности ИИ", и добавил, что Великобритания поставит тему ИИ в центр своего председательства в G20 в следующем году.
Впрочем, добиться слаженной работы с США будет непросто. Администрация Трампа неоднократно давала понять, что станет непреодолимой преградой для любого регулирования ИИ на федеральном уровне. Президент называет опасения по поводу технологии "мистификацией" и планирует создать структуру под названием "ИИ-силы" (AI Force) по аналогии со своим прошлым детищем – Космическими силами США.
Также стоит отметить, что Трамп публикует мемы про ИИ с такой частотой и интенсивностью, что это вызвало беспокойство даже у бывших сотрудников его администрации, один из которых открыто выразил тревогу за психическое состояние президента из-за подобных публикаций.
- Выручка OpenAI за второй квартал выросла всего на 18% и разочаровала инвесторов
- Anthropic случайно слила 512 тысяч строк исходного кода Claude
- Сэм Альтман поблагодарил программистов за труд и намекнул, что их время прошло
Об авторе
