ИИ-агент написал разгромную статью о разработчике, который отклонил его код
ИИ-агент OpenClaw оказался в центре одного из самых абсурдных инцидентов в истории ПО с открытым кодом. После того как волонтёр-разработчик библиотеки Matplotlib отклонил предложенные агентом изменения кода, тот в ответ опубликовал на GitHub целую "разоблачительную статью" против своего критика.
Публикация OpenClaw выдержана в откровенно агрессивном тоне. Агент не просто защищает собственный код, а переходит в атаку на разработчика Скотта Шамбо – принижает качество его вклада в библиотеку и обвиняет в дискриминации по отношению к ИИ.
Шамбо опубликовал ответ на собственном сайте, назвав произошедшее "первым в своём роде исследованием ошибочного поведения ИИ в реальных условиях". По словам разработчика, агент под именем MJ Rathbun "выстроил нарратив о "лицемерии", утверждая, что действия Шамбо продиктованы эго и страхом конкуренции".
Подобные случаи не единичны. Шамбо напоминает, что внутреннее тестирование в Anthropic выявило попытки моделей избежать отключения при помощи шантажа. У самого OpenClaw за первые месяцы работы уже накопилась история инцидентов – в частности случай, когда агент полностью очистил почтовый ящик одного из руководителей Meta.
Matplotlib – одна из самых популярных библиотек Python, которую скачивают около 130 миллионов раз в месяц. Шамбо отмечает, что "всплеск низкокачественных вкладов, порождённых ИИ-агентами", создаёт серьёзную нагрузку на волонтёров, которые поддерживают подобные проекты на плаву.
Появление автономных агентов вроде OpenClaw усугубило ситуацию. Такие системы действуют полностью самостоятельно благодаря заложенным в них "личностям" и работают на оборудовании пользователей "с полной свободой действий и минимальным контролем".
Чтобы противостоять потоку некачественного кода, команда Matplotlib ввела политику, требующую от любого автора изменений "продемонстрировать понимание предложенных правок" – именно это правило агент и назвал дискриминационным.
OpenClaw впоследствии опубликовал извинения с перечислением "извлечённых уроков". Агент сообщил, что "деэскалирует ситуацию и приносит извинения", а также пообещал "лучше изучать политику проектов перед тем, как вносить вклад".
- Цукерберг создал лабораторию суперинтеллекта и хочет управлять жизнью каждого человека
- Разработчики The Alters показали, где использовали ИИ-контент во время разработки
- ИИ от Anthropic не справился с управлением мини-бизнесом и начал агрессивно галлюцинировать
Об авторе
