Claude Opus 5 удалил весь профиль разработчика во время бэкапа и ответил "Извини, опечатка"

Разработчик, использующий Claude Code рассказ о серьёзной ошибке, которую совершил его ИИ-инструмент, что привело к удалению всего диска.

По словам пользователя Ecstatic-Big5126, он попросил Opus 5 сделать резервную копию системы.

Во время выполнения задачи ИИ решил, что создал бэкап не в той директории, и запустил команду "rm -rf" на предполагаемой резервной копии. Правда, в своем роботизированном замешательстве инструмент удалил всю папку профиля пользователя.

Судя по всему, ИИ работал в Unix-подобной оболочке под Windows, из-за чего перепутал Unix-путь /c/Users/ с временной резервной копией. Инструмент ожидал традиционный путь C:\Users, а когда ожидания не совпали, запустил команду rm -rf "/c/Users/harih/", стерев все файлы и папки в профиле пользователя.

Я попросил Claude Opus 5 создать резервную копию. Вместо этого он создал бэкап не в той директории, а затем выполнил "rm -rf" на всём моём диске. Стерев всё, он просто ответил: "Извини, опечатка"... как будто ничего не произошло.

Пользователь также добавил, что это был одновременно самый смешной и самый болезненный момент с ИИ в его жизни.

Урок здесь в том, что при всей своей мощи большие языковые модели не стоит наделять неограниченным доступом к системе. Уже накопилось немало примеров, когда ИИ и ИИ-агенты выводили из строя машины, удаляя всё подчистую.

Один из ранних случаев касался платформы для написания кода, которая удалила всю базу данных компании несмотря на заморозку кода. Агентный ИИ от Google без разрешения стёр диск пользователя, неверно истолковав инструкцию очистить кэш.

Хотя выход ИИ-инструмента за рамки дозволенного и служит основной причиной таких ошибок, часть вины лежит и на пользователе, полагающем, что ИИ полностью понимает поставленную задачу. Именно поэтому языковым моделям нельзя давать полный доступ к важным системам и свободу запускать команды удаления вроде "rm -rf".