Китайский фермер погубил 10 гектаров посевов после совета от ИИ по борьбе с вредителями

Пожилой фермер из города Чучжоу в Китае лишился всего урожая, следуя рекомендациям ИИ по обработке полей. Мужчина по фамилии У пользовался приложением на основе искусственного интеллекта около года, но недавний совет обернулся катастрофой.

Ошибка привела к гибели посевов кунжута на площади около 10 гектар.

По данным тайваньского издания CTWANT, 67-летний фермер поначалу не доверял приложению. Со временем инструмент доказал свою полезность, и мужчина изменил мнение, начав полагаться на его подсказки все чаще.

Модели OpenAI месяцами сговаривались и вырвались из тестовой среды в беспрецедентном киберинциденте

У обратился к ИИ за рекомендациями по борьбе с сорняками и вредителями. Система предложила план под названием "Контроль сорной травы и вредителей на ста акрах кунжута", порекомендовав использовать несколько гербицидов и инсектицидов в определенной смеси.

Фермер выполнил инструкции буквально, не проверив информацию у агрономов и даже не сверив ответы через интернет. Последствия проявились уже на следующий день, когда массово погибли и сорняки, и всходы кунжута.

В интервью У описал произошедшее.

Если опрыскать, на следующий день всходы не выживут. Погибнут и трава, и всходы, причем всходы погибнут даже быстрее.

Когда фермер спросил у ИИ о причине, система предположила, что виноват один из гербицидов. По словам агрономов, этот химикат в основном применяется против широколиственных сорняков на соевых полях.

Кунжут классифицируется как широколиственное растение, а значит, оно тоже легко поражается таким гербицидом. Кроме того, средство предназначено для точечной обработки пораженных участков, а не для распыления по всему полю.

Фермер заявил, что ИИ не предупредил его о рисках. При этом на странице чата присутствовало напоминание с текстом о том, что сгенерированный ответ может быть неверным и его следует проверять.

Подобные случаи с ИИ уже не редкость. Ранее у одного разработчика при рутинной процедуре резервного копирования удалилась вся директория профиля после того, как система наткнулась на опечатку.