67-летний фермер из китайской провинции Аньхой практически лишился урожая кунжута на площади около 10 гектаров после того, как воспользовался схемой обработки поля, предложенной искусственным интеллектом.
Случай произошёл в городе Чучжоу. По данным китайских СМИ, мужчина по фамилии У уже больше года использовал ИИ для решения сельскохозяйственных вопросов — спрашивал, когда вносить удобрения, чем бороться с вредителями и как ухаживать за посевами. Постепенно он настолько привык к таким рекомендациям, что перестал дополнительно проверять их у агрономов.
10 июля фермер попросил ИИ составить схему одновременной борьбы с сорняками и насекомыми на большом поле кунжута. В ответ он получил подробный план обработки, включавший несколько препаратов. Среди них оказался гербицид на основе фомесафена — вещества, применяемого прежде всего против широколистных сорняков на соевых полях.
Мужчина не стал консультироваться со специалистами и обработал всё поле с помощью сельскохозяйственного дрона. Уже на следующий день стало понятно, что что-то пошло не так: вместе с сорняками начал массово погибать и сам кунжут.
По словам фермера, растения увяли даже быстрее сорной растительности. В результате пострадали около 150 китайских му земли — это примерно 10 гектаров. Местные публикации оценивают ущерб примерно в 150 тысяч юаней.
В чём была ошибка ИИ
После гибели растений фермер снова обратился к искусственному интеллекту и уже тогда получил ответ, что причиной повреждения мог стать фомесафен.
Местные агротехнические специалисты пришли к похожему выводу: препарат не предназначался для сплошной обработки кунжутного поля. Фомесафен является контактным гербицидом и способен серьёзно повреждать растения, для которых такая обработка не предусмотрена. Даже официальные инструкции к препаратам на его основе предупреждают, что попадание вещества на чувствительную растительность может вызвать тяжёлые повреждения вплоть до гибели растений.
Таким образом, проблема заключалась не просто в неправильной дозировке. ИИ фактически включил в готовую схему препарат, применимость которого к конкретной культуре требовала отдельной профессиональной проверки.
Почему фермер доверился ответу
По словам мужчины, раньше рекомендации ИИ казались ему достаточно точными, поэтому со временем он начал воспринимать их как полноценную замену консультациям специалистов.
После случившегося фермер обратил внимание, что в интерфейсе сервиса действительно присутствовало предупреждение о возможных ошибках в ответах искусственного интеллекта. Раньше он его практически не замечал.
Представители сервиса заявили китайским СМИ, что ответы формируются на основе общедоступной информации из интернета и не являются специализированной агрономической базой знаний. Информацию о случае пообещали дополнительно проверить.
История в Аньхое показывает одну из главных проблем использования ИИ в сферах, где ошибка сразу приводит к реальному ущербу. Чат-бот способен быстро составить убедительно выглядящую инструкцию, однако сам формат подробного ответа не означает, что рекомендации проверены для конкретного сорта растения, препарата, дозировки или способа обработки.
В случае с сельскохозяйственными химикатами именно эти детали могут определять разницу между уничтожением сорняков и потерей всего урожая.
