Господин Ву из округа Чучжоу год назад начал использовать ИИ для решения сельскохозяйственных задач. Сначала 67-летний фермер относился к рекомендациям нейросети с недоверием, но после нескольких удачных советов решил положиться на технологию полностью. Однако последний запрос обернулся катастрофой.
Тайваньская компания Ctwant сообщает, что в поисках эффективного средства от сорняков и вредителей фермер обратился к ИИ. Тот порекомендовал смешать определённые препараты с «метиловой солью». Уже на следующий день после обработки поля погибли не только сорняки, но и все всходы кунжута.
Когда господин Ву спросил ИИ о причинах, нейросеть предположила, что проблема в «флусульфасульфаэфире». Сельскохозяйственные эксперты позже объяснили: это вещество предназначено для точечной борьбы с широколистными сорняками на соевых полях, а не для сплошной обработки. Сам фермер признаётся, что не проверял рекомендации у специалистов и даже не искал информацию в других источниках.
В интерфейсе ИИ-чат-бота было предупреждение, что его ответы могут быть ошибочными и их нужно перепроверять. Однако господин Ву утверждает, что не получил предупреждения о рисках при использовании опасных веществ.
