Подробный ответ чат-бота показался китайскому фермеру готовой инструкцией. Мужчина обработал поле рекомендованными препаратами, а на следующий день вместе с сорняками начали погибать всходы кунжута.
67-летний фермер У из города Чучжоу рассказал изданию Litchi News, что пользовался ИИ больше года. Мужчина спрашивал у чат-бота, когда вносить удобрения и применять средства от вредителей. Подробные ответы постепенно убедили фермера отказаться от дополнительной проверки.
10 июля мужчина запросил схему обработки кунжута от сорняков и насекомых с помощью дрона. ИИ рекомендовал два гербицида и два инсектицида, включая фомесафен.
Фермер обработал по предложенной схеме 150 му земли, или около 10 гектаров. Уже на следующий день кунжут и сорняки начали массово увядать, причём всходы сельскохозяйственной культуры пострадали сильнее.
После гибели растений мужчина снова обратился к чат-боту. Система назвала причиной фомесафен, ранее включённый в схему обработки.
Местные агротехники объяснили, что фомесафен применяют главным образом против широколиственных сорняков на полях сои. Кунжут также относится к широколиственным растениям, поэтому гербицид нельзя распылять по всему полю.
Название приложения журналисты не раскрыли. Представители сервиса сообщили, что чат-бот не использует собственную сельскохозяйственную базу знаний, а собирает ответы из открытых интернет-источников. Платформа зарегистрировала сведения об ущербе, но не сообщила о компенсации.
На странице сервиса находилось предупреждение о возможных ошибках ИИ и необходимости проверять ответы. Фермер не заметил уведомление. Китайские правила требуют размещать предупреждения о сгенерированном контенте на видном месте.
Юристы считают, что ответственность можно определить только после изучения действий платформы, продавца препаратов и фермера. Причину гибели посевов также должна подтвердить профессиональная экспертиза.