Как сообщает издание CTWANT, 67-летний фермер из китайского города Чучжоу начал знакомство с ИИ-помощником год назад. Он спрашивал чат-бот практически обо всем — от организации времени ведения сельского хозяйства, внесения удобрений до использования пестицидов. Сначала мужчина скептически относился к предложениям ИИ, но после того, как некоторые решения оказались эффективными, потерял бдительность.
Через несколько месяцев плодотворных консультаций он решил в точности следовать новому плану по использованию пестицидов, составленному языковой моделью. Согласно ему фермер обработал около 10 гектаров саженцев кунжута. При этом ни разу не проконсультировался со специалистами и не ознакомился с дополнительной документацией.
Сгенерированный план представлял собой гремучую смесь агрохимикатов, которая включала два высокоэффективных средства от сорняков и еще два пестицида для борьбы с насекомыми-вредителями. В итоге не прошло и дня после обработки, как молодой урожай кунжута начал увядать и погибать.
В своем интервью местному телеканалу мужчина предостерег других фермеров от использования этого состава, отметив, что погибнут и трава, и рассада, причем саженцы быстрее.
Позже местные агротехники рассказали, что эфир фторсульфонамида, который применил пострадавший фермер, в основном используется на полях сои для борьбы с широколиственными сорняками, но не подходит для кунжута. Для некоторых других культур им проводят направленное точечное опрыскивание. Нанесение на все поле может нанести вред.
Это очередной случай, когда большая языковая модель выдала неверную информацию, из-за чего у пользователя возникли серьезные проблемы. Ранее американская рейтинговая компания NewsGuard представила отчет, согласно которому за 2025 год скорость, с которой чат-боты распространяют ложную информацию, удвоилась. Поэтому слепо доверять советам ИИ не стоит, риск ошибки высок.
Тем временем в России ИИ хотят проверять на уровень нравственности.