-
Rolnik z Chin użył szczegółowych zaleceń AI do oprysków na polu sezamu, nie konsultując się ze specjalistą, co doprowadziło do zniszczenia 10 hektarów uprawy.
-
AI zaproponowała użycie środków chemicznych, w tym fomesafenu, który według lokalnych specjalistów nie nadaje się do pełnego oprysku pól sezamu.
-
Przyczyną problemu było traktowanie odpowiedzi AI jako sprawdzonych, podczas gdy system nie posiada specjalistycznej bazy wiedzy ani nie znał szczegółów sytuacji na polu.
-
Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Do zdarzenia doszło w Chuzhou w chińskiej prowincji Anhui. Rolnik o nazwisku Wu od około roku korzystał AI – pytał go o terminy prac polowych, nawożenie i stosowanie pestycydów. Początkowo podchodził do odpowiedzi z rezerwą, ale z czasem, po serii porad, które okazywały się przydatne, zaczął coraz bardziej ufać sztucznej inteligencji.
10 lipca zapytał, jak jednocześnie pozbyć się chwastów i owadów z pola sezamu. AI przygotowała dla niego pełny plan oprysku dużego areału. Wśród zalecanych preparatów znalazły się środki chwastobójcze i owadobójcze, między innymi tiametoksam i benzoesan emamektyny. Wu zastosował mieszankę na całym polu, nie sprawdzając wcześniej zaleceń u specjalisty.
Skutek pojawił się niemal natychmiast. Około 10 hektarów uprawy zaczęło zamierać. „Po oprysku następnego dnia siewki już sobie nie radziły. Trawa i siewki zginęły razem, a siewki jeszcze szybciej” – mówił rolnik cytowany przez chińskie media.
Błędna porada AI zniszczyła uprawę sezamu
Po zniszczeniu upraw Wu ponownie zapytał AI, co mogło pójść nie tak. Dopiero wtedy otrzymał informację, że jednym z prawdopodobnych powodów szkód był fomesafen, środek chwastobójczy stosowany przede wszystkim w uprawach soi.
Lokalni specjaliści potwierdzili, że preparat nie nadaje się do opryskiwania całego pola sezamu. Trzeba stosować go w sposób ograniczający kontakt z rośliną, na przykład kierując oprysk wyłącznie na chwasty. Rozpylenie środka na całej powierzchni pola może uszkodzić uprawę.
AI nie korzysta z własnej specjalistycznej bazy wiedzy. Odpowiedzi powstają na podstawie publicznie dostępnych informacji z internetu. Firma zapowiedziała sprawdzenie, z jakich źródeł pochodziły zalecenia przekazane rolnikowi.
Szczegółowa odpowiedź AI nie jest poradą specjalisty
W przypadku Wu dodatkowym problemem było to, że zaufanie do AI rosło stopniowo. Wcześniejsze porady wydawały się działać, więc rolnik zaczął traktować program jak sprawdzone źródło wiedzy. Tymczasem sztuczna inteligencja nie widziała pola, nie znała stanu roślin ani miejscowych zaleceń dotyczących stosowania konkretnych środków.
Błędne odpowiedzi generowane przez modele językowe powodowały już problemy między innymi w prawie, medycynie, finansach, edukacji i mediach. Kłopot zaczyna się zwłaszcza wtedy, gdy odpowiedź AI zastępuje sprawdzenie informacji u człowieka, który zna daną dziedzinę.