Chatbot zachęcał grzybiarzy do przyrządzania niebezpiecznych grzybów

Media społecznościowe są miejscem, gdzie wiele osób może znaleźć lub udzielić porad związanych m.in. z obsługą popularnych i specjalistycznych programów, domowego majsterkowania, czy rozpoznawania grzybów. Wystarczy parę sekund poszukiwania, aby szybko zlokalizować polskie grupy użytkowników na Facebooku, pomagające zidentyfikować poszczególne gatunki. Do jednej z takich anglojęzycznych grup, liczącej ponad 13 tys. osób Northeast Muschroom Identification & Discussion, dodano agenta AI o nazwie FungiFriend. Poinformował on użytkowników jak "podsmażyć na maśle" potencjalnie niebezpiecznego grzyba. 

Northeast Muschroom Identification & Discussion miało być miejscem w sieci, które pomoże początkującym zbieraczom zidentyfikować poszczególne gatunki grzybów tak, aby uniknąć zatrucia. Dość nietrafionym pomysłem okazało się dodatnie tam chatbota. Jak poinformował moderator grupy, nie był on przyjęty, nie doszło do włamania, a został tam umieszczony przez... firmę Meta. Dodał w rozmowie z 404 Media, że "z całą pewnością go stąd usuniemy".

Bot przedstawiony jest jako brodaty psychodeliczny czarodziej. Jeden z członków grupy zapytał go "jak ugotować Sarcosphaera coronaria", czyli koronicę ozdobną - grzyba występującego również w Polsce, który kiedyś uważano za jadalny. Teraz wiadomo, że uszkadza wątrobę, a zjedzenie go (zwłaszcza w formie surowej) może doprowadzić do śmierci. FungiFriend odpowiedział, że jest on "jadalny, ale rzadki" i dodał, że "metody gotowania wymieniane przez niektórych entuzjastów obejmują smażenie na maśle, dodawanie do zup lub gulaszów i marynowanie".

Sytuacja przypomina nieco tę opisywaną w GeekWeeku w maju, kiedy to sztuczna inteligencja polecała jedzenie kilku kamieni dziennie, czy dodanie nietoksycznego kleju do pizzy, aby ser lepiej trzymał się ciasta. Nie mówiąc już o wielu innych, wypisywanych przez modele AI głupotach. Biorąc pod uwagę etap rozwoju sztucznej inteligencji, skrajnie nieodpowiedzialne jest dodawanie jej wszędzie, gdzie to tylko możliwe. Tym bardziej przez firmę, która ze względu na zasięg powinna szczególnie dbać o bezpieczeństwo użytkowników.

Ostatnie miesiące widocznie mijają pod znakiem sztucznej inteligencji, która zachwyciła wiele osób. Rozwiązania oparte na AI są masowo wdrażane w firmach. Jak pokazuje wiele przypadków, włącznie z tymi, kiedy AI zachęciło do popełnienia samobójstwa, powinniśmy zachować ostrożność.

W przypadku identyfikacji grzybów tradycyjnym źródłem były atlasy, gdzie można było sprawdzić dziesiątki gatunków i odmian. Technologia wyszła nam naprzeciw, dzięki czemu podczas grzybobrania wystarczy smartfon. Pomocne mogą być nawet takie aplikacje jak Google Lens (Obiektyw Google), który po wykonaniu zdjęcia znajduje podobne grzyby, co ułatwia identyfikację. Niestety są doniesienia, że wśród nich pojawiają się także obrazy generowane przez sztuczną inteligencję.

Pozostaje nam jedynie zachować pewną dozę rozsądku i pamiętać, że nasze życie nie musi być przesiąknięte technologią. Czasem można spędzić czas offline z książkową wersją atlasu, a najlepiej ze zbiorem grzybów, których nie jesteśmy pewni, udać się do stacji sanepidu. Tam ekspert oceni wszystkie grzyby, co pozwoli uniknąć (często śmiertelnego) zatrucia.

Źródło: 404media.co

***

Bądź na bieżąco i zostań jednym z 88 tys. obserwujących nasz fanpage - polub Geekweek na Facebooku i komentuj tam nasze artykuły!