Zobaczcie, jak szybko można zhakować medyczne tomografy i rezonansy
Kiedy udajemy się na tomografię komputerową lub rezonans magnetyczny, chcielibyśmy wierzyć, że podawane przez nie wyniki są wiarygodne, bo badania kosztują krocie. Niestety, nie możemy być,a to z powodu hakerów.
Niby tak, ale okazuje się, że w dzisiejszych czasach niczego nie można być pewnym, bo jak właśnie udowodniła grupa naukowców, również takie urządzenia są podatne na ataki hakerskie, które potrafią zmieniać obraz oglądany przez radiologa niemal w czasie rzeczywistym, a wszystko za sprawą generative adversarial network (GAN).
Jest to jedna z klas systemów maszynowego uczenia, w której dwie sieci neuronowe konkurują ze sobą w grze o sumie zerowej, dzięki czemu są w stanie generować fotografie wyglądające tak autentycznie, że ludzkie oko nie będzie w stanie zorientować się, że to fałszywka. Badacze stworzyli malware, który jest w stanie tak zmodyfikować skany rezonansu i tomografii, żeby doprowadzić radiologów do błędnej diagnozy, np. niemal w czasie rzeczywistym dorysowując realistycznie wyglądające, ale nieistniejące guzy nowotworowe.
Co ciekawe, w celu pokazania skuteczności tego oprogramowania naukowcy pokazali 70 skanów płuc trzem doświadczonym radiologom. Okazało się, że maszyna była w stanie ich oszukać niemal za każdym razem - kiedy spoglądali na fałszywe guzy nowotworowe, niemal w 99% diagnozowali na ich podstawie raka. Później radiolodzy dowiedzieli się, że zostali oszukani i dostali drugą szansę z 20 kolejnymi skanami, wtedy ich diagnozy nieco się zmieniły, bo byli w błędzie „tylko” w 60% przypadków.
Co więcej, badacze później przeprowadzili identyczny test, ale zamiast radiologów wykorzystali oprogramowanie zaprojektowane do wykrywania raka płuc na podstawie zdjęć (radiolodzy korzystają z niego w celu potwierdzenia własnej opinii) i okazało się, że to nie było w stanie wychwycić fałszywki i 100% przypadków stawiało błędną diagnozę. No dobra, tylko po co to wszystko? Badacze chcieli zwrócić uwagę na fakt, że urządzenia medyczne, na których tak bardzo polegamy, nie są w pełni bezpieczne i wymagają więcej uwagi.
I choć trudno sobie wyobrazić, kto mógłby chcieć zmieniać wyniki badań, to nie można zapominać, że obecnie stosuje się równie perfidne zagrywki polityczne. Nietrudno sobie bowiem wyobrazić, jak łatwo można się pozbyć kontrkandydata, kiedy ten dowie się, że rzekomo choruje na nowotwór - nie wspominając już o tym, że cała sytuacja może skończyć się inwazyjnym leczeniem, którego pacjent wcale nie potrzebuje! Mówiąc krótko, przed nami nowe zagrożenia, na które dotąd nie byliśmy przygotowani.
Źródło: GeekWeek.pl/techspot
