- Wyobraźmy sobie, że zebraliśmy bardzo dużo danych o atakach sieciowych. Sztuczna inteligencja nauczyła się je rozpoznawać, ale w międzyczasie hakerzy wymyślili nowe sposoby ataków. Wcześniej wyuczone modele z nowymi formami ataków będą sobie radzić gorzej. Tak samo jest z obserwacją wirusa, mutującego tak szybko jak covid-19 - o wykorzystywaniu sztucznej inteligencji w zwalczaniu pandemii koronawirusa opowiada w rozmowie z Interią prof. dr hab. Dominik Ślęzak, profesor w Instytucie Informatyki Uniwersytetu Warszawskiego, prezes i założyciel firmy informatycznej QED Software.
W niedawnym artykule opublikowanym w MIT Technology Review, czasopiśmie prestiżowej amerykańskiej uczelni Massachusetts Institute of Technology, podano, że od wybuchu pandemii powstały setki narzędzi sztucznej inteligencji, nakierowanych na pomoc lekarzom w detekcji koronawirusa. Żadne z nich nie okazało się jednak strzałem w dziesiątkę. Dlaczego? Jakie warunki muszą zostać spełnione, by nowoczesne technologie realnie wsparły służby medyczne w konfrontacji z covid-19? I co lekcje wyniesione z pandemii mogą oznaczać dla przyszłości medycyny? Zapraszamy do lektury rozmowy z ekspertem.
Dariusz Jaroń, Interia: Kiedy sztuczna inteligencja może realnie pomóc lekarzom w walce z pandemią koronawirusa?
Prof. dr hab. Dominik Ślęzak, Uniwersytet Warszawski, prezes QED Software: - Zacznę od wyjaśnienia, że na sztuczną inteligencję można patrzeć na różne sposoby. W dzisiejszych czasach najbardziej popularnym jej aspektem są zastosowania związane z uczeniem maszynowym, czy też używając języka bardziej staromodnego - z analizą danych. Obserwujemy ten trend również w pandemii covid-19. Specjaliści próbują wykorzystywać gromadzone na różne sposoby dane do uczenia modeli wykrywających najważniejsze symptomy wirusa, wspierających stawianie diagnoz, prognozujących, jak wirus będzie się rozwijał i jak ten rozwój możliwie najefektywniej ograniczyć.
Brzmi pomocnie.
- Bo to są wszystko bardzo dobre pomysły, nie tylko w przypadku koronawirusa. Sukces zależy jednak od jakości danych wykorzystywanych w procesie uczenia modeli metodami sztucznej inteligencji. Jeżeli te dane są mało reprezentatywne czy niekompletne lub zostały źle zebrane, to co sztuczna inteligencja może zrobić? Modele są uczone na otrzymanych informacjach. Jakość wyników zależy od jakości danych uczących, jakie jesteśmy w stanie zapewnić. To tak jak z ludzkimi zmysłami - jeśli zmysły przekazują mózgowi błędne informacje, to mózg jest bezradny, szczególnie jeśli jest to mózg dziecka, które dopiero czegoś się uczy.
Narzędzi zaprojektowanych do tego, by pomagały lekarzom w walce z pandemią powstało wiele, gorzej z ich skutecznością. Przez niewystarczające dane?
- Być może ludzie zbyt wiele od sztucznej inteligencji oczekiwali? Dane, jakie dotychczas udało się zebrać o wirusie są nadal niekompletne. Nie wiemy wszystkiego, nawet jeśli na pierwszy rzut oka wydaje się, że informacji jest bardzo dużo. Dane trzeba odpowiednio przygotowywać, kategoryzować, a wirus nie stoi w miejscu, bardzo dynamicznie się rozwija. W dodatku stosowanie metod sztucznej inteligencji, jeśli faktycznie dane rozwiązanie miałoby pomóc lekarzom, nie uda się bez ścisłej współpracy z nimi. To nie jest tak, że mamy dane, siadają programiści, przedstawiają jakieś magiczno-matematyczne parametry w algorytmach i wychodzą z tego od razu cudownie odzwierciedlające rzeczywistość modele.
Merytoryczna kontrola przede wszystkim?
- Kontrola, a jeszcze lepiej - interakcja. Modele powstające na podstawie danych muszą być pieczołowicie sprawdzane - tutaj przez lekarzy, wirusologów. Eksperci z danej dziedziny powinni móc dać swój feedback, a do tego muszą istnieć odpowiednie narzędzia. Ich uwagi powinny wracać do specjalistów od uczenia maszynowego. To musi być ciągły dialog. Dlatego zarówno w pracy akademickiej jak i we własnej firmie, kładę nacisk na rozwój oprogramowania pozwalającego pochylać się wspólnie - ekspertom dziedzinowym i specjalistom od analizy danych - nad przyczynami błędnego działania metod sztucznej inteligencji, a także dążyć do poprawy jakości danych i skuteczności wyuczanych modeli.
W przypadku mutującego wirusa ten kontakt musi być zapewne nieustający. Jak taka modelowa współpraca powinna wyglądać?
- Uczenie maszynowe bazuje na zebraniu pewnych danych treningowych, na których algorytmy uczą się - jak już wspomniałem - określonego modelu postępowania, np. rozpoznawania wirusa, czy możliwych kierunków rozwoju pandemii. Wprowadzenie danych treningowych to krok pierwszy. W kolejnym wykorzystuje się zazwyczaj osobne dane testowe, których algorytm nie znał. Służą one sprawdzeniu, czy nauczyliśmy się czegoś sensownego. W przypadku koronawirusa, który rzeczywiście szybko ewoluuje, nowe dane będą się różnić od tych, które wykorzystaliśmy do nauki. Modele mają zatem utrudnione zadanie, ale podobnie sprawa wygląda też w wielu innych dziedzinach, np. w cyberbezpieczeństwie. Ważnym zadaniem dla twórców nowych metod sztucznej inteligencji jest w istocie wyłapywanie analogii pomiędzy różnymi dziedzinami zastosowań.
Na przykład?
- Wyobraźmy sobie, że zebraliśmy bardzo dużo danych o atakach sieciowych. Sztuczna inteligencja nauczyła się je rozpoznawać, ale w międzyczasie hakerzy wymyślili nowe sposoby ataków. Wcześniej wyuczone modele z nowymi formami ataków będą sobie radzić gorzej. Tak samo jest z obserwacją wirusa, mutującego tak szybko jak covid-19. Dane poddawane analizie trzeba cały czas uaktualniać, to musi być ciągły proces, trzeba karmić modele nowymi danymi i bardzo dokładnie analizować szczególnie te przypadki, w których modele popełniają błędy. Oczywiście takie dziedziny jak analiza ataków sieciowych i walka z covid-19 są od siebie kompletnie różne i wymagają współpracy z różnymi grupami ekspertów dziedzinowych. Ale mimo wszystko, choćby na poziomie rozumienia dynamiki danych, takie analogie mogą się przydać. Inny przykład nieoczywistej na pierwszy rzut analogii to analiza rozprzestrzeniania się wirusa w porównaniu z rozchodzeniem się informacji w sieciach społecznościowych. Naprawdę, w pracach nad tak złożonymi problemami warto bazować na doświadczeniach z różnych dziedzin.
Wspomniał pan profesor, że może zbyt wiele oczekiwaliśmy od sztucznej inteligencji w kwestii rozpoznawania i przeciwdziałania pandemii. A czy nie oczekujemy zbyt wiele od firm, licząc na to, że odłożą na bok chęć zarobku, by współpracować dla dobra ogółu?
- Kiedy mamy do czynienia z taką dużą ilością danych, które ciągle przyrastają, nie da się osiągnąć dobrych rezultatów bez współpracy grup interdyscyplinarnych. Zajmuję się sztuczną inteligencją od ponad ćwierć wieku i nigdy nie udało mi się osiągnąć naprawdę praktycznie znaczących rezultatów bez ścisłej współpracy z ekspertami z danej dziedziny. W przypadku tak wielkich przedsięwzięć jak walka z covid-19, jest potrzeba budowania różnych mostów - pomiędzy naukowcami z różnych dziedzin medycyny i informatyki, czy też pomiędzy przemysłem i środowiskiem akademickim. W przemyśle jest wbrew pozorom bardzo dużo ludzi nauki, pracujących dla większych i mniejszych firm, które powinny nauczyć się jednoczyć, wchodzić w kooperację z fachowcami także z uczelni i instytutów badawczych. Unia Europejska jest zresztą teraz bardzo aktywna we wspieraniu budowy takich mostów.
W jaki sposób?
- Bruksela zapewnia dodatkowe środki na usprawnianie współpracy między firmami i przedstawicielami środowiska akademickiego. Pandemia to problem ważny społecznie, ale też wieloaspektowy - chodzi o rozpoznanie wirusa, szukanie nowych leków, testów, szczepionek, o szukanie dróg rozwoju wirusa, korelacji pomiędzy tym, jak sobie radzą szczepionki, a jakie są nowe warianty choroby. Tych tematów jest naprawdę wiele. Unia stara się być aktywna w systemie zachęt, żeby poszczególni specjaliści, firmy, zespoły naukowe, bardziej ze sobą współpracowały niż rywalizowały, bo współpraca zawsze przynosi lepsze rezultaty. To samo dotyczy pozyskiwania danych. Ich źródła są rozproszone, a wiemy już jak ważne w uczeniu maszynowym jest zebranie i wyselekcjonowanie odpowiednio bogatych i reprezentatywnych danych do nauki modeli sztucznej inteligencji.
Znane są przykłady takiej dobrej współpracy w zakresie medycyny?
- Ja sam miałem kiedyś możliwość współpracy z wysokiej klasy onkologiem, który przez lata gromadził dane związane z nowotworami gardła i krtani, po to by zweryfikować, w jakich sytuacjach można stosować mniej inwazyjne metody operacji. Parę lat temu moja firma wspomagała rozwój oprogramowania wykrywającego szypułki włosów na zdjęciach głowy, usprawniającego badania dermatologiczne. Teraz natomiast rozpoczynamy we współpracy z jedną z polskich uczelni medycznych projekt mający na celu określenie problemów w górnych partiach kręgosłupa na podstawie zdjęć rentgenowskich i trajektorii ruchu głowy rejestrowanych podczas ćwiczeń. Wracając jednak do sedna, czyli do jednoczenia sił różnych grup i ośrodków w procesie gromadzenia danych, można np. wspomnieć o analizie obrazu, a w szczególności o powstałych już - ponad podziałami - wspólnych repozytoriach skanów i modeli nowotworów, dzięki którym poszczególne grupy badawcze mają dostęp do większych i dokładniejszych zbiorów danych. Ten trend powinien dotyczyć także koronawirusa, np. jeśli chodzi o zdjęcia przedstawiające zmiany w płucach. Patrząc na sprawę ogólniej, procesy globalnego gromadzenia danych o covid-19 już mają miejsce, np. dzięki inicjatywie WHO. Z drugiej zaś strony, trzeba tu tym bardziej uważać na prywatność pacjentów. Bezpieczeństwo danych to bardzo ważny aspekt, i nie można przyjąć, że w imię walki z koronawirusem możemy łamać zasady ochrony informacji wrażliwych.
W trakcie pandemii sztuczna inteligencja przysłużyła się medycynie?
- Myślę, że szczególnie w pierwszej fazie pandemii, kiedy covid-19 się rozwijał, a ludzka wiedza o nim była wciąż ograniczona, metody szybkiego zbierania i analizowania danych wykonały bardzo dobrą pracę, dały nam solidny punkt startowy. Co więcej, co pewien czas można usłyszeć, że różne podejścia z pogranicza uczenia maszynowego, modelowania i symulacji komputerowych, przynoszą nowe odkrycia w dziedzinie ulepszania szczepionek i wykrywania słabych punktów koronawirusa. Jednak apetyt rośnie w miarę jedzenia. Chcielibyśmy szybkiego rozwiązania wszystkich problemów, a to nie jest takie proste. Koronawirus to straszna tragedia, najlepiej, gdyby nigdy się nie zdarzyła, ale skoro pandemia już nas dotknęła, to musimy ją potraktować jako wyzwanie społeczne i naukowe. W takiej dziedzinie jak sztuczna inteligencja, pandemia jest swoistym kołem napędowym - zarówno dla firm komercyjnych, jak i ośrodków naukowych - do rozwoju nowych metod.
Można zatem nazwać obecną pandemię poligonem dla rozwiązań sztucznej inteligencji? Przećwiczyliśmy coś, wiemy, co działa, co nie, będziemy mądrzejsi i skuteczniejsi w przyszłości?
- Powiedziałbym raczej - wyzwanie i inspiracja, nie poligon. Podkreślam raz jeszcze - wolałbym, żeby do obecnej sytuacji z covid-19 nigdy nie doszło, ale to jest tak jak kiedyś z zimną wojną, która zainicjowała bez wątpienia rozwój technologiczny w wielu dziedzinach. Ta sytuacja daje nam też motywację do dalszego rozwoju sztucznej inteligencji. Nie chciałbym, by zabrzmiało to bezdusznie, ale w pewnym sensie pandemia przysłużyła się rozwojowi nauki, w tym sztucznej inteligencji - zwróciła naszą uwagę na to, czego w dotychczasowych metodach sztucznej inteligencji wciąż brakuje, a także jakie są naturalne ograniczenia tych metod.
Dokąd nas ten rozwój w medycynie może zaprowadzić?
- Zawsze patrzyłem na sztuczną inteligencję jak na zestaw narzędzi, dziedzinę nauki, zastosowań informatyki, która ma nas wspierać, a nie wyręczać. Odpowiednio opracowane metody szybkiej analizy danych, wzbogacone analizą jakościową, interakcją z ekspertami dziedzinowymi, mogą być doskonałymi narzędziami, usprawniającymi pracę specjalistów.
Jak te usprawnienia mogłyby wyglądać w praktyce?
- Algorytm w ułamku sekundy jest w stanie przetworzyć informacje, wskazać konkluzje i przesłanki, może dać szybki dostęp do najbardziej obiecujących hipotez, które następnie lekarz weryfikuje. Sztuczna inteligencja może również błyskawicznie zawęzić możliwości wymagające zbadania, przypadki oczywiste rozstrzygać sama, a wiedza obłożonych pracą lekarzy i specjalistów byłaby wówczas wykorzystywana w przypadkach trudniejszych, nieoczywistych, gdzie algorytmy nie byłyby jeszcze pewne osądu. Widzę przyszłość sztucznej inteligencji jako współpracę ekspertów z tworzonymi przez nią modelami. Bez wątpienia warto stawiać na kooperację maszyny z człowiekiem, tak w medycynie, jak i w wielu innych dziedzinach życia.
Król szczurów zwiastuje nieszczęście. Tym razem znaleziono go w Rosji
Kto będzie uczył etyki w szkołach?
