Toksyny z generatora AI. Chiny opracowały potencjalną broń biologiczną

Sztuczna inteligencja jest często postrzegana jak miecz obosieczny. Z jednej strony udowadnia ona swój potencjał w przynoszeniu korzyści całej ludzkości, wspierając postępy w medycynie i naukach ścisłych, lecz z drugiej strony modele pozbawione hamulców etycznych pomagają też oszustom, hakerom czy inżynierom pracującym z niebezpiecznymi substancjami.

Według doniesień prestiżowego "Nature" szczególne zaniepokojenie wśród naukowców wywołały niedawne sygnały z Chin, gdzie zespół naukowców z Uniwersystetu w Chongqing stworzył narzędzie AI do projektowania konotoksyn - białek produkowanych przez ślimaki morskie z rodzaju stożków, o których wcześniej informowaliśmy w GeekWeeku. Choć niektóre z tych substancji mają potencjał terapeutyczny w leczeniu bólu, ich naturalne odpowiedniki bywają śmiertelnie niebezpieczne dla ludzi, a na ich jad nie istnieje żadna antytoksyna.

Publikacja ta wywołała zaniepokojenie wśród amerykańskich urzędników oraz części społeczności akademickiej, zwłaszcza że chiński generator AI opiera się na rozwiązaniach Open Source stworzonych w USA. Szef wspomnianego zespołu, Weiwei Xue, odpiera jednak zarzuty, twierdząc, że celem badań jest wyłącznie poszukiwanie leków, a samo przełożenie cyfrowych projektów na fizyczne cząsteczki wymaga ogromnej wiedzy i specjalistycznego sprzętu. Z drugiej strony tych przecież w Chinach nie brakuje, a mocarstwo może być zainteresowane potencjałem ofensywnym wspomnianych toksyn.

Podczas gdy chińscy naukowcy zapewniają o dobrych intencjach, debata nad bezpieczeństwem biologicznym nabiera tempa. Eksperci alarmują, że sztuczna inteligencja zdolna jest do projektowania substancji zagrażających zdrowiu i życiu człowieka. "Teoretycznie - i to nie daje mi spać w nocy - ktoś teraz mógłby stworzyć toksyny na poziomie rycyny lub innych śmiertelnie niebezpiecznych środków, które byłyby praktycznie niewykrywalne" - skomentował Martin Pacesa, biolog strukturalny z Uniwersytetu w Zurychu.

Specjaliści identyfikują dwa główne nurty zagrożeń. Pierwszym jest wykorzystanie ogólnodostępnych czatbotów przez amatorów do nauki wytwarzania znanych patogenów, takich jak wąglik. Drugim, znacznie poważniejszym, jest generowanie zupełnie nowych, syntetycznych wirusów pandemicznych przez dobrze sfinansowane grupy lub państwa. Mogą one korzystać z własnych modeli pozbawionych zasad etycznych. Wspomniany zespół z Chongqing nie korzystał wszak z ChatGPT, Gemini ani Claude'a, lecz napisał własne narzędzie.

Istnieją obawy, że AI mogłaby zostać użyta do modyfikacji wirusów takich jak SARS-CoV-2 czy grypa, tak by skuteczniej omijały one układ odpornościowy człowieka. Choć brzmi to groźnie, to według raportu amerykańskiej akademii NASEM z 2025 r. jesteśmy jeszcze względnie daleko od realizacji scenariuszów rodem z thrillerów medycznych. Dokument wskazuje na liczne bariery techniczne, w tym brak wystarczających danych łączących sekwencję genetyczną z cechami takimi jak zaraźliwość.

David Baker z University of Washington zauważa natomiast, że natura sama w sobie oferuje wystarczająco dużo zagrożeń. "Jeśli chcesz wywołać szkody na wielką skalę, nie potrzebujesz zaprojektowanych do tego protein" - stwierdził noblista z dziedziny chemii.

Sztuczna inteligencja nie stoi jednak w miejscu. Ta prawdopodobnie najszybciej rozwijająca się dziedzina informatyki coraz częściej dowodzi swojej przydatności w rozwoju biologii molekularnej czy inżynierii genetycznej. Zarówno środowisko naukowe, jak i przedstawiciele przemysłu obawiają się, że technologia ta może być wykorzystywana do celów wykraczających poza legalne badania medyczne. Największym wyzwaniem pozostaje obecnie scenariusz, w którym cyfrowe projekty białek lub toksyn mogłyby zostać urzeczywistnione w laboratorium, stając się potencjalną bronią biologiczną.

Firmy zajmujące się syntezą genów, zrzeszone w International Gene Synthesis Consortium, stosują oprogramowanie do przesiewowego sprawdzania zamówień pod kątem znanych toksyn i patogenów. Badania przeprowadzone przez Microsoft w 2025 r. wykazały jednak, że AI potrafi zaprojektować syntetyczne wersje groźnych cząsteczek, które są na tyle zmodyfikowane, że potrafią oszukać systemy skanujące, zachowując jednocześnie swoją funkcjonalność. James Diggans z firmy Twist Bioscience uważa z kolei obecne zabezpieczenia za skuteczne, choć przyznaje, że technologia rozwija się błyskawicznie.

Co dalej? W odpowiedzi na te wyzwania pojawiają się głosy za wprowadzeniem "strażników" wewnątrz samych modeli AI. Niektóre firmy szkolą swoje algorytmy tak, by odmawiały odpowiedzi na pytania o broń biologiczną, lub celowo usuwają z baz danych sekwencje wirusów infekujących ssaki.

Mimo to, jak pokazały eksperymenty Setha Donoughe'a, dyrektora ds. AI w organizacji non-profit SecureBio w Cambridge, oraz zespołu Le Conga, bioinżyniera ze Stanford School of Medicine, takie zabezpieczenia można często obejść za pomocą odpowiednich promptów lub dotrenowania modelu na publicznie dostępnych danych.

Wyścig między innowacyjnością a bezpieczeństwem wciąż trwa. Eksperci zastanawiają się, czy należy ograniczać dostęp do oprogramowania, czy raczej skupić się na monitorowaniu narzędzi AI pod kątem procesu produkcji DNA. Podczas gdy regiony takie jak USA, Wielka Brytania czy Unia Europejska rozważają obowiązkowe skanowanie zamówień na syntezę genów, w wielu regionach świata, w tym w Chinach odpowiadających za dużą część globalnego rynku, regulacje te wciąż mają charakter dobrowolny.

Źródło: Callaway E. AI can design viruses, toxins and other bioweapons. How worried should we be? Nature 653, 344-347 (2026). DOI: 10.1038/d41586-026-01476-x