W skrócie
- Eksperci z USA i Chin apelują o ustanowienie procedur kontroli nad wojskową sztuczną inteligencją, aby zapobiec pomyłkowemu uznaniu błędów technicznych za celowe ataki zbrojne.
- Proponowane mechanizmy zakładają utrzymanie decyzyjności człowieka w procesach użycia broni jądrowej oraz wyznaczenie czerwonych linii dla autonomicznych systemów ofensywnych.
- Oba mocarstwa wyrażają obawy, że wprowadzenie jednostronnych ograniczeń technologicznych może spowolnić ich własny rozwój i zapewnić przewagę rywalowi na arenie międzynarodowej.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
AI stwarza ryzyko natychmiastowej eskalacji militarnej
Systemy sztucznej inteligencji, które ingerują w sieci dowodzenia nuklearnego lub prowadzą wojskowe operacje cybernetyczne, pozostawiają władzom w Waszyngtonie i Pekinie zaledwie kilka minut na ocenę sytuacji. Eksperci ds. bezpieczeństwa z USA i Chin ostrzegają, że brak precyzyjnych procedur w obliczu rozwijającej się autonomii maszyn grozi pomyłkowym uznaniem błędu technicznego za celowy atak drugiego państwa.
Przedstawiciele środowisk akademickich, biorący udział w wieloletnim dialogu eksperckim, wzywają oba rządy do podjęcia natychmiastowych działań prewencyjnych. Wskazują, że rosnąca autonomia oprogramowania o potencjale ofensywnym wymusza wyznaczenie granic, których technologia nie będzie mogła samodzielnie przekroczyć. Rekomendacje te opublikowano w kontekście planowanych rozmów państwowych i nadchodzącego spotkania prezydenta Donalda Trumpa z prezydentem Xi Jinpingiem.
Autorzy propozycji, Melanie Sisson z Brookings Institution oraz Tianjiao Jiang z Uniwersytetu Fudan, od 2019 r. uczestniczą w dyskusjach organizowanych przez Brookings i Centrum Międzynarodowej Strategii i Bezpieczeństwa Uniwersytetu Tsinghua. Ich prace pokazują przesuwanie się punktu ciężkości rywalizacji technologicznej z obszaru produkcji czipów na kwestie od dawna kojarzone z kontrolą zbrojeń.
Chiński minister bezpieczeństwa państwowego Chen Yixin napisał w rządowej prasie, że sztuczna inteligencja "fundamentalnie przekształca oblicze starcia militarnego". Przedstawiciel władz w Pekinie zauważył, że technologia ta przestała pełnić wyłącznie funkcję pomocniczą na polu bitwy, stając się jednym z elementów decydujących o przebiegu starć.
Zobacz również:
Czerwone linie wokół arsenału strategicznego
Melanie Sisson z Brookings Institution stoi na stanowisku, że wyłączną decyzyjność w zakresie inicjowania cyberataków na systemy dowodzenia bronią jądrową i infrastrukturę krytyczną muszą zachować ludzie. Autonomiczna aplikacja może ulec awarii, przekroczyć przydzielone uprawnienia lub zostać przejęta przez stronę trzecią. W takich warunkach zaatakowany kraj ma trudności z szybkim ustaleniem, czy incydent był wynikiem błędu programistycznego, czy zamierzonym działaniem przeciwnika.
Z kolei Tianjiao Jiang z Uniwersytetu Fudan zaproponował formalne ustanowienie "czerwonych linii", granic uniemożliwiających maszynom samodzielne podejmowanie decyzji o użyciu broni masowego rażenia. Propozycja obejmuje także ochronę sektorów zdrowotnego, energetycznego i finansowego przed automatycznymi uderzeniami. Ekspert apeluje o stworzenie wspólnej definicji realnej kontroli człowieka, co zapobiegłoby stosowaniu niejednoznacznej terminologii przez obie strony.
Podejście to stanowi rozwinięcie uzgodnień Joe Bidena i Xi Jinpinga w listopadzie 2024 r., potwierdzających konieczność zachowania ludzkiego nadzoru nad decyzjami atomowymi. Mimo że oba mocarstwa wyrażają wolę współpracy w tym zakresie, równolegle prowadzą prace nad głębszą integracją autonomicznego oprogramowania z własnymi systemami obronnymi.
Zobacz również:
Gorąca linia łączności między USA i Chinami
W celu uniknięcia błędnych interpretacji zachowań autonomicznych Jiang zasugerował utworzenie dedykowanej wojskowej linii łączności na wypadek incydentów cyfrowych. Problem polega na tym, że algorytmy defensywne jednego państwa mogą automatycznie zareagować na wykryte zagrożenie, co strona przeciwna odbierze jako agresję i odpowie na nią, zanim ludzie zdołają zweryfikować stan faktyczny. Bezpośrednia łączność ma umożliwić natychmiastowe wyjaśnienie, czy dana operacja była błędem technicznym, czy nieautoryzowanym incydentem.
Skuteczność takich "gorących" kanałów informacyjnych bywa jednak podważana przez część analityków. Carla Freeman z Johns Hopkins School of Advanced International Studies przypomina sytuację z lutego 2023 r., gdy strona chińska odmówiła odbierania połączeń podczas incydentu z balonem szpiegowskim latającym nad USA, otwiera się w nowym oknie, o którym pisaliśmy w GeekWeeku. Ponadto sztywna struktura hierarchiczna w Pekinie ogranicza decyzyjność niższych rangą wojskowych w kontaktach z zagranicznymi partnerami.
"Nikt w chińskim systemie nie chce komunikować się ze Stanami Zjednoczonymi, dopóki najwyższe kierownictwo, po konsultacji z odpowiednimi podmiotami w chińskim aparacie partyjno-państwowym, nie podejmie decyzji o odpowiedzi, co może potrwać dni, jeśli nie dłużej" - wytłumaczyła Carla Freeman.
Żadne z mocarstw nie chce zostać w tyle
Żaden z rządów nie przyjął dotąd oficjalnie propozycji opracowanych przez ekspercki zespół Brookings i Tsinghua, lecz Chiny stopniowo włączają tę tematykę do swoich struktur dyplomatycznych. Zagadnienia te zostały przypisane do Departamentu Kontroli Zbrojeń w Ministerstwie Spraw Zagranicznych, który odpowiada również za kwestie nierozprzestrzeniania broni masowego rażenia i pocisków balistycznych.
"Wojskowa sztuczna inteligencja może wpłynąć na stabilność strategiczną i zwiększyć ryzyko błędnych kalkulacji i eskalacji konfliktu" - powiedział na czerwcowym posiedzeniu ONZ w Genewie ambasador Chin ds. rozbrojenia, Shen Jian. Urzędnik dodał, że wszelkie uzbrojenie musi pozostawać pod kontrolą człowieka, zaznaczając jednocześnie, że kwestie bezpieczeństwa nie mogą służyć jako pretekst do tworzenia barier technologicznych.
W Waszyngtonie nie istnieje jedna instytucja zajmująca się kontrolą uzbrojenia w tym obszarze, a odpowiedzialność rozkłada się pomiędzy Radę Bezpieczeństwa Narodowego, Departament Stanu oraz Pentagon. Oba mocarstwa zachowują ostrożność wobec regulacji mogących spowolnić ich własny rozwój technologiczny. Przypomina to wyścig zbrojeń z czasów zimnej wojny. Donald Trump ostrzega, że wprowadzenie ograniczeń da przewagę Chinom, podczas gdy Pekin postrzega ewentualne restrykcje jako próbę utrzymania dominacji USA.
