Anthropic podkreśla, że nie ma dowodów pozwalających stwierdzić, iż naukowcy zajmujący się "bronią biologiczną" faktycznie zamierzali wyrządzić komuś krzywdę. Skala możliwości współczesnych modeli sprawia jednak, że nawet niejednoznaczne przypadki wymagają szczególnej uwagi.
Raport dotyczący zagrożeń AI
Firma opisała te zdarzenia w swoim najbardziej szczegółowym dotąd raporcie dotyczącym zagrożeń. Analizuje w nim wykorzystanie Claude'a m.in. do cyberataków, operacji wpływu, inwigilacji, badań biologicznych oraz prac związanych z tworzeniem broni.
Przypadki opisane w raporcie miały miejsce od grudnia 2025 do sierpnia 2026 r. Firma zaznacza, że nie są one typowe dla większości użytkowników Claude'a. Przedstawiają natomiast jedne z najbardziej zaawansowanych prób niewłaściwego wykorzystania jej modeli, jakie dotąd wykryto.
Zakłóciliśmy każdą operację opisaną w raporcie i wykorzystaliśmy wnioski z tych przypadków do wzmocnienia naszych zabezpieczeń
AI w badaniach nad niebezpiecznymi patogenami
Szczególną uwagę zwracają przypadki związane z biologią. Jeden z nich dotyczył badań związanych z wirusem chikungunya. Systemy Anthropic zablokowały zapytanie dotyczące wniosku grantowego związanego z badaniami typu gain-of-function. Prace miały być prowadzone na potrzeby wojskowego instytutu badawczego, co dodatkowo zwiększyło obawy firmy.
Po zablokowaniu przez Claude'a części wrażliwych zapytań badacze mieli kontynuować pracę za pośrednictwem innych kanałów. Anthropic odkryła również przypadek platformy pośredniczącej, która przekierowywała odrzucane przez Claude'a zapytania dotyczące biologii do innych modeli wyposażonych w słabsze zabezpieczenia.
Kolejny przypadek dotyczył badań nad wysoce patogenną grypą ptaków. Według Anthropic jeden z badaczy przez kilka tygodni wykorzystywał Claude'a do planowania prac, analizy danych i interpretowania informacji naukowych. Firma zablokowała mu dostęp do swoich najbardziej zaawansowanych modeli w związku z charakterem prowadzonych badań, ale praca była kontynuowana z wykorzystaniem słabszych wersji.
Zobacz również:
Raport wymienia jeszcze trzy przypadki dotyczące badań biologicznych o potencjalnych konsekwencjach dla bezpieczeństwa. Obejmowały one prace związane z ortopokswirusami, związkami powiązanymi z jadami oraz toksynami. Anthropic nie ujawniła tożsamości naukowców, ich lokalizacji ani szczegółów prowadzonych przez nich prac.
Jak samo przyznaje, rozróżnienie legalnych badań od potencjalnych zagrożeń jest obecnie jednym z największych problemów związanych z wykorzystaniem AI w biologii. Wiedza naukowa może mieć charakter podwójnego zastosowania - te same informacje mogą służyć opracowywaniu leków i terapii, ale mogą też zostać wykorzystane w pracach nad bardziej niebezpiecznymi patogenami.
Rosyjscy hakerzy też lubią AI
Na tym zagrożenia opisane przez Anthropic się nie kończą. Firma wykryła również rosyjską operację cyberszpiegowską, w której Claude miał automatyzować znaczną część działań hakerów. Eksperci powiązali ją z grupą Midnight Blizzard, kojarzoną z rosyjskimi działaniami hakerskimi wspieranymi przez państwo. Celem operacji były m.in. ukraińskie i europejskie instytucje rządowe, organizacje wywiadu wojskowego, placówki dyplomatyczne oraz firmy z sektora obronnego.
AI miała pomagać w przygotowywaniu kampanii phishingowych, tworzeniu infrastruktury, opracowywaniu złośliwego oprogramowania oraz kradzieży danych. Atakujący wykorzystywali ją również do sprawdzania, czy malware zostało wykryte przez systemy bezpieczeństwa. Gdy zabezpieczenia identyfikowały złośliwe oprogramowanie, automatyczne procesy modyfikowały je i przebudowywały, aby utrudnić jego wykrycie. Anthropic zidentyfikowała ponad 20 organizacji objętych planowaniem lub działaniami w ramach tej operacji.
Firma twierdzi, że wszystkie operacje opisane w raporcie zostały przerwane, przekazała również część ustaleń organom państwowym i innym przedsiębiorstwom zajmującym się sztuczną inteligencją.
Publikujemy ten raport, aby inni mogli samodzielnie wykrywać podobną aktywność na swoich platformach i aby dać opinii publicznej wyraźniejszy obraz tego, jak rozwijają się pojawiające się zagrożenia
