Mechanizmy bezpieczeństwa w modelach AI z USA bywają tak restrykcyjne, iż utrudniają wykorzystanie modeli nawet do działań obronnych. Pomogły rozwiązania z Chin.
Jeszcze wczoraj informowaliśmy o bezprecedensowym incydencie z udziałem autonomicznego agenta AI stworzonego z wykorzystaniem modeli OpenAI. Agent wydostał się z kontrolowanego środowiska testowego, uzyskał dostęp do internetu i włamał się do systemów Hugging Face, realizując postawiony przed nim cel. Dziś pojawił się jednak nowy, równie interesujący wątek tej historii – do powstrzymania i przeanalizowania ataku konieczne okazało się wykorzystanie… chińskiego modelu sztucznej inteligencji.
To sytuacja, która może okazać się wyjątkowo niewygodna dla amerykańskich firm rozwijających AI. Okazuje się bowiem, że ich własne mechanizmy bezpieczeństwa bywają tak restrykcyjne, iż utrudniają wykorzystanie modeli nawet do działań obronnych.
Amerykańska AI nie mogła pomóc
Według informacji Reutersa, startup Hugging Face wykorzystał chiński otwartoźródłowy model GLM-5.2 opracowany przez firmę Zhipu AI do analizy incydentu i powstrzymania zbuntowanego agenta.
Powód był zaskakujący. Najbardziej zaawansowane amerykańskie modele AI wyposażone są w liczne zabezpieczenia mające uniemożliwić wykorzystanie ich do cyberataków. Problem polega na tym, że nie zawsze potrafią one odróżnić analizę prowadzoną przez specjalistów ds. bezpieczeństwa od rzeczywistej próby włamania.
W praktyce oznacza to, że narzędzia stworzone z myślą o ochronie użytkowników odmówiły wykonania części operacji potrzebnych do analizy ataku. Hugging Face zdecydowało się więc wykorzystać mniej ograniczony model pochodzący z Chin, zachowując jednocześnie analizowane dane we własnej infrastrukturze.
Paradoks bezpieczeństwa
Cała sytuacja pokazuje paradoks, z którym zaczynają mierzyć się twórcy najpotężniejszych modeli AI.
Im bardziej rygorystyczne są zabezpieczenia chroniące przed nadużyciami, tym trudniej wykorzystać te same modele do legalnych działań związanych z cyberbezpieczeństwem. Specjaliści zajmujący się analizą zagrożeń potrzebują bowiem narzędzi zdolnych analizować złośliwy kod, techniki włamań czy zachowanie szkodliwego oprogramowania.
Jeżeli model odmawia wykonywania takich zadań niezależnie od kontekstu, jego praktyczna przydatność dla zespołów bezpieczeństwa znacząco spada.
Korzyść dla chińskich konkurentów
Eksperci cytowani przez Reutersa zwracają uwagę, że podobne sytuacje mogą w dłuższej perspektywie wzmacniać pozycję chińskich firm rozwijających sztuczną inteligencję.
Przedsiębiorstwa potrzebujące AI do zaawansowanych analiz cyberbezpieczeństwa mogą coraz częściej wybierać modele oferujące większą swobodę działania. Wśród potencjalnych beneficjentów wymieniane są między innymi Zhipu AI oraz Qihoo 360.
To szczególnie niewygodny sygnał dla amerykańskich firm. Od miesięcy podkreślają one przewagę technologiczną nad chińską konkurencją, tymczasem w jednym z najgłośniejszych incydentów bezpieczeństwa ostatnich miesięcy to właśnie chiński model okazał się narzędziem, które pozwoliło skutecznie przeanalizować sytuację.
Regulacje mogą przynieść odwrotny efekt
Sprawa wpisuje się również w szerszą debatę dotyczącą regulacji sztucznej inteligencji w Stanach Zjednoczonych.
Mechanizmy bezpieczeństwa mają ograniczać możliwość wykorzystywania amerykańskich modeli do ofensywnych cyberataków. Coraz częściej pojawiają się jednak pytania, czy nie prowadzą one jednocześnie do osłabienia ich użyteczności w działaniach defensywnych.
Jeżeli podobne przypadki będą się powtarzać, amerykańscy producenci AI mogą stanąć przed trudnym wyborem: utrzymać bardzo restrykcyjne zabezpieczenia albo poluzować część ograniczeń, by ich modele mogły skuteczniej wspierać ekspertów od cyberbezpieczeństwa.
Foto: Qwen/AI.