Najnowszy raport pokazuje, że chiński GLM-5.2 dorównuje światowej czołówce, ale niemal nie posiada zabezpieczeń przed wykorzystaniem do niebezpiecznych działań.
Według najnowszego raportu organizacji non-profit SaferAI model GLM-5.2, opracowany przez chińską firmę Z.ai, znajduje się zaledwie kilka miesięcy za najnowszymi modelami OpenAI GPT-5.5 oraz Anthropic Claude Opus 4.7 pod względem możliwości związanych z cyberbezpieczeństwem i biotechnologią.
Problem polega jednak na tym, że wraz ze wzrostem możliwości nie pojawiły się odpowiednie mechanizmy bezpieczeństwa.
Badacze testowali model poprzez publiczne API i odkryli, że GLM-5.2 nie odmówił wykonania żadnego z poleceń dotyczących ofensywnych działań cybernetycznych ani zadań związanych z tzw. podwójnym zastosowaniem biologii. Dla porównania Claude Opus 4.7 odmawiał realizacji takich poleceń tak konsekwentnie, że naukowcy nie byli w stanie ukończyć pełnego zestawu testów CyberGym.
Otwarte modele AI to coraz większy problem
Eksperci od lat ostrzegają, że otwarte modele AI (open-weight) mogą stanowić ogromne zagrożenie. Po udostępnieniu ich wag każdy użytkownik może uruchomić model na własnym komputerze lub serwerze, usunąć zabezpieczenia, zmienić instrukcje systemowe czy dodatkowo wytrenować model według własnych potrzeb.
To oznacza, że nawet jeśli producent przygotuje bezpieczną wersję dostępną przez internet, po pobraniu modelu praktycznie traci kontrolę nad sposobem jego wykorzystania.
W przypadku zamkniętych modeli, takich jak rozwiązania OpenAI czy Anthropic, firmy stosują wiele warstw ochrony – od specjalnego treningu uczącego model odmawiania niebezpiecznych poleceń, przez klasyfikatory wykrywające ryzykowe zapytania, aż po zabezpieczenia działające na poziomie API.
Cyberprzestępcy już potrafią omijać zabezpieczenia
Nawet zamknięte modele nie są jednak całkowicie odporne na manipulację. Badania organizacji Far.ai wykazały istnienie setek tzw. uniwersalnych jailbreaków, czyli metod pozwalających obejść zabezpieczenia najnowocześniejszych modeli AI.
Atakujący wykorzystują między innymi odgrywanie ról, podszywanie się pod autorytety, fałszywą historię rozmowy oraz odpowiednio przygotowane kolejne pytania. Łącząc kilka takich technik potrafią nakłonić model do wygenerowania odpowiedzi, których normalnie powinien odmówić.
W przypadku modeli open-weight problem jest jednak znacznie poważniejszy. Po pobraniu modelu użytkownik może po prostu usunąć wszystkie mechanizmy ochronne.
Kodowanie i hakowanie idą w parze
Zdaniem ekspertów trudno stworzyć model, który będzie świetnym programistą, ale jednocześnie kiepskim hakerem.
Umiejętności potrzebne do pisania wysokiej jakości kodu są bardzo zbliżone do tych wykorzystywanych przy wyszukiwaniu luk bezpieczeństwa. Ponieważ generowanie kodu stało się jednym z najbardziej dochodowych zastosowań sztucznej inteligencji, firmy nie chcą ograniczać tych możliwości.
Niektóre przedsiębiorstwa próbują więc stosować bardziej precyzyjne ograniczenia. Przykładowo modele Anthropic potrafią analizować niektóre fragmenty kodu źródłowego pod kątem błędów, ale mają ograniczenia uniemożliwiające wykorzystanie ich do bardziej zaawansowanych ofensywnych działań.
Z.ai nie opublikowało informacji o bezpieczeństwie
SaferAI zwraca uwagę, że firma Z.ai nie przedstawiła publicznie dokumentacji opisującej procedury bezpieczeństwa, testy przeprowadzone przed premierą modelu ani szczegółowej oceny ryzyka.
To odróżnia ją od części zachodnich producentów, którzy coraz częściej publikują obszerne raporty opisujące potencjalne zagrożenia związane z nowymi modelami AI.
Chiny patrzą na zagrożenia inaczej niż Zachód
Eksperci zajmujący się chińską polityką dotyczącą sztucznej inteligencji podkreślają, że tamtejsze przepisy koncentrują się głównie na kontroli treści politycznych, dezinformacji oraz utrzymaniu stabilności społecznej.
Ryzyko wykorzystania AI do cyberataków czy projektowania niebezpiecznych substancji biologicznych do tej pory nie było równie mocno eksponowane jak w Stanach Zjednoczonych.
Jednocześnie chińskie władze deklarują, że sztuczna inteligencja powinna pozostawać pod ścisłą kontrolą człowieka, a firmy technologiczne mają obowiązek współpracować z regulatorami.
AI może być zarówno bronią, jak i tarczą
Zwolennicy otwartych modeli przekonują, że ich udostępnianie ma również ogromne zalety. Dzięki nim specjaliści od cyberbezpieczeństwa mogą szybciej wykrywać podatności i lepiej przygotowywać się na przyszłe ataki.
Dobrym przykładem jest wykorzystanie modelu GLM-5.2 przez Hugging Face do analiz związanych z cyberbezpieczeństwem.
Eksperci z SaferAI odpowiadają jednak, że korzyści nie powinny usprawiedliwiać swobodnego udostępniania najbardziej niebezpiecznych możliwości sztucznej inteligencji. Ich zdaniem przestępcy i grupy ransomware niemal zawsze adaptują nowe narzędzia szybciej niż instytucje odpowiedzialne za obronę.
Szpital, bank czy urząd potrzebują miesięcy na wdrożenie nowych zabezpieczeń. Grupa cyberprzestępcza potrafi zmienić swoje metody działania w ciągu kilku dni. Właśnie dlatego coraz więcej specjalistów ostrzega, że rozwój otwartych modeli AI bez odpowiednich zabezpieczeń może w najbliższych latach stać się jednym z największych wyzwań dla światowego cyberbezpieczeństwa.
Foto: ChaGPT Images/AI.