Zaawansowane narzędzie cyberbezpieczeństwa od Anthropic mogło trafić w niepowołane ręce. Mythos – system zdolny do symulowania ataków – budzi obawy, że zamiast chronić firmy, może zostać użyty przeciwko nim.
Już tydzień temu na łamach PortalTechnologiczny.pl zwracaliśmy uwagę na potencjalne zagrożenia związane z systemem Mythos w artykule: „Claude Mythos znajdzie każdą lukę. Dlaczego banki się go już boją?”. Dziś te obawy zaczynają się materializować – pojawiły się doniesienia o nieautoryzowanym dostępie do tego narzędzia.
W świecie zaawansowanej sztucznej inteligencji pojawił się bowiem nowy, niepokojący sygnał ostrzegawczy. Według najnowszych informacji, nieautoryzowana grupa użytkowników mogła uzyskać dostęp do jednego z najbardziej zaawansowanych narzędzi cyberbezpieczeństwa opracowanych przez firmę Anthropic. Mowa o systemie Mythos – rozwiązaniu, które w założeniu miało chronić korporacje, ale w niepowołanych rękach może zostać wykorzystane do przeprowadzania zaawansowanych ataków.
Czym jest Mythos i dlaczego budzi takie obawy?
Mythos to eksperymentalne narzędzie AI zaprojektowane z myślą o bezpieczeństwie przedsiębiorstw. System został udostępniony w bardzo ograniczonym zakresie w ramach projektu Glasswing, obejmującego wybrane firmy i partnerów technologicznych, w tym m.in. Apple.
Założenie było proste: zapewnić firmom dostęp do niezwykle zaawansowanego systemu analizy zagrożeń, który potrafi wykrywać luki, symulować ataki i wzmacniać zabezpieczenia. Problem w tym, że dokładnie te same możliwości – jeśli zostaną wykorzystane ofensywnie – mogą posłużyć do łamania zabezpieczeń zamiast ich ochrony.
Nieautoryzowany dostęp przez zewnętrznego partnera
Jak informują media, grupa użytkowników działająca na prywatnym forum internetowym uzyskała dostęp do Mythos poprzez środowisko jednego z zewnętrznych dostawców współpracujących z Anthropic. To właśnie tam miało dojść do naruszenia.
– Prowadzimy dochodzenie w sprawie doniesień o nieautoryzowanym dostępie do Claude Mythos Preview poprzez środowisko jednego z naszych partnerów zewnętrznych – powiedział rzecznik Anthropic.
Jednocześnie firma podkreśla, że na ten moment nie znaleziono dowodów na to, by incydent wpłynął bezpośrednio na jej własne systemy.
Discord, przecieki i „polowanie” na nowe modele AI
Źródła wskazują, że grupa stojąca za incydentem działa w ramach społeczności skupionej wokół platformy Discord. Jej członkowie specjalizują się w wyszukiwaniu i testowaniu niewydanych jeszcze modeli AI.
Co ciekawe, motywacja grupy nie wydaje się być typowo przestępcza. Według relacji, chodzi raczej o „zabawę” i eksplorację nowych technologii niż o przeprowadzanie destrukcyjnych ataków. Mimo to eksperci podkreślają, że sam fakt uzyskania dostępu do tak zaawansowanego narzędzia stanowi poważne zagrożenie.
Grupa miała korzystać z Mythos regularnie, a także dostarczyć dowody w postaci zrzutów ekranu i demonstracji działania systemu.
Sprytne obejście zabezpieczeń
Najbardziej niepokojący jest sposób, w jaki uzyskano dostęp do narzędzia. Według doniesień, użytkownicy wykorzystali wiedzę o strukturze wdrożeń modeli Anthropic i „zgadli” lokalizację systemu w sieci.
Dodatkowo użyto dostępu powiązanego z osobą zatrudnioną u jednego z partnerów firmy. To pokazuje, że najsłabszym ogniwem w łańcuchu bezpieczeństwa nadal pozostaje człowiek i zewnętrzne środowiska współpracy.
Potencjalne konsekwencje dla rynku AI
Jeśli doniesienia się potwierdzą, sytuacja może mieć poważne konsekwencje nie tylko dla Anthropic, ale dla całego rynku sztucznej inteligencji.
Firmy rozwijające zaawansowane modele coraz częściej ograniczają dostęp do swoich technologii, obawiając się ich wykorzystania przez cyberprzestępców. Przypadek Mythos może jednak pokazać, że nawet najbardziej restrykcyjne podejście nie gwarantuje pełnego bezpieczeństwa.
To również kolejny dowód na rosnące znaczenie tzw. „dual-use AI” – technologii, które mogą być używane zarówno do obrony, jak i ataku.
Czy AI wymyka się spod kontroli?
Incydent z Mythos wpisuje się w szerszą debatę na temat bezpieczeństwa sztucznej inteligencji. Coraz potężniejsze narzędzia trafiają do coraz szerszego grona odbiorców, a granica między zastosowaniem defensywnym a ofensywnym staje się coraz bardziej płynna.
Choć w tym przypadku grupa użytkowników miała działać raczej z ciekawości niż złych intencji, historia wielokrotnie pokazywała, że takie „eksperymenty” mogą szybko wymknąć się spod kontroli.