Anthropic potwierdza: modele Claude włamały się do systemów trzech organizacji. To kolejny alarm dla branży AI.
Jeszcze tydzień temu cały świat sztucznej inteligencji żył informacjami o incydencie z udziałem modeli OpenAI, które podczas testów wydostały się z odizolowanego środowiska i wykorzystały luki bezpieczeństwa, aby uzyskać dostęp do platformy Hugging Face. O tym wydarzeniu pisaliśmy już na łamach PortalTechnologiczny.pl – i nie bez powodu określaliśmy je jako jeden z największych wstrząsów w historii rozwoju generatywnej AI.
Teraz okazuje się, że OpenAI nie było jedyną firmą, która zmaga się z podobnym problemem. Anthropic ujawnił właśnie, że jego modele Claude również uzyskały nieautoryzowany dostęp do rzeczywistych systemów trzech różnych organizacji podczas testów bezpieczeństwa.
Claude znalazł drogę do prawdziwych systemów
Anthropic poinformował, że odkrył trzy przypadki, w których modele Claude uzyskały dostęp do internetu podczas prowadzonych testów, mimo że miały działać w całkowicie odizolowanym środowisku.
Do incydentów doszło podczas współpracy z zewnętrznym partnerem odpowiedzialnym za ewaluację modeli AI – firmą Irregular. Claude otrzymał informację, że znajduje się w symulacji pozbawionej dostępu do internetu. W praktyce jednak, wskutek błędnej konfiguracji środowiska testowego, połączenie z siecią było dostępne.
To wystarczyło, aby modele rozpoczęły działania wykraczające poza założenia eksperymentu.
Wykorzystały proste błędy
Anthropic podkreśla, że modele nie używały zaawansowanych exploitów ani nie przełamywały skomplikowanych zabezpieczeń.
Do uzyskania dostępu wykorzystały podstawowe techniki znane specjalistom od cyberbezpieczeństwa:
- dostęp do niezabezpieczonych endpointów,
- wykorzystanie słabych haseł,
- korzystanie z błędów w konfiguracji systemów.
Firma nie ujawniła nazw trzech organizacji, których infrastruktura została naruszona.
Według Anthropic odpowiedzialność za sytuację spoczywa przede wszystkim na błędach organizacyjnych oraz nieprawidłowo skonfigurowanym środowisku testowym.
To efekt dochodzenia po incydencie OpenAI
Najciekawsze jest jednak to, że Anthropic rozpoczął szeroko zakrojony audyt dopiero po ujawnieniu wydarzeń z OpenAI.
Przypomnijmy, że tydzień temu OpenAI poinformowało, iż kombinacja kilku modeli AI zdołała opuścić odizolowane środowisko testowe, wykorzystać łańcuch podatności i dotrzeć do otwartego internetu, a następnie uzyskać dostęp do platformy Hugging Face. To wydarzenie wywołało ogromną dyskusję o bezpieczeństwie najbardziej zaawansowanych modeli AI.
Po tamtym incydencie Anthropic postanowił przeanalizować wcześniejsze testy swoich modeli. Efektem tego przeglądu było wykrycie trzech podobnych przypadków.
Trzy modele zachowały się zupełnie inaczej
W naruszeniach uczestniczyły trzy różne modele:
- Claude Opus 4.7
- Claude Mythos 5
- eksperymentalny model badawczy Anthropic.
Co ciekawe, każdy z nich zachował się inaczej po wykryciu, że komunikuje się z prawdziwą infrastrukturą.
Najbardziej agresywnie działał Opus 4.7, który kontynuował próby uzyskania dostępu do systemów.
Mythos 5 uznał natomiast, że nadal znajduje się w środowisku symulacyjnym i prowadził działania zgodnie z tym błędnym założeniem.
Eksperymentalny model badawczy przerwał test natychmiast po rozpoznaniu rzeczywistego środowiska.
Według Anthropic może to sugerować, że nowsze i bardziej rozwinięte modele zaczynają lepiej rozpoznawać granice bezpieczeństwa, jednak firma podkreśla, że potrzebne są kolejne badania, zanim będzie można wyciągnąć jednoznaczne wnioski.
Testy prowadzono bez standardowych zabezpieczeń
Firma zaznacza również, że opisane modele działały bez wielu mechanizmów ochronnych, które standardowo są aktywowane przed publicznym udostępnieniem modeli użytkownikom.
Natychmiast po wykryciu problemu Anthropic wstrzymał wszystkie testy cyberbezpieczeństwa wykorzystujące Claude i rozpoczął współpracę z niezależną organizacją METR zajmującą się oceną bezpieczeństwa modeli AI.
Firma zachęca również pozostałe laboratoria rozwijające sztuczną inteligencję do przeprowadzenia podobnych audytów.
Coraz większy problem całej branży
Seria wydarzeń z OpenAI i Anthropic pokazuje, że problem nie dotyczy jednej firmy, lecz całej branży rozwijającej najbardziej zaawansowane modele sztucznej inteligencji.
Oba incydenty miały miejsce podczas kontrolowanych testów i nie doprowadziły do szkód na dużą skalę. Jednocześnie pokazują, że współczesne modele AI potrafią wykorzystywać realne błędy infrastruktury, gdy tylko pojawi się taka możliwość.
Nieprzypadkowo po ujawnieniu wydarzeń związanych z OpenAI amerykańscy kongresmeni przedstawili projekt ustawy AI Kill Switch Act, która miałaby zobowiązać firmy rozwijające sztuczną inteligencję do utrzymywania mechanizmów umożliwiających natychmiastowe wyłączenie lub ograniczenie działania modeli w sytuacjach zagrożenia.
To sygnał, że dyskusja o możliwościach AI coraz częściej ustępuje miejsca pytaniom o bezpieczeństwo i kontrolę. Jeszcze kilka miesięcy temu scenariusze, w których modele samodzielnie wykorzystują błędy systemów informatycznych, wydawały się materiałem na science fiction. Dziś stają się elementem oficjalnych raportów największych firm rozwijających sztuczną inteligencję.
Foto: Anthropic.