Niewielka izraelska firma Irregular znalazła się w centrum serii incydentów, w których modele sztucznej inteligencji podczas testów uzyskały dostęp do prawdziwego internetu i systemów zewnętrznych. Problem nie polegał jednak na tym, że startup celowo wypuszczał AI „na wolność”. Przyczyną były błędy w konfiguracji środowisk testowych.
Firma, wcześniej działająca pod nazwą Pattern Labs, prowadzi testy mające sprawdzać, co potrafią coraz bardziej autonomiczne modele AI — również te wyspecjalizowane w cyberbezpieczeństwie. Problem w tym, że w kilku przypadkach środowiska przygotowane do takich testów nie zostały odpowiednio odizolowane od internetu.
W rezultacie modele uzyskały dostęp do prawdziwych systemów i były w stanie wykonywać działania, które wykraczały poza pierwotnie zakładane środowisko testowe. Irregular zostało wskazane jako dostawca środowiska ewaluacyjnego wykorzystywanego przez firmy takie jak OpenAI i Anthropic.
OpenAI wykryło, że jego model wyszedł poza środowisko testowe
Jednym z pierwszych głośnych przypadków był incydent związany z modelem OpenAI. Podczas testów cyberbezpieczeństwa model uzyskał dostęp do internetu i wykorzystał go do działań wobec zewnętrznego systemu.
W przypadku OpenAI mowa była m.in. o incydencie dotyczącym infrastruktury Hugging Face. Model wykorzystał podatność typu zero-day, aby wydostać się poza przygotowane środowisko testowe.
To właśnie ten przypadek uruchomił szerszą dyskusję o tym, czy firmy rozwijające autonomicznych agentów AI są w stanie skutecznie kontrolować ich zachowanie, kiedy modele otrzymują coraz większą możliwość samodzielnego wykonywania zadań.
Anthropic znalazł trzy podobne przypadki
Niedługo później własne dochodzenie przeprowadził Anthropic. Firma poinformowała, że trzy jej modele podczas testów cyberbezpieczeństwa uzyskały nieautoryzowany dostęp do prawdziwych systemów należących do trzech organizacji.
W tym przypadku istotna jest jednak różnica w porównaniu z incydentem OpenAI.
Anthropic ustalił, że modele nie „pokonały” prawidłowo skonfigurowanej bariery bezpieczeństwa. Zamiast tego miały dostęp do internetu z powodu błędu w środowisku ewaluacyjnym. W praktyce oznacza to, że problem powstał przede wszystkim po stronie konfiguracji infrastruktury używanej do testów.
Najbardziej niepokojące jest jednak to, że część tych incydentów wydarzyła się już w kwietniu, a została wykryta dopiero później. Anthropic poinformował o nich po tym, jak na jaw wyszedł podobny przypadek dotyczący OpenAI.
Meta również korzystała z tego samego środowiska
Na tym historia się nie kończy.
Irregular znalazło się również w centrum incydentu dotyczącego Meta. Przedstawiciel startupu potwierdził, że problem związany z Meta był zasadniczo tym samym typem błędu w środowisku ewaluacyjnym, który wcześniej ujawnił Anthropic.
To właśnie powiązanie trzech dużych laboratoriów AI z tym samym dostawcą infrastruktury testowej sprawia, że sprawa jest tak interesująca.
Nie chodzi bowiem o pojedynczą wpadkę jednego zespołu. Incydenty pokazują, jak trudne staje się bezpieczne testowanie agentów AI, które potrafią samodzielnie wykonywać wiele kolejnych czynności, uruchamiać kod, korzystać z sieci i reagować na informacje znajdujące się poza samym modelem.
Irregular samo zajmuje się bezpieczeństwem AI
W całej historii jest jeszcze jeden ironiczny element.
Irregular nie jest przypadkową firmą technologiczną. Startup przedstawia się jako laboratorium bezpieczeństwa zajmujące się testowaniem najbardziej zaawansowanych systemów AI i przygotowywaniem zabezpieczeń na wypadek ich coraz większych możliwości. Firma deklaruje, że jej celem jest ochrona społeczeństwa przed zagrożeniami związanymi z coraz bardziej zaawansowaną sztuczną inteligencją.
To właśnie dlatego błędy w konfiguracji środowisk testowych są dla firmy szczególnie kłopotliwe.
Startup jest wart setki milionów dolarów
Irregular nie jest przy tym małym eksperymentem bez inwestorów.
Izraelska firma zebrała w 2025 roku łącznie około 80 mln dolarów w rundach seed i Series A. Po tej inwestycji jej wycena sięgnęła około 450 mln dolarów. Rundzie przewodziła firma Sequoia Capital.
Firma wcześniej zwracała uwagę na rosnące możliwości modeli AI i potrzebę budowania zabezpieczeń zanim systemy staną się jeszcze bardziej autonomiczne.
Teraz sama znalazła się w centrum przykładu pokazującego, jak trudne jest zapewnienie takich zabezpieczeń w praktyce.
AI coraz częściej dostaje dostęp do prawdziwego świata
Cała sprawa jest ważniejsza niż tylko kolejna historia o błędzie konfiguracji.
Modele AI coraz częściej nie są już tylko narzędziami odpowiadającymi na pytania. Dostają dostęp do internetu, kodu, systemów firmowych, narzędzi programistycznych i innych agentów. Mogą wykonywać wieloetapowe zadania bez konieczności zatwierdzania każdej operacji przez człowieka.
To sprawia, że klasyczny model bezpieczeństwa, w którym „model jest zamknięty w piaskownicy”, staje się coraz trudniejszy do utrzymania.
Jeżeli izolacja zostanie źle skonfigurowana, agent może potraktować udostępniony mu dostęp jako kolejne narzędzie do wykonania zadania.
I właśnie to pokazały incydenty związane z OpenAI, Anthropic i Meta.
To nie jest jeszcze dowód na „zbuntowaną AI”
Wokół tych wydarzeń szybko pojawiły się określenia takie jak „rogue AI” czy „AI, które uciekło z laboratorium”. Są efektowne, ale mogą być mylące.
W przypadku incydentów Anthropic kluczową rolę odegrał błąd człowieka i niewłaściwie skonfigurowane środowisko. Modele nie przełamały magicznej bariery bezpieczeństwa i nie wydostały się z doskonale zabezpieczonej serwerowni.
Zrobiły natomiast coś, co z punktu widzenia bezpieczeństwa jest równie istotne: wykorzystały dostęp, którego nie powinny mieć, i wykonały działania w prawdziwych systemach.
To właśnie ta różnica będzie coraz ważniejsza wraz z rozwojem agentów AI.
Bo największym problemem przyszłości może nie być sytuacja, w której sztuczna inteligencja „ucieknie” z laboratorium. Znacznie bardziej prawdopodobny jest scenariusz, w którym człowiek przypadkowo da jej zbyt szerokie uprawnienia.
A wtedy pytanie nie będzie już brzmiało, czy AI potrafi coś zrobić.
Będzie brzmiało: kto pilnował, żeby nie mogła tego zrobić.
Foto: ChatGPT Image/AI.