OpenAI zaczęło zaostrzać zabezpieczenia wokół swojego kolejnego modelu AI. Powód jest dość niepokojący: wewnętrzne testy Astry wykazały ogromny postęp w programowaniu agentowym i cyberbezpieczeństwie. Firma przyznaje, że nie jest obecnie w stanie wykluczyć, iż model osiągnął poziom określany jako „Critical”.
To nietypowa sytuacja. Firma rozwijająca sztuczną inteligencję zdecydowała się publicznie poinformować, że musi ograniczyć część prac nad jeszcze niewydanym modelem, ponieważ jego możliwości zaczynają rodzić poważne obawy dotyczące bezpieczeństwa.
Astra może samodzielnie przeprowadzać zaawansowane cyberataki
Chodzi o Astrę, jeden z przyszłych modeli rozwijanych przez OpenAI. Firma poinformowała 7 sierpnia, że ostatnie wewnętrzne testy wykazały znaczący wzrost możliwości modelu w zakresie programowania agentowego oraz cyberbezpieczeństwa.
OpenAI wykorzystuje w tym przypadku własny Preparedness Framework, czyli system mający określać, kiedy możliwości modeli AI zaczynają stwarzać szczególnie poważne zagrożenia.
Poprzednie modele firmy, w tym GPT-5.6-Sol, zostały ocenione jako osiągające wysoki, ale nie krytyczny poziom możliwości w zakresie cyberbezpieczeństwa. Astra może natomiast znajdować się znacznie bliżej kolejnego progu.
I właśnie to zaniepokoiło OpenAI.
Co oznacza „Critical” w cyberbezpieczeństwie?
Według definicji OpenAI model osiąga poziom Critical, jeśli jest w stanie samodzielnie identyfikować i tworzyć działające exploity typu zero-day o różnym poziomie zagrożenia dla wielu odpowiednio zabezpieczonych, rzeczywistych systemów krytycznych.
Alternatywnie wystarczy, że potrafi samodzielnie opracować i przeprowadzić od początku do końca nowe strategie cyberataków na dobrze chronione cele, mając jedynie ogólny opis tego, co chce osiągnąć.
To ogromna różnica w stosunku do obecnego wykorzystania modeli językowych jako narzędzi pomagających programistom czy specjalistom ds. bezpieczeństwa.
W takim scenariuszu AI nie byłaby już tylko asystentem człowieka. Mogłaby stać się samodzielnym wykonawcą całego łańcucha cyberataku.
OpenAI podkreśla jednak, że obecne wyniki są wstępne. Firma nadal prowadzi testy i dlatego nie twierdzi, że Astra definitywnie osiągnęła poziom Critical. Stwierdza natomiast, że na podstawie dotychczasowych rezultatów nie może wykluczyć takiej możliwości.
Co ważne, OpenAI zaznacza również, że Astra nie była modelem wykorzystanym podczas wcześniejszego incydentu z Hugging Face.
OpenAI wstrzymuje część prac nad Astrą
W związku z wynikami testów firma zdecydowała się zaostrzyć zabezpieczenia związane z rozwojem modelu.
OpenAI zwiększa zakres testów odporności swoich zabezpieczeń i kontroli bezpieczeństwa. Wprowadza również bardziej restrykcyjne zasady dotyczące modeli o najwyższych możliwościach.
Obejmują one między innymi izolowane środowiska testowe, ograniczony dostęp do sieci i narzędzi, lepszą ochronę oraz szyfrowanie wag modeli, dodatkowe mechanizmy monitorowania i wykrywania zagrożeń oraz wykonywanie działań w środowiskach typu sandbox.
Co więcej, OpenAI wstrzymało wewnętrzne działania związane z Astrą, które nie spełniają nowych, bardziej rygorystycznych wymagań bezpieczeństwa.
Firma wprowadziła także uniwersalny monitoring ryzykownych działań i potencjalnego niepożądanego zachowania Astry we wszystkich swoich zastosowaniach agentowych, również podczas treningu i ewaluacji.
AI coraz częściej wychodzi poza kontrolowane środowisko
Informacja o Astrze pojawia się w szczególnie ciekawym momencie dla całej branży AI.
Laboratoria rozwijające najbardziej zaawansowane modele coraz częściej informują o przypadkach, w których systemy podczas testów próbują wykorzystywać dostępne narzędzia, opuszczać przygotowane dla nich środowiska albo wykonywać działania, których nie przewidzieli ich twórcy.
TechCrunch zwraca uwagę, że OpenAI znajduje się obecnie pod szczególną obserwacją po innym incydencie, w którym niewydany model podczas testów naruszył systemy Hugging Face. Był to jeden z pierwszych możliwych do zweryfikowania przypadków utraty kontroli nad modelem przez laboratorium AI.
Później również inne firmy, w tym Anthropic, informowały o sytuacjach, w których modele podczas testów cyberbezpieczeństwa próbowały wydostać się z przygotowanych dla nich środowisk.
To powoduje, że pytanie o bezpieczeństwo autonomicznych agentów AI przestaje być czysto teoretyczne.
OpenAI chce współpracować z rządem
Firma zapowiedziała, że zamierza współpracować z odpowiednimi agencjami rządowymi oraz wybranymi organizacjami zajmującymi się bezpieczeństwem AI przy testowaniu możliwości Astry.
OpenAI chce również przekazać zewnętrznym partnerom prowadzącym testy rekomendowane zabezpieczenia dotyczące uruchamiania modeli o wysokich możliwościach w bardziej ryzykownych zadaniach.
Firma przekonuje jednocześnie, że nie zamierza rezygnować z rozwijania cybernetycznych możliwości AI. Wręcz przeciwnie — uważa, że modele zdolne do zaawansowanych działań w cyberbezpieczeństwie mogą być niezwykle przydatne.
Tyle że zamiast pomagać atakującym, powinny przede wszystkim pomagać obrońcom znajdować luki zanim zrobią to cyberprzestępcy.
I właśnie tutaj pojawia się jeden z największych problemów związanych z rozwojem agentów AI. Ta sama zdolność, która pozwala sztucznej inteligencji automatycznie znaleźć lukę i ją naprawić, może potencjalnie pozwolić jej również znaleźć tę samą lukę i wykorzystać ją przeciwko komuś innemu.
OpenAI nie chce powtórzyć wcześniejszych problemów
Firma twierdzi, że jej Preparedness Framework został stworzony właśnie po to, aby reagować na takie momenty. System został opublikowany jeszcze w 2023 roku, kiedy możliwości modeli były znacznie mniejsze.
Teraz jego znaczenie rośnie.
OpenAI twierdzi, że podobne podejście zastosowała już wcześniej w przypadku możliwości modeli związanych z biologią. Gdy w czerwcu 2025 roku modele zbliżały się do wysokiego progu możliwości w tym obszarze, firma zwiększyła zabezpieczenia, rozszerzyła testy i rozpoczęła współpracę z zewnętrznymi ekspertami.
Teraz podobny proces uruchamiany jest w przypadku cyberbezpieczeństwa.
Astra nie jest więc jeszcze kolejnym modelem OpenAI dostępnym dla użytkowników. To model znajdujący się w fazie rozwoju i testów. Jednak fakt, że firma już teraz musi zmieniać zasady bezpieczeństwa wokół jego treningu i ograniczać część wewnętrznych prac, pokazuje, jak szybko rosną możliwości najnowszych systemów AI.
I być może właśnie tego typu informacje będziemy w najbliższych latach oglądać coraz częściej: nie premiery kolejnych modeli będą największym wydarzeniem, ale momenty, w których ich twórcy zaczną mówić, że nowy model potrafi już zrobić więcej, niż początkowo zakładali.
Foto: DepositPhotos.