OpenAI

OpenAI chce nowych zasad dla AI. To odpowiedź na apel szefa Anthropic

OpenAI proponuje stworzenie międzynarodowych standardów bezpieczeństwa dla najbardziej zaawansowanych systemów sztucznej inteligencji. Firma chce między innymi wspólnych metod testowania modeli, raportowania incydentów oraz zasad dotyczących coraz bardziej autonomicznych systemów AI. Szczególną uwagę zwraca na rekurencyjne samodoskonalenie AI (RSI), czyli sytuację, w której sztuczna inteligencja zaczyna pomagać w tworzeniu kolejnych, coraz bardziej zaawansowanych systemów.

Propozycja pojawia się w bardzo konkretnym momencie. Zaledwie kilka dni wcześniej Dario Amodei, szef Anthropic, wezwał do spowolnienia tempa rozwoju możliwości modeli AI, argumentując, że zabezpieczenia mogą nie nadążać za tempem postępu. Teraz OpenAI proponuje rozwiązania dotyczące dokładnie tego obszaru.

Jest jeszcze jeden powód, dla którego propozycja OpenAI nabiera znaczenia. Kilka dni temu Anthropic ujawnił, że na jednej z jego wewnętrznych platform jednocześnie pracowało około 30 tys. agentów AI, wykonujących zadania związane z badaniami i inżynierią. Firma podała również, że w sierpniu Claude prowadził już 26 proc. prac badawczo-rozwojowych Anthropic związanych z AI.

To pokazuje, dlaczego pytanie o tempo rozwoju sztucznej inteligencji zaczyna wyglądać inaczej niż jeszcze rok czy dwa lata temu.

OpenAI chce wspólnych zasad dla najbardziej zaawansowanej AI

W opublikowanym 21 września dokumencie „Building standards for the next phase of AI” OpenAI proponuje rozpoczęcie prac nad międzynarodowymi standardami dotyczącymi bezpieczeństwa zaawansowanej sztucznej inteligencji. Firma przekonuje, że rozwój AI odbywa się jednocześnie w wielu państwach, a konsekwencje pojawienia się coraz potężniejszych systemów będą odczuwalne globalnie.

OpenAI zwraca uwagę, że nie chodzi już wyłącznie o klasyczne testowanie modeli przed ich udostępnieniem użytkownikom. Coraz większego znaczenia nabiera kwestia tego, co stanie się, gdy AI zacznie wykonywać coraz większą część pracy związanej z projektowaniem i ulepszaniem kolejnych modeli.

To właśnie tutaj pojawia się skrót RSI – recursive self-improvement, czyli rekurencyjne samodoskonalenie.

AI coraz intensywniej pomaga tworzyć kolejną AI

Mechanizm jest stosunkowo łatwy do wyobrażenia. Dzisiaj człowiek wykorzystuje AI do pisania kodu, analizowania wyników eksperymentów czy projektowania kolejnych systemów. Jeżeli możliwości modeli będą nadal rosły, mogą one wykonywać coraz większą część pracy prowadzącej do stworzenia ich następców.

I właśnie taki kierunek rozwoju widać już w laboratoriach AI.

Anthropic ujawnił niedawno, że w sierpniu Claude prowadził 26 proc. prac badawczo-rozwojowych firmy związanych z AI. Jeszcze w lutym było to mniej niż 1 proc. Jednocześnie ponad 90 proc. prac R&D w Anthropic znajdowało się na poziomie, na którym AI przynajmniej współpracowała z człowiekiem.

To wciąż nie jest pełna autonomia. Anthropic wyraźnie zaznacza, że Claude nie działa jeszcze całkowicie autonomicznie w żadnym z mierzonych obszarów R&D. Ale granica między AI będącą narzędziem badacza a AI wykonującą dużą część pracy badawczej wyraźnie się przesuwa.

Właśnie dlatego OpenAI chce mierzyć postęp związany z RSI i automatyzacją badań nad AI.

30 tys. agentów AI jednocześnie. Tego nie można już ignorować

Dane Anthropic pokazują również drugi wymiar problemu.

W sierpniu 2026 roku na najczęściej wykorzystywanej wewnętrznej platformie firmy działało jednocześnie około 30 tys. agentów AI, wykonujących zadania związane z badaniami i inżynierią. Anthropic podkreśla, że liczba ta dotyczy konkretnej platformy, a nie wszystkich systemów wykorzystywanych przez firmę.

Skala jest jednak ogromna.

W ciągu miesiąca Anthropic przeanalizował ponad miliard decyzji podejmowanych przez agentów zajmujących się pracami badawczymi i inżynieryjnymi. Wszystkie działania przechodziły przez monitoring online przed wykonaniem, a system monitoringu offline rejestrował również działania po ich zakończeniu. Monitoring online zablokował około 0,002 proc. decyzji.

Nie oznacza to oczywiście, że pozostałe 99,998 proc. decyzji można automatycznie uznać za bezpieczne. Pokazuje przede wszystkim skalę systemu nadzoru i liczbę działań, które trzeba kontrolować.

I właśnie tutaj propozycja OpenAI zaczyna nabierać praktycznego znaczenia.

Jeżeli w jednym laboratorium jednocześnie pracują dziesiątki tysięcy agentów, klasyczny model kontroli człowiek–maszyna przestaje wystarczać. Potrzebne stają się automatyczne mechanizmy monitorowania, wspólne definicje incydentów i jasne zasady określające, kiedy człowiek musi przejąć kontrolę.

OpenAI chce mierzyć tempo samodoskonalenia

Jednym z pomysłów przedstawionych przez OpenAI jest stworzenie wspólnych metod oceny postępów związanych z RSI. Standardy miałyby określać między innymi, jak mierzyć skalę autonomicznych badań prowadzonych przez systemy AI oraz kiedy ich działania powinny automatycznie uruchamiać dodatkową kontrolę człowieka.

To ważne, ponieważ obecnie poszczególne laboratoria stosują własne procedury i własne sposoby oceny ryzyka.

OpenAI proponuje, aby przynajmniej część tych zasad była wspólna.

Chodzi również o stworzenie jednolitego systemu klasyfikowania i raportowania incydentów związanych z bezpieczeństwem i alignmentem, czyli dostosowaniem zachowania AI do ludzkich celów i ograniczeń.

W praktyce oznaczałoby to, że poważny problem wykryty przez jedno laboratorium nie musiałby pozostać wyłącznie jego wewnętrzną sprawą.

To właśnie tutaj pojawia się Dario Amodei

Ta propozycja nabiera dodatkowego znaczenia, jeśli spojrzymy na nią przez pryzmat niedawnego apelu Dario Amodeia, szefa Anthropic.

Pisaliśmy już na PortalTechnologiczny.pl o jego apelu o spowolnienie rozwoju najbardziej zaawansowanych systemów AI. Amodei argumentował, że tempo zwiększania możliwości modeli może wyprzedzić tempo rozwoju zabezpieczeń.

Nie chodziło mu o zatrzymanie rozwoju sztucznej inteligencji. Problemem miała być sytuacja, w której możliwości AI rosną szybciej niż nasze zdolności do kontrolowania związanych z nimi zagrożeń.

I teraz pojawia się interesująca zbieżność.

Kilka dni po tym apelu Anthropic pokazał, że jego własne systemy AI wykonują już znaczącą część prac badawczo-rozwojowych, a dziesiątki tysięcy agentów mogą jednocześnie wykonywać zadania związane z badaniami i inżynierią.

OpenAI natomiast proponuje stworzenie standardów, które pozwoliłyby taki proces mierzyć i kontrolować.

Czy OpenAI odpowiada na apel szefa Anthropic?

Trudno mówić o bezpośredniej odpowiedzi w sensie formalnym. OpenAI nie przedstawia swojego dokumentu jako reakcji na konkretny tekst Amodeia.

Chronologia jest jednak wymowna.

Najpierw pojawił się apel szefa Anthropic o spowolnienie tempa rozwoju możliwości AI. Następnie Anthropic pokazał dane sugerujące, jak szybko rośnie udział AI w jego własnych badaniach. Teraz OpenAI przedstawia propozycję międzynarodowych standardów dotyczących właśnie takich procesów.

Można więc uznać, że jest to pewna odpowiedź na postulat Amodeia, choć OpenAI proponuje nieco inne narzędzia.

Amodei mówił przede wszystkim o potrzebie kontrolowania tempa rozwoju. OpenAI skupia się na stworzeniu wspólnych standardów, pomiarów, nadzoru i raportowania, które miałyby pozwolić kontrolować ryzyko nawet wtedy, gdy rozwój technologii pozostaje bardzo szybki.

Oba podejścia dotyczą jednak tego samego problemu: co zrobić, gdy AI zaczyna uczestniczyć w procesie tworzenia jeszcze lepszej AI?

Człowiek ma pozostać w pętli

OpenAI zwraca szczególną uwagę na kwestię ludzkiego nadzoru nad automatycznymi badaniami AI. Firma proponuje ustalenie, jakie rodzaje automatycznych badań powinny powodować obowiązkową kontrolę człowieka.

To może okazać się jednym z najważniejszych elementów całej koncepcji.

Jeżeli AI pomaga stworzyć kolejną AI, a ta kolejna wersja jest jeszcze lepsza w prowadzeniu badań, powstaje potencjalne sprzężenie zwrotne:

lepsza AI → lepsze badania → lepsza AI → jeszcze lepsze badania.

Im większa część tego procesu zostanie zautomatyzowana, tym trudniej człowiekowi kontrolować jego przebieg.

Dlatego OpenAI chce ustalić momenty, w których automatyzacja musi zostać zatrzymana lub przynajmniej poddana dodatkowej kontroli.

Potrzebny jest także wspólny system zgłaszania incydentów

Drugim filarem propozycji jest raportowanie problemów.

OpenAI wskazuje na potrzebę stworzenia wspólnych kategorii incydentów związanych zarówno z alignmentem, jak i automatycznymi badaniami nad AI. Chodzi między innymi o określenie poziomów powagi incydentów oraz progów, po przekroczeniu których ich wystąpienie powinno zostać zgłoszone.

To szczególnie ważne w świecie, w którym tysiące agentów mogą wykonywać miliony czy miliardy operacji.

OpenAI już zaproponowało własny system raportowania przypadków niepożądanego zachowania modeli. Firma przyznała jednocześnie, że branża nie ma obecnie wspólnego standardu określającego, jakie przypadki misalignmentu należy ujawniać i w jaki sposób je raportować.

Teraz chce pójść krok dalej i doprowadzić do stworzenia szerszych, międzynarodowych standardów.

OpenAI chce, aby USA przewodziły

W dokumencie firma proponuje również, aby Stany Zjednoczone odegrały wiodącą rolę w tworzeniu globalnych standardów. OpenAI argumentuje, że USA mają szczególną pozycję dzięki sile swojego sektora AI oraz znaczeniu w finansach, handlu, obronności, technologii i infrastrukturze informacyjnej.

Jednocześnie firma wskazuje na potrzebę współpracy międzynarodowej.

To istotne, ponieważ AI nie jest technologią rozwijaną w jednym kraju. Nawet jeżeli amerykańskie firmy przyjęłyby bardzo rygorystyczne zasady, podobne modele mogą być rozwijane w Europie, Chinach i innych częściach świata.

OpenAI wskazuje więc na potrzebę stworzenia kanałów komunikacji między państwami, w tym między USA i Chinami, dotyczących bezpieczeństwa AI, nowych zagrożeń i najlepszych praktyk.

Nie chodzi o zatrzymanie wyścigu AI

W tym miejscu propozycja OpenAI różni się od prostego postulatu „zwolnijmy”.

Firma nie proponuje ustalenia jednej globalnej prędkości rozwoju sztucznej inteligencji. W dokumencie podkreśla wręcz, że odpowiedzialne „pacing” AI nie powinno oznaczać utrzymywania technologii przy z góry określonym poziomie rozwoju.

Chodzi raczej o to, aby badania nad bezpieczeństwem i alignmentem były w stanie nadążać za wzrostem możliwości modeli.

To subtelna, ale ważna różnica.

Nie jest powiedziane: „AI ma rozwijać się wolniej”.

Jest powiedziane: „nie pozwólmy, aby możliwości AI rozwijały się szybciej, niż jesteśmy w stanie zapewnić nad nimi kontrolę”.

W innym dokumencie OpenAI idzie nawet dalej, stwierdzając, że w pełni autonomiczne RSI nie powinno być rozwijane, dopóki nie będzie można zapewnić bezpieczeństwa takiego procesu. Jednocześnie firma przyznaje, że AI już dziś przyspiesza część badań wykorzystywanych do tworzenia i dostrajania kolejnych modeli.

Największe pytanie brzmi: kto będzie kontrolował kontrolerów?

Pomysł OpenAI brzmi jasno na poziomie założeń, ale jego wdrożenie będzie znacznie trudniejsze.

Największym problemem pozostaje konkurencja.

OpenAI, Anthropic, Google, Meta, xAI i inne firmy mają powody, aby rozwijać swoje modele jak najszybciej. Jeśli jedna firma zacznie zwalniać, podczas gdy konkurenci będą przyspieszać, może stracić przewagę technologiczną.

Dlatego same dobrowolne deklaracje mogą nie wystarczyć.

Potrzebne byłyby wspólne reguły, które obowiązywałyby wszystkich najważniejszych graczy – i właśnie dlatego OpenAI tak mocno akcentuje międzynarodowe standardy.

Co ważne, Anthropic również wskazuje na potrzebę zewnętrznej weryfikacji danych dotyczących automatyzacji R&D. Firma zaproponowała własne wskaźniki i zapowiedziała stworzenie systemu zewnętrznych ewaluatorów, którzy mogliby mieć dostęp do wewnętrznych procesów, systemów i danych.

Widać więc, że dwa największe laboratoria coraz wyraźniej dochodzą do podobnego wniosku: nie wystarczy deklarować, że AI jest bezpieczna. Trzeba zacząć mierzyć i weryfikować, jak szybko rośnie jej udział w procesie tworzenia kolejnej AI.

AI wchodzi więc w kolejną fazę

Jeszcze niedawno głównym pytaniem dotyczącym AI było to, co potrafi kolejny model.

Dzisiaj coraz częściej pojawia się drugie pytanie: ile pracy potrzebnej do stworzenia kolejnego modelu wykonuje już poprzedni model?

Dane Anthropic pokazują, że odpowiedź na to pytanie zaczyna być bardzo konkretna. 26 proc. prac R&D związanych z AI prowadzonych przez Claude’a i około 30 tys. agentów AI działających jednocześnie na jednej z wewnętrznych platform firmy to liczby, których nie można już traktować wyłącznie jako futurystycznej wizji.

Nie oznacza to, że osiągnęliśmy już pełne RSI. Ani Anthropic, ani OpenAI nie twierdzą, że AI samodzielnie projektuje i buduje kolejne generacje modeli bez udziału człowieka.

Ale granica przesuwa się szybko.

I właśnie dlatego propozycja OpenAI pojawia się teraz. Firma chce, aby branża zaczęła wspólnie mierzyć tempo automatyzacji badań, poziom autonomii systemów, liczbę i charakter incydentów oraz momenty, w których człowiek powinien przejąć kontrolę.

W tym sensie propozycja OpenAI jest rzeczywiście bliska temu, o czym mówił Dario Amodei.

Szef Anthropic mówi: musimy uważać, aby tempo rozwoju AI nie wymknęło się spod kontroli. Anthropic pokazuje przy tym, jak szybko rośnie udział AI w jego własnych badaniach. OpenAI odpowiada: potrzebujemy wspólnych standardów, żeby ten proces mierzyć, nadzorować i w razie potrzeby spowolnić.

To może być jedna z najważniejszych debat dotyczących AI w najbliższych latach. Nie o tym, czy sztuczna inteligencja będzie coraz potężniejsza, ale o tym, czy człowiek będzie w stanie nadążyć za tempem, w jakim AI zaczyna pomagać tworzyć kolejną AI.

Janusz Palicki
Foto: 
DepositPhotos.

Podziel się artykułem

PortalTechnologiczny.pl

Wykorzystujemy ciasteczka do spersonalizowania treści i reklam, aby oferować funkcje społecznościowe i analizować ruch w naszej witrynie.

Informacje o tym, jak korzystasz z naszej witryny, udostępniamy partnerom społecznościowym, reklamowym i analitycznym. Partnerzy mogą połączyć te informacje z innymi danymi otrzymanymi od Ciebie lub uzyskanymi podczas korzystania z ich usług.

Informacja o tym, w jaki sposób Google przetwarza dane, znajdują się tutaj.