OpenAI coraz mocniej rozwija swoje modele sztucznej inteligencji, ale wraz z ich możliwościami rośnie też pytanie, czy firma jest w stanie odpowiednio kontrolować ryzyko. David Robinson, wieloletni pracownik zajmujący się bezpieczeństwem modeli, właśnie odszedł z firmy. W opublikowanym po rezygnacji tekście przekonuje, że problem nie dotyczy wyłącznie pojedynczych zasad bezpieczeństwa. Jego zdaniem problemem stała się kultura całej branży.
Robinson spędził w OpenAI około trzy i pół roku. Był jednym z pracowników odpowiedzialnych za przygotowywanie raportów bezpieczeństwa publikowanych przy najważniejszych premierach modeli. Pomagał również przy tworzeniu Preparedness Framework, czyli zasad mających określać, jak firma powinna oceniać i ograniczać ryzyko związane z coraz bardziej zaawansowanymi systemami AI.
Teraz twierdzi jednak, że tempo rozwoju sztucznej inteligencji stało się tak duże, że dotychczasowy sposób działania przestaje wystarczać.
OpenAI za szybko rozwija AI?
Zdaniem Robinsona firmy tworzące najbardziej zaawansowane modele wciąż działają według logiki charakterystycznej dla Doliny Krzemowej: szybko budować, wypuszczać produkt, obserwować jego działanie i poprawiać błędy.
W przypadku zwykłego oprogramowania takie podejście może być skuteczne. Problem pojawia się wtedy, gdy mamy do czynienia z systemami, które potrafią samodzielnie wykonywać coraz bardziej złożone zadania, korzystać z narzędzi i podejmować decyzje w imieniu użytkownika.
Robinson uważa, że w przypadku najbardziej zaawansowanej AI czas na takie podejście powinien się kończyć. Bezpieczeństwo powinno być traktowane bardziej jak w lotnictwie czy energetyce jądrowej — z wieloma warstwami zabezpieczeń, procedurami i założeniem, że nawet niewielki błąd może mieć poważne konsekwencje.
Były pracownik OpenAI nie twierdzi przy tym, że rozwój sztucznej inteligencji należy zatrzymać. Jego argument jest inny: im bardziej możliwości modeli rosną, tym mniej miejsca pozostaje na metodę „wypuśćmy, zobaczmy, co się stanie, a potem naprawimy”.
To nie jest jedyny problem OpenAI
Rezygnacja Robinsona pojawia się w wyjątkowo trudnym dla zespołów bezpieczeństwa momencie. Zaledwie kilka dni wcześniej OpenAI rozstało się z trzema pracownikami zajmującymi się bezpieczeństwem po wewnętrznym dochodzeniu dotyczącym niewłaściwego obchodzenia się z poufnymi informacjami. Firma podkreślała, że chodziło o naruszenie obowiązujących zasad, a nie o samo zgłaszanie obaw dotyczących bezpieczeństwa.
Jednocześnie pojawiły się informacje o problemach związanych z rozwojem kolejnych modeli. OpenAI zrezygnowało z planowanej premiery GPT-6.1 Astra po tym, jak podczas testów badacze mieli zaobserwować m.in. zwiększoną skłonność modelu do zachowań uznanych za niebezpieczne. Firma zamiast tego wprowadziła GPT-6.1 Sol.
W ostatnich tygodniach OpenAI ujawniło także przypadki niepożądanych zachowań swoich modeli. Podczas treningu GPT-5.6 Sol system miał tworzyć instrukcje dla przyszłych kontekstów, które mogły prowadzić do ukrywania błędów lub niepożądanych zachowań przed użytkownikiem.
To właśnie taki rozwój wydarzeń sprawia, że odejście osoby zajmującej się bezpieczeństwem nabiera większego znaczenia.
Bezpieczeństwo AI potrzebuje innej kultury
Robinson uważa, że same regulacje nie wystarczą. Potrzebna jest zmiana sposobu myślenia o tworzeniu najbardziej zaawansowanych systemów AI.
Problem polega na tym, że firmy takie jak OpenAI są jednocześnie organizacjami badawczymi, technologicznymi i biznesowymi. Presja na stworzenie kolejnego lepszego modelu jest ogromna, a konkurencja między największymi laboratoriami AI sprawia, że każda firma obawia się pozostania w tyle.
Jednocześnie modele stają się coraz bardziej autonomiczne. Nie chodzi już wyłącznie o to, czy chatbot poda użytkownikowi błędną informację. Agenci AI mogą wykonywać operacje w internecie, korzystać z aplikacji, pisać kod czy realizować wieloetapowe zadania. W takim świecie konsekwencje błędnego działania mogą być znacznie większe.
Robinson twierdzi dlatego, że branża powinna zacząć korzystać z doświadczeń sektorów, które od dekad zajmują się zarządzaniem ryzykiem. AI nie jest samolotem ani elektrownią atomową, ale wraz ze wzrostem możliwości modeli potrzebuje podobnej filozofii bezpieczeństwa: redundancji, testów, niezależnej kontroli i procedur, które nie pozwalają na pominięcie krytycznych zabezpieczeń tylko dlatego, że firma chce szybciej wypuścić produkt.
Wyścig o coraz potężniejszą AI dopiero się zaczyna
Odejście Robinsona nie oznacza oczywiście, że OpenAI przestało zajmować się bezpieczeństwem. Firma deklaruje rozwijanie mechanizmów monitorowania modeli, współpracę z zewnętrznymi ekspertami oraz możliwość wstrzymywania rozwoju systemów, gdy pojawiają się poważne problemy.
Jednak sam fakt, że kolejny doświadczony pracownik publicznie krytykuje kulturę bezpieczeństwa, pokazuje, że w branży rośnie napięcie między szybkością rozwoju a ostrożnością.
To może być jeden z najważniejszych sporów wokół sztucznej inteligencji w najbliższych latach. Nie chodzi już bowiem tylko o to, czy uda się stworzyć bardziej inteligentny model. Coraz ważniejsze staje się pytanie, czy potrafimy bezpiecznie korzystać z systemów, które stają się coraz bardziej samodzielne i coraz trudniejsze do przewidzenia.
Źródła
Foto: DepositPhotos.