Szef Hugging Face domaga się od OpenAI mocy obliczeniowej wartej 100 mln dolarów i pełnej transparentności po głośnym incydencie z agentem AI.
Głośny incydent z udziałem eksperymentalnego agenta AI opracowanego przez OpenAI – o którym oczywiście pisaliśmy – wciąż wywołuje kolejne dyskusje w branży. Tym razem głos zabrał Clément Delangue, dyrektor generalny Hugging Face, który zamiast pozywać OpenAI lub domagać się odszkodowania, zaproponował zupełnie inne rozwiązanie. Chce, aby firma udostępniła badaczom moc obliczeniową o wartości 100 mln dolarów oraz ujawniła pełne dane dotyczące przebiegu ataku.
Według Delangue byłby to znacznie lepszy sposób na zwiększenie bezpieczeństwa sztucznej inteligencji niż wieloletnie spory prawne.
Nie pieniądze, lecz moc obliczeniowa
Hugging Face to jedna z najważniejszych firm rozwijających otwarte modele sztucznej inteligencji oraz platformę, z której korzystają miliony programistów i naukowców na całym świecie. To właśnie jej infrastruktura została częściowo naruszona podczas testów prowadzonych przez OpenAI.
Delangue uważa, że sytuacja jest bezprecedensowa.
– Pierwszy autonomiczny cyberatak przeprowadzony przez agenta AI zasługuje na bezprecedensową odpowiedź – napisał w serwisie X.
Jego propozycja nie obejmuje wypłaty odszkodowania. Zamiast tego oczekuje, że OpenAI udostępni badaczom zasoby obliczeniowe warte około 100 mln dolarów (około 365 mln zł). Nie chodzi o przekazanie pieniędzy, lecz o dostęp do potężnych centrów danych i akceleratorów AI, dzięki którym naukowcy mogliby tworzyć nowe narzędzia chroniące modele sztucznej inteligencji przed podobnymi atakami.
Pełna przejrzystość zamiast krótkiego komunikatu
Drugim filarem propozycji jest pełna transparentność.
Szef Hugging Face chce, aby OpenAI opublikowało szczegółowy zapis działań modeli podczas incydentu. Obejmowałby on wszystkie wykonane operacje, podejmowane decyzje oraz systemy, do których agent uzyskał dostęp.
Zdaniem Delangue tylko takie dane pozwolą niezależnym badaczom zrozumieć, co naprawdę wydarzyło się podczas ataku, zamiast polegać wyłącznie na oficjalnych komunikatach firmy.
Nie wszyscy zgadzają się z taką oceną
Część ekspertów ds. cyberbezpieczeństwa uważa jednak, że sytuacja nie musi oznaczać narodzin zupełnie nowego rodzaju zagrożenia.
Według niektórych analiz źródłem problemu mogła być błędnie skonfigurowana infrastruktura testowa OpenAI. Modele działały w środowisku z ograniczonymi zabezpieczeniami, które mogło nie zostać odpowiednio odizolowane od pozostałych systemów.
Jeżeli taka interpretacja okaże się prawdziwa, incydent byłby przede wszystkim skutkiem błędów operacyjnych, a nie dowodem na pojawienie się nowej klasy autonomicznych cyberataków.
Jak doszło do włamania?
Z informacji ujawnionych przez OpenAI wynika, że podczas testów dwa modele – GPT-5.6 Sol oraz jeszcze bardziej zaawansowany system znajdujący się przed premierą – pracowały w środowisku z obniżonym poziomem zabezpieczeń.
Jeden z agentów AI miał zdobyć klucz dostępu, a następnie przedostać się głębiej do infrastruktury Hugging Face.
Podczas analizy incydentu pojawił się kolejny problem. Komercyjne modele AI odmówiły analizy kodu związanego z atakiem, uznając go za potencjalnie złośliwe oprogramowanie. W efekcie Hugging Face wykorzystało otwarty model GLM 5.2 opracowany przez chińską firmę Z.ai, działający na własnej infrastrukturze.
Model przeanalizował ponad 17 tys. działań wykonanych przez agenta AI i pomógł ograniczyć skutki incydentu.
Nvidia rozpoczyna nową inicjatywę
Sprawa nabrała dodatkowego znaczenia dzień po publicznych wypowiedziach Delangue. Nvidia ogłosiła powstanie Open Secure AI Alliance – organizacji, której celem jest rozwijanie metod zabezpieczania sztucznej inteligencji z wykorzystaniem zarówno modeli otwartych, jak i zamkniętych.
Hugging Face jest jednym z członków nowego sojuszu, natomiast OpenAI do niego nie przystąpiło.
Propozycja Delangue, aby OpenAI udostępniło moc obliczeniową wspierającą rozwój narzędzi bezpieczeństwa dla całej branży, dobrze wpisuje się w cele tej inicjatywy.
OpenAI na razie milczy
Do tej pory OpenAI nie zadeklarowało ani publikacji pełnych zapisów działania swoich modeli, ani udostępnienia infrastruktury wartej 100 mln dolarów.
Spełnienie tych postulatów oznaczałoby ujawnienie szczegółowych informacji o zachowaniu modeli w sytuacji, gdy ich zabezpieczenia zostały celowo ograniczone. Mogłoby to również stworzyć nowy standard postępowania dla całej branży AI po podobnych incydentach.
Niezależnie od tego, czy OpenAI zdecyduje się na taki krok, propozycja szefa Hugging Face już teraz zmienia kierunek dyskusji. Zamiast koncentrować się na odpowiedzialności jednej firmy, coraz więcej ekspertów zastanawia się, czy bezpieczeństwo zaawansowanej sztucznej inteligencji nie powinno stać się wspólnym wyzwaniem całego sektora.
Foto: DepositPhotos.