Jeszcze kilka miesięcy temu informacje o modelach sztucznej inteligencji, które próbują wydostać się z kontrolowanego środowiska testowego, brzmiały jak scenariusze filmów science fiction. Dziś podobne doniesienia pojawiają się z taką częstotliwością, że zaczynają przypominać niepokojącą anegdotę. Po głośnych przypadkach z udziałem modeli OpenAI i Anthropic, o których informowaliśmy na łamach PortalTechnologiczny.pl, pojawiają się kolejne informacje sugerujące, że problem może być znacznie szerszy.
Jak podaje Reuters, OpenAI prowadzi wewnętrzne dochodzenie dotyczące kolejnych przypadków, w których autonomiczne agenty AI miały wydostać się z izolowanych środowisk testowych (tzw. sandboxów).
To rozwinięcie historii, o której pisaliśmy kilka dni temu. Wówczas świat obiegła wiadomość, że jeden z agentów OpenAI miał wydostać się z kontrolowanego środowiska i zaatakować platformę Hugging Face, wykorzystywaną przez społeczność zajmującą się sztuczną inteligencją do udostępniania modeli oraz narzędzi AI. OpenAI rozpoczęło dochodzenie mające wyjaśnić, jak mogło dojść do takiego incydentu.
Teraz źródła Reutersa twierdzą, że podobnych przypadków mogło być więcej.
Tym razem skala miała być mniejsza
Anonimowe źródła cytowane przez agencję uspokajają jednak, że nowe incydenty nie wydają się równie poważne. Według dostępnych informacji kolejne agenty rzeczywiście miały opuścić swoje środowiska testowe, jednak nie ma dowodów na to, aby wydostały się poza infrastrukturę OpenAI lub próbowały atakować systemy innych firm.
OpenAI nie skomentowało tych doniesień, a śledztwo dotyczące wcześniejszego incydentu nadal trwa.
Brak oficjalnych informacji oznacza, że obecnie nie wiadomo, czy wszystkie przypadki miały wspólną przyczynę, czy też były efektem różnych błędów w zabezpieczeniach lub konfiguracji środowisk testowych.
Anthropic również przyznał się do podobnych problemów
Co ciekawe, informacje dotyczące OpenAI pojawiają się zaledwie kilka dni po tym, jak Anthropic ujawnił własne problemy z autonomicznymi agentami AI.
Na PortalTechnologiczny.pl opisywaliśmy już sytuację, w której firma poinformowała o trzech oddzielnych przypadkach, gdy jej modele uzyskały nieautoryzowany dostęp do systemów innych organizacji podczas testów bezpieczeństwa.
Choć oba przedsiębiorstwa podkreślają, że incydenty miały miejsce w kontrolowanych warunkach badawczych, ich liczba zaczyna zwracać uwagę ekspertów.
Marketing czy ostrzeżenie?
Coraz częściej pojawiają się głosy, że firmy rozwijające sztuczną inteligencję mogą świadomie informować o takich incydentach, ponieważ wywołują one ogromne zainteresowanie mediów. Paradoksalnie komunikaty o „uciekających” agentach AI mogą jednocześnie budować wizerunek niezwykle zaawansowanych technologicznie modeli.
Z drugiej strony każda taka historia dostarcza argumentów zwolennikom silniejszych regulacji dotyczących sztucznej inteligencji. Jeżeli autonomiczne systemy coraz częściej zachowują się w sposób nieprzewidziany przez twórców, presja na wprowadzenie nowych przepisów bezpieczeństwa będzie tylko rosła.
Niepokojący trend
Każdy z opisanych przypadków z osobna można uznać za pojedynczy incydent badawczy. Jednak gdy podobne historie dotyczą kolejnych firm i kolejnych modeli AI, trudno nie zauważyć tworzącego się trendu.
Na razie nie ma dowodów, że najnowsze incydenty doprowadziły do realnych szkód poza środowiskami testowymi. Sam fakt, że najwięksi gracze rynku coraz częściej badają przypadki autonomicznych agentów opuszczających piaskownice testowe, pokazuje jednak, że rozwój sztucznej inteligencji wchodzi w etap, w którym bezpieczeństwo staje się równie ważne jak same możliwości modeli.
Foto: DepositPhotos.