OpenAI zaprezentowało Astrę, swój najnowszy i — według deklaracji firmy — najbardziej zaawansowany model sztucznej inteligencji. System ma wyznaczać nową granicę możliwości AI w korzystaniu z komputerów i przeglądarek, programowaniu oraz cyberbezpieczeństwie. Jednocześnie Astra jest jednym z najbardziej kontrowersyjnych modeli firmy.
OpenAI udostępniło Astrę 3 września w ramach swojego programu cyberbezpieczeństwa Daybreak. W ciągu kolejnego tygodnia model ma trafić również do użytkowników płatnych planów, w tym Pro, Plus, Enterprise i Business, a także do API.
Firma przedstawia Astrę jako znaczący krok w kierunku AI, które może wykonywać za użytkownika coraz bardziej złożone zadania.
Astra ma zmienić sposób, w jaki AI korzysta z komputerów
Greg Brockman, prezes OpenAI, określił Astrę mianem najinteligentniejszego i najlepiej dostosowanego do ludzkich celów modelu firmy.
Według niego nowy system jest rezultatem kilku lat badań i kolejnych przełomów technologicznych. Najważniejsza zmiana nie ma jednak polegać wyłącznie na tym, że Astra lepiej odpowiada na pytania.
OpenAI chce, aby model potrafił samodzielnie wykonywać zadania wymagające korzystania z komputera i przeglądarki.
To istotna zmiana z punktu widzenia rozwoju tzw. agentów AI. Zamiast jedynie generować tekst, kod czy analizować informacje, modele mają coraz częściej wykonywać całe procesy w imieniu użytkownika.
W praktyce oznacza to możliwość delegowania AI zadań, które do tej pory wymagały bezpośredniej pracy człowieka z komputerem.
Astra ma być również najlepszym programistą OpenAI
Firma mocno podkreśla możliwości Astry w zakresie programowania. OpenAI określa ją nawet mianem najlepszego modelu do inżynierii oprogramowania, jaki stworzyło do tej pory.
Na poparcie tej deklaracji przedstawiono wyniki testów obejmujących między innymi wyszukiwanie błędów w kodzie, wykonywanie poleceń w terminalu oraz odpowiadanie na pytania dotyczące dużych baz kodu.
Według OpenAI Astra ma wypadać lepiej od dotychczasowych modeli, w tym własnego Sol oraz Fable firmy Anthropic.
To właśnie połączenie programowania, obsługi komputera i autonomicznego wykonywania zadań może być jednym z najważniejszych elementów nowego modelu.
Jeśli Astra rzeczywiście będzie potrafiła wykonywać wieloetapowe zadania szybciej i skuteczniej od poprzednich generacji, może przyspieszyć przejście od chatbotów do agentów AI wykonujących realną pracę.
Największe możliwości Astry dotyczą cyberbezpieczeństwa
Jednocześnie to właśnie cyberbezpieczeństwo jest jednym z najbardziej interesujących, ale i ryzykownych obszarów zastosowania Astry.
OpenAI twierdzi, że model był testowany za pomocą szeregu benchmarków bezpieczeństwa. Jednym z jego potencjalnych zastosowań ma być wyszukiwanie nieznanych wcześniej luk w zabezpieczeniach, czyli tzw. zero-day exploits.
Brzmi to paradoksalnie. Model zdolny do znajdowania takich podatności może być niezwykle wartościowym narzędziem dla obrońców systemów informatycznych. Może pomóc wykrywać problemy, zanim zrobią to cyberprzestępcy.
Ta sama zdolność może jednak zostać wykorzystana w zupełnie przeciwnym celu.
Dlatego OpenAI szczególnie dużo uwagi poświęca zabezpieczeniom Astry i sposobom ograniczania potencjalnie niebezpiecznych działań modelu.
Kontrowersyjna technika rozumowania
Największe kontrowersje wokół Astry nie dotyczą jednak wyłącznie cyberbezpieczeństwa.
Model wykorzystuje technikę określaną jako opaque recurrence. Jej zastosowanie utrudnia obserwowanie procesu rozumowania modelu, co ma znaczenie dla bezpieczeństwa i możliwości kontrolowania jego działania.
To szczególnie istotne, ponieważ jednym z podstawowych narzędzi badaczy pracujących nad bezpieczeństwem modeli AI jest analiza tzw. chain of thought — procesu, który pozwala lepiej zrozumieć, w jaki sposób model dochodzi do określonych decyzji.
W przypadku Astry część tego procesu staje się trudniejsza do monitorowania.
OpenAI nie przedstawia tego jednak jako problemu, którego można po prostu uniknąć.
Główny naukowiec firmy Jakub Pachocki przyznał, że monitorowanie sposobu rozumowania modeli pozostaje niezwykle ważnym elementem nadzoru, ale jednocześnie wraz ze wzrostem możliwości AI staje się coraz trudniejsze.
Bardziej zaawansowane modele mogą bowiem wykonywać trudniejsze zadania przy wykorzystaniu mniejszej liczby tokenów językowych, a w niektórych przypadkach mogą wykonywać część pracy bez generowania takich tokenów. To oznacza mniej informacji, które można wykorzystać do obserwowania procesu podejmowania decyzji.
Im bardziej zaawansowany staje się model, tym trudniej może być zajrzeć do środka i sprawdzić, dlaczego zrobił to, co zrobił.
To jeden z fundamentalnych problemów stojących dziś przed rozwojem bezpiecznych agentów AI.
Czy Astra oznacza AGI?
Podczas konferencji prasowej pojawiło się również pytanie, czy OpenAI uważa Astrę za moment nadejścia AGI, czyli sztucznej inteligencji ogólnej.
To pojęcie od lat pozostaje jednym z najbardziej kontrowersyjnych w branży. Nie istnieje bowiem jedna powszechnie zaakceptowana definicja AGI. Najczęściej chodzi o system AI, który byłby zdolny wykonywać szeroki zakres zadań na poziomie porównywalnym lub przewyższającym człowieka.
Greg Brockman nie ogłosił formalnie nadejścia AGI.
Zwrócił natomiast uwagę, że w umowie Microsoftu z OpenAI nie istnieje już wcześniejszy mechanizm, w którym osiągnięcie AGI miało określone konsekwencje dla współpracy obu firm.
Dziś AGI ma być raczej „koncepcją misyjną” lub „duchową” niż precyzyjnie określonym punktem kontraktowym.
Jednocześnie Brockman powiedział coś znacznie bardziej interesującego.
Jego zdaniem każdy może sam zdecydować, czy Astra spełnia jego definicję AGI. On sam uważa, że OpenAI już tam dotarło.
To bardzo mocna deklaracja, szczególnie biorąc pod uwagę, że OpenAI nie przedstawia Astry jako jedynie kolejnej generacji chatbota. Firma chce pokazać ją jako system, który potrafi wykonywać realną pracę, korzystać z komputerów, programować i działać w środowiskach wymagających znacznie większej autonomii.
Astra pokazuje największy problem przyszłości AI
Premiera Astry pokazuje jednocześnie dwie strony obecnego wyścigu AI.
Z jednej strony modele stają się coraz bardziej użyteczne. Potrafią programować, analizować skomplikowane problemy, korzystać z narzędzi i wykonywać zadania, które jeszcze niedawno wymagały człowieka.
Z drugiej — coraz trudniej dokładnie kontrolować ich działanie.
To szczególnie ważne w przypadku agentów AI. Jeżeli model tylko odpowiada na pytanie, ryzyko jest stosunkowo łatwe do ograniczenia. Jeżeli natomiast może samodzielnie korzystać z przeglądarki, uruchamiać polecenia, modyfikować kod, wyszukiwać podatności i wykonywać wieloetapowe zadania, konsekwencje błędnej decyzji mogą być znacznie poważniejsze.
Astra może więc okazać się ważniejsza nie dlatego, że jest po prostu „mądrzejszym chatbotem”.
Jej znaczenie może polegać na tym, że pokazuje kolejny etap ewolucji AI — przejście od modeli, które odpowiadają, do modeli, którym można powierzyć wykonanie całego zadania.
I właśnie dlatego pytanie o bezpieczeństwo i możliwość kontrolowania ich rozumowania staje się równie ważne jak pytanie o ich inteligencję.
Foto: DepositPhotos.