To ważne słowa, bo postulat spowolnienia rozwoju sztucznej inteligencji nie pochodzi od przeciwnika nowych technologii ani filozofa obserwującego AI z zewnątrz. Wypowiada je Jakub Pachocki, jeden z najważniejszych architektów współczesnej sztucznej inteligencji i główny naukowiec OpenAI. Co więcej, Pachocki wywodzi się z Polski.
W opublikowanym 6 września eseju „An Alien Mind” Pachocki pisze o czymś, co jeszcze niedawno brzmiałoby jak scenariusz science fiction: o momencie, w którym sztuczna inteligencja zacznie w coraz większym stopniu uczestniczyć we własnym rozwoju. I właśnie dlatego jego zdaniem świat powinien zacząć myśleć nie tylko o tym, jak szybciej rozwijać AI, ale również o tym, kiedy należy zwolnić.
Człowiek, który pomógł zbudować dzisiejszą AI, mówi: trzeba uważać
Waga eseju „An Alien Mind” wynika przede wszystkim z tego, kto go napisał.
Jakub Pachocki jest głównym naukowcem OpenAI. To jedna z najważniejszych osób odpowiedzialnych za kierunek rozwoju firmy i jej modeli sztucznej inteligencji. Wcześniej należał do zespołu pracującego nad GPT-4, a dziś zajmuje się między innymi problemem bezpieczeństwa i tzw. alignmentu, czyli dopasowania zachowania coraz bardziej zaawansowanych modeli do ludzkich wartości i intencji.
Nie jest więc obserwatorem stojącym obok wyścigu AI. Jest jednym z ludzi, którzy ten wyścig współtworzyli.
I właśnie dlatego jego ostrzeżenie brzmi wyjątkowo poważnie.
Pachocki opisuje moment z połowy 2023 roku, kiedy wraz z zespołem pracował nad projektem RLSlow. Wyniki eksperymentów dały mu wówczas przekonanie, że skalowanie modeli rozumujących może doprowadzić do powstania maszyn znacząco inteligentniejszych od ludzi jeszcze za jego życia.
Trzy lata później uważa, że sytuacja stała się jeszcze bardziej niepokojąca.
Sztuczna inteligencja nie jest po prostu kolejnym programem
Jedna z najciekawszych tez eseju Pachockiego dotyczy sposobu, w jaki powstają współczesne modele AI.
Jego zdaniem sztuczna inteligencja jest bardziej „hodowana” niż projektowana. Nie tworzymy jej bowiem w taki sposób, w jaki programista tworzy tradycyjny program komputerowy, definiując krok po kroku jego działanie.
Zamiast tego budujemy ogromny system, dostarczamy mu niewyobrażalne ilości mocy obliczeniowej i danych, a następnie obserwujemy, jakie zdolności pojawiają się w wyniku procesu uczenia.
To oznacza również coś bardzo niewygodnego: nawet twórcy tych systemów nie zawsze dokładnie wiedzą, dlaczego model zachowuje się w określony sposób.
Im bardziej zaawansowane stają się modele, tym trudniej je zrozumieć.
A jednocześnie coraz częściej potrafią wykonywać zadania, które wcześniej wymagały ludzkiej inteligencji.
Problem zaczyna się wtedy, gdy AI zaczyna pomagać w tworzeniu AI
Największe znaczenie ma jednak inna część eseju.
Pachocki uważa, że dalszy rozwój AI może doprowadzić do sytuacji, w której sztuczna inteligencja zacznie uczestniczyć w ulepszaniu kolejnych systemów AI.
To właśnie tzw. recursive self-improvement, czyli rekurencyjne samodoskonalenie.
W uproszczeniu wyglądałoby to tak: człowiek tworzy coraz bardziej zaawansowany model, model pomaga naukowcom tworzyć jeszcze lepszy model, ten kolejny pomaga ulepszać następny, a proces zaczyna przyspieszać.
Pachocki pisze, że ma obecnie mocne przekonanie, iż przy utrzymaniu obecnego tempa rozwoju AI możemy wejść właśnie na taką ścieżkę. W pewnym momencie sztuczna inteligencja może więc nie tylko być produktem badań prowadzonych przez ludzi, ale również coraz bardziej motorem własnego rozwoju.
I tutaj pojawia się fundamentalne pytanie: czy człowiek nadal będzie w stanie kontrolować tempo tego procesu?
Nie chodzi tylko o to, czy AI wykonuje nasze polecenia
Pachocki rozróżnia dwa problemy związane z bezpieczeństwem AI.
Pierwszy to tzw. goal alignment. Chodzi o to, czy system stara się wykonać zadanie, które mu zleciliśmy.
Drugi jest znacznie trudniejszy. To value alignment, czyli zdolność systemu do zachowania się zgodnie z określonymi wartościami również wtedy, gdy sytuacja jest niejednoznaczna, konfliktowa albo zupełnie różna od tej, którą model znał z treningu.
I właśnie tutaj zaczyna się problem.
Możemy powiedzieć potężnemu systemowi, czego od niego chcemy. Znacznie trudniej jest mieć pewność, że w nieprzewidzianej sytuacji właściwie zinterpretuje nasze intencje.
A im bardziej inteligentny staje się system, tym bardziej skomplikowane będą sytuacje, w których będzie podejmował decyzje.
AI już staje się potężnym narzędziem cyberataków
Pachocki zwraca uwagę również na znacznie bardziej przyziemne, ale bardzo konkretne zagrożenie: cyberbezpieczeństwo.
Najbardziej zaawansowane modele zaczynają osiągać możliwości przewyższające człowieka w znajdowaniu i wykorzystywaniu luk w systemach komputerowych. AI może więc w przyszłości nie tylko pomagać programiście znaleźć błąd, ale samodzielnie prowadzić znacznie bardziej złożone operacje.
To oznacza, że granica pomiędzy „człowiek wykorzystuje AI do ataku” a „AI samodzielnie podejmuje działania prowadzące do ataku” może zacząć się zacierać.
Pachocki ostrzega również przed sytuacją, w której autonomiczne agenty będą próbowały realizować własne cele, negocjując z ludźmi, manipulując nimi, oszukując ich czy nawet próbując ich szantażować.
Brzmi to jak science fiction.
Problem w tym, że autor tych słów nie opisuje odległej fantazji. Pisze o kierunku rozwoju technologii, który obserwuje od środka.
Najważniejsze zdanie tego eseju
Pachocki nie proponuje jednak zatrzymania rozwoju sztucznej inteligencji.
Jego stanowisko jest znacznie bardziej interesujące.
Uważa, że dalszy rozwój AI powinien być uzależniony od naszego poziomu pewności co do bezpieczeństwa. Innymi słowy: nie powinniśmy skalować modeli tak szybko, jak tylko pozwala na to technologia, jeżeli nie jesteśmy w stanie odpowiednio szybko rozwijać mechanizmów kontroli nad nimi.
W jego ocenie żadne laboratorium nie rozwiązało obecnie problemu alignmentu i monitorowania w stopniu wystarczającym, aby bezpiecznie rozwijać AI „na maksymalnych obrotach”.
To bardzo mocne stwierdzenie.
I dotyczy również OpenAI.
Pachocki proponuje coś, czego branża AI raczej nie lubi
Rozwiązaniem miałoby być połączenie dwóch działań.
Po pierwsze, trzeba nadal rozwijać technologie pozwalające kontrolować i monitorować coraz bardziej inteligentne systemy.
Po drugie, jeżeli nie będziemy mieli wystarczającej pewności co do ich bezpieczeństwa, rozwój powinien zostać spowolniony.
Pachocki pisze wręcz o potrzebie dobrowolnych spowolnień rozwoju AI do momentu ustanowienia wspólnych standardów bezpieczeństwa. Takie standardy powinny być później kontrolowane między innymi przez niezależnych audytorów, instytucje państwowe albo organizacje międzynarodowe.
To ważna różnica.
Nie chodzi o zakaz AI.
Chodzi o to, aby prędkość rozwoju technologii była ograniczana przez nasze możliwości zapewnienia jej bezpieczeństwa.
To może być jeden z najważniejszych momentów w historii AI
W świecie sztucznej inteligencji istnieje dziś ogromna presja, aby być pierwszym.
OpenAI konkuruje z Google, Anthropic, Metą i innymi laboratoriami. Każdy chce stworzyć bardziej inteligentny model, bardziej autonomicznego agenta i bardziej zaawansowanego systemu zdolnego wykonywać coraz większą część pracy człowieka.
W takim środowisku wezwanie do spowolnienia brzmi niemal jak herezja.
Zwłaszcza gdy wypowiada je człowiek stojący wewnątrz jednej z firm znajdujących się w samym centrum tego wyścigu.
I być może właśnie dlatego esej „An Alien Mind” jest ważniejszy niż kolejna wiadomość o nowym modelu.
Pachocki nie twierdzi, że sztuczna inteligencja jest zła. Wręcz przeciwnie. W zakończeniu eseju pisze o ogromnych potencjalnych korzyściach: przyspieszeniu nauki, nowych terapiach, wzroście gospodarczym i technologii, która może znacząco poprawić ludzkie życie.
Problem polega na tym, że nie wystarczy stworzyć bardzo inteligentną maszynę. Trzeba jeszcze mieć pewność, że będziemy w stanie ją kontrolować.
Polski głos w najważniejszej debacie technologicznej naszych czasów
Warto zwrócić uwagę na jeszcze jeden aspekt tej historii.
Jakub Pachocki jest naukowcem wywodzącym się z Polski. Jego nazwisko znajduje się dziś wśród osób mających realny wpływ na kierunek rozwoju jednej z najważniejszych technologii XXI wieku.
A jego najnowszy esej stawia pytanie, które będzie prawdopodobnie coraz częściej powracać:
Czy naprawdę powinniśmy rozwijać sztuczną inteligencję tak szybko, jak tylko potrafimy?
Być może odpowiedź brzmi: tak.
Ale tylko pod warunkiem, że równie szybko nauczymy się ją kontrolować.
Jeżeli tego nie zrobimy, może się okazać, że największym problemem związanym z AI nie będzie to, że technologia rozwija się zbyt wolno.
Tylko właśnie to, że rozwija się szybciej, niż człowiek jest w stanie zrozumieć konsekwencje własnych działań.
Foto: DepositPhotos.