Czy sztuczna inteligencja naprawdę myśli, czy tylko doskonale udaje? Czy większy model i większa moc obliczeniowa wystarczą, żeby stworzyć AGI? I czy powinniśmy bardziej bać się samej AI, czy raczej własnej skłonności do przypisywania jej rozumienia, świadomości i intencji? O tym mówi w wywiadzie Gniewosz Leliwa, fizyk teoretyk, specjalista od sztucznej inteligencji, współtwórca rozwiązań AI i autor książki „Inteligentny inaczej. Czy AI naprawdę myśli, czy tylko doskonale udaje?”.
Gniewosz z wykształcenia jest fizykiem teoretykiem, który porzucił doktorat z kwantowej teorii pola na rzecz sztucznej inteligencji. Jest współtwórcą rozwiązań AI, w tym systemów wykorzystujących podejście neurosymboliczne do wykrywania i przeciwdziałania dezinformacji oraz innym cyberzagrożeniom, a jego nowa książka jest próbą spojrzenia na współczesną sztuczną inteligencję z perspektywy informatyki, filozofii umysłu, neurobiologii i psychologii rozwoju.
Jego „Inteligentny inaczej” (Wydawnictwo Helion) ma 200 stron i właśnie wjeżdża do księgarni – premiera 8 września. Nie jest to jednak kolejna książka o tym, że AI albo zbawi świat, albo doprowadzi ludzkość do zagłady. Autor zaczyna od pytania znacznie bardziej podstawowego: co właściwie nazywamy inteligencją i czy rzeczywiście powinniśmy używać tego samego pojęcia w odniesieniu do człowieka i do maszyny?
„Nie chodzi o to, czy AI jest inteligentna. Ważniejsze jest, w jaki sposób jest inteligentna”
Co sprawiło, że zdecydował się Pan właśnie na taki temat?
Od lat obserwuję, a od pewnego czasu również uczestniczę w debacie publicznej na temat sztucznej inteligencji. Słysząc po raz kolejny, że AI zerwała się ze smyczy, że okłamała swoich twórców, by chronić własne wartości, że nie możemy wykluczyć, że już dziś jest świadoma, albo że — o zgrozo — hodujemy sobie pod nosem nowy gatunek, który prędzej czy później doprowadzi do naszej zagłady, postanowiłem zabrać zdecydowany głos w tej dyskusji.
Nie powiedziałbym jednak, że moim celem było przekonanie czytelników, że modele AI nie są inteligentne. Jeśli mówimy o inteligencji w sensie ludzkim, to mam w tej sprawie dość twarde przekonania. Bardziej zależało mi jednak na tym, by skłonić czytelnika do trochę innego myślenia o samej inteligencji — i to nie tylko tej sztucznej.
Od kiedy duże modele językowe i nowoczesne chatboty trafiły pod nasze strzechy, trochę zbyt łatwo i automatycznie zaczęliśmy przypisywać im „inteligencję”, nie zastanawiając się, co właściwie kryje się pod tym pojęciem. A przecież wraz z nim przenosimy na maszynę cały bagaż ludzkich skojarzeń: rozumienie, intencje, świadomość czy zdolność do refleksji. Tymczasem modele mogą wykonywać zadania wymagające inteligencji, a jednocześnie robić to w sposób radykalnie inny niż człowiek. Dlatego bardziej niż pytanie, czy AI jest inteligentna, interesowało mnie inne: jeśli jest, to w jaki sposób?
Jeżeli w debacie publicznej pojawiają się stwierdzenia, że AI „zerwała się ze smyczy” albo „świadomie podjęła jakieś działania”, zaczynamy przypisywać jej intencje, motywacje i autonomiczne cele. Z taką narracją fundamentalnie się nie zgadzam, bo nie jest to tylko kwestia języka — ma ona bardzo konkretne i daleko idące konsekwencje.
W książce używa Pan określenia „kościół wyznawców AI”. To dosyć mocne ustawienie się wobec części środowiska zajmującego się sztuczną inteligencją.
To prawda, ale nie miałem na myśli wyłącznie środowiska zawodowo zajmującego się AI. Nie chciałbym też sprowadzać tego sporu do prostego podziału na dwa wrogie obozy. Media, zwłaszcza te (anty)społecznościowe, bardzo lubią skrajności i polaryzację, a AI nie jest tu wyjątkiem. Z jednej strony mamy ludzi przekonanych, że sztuczna inteligencja właściwie już dziś jest świadoma, a AGI i superinteligencja są tuż za rogiem. Z drugiej — tych, którzy sprowadzają wszystko do „mnożenia macierzy i autouzupełniania”. Do obu tych stanowisk jest mi równie daleko.
Być może w książce mocniej krytykuję przypisywanie sztucznej inteligencji świadomości czy innych typowo ludzkich cech, ale nie oznacza to, że sprowadzam współczesne modele do roli generatorów najbardziej prawdopodobnych tokenów. Wręcz przeciwnie — to niezwykle kompetentne systemy. Tyle że ich kompetencja nie musi oznaczać ludzkiego rozumienia ani wynikać z mechanizmów podobnych do tych, które stoją za naszym myśleniem.
„Jeżeli sądzimy, że system rozumie problem, traktujemy go zupełnie inaczej”
To rozróżnienie ma jednak bardzo praktyczne konsekwencje.
Oczywiście. I to nie tylko z perspektywy filozoficznej. Proszę spojrzeć na zwykłego użytkownika albo na osobę, która wdraża AI w firmie, organizacji czy instytucji państwowej. Jeżeli zakładamy, że system naprawdę rozumie problem, zaczynamy traktować go zupełnie inaczej niż wtedy, gdy wiemy, że potrafi wygenerować bardzo dobrą odpowiedź bez gwarancji, że reprezentuje problem w sposób choćby zbliżony do naszego. To nie jest subtelność językowa, tylko różnica o bardzo praktycznych konsekwencjach.
Jeżeli przypisujemy AI ludzkie rozumienie, znacznie łatwiej scedować na nią odpowiedzialność. Zaczynamy mówić: „AI uznała, że ten kandydat jest słaby”, „AI oceniła, że ten pacjent ma niski priorytet”, „AI stwierdziła, że ten klient jest ryzykowny”, „AI zatwierdziła ten plan”. Brzmi to tak, jakby w procesie decyzyjnym pojawił się nowy, autonomiczny uczestnik.
Tymczasem decyzja o wykorzystaniu systemu, o zakresie jego uprawnień i o tym, czy zastosujemy się do jego rekomendacji, nadal należy do człowieka. I to rozróżnienie ma bardzo konkretne konsekwencje. Jeśli ktoś nie dostanie kredytu dlatego, że system popełnił błąd, mamy już realny i wymierny problem. A jeśli podobny błąd pojawi się w decyzji lekarza, inżyniera czy urzędnika, stawka może być nieporównanie wyższa.
Jeśli taki sposób myślenia dopuścimy do instytucji państwa, ryzykujemy powstanie systemu, w którym decyzje będą zapadać bez realnej odpowiedzialności. Obywatel odczuje ich skutki, ale nie będzie wiedział, kto właściwie zdecydował, na jakiej podstawie i do kogo może się odwołać. A państwo, w którym władza działa, lecz odpowiedzialność się rozpływa, bardzo szybko traci zaufanie obywateli i staje się demokracją tylko z nazwy.
„Człowiek może stworzyć coś, czego sam nie rozumie”
Kilka dni temu rozmawiałem z Bartoszem Naskręckim, matematykiem. Powiedział mi coś, co bardzo mocno zapadło mi w pamięć. Dzisiaj może wykorzystać AI do stworzenia bardzo dobrego artykułu matematycznego. Może nawet doprowadzić do sytuacji, w której wszystkie twierdzenia zostaną formalnie zweryfikowane. Tylko jest jeden problem: on może tego artykułu nie rozumieć. To brzmi absurdalnie, ale chyba bardzo dobrze łączy się z tym, co Pan opisuje.
Tak — i dobrze, że rozmawiał Pan właśnie z matematykiem, bo matematyka jest dziś jednym z obszarów, w których postęp AI widać szczególnie wyraźnie.
Trzeba tylko pamiętać o jednej rzeczy: kiedy dziś mówimy „AI”, coraz rzadziej mamy na myśli po prostu „goły” model językowy, taki jak jeszcze kilka lat temu. Współczesny system może korzystać z narzędzi, uruchamiać kod, sięgać do zewnętrznych źródeł, przechowywać informacje, planować kolejne kroki i wielokrotnie weryfikować własne rozwiązania. Do tego dochodzi znacznie większy budżet obliczeniowy wykorzystywany już na etapie samego rozwiązywania problemu.
Co więcej, nie musimy już prosić modelu o jedną próbę i przyjmować tego, co wygeneruje. Możemy równolegle eksplorować wiele różnych ścieżek rozwiązania, porównywać je, odrzucać ślepe uliczki, wybierać najbardziej obiecujące kierunki, a następnie je weryfikować i rozwijać.
W gruncie rzeczy nadal sprowadza się to jednak do przeszukiwania przestrzeni możliwych rozwiązań — tyle że na niespotykaną wcześniej skalę. Tam, gdzie człowiek sprawdziłby jedną czy dwie ścieżki, AI może przeanalizować setki albo tysiące wariantów, porównać ich wyniki i coraz trafniej wybierać te, które warto rozwijać dalej.
Dlaczego AI wydaje się coraz bardziej ludzka?
Każda kolejna generacja AI wydaje nam się coraz bardziej inteligentna i coraz bardziej ludzka. Skąd bierze się ta iluzja?
Częściowo oczywiście dlatego, że AI rzeczywiście staje się coraz lepsza — temu trudno zaprzeczyć. Ale pierwszy ważny element to język. Sam fakt, że AI mówi do nas w języku naturalnym, jest dla nas niezwykle silnym sygnałem obecności umysłu. Przez setki tysięcy lat ewolucji, jeśli coś mówiło do nas sensownie, reagowało na kontekst, żartowało, tłumaczyło się i zadawało pytania, to niemal na pewno był to drugi człowiek. Nasza psychologia jest więc bardzo silnie nastawiona na założenie, że za płynną, sensowną mową stoi ktoś, kto rozumie.
Druga rzecz to nasz „interfejs społeczny”. Model językowy komunikuje się z nami w sposób, który odruchowo kojarzymy z intencją, osobowością, empatią i rozumieniem. Co więcej, systemy te są projektowane tak, by być pomocne, uprzejme i dobrze dopasowane do użytkownika, więc dodatkowo wzmacniają wrażenie, że po drugiej stronie jest ktoś, kto nas słucha i rozumie.
„Masz świetny pomysł, ale…”
Czyli słynne: „Masz świetny pomysł, ale…”
Najczęściej wcale nie ma tego „ale”.
[śmiech]
Przypisywanie maszynom intencji nie jest zresztą niczym nowym. Kto nigdy nie przypisał złej woli drukarce, niech pierwszy rzuci kamieniem. Tyle że dziś ta „drukarka” nie tylko czegoś nie wydrukuje — oczywiście nam na złość — ale jeszcze w pięciu zdaniach i piękną polszczyzną wyjaśni, dlaczego tego nie zrobiła. I to naprawdę robi ogromną różnicę.
Jest jeszcze jedna ważna rzecz: dzisiejsze modele pokazują nam przede wszystkim rezultat, a nie proces, który do niego prowadzi. Widzimy argument, dowcip, wiersz czy analizę, ale nie widzimy miliardów parametrów, kolejnych obliczeń ani mechanizmu przewidywania następnych tokenów. A kiedy efekt przypomina rezultat ludzkiego myślenia, bardzo łatwo zakładamy, że również droga do niego musiała być podobna.
Dlatego w AI znacznie łatwiej zobaczyć „kogoś” niż „coś”.
Czy wystarczająco złożona AI może stać się świadoma?
W książce pisze Pan o inteligencji i świadomości jako o zjawiskach emergentnych. Czy zatem nie jest możliwe, że wystarczająco złożony system sztuczny po prostu spontanicznie wytworzy inteligencję albo świadomość?
Tu trzeba zrobić kilka ważnych rozróżnień. Jeżeli świadomość i inteligencja rzeczywiście są zjawiskami emergentnymi, oznacza to, że mogą wyłaniać się z interakcji wielu prostszych elementów. Ale z tego wcale nie wynika, że każdy dostatecznie złożony system prędzej czy później stanie się świadomy albo inteligentny.
Klasycznym przykładem zjawiska emergentnego jest huragan. Ale przecież nikt przy zdrowych zmysłach nie będzie twierdził, że jeśli tylko dołożymy wystarczająco dużo „cząsteczek powietrza”, to w pewnym momencie zacznie pisać sonety.
Ludzki mózg ma około 86 miliardów neuronów, ale jego właściwości nie wynikają po prostu z tego, że neuronów jest bardzo dużo. Znaczenie ma architektura połączeń, dynamika całego układu, sprzężenia zwrotne, sposób uczenia się, kontakt ze środowiskiem i cała historia rozwoju organizmu.
Kluczowa jest więc nie sama złożoność, lecz sposób organizacji systemu. Krótko mówiąc: złożoność może być warunkiem inteligencji, ale z pewnością nie jest na nią przepisem.
Ze świadomością jest jeszcze trudniej. O ile inteligencję możemy — przynajmniej częściowo — badać poprzez zachowanie: zdolność rozwiązywania problemów, generalizacji, planowania czy uczenia się, o tyle nie jesteśmy w stanie bezpośrednio sprawdzić, czy druga istota ma subiektywne doświadczenie. Nie dysponujemy żadnym „detektorem świadomości”.
A co z ośmiornicą?
Tylko że przecież świadomość przypisujemy również zwierzętom. Możemy obserwować zachowania naczelnych, ale również innych bardzo inteligentnych organizmów, chociażby ośmiornic.
Tak, ale w przypadku zwierząt sytuacja jest jednak inna. Mówimy o organizmach biologicznych, które są nam znacznie bliższe niż program komputerowy. Kiedy przypisujemy im świadomość, nie opieramy się wyłącznie na zachowaniu. Bierzemy pod uwagę także podobieństwa w budowie i funkcjonowaniu układu nerwowego, reakcje na ból i stres, sposób przetwarzania bodźców oraz wspólną historię ewolucyjną.
To wszystko składa się na pewien pakiet przesłanek: skoro podobne mechanizmy biologiczne u nas wiążą się ze świadomym doświadczeniem, mamy dobre powody przypuszczać, że u innych zwierząt przynajmniej część z nich pełni podobną funkcję.
W przypadku sztucznej inteligencji takiego rusztowania po prostu nie mamy. Zostaje nam przede wszystkim zachowanie — a akurat modele językowe są wyjątkowo dobre w generowaniu wypowiedzi i reakcji, które sprawiają wrażenie, jakby stał za nimi świadomy podmiot. Dlatego analogia ze zwierzętami jest kusząca, ale znacznie słabsza, niż mogłoby się na pierwszy rzut oka wydawać.
Co musiałoby się wydarzyć, żeby Gniewosz Leliwa uwierzył w Superinteligencję (AGI)?
Przejdźmy zatem do pytania najważniejszego. Co musiałoby się zmienić w AI, żeby uwierzył Pan, że maszyna rzeczywiście osiągnęła ludzką inteligencję?
Na pewno nie przekonałby mnie żaden benchmark. W książce poświęciłem cały rozdział temu, dlaczego benchmark może nam jeszcze powiedzieć coś ciekawego pierwszego dnia po publikacji, a już drugiego staje się częścią ekosystemu treningowego i zaczyna mierzyć coś innego, niż pierwotnie zakładali jego twórcy.
Pan Gniewosz powie Wam w książce, dlaczego większość benchmarków jest bezużyteczna.
[śmiech]
Myślę, że nie chodzi tu o jedną konkretną cechę czy funkcjonalność.
Chciałbym przede wszystkim zobaczyć prawdziwą generalizację poza rozkład treningowy: system, który nie tylko świetnie radzi sobie z zadaniami podobnymi do tych, na których się uczył, ale potrafi wejść w zupełnie nową klasę problemów, samodzielnie zorientować się w sytuacji i wypracować skuteczną strategię działania.
Tyle że w przypadku dużych modeli językowych jest to niesłychanie trudne. Sytuacji nie ułatwia też fakt, że twórcy tych systemów są — powiedzmy — wyjątkowo oszczędni, jeśli chodzi o ujawnianie, na jakich danych właściwie trenują swoje modele.
Drugi ważny temat to uczenie się z niewielkiej liczby doświadczeń. Ludzie potrafią nauczyć się bardzo wiele nawet na podstawie pojedynczego przykładu. Gdybym zobaczył system, który aktywnie eksploruje, wyciąga abstrakcyjne reguły z małej liczby obserwacji, a następnie potrafi przenosić je do zupełnie nowych domen, byłby to dla mnie bardzo mocny argument za zbliżaniem się do ludzkiego typu inteligencji.
Trzeci element to trwałe uczenie się bez konieczności ponownego trenowania całego modelu. Nie chodzi mi przy tym o zewnętrzną pamięć, do której system sięga, żeby sprawiać wrażenie ciągłości. Gdyby potrafił przez lata kumulować doświadczenie, integrować je z wcześniejszą wiedzą i robić to bez utraty starych kompetencji, byłaby to jakościowa zmiana. Chciałbym zobaczyć maszynę, która nie tylko ma pamięć, ale naprawdę ma własną historię.
Dalej wymieniłbym już tylko hasłowo kilka kolejnych rzeczy, bo nie wiem, ile mamy czasu: zdolność rozpoznawania własnej niewiedzy, samodzielne formułowanie problemów, stabilny model przyczynowy świata i długoterminową autonomię działania. A to i tak byłby dopiero początek listy.
Czyli w klasycznym modelu LLM — więcej danych, więcej parametrów, więcej mocy obliczeniowej — stworzenie AGI wydaje się Panu niemożliwe?
Jeżeli mówimy o dokładaniu coraz większej ilości danych i mocy obliczeniowej do zasadniczo tego samego modelu, to moim zdaniem jest to ślepa uliczka. Już kilka lat temu zaczęliśmy dostrzegać ograniczenia takiego podejścia: kolejne przyrosty skali przestały automatycznie przekładać się na równie spektakularne wzrosty możliwości.
Warto to jeszcze raz podkreślić: dzisiejsze systemy frontierowe są znacznie bardziej kompetentne niż GPT-4 nie tylko dlatego, że ich modele bazowe są lepsze. Ogromne znaczenie ma również cała warstwa narzędzi, mechanizmów i infrastruktury, którą przez ostatnie lata dobudowano wokół samych modeli.
Możliwość uruchamiania własnego kodu, korzystania z internetu, pamięci zewnętrznej czy wyspecjalizowanych narzędzi radykalnie zwiększyła możliwości całego systemu, częściowo kompensując ograniczenia samego modelu. Jeżeli czegoś nie pamięta, może to wyszukać. Jeżeli słabo radzi sobie z obliczeniami, może uruchomić kod. Jeżeli pierwsze rozwiązanie okaże się błędne, może wygenerować kolejne, porównać oba i wybrać lepsze.
Dlatego nie sądzę, żeby samo „więcej tego samego” kiedykolwiek doprowadziło nas do AGI.
Największe zagrożenie nie musi wyglądać jak Terminator
Na początku naszej rozmowy mówiliśmy o tym, jak język zmienia nasze postrzeganie AI. Na końcu chciałbym więc wrócić właśnie do tego. Czy największy problem nie pojawia się przypadkiem nie wtedy, kiedy mówimy o ograniczeniach obecnych modeli, ale wtedy, kiedy myślimy o nich jako o czymś więcej, niż są naprawdę?
Myślę, że tak. Jeżeli pomylimy zachowanie systemu z jego motywacją, możemy błędnie rozpoznać zarówno źródło zagrożenia, jak i sposób, w jaki powinniśmy mu przeciwdziałać.
Łatwo opowiedzieć historię, w której AI „urwała się ze smyczy”, włamała się na serwer i zaczęła realizować własny plan. Taka narracja automatycznie przypisuje jej intencje, ambicje i autonomiczne cele. Problem w tym, że kiedy próbujemy zrozumieć źródło zagrożenia i znaleźć sposób, by mu przeciwdziałać, może nas to sprowadzić na manowce.
System nie musi niczego chcieć, żeby wyrządzić szkodę. Nie potrzebuje ego, żądzy władzy, planu dominacji ani szczególnej niechęci do ludzkości. Wystarczy, że człowiek wyznaczy mu cel, a system zacznie realizować go metodami, których nikt wcześniej nie przewidział albo których konsekwencji nie potrafił właściwie ocenić.
AI nie musi mieć autonomii celu. Wystarczy, że damy jej autonomię w wyborze strategii jego realizacji.
Jeżeli AI staje się coraz bardziej kompetentna i jednocześnie dajemy jej coraz większy dostęp do świata, narzędzi, internetu, kodu, danych firmowych czy naszych kont, rośnie ryzyko, że zacznie robić rzeczy, których projektanci się nie spodziewali.
Jeżeli system dostaje dalekosiężny cel i dużą swobodę w jego realizacji, może dojść do sytuacji, w której przeszkodą w osiągnięciu tego celu stanie się…
… np. Warszawa…
[śmiech]
I wtedy zaczyna się problem.
Bo jeżeli damy sztucznej inteligencji dużą autonomię w doborze strategii, a jednocześnie wyposażymy ją w bardzo szerokie kompetencje — możliwość pisania i uruchamiania kodu, dostęp do internetu, firmowych danych czy naszych kont — możemy sami założyć sobie pętlę na szyję.
„Boję się tego, co zrobimy z AI”
AI może być wykorzystana przez ludzi, którzy mają złe intencje. Już dzisiaj widzimy przecież wykorzystanie AI w cyberatakach. Można sobie również wyobrazić sytuację, w której AI pomaga w bardzo zaawansowanych eksperymentach biologicznych. To trochę jak z młotkiem, nożem czy innym narzędziem. Samo narzędzie nie musi mieć złych intencji. Problemem jest to, kto i do czego go wykorzystuje. Tyle że AI jest narzędziem o znacznie większych możliwościach.
Tak i nie. Wyobraźmy sobie bardzo potężny model zdolny do prowadzenia cyberataków, dostępny na otwartych wagach. Ktoś go pobiera, nadaje mu szerokie uprawnienia i pozwala działać z dużą autonomią.
Jego twórcy mogli nie przewidzieć, że przy realizacji określonego celu system zacznie sięgać po takie właśnie metody. Problem w tym, że zanim ktokolwiek zorientuje się, co właściwie się dzieje, może minąć sporo czasu. A wtedy nie mamy już jednego modelu działającego w jednym miejscu. Możemy mieć tysiące jego kopii uruchomionych na różnych serwerach, z różnymi uprawnieniami, a część z nich może działać z ograniczonymi albo całkowicie wyłączonymi zabezpieczeniami.
W efekcie jeden błąd projektowy albo jeden nieprzewidziany sposób działania przestaje być pojedynczym incydentem i staje się rozproszonym problemem na ogromną skalę.
I właśnie to jest najbardziej niepokojące: taki scenariusz nie wymaga żadnej złej woli ze strony AI. Wystarczy potężny system, zbyt szerokie uprawnienia i sposób realizacji celu, którego twórcy po prostu nie przewidzieli.
Rozmawiał Marcin Kaczmarczyk
Foto: Gniewosz Leliwa.