To konflikt, o którym już pisaliśmy. Teraz ma jednak znacznie mocniejszy ciąg dalszy. Spór między OpenAI a częścią środowiska matematycznego przestał być dyskusją o tym, czy sztuczna inteligencja może pomagać w rozwiązywaniu trudnych problemów. Coraz częściej chodzi o to, kto ma prawo do odkrycia, jak należy przypisywać autorstwo i czy wyścig laboratoriów AI nie zaczyna niszczyć zasad otwartej nauki.
W ostatnich dniach napięcie wyraźnie wzrosło. Pod listem otwartym krytykującym sposób, w jaki laboratoria AI podchodzą do przełomowych odkryć matematycznych, podpisało się 25 czołowych matematyków świata. Co szczególnie istotne, każdy z sygnatariuszy otrzymał Medal Fieldsa – najbardziej prestiżowe wyróżnienie w świecie matematyki.
Matematycy alarmują: AI przyspiesza wyścig, ale nauka może za nim nie nadążać
Powód niepokoju jest stosunkowo prosty. Najnowocześniejsze modele AI zaczynają rozwiązywać problemy matematyczne, z którymi ludzie zmagali się przez lata. Sam fakt jest ogromnym osiągnięciem. Problem pojawia się wtedy, gdy laboratoria AI próbują jak najszybciej ogłosić sukces, zanim środowisko matematyczne zdąży zweryfikować dowód, odtworzyć wynik i ustalić, kto właściwie przyczynił się do odkrycia.
To właśnie ten mechanizm coraz bardziej niepokoi matematyków.
Autorzy listu zwracają uwagę, że przełomowe rozwiązania są często ogłaszane w pośpiechu. Brakuje czasu na przygotowanie pełnego opracowania, wyodrębnienie nowych metod i pomysłów oraz – co szczególnie ważne – właściwe wskazanie wcześniejszych prac innych naukowców.
W przypadku matematyki nie wystarczy bowiem powiedzieć: „AI znalazła dowód”. Trzeba jeszcze ten dowód zrozumieć.
I właśnie tutaj zaczyna się problem.
Profesor NYU oskarża OpenAI o naciski
Jednym z najpoważniejszych wydarzeń ostatnich dni jest sprawa Tristana Buckmastera, profesora New York University.
Buckmaster zarzucił OpenAI, że firma miała naciskać na niego, aby przy rozwiązywaniu ważnego problemu matematycznego nie przypisywał odpowiednich zasług współpracownikowi związanemu z Anthropic.
To oskarżenie jest szczególnie interesujące, ponieważ pokazuje, że konflikt między firmami rozwijającymi AI zaczyna przenosić się bezpośrednio na środowisko naukowe.
Buckmaster postawił również pytanie, czy OpenAI mogło wykorzystać pracę matematyków prowadzoną przy pomocy Codexa, aby następnie podczas intensywnego, trwającego cały weekend procesu obliczeniowego opracować własny przełomowy dowód.
Na razie nie oznacza to, że takie wykorzystanie rzeczywiście miało miejsce. To zarzut i pytanie, a nie potwierdzony fakt. Co więcej, dowód przypisywany OpenAI wciąż nie został niezależnie zweryfikowany.
Sama sytuacja pokazuje jednak, jak szybko zmienia się atmosfera wokół wykorzystania AI w matematyce.
OpenAI wycofuje się ze sponsorowania wydarzenia na Caltech
Na tym jednak nie koniec.
W czwartek OpenAI wycofało swoje sponsorowanie wydarzenia matematycznego organizowanego przez Caltech. Stało się to po krytyce ze strony badaczy związanych z uczelnią.
W połączeniu z wcześniejszymi zarzutami tworzy to znacznie większy obraz konfliktu. Nie chodzi już wyłącznie o pojedynczy spór dotyczący autorstwa konkretnego rozwiązania. Coraz wyraźniej ścierają się dwa różne modele prowadzenia badań.
Z jednej strony mamy tradycyjną matematykę: wieloletnią pracę, publikacje, wzajemną weryfikację, współpracę i stopniowe budowanie wiedzy.
Z drugiej – laboratoria AI dysponujące ogromną mocą obliczeniową, które mogą uruchomić tysiące lub miliony procesów wnioskowania i próbować w bardzo krótkim czasie znaleźć rozwiązanie problemu, nad którym człowiek pracował przez lata.
To zupełnie nowa sytuacja.
Kto pierwszy udowodni problem, ten wygrywa?
Wyobraźmy sobie problem matematyczny, nad którym naukowcy pracują od kilku lat. Jeden z zespołów znajduje obiecującą ścieżkę. Informacja zaczyna krążyć w środowisku.
W przeszłości konkurencyjny zespół musiałby przede wszystkim poświęcić czas i ludzi na rozwinięcie tej idei.
Dzisiaj może mieć jeszcze jedną możliwość: wykorzystać ogromną moc obliczeniową oraz modele językowe i spróbować prześcignąć pierwotnych autorów, publikując własny dowód.
To rodzi bardzo poważny problem.
Jeżeli naukowcy zaczną obawiać się, że dzielenie się częściowo gotowymi pomysłami może umożliwić dużym laboratoriom AI przejęcie inicjatywy, naturalną reakcją może być ograniczenie otwartości badań.
A otwartość jest jednym z fundamentów współczesnej matematyki.
Czy AI może więc zaszkodzić matematyce?
Paradoks polega na tym, że AI może jednocześnie być jednym z największych narzędzi rozwoju matematyki i jednym z największych zagrożeń dla jej dotychczasowej kultury.
Jeżeli model znajdzie dowód, którego człowiek nie był w stanie znaleźć przez dekady, trudno uznać to za coś złego. Takie narzędzie może przyspieszyć rozwój całych dziedzin nauki.
Ale znalezienie dowodu to dopiero początek.
Matematycy muszą wiedzieć, dlaczego rozwiązanie działa, jakie nowe idee się za nim kryją, czy można wykorzystać je do rozwiązania innych problemów i jak przekazać tę wiedzę kolejnym pokoleniom.
Jak zauważają autorzy listu, bez matematyków, którzy zajmą się rozwijaniem i integrowaniem pomysłów wygenerowanych przez AI z istniejącym dorobkiem, takie idee mogą nigdy w pełni nie wejść do matematycznego kanonu.
I to jest chyba najważniejszy element całego sporu.
To nie jest tylko problem matematyków
Matematycy wskazują przy tym na coś znacznie większego.
Podobne problemy pojawiają się już w programowaniu, nauce, projektowaniu, dziennikarstwie czy innych zawodach kreatywnych. AI coraz częściej potrafi wykonać część pracy, która wcześniej wymagała człowieka.
Pytanie brzmi więc nie tylko: czy AI potrafi zrobić coś szybciej?
Znacznie ważniejsze jest: co stanie się z całym systemem wiedzy i współpracy, który powstał wokół tej pracy?
W matematyce wartość nie znajduje się wyłącznie w końcowym dowodzie. Równie ważna jest cała konstrukcja intelektualna wokół niego: dyskusje, kolejne pytania, nauczanie studentów, rozwijanie metod i przekazywanie wiedzy.
Jeśli AI będzie potrafiła generować wyniki szybciej, niż ludzie będą w stanie je zrozumieć i zweryfikować, może powstać bardzo dziwna sytuacja: będziemy mieć coraz więcej matematycznych odkryć, ale coraz mniej ludzi naprawdę rozumiejących, skąd się wzięły.
To dopiero początek większego problemu
Obecny konflikt OpenAI z matematykami jest więc znacznie ważniejszy, niż mogłoby się wydawać.
Nie chodzi tylko o jeden dowód, jedno laboratorium czy jednego naukowca. Chodzi o zasady, według których będzie działała nauka w epoce bardzo wydajnych modeli AI.
W czerwcu środowisko matematyczne opublikowało tzw. Deklarację z Lejdy, która również próbowała odpowiedzieć na pytanie, jak wielkie modele językowe zmienią matematykę oraz jakie zasady powinny przyjąć naukowcy, instytucje i regulatorzy.
Teraz konflikt wokół OpenAI pokazuje, że te pytania przestają być teoretyczne. Wyścig już się rozpoczął. I jeśli największe laboratoria AI rzeczywiście będą w stanie wydawać dziesiątki milionów dolarów na obliczenia tylko po to, aby jako pierwsze uzyskać dowód konkretnego problemu, presja na naukowców będzie ogromna.
Matematycy ostrzegają, że odpowiedzią może być coraz większa tajemnica zamiast otwartej współpracy.
A to byłaby ironia całej sytuacji. AI miałaby pomóc ludzkości szybciej zdobywać wiedzę, ale jej komercyjny i konkurencyjny wyścig może sprawić, że ludzie zaczną dzielić się wiedzą znacznie mniej chętnie.
I właśnie dlatego ten konflikt warto obserwować. Bo matematyka może być tylko pierwszym polem, na którym zobaczymy ten problem w tak wyraźnej postaci.
Foto: DepositPhotos.