Mark Zuckerberg opowiedział się po stronie tych, którzy nie chcą spowalniania rozwoju sztucznej inteligencji ani nowych, skoordynowanych ograniczeń dla firm technologicznych. Szef Meta uważa, że rynek sam wymusi na twórcach AI odpowiedzialność i bezpieczeństwo. To podejście nie powinno szczególnie dziwić. W końcu bardzo podobny model obserwowaliśmy przy narodzinach mediów społecznościowych.
Debata o bezpieczeństwie sztucznej inteligencji w ostatnich dniach gwałtownie przyspieszyła. Szef Anthropic Dario Amodei wezwał branżę do spowolnienia rozwoju najbardziej zaawansowanych modeli, a Sam Altman z OpenAI również mówił o konieczności większego nacisku na bezpieczeństwo i monitoring. Po drugiej stronie znaleźli się m.in. Jensen Huang z Nvidii oraz Mark Zuckerberg.
Zuckerberg uważa, że nie potrzebujemy powszechnego porozumienia nakazującego firmom AI zwolnienie tempa. Jego zdaniem każda firma powinna sama odpowiadać za bezpieczeństwo swoich modeli i agentów.
– Zaufanie i dostosowanie do ludzkich wartości szybko stają się najważniejszymi możliwościami, które będą odróżniać agentów i modele – przekonuje Zuckerberg w swoim wpisie na Twitterze.
Zuckerberg: rynek zmusi firmy do dbania o bezpieczeństwo
Argumentacja szefa Meta jest stosunkowo prosta. Firmy AI mają mieć wystarczająco silne bodźce ekonomiczne, żeby same pilnować bezpieczeństwa.
Jeżeli model albo agent zacznie szkodzić użytkownikom, firma może ponieść konsekwencje prawne, finansowe i reputacyjne. Jeżeli natomiast konkurencyjny system będzie bardziej godny zaufania i lepiej wykonywał polecenia użytkownika, to właśnie on ma zdobywać rynek.
Zuckerberg uważa więc, że alignment, czyli dostosowanie działania sztucznej inteligencji do ludzkich wartości i intencji, stanie się jednym z najważniejszych elementów konkurencji między firmami.
To podejście jest bardzo zbliżone do stanowiska Jensena Huanga. Szef Nvidii również przekonuje, że twórcy AI powinni odpowiadać za bezpieczeństwo własnych produktów, zamiast oczekiwać kolejnych regulacji.
Meta już pokazała, jak ma działać ten model
Zuckerberg wskazuje przy tym na własną firmę jako przykład. Jak twierdzi, Meta opóźniła udostępnienie technologii Muse ze względów bezpieczeństwa i bezpieczeństwa systemu.
Meta oficjalnie przedstawia Muse jako osobistego agenta AI, który nie tylko odpowiada na pytania, ale może wykonywać zadania w imieniu użytkownika. Firma podkreśla przy tym kwestie bezpieczeństwa, prywatności i kontroli użytkownika nad dostępem agenta do jego danych i aplikacji.
Zuckerberg argumentuje, że Meta nie potrzebowała do tego odgórnego nakazu. Firma sama uznała, że należy poczekać.
I właśnie tutaj zaczyna się najważniejsza część całej dyskusji.
To już widzieliśmy. Wtedy nazywało się Facebook
Podejście Zuckerberga nie jest specjalnie zaskakujące również z innego powodu. Podobny sposób myślenia towarzyszył przecież narodzinom mediów społecznościowych.
Facebook rósł w ogromnym tempie. Media społecznościowe były przedstawiane przede wszystkim jako rewolucyjna technologia, która pozwoli ludziom łatwiej się komunikować, dzielić informacjami i budować społeczności.
O zagrożeniach oczywiście mówiono, ale przez długi czas znajdowały się one zdecydowanie w cieniu zachwytu nad możliwościami nowej technologii i gigantycznym wzrostem biznesów, które ją tworzyły.
Problem polegał na tym, że skutki uboczne pojawiały się znacznie wolniej niż kolejne miliony użytkowników, kolejne miliardy dolarów wyceny i kolejne rekordy przychodów.
Dopiero po latach zaczęliśmy na dużą skalę analizować konsekwencje tego eksperymentu.
Dzisiaj mamy ogromną literaturę naukową dotyczącą wpływu mediów społecznościowych na młodych ludzi. Przeglądy badań wskazują m.in. na związki problematycznego korzystania z mediów społecznościowych z gorszym dobrostanem psychicznym młodzieży. Dziś mamy problemy z dezinformacją, polaryzacją, uzależniającymi mechanizmami projektowania platform, cyberprzemocą i wpływem intensywnego korzystania z mediów społecznościowych na część młodych użytkowników. Badania wskazują zarówno pozytywne, jak i negatywne skutki korzystania z tych platform. Są też wyroki, które potwierdzają, że Facebook i podobne rozwiązania z samym dobrem mają niewiele wspólnego.
Czy z AI popełnimy dokładnie ten sam błąd?
Zwolennicy podejścia Zuckerberga odpowiedzą: nie.
AI różni się przecież od Facebooka. Firmy mają już doświadczenia z poprzednich technologicznych rewolucji, istnieją zespoły zajmujące się bezpieczeństwem, testowaniem modeli i alignmentem, a coraz więcej firm korzysta również z niezależnych ewaluatorów.
Sam Zuckerberg mówi, że niezależni testerzy i doradcy powinni odgrywać większą rolę w sprawdzaniu systemów AI.
Problem polega jednak na czymś innym.
Czy możemy mieć pewność, że interes ekonomiczny firmy zawsze będzie zgodny z interesem społeczeństwa?
To jest pytanie, na które sama konkurencja rynkowa nie daje automatycznej odpowiedzi.
Firma może mieć ogromną motywację, aby jej produkt był bezpieczny. Może też mieć ogromną motywację, aby jako pierwsza wypuścić nową funkcję, zdobyć miliony użytkowników i wyprzedzić konkurencję.
A w przypadku AI ten wyścig jest wyjątkowo intensywny.
Dario Amodei zwraca właśnie uwagę na ten problem. Jego zdaniem konkurencja pomiędzy firmami i państwami może powodować sytuację, w której poszczególne przedsiębiorstwa będą chciały działać ostrożnie, ale jednocześnie będą obawiały się, że konkurent tego nie zrobi.
Sam Altman również mówił o obawie, że presja komercyjna może skłaniać firmy do podejmowania ryzyka, którego w innych okolicznościach by nie podjęły.
Największy problem zaczyna się wtedy, gdy wszyscy muszą być pierwsi
To właśnie może być największa różnica między zwykłym produktem technologicznym a zaawansowaną sztuczną inteligencją.
Jeżeli jedna firma stworzy lepszy smartfon od konkurencji, konsekwencje błędu są zazwyczaj ograniczone. W przypadku potężnych agentów AI sytuacja może być zupełnie inna.
Agenci będą otrzymywać dostęp do poczty, dokumentów, pieniędzy, systemów firmowych, kodu, infrastruktury czy urządzeń. Będą mogli wykonywać działania w świecie rzeczywistym, a nie tylko generować tekst.
Meta sama opisuje Muse jako system, który może wykonywać zadania za użytkownika.
Im większe możliwości takich systemów, tym większe znaczenie ma pytanie, co stanie się, kiedy agent popełni błąd albo jego działanie zostanie wykorzystane w nieprzewidziany sposób.
I właśnie dlatego część ekspertów uważa, że nie wystarczy powiedzieć: „firmy będą uważały”.
Zuckerberg chce, żeby AI poszło drogą social mediów
W pewnym sensie stanowisko Zuckerberga można więc sprowadzić do bardzo prostego założenia: dajmy firmom możliwość rozwijania technologii, a bezpieczeństwo niech będzie częścią ich wewnętrznych procedur i elementem konkurencji rynkowej.
To rozwiązanie ma oczywiste zalety. Nie blokuje innowacji, pozwala szybko reagować na nowe możliwości technologiczne i nie wymaga tworzenia regulacji zanim jeszcze dokładnie wiemy, jakie problemy będziemy musieli rozwiązać.
Ale historia mediów społecznościowych pokazuje również drugą stronę tego modelu.
Przez lata mogliśmy obserwować gwałtowny rozwój platform, zanim społeczeństwo, naukowcy i regulatorzy zaczęli na poważnie mierzyć się z ich konsekwencjami.
Nie oznacza to, że historia AI musi zakończyć się tak samo. Ale właśnie dlatego warto pamiętać o doświadczeniach z Facebookiem.
Jeżeli sztuczna inteligencja rzeczywiście stanie się technologią znacznie potężniejszą od dzisiejszych modeli, decyzja o tym, czy jej bezpieczeństwo pozostawić wyłącznie samym firmom, może mieć konsekwencje znacznie większe niż kolejna aktualizacja aplikacji.
I być może właśnie teraz jest moment, żeby o tym rozmawiać — zanim okaże się, że po raz kolejny obudziliśmy się z ręką w nocniku.
Foto: DepositPhotos.