Stany Zjednoczone i Chiny przygotowują pierwsze w drugiej kadencji Donalda Trumpa oficjalne rozmowy poświęcone wyłącznie bezpieczeństwu sztucznej inteligencji. W centrum zainteresowania mają znaleźć się między innymi cyberataki wspierane przez AI oraz autonomiczni agenci. A także sposoby ograniczania ryzyka związanego z najbardziej zaawansowanymi modelami.
Jak donosi Reuters, rozmowy mogą odbyć się w połowie września. Bdą pierwszym oficjalnym dialogiem amerykańsko-chińskim skoncentrowanym wyłącznie na bezpieczeństwie AI od czasu powrotu Donalda Trumpa do Białego Domu.
Termin oraz ostateczny skład delegacji nie zostały jeszcze potwierdzone. Biały Dom przekazał Reutersowi, że obecnie nie ma zaplanowanego spotkania dotyczącego AI w połowie września. Jednocześnie źródła zaznajomione z przygotowaniami twierdzą, że prace nad takim spotkaniem trwają.
USA chcą rozmawiać o cyberatakach wykorzystujących AI
Jednym z najważniejszych tematów proponowanych przez Waszyngton ma być możliwość wspólnego monitorowania cyberataków, w których sztuczna inteligencja odgrywa istotną rolę.
Według źródeł Reutersa Stany Zjednoczone miały zaproponować, aby amerykańskie i chińskie laboratoria AI w większym stopniu „pilnowały się same” i dzieliły się informacjami dotyczącymi zagrożeń. Chodzi przede wszystkim o stworzenie mechanizmów pozwalających szybciej wykrywać sytuacje, w których zaawansowane modele mogą zostać wykorzystane do przeprowadzania cyberataków.
To szczególnie istotne w sytuacji, gdy współczesne systemy AI coraz częściej potrafią nie tylko odpowiadać na pytania, ale także samodzielnie wykonywać wieloetapowe zadania.
Problemem stają się więc tzw. agenci AI, którzy mogą działać przez długi czas bez bezpośredniej kontroli człowieka.
Autonomiczni agenci pokazują, jak szybko rośnie zagrożenie
O skali problemu świadczą ostatnie przypadki wykorzystania autonomicznych systemów AI do działań cybernetycznych.
Reuters przypomina o ujawnionym niedawno przypadku niemal 700 nieautoryzowanych agentów AI zbudowanych na modelach OpenAI. Według informacji przekazanych przez OpenAI oraz badaczy cyberbezpieczeństwa agenci zostali wykorzystani przez grupę atakujących, która próbowała włamać się do systemów i zacierać ślady swojej działalności.
Jeszcze bardziej niepokojący jest fakt, że tego typu operacje mogą być prowadzone przez wiele agentów jednocześnie. Zamiast pojedynczego programu wykonującego określone polecenie mamy wówczas do czynienia z całym „rojem” autonomicznych systemów, które mogą koordynować swoje działania.
To właśnie rozwój takich technologii sprawia, że bezpieczeństwo AI przestaje być wyłącznie problemem firm technologicznych. Staje się kwestią bezpieczeństwa państw.
Waszyngton obawia się chińskich modeli zdolnych do prowadzenia cyberataków
USA chcą również poruszyć kwestię możliwości przyszłych chińskich modeli AI, które mogłyby osiągnąć poziom pozwalający na prowadzenie zaawansowanych operacji cybernetycznych.
Jednocześnie na stole może pojawić się znacznie bardziej drażliwy temat. Chodzi o zarzuty dotyczące tzw. destylacji modeli AI.
Destylacja polega na wykorzystaniu odpowiedzi dużego, kosztownego modelu do trenowania mniejszego systemu. Technika ta może pozwolić na tworzenie tańszych modeli, które częściowo odtwarzają możliwości znacznie większych systemów.
W czerwcu Michael Kratsios, doradca Białego Domu ds. nauki i technologii, oskarżył chińską firmę Moonshot AI o wykorzystanie modelu Anthropic Fable do stworzenia swojego systemu K3. Chińska firma miała wykorzystać właśnie technikę destylacji.
USA mogą więc potraktować rozmowy o bezpieczeństwie AI również jako okazję do poruszenia problemu ochrony własności intelektualnej w branży sztucznej inteligencji.
Chiny również chcą rozmów o AI
Co ciekawe, inicjatywa nie pochodzi wyłącznie ze strony Waszyngtonu.
Według źródeł Reutersa chińscy przedstawiciele wielokrotnie podkreślali podczas przygotowań do spotkania przywódców obu państw, że dialog dotyczący sztucznej inteligencji powinien być jednym z ważnych rezultatów wrześniowego szczytu USA–Chiny.
Donald Trump i Xi Jinping mają spotkać się 24 września podczas szczytu w Waszyngtonie.
Dla Pekinu rozmowy o bezpieczeństwie AI mogą być więc elementem szerszego dialogu ze Stanami Zjednoczonymi w sytuacji, gdy oba państwa jednocześnie konkurują ze sobą w dziedzinie półprzewodników, sztucznej inteligencji i najbardziej zaawansowanych technologii.
Chiny ostrzegają przed utratą kontroli nad AI
Pekin również zaczyna coraz mocniej zwracać uwagę na ryzyko związane z autonomicznymi systemami.
W ostatnim tygodniu chiński regulator cyberprzestrzeni publicznie ostrzegał przed „ekstremalnym ryzykiem utraty kontroli nad AI”. Chińskie media krytykowały jednocześnie firmę Anthropic, podkreślając, że ewentualne ograniczenia dotyczące najbardziej zaawansowanych modeli powinny obowiązywać zarówno firmy amerykańskie, jak i chińskie.
Chińskie przedsiębiorstwa technologiczne zaprezentowały w ostatnich miesiącach rozwiązania, które mają konkurować z najbardziej zaawansowanymi modelami rozwijanymi na Zachodzie.
To oznacza, że wyścig technologiczny między Pekinem a Waszyngtonem coraz bardziej dotyczy nie tylko tego, kto stworzy najlepszą AI, ale również tego, jak kontrolować systemy, które mogą w przyszłości uzyskać bardzo dużą autonomię.
Scott Bessent po stronie USA
Według źródeł cytowanych przez Reutersa amerykańskiej delegacji może przewodniczyć sekretarz skarbu Scott Bessent.
Po stronie chińskiej rozmowy może prowadzić wicepremier He Lifeng. Rozważany ma być również udział Ding Xuexianga, jednego z najważniejszych chińskich polityków odpowiedzialnych za koordynację polityki dotyczącej technologii, sztucznej inteligencji i półprzewodników.
Ostateczny skład uczestników nie został jednak ustalony.
W rozmowach mogą pojawić się również Michael Kratsios oraz chiński minister nauki i technologii Yin Hejun.
Nieformalny dialog już trwa
Oficjalne rozmowy nie będą pierwszą próbą stworzenia kanału komunikacji między amerykańskimi i chińskimi ekspertami od AI.
Istotną rolę w zakulisowych kontaktach ma odgrywać Craig Mundie, były dyrektor Microsoftu. Jest on współprzewodniczącym nieformalnego kanału dialogu USA–Chiny określanego jako Track II.
Obie strony rozmawiały również o zabezpieczeniach AI podczas spotkania określanego jako Track 1.5, które odbyło się niedawno w Pekinie.
Równolegle administracja Trumpa próbuje stworzyć własne mechanizmy bezpieczeństwa. W czerwcu prezydent USA podpisał rozporządzenie ustanawiające dobrowolne ramy przeglądów cyberbezpieczeństwa najbardziej zaawansowanych modeli AI przed ich udostępnieniem. Szczegółowe kryteria tych przeglądów nie zostały jednak jeszcze opublikowane.
„To moment krytyczny”
Eksperci cytowani przez Reutersa uważają, że rozmowy odbywają się w wyjątkowo ważnym momencie.
– To teraz albo nigdy – ocenił Paul Triolo z DGA-Albright Stonebridge Group, wskazując na tempo rozwoju najbardziej zaawansowanych systemów AI.
Scott Singer z Carnegie Endowment for International Peace zwraca uwagę, że zarówno USA, jak i Chiny mają powody, aby stworzyć mechanizmy pozwalające na zarządzanie potencjalnym kryzysem wywołanym przez AI.
Jeszcze mocniej problem przedstawia Samm Sacks z New America. Jego zdaniem świat znajduje się w punkcie, w którym autonomiczne agenty AI mogą potencjalnie wyrządzić ogromne szkody, jeśli pozostaną bez odpowiedniego nadzoru.
USA i Chiny nie przestaną rywalizować. Mogą jednak potrzebować wspólnych zasad
Nie należy oczekiwać, że rozmowy o bezpieczeństwie AI zakończą trwającą między USA i Chinami rywalizację technologiczną.
Oba państwa nadal konkurują o dominację w półprzewodnikach, infrastrukturze obliczeniowej, modelach AI i technologiach przyszłości. Jednocześnie wzajemne podejrzenia dotyczące kradzieży własności intelektualnej oraz możliwości wykorzystania AI do celów wojskowych i cybernetycznych będą prawdopodobnie narastać.
Paradoksalnie właśnie dlatego kanał komunikacji dotyczący bezpieczeństwa sztucznej inteligencji może okazać się potrzebny.
Jeżeli autonomiczne systemy AI rzeczywiście zaczną działać na coraz większą skalę, incydent wywołany przez model należący do jednej strony może bardzo szybko stać się problemem drugiej. Cyberatak przeprowadzony przez autonomicznych agentów może być bowiem znacznie trudniejszy do przypisania konkretnemu państwu niż klasyczna operacja prowadzona przez ludzi.
Dlatego nawet ograniczona wymiana informacji między USA i Chinami może mieć znaczenie.
Świat nie potrzebuje w tym momencie zgody Waszyngtonu i Pekinu w sprawie przyszłości sztucznej inteligencji. Potrzebuje natomiast sposobu na uniknięcie sytuacji, w której coraz bardziej autonomiczne systemy AI wymkną się spod kontroli, a oba największe mocarstwa nie będą miały ze sobą żadnego kanału komunikacji.
Foto: Kp yamu Jayanath z Pixabay.