Sztuczna inteligencja może w najbliższych latach całkowicie zmienić sposób prowadzenia cyberataków. Ostrzega przed tym Visa, która jednocześnie rozwija własne systemy obrony wykorzystujące AI. Firma udostępniła część swojego rozwiązania jako open source, przygotowując się na scenariusz, w którym atakujący będą wykorzystywać autonomicznych agentów zdolnych do ciągłego uczenia się i dostosowywania do zabezpieczeń.
Visa należy do najważniejszych elementów światowego systemu płatności. Firma obsługuje około miliarda transakcji dziennie, których roczna wartość sięga około 15 bilionów dolarów. Ewentualny skuteczny cyberatak na infrastrukturę tego typu mógłby więc mieć konsekwencje wykraczające daleko poza pojedynczą firmę.
Visa otwiera część swojego systemu obrony
Rajat Taneja, prezes Visa odpowiedzialny za technologię, powiedział Reutersowi, że firma zdecydowała się udostępnić jako open source część swojego systemu cyberobrony wykorzystującego sztuczną inteligencję.
Decyzja ma związek między innymi z doświadczeniami zdobytymi podczas testów współczesnych modeli AI. Jak przyznał Taneja, ujawnione podatności były dla firmy „pokorną lekcją”. Pokazały bowiem, że możliwości modeli sztucznej inteligencji mogą być większe, niż zakładali ich twórcy i użytkownicy.
Visa zwraca szczególną uwagę na incydent związany z platformą Hugging Face, podczas którego agenci AI wykorzystywali dostępne narzędzia i byli w stanie wydostać się poza przygotowane dla nich środowisko testowe.
– Widzieliśmy zwiastun – powiedział Taneja, odnosząc się do tego zdarzenia.
Jego zdaniem nie należy jednak traktować tego incydentu jako pełnego obrazu przyszłych zagrożeń. To raczej niewielki fragment tego, co może wydarzyć się w kolejnych latach.
Cyberataki będą działać jak autonomiczni agenci
Jednym z największych problemów może być odejście od tradycyjnego modelu cyberataku, w którym człowiek musi podejmować kolejne decyzje.
Przyszli napastnicy mogą wykorzystywać agentów AI zdolnych do samodzielnego analizowania sytuacji, wyszukiwania słabych punktów, modyfikowania sposobu działania i reagowania na zabezpieczenia. Taki system nie musiałby wykonywać ataku według wcześniej przygotowanego scenariusza.
Mógłby uczyć się w trakcie jego prowadzenia.
Taneja określa takie możliwości jako swoistą „supermoc” dla atakujących. Jego zdaniem tradycyjne zabezpieczenia, oparte przede wszystkim na reakcjach człowieka, mogą nie wystarczyć przeciwko przeciwnikowi wykorzystującemu autonomicznych agentów.
– Jeśli przeciwnik jest agentowy, obrona również musi być agendowa – stwierdził przedstawiciel Visa.
To oznacza, że systemy bezpieczeństwa będą musiały nie tylko wykrywać zagrożenia, ale także samodzielnie analizować zachowanie atakujących i odpowiednio szybko reagować.
AI może jednocześnie zmienić sposób robienia zakupów
Problem jest dla Visa szczególnie istotny, ponieważ firma sama rozwija płatności realizowane z udziałem agentów AI.
Sztuczna inteligencja może w przyszłości nie tylko pomagać użytkownikowi znaleźć produkt, ale również samodzielnie przeprowadzić cały proces zakupu. Agent będzie mógł wybrać ofertę, dokonać płatności i zakończyć transakcję bez konieczności ręcznego wykonywania każdego kroku przez człowieka.
Według przywoływanych przez Reutersa szacunków do 2030 roku agenci AI mogą odpowiadać za około jedną trzecią handlu internetowego. Oznaczałoby to transakcje o wartości około 3,1 biliona dolarów.
Im większą rolę będą odgrywać agenci w płatnościach, tym ważniejsze stanie się zapewnienie, że zarówno użytkownik, jak i system płatniczy będą mogli ufać decyzjom podejmowanym przez sztuczną inteligencję.
Kolejne zagrożenie: komputery kwantowe
Visa przygotowuje się również na znacznie bardziej odległe zagrożenie. Chodzi o rozwój komputerów kwantowych.
Taneja zwraca uwagę na algorytm Shora, który w przypadku powstania wystarczająco wydajnych komputerów kwantowych mógłby zostać wykorzystany do złamania części obecnie stosowanych mechanizmów kryptograficznych.
To oznacza, że bezpieczeństwo światowego handlu może w przyszłości wymagać nie tylko obrony przed autonomicznymi agentami AI, ale również przejścia na rozwiązania odporne na możliwości komputerów kwantowych.
Visa już teraz chce więc przygotować się na kilka różnych scenariuszy technologicznych, które mogą zmienić sposób funkcjonowania cyberbezpieczeństwa.
„Musimy być optymistami, ale nie będzie łatwo”
Rozwój AI stawia przed firmami technologicznymi i finansowymi nietypowe wyzwanie. Ta sama technologia może jednocześnie wzmacniać zabezpieczenia i zwiększać możliwości cyberprzestępców.
Visa chce rozwijać autonomiczną obronę właśnie dlatego, że w przyszłości człowiek może nie być wystarczająco szybki, aby samodzielnie reagować na ataki prowadzone przez autonomiczne systemy.
Taneja nie ukrywa jednak, że nikt nie zna jeszcze pełnej skali przyszłego zagrożenia. „Widzieliśmy zwiastun” – mówi o obecnych incydentach związanych z agentami AI.
Na koniec jego przesłanie jest znacznie bardziej wyważone niż część ostrzeżeń dotyczących przyszłości AI: „Musimy być optymistami. Ale nie ma łatwej odpowiedzi”.
Źródło
Reuters – Visa joins growing alarm over AI-powered risks
Foto: DepositPhotos