Przez lata ostrzegano przed „robotami-zabójcami”. Okazuje się, że ten moment już nastąpił.
Przez dekady scenariusz znany z filmów science fiction wydawał się odległą wizją przyszłości. Eksperci ostrzegali przed autonomiczną bronią, organizacje praw człowieka apelowały o zakazy, a politycy debatowali nad granicami wykorzystania sztucznej inteligencji na polu walki.
Tymczasem wszystko wskazuje na to, że granica została przekroczona już dwa lata temu.
Według nowych informacji ujawnionych przez magazyn „New Scientist”, ukraińskie siły miały w 2024 roku wykorzystać w walce dziesięć całkowicie autonomicznych dronów wyposażonych w tryb działania nazwany „Terminator Mode”. Maszyny samodzielnie wyszukiwały cele i podejmowały decyzje o ich eliminacji – bez jakiejkolwiek kontroli człowieka w trakcie misji.
Jeśli doniesienia są prawdziwe, byłby to pierwszy znany przypadek w historii, gdy sztuczna inteligencja samodzielnie zdecydowała o odebraniu życia ludziom na polu walki.
„Wypuszczamy je i wiemy, że wszystko będzie martwe”
O szczegółach operacji opowiedział podczas wydarzenia organizowanego przez ambasadę Ukrainy producent dronów i dostawca technologii wojskowych, Alexander Kokhanovskyy.
Według jego relacji drony zostały wysłane na linię frontu z aktywowanym trybem pełnej autonomii. Po uruchomieniu nie utrzymywano z nimi żadnej łączności.
Nie było transmisji obrazu, zdalnego sterowania ani możliwości interwencji operatora.
Jak stwierdził Kokhanovskyy:
– Po prostu je wypuszczamy i wiemy, że wszystko będzie martwe.
Po zakończeniu misji w rejon wysłano już tradycyjnie sterowane drony rozpoznawcze. Ich operatorzy mieli potwierdzić skutki ataku. Wśród zniszczonych celów znajdowało się kilku rosyjskich żołnierzy oraz pojazd ciężarowy.
Najbardziej niepokojący jest jednak fakt, że ostateczna decyzja o wyborze celu nie należała do człowieka.
Człowiek został całkowicie wyłączony z procesu
Dotychczas większość nowoczesnych systemów uzbrojenia wykorzystujących AI działała według zasady „human in the loop” – człowiek zatwierdzał decyzję o użyciu siły.
W przypadku opisanej misji sytuacja wyglądała inaczej.
Autonomiczne quadkoptery miały samodzielnie analizować otoczenie, identyfikować potencjalne cele i przeprowadzać ataki bez konsultacji z operatorem. Innymi słowy, człowiek podejmował jedynie decyzję o uruchomieniu misji. Wszystko, co działo się później, należało już do algorytmu.
To właśnie taki scenariusz od lat budził największe obawy ekspertów zajmujących się etyką sztucznej inteligencji.
Czy przekroczono punkt bez powrotu?
W środowisku wojskowym i technologicznym od dawna funkcjonuje określenie „Rubicon moment” – chwila, po której nie ma już odwrotu.
Dla wielu obserwatorów właśnie takim momentem może okazać się wykorzystanie autonomicznych dronów bojowych na Ukrainie.
Co ciekawe, oficjalnie Ukraina posiada przepisy ograniczające możliwość stosowania systemów, które samodzielnie podejmują decyzję o zabiciu człowieka. Według uczestników wspomnianej konferencji trwały jednak rozmowy pomiędzy rządem a firmami zbrojeniowymi dotyczące złagodzenia tych zasad.
Jednocześnie niewykluczone, że podobne technologie były już wcześniej testowane również przez inne państwa. Po prostu nigdy nie zostało to ujawnione publicznie.
ONZ od miesięcy ostrzega przed „robotami-zabójcami”
Temat autonomicznej broni od lat znajduje się w centrum debat prowadzonych przez Organizację Narodów Zjednoczonych.
Sekretarz Generalny ONZ, António Guterres, wielokrotnie apelował o ustanowienie międzynarodowych regulacji zakazujących systemów uzbrojenia zdolnych do zabijania bez udziału człowieka.
Argument jest prosty: decyzja o odebraniu życia nie powinna być pozostawiona algorytmowi.
Krytycy zwracają uwagę, że współczesne systemy AI nadal popełniają błędy, halucynują informacje, błędnie identyfikują obiekty i działają w sposób trudny do przewidzenia. W warunkach wojennych nawet niewielki odsetek pomyłek może prowadzić do tragedii.
Wojna przyszłości może już trwać
Szczególnie uderzające jest to, że świat dowiaduje się o całej sprawie dopiero po dwóch latach.
Jeżeli informacje przekazane przez ukraińskich przedstawicieli są prawdziwe, oznaczałoby to, że autonomiczne systemy bojowe nie są już eksperymentem z laboratoriów wojskowych ani wizją przyszłości. Stały się rzeczywistością.
Niektóre środowiska akademickie określają takie rozwiązania jako „kradzież ludzkiej godności”, ponieważ decyzja o życiu i śmierci zostaje przekazana maszynie. Inni wskazują, że doświadczenia z frontu mogły wręcz pokazać ograniczenia autonomii i potwierdzić potrzebę pozostawienia człowieka w centrum procesu decyzyjnego.
Jedno jest jednak pewne: granica, która jeszcze kilka lat temu wydawała się nienaruszalna, została przesunięta. A być może przekroczona na zawsze.
Foto: DepositPhotos.