Stany Zjednoczone i Rosja wspólnie doprowadziły podczas negocjacji ONZ do usunięcia części zabezpieczeń dotyczących autonomicznej broni. Jednym z najważniejszych był zapis wymagający, aby człowiek zweryfikował cel wskazany przez sztuczną inteligencję przed przeprowadzeniem ataku. Informacje o przebiegu negocjacji ujawnił „The Washington Post”, powołując się na dokumenty oraz osoby znające ich przebieg.
To właśnie współpraca Waszyngtonu i Moskwy jest jednym z najbardziej znaczących elementów całej sprawy. Oba państwa rozwijają technologie pozwalające coraz bardziej automatyzować proces wykrywania oraz zwalczania celów. Tym razem ich stanowiska okazały się zbieżne podczas prac nad międzynarodowymi zasadami dotyczącymi wykorzystania sztucznej inteligencji na wojnie.
AI może wskazać cel, a człowiek nie musi go zatwierdzić
Chodzi o tzw. letalne autonomiczne systemy uzbrojenia (LAWS – Lethal Autonomous Weapons Systems). To systemy, które mogą wykorzystywać dane z sensorów i algorytmy do samodzielnego wykrywania, wyboru lub zwalczania celów.
Od lat państwa i organizacje międzynarodowe próbują ustalić, w jakich granicach takie technologie powinny być wykorzystywane. Jednym z najważniejszych postulatów jest zachowanie znaczącej kontroli człowieka nad użyciem siły.
Właśnie ten element znalazł się w centrum wrześniowych negocjacji w Genewie.
Według „The Washington Post” podczas końcowego etapu rozmów USA i Rosja wspólnie sprzeciwiły się części proponowanych zabezpieczeń, doprowadzając do usunięcia z tekstu m.in. zapisu przewidującego weryfikację przez człowieka celów wskazanych przez system AI przed przeprowadzeniem ataku.
W praktyce oznacza to, że w proponowanym tekście zabrakło już jednoznacznego wymogu, aby człowiek zatwierdzał każdy taki cel przed użyciem broni.
To istotna różnica. System autonomiczny może bowiem działać znacznie szybciej niż człowiek, analizując ogromną liczbę danych z kamer, radarów, dronów czy innych sensorów. Problem pojawia się wtedy, gdy algorytm błędnie zinterpretuje sytuację.
Z projektu zniknęły także inne zabezpieczenia
Według informacji opublikowanych przez „The Washington Post” usunięto również zapisy dotyczące przewidywalności i niezawodności systemów. Z tekstu miały zniknąć także odniesienia do konieczności uwzględniania kwestii etycznych przy wykorzystaniu AI w uzbrojeniu.
Human Rights Watch potwierdziła, że końcowy tekst wypracowany podczas wrześniowych rozmów został osłabiony. Organizacja wskazuje, że z dokumentu usunięto m.in. odniesienia do etyki, przewidywalności, niezawodności, wyjaśnialności i możliwości śledzenia działania systemów.
Jednocześnie w dokumencie pozostało stwierdzenie, że ludzka kontrola i ocena są wymagane dla zgodności działania z prawem międzynarodowym.
To ważne zastrzeżenie: nie oznacza to, że ONZ przyjęła już zasady pozwalające maszynom całkowicie samodzielnie prowadzić działania bojowe. Wrześniowe rozmowy zakończyły się przyjęciem tekstu, który może stanowić podstawę dalszych negocjacji. Dopiero kolejne rozmowy zdecydują, czy powstanie prawnie wiążący instrument.
To nie jest jeszcze traktat
Prace prowadzone są w ramach Konwencji o niektórych rodzajach broni konwencjonalnych (CCW – Convention on Certain Conventional Weapons) i specjalnej Grupy Ekspertów Rządowych zajmującej się śmiercionośnymi autonomicznymi systemami uzbrojenia.
Dokument ONZ potwierdza, że grupa spotykała się w 2026 roku m.in. od 31 sierpnia do 4 września. Jej zadaniem było wypracowanie elementów potencjalnego instrumentu dotyczącego autonomicznych systemów uzbrojenia, przy czym jego przyszła forma nie została przesądzona.
Dlatego obecnego dokumentu nie należy jeszcze traktować jako międzynarodowego traktatu regulującego wykorzystanie autonomicznej broni.
Kluczowy będzie listopadowy przegląd prac CCW w Genewie. Państwa mają wówczas zdecydować o dalszym kierunku negocjacji i ewentualnym rozpoczęciu prac nad bardziej formalnym, potencjalnie prawnie wiążącym porozumieniem.
USA jednocześnie zmieniają własne zasady dotyczące autonomicznej broni
Sprawa nabiera dodatkowego znaczenia, ponieważ podobna dyskusja odbywa się obecnie w samych Stanach Zjednoczonych.
„The Washington Post” podał, że w czerwcu 2026 roku Donald Trump wydał memorandum dotyczące bezpieczeństwa narodowego, nakazujące aktualizację amerykańskich wytycznych dotyczących śmiercionośnych autonomicznych systemów uzbrojenia. Nowe zasady mają zastąpić dokument przygotowany w 2023 roku za administracji Joe Bidena.
Poprzednie wytyczne zawierały m.in. wymóg zachowania odpowiedniego ludzkiego osądu przy wykorzystaniu autonomicznych i półautonomicznych systemów uzbrojenia oraz odniesienia do prawa konfliktów zbrojnych.
Na koniec września 2026 roku nowa wersja tych zasad nie została jeszcze publicznie przedstawiona.
Dlaczego kontrola człowieka jest tak ważna?
W przypadku zwykłego systemu AI błąd algorytmu może oznaczać błędną odpowiedź, rekomendację albo decyzję biznesową. W przypadku autonomicznej broni konsekwencje mogą być nieodwracalne.
Algorytm może analizować obraz z kamery, dane radarowe czy informacje wywiadowcze i na tej podstawie zakwalifikować obiekt jako cel. Jeśli system ma również możliwość samodzielnego uruchomienia ataku, człowiek może zostać odsunięty z procesu podejmowania decyzji w ciągu kilku sekund.
Dlatego zwolennicy międzynarodowych regulacji chcą, aby w procesie użycia siły pozostawał człowiek zdolny do oceny sytuacji i przerwania działania systemu.
Human Rights Watch zwraca uwagę na coraz szersze wykorzystywanie AI przez wojska do rozpoznawania celów, wspomagania decyzji dotyczących użycia siły oraz oceny potencjalnych szkód dla ludności cywilnej.
Foto: ChatGPT Image/AI.