Amerykańska Narodowa Rada Bezpieczeństwa Transportu (NTSB) tymczasowo wyłączyła publiczny dostęp do swojego systemu dokumentów śledczych po odkryciu, że internauci wykorzystali sztuczną inteligencję do odtworzenia głosów pilotów, którzy zginęli w katastrofie samolotu cargo UPS.
AI potrafi dziś znacznie więcej niż generowanie obrazów czy rozmów z chatbotem. Najnowszy przypadek ze Stanów Zjednoczonych pokazuje jednak, że technologia zaczyna przekraczać kolejne granice etyczne — również po śmierci człowieka.
Wystarczyło „zdjęcie dźwięku”
Sprawa dotyczy lotu UPS Flight 2976, który rozbił się w Louisville w stanie Kentucky. Zgodnie z amerykańskim prawem NTSB nie publikuje nagrań z rejestratorów rozmów w kokpicie. Udostępniane są jednak inne materiały związane ze śledztwem.
W dokumentacji tej katastrofy znalazł się spektrogram nagrania z kokpitu. To specjalny obraz przedstawiający fale dźwiękowe i częstotliwości audio zapisane w formie graficznej. Dla człowieka wygląda jak techniczna grafika, ale dla współczesnych modeli AI może być źródłem ogromnej ilości danych.
Na problem zwrócił uwagę popularny youtuber i popularyzator nauki Scott Manley, który zauważył w serwisie X, że teoretycznie możliwe byłoby odtworzenie dźwięku na podstawie samego spektrogramu.
Okazało się, że miał rację.
AI odtworzyła głosy zmarłych pilotów
Internauci połączyli spektrogram z publicznie dostępnym transkryptem rozmów z kokpitu i wykorzystali narzędzia AI do wygenerowania przybliżonego nagrania głosowego pilotów.
Według NTSB w sieci zaczęły pojawiać się rekonstrukcje audio przypominające autentyczne nagrania z czarnej skrzynki. W mediach społecznościowych pojawiały się informacje, że do procesu wykorzystywano między innymi modele AI i narzędzia pokroju Codex.
To wystarczyło, by agencja podjęła zdecydowane kroki.
NTSB zamknęła część śledztw przed opinią publiczną
NTSB przywróciła już działanie systemu dokumentów, ale jednocześnie zablokowała dostęp do 42 śledztw oczekujących na ponowną analizę pod kątem ryzyka podobnych nadużyć. Wśród nich znalazła się również dokumentacja dotycząca lotu UPS Flight 2976.
Agencja obawia się, że nawet materiały, które dotychczas uznawano za „bezpieczne” i pozbawione wrażliwych danych audio, mogą dziś zostać wykorzystane przez sztuczną inteligencję do rekonstrukcji głosu lub nagrań.
To dopiero początek problemu
Jeszcze kilka lat temu odzyskanie dźwięku ze statycznego obrazu wydawało się domeną laboratoriów badawczych. Dziś podobne eksperymenty mogą przeprowadzać zwykli użytkownicy internetu korzystający z publicznie dostępnych modeli AI.
Eksperci od bezpieczeństwa cyfrowego od dawna ostrzegają, że rozwój generatywnej sztucznej inteligencji może prowadzić do nowych problemów związanych z prywatnością, manipulacją i fałszerstwami. Przypadek pilotów UPS pokazuje jednak nowy wymiar tego zjawiska — technologia zaczyna zacierać granicę między archiwizacją danych a cyfrowym „wskrzeszaniem” zmarłych.
Pojawia się też pytanie, czy instytucje publiczne na całym świecie są przygotowane na rzeczywistość, w której nawet pozornie anonimowe dane techniczne mogą zostać przekształcone przez AI w realistyczne nagrania głosowe.
Foto: NTSB/YouTube.