Technologie oparte na sztucznej inteligencji coraz częściej trafiają do szkół, lotnisk i obiektów publicznych jako narzędzia mające zwiększać bezpieczeństwo. Jednak tragiczne wydarzenia z Nashville w stanie Tennessee stawiają pod znakiem zapytania skuteczność takich rozwiązań. Nastolatek, który przeżył szkolną strzelaninę w styczniu 2025 roku, pozwał producenta systemu wykrywania broni opartego na AI. Twierdzi, że technologia zawiodła w kluczowym momencie.
Pozew został złożony w maju 2026 roku w sądzie hrabstwa Davidson. Powodem jest uczeń, który został ranny podczas strzelaniny w jednej z licealnych szkół w Nashville. W ataku zginęły dwie osoby, w tym sam sprawca.
Pozwani to firma Omnilert, producent systemu wykrywania broni wykorzystującego sztuczną inteligencję, oraz przedsiębiorstwo System Integrations, które odpowiadało za sprzedaż i wdrożenie rozwiązania.
Według dokumentów sądowych Omnilert wiedział lub powinien był wiedzieć, że jego system posiada „istotne ograniczenia operacyjne”, które mogą prowadzić do niewykrycia zagrożenia w rzeczywistych sytuacjach kryzysowych. Wśród potencjalnych problemów wymieniono m.in. niewłaściwe rozmieszczenie kamer, odległość broni od obiektywu, kąt obserwacji, warunki oświetleniowe oraz widoczność samej broni.
Milion dolarów na bezpieczeństwo
Już w 2023 roku rada szkolna Metropolitan Nashville Public Schools zatwierdziła kontrakt wart ponad milion dolarów na wdrożenie warstwy analitycznej AI działającej na istniejącej sieci kamer monitoringu.
Po tragedii rzecznik szkolnego okręgu, Sean Braisted, wyjaśniał podczas konferencji prasowej, że napastnik znajdował się w miejscu, które nie pozwalało kamerom uzyskać wystarczająco wyraźnego obrazu. W rezultacie system nie był w stanie poprawnie rozpoznać broni i uruchomić alarmu.
To właśnie ten argument staje się jednym z kluczowych elementów sporu. Krytycy zwracają uwagę, że technologia reklamowana jako narzędzie ratujące życie może okazać się skuteczna jedynie w bardzo konkretnych warunkach.
Marketing kontra rzeczywistość
Pozew szczegółowo odnosi się do materiałów marketingowych publikowanych przez Omnilert przed strzelaniną. Według skarżących firma przedstawiała swoje rozwiązanie jako technologię mogącą zapobiegać tragediom podobnym do słynnej masakry w szkole Marjory Stoneman Douglas na Florydzie.
Autorzy pozwu twierdzą, że producent eksponował potencjalne korzyści płynące z wykorzystania AI. Jednocześnie nie informując jednalk klientów o ograniczeniach systemu, ryzyku błędów czy sytuacjach, w których wykrywanie broni może okazać się nieskuteczne.
To właśnie kwestia transparentności staje się jednym z najważniejszych tematów sprawy. Jeśli sąd uzna, że możliwości systemu były prezentowane w sposób przesadnie optymistyczny, może to mieć wpływ na cały rozwijający się rynek technologii bezpieczeństwa opartych na sztucznej inteligencji.
„Dlaczego nie zwykły wykrywacz metalu?”
Chris Smith, jeden z prawników reprezentujących poszkodowanego ucznia, od początku podchodził do idei automatycznego wykrywania broni z dużym sceptycyzmem.
Jego zdaniem powierzanie bezpieczeństwa dzieci technologii, która nie gwarantuje stuprocentowej skuteczności, jest ryzykowne. Prawnik porównał rozwiązania tego typu do systemów autonomicznej jazdy, które według niego wciąż nie są gotowe do pełnego zaufania użytkowników.
Pytanie, które stawia Smith, jest proste. Skoro skuteczność AI zależy od wielu zmiennych, to czy nie lepiej inwestować w bardziej sprawdzone metody ochrony, takie jak wykrywacze metalu czy dodatkowe środki bezpieczeństwa?
Czy pieniądze można było wydać lepiej?
Wątpliwości mają również eksperci zajmujący się bezpieczeństwem amerykańskich szkół.
David Riedman, twórca bazy danych K-12 School Shooting Database, zwraca uwagę, że w większości przypadków szkolnych strzelanin problemem nie jest brak informacji o zagrożeniu. Jego zdaniem środki przeznaczone na zaawansowane systemy AI mogłyby zostać wykorzystane na inne działania. Takie jak wsparcie psychologiczne dla uczniów znajdujących się w kryzysie.
To argument, który pojawia się coraz częściej w dyskusjach dotyczących wykorzystania sztucznej inteligencji w ochronie placówek edukacyjnych. Zwolennicy technologii podkreślają możliwość szybkiego wykrywania zagrożeń. Krytycy wskazują, że inwestowanie w profilaktykę i pomoc psychologiczną może przynosić większe korzyści.
Pierwszy taki pozew może mieć dalekosiężne skutki
Według prawników reprezentujących poszkodowanego jest to prawdopodobnie pierwszy pozew skierowany przeciwko producentowi systemu wykrywania broni opartego na sztucznej inteligencji.
Sprawa może stać się ważnym precedensem dla całej branży AI. Jeśli sąd uzna, że firmy oferujące tego typu rozwiązania muszą wyraźniej informować o ograniczeniach swoich produktów, może to doprowadzić do zmian w sposobie reklamowania i wdrażania systemów bezpieczeństwa wykorzystujących sztuczną inteligencję.
Jednocześnie proces ponownie otwiera debatę o fundamentalnym pytaniu. Jak skuteczna musi być sztuczna inteligencja, abyśmy powierzyli jej bez obaw
zadania związane z ochroną ludzkiego życia?
Foto: ChatGPT Images.