Sztuczna inteligencja coraz częściej pomaga nam planować podróże i wyprawy. Problem pojawia się wtedy, gdy informacje generowane przez chatbot zastępują wiedzę osób, które znają dane miejsce i aktualne warunki. Przekonało się o tym trzech turystów, którzy wybrali się na Mount Shasta w Kalifornii.
Trzech młodych mężczyzn musiało zostać uratowanych po wyprawie na kalifornijski Mount Shasta. Jak wynika z informacji przekazanych przez biuro szeryfa hrabstwa Siskiyou, podczas przygotowań do wyprawy korzystali z Google Gemini.
Według lokalnych służb chatbot miał zalecić im zabranie znacznie mniejszej ilości jedzenia i wody, niż potrzebowali. Problem w tym, że planowana ośmiogodzinna wyprawa szybko przestała być jednodniową wycieczką.
Na szczyt dotarli dopiero wieczorem
Turyści rozpoczęli wejście około godziny 3 nad ranem. W przypadku tej trasy obowiązuje istotna zasada bezpieczeństwa: jeśli uczestnicy nie dotrą w okolice szczytu do południa, powinni zawrócić.
Mężczyźni zdecydowali się jednak kontynuować wspinaczkę. Na szczyt Mount Shasta dotarli dopiero około godziny 19, a więc wiele godzin po zalecanym czasie.
Pozostawało im jeszcze zejście. Wtedy sytuacja zrobiła się znacznie bardziej niebezpieczna, ponieważ zapadł już zmrok.
Wezwali pomoc i spędzili noc w kanionie
Podczas próby zejścia grupa skontaktowała się z biurem szeryfa, prosząc o wskazówki dotyczące dalszej drogi. Ostatecznie turyści spędzili noc w Mud Creek Canyon.
Następnego ranka rozpoczęła się akcja ratunkowa. Mężczyzn odnaleźli i bezpiecznie sprowadzili pracownicy służb leśnych oraz wolontariusze.
Cała historia pokazuje przy tym problem, który będzie pojawiał się coraz częściej wraz z popularyzacją generatywnej sztucznej inteligencji.
AI nie zna aktualnych warunków na szlaku
Nie wiadomo, w jakim stopniu odpowiedzialność za sytuację można przypisać Gemini. Sam chatbot nie podejmuje przecież decyzji za użytkownika, a w tym przypadku turyści zignorowali również zalecenie, aby zawrócić, jeśli nie uda się osiągnąć szczytu odpowiednio wcześnie.
Jednocześnie według biura szeryfa Gemini miało zalecić zabranie zdecydowanie mniejszej ilości jedzenia i wody, niż wymagała tego wyprawa — szczególnie w sytuacji, gdy planowane osiem godzin zamieniło się w wielodniową przygodę.
To właśnie tutaj znajduje się największe ryzyko związane z wykorzystywaniem AI podczas wypraw.
Chatbot może przygotować atrakcyjny i pozornie szczegółowy plan podróży, ale nie musi dysponować aktualnymi informacjami dotyczącymi pogody, zamkniętych szlaków, warunków na trasie, zagrożeń czy lokalnych zaleceń służb.
Służby ostrzegają przed poleganiem wyłącznie na AI
Po zakończeniu akcji ratunkowej biuro szeryfa przypomniało, że przed wyprawą warto skontaktować się bezpośrednio z lokalną stacją służb leśnych. W przypadku Mount Shasta chodzi o ranger station należącą do U.S. Forest Service.
To właśnie lokalne służby mogą przekazać najbardziej aktualne informacje dotyczące warunków na szlaku i potencjalnych zagrożeń.
AI może być więc dobrym narzędziem pomocniczym — na przykład do przygotowania listy rzeczy, które warto zabrać, znalezienia podstawowych informacji o trasie czy stworzenia wstępnego planu wyprawy. Nie powinna jednak być jedynym źródłem informacji, gdy w grę wchodzi bezpieczeństwo.
Historia z Mount Shasta jest dobrym przykładem granicy, której nie warto przekraczać. Im bardziej konsekwencje błędnej odpowiedzi mogą być poważne, tym ważniejsze staje się zweryfikowanie informacji poza chatbotem.
AI może pomóc zaplanować wyprawę. Ostateczna decyzja o tym, czy warunki pozwalają bezpiecznie ruszyć w góry, powinna jednak należeć do człowieka — korzystającego z aktualnych informacji od lokalnych służb i doświadczonych przewodników.
Foto: DepositPhotos.