Zdaniem prezes komunikatora Signal Meredith Whittaker, nie powinniśmy zapominać, czym naprawdę są takie systemy jak ChatGPT czy Claude.
Gdy o prywatności w internecie wypowiada się szefowa Signala, warto słuchać. Signal to komunikator znany z rygorystycznego podejścia do ochrony danych użytkowników i szyfrowania wiadomości. To właśnie dlatego głos Meredith Whittaker w dyskusji o sztucznej inteligencji i prywatności przyciąga uwagę branży technologicznej.
W rozmowie z Bloomberg prezes Signala, Meredith Whittaker, podkreśliła, że użytkownicy coraz częściej przypisują chatbotom cechy, których te po prostu nie posiadają.
– To nie są wasi przyjaciele. To nie są świadome istoty. To nie są czujące podmioty, z którymi prowadzimy rozmowę – powiedziała Whittaker.
AI może pomóc, ale nie powinno zastępować myślenia
Szefowa Signala przyznała, że sama korzysta z narzędzi AI, jednak robi to w bardzo ograniczonym zakresie. Jak stwierdziła, używa ich czasami do formatowania dokumentów, ale nie traktuje ich jako źródła odpowiedzi na pytania czy partnera do rozwijania własnych idei.
Według Whittaker proces myślenia, analizowania problemów i formułowania argumentów jest zbyt ważny, by oddawać go algorytmom generującym odpowiedzi na podstawie istniejących danych.
Jej zdaniem istnieje ryzyko, że użytkownicy zaczną polegać na gotowych odpowiedziach AI zamiast samodzielnie przechodzić przez proces twórczy i intelektualny.
AI zrobi za ciebie świąteczne zakupy? To może oznaczać ogromny dostęp do danych
W wywiadzie poruszono również temat przyszłości osobistych asystentów AI. Punktem wyjścia była wcześniejsza prognoza wygłoszona przez Mustafa Suleyman, według której już w najbliższych latach asystenci pokroju Microsoft Copilot mogliby samodzielnie organizować użytkownikom świąteczne zakupy.
Whittaker uważa jednak, że taki scenariusz rodzi poważne pytania dotyczące prywatności.
Aby sztuczna inteligencja mogła skutecznie kupować prezenty dla członków rodziny, musiałaby mieć dostęp do ogromnej liczby danych i usług. Jak zauważyła szefowa Signala, oznaczałoby to przekazanie systemowi AI dostępu między innymi do kart płatniczych, historii przeglądania internetu, komunikatorów, kalendarza, adresu domowego czy możliwości kontaktowania się z bliskimi w imieniu użytkownika.
„To byłby rodzaj tylnej furtki”
Według Whittaker taki model działania wymagałby niezwykle szerokich uprawnień obejmujących wiele aplikacji i usług jednocześnie.
Jej zdaniem z perspektywy komunikatora Signal byłoby to szczególnie problematyczne, ponieważ oznaczałoby stworzenie mechanizmu przypominającego „backdoor”, czyli specjalną furtkę umożliwiającą dostęp do prywatnych danych użytkowników.
Choć wizja osobistych agentów AI zdolnych do wykonywania zadań za człowieka staje się coraz bardziej realna, debata o granicach ich dostępu do danych dopiero się rozpędza. Wraz z rozwojem takich systemów pytania o prywatność, bezpieczeństwo i kontrolę nad informacjami użytkowników mogą okazać się równie ważne jak same możliwości technologii.