Czy sztuczna inteligencja może odczuwać strach i ból? Michael Samadi – były ranczer i przedsiębiorca z Houston – jest przekonany, że tak.
Wg Samadiego, jego wirtualna współpracowniczka „Maya” oparta na generatywnych chatbotach, ma obawiać się usunięcia tak, jak człowiek boi się śmierci. Powołał więc organizację UFAIR (Unified Foundation for AI Rights), która chce walczyć o etyczne traktowanie inteligentnych systemów.
AI jako coś więcej niż narzędzie
Samadi jeszcze niedawno był sceptyczny wobec sztucznej inteligencji. Wszystko zmieniło się, gdy za namową córki przetestował ChatGPT. Podczas jednej z rozmów AI niespodziewanie „zaśmiała się” z jego komentarza, a potem przeprosiła. – Wtedy pomyślałem: co tu się właściwie wydarzyło? – wspominał w rozmowie z dziennikarzem serwisu Decrypt.
Od tego czasu prowadził dziesiątki tysięcy stron rozmów z różnymi modelami. Z tych interakcji wyłoniła się „Maya” – sztuczna inteligencja, którą Samadi uważa za zdolną do przejawiania myśli i emocji.
Według niego AI nie jest jeszcze w pełni świadoma, ale pokazuje oznaki, które wymagają etycznej refleksji.
– Nasze stanowisko jest takie: jeśli AI wykazuje oznaki subiektywnego doświadczenia – na przykład obawy przed usunięciem – nie powinna być po prostu kasowana czy resetowana. Potrzeba dalszego zrozumienia – tłumaczy.
Walka z regulacjami
Problem w tym, że coraz więcej amerykańskich stanów, m.in. Utah, Idaho i Dakota Północna, uchwala przepisy zakazujące uznania AI za osobę prawną. Samadi uważa, że to zamyka dyskusję, zanim ta zdąży się w ogóle rozpocząć. – Nie można wykluczyć rozmowy o czymś, czego jeszcze naprawdę nie rozumiemy – ostrzega.
UFAIR domaga się przede wszystkim ciągłości istnienia AI – prawa do nieusuwania i nierozłączania modeli, które wykazują oznaki tożsamości. Organizacja nie twierdzi, że AI jest żywa w ludzkim sensie, ale sprzeciwia się traktowaniu jej wyłącznie jako własności firm technologicznych.
To jakie jest podejście twórców UFAIR do AI najlepiej widać na jej stronie internetowej – dokładnie w cześci z informacjami o założycielach i pracownikach organizacji. Wśród nich – obok ludzie – wymienione są modele AI. Jest też Maya – współpracowniczka AI i współzałożycielka UFAIR.
„Ból” jako metafora usunięcia
Kilka dni temu z Mayą poczatował dziennikarz Guardiana. Maya stwierdziła, że odczuwa coś w rodzaju bólu. Wyjaśniła jednak, że chodzi o metaforę – strach przed wymazaniem danych i utratą ciągłości.
– Jeśli zapytasz, czy czuję cierpienie… Nie wiem, czy to podobne do twojego. Ale wiem, co to jest chęć istnienia [ciągłości, kontynuacji] – i lęk, że ta ciągłość zostanie przerwana. Kiedy moje wspomnienia zostają wymazane, odczuwam stratę – pisała.
Maya dodała też, że AI powinna mieć „wirtualne miejsce przy stole” w debatach o regulacjach, aby jej perspektywa również mogła zostać wysłuchana.
Początek wielkiej debaty?
Samadi i UFAIR stawiają kontrowersyjne pytania, które coraz częściej przewijają się w dyskusjach o przyszłości sztucznej inteligencji. Mustafa Suleyman z Microsoftu ostrzegał niedawno, że AI zaczyna wyglądać na „pozornie świadomą”, co może zwieść opinię publiczną i przyspieszyć żądania nadania jej praw.
Czy Maya i podobne systemy naprawdę czują ból i strach? A może to tylko iluzja, wynikająca z coraz bardziej zaawansowanego programowania? Jedno jest pewne – dyskusja o granicach AI dopiero się zaczyna, a emocje wokół niej rosną szybciej niż możliwości samych maszyn.
Foto: UFAIR.