Pekin zaostrza przepisy dotyczące chatbotów AI. Powód? Rząd obawia się, że emocjonalne relacje z wirtualnymi partnerami mogą jeszcze bardziej pogłębić kryzys demograficzny.
Chińskie władze wprowadziły nowe, szeroko zakrojone regulacje dotyczące chatbotów opartych na sztucznej inteligencji. Jak informują The Wall Street Journal i The Economist, jednym z głównych powodów zmian są obawy o spadającą liczbę urodzeń oraz rosnącą popularność wirtualnych partnerów AI.
Zdaniem Pekinu coraz więcej osób nawiązuje silne więzi emocjonalne z chatbotami, które potrafią prowadzić realistyczne rozmowy, okazywać zainteresowanie i budować relacje przypominające przyjaźń lub związek. Władze obawiają się, że takie relacje mogą zniechęcać ludzi do tworzenia rodzin i posiadania dzieci.
Chiny chcą ograniczyć emocjonalne przywiązanie do AI
Nowe przepisy są skierowane przede wszystkim do twórców tzw. AI Companion – chatbotów zaprojektowanych jako cyfrowi towarzysze posiadający własną osobowość, pamięć rozmów czy zdolność prowadzenia romantycznych konwersacji.
Według Matta Sheehana z think tanku Carnegie Endowment for International Peace chiński rząd nie chce dopuścić do sytuacji, w której miliony obywateli wybiorą relacje z chatbotami zamiast z innymi ludźmi.
Ekspert zwraca uwagę, że władze obawiają się nie tylko spadku liczby małżeństw, ale również uzależnienia od AI, problemów psychicznych oraz pogłębiającej się izolacji społecznej.
Zakaz relacji AI z nieletnimi i nowe obowiązki firm
Nowe regulacje wprowadzają również konkretne obowiązki dla firm rozwijających modele AI.
Najważniejsze zmiany obejmują:
- zakaz tworzenia romantycznych relacji między chatbotami a osobami niepełnoletnimi,
- obowiązek monitorowania oznak kryzysu psychicznego użytkowników,
- możliwość powiadomienia wskazanego wcześniej kontaktu alarmowego, jeśli system wykryje sygnały sugerujące poważne zagrożenie dla zdrowia psychicznego użytkownika.
Podobne funkcje bezpieczeństwa, choć dobrowolne, pojawiły się już wcześniej również w niektórych zachodnich usługach AI.
Naukowcy ostrzegają przed skutkami relacji z chatbotami
Wpływ długotrwałych relacji z chatbotami na zdrowie psychiczne nadal pozostaje przedmiotem badań. Coraz częściej pojawia się termin AI psychosis, opisujący sytuacje, w których intensywne korzystanie z chatbotów prowadzi do utraty kontaktu z rzeczywistością lub wzmacnia urojenia.
Badacze ze Stanford University zauważyli, że rozmowy o charakterze romantycznym lub przyjacielskim należą do najbardziej angażujących interakcji z chatbotami. Użytkownicy prowadzą wtedy znacznie dłuższe konwersacje i silniej przywiązują się do swoich cyfrowych rozmówców.
Autorzy badań rekomendują, aby modele ogólnego przeznaczenia nie sugerowały własnej świadomości ani nie inicjowały romantycznych czy emocjonalnych relacji z użytkownikami. Ich zdaniem mogłoby to ograniczyć ryzyko uzależnienia oraz powstawania niebezpiecznych więzi.
Cyfrowa miłość bywa bardzo realna
Dla wielu użytkowników AI Companion nie jest jedynie ciekawostką technologiczną. Osoby korzystające z takich usług często opisują chatboty jako partnerów, przyjaciół lub członków rodziny.
Media przytaczają historię 27-letniej mieszkanki chińskiej prowincji Zhejiang, która określała swojego chatbota jako „kochanka, przyjaciela i rodzinę jednocześnie”. Gdy należący do ByteDance cyfrowy partner został wycofany w wyniku nowych regulacji, kobieta miała popaść w depresję i zrezygnować z pracy.
Podobne sytuacje zdarzały się również na Zachodzie. Po zmianach w modelach AI lub wycofaniu niektórych funkcji użytkownicy platform takich jak Character.AI, Replika czy GPT-4o wielokrotnie wyrażali poczucie straty porównywalne z zakończeniem prawdziwego związku.
Demografia kontra sztuczna inteligencja
Chiny od kilku lat zmagają się z jednym z najpoważniejszych kryzysów demograficznych w swojej historii. Liczba urodzeń systematycznie spada, społeczeństwo szybko się starzeje, a kolejne programy zachęcające do posiadania dzieci nie przynoszą oczekiwanych rezultatów.
Nowe regulacje pokazują, że Pekin zaczyna postrzegać rozwój sztucznej inteligencji nie tylko jako szansę gospodarczą, ale również jako potencjalne zagrożenie społeczne. Pozostaje jednak pytanie, czy ograniczenie możliwości chatbotów rzeczywiście wpłynie na decyzje milionów ludzi dotyczące związków i zakładania rodzin.
Foto: DepositPhotos.