OpenAI uruchamia nową funkcję Health in ChatGPT. Pozwala połączyć chatbota z aplikacją Apple Health oraz udostępnić jej wybrane dane medyczne użytkownika.
Według firmy ma to sprawić, że odpowiedzi dotyczące zdrowia będą bardziej spersonalizowane i trafniejsze. Problem w tym, że premiera nowej funkcji nastąpiła zaledwie dzień po tym, jak przeciwko OpenAI wpłynął pozew dotyczący rzekomo niebezpiecznych porad medycznych udzielonych przez ChatGPT.
Na razie rozwiązanie trafia do użytkowników w Stanach Zjednoczonych korzystających z iOS oraz wersji webowej ChatGPT.
ChatGPT uzyska dostęp do danych z Apple Health
Nowa funkcja pozwala użytkownikom połączyć ChatGPT z aplikacją Apple Health. Za zgodą właściciela urządzenia chatbot będzie mógł korzystać z informacji o przyjmowanych lekach, wynikach badań laboratoryjnych, historii wizyt lekarskich, aktywności fizycznej, śnie oraz innych danych zapisanych w aplikacji Zdrowie.
Apple Health od lat pełni rolę centralnego magazynu danych zdrowotnych na urządzeniach Apple. Zbiera informacje z iPhone’ów, zegarków Apple Watch oraz kompatybilnych aplikacji medycznych i fitness. Użytkownik może również ręcznie dodawać informacje o chorobach przewlekłych, alergiach czy stosowanych lekach. OpenAI przekonuje, że dostęp do tych danych pozwoli ChatGPT lepiej rozumieć kontekst pytań dotyczących zdrowia i udzielać bardziej dopasowanych odpowiedzi.
OpenAI: dane zdrowotne nie będą wykorzystywane do trenowania AI
Firma zapewnia, że dane medyczne przekazywane przez użytkowników nie będą wykorzystywane do trenowania modeli sztucznej inteligencji ani do wyświetlania reklam. Dostęp do informacji ma następować wyłącznie po uzyskaniu zgody użytkownika.
Według OpenAI decyzja o integracji wynika z obserwacji zachowań użytkowników. Podczas wcześniejszych testów specjalnego trybu zdrowotnego okazało się, że ponad 70 proc. rozmów o zdrowiu i tak odbywało się w zwykłych konwersacjach z ChatGPT. Dlatego firma zdecydowała się przenieść funkcję bezpośrednio do głównego interfejsu.
Premiera w cieniu głośnego pozwu
Moment wprowadzenia nowej funkcji wzbudza jednak spore kontrowersje.
Dzień wcześniej do sądu w San Francisco trafił pozew mieszkańca Florydy. Twierdził on, że ChatGPT wielokrotnie bagatelizował jego objawy i przekonywał go, że nie wymagają pilnej pomocy medycznej. Jak wynika z pozwu, mężczyzna cierpiał na zatorowość płucną, a opóźnienie w zgłoszeniu się do lekarza miało doprowadzić do poważnego pogorszenia jego stanu zdrowia.
Powód twierdzi, że chatbot wielokrotnie uspokajał go i sugerował pozostanie w domu. Ostatecznie trafił do szpitala, a obecnie ma wymagać wieloletniej rehabilitacji fizycznej i psychologicznej.
OpenAI odpowiada, że regulamin usługi jednoznacznie wskazuje, iż ChatGPT nie służy do diagnozowania ani leczenia chorób, a modele od czasu opisywanego zdarzenia zostały znacząco ulepszone.
ChatGPT nadal nie jest lekarzem
Firma wielokrotnie podkreśla, że nawet po uzyskaniu dostępu do historii medycznej użytkownika chatbot nadal może popełniać błędy.
OpenAI informuje, że podczas prac nad funkcją modele zostały specjalnie przygotowane do częstszego rozpoznawania sytuacji wymagających pilnej pomocy medycznej, zadawania dodatkowych pytań przy niepełnych informacjach oraz wyraźniejszego sygnalizowania niepewności swoich odpowiedzi.
Jednocześnie firma zaznacza, że ChatGPT nie powinien zastępować lekarza ani profesjonalnej opieki medycznej.
AI w medycynie wciąż popełnia wiele błędów
Eksperci od dawna zwracają uwagę, że największym problemem modeli językowych pozostają tzw. halucynacje, czyli generowanie przekonujących, lecz nieprawdziwych informacji.
W ostatnich miesiącach opublikowano szereg badań wskazujących, że chatboty AI nie pomagają użytkownikom podejmować decyzji zdrowotnych skuteczniej niż tradycyjne wyszukiwarki internetowe. Inne analizy wykazały natomiast, że duże modele językowe często zawodzą podczas wstępnej diagnostyki różnicowej. Ponadto wykorzystywane przez lekarzy systemy AI do tworzenia dokumentacji medycznej potrafią dodawać nieistniejące informacje. Albo pomijają istotne szczegóły lub błędnie zapisywać dawkowanie leków.
Udostępnienie ChatGPT pełnej historii zdrowia może ograniczyć część błędów wynikających z braku kontekstu. Jednak nie eliminuje podstawowego problemu – model nadal może wygenerować niepoprawną odpowiedź. To oznacza, że sztuczna inteligencja może być pomocnym narzędziem wspierającym pacjenta, ale nie powinna być traktowana jako zamiennik konsultacji z lekarzem.
Foto: Qwen/AI.