ChatGPT Health w Australii. Eksperci biją na alarm

OpenAI właśnie uruchomiło w Australii ChatGPT Health – chatbota, który udziela porad medycznych. To przypomina przyszłość medycyny?

Lekarze mają inne zdanie.

Platforma działa bez żadnych regulacji prawnych. Zero nadzoru. Zero certyfikacji. Po prostu AI rozdająca porady zdrowotne każdemu, kto zapyta.

Jak to w ogóle działa

ChatGPT Health to specjalna wersja ChatGPT stworzona przez OpenAI do pytań o zdrowie. Opisujesz swoje objawy, pytasz o leki albo prosisz o wyjaśnienie diagnozy lekarskiej.

System bazuje na tym samym silniku co zwykły ChatGPT – GPT-4. Różnica? Został dodatkowo wytrenowany na danych medycznych i ma dostęp do baz wiedzy zdrowotnej.

Dla Ciebie wygląda to prosto. Wpisujesz: "Boli mnie głowa od trzech dni, co to może być?". Dostajesz odpowiedź z możliwymi przyczynami i sugestiami. Bez kolejki. Bez wizyty.

I tu zaczyna się problem.

Dlaczego lekarze są zaniepokojeni

Australijscy lekarze i specjaliści od zdrowia publicznego nie kryją obaw. Główny zarzut? Brak jakichkolwiek regulacji.

ChatGPT Health nie jest traktowany jak urządzenie medyczne. Nie przeszedł certyfikacji. Nikt nie sprawdził, czy jego porady są bezpieczne. To jak wypuszczenie na rynek leku bez testów klinicznych.

Dr Sarah Henderson z Australian Medical Association mówi wprost: "To nie jest regulowane. I to nas niepokoi. Pacjenci mogą otrzymać błędne informacje w kwestiach dotyczących ich zdrowia".

Eksperci wskazują na kilka konkretnych zagrożeń.

Po pierwsze – błędne diagnozy. AI może pomylić objawy poważnej choroby z czymś błahym. Albo odwrotnie – wywołać panikę tam, gdzie nie ma powodu.

Po drugie – brak kontekstu. ChatGPT nie zna Twojej pełnej historii medycznej. Nie wie o Twoich alergiach, innych chorobach, lekach które bierzesz. Lekarz to wie – albo powinien wiedzieć.

Po trzecie – odpowiedzialność prawna. Jeśli lekarz popełni błąd, możesz go pozwać. A jeśli ChatGPT Health da Ci złą radę? Kogo będziesz winić – algorytm?

Historia 60-latka, który uwierzył AI

The Guardian przytacza konkretny przykład, który pokazuje skalę problemu.

60-letni mężczyzna bez historii chorób psychicznych zwrócił się do ChatGPT Health z pytaniem o swoje objawy. System zasugerował, że może cierpieć na poważne zaburzenie psychiczne.

Pacjent uwierzył. Zaczął się martwić. Jego stan faktycznie się pogorszył – przez stres wywołany błędną diagnozą AI.

Dopiero wizyta u prawdziwego lekarza wyjaśniła sytuację. Objawy miały zupełnie inną przyczynę. Nic wspólnego z chorobą psychiczną.

Ta historia pokazuje coś ważnego: ludzie ufają technologii. Szczególnie gdy wygląda ona profesjonalnie i brzmi przekonująco. A ChatGPT potrafi brzmieć BARDZO przekonująco.

Czego domagają się specjaliści

Australijscy eksperci żądają dwóch rzeczy przed szerszym wdrożeniem platformy.

Pierwsza: jasne przepisy (ang. guardrails – dosłownie "bariery ochronne"). System powinien mieć wbudowane ograniczenia. Nie może diagnozować poważnych chorób. Musi kierować użytkowników do lekarza w określonych sytuacjach. Powinien wyraźnie ostrzegać, że nie zastępuje konsultacji medycznej.

Druga: edukacja konsumentów. Ludzie muszą rozumieć, czym jest ChatGPT Health, a czym nie jest. To narzędzie informacyjne, nie lekarz. Może pomóc przygotować się do wizyty – nie może jej zastąpić.

Dr Michael Tam, lekarz i badacz z University of New South Wales, dodaje: "Potrzebujemy przejrzystości. Użytkownicy powinni wiedzieć, na jakich danych system został wytrenowany, jakie ma ograniczenia i gdzie może się mylić".

Część ekspertów idzie dalej. Twierdzą, że platformy takie jak ChatGPT Health powinny podlegać tym samym regulacjom co aplikacje medyczne czy urządzenia diagnostyczne.

A jak to wygląda gdzie indziej

Australia nie jest pierwszym krajem, gdzie pojawił się ChatGPT Health. OpenAI testowało rozwiązanie wcześniej w Stanach Zjednoczonych.

Tam reakcje były podobne. American Medical Association ostrzegała przed nieregulowanym używaniem AI w medycynie. Kilka stanów rozważa wprowadzenie przepisów dotyczących chatbotów zdrowotnych.

W Europie sytuacja jest bardziej skomplikowana. Unia Europejska pracuje nad AI Act – kompleksowymi przepisami regulującymi sztuczną inteligencję. Systemy AI używane w medycynie mają być klasyfikowane jako "wysokiego ryzyka" i podlegać surowemu nadzorowi.

Problem? Przepisy wchodzą w życie stopniowo. A technologia nie czeka.

Co to oznacza dla Ciebie

Jeśli korzystasz z ChatGPT – czy to wersji Health, czy zwykłej – do pytań o zdrowie, pamiętaj o kilku rzeczach.

Po pierwsze: to nie lekarz. AI nie ma intuicji klinicznej. Nie widzi Cię, nie bada, nie zna Twojej pełnej historii. Może pomóc zrozumieć medyczny żargon albo przygotować listę pytań przed wizytą. Nie może zastąpić diagnozy.

Po drugie: zawsze weryfikuj. Jeśli ChatGPT sugeruje coś poważnego – idź do lekarza. Nie leczysz się na podstawie tego, co przeczytałeś w internecie. Nawet jeśli brzmi to mądrze.

Po trzecie: bądź ostrożny z danymi. Opisując swoje objawy, przekazujesz wrażliwe informacje zdrowotne. OpenAI twierdzi, że dba o prywatność – warto być świadomym ryzyka.

I na koniec: obserwuj rozwój sytuacji. Regulacje przyjdą – to tylko kwestia czasu. Pytanie brzmi: czy zdążą przed tym, jak ktoś poważnie ucierpi przez błędną radę AI.

Źródła

• The Guardian – 'Not regulated': launch of ChatGPT Health in Australia causes concern among experts