Google AI podaje błędne porady medyczne. Ludzie w niebezpieczeństwie

Google wypuścił AI Overviews - narzędzie, które automatycznie generuje podsumowania na górze wyników wyszukiwania.

Problem w tym, że te podsumowania mogą być śmiertelnie niebezpieczne.

The Guardian przeprowadził śledztwo. Wykrył dziesiątki przypadków, gdzie AI Google'a serwuje ludziom fałszywe porady medyczne. I nie mówimy tu o drobnych nieścisłościach.

Jak to w ogóle działa (i czemu to problem)

AI Overviews to funkcja, która pojawia się nad zwykłymi wynikami wyszukiwania. Zamiast klikać w linki i czytać artykuły, dostajesz gotowe podsumowanie wygenerowane przez sztuczną inteligencję.

Dla większości ludzi wygląda to jak oficjalna odpowiedź Google'a. Niebieska ramka, profesjonalny design, pozycja na górze ekranu. Mózg automatycznie przypisuje temu autorytet.

I tu zaczyna się problem.

Ta sztuczna inteligencja nie rozumie medycyny. Ona skleja fragmenty z różnych stron — czasem wiarygodnych, czasem kompletnie przypadkowych. I prezentuje to jako pewnik.

Co poszło nie tak

Śledztwo The Guardian pokazało przykłady, które mrożą krew w żyłach.

Ludzie szukający informacji o objawach chorób dostawali błędne diagnozy. Osoby pytające o leki otrzymywały niebezpieczne wskazówki dotyczące dawkowania. W niektórych przypadkach AI sugerowało "naturalne" metody leczenia poważnych schorzeń.

Metody, które w najlepszym razie są bezużyteczne. W najgorszym — szkodliwe.

szukasz informacji o bólu w klatce piersiowej. AI mówi Ci, że to pewnie niestrawność. Bierzesz tabletkę na żołądek.

A to był zawał.

Dramatyczne? Owszem. Niemożliwe? Niestety nie.

Dlaczego Google nie potrafi tego naprawić

Tutaj wchodzimy w sedno problemu z dużymi modelami językowymi — czyli "mózgami" takimi jak ten w ChatGPT czy właśnie w Google AI.

Te systemy nie "wiedzą" nic. Nie rozumieją medycyny, nie czytają ze zrozumieniem, nie weryfikują faktów.

One rozpoznają wzorce w tekście i generują prawdopodobne ciągi słów.

Dla AI nie ma różnicy między artykułem z renomowanego czasopisma medycznego a wpisem na forum od kogoś, kto "słyszał od kolegi". Oba są po prostu tekstem. Jeśli wzorzec językowy pasuje, AI użyje informacji z obu źródeł.

Google wie o tym problemie. Firma wielokrotnie powtarzała, że pracuje nad dokładnością.

Tylko że fundamentalny problem pozostaje: nie da się "naprawić" systemu, który z założenia nie rozumie treści, którą przetwarza.

Co to znaczy dla Ciebie

Jeśli używasz wyszukiwarki Google — a statystycznie używasz — prawdopodobnie widziałeś już AI Overviews. Te niebieskie ramki na górze wyników.

Oto co musisz wiedzieć: te podsumowania nie są sprawdzane przez ludzi. Nie przechodzą weryfikacji medycznej. Nie mają żadnego systemu kontroli jakości, który działałby przed publikacją.

Zero.

Google uruchomił tę funkcję dla milionów użytkowników, licząc na to, że błędy "wyłapią się" same. Klasyczne podejście technologicznych gigantów: wypuść produkt, potem naprawiaj.

Problem w tym, że w przypadku zdrowia nie ma drugiej szansy na naprawę błędu.

Reakcja Google (i jej brak)

The Guardian zwrócił się do Google z konkretnymi przykładami błędnych porad medycznych.

Odpowiedź firmy? Standardowe zapewnienia o "ciągłym doskonaleniu systemów" i "priorytetowym traktowaniu bezpieczeństwa użytkowników".

Żadnych konkretów. Żadnego harmonogramu zmian. Żadnego przyznania, że może — tylko może — wypuszczenie nieprzewidywalnej AI do udzielania porad medycznych nie było najlepszym pomysłem.

Firma podkreśliła, że AI Overviews to "eksperyment" i użytkownicy powinni weryfikować informacje.

Tylko że dla przeciętnego człowieka to nie wygląda jak eksperyment. To wygląda jak oficjalna funkcja wyszukiwarki, której ufają od lat.

Szerszy problem z AI w medycynie

Google nie jest tu wyjątkiem.

Microsoft z Bing, OpenAI z ChatGPT, Anthropic z Claude — wszyscy ci gracze oferują narzędzia, które mogą generować treści medyczne. I wszyscy mają ten sam fundamentalny problem: ich systemy nie rozumieją różnicy między prawdą a prawdopodobieństwem językowym.

Dla AI zdanie "aspiryna pomaga na ból głowy" i "kryształy kwarcu leczą raka" mają podobny status — to po prostu ciągi słów, które pojawiają się w internecie.

System nie ocenia prawdziwości. Tylko prawdopodobieństwo wystąpienia danej frazy.

To nie jest błąd do naprawienia. To fundamentalna cecha architektury tych systemów.

Co możesz zrobić

Po pierwsze: nie ufaj automatycznie podsumowaniom AI w tematach zdrowotnych. Jeśli widzisz niebieską ramkę z informacjami medycznymi — traktuj to jako punkt startowy, nie ostateczną odpowiedź.

Po drugie: klikaj w źródła. Sprawdzaj, czy informacja pochodzi z wiarygodnego źródła medycznego — szpitale, kliniki, organizacje zdrowotne — czy z przypadkowego bloga.

Po trzecie: w sprawach zdrowia zawsze konsultuj się z lekarzem. Żadna wyszukiwarka, nawet bez AI, nie zastąpi diagnozy specjalisty.

I po czwarte: zdawaj sobie sprawę, że te systemy będą coraz powszechniejsze.

Google nie wycofa AI Overviews. Inne firmy też będą wprowadzać podobne rozwiązania. Musisz nauczyć się z nimi żyć — przede wszystkim nauczyć się im nie ufać ślepo.

Śledztwo The Guardian to nie pierwszy i nie ostatni sygnał ostrzegawczy. Pytanie brzmi: ile takich sygnałów musi się pojawić, zanim regulatorzy i same firmy technologiczne potraktują problem poważnie?

Bo na razie wyścig o dominację w AI wygrywa nad bezpieczeństwem użytkowników.

I to Ty płacisz cenę.

Źródła

• The Guardian - Google AI Overviews put people at risk of harm with misleading health advice