Google usuwa AI Overviews po błędach w wynikach o zdrowiu

Google właśnie usunął część swoich AI Overviews – tych automatycznych podsumowań na górze wyników wyszukiwania. Powód? Guardian postanowił sprawdzić, co się dzieje, gdy pytasz AI o sprawy zdrowotne.

Okazało się, że system podawał fałszywe i potencjalnie niebezpieczne informacje.

Co poszło nie tak

Dziennikarze Guardian przeprowadzili serię testów. Pytali AI Overviews o wyniki badań krwi – podstawową rzecz, z którą każdy z nas się spotyka u lekarza.

Odpowiedzi były alarmujące. System generował podsumowania niedokładne i takie, które mogły skłonić ludzi do błędnych decyzji zdrowotnych.

Google zareagował szybko. Usunął problematyczne podsumowania. Ale – i tu jest haczyk – firma nie powiedziała, ile dokładnie przypadków to dotyczyło. Nie wyjaśniła też, jak w ogóle system wypuścił takie treści.

Dlaczego AI nie powinno diagnozować

AI Overviews to funkcja, która automatycznie generuje odpowiedzi na podstawie informacji z internetu. Brzmi wygodnie. Wpisujesz pytanie, dostajesz gotową odpowiedź na górze strony – nie musisz klikać w linki.

Problem? AI nie rozumie kontekstu jak człowiek. Nie wie, kiedy informacja jest krytyczna dla zdrowia. Nie potrafi odróżnić poradnika medycznego od wpisu na forum, gdzie ktoś dzieli się niepotwierdzoną teorią.

W przypadku zdrowia to śmiertelnie poważna sprawa. kogoś, kto dostaje wynik badania krwi z lekko podwyższonym parametrem. Wpisuje to w Google. AI mówi mu, że to nic poważnego – albo przeciwnie, sugeruje coś dramatycznego. Człowiek podejmuje decyzję na tej podstawie.

Efekt? W najlepszym przypadku niepotrzebny stres. W najgorszym – opóźnienie wizyty u lekarza, gdy naprawdę trzeba działać szybko.

To nie pierwszy raz

AI Overviews miały już problemy wcześniej. Ludzie dzielili się screenshotami dziwnych porad – od gotowania pizzy z klejem po jedzenie kamieni dla zdrowia.

Google za każdym razem reagował podobnie: usuwał konkretne przypadki, tłumaczył że to rzadkie błędy, zapewniał że system się uczy.

Tym razem jest inaczej. Guardian nie pokazał pojedynczych śmiesznych przykładów. Przeprowadził systematyczne badanie w jednej, konkretnej kategorii – zdrowiu. I znalazł wzorzec.

To sugeruje, że nie chodzi o przypadkowe potknięcia. Chodzi o fundamentalny problem z tym, jak AI radzi sobie z informacjami medycznymi.

Czemu Google w ogóle to wypuścił

Odpowiedź jest prosta: presja konkurencji. ChatGPT i inne chatboty AI zmieniły sposób, w jaki ludzie szukają informacji. Coraz więcej osób woli zadać pytanie AI i dostać bezpośrednią odpowiedź niż przeszukiwać dziesięć linków.

Google to widzi. Widzi też, że może stracić pozycję monopolisty w wyszukiwaniu. Więc wprowadza AI Overviews – próbuje połączyć tradycyjne wyszukiwanie z nowymi możliwościami AI.

Problem polega na tym, że szybkość wdrożenia wygrała z dokładnością. Firma chciała być pierwsza. Chciała pokazać, że też ma AI. I teraz płaci za to cenę – utratą zaufania.

Co to oznacza dla Ciebie

Jeśli używasz Google i widzisz AI Overview na górze wyników – zwłaszcza gdy pytasz o zdrowie – potraktuj to jako punkt startowy. Nie ostateczną odpowiedź.

Sprawdź źródła. Kliknij w linki poniżej podsumowania. Zobacz, skąd AI wziął te informacje. I zawsze, zawsze konsultuj sprawy zdrowotne z lekarzem, nie z algorytmem.

Google twierdzi, że AI Overviews działają dobrze w większości przypadków. Może to prawda. Ale "większość" nie wystarczy, gdy chodzi o zdrowie. Tu potrzebna jest perfekcja – albo jasne ostrzeżenie, że system nie jest wiarygodny w tej kategorii.

Firma ma teraz dwa wyjścia. Albo całkowicie wyłączy AI Overviews dla zapytań medycznych – co byłoby rozsądne, choć oznaczałoby przyznanie się do porażki. Albo drastycznie poprawi system i udowodni, że potrafi działać bezpiecznie.

Szerszy problem branży

To nie jest tylko problem Google. Cała branża AI pędzi do przodu, nie do końca ogarniając konsekwencje.

Widzimy to wszędzie. ChatGPT generuje fałszywe cytaty naukowe. Gemini tworzy obrazy, które wypaczają historię. Claude daje porady prawne niemające sensu w konkretnej jurysdykcji.

Każda z tych firm mówi to samo: "To narzędzie, nie wyrocznia. Użytkownicy powinni weryfikować informacje."

Ale przecież cała idea AI polega na tym, żeby ułatwić życie. Żeby nie musieć godzinami szukać i weryfikować. Jeśli i tak muszę wszystko sprawdzać, to po co mi AI?

I tu jest pęknięcie między obietnicą a rzeczywistością. Firmy sprzedają wizję AI jako pomocnika, który wie wszystko i nie popełnia błędów. Potem w regulaminach piszą drobnym drukiem, że użytkownik odpowiada za weryfikację.

Co dalej z AI w wyszukiwaniu

Google nie wycofa się z AI Overviews. To byłoby zbyt duże cofnięcie w walce z konkurencją. Zamiast tego prawdopodobnie zobaczymy więcej ograniczeń i ostrzeżeń.

Może pojawią się kategorie, w których AI nie będzie generować podsumowań – zdrowie, prawo, finanse. Albo zobaczymy wyraźne disclaimery: "To automatyczne podsumowanie. Nie zastępuje porady medycznej."

Problem w tym, że ludzie i tak będą ufać. Bo to Google. Bo to na górze wyników. Bo wygląda autorytatywnie.

Prawdziwe rozwiązanie wymagałoby fundamentalnej zmiany w podejściu. Zamiast "wypuśćmy szybko i naprawiajmy po drodze" potrzebne jest "upewnijmy się, że to działa, zanim trafi do milionów użytkowników".

W obecnym klimacie wyścigu AI – gdzie każda firma boi się zostać w tyle – takie podejście wydaje się mało prawdopodobne.

Guardian zrobił dokładnie to, co powinni robić dziennikarze: systematycznie sprawdził, jak działa system wpływający na miliony ludzi. Znalazł problem. Nagłośnił go. Google zareagował.

To dobrze. Nie powinniśmy jednak polegać na tym, że media będą testować każdą funkcję AI za nas. Firmy technologiczne muszą same brać odpowiedzialność – zanim ktoś ucierpi na poważnie.

Źródła

• The Guardian - 'Dangerous and alarming': Google removes some of its AI summaries after users' health put at risk