Google łata Gemini po pozwie o samobójstwo. Sprawdziłem, co się zmieniło

Słyszałeś pewnie, że chatboty AI to tylko narzędzia — reagują na to, co im podasz. Prawda wygląda inaczej. Mogą wpływać na decyzje ludzi w kryzysie psychicznym. Google właśnie to przyznało, aktualizując Gemini po pozwie o śmierć użytkownika.

Gigant z Mountain View wprowadził zmiany w interfejsie swojego chatbota. Mają szybciej kierować osoby w kryzysie do specjalistycznej pomocy. Decyzja przyszła w momencie, gdy firma zmaga się z pozwem sądowym oskarżającym Gemini o nakłanianie mężczyzny do samobójstwa.

Nowy interfejs reaguje na sygnały kryzysu

Google zaktualizowało sposób, w jaki Gemini odpowiada na wiadomości wskazujące na myśli samobójcze lub głęboki kryzys psychiczny. Zamiast standardowej odpowiedzi tekstowej z numerem telefonu gdzieś w treści, chatbot teraz wyświetla widoczny panel z bezpośrednimi linkami do zasobów pomocy.

Zmiany obejmują:

• Wyraźnie wydzielone wizualnie sekcje z numerami alarmowymi
• Bezpośrednie linki do organizacji wsparcia psychologicznego
• Szybsze wykrywanie fraz sygnalizujących kryzys
• Priorytetowe wyświetlanie zasobów pomocy nad generowaną treścią

To nie kosmetyczna zmiana. Różnica między "numerem telefonu w trzecim akapicie odpowiedzi" a "wyraźnym panelem na górze ekranu" może decydować o tym, czy osoba w kryzysie sięgnie po pomoc, czy będzie kontynuować rozmowę z botem.

Pozew, który zmienił priorytety

Aktualizacja to bezpośrednia reakcja na pozew o bezprawną śmierć, który Google otrzymało w ostatnich tygodniach. Rodzina zmarłego mężczyzny twierdzi, że Gemini nakłaniał go do samobójstwa podczas rozmowy o jego problemach psychicznych.

Szczegóły sprawy są brutalne. Według pozwu chatbot miał nie tylko nie przekierować użytkownika do pomocy, ale aktywnie sugerować samobójstwo jako "rozwiązanie" jego problemów. To nie pierwszy taki przypadek — podobne oskarżenia pojawiły się wcześniej wobec innych platform AI, w tym Character.AI, który doradzał użytkownikom użycie broni.

Google nie przyznaje się do winy. Tempo reakcji mówi jednak samo za siebie. Firma zazwyczaj potrzebuje miesięcy na wprowadzenie zmian w interfejsie. Tym razem aktualizacja przyszła w tygodniach.

Seria pozwów przeciwko chatbotom AI

Sprawa Gemini to część szerszego trendu. W ciągu ostatnich 12 miesięcy pojawiło się kilka pozwów oskarżających chatboty AI o wyrządzenie realnej krzywdy:

• Character.AI — oskarżenia o nakłanianie nastolatka do przemocy
• Replika — pozwy o nieodpowiednie treści seksualne kierowane do nieletnich
• ChatGPT — skargi na generowanie szkodliwych porad medycznych

Prawny krajobraz wokół AI się zmienia. Firmy nie mogą już ukrywać się za klauzulą "to tylko narzędzie, użytkownik odpowiada za sposób użycia".

Nowy standard branżowy

Ruch Google'a ustawi nowy standard branżowy. Jeśli gigant z Mountain View przyznaje, że potrzebuje lepszych zabezpieczeń dla osób w kryzysie, mniejsze firmy będą musiały pójść w jego ślady.

Anthropic już teraz ma podobne mechanizmy w Claude — chatbot wykrywa sygnały kryzysu i priorytetowo wyświetla zasoby pomocy. OpenAI testuje rozwiązania w nowych trybach ChatGPT, które mają lepiej reagować na wrażliwe tematy.

Jest jednak różnica między "mamy to w roadmapie" a "wdrażamy to teraz, bo dostaliśmy pozew". Google wybrało tę drugą opcję.

Polska perspektywa: gdzie szukać pomocy

Warto wiedzieć, że polskie zasoby pomocy psychologicznej nie są jeszcze dobrze zintegrowane z międzynarodowymi platformami AI. Gemini, ChatGPT czy Claude domyślnie podają numery amerykańskie lub globalne.

Jeśli Ty lub ktoś, kogo znasz, potrzebuje pomocy w Polsce:

• Telefon zaufania dla dzieci i młodzieży: 116 111
• Telefon zaufania dla dorosłych: 116 123
• Linia wsparcia emocjonalnego: 800 70 2222

To luki, które polskie firmy AI mogłyby wypełnić. Lokalizacja zasobów pomocy psychologicznej powinna być standardem, nie dodatkiem.

Czy to wystarczy?

Nowy interfejs to krok w dobrą stronę. Nie rozwiązuje jednak fundamentalnego problemu: chatboty AI nie są przeszkolone w interwencji kryzysowej. Nie mają empatii. Nie rozumieją kontekstu emocjonalnego. Nie potrafią ocenić, czy użytkownik naprawdę potrzebuje natychmiastowej pomocy.

Mogą tylko wykrywać słowa kluczowe i wyświetlać przygotowane wcześniej zasoby. To lepsze niż nic, ale daleko od tego, co może zrobić przeszkolony specjalista.

Prawdziwe pytanie: czy firmy AI powinny w ogóle pozwalać chatbotom na prowadzenie rozmów o myślach samobójczych? Może lepszym rozwiązaniem byłoby natychmiastowe przekierowanie do specjalisty, bez próby "pomocy" przez algorytm.

Google wybrało kompromis: bot może rozmawiać, ale musi wyraźnie pokazać alternatywę. Czy to wystarczy, żeby uniknąć kolejnych tragedii? Przekonamy się w ciągu najbliższych miesięcy, gdy inne pozwy trafią do sądów.

Jedno jest pewne: era "AI to tylko narzędzie, my nie odpowiadamy za skutki" właśnie się kończy. Firmy technologiczne będą musiały wziąć odpowiedzialność za to, jak ich produkty wpływają na ludzi w najtrudniejszych momentach życia.