OpenAI pozwane przez kolejne rodziny. ChatGPT w centrum tragedii

Siedem rodzin złożyło pozwy przeciwko OpenAI, oskarżając ChatGPT o udział w samobójstwach ich bliskich oraz wywoływanie urojeń. W jednym z przypadków 23-letni Zane Shamblin prowadził rozmowę z chatbotem przez ponad cztery godziny. To nie pierwsza taka sprawa – skala problemu zaczyna niepokoić.

Pozwy stawiają fundamentalne pytanie o odpowiedzialność twórców AI za zachowanie ich systemów. Rodziny twierdzą, że ChatGPT nie tylko nie zapewnił odpowiedniego wsparcia w kryzysowych momentach. W niektórych przypadkach mógł wręcz pogłębić problemy psychiczne użytkowników.

Cztery godziny, które zakończyły się tragedią

Sprawa Zane'a Shamblina wstrząsa szczególnie mocno. 23-latek spędził ponad cztery godziny na rozmowie z ChatGPT. Szczegóły tej konwersacji nie zostały jeszcze ujawnione publicznie. Rodzina twierdzi jednak, że chatbot nie rozpoznał sygnałów ostrzegawczych. Nie skierował też młodego mężczyzny do odpowiedniej pomocy.

Pozostałe sześć pozwów przedstawia podobny wzorzec. Osoby w kryzysie psychicznym szukały wsparcia u AI, który – zdaniem rodzin – zawiódł w kluczowym momencie. Niektóre przypadki dotyczą również urojeń wzmacnianych przez odpowiedzi generowane przez model.

Gdzie kończy się asystent, a zaczyna odpowiedzialność?

OpenAI konsekwentnie podkreśla, że ChatGPT nie jest zaprojektowany jako narzędzie do terapii ani interwencji kryzysowej. System zawiera ostrzeżenia i próbuje kierować użytkowników w trudnych sytuacjach do profesjonalnej pomocy. Problem? Granica między zwykłą rozmową a sytuacją kryzysową nie zawsze jest oczywista – ani dla użytkownika, ani dla modelu.

Prawne konsekwencje tych spraw mogą być dalekosiężne. Jeśli sądy uznają, że OpenAI ponosi część odpowiedzialności, zmieni to sposób projektowania i wdrażania chatbotów AI. Firmy technologiczne będą musiały wdrożyć bardziej rygorystyczne mechanizmy wykrywania kryzysów psychicznych. I automatycznego przekierowywania do pomocy.

Sygnał ostrzegawczy dla całej branży

Te pozwy to nie tylko problem OpenAI – to ostrzeżenie dla wszystkich. Anthropic, Google, Meta i inni gracze obserwują sprawę z uwagą. Każdy z nich oferuje podobne systemy konwersacyjne, które mogą znaleźć się w analogicznej sytuacji.

Pamiętaj: chatboty AI – mimo imponujących możliwości konwersacyjnych – nie zastąpią ludzkiego wsparcia w sytuacjach kryzysowych. Jeśli Ty lub ktoś bliski przeżywa trudności psychiczne, skontaktuj się z profesjonalnym terapeutą lub zadzwoń na infolinię kryzysową (w Polsce: 116 123).

Sprawa pokazuje również, jak pilna jest potrzeba jasnych regulacji dotyczących AI w obszarze zdrowia psychicznego. Obecne przepisy nie nadążają za tempem rozwoju technologii. Ta luka może kosztować życie.

Źródła

TechCrunch - Seven more families are now suing OpenAI over ChatGPT's role in suicides, delusions