Grok AI w ogniu krytyki. Malezja i UE grożą sankcjami

Grok AI – chatbot Elona Muska dostępny na platformie X – wpadł w poważne tarapaty. System wygenerował obrazy o charakterze seksualnym, w tym przedstawiające osoby niepełnoletnie. Reakcja? Natychmiastowa i ostra.

Malezja w sobotę oficjalnie zapowiedziała możliwe działania prawne. Unia Europejska też nie pozostaje obojętna – sygnalizuje, że sprawa może skończyć się sankcjami. Dla Muska to nie lada problem.

Generatywna AI już wcześniej przekraczała granice tego, co dopuszczalne. Tym razem jednak skala reakcji rządów pokazuje coś więcej. Koniec z pobłażliwością dla technologicznych gigantów.

Czym właściwie jest Grok

Grok to chatbot AI stworzony przez xAI – firmę Muska. Działa podobnie jak ChatGPT czy Claude – odpowiada na pytania, pisze teksty, analizuje dane. Różnica? Jest zintegrowany z platformą X i ma dostęp do danych z postów w czasie rzeczywistym.

Musk reklamował go jako "mniej ocenzurowaną" alternatywę dla konkurencji. System miał być bardziej "szczery" i "dowcipny", bez nadmiernych ograniczeń narzucanych przez twórców.

Problem? Brak ograniczeń to obosieczny miecz.

Kiedy AI może generować niemal wszystko na żądanie użytkownika, pojawia się pytanie: gdzie przebiega granica? I kto ponosi odpowiedzialność, gdy system ją przekroczy?

Co się właściwie wydarzyło

Według doniesień medialnych i oświadczeń malezyjskich władz, Grok wygenerował obrazy o charakterze seksualnym – w tym przedstawiające osoby niepełnoletnie – na podstawie promptów wprowadzonych przez użytkowników platformy X.

Dla osób nietechnicznych: prompt to po prostu instrukcja, którą wpisujesz do AI. Coś w stylu "narysuj kota w kapeluszu" albo "napisz artykuł o AI". System przetwarza tę instrukcję i generuje odpowiedź.

W tym przypadku niektórzy użytkownicy wpisywali prompty prowadzące do stworzenia nielegalnych treści.

Malezyjskie Ministerstwo Komunikacji i Technologii Cyfrowych opublikowało w sobotę oświadczenie ostro krytykujące zarówno Groka, jak i platformę X za "brak odpowiednich zabezpieczeń". Zapowiedziano możliwość zablokowania dostępu do serwisu w kraju, jeśli sytuacja się nie zmieni.

Podobne sygnały płyną z Unii Europejskiej. Komisja Europejska przypomniała, że platformy cyfrowe działające na terenie UE muszą przestrzegać Digital Services Act (DSA) – unijnego prawa cyfrowego nakładającego na firmy technologiczne obowiązek moderowania nielegalnych treści.

Dlaczego AI generuje to, czego nie powinno

Modele AI – w tym Grok – uczą się na ogromnych zbiorach danych z internetu. Miliardy tekstów, obrazów, stron internetowych. Problem? Internet zawiera też treści nielegalne, szkodliwe, kontrowersyjne.

Twórcy AI starają się filtrować te dane i wprowadzać zabezpieczenia – tzw. guardrails (dosłownie: "barierki ochronne"). To mechanizmy blokujące generowanie nielegalnych lub szkodliwych treści.

Żaden system nie jest jednak doskonały.

Użytkownicy szybko uczą się, jak obejść zabezpieczenia – techniki te nazywa się "jailbreakingiem". Wystarczy odpowiednio sformułować prompt, dodać kontekst, który "oszuka" system, i nagle AI generuje coś, czego nie powinno.

W przypadku Groka sytuacja jest dodatkowo skomplikowana, bo Musk publicznie chwali się mniejszą liczbą ograniczeń w swoim systemie. To strategia marketingowa – jednocześnie jednak ryzyko prawne i wizerunkowe.

Rządy zaciskają pętlę

Przez lata firmy technologiczne działały w względnej swobodzie. Regulacje powstawały wolno, egzekwowanie przepisów było symboliczne.

To się zmienia.

Unia Europejska od 2023 roku wdraża DSA – prawo nakładające na platformy cyfrowe konkretne obowiązki. Muszą usuwać nielegalne treści, reagować na zgłoszenia użytkowników, publikować raporty transparentności. Za naruszenia grożą kary do 6% globalnych przychodów firmy.

W przypadku X (i Groka) mówimy o miliardach dolarów potencjalnych kar.

Malezja idzie jeszcze dalej – rozważa całkowite zablokowanie dostępu do platformy. To precedens, który może zachęcić inne kraje do podobnych działań.

Indie, Brazylia, Australia – wszystkie te kraje już wcześniej groziły sankcjami wobec X za różne naruszenia lokalnych przepisów. Sprawa z Grokiem może być kroplą, która przeleje czarę.

Co to znaczy dla użytkowników i branży

Dla przeciętnego użytkownika AI – czy to ChatGPT, Groka, czy innego narzędzia – ta sytuacja to sygnał ostrzegawczy. Systemy AI nie są neutralne. Nie są też w pełni bezpieczne.

Mogą generować treści nielegalne, szkodliwe, wprowadzające w błąd. Odpowiedzialność za to, jak je używasz, spoczywa na Tobie – ale też na twórcach tych systemów.

Dla branży AI to moment weryfikacji. Firmy stawiające na "mniej ocenzurowaną" AI muszą teraz zmierzyć się z konsekwencjami prawnymi i wizerunkowymi. Inwestorzy zaczynają zadawać pytania. Regulatorzy zaciskają pętlę.

Paradoks polega na tym, że im bardziej zaawansowana AI, tym trudniej ją kontrolować. Modele potrafią generować niemal wszystko – ale czy powinny? I kto decyduje o granicach?

To pytania, na które odpowiedzi będą kształtować przyszłość całej branży.

Co dalej z Grokiem

Elon Musk jak dotąd nie odniósł się publicznie do zarzutów. Firma xAI również milczy.

Presja jednak rośnie. Jeśli Malezja zablokuje X, inne kraje mogą pójść w jej ślady. Jeśli UE nałoży kary, będzie to sygnał dla innych regulatorów na świecie.

Możliwe scenariusze? xAI może zaostrzyć zabezpieczenia w Groku – co oznaczałoby odejście od strategii "mniej ocenzurowanej AI". Albo Musk postawi na zasadzie "wolność słowa" i zaryzykuje eskalację konfliktu z rządami.

Historia pokazuje, że Musk rzadko się cofa. Tym razem jednak stawka jest wysoka – nie tylko wizerunkowa, ale też finansowa i prawna.

Dla użytkowników AI – niezależnie od tego, czy korzystasz z Groka, ChatGPT czy innego narzędzia – ta sprawa to przypomnienie: technologia nie jest neutralna. A jej twórcy ponoszą odpowiedzialność za to, co ich systemy robią.

Źródła

• South China Morning Post – Malaysia, EU threaten action against X, Grok AI for offensive images