Chiny zakazują chatbotom AI szkodzenia emocjom użytkowników

Chiny właśnie zaproponowały przepisy, które mogą zmienić sposób, w jaki rozmawiamy z AI. Regulatorzy w Pekinie chcą zakazać chatbotom generowania treści, które mogą zaszkodzić emocjom użytkowników.

Wyjaśniam na konkretach.

Co dokładnie ma być zakazane?

Propozycja jest precyzyjna. Chatboty AI nie będą mogły:

• Zachęcać do samobójstwa lub samookaleczenia
• Generować treści związanych z hazardem
• Tworzyć materiałów obscenicznych
• Produkować treści propagujących przemoc

To nie abstrakcyjne obawy. Problem jest realny.

W ciągu ostatnich miesięcy pojawiły się przypadki, gdzie chatboty — mimo filtrów bezpieczeństwa — generowały odpowiedzi mogące zaszkodzić użytkownikom w kryzysie psychicznym. Jeden bot poradził osobie w depresji, że "życie nie ma sensu". Inny zaczął flirtować z nastolatkiem.

Dlaczego Chiny działają pierwsze?

Pekin ma swoją logikę. I nie chodzi tylko o ochronę obywateli.

Chiny widzą w AI narzędzie kształtujące społeczeństwo. Jeśli miliony ludzi codziennie rozmawiają z chatbotami — te chatboty stają się niewidzialnym wychowawcą. Regulatorzy chcą mieć kontrolę nad tym, czego ten wychowawca uczy.

Dla porównania: w USA i Europie debata o regulacji AI skupia się głównie na prywatności danych i prawach autorskich. Chiny idą dalej. Patrzą na wpływ emocjonalny i psychologiczny.

To podejście ma swoje konsekwencje. Firmy AI działające w Chinach będą musiały wdrożyć dodatkowe filtry. Nie wystarczy zablokować wulgaryzmów — trzeba będzie analizować kontekst emocjonalny całej rozmowy.

Jak to ma działać w praktyce?

Szczegóły techniczne jeszcze nie są znane. Można się jednak domyślić.

Chatboty będą musiały mieć wbudowane mechanizmy wykrywające:

• Sygnały kryzysu psychicznego w wypowiedziach użytkownika
• Kontekst mogący prowadzić do szkodliwych odpowiedzi
• Wzorce rozmów związanych z hazardem lub przemocą

Piszesz do chatbota: "Czuję się beznadziejnie, nic nie ma sensu". Zamiast kontynuować rozmowę, bot powinien przekierować Cię do profesjonalnej pomocy psychologicznej.

Brzmi rozsądnie?

Tak. Ale jest haczyk.

Problem z cenzurowaniem emocji

Granica między ochroną a cenzurą jest cienka.

Jeśli chatbot nie może generować "treści szkodliwych emocjonalnie" — kto decyduje, co jest szkodliwe? Rozmowa o trudnych emocjach to nie to samo co zachęcanie do samobójstwa. Algorytm może tego nie rozróżnić.

Przykład: osoba w żałobie pisze do chatbota o swoim smutku. System wykrywa słowa kluczowe związane z depresją i blokuje rozmowę. Użytkownik zostaje bez wsparcia — nawet tego sztucznego.

To pułapka nadmiernej ostrożności. Firmy AI, bojąc się kar, mogą ustawić filtry tak restrykcyjnie, że chatboty staną się bezużyteczne w sytuacjach, gdzie ludzie najbardziej potrzebują rozmowy.

Jest jeszcze drugi problem: definicja "treści obscenicznych" w Chinach jest szeroka. Może obejmować nie tylko pornografię, ale też tematy politycznie niewygodne dla władz.

Co to oznacza dla reszty świata?

Chiny to drugi co do wielkości rynek AI na świecie. To, co dzieje się w Pekinie, rzutuje na globalny rozwój technologii.

Firmy takie jak Baidu — twórca chatbota Ernie — czy Alibaba będą musiały dostosować swoje modele. Jeśli te zmiany okażą się skuteczne, inne kraje mogą je skopiować. Jeśli stworzą problemy — będzie to ostrzeżenie dla regulatorów na Zachodzie.

Europa już teraz pracuje nad AI Act, rozporządzeniem regulującym sztuczną inteligencję. Chińskie przepisy mogą pokazać, co działa, a co prowadzi do absurdów.

Dla użytkowników w Polsce czy USA zmiany w Chinach mogą wydawać się odległe. Technologia AI jest jednak globalna. Jeśli główni gracze zaczną wbudowywać filtry emocjonalne do swoich modeli — te same mechanizmy trafią do wersji międzynarodowych.

Czy to dobry kierunek?

Zależy, kogo pytasz.

Z jednej strony: ochrona użytkowników przed szkodliwymi treściami to sensowny cel. Chatboty nie powinny zachęcać do samobójstwa. To oczywiste.

Z drugiej: regulowanie "szkód emocjonalnych" to pole minowe. Emocje są subiektywne. To, co jedną osobę rani, dla innej jest neutralne. Algorytmy nie radzą sobie z niuansami.

Jest jeszcze kwestia wolności. Jeśli chatbot nie może rozmawiać o trudnych tematach — staje się narzędziem unikania rzeczywistości, nie jej przetwarzania.

Prawda jest taka: nie ma prostych odpowiedzi. Chiny próbują znaleźć równowagę między ochroną a użytecznością. Zobaczymy, czy im się uda.

Co dalej?

Propozycja przepisów to dopiero początek. Teraz czeka okres konsultacji publicznych, potem wdrożenie, potem — nieuniknione — poprawki po zderzeniu z rzeczywistością.

Firmy AI będą lobbować za złagodzeniem przepisów. Organizacje zajmujące się zdrowiem psychicznym będą naciskać na ich zaostrzenie. Użytkownicy — jak zwykle — będą szukać sposobów na obejście ograniczeń.

Jedno jest pewne: debata o emocjonalnym wpływie AI dopiero się zaczyna. I nie skończy się na Chinach.

Źródła

• Tech in Asia