Chiny nakazują AI ujawniać, że nie są ludźmi

Chiny właśnie zrobiły coś, o czym Zachód wciąż tylko dyskutuje. Od teraz każdy model językowy, który brzmi "zbyt ludzko", musi wprost powiedzieć: "Hej, jestem AI".

Nie sugestia. Nakaz.

Co się właściwie zmienia

Nowe "tymczasowe środki" — tak oficjalnie nazywają to chińskie władze — nakładają na firmy trzy główne obowiązki. Pierwszy: transparentność. Rozmawiasz z botem, który potrafi naśladować ludzki styl? System musi Cię o tym poinformować.

Drugi: bezpieczeństwo. Modele językowe przechodzą weryfikację, zanim trafią do użytkowników. Chodzi o to, by nie generowały treści "szkodliwych". Definicja tego słowa w Chinach jest — delikatnie mówiąc — specyficzna.

Trzeci obowiązek brzmi najciekawiej: zgodność z "wartościami socjalistycznymi". W praktyce? AI nie może kwestionować oficjalnej linii partii komunistycznej. Kropka.

Dlaczego właśnie teraz

Timing nie jest przypadkowy. GPT-4, Claude — te modele osiągnęły poziom, gdzie w krótkiej rozmowie tekstowej trudno odróżnić je od człowieka. Chińskie odpowiedniki — Ernie Bot od Baidu, Tongyi Qianwen od Alibaby — gonią tę jakość.

Problem? Im lepszy model, tym łatwiej o manipulację.

Wyobraź sobie chatbota, który brzmi jak Twój przyjaciel, rozumie kontekst, pamięta poprzednie rozmowy. I nigdy nie wspomina, że jest programem. Dla rządu w Pekinie to scenariusz grozy. Bo kto kontroluje AI, które ludzie traktują jak równorzędnych rozmówców? I co się stanie, gdy ktoś zapyta takiego bota o Tiananmen?

Jak to wygląda w praktyce

Konkret: otwierasz aplikację z asystentem AI. Zamiast od razu zacząć rozmowę, widzisz komunikat: "To jest sztuczna inteligencja. Odpowiedzi są generowane przez algorytm".

Albo w trakcie czatu — gdy AI zaczyna brzmieć szczególnie "ludzko" — pojawia się przypomnienie. Dyskretne, ale wyraźne.

Firmy mają tu niewielkie pole manewru. Albo dostosują swoje systemy, albo stracą licencję na działanie w Chinach. A to rynek 1,4 miliarda ludzi.

Co to znaczy dla reszty świata

Na pierwszy rzut oka: nic. To chińskie prawo, obowiązuje w Chinach.

Jest jednak haczyk.

Chiny często testują rozwiązania regulacyjne, które potem — w jakiejś formie — pojawiają się gdzie indziej. Rozpoznawanie twarzy, punktowy system oceny obywateli, kontrola mediów społecznościowych. Najpierw tam, potem dyskusje w Europie i USA.

Unia Europejska już pracuje nad AI Act — najbardziej kompleksowym prawem dotyczącym sztucznej inteligencji na świecie. Jeden z zapisów brzmi znajomo: systemy AI muszą informować użytkowników, że nie mają do czynienia z człowiekiem. Szczególnie w przypadku deepfake'ów i botów konwersacyjnych.

Różnica? W Europie to część szerszej regulacji opartej na ryzyku. W Chinach — narzędzie kontroli ideologicznej.

Czy to w ogóle dobry pomysł

Zależy, kogo pytasz.

Z jednej strony: transparentność ma sens. Ludzie powinni wiedzieć, czy rozmawiają z maszyną czy z człowiekiem. To podstawowa uczciwość.

Z drugiej: kontekst ma znaczenie. Te same narzędzia, które w teorii chronią użytkowników, w praktyce służą cenzurze. "Wartości socjalistyczne" to eufemizm na "nie wolno Ci mówić niewygodnych rzeczy".

I jest jeszcze trzeci aspekt. Czy ciągłe przypominanie "to jest AI" nie zabija naturalności interakcji? Jeśli co chwilę widzisz disclaimer, przestajesz traktować asystenta jako użyteczne narzędzie. Staje się... no właśnie, sztuczny.

Ironia chce, że cel jest dokładnie odwrotny — te regulacje mają sprawić, by AI było mniej ludzkie. Efekt uboczny? Gorsze doświadczenie użytkownika.

Co dalej

Chiński eksperyment dopiero się zaczyna. Przepisy są "tymczasowe", co oznacza, że rząd będzie je modyfikował w zależności od efektów. Firmy AI dostosują się — nie mają wyboru.

Pytanie brzmi: czy inne kraje pójdą tym tropem? I czy da się stworzyć regulację, która chroni użytkowników bez dławienia innowacji i wolności słowa?

Na razie mamy dwa modele. Chiński: kontrola, transparentność wymuszona odgórnie, ideologia w pakiecie. Zachodni: samoregulacja branży, powolne procesy legislacyjne, niekończące się dyskusje o etyce.

Który zadziała lepiej? Przekonamy się w ciągu najbliższych miesięcy. Bo AI nie zwalnia, a pytanie "kto tu naprawdę mówi" staje się coraz trudniejsze do rozstrzygnięcia.

Źródła

Heise Online - China: LLMs müssen sich outen