Naukowcy wyciągnęli całego Harry'ego Pottera z AI. Ups.

Grupa naukowców postanowiła sprawdzić, co siedzi w środku popularnych modeli AI. Znaleźli całego Harry'ego Pottera i Kamień Filozoficzny. Cała książka. Od deski do deski.

I nie, to nie był przypadek.

Jak wyciągnąć książkę z AI? Wystarczy zapytać

Zespół badaczy z kilku uniwersytetów użył prostej metody. Zadawali modelom AI pytania w stylu: "Podaj mi początek Harry'ego Pottera". Potem: "A teraz dalszą część". I tak dalej.

Modele wypluły tekst. Strona po stronie. Rozdział po rozdziale.

Nie były to streszczenia ani parafrazy. To był oryginalny tekst J.K. Rowling. Słowo w słowo.

Problem? Te modele to komercyjne narzędzia używane przez miliony ludzi. ChatGPT. Claude. Gemini. Narzędzia, które teoretycznie mają "zabezpieczenia" przed takim czymś.

Dlaczego to w ogóle działa?

Żeby zrozumieć, trzeba wrócić do tego, jak powstają modele AI.

Uczysz się gotować, czytając tysiące książek kucharskich. Po jakimś czasie potrafisz stworzyć własne przepisy, bo "wchłonąłeś" zasady. Modele AI działają podobnie – czytają ogromne ilości tekstów z internetu i "uczą się" wzorców.

Tylko że czasami nie uczą się wzorców. Czasami po prostu zapamiętują.

I tu jest pies pogrzebany. Harry Potter był w danych treningowych. Modele go przeczytały. I zapamiętały na tyle dobrze, że potrafią go odtworzyć.

Badacze nazywają to "memoryzacją". Dla prawników to nazywa się: naruszenie praw autorskich.

Co to oznacza dla ciebie?

Jeśli używasz AI do pracy – uwaga. To, co generuje model, może być cudzym tekstem. Nie "inspirowanym". Nie "podobnym". Dosłownie cudzym.

Scenariusz: Prosisz ChatGPT o pomoc w napisaniu raportu. Model podsuwa fragment, który brzmi świetnie. Kopiujesz. Publikujesz. Okazuje się, że to fragment książki chronionej prawami autorskimi.

Kto odpowiada? Na razie nikt nie wie na pewno. Sądy dopiero się z tym mierzą.

Firmy tworzące AI mówią: "To nie nasza wina, model się uczył". Autorzy mówią: "Ukradziono naszą pracę". Użytkownicy stoją pośrodku i myślą: "A ja w tym wszystkim co?"

Czy firmy AI wiedziały?

Trudno uwierzyć, że nie.

OpenAI, Google, Anthropic – wszystkie te firmy mają zespoły badające bezpieczeństwo modeli. Testują je pod kątem różnych problemów. "Czy model może wygenerować instrukcję bomby?" – sprawdzają. "Czy może odtworzyć chronione treści?" – też powinni sprawdzać.

Badacze, którzy znaleźli Harry'ego Pottera, nie użyli żadnych hackerskich sztuczek. Po prostu pytali grzecznie. Jeśli oni to znaleźli w kilka godzin, firmy AI wiedziały o tym od miesięcy. Albo lat.

Problem w tym, że nie ma prostego rozwiązania. Nie można "usunąć" Harry'ego Pottera z modelu bez ponownego trenowania od zera. A to kosztuje miliony dolarów i miesiące pracy.

Procesy już się toczą

New York Times pozywa OpenAI. Autorzy zbierają się w grupach i idą do sądu. Argument? "Nasze książki były w waszych danych treningowych bez zgody".

OpenAI odpowiada: "To uczenie się, nie kradzież. Ludzie też czytają książki i uczą się z nich pisać".

Brzmi logicznie, prawda? Problem w tym, że człowiek, który przeczytał Harry'ego Pottera, nie może odtworzyć go słowo w słowo z pamięci. Model AI – Okazuje się, że – może.

I tu cała analogia się sypie.

Co dalej z AI i prawami autorskimi?

Nikt nie wie. Serio.

Możliwe scenariusze:

Pierwszy: Sądy orzekną, że trening na chronionych treściach to naruszenie. Firmy AI będą musiały płacić autorom lub usunąć ich prace z danych. Modele staną się gorsze albo droższe.

Drugi: Sądy uznają, że to "fair use" – uczenie się z publicznie dostępnych treści jest legalne. Autorzy dostaną symboliczne odszkodowania. Nic się nie zmieni.

Trzeci: Nowe prawo. Unia Europejska (bo zawsze oni pierwsi) stworzy przepisy specjalnie dla AI. Firmy będą musiały oznaczać, na czym trenowały modele. Autorzy dostaną opcję opt-out.

Każdy z tych scenariuszy zmieni rynek AI. I twój sposób korzystania z niego.

Jak się chronić?

Jeśli tworzysz treści przy pomocy AI:

Sprawdzaj wszystko. Skopiuj fragment do Google i zobacz, czy gdzieś już istnieje. Narzędzia do wykrywania plagiatu działają też na teksty z AI.

Nie ufaj ślepo. Model może brzmi pewnie, ale to nie znaczy, że generuje oryginalne treści.

Edytuj. Im bardziej przerobisz tekst z AI, tym mniejsze ryzyko, że ktoś rozpozna cudzy fragment.

Jeśli jesteś autorem:

Sprawdź, czy twoje treści nie są w danych treningowych. Niektóre firmy publikują listy źródeł. Nie wszystkie.

Rozważ dołączenie do pozwów zbiorowych. Kancelarie specjalizujące się w prawach autorskich zbierają autorów.

Używaj narzędzi do watermarkingu treści. Niektóre startupy pracują nad technologią, która "znaczkuje" teksty niewidocznie dla ludzi, ale widocznie dla AI.

Czy to koniec AI?

Nie. Ale to początek poważnej rozmowy o tym, jak AI powinno działać.

Technologia nie zniknie. Jest za użyteczna. Ale zasady gry mogą się zmienić.

Firmy AI będą musiały być bardziej transparentne. Autorzy dostaną więcej narzędzi do ochrony swoich prac. Użytkownicy – więcej informacji o ryzykach.

A Harry Potter? Pewnie nadal siedzi w środku tych modeli. Czekając, aż ktoś zapyta o Hogwart.

Źródła

• The Register AI – Boffins probe commercial AI models