Cloudflare daje firmom AI ultimatum: rozdzielcie crawlery albo zablokujemy

Cloudflare wyznacza firmom AI termin do 15 września 2026 na rozdzielenie crawlerów do wyszukiwania od tych używanych do treningu AI i agentów

Po tym terminie wydawcy będą mogli domyślnie blokować boty AI, które nie przestrzegają nowych zasad

Polityka zmusza firmy AI do negocjowania płatnych umów z wydawcami zamiast pobierania treści za darmo

Cloudflare obsługuje ruch dla milionów stron, więc decyzja ma realny wpływ na dostęp do danych treningowych

Wydawcy od lat mają problem. Ich treści trafiają do modeli AI za darmo, podczas gdy firmy takie jak OpenAI czy Anthropic zarabiają miliardy. Teraz Cloudflare - firma, która obsługuje ruch dla znacznej części internetu - mówi: koniec z tym.

Nowa polityka jest prosta. Firmy AI mają czas do 15 września, żeby rozdzielić boty do wyszukiwania (te, które indeksują strony dla Google czy Bing) od botów do treningu modeli i agentów AI. Jeśli tego nie zrobią, wydawcy będą mogli je domyślnie zablokować.

Dlaczego wydawcy nie mogli tego zrobić wcześniej

Przez lata firmy AI używały tych samych crawlerów do wszystkiego. Bot indeksował stronę "dla wyszukiwarki", ale te same dane lądowały w zbiorach treningowych. Wydawcy stali przed niemożliwym wyborem: albo pozwalasz na wszystko, albo na nic.

Blokowanie botów oznaczało ryzyko zniknięcia z Google. Nikt przy zdrowych zmysłach nie chce stracić ruchu organicznego bo OpenAI korzysta z tych samych crawlerów co wyszukiwarki.

Cloudflare mówi: to się kończy. Jeśli chcecie trenować modele na cudzych treściach, negocjujcie umowy i płaćcie. Wyszukiwanie to jedno - tam jest wymiana wartości (ruch w zamian za indeksację). Trening modeli to drugie - tam wartość płynie tylko w jedną stronę.

Rozdzielenie crawlerów to kluczowa zmiana - wydawcy będą mogli kontrolować, kto i po co pobiera ich treści

Co się zmieni po 15 września

Po terminie wydawcy korzystający z Cloudflare dostaną nowe narzędzia. Będą mogli blokować boty AI automatycznie, jeśli te nie przestrzegają zasad. W praktyce oznacza to, że firmy AI stracą dostęp do ogromnej części treści w sieci - chyba że zapłacą.

Cloudflare obsługuje miliony stron, w tym duże media i portale informacyjne. Jeśli znaczna część z nich zdecyduje się na blokowanie, dostęp do świeżych danych treningowych stanie się dużo droższy.

To nie pierwszy ruch w tym kierunku. The New York Times pozwał OpenAI za wykorzystanie swoich artykułów. Reddit i Stack Overflow podpisały płatne umowy z firmami AI. Ale to były pojedyncze przypadki. Cloudflare daje wydawcom narzędzie, które działa na skalę.

Kto na tym traci, kto zyskuje

Firmy AI będą musiały płacić za dane albo szukać alternatyw. Modele open-source mogą zyskać - jeśli ktoś wytrenuje model na legalnie pozyskanych danych i udostępni go publicznie, stanie się atrakcyjną opcją dla tych, którzy nie chcą płacić OpenAI czy Anthropic.

Wydawcy dostaną narzędzie negocjacyjne. Ale tylko ci, którzy korzystają z Cloudflare. Reszta wciąż musi radzić sobie samodzielnie z blokowaniem botów przez pliki robots.txt - co, jak pokazuje praktyka, nie zawsze działa.

Wydawcy w końcu dostają narzędzie, które zmusza firmy AI do negocjacji zamiast pobierania treści bez pytania

Czy blokady będą skuteczne długoterminowo

Cloudflare stawia granicę. To pierwszy krok, nie ostateczne rozwiązanie. Firmy AI mogą próbować obchodzić blokady, używać proxy, kupować dane od pośredników. Albo - co bardziej prawdopodobne - negocjować umowy z dużymi wydawcami i ignorować małych.

Co z tymi, którzy nie mają siły negocjacyjnej? Jeśli jesteś małym blogiem albo niszowym serwisem, nikt nie będzie płacił za dostęp do Twoich treści. Ale te treści wciąż mogą trafić do modeli - tylko przez mniej oficjalne kanały.

Z drugiej strony, jeśli polityka Cloudflare się przyjmie, inne firmy infrastrukturalne mogą pójść tym samym tropem. I wtedy dostęp do danych stanie się realnym kosztem dla firm AI - nie tylko problemem PR-owym.

Co to oznacza dla Polski i Europy

W Europie mamy AI Act, który wymaga przejrzystości w kwestii danych treningowych. Cloudflare daje wydawcom narzędzie, które może wymusić zgodność z tymi regulacjami. Jeśli firma AI nie chce ujawnić, skąd bierze dane - wydawcy mogą ją po prostu zablokować.

Dla polskich wydawców to dobra wiadomość, pod warunkiem że korzystają z Cloudflare. Większość dużych portali tak, ale mniejsze serwisy często używają lokalnych hostingów bez zaawansowanej ochrony przed botami.

Europejskie regulacje w połączeniu z narzędziami Cloudflare dają wydawcom realną kontrolę nad swoimi treściami

Najczęstsze pytania

Czy Cloudflare może zablokować wszystkie boty AI?

Nie, Cloudflare daje narzędzia wydawcom, żeby to oni decydowali. Po 15 września będą mogli domyślnie blokować boty, które nie rozdzieliły crawlerów do wyszukiwania od tych do treningu AI.

Co się stanie z firmami AI, które nie dostosują się do terminu?

Stracą dostęp do treści na stronach korzystających z Cloudflare, chyba że wynegocjują płatne umowy z wydawcami. To może znacząco podnieść koszty pozyskiwania danych treningowych.

Czy małe blogi też mogą skorzystać z tej ochrony?

Tak, jeśli korzystają z Cloudflare. Problem w tym, że wiele małych serwisów używa prostszych hostingów bez takich narzędzi. Dla nich blokowanie botów wciąż będzie trudniejsze.

Jak to wpłynie na rozwój modeli open-source?

Modele trenowane na legalnie pozyskanych danych mogą zyskać przewagę konkurencyjną. Jeśli dostęp do danych komercyjnych stanie się droższy, open-source stanie się atrakcyjniejszą opcją.

Na podstawie: TechCrunch