Cloudflare daje firmom AI ultimatum: rozdzielcie crawlery albo zablokujemy
Źródło: Link
Źródło: Link
90 minut praktyki na żywo. Pokazuję krok po kroku, jak zacząć z AI bez kodowania.
Wydawcy od lat mają problem. Ich treści trafiają do modeli AI za darmo, podczas gdy firmy takie jak OpenAI czy Anthropic zarabiają miliardy. Teraz Cloudflare - firma, która obsługuje ruch dla znacznej części internetu - mówi: koniec z tym.
Nowa polityka jest prosta. Firmy AI mają czas do 15 września, żeby rozdzielić boty do wyszukiwania (te, które indeksują strony dla Google czy Bing) od botów do treningu modeli i agentów AI. Jeśli tego nie zrobią, wydawcy będą mogli je domyślnie zablokować.
Przez lata firmy AI używały tych samych crawlerów do wszystkiego. Bot indeksował stronę "dla wyszukiwarki", ale te same dane lądowały w zbiorach treningowych. Wydawcy stali przed niemożliwym wyborem: albo pozwalasz na wszystko, albo na nic.
Blokowanie botów oznaczało ryzyko zniknięcia z Google. Nikt przy zdrowych zmysłach nie chce stracić ruchu organicznego bo OpenAI korzysta z tych samych crawlerów co wyszukiwarki.
Cloudflare mówi: to się kończy. Jeśli chcecie trenować modele na cudzych treściach, negocjujcie umowy i płaćcie. Wyszukiwanie to jedno - tam jest wymiana wartości (ruch w zamian za indeksację). Trening modeli to drugie - tam wartość płynie tylko w jedną stronę.
Po terminie wydawcy korzystający z Cloudflare dostaną nowe narzędzia. Będą mogli blokować boty AI automatycznie, jeśli te nie przestrzegają zasad. W praktyce oznacza to, że firmy AI stracą dostęp do ogromnej części treści w sieci - chyba że zapłacą.
Cloudflare obsługuje miliony stron, w tym duże media i portale informacyjne. Jeśli znaczna część z nich zdecyduje się na blokowanie, dostęp do świeżych danych treningowych stanie się dużo droższy.
To nie pierwszy ruch w tym kierunku. The New York Times pozwał OpenAI za wykorzystanie swoich artykułów. Reddit i Stack Overflow podpisały płatne umowy z firmami AI. Ale to były pojedyncze przypadki. Cloudflare daje wydawcom narzędzie, które działa na skalę.
Firmy AI będą musiały płacić za dane albo szukać alternatyw. Modele open-source mogą zyskać - jeśli ktoś wytrenuje model na legalnie pozyskanych danych i udostępni go publicznie, stanie się atrakcyjną opcją dla tych, którzy nie chcą płacić OpenAI czy Anthropic.
Wydawcy dostaną narzędzie negocjacyjne. Ale tylko ci, którzy korzystają z Cloudflare. Reszta wciąż musi radzić sobie samodzielnie z blokowaniem botów przez pliki robots.txt - co, jak pokazuje praktyka, nie zawsze działa.
Cloudflare stawia granicę. To pierwszy krok, nie ostateczne rozwiązanie. Firmy AI mogą próbować obchodzić blokady, używać proxy, kupować dane od pośredników. Albo - co bardziej prawdopodobne - negocjować umowy z dużymi wydawcami i ignorować małych.
Co z tymi, którzy nie mają siły negocjacyjnej? Jeśli jesteś małym blogiem albo niszowym serwisem, nikt nie będzie płacił za dostęp do Twoich treści. Ale te treści wciąż mogą trafić do modeli - tylko przez mniej oficjalne kanały.
Z drugiej strony, jeśli polityka Cloudflare się przyjmie, inne firmy infrastrukturalne mogą pójść tym samym tropem. I wtedy dostęp do danych stanie się realnym kosztem dla firm AI - nie tylko problemem PR-owym.
W Europie mamy AI Act, który wymaga przejrzystości w kwestii danych treningowych. Cloudflare daje wydawcom narzędzie, które może wymusić zgodność z tymi regulacjami. Jeśli firma AI nie chce ujawnić, skąd bierze dane - wydawcy mogą ją po prostu zablokować.
Dla polskich wydawców to dobra wiadomość, pod warunkiem że korzystają z Cloudflare. Większość dużych portali tak, ale mniejsze serwisy często używają lokalnych hostingów bez zaawansowanej ochrony przed botami.
Nie, Cloudflare daje narzędzia wydawcom, żeby to oni decydowali. Po 15 września będą mogli domyślnie blokować boty, które nie rozdzieliły crawlerów do wyszukiwania od tych do treningu AI.
Stracą dostęp do treści na stronach korzystających z Cloudflare, chyba że wynegocjują płatne umowy z wydawcami. To może znacząco podnieść koszty pozyskiwania danych treningowych.
Tak, jeśli korzystają z Cloudflare. Problem w tym, że wiele małych serwisów używa prostszych hostingów bez takich narzędzi. Dla nich blokowanie botów wciąż będzie trudniejsze.
Modele trenowane na legalnie pozyskanych danych mogą zyskać przewagę konkurencyjną. Jeśli dostęp do danych komercyjnych stanie się droższy, open-source stanie się atrakcyjniejszą opcją.
Na podstawie: TechCrunch
Podoba Ci się ten artykuł?
Co piątek wysyłam podsumowanie najlepszych artykułów tygodnia. Zapisz się!
10 gotowych promptów do codziennej pracy + 5 narzędzi + plan na pierwszy tydzień. PDF, 4 strony konkretu.
90 minut praktycznej wiedzy o AI. Pokaze Ci krok po kroku, jak zaczac oszczedzac 10 godzin tygodniowo dzieki sztucznej inteligencji.
Zapisz sie na webinarReprezentujesz firme? Zobacz wdrozenia AI dla firm →