Badacze AI sami utonęli we własnym śmieciu

Badacze sztucznej inteligencji mają problem. Ich własne narzędzia zalewają akademickie czasopisma takim morzem bzdur, że recenzowanie stało się niemal niemożliwe. Dr Craig Reeves w liście do The Guardian nie owija w bawełnę: to oni są winni.

Ironia sytuacji boli. Ludzie, którzy stworzyli systemy generujące tekst na masową skalę, teraz sami nie mogą się przebić przez lawinę AI-generowanych artykułów naukowych.

Poznaj słowo dnia: slop

"Slop" — tak w branży nazywa się treści wyprodukowane przez AI bez nadzoru. To nie są dobre teksty. To nie są nawet przeciętne teksty.

To cyfrowy odpowiednik fast foodowego śmiecia. Wygląda jak artykuł naukowy, ma strukturę artykułu naukowego. Wartość merytoryczna? Zero.

I właśnie tym zalewane są teraz czasopisma akademickie. Autorzy — jeśli można ich tak nazwać — generują setki "badań" jednym kliknięciem. Wysyłają do recenzji. Liczą, że przejdzie.

Jak wygląda to od środka

Jesteś recenzentem. Dostajesz artykuł do oceny. Czytasz abstrakt — brzmi sensownie. Wchodzisz w metodologię — też okej.

Ale coś zgrzyta.

Zdania są gładkie. Może zbyt gładkie. Struktura perfekcyjna, może zbyt perfekcyjna. Brakuje tego ludzkiego "skoku myślowego", tych drobnych niekonsekwencji, które zawsze są w prawdziwej pracy badawczej.

Sprawdzasz źródła. Część nie istnieje. Część istnieje, ale nie mówi tego, co autor twierdzi. A część to... inne AI-generowane artykuły.

Witamy w pętli. AI cytuje AI, które cytuje AI.

Nieodpowiedzialne innowacje

Reeves używa mocnego określenia: "irresponsible innovations" — nieodpowiedzialne innowacje. Trudno się z nim nie zgodzić.

Nikt nie pomyślał: "Hej, może zanim wypuścimy narzędzie, które generuje tekst nie do odróżnienia od ludzkiego, zastanówmy się, co może pójść nie tak?"

Nie pomyśleli. Albo pomyśleli i zignorowali.

Efekt? System peer review — podstawa współczesnej nauki — zaczyna się sypać. Bo jak recenzować 50 artykułów miesięcznie, jeśli 40 z nich to slop?

Dlaczego to dotyczy też ciebie

"Ok, ale ja nie jestem naukowcem" — pomyślisz. Problem w tym, że akademickie śmietniki mają realne konsekwencje.

Dziennikarze czytają te "badania" i piszą artykuły. Firmy podejmują decyzje biznesowe na ich podstawie. Politycy tworzą regulacje.

A źródło? AI-generowany slop, który nigdy nie powinien przejść recenzji.

To jak budować dom na fundamencie z kartonu. Wygląda solidnie, dopóki nie przyjdzie deszcz.

Kto za to zapłaci

Reeves sugeruje, że badacze AI powinni wziąć odpowiedzialność. Brzmi fair. Stworzyli problem, niech go rozwiążą.

Ale realistycznie? Odpowiedzialność rozmyje się między setkami laboratoriów, uniwersytetów i korporacji. Każdy powie: "To nie nasza wina, my tylko stworzyliśmy narzędzie."

Klasyczna wymówka technologicznej branży. Nóż też można użyć do zbrodni, ale producent noży nie jest mordercą.

Różnica? Nóż nie generuje automatycznie 10 tysięcy fałszywych badań naukowych dziennie.

Co z tym zrobić

Czasopisma zaczynają wprowadzać detektory AI. Problem: łatwe do obejścia. Wystarczy lekka edycja przez człowieka i voilà — detektor nie widzi problemu.

Niektóre redakcje wymagają oświadczenia: "Nie używałem AI". Jakby oszuści mieli problem z kłamstwem.

Prawdziwe rozwiązanie? Prawdopodobnie kombinacja: lepsze narzędzia wykrywania, surowsze kary za oszustwa, może nawet zmiana całego systemu publikacji naukowych.

Ale to wymaga czasu. A slop przychodzi już teraz.

Poetycka sprawiedliwość

Jest w tym wszystkim pewna poetycka sprawiedliwość. Ludzie, którzy wypuścili te narzędzia na świat, teraz sami się w nich topią.

Może to jedyny sposób, żeby branża AI wzięła odpowiedzialność. Nie przez apele do sumienia — przez bezpośrednie konsekwencje własnych działań.

Trudno współczuć. Ostrzeżeń było mnóstwo. Ignorowali je w pogoni za publikacjami, finansowaniem, prestiżem.

Teraz mają to, co zasiali. Pole zaśmiecone po brzegi własnym produktem.

Źródła

• The Guardian - AI researchers are to blame for serving up slop