Bug bounty zalane AI-śmieciami. Firmy zamykają programy

Twoja firma płaci hakerom za znajdowanie błędów w oprogramowaniu. Dostajesz 10 zgłoszeń dziennie. Sprawdzasz pierwsze - fałszywy alarm. Drugie - też. Trzecie, czwarte, piąte. Wszystkie wygenerowane przez AI, wszystkie bezwartościowe. Po tygodniu masz 200 raportów do przejrzenia i zero czasu na prawdziwą pracę.

Dokładnie to dzieje się teraz z programami bug bounty - systemami, w których firmy płacą niezależnym badaczom za wykrywanie luk w zabezpieczeniach. AI zmieniło zasady gry, ale niekoniecznie tak, jak wszyscy sobie wyobrażali.

Gdy liczba raportów rośnie czterokrotnie w trzy tygodnie

Bugcrowd, platforma obsługująca programy bug bounty dla OpenAI, T-Mobile i Motoroli, odnotował wzrost liczby zgłoszeń o ponad 400% w ciągu trzech tygodni marca tego roku. Większość okazała się fałszywymi alarmami.

To nie odosobniony przypadek. Curl - narzędzie do przesyłania danych przez internet, używane przez miliony deweloperów - zawiesiło swój płatny program bug bounty w styczniu. Powód? "Eksplozja raportów będących AI-śmieciem" i ogólny spadek jakości zgłoszeń.

Różnica między jakościowymi raportami bezpieczeństwa a zalewem AI-generowanych zgłoszeń

Daniel Stenberg, twórca Curl, napisał na swoim blogu, że "niekończący się potok śmieci" wywołał "poważne obciążenie psychiczne" i pochłaniał mnóstwo czasu na obalanie fałszywych twierdzeń.

Nextcloud poszedł tą samą drogą w kwietniu. Firma zawiesiła swój program z powodu "masowego wzrostu raportów niskiej jakości" i zapowiedziała powrót dopiero po znalezieniu sposobu na skuteczne filtrowanie zgłoszeń.

Trzy grupy sprawców

Ross McKerchar, dyrektor ds. bezpieczeństwa informacji w Sophos, identyfikuje trzech głównych winowajców tej sytuacji.

Pierwsza grupa to amatorzy, którzy po raz pierwszy próbują znaleźć błędy w oprogramowaniu. Używają AI jako skrótu, nie mając pojęcia, jak weryfikować wyniki. Zgłaszają wszystko, co model im podsunie, bez sprawdzania czy to rzeczywiście luka w zabezpieczeniach.

Druga grupa to doświadczeni badacze, którzy dają się zwieść AI. McKerchar mówi, że są "czasami wprowadzani w błąd przez agentów" - modele AI sugerują im rzekomą lukę, oni ufają technologii i wysyłają raport, nie weryfikując go dokładnie.

Trzecia grupa jest najbardziej problematyczna: "doświadczeni twórcy AI", którzy zbudowali zautomatyzowane systemy skanowania i wysyłania raportów od początku do końca. McKerchar nazywa to "absolutnym chaosem". To nie są pojedyncze błędne zgłoszenia - to przemysłowa produkcja śmieci.

Trzy typy sprawców zalewu AI-generowanych raportów w programach bug bounty

Paradoks: AI znajduje błędy szybciej, ale topi programy w śmieciach

Ironia całej sytuacji? AI rzeczywiście pomaga znajdować luki w zabezpieczeniach. W marcu Anthropic wypuścił Mythos - model AI specjalizujący się w wykrywaniu błędów w oprogramowaniu, który według firmy znajduje je szybciej niż ludzie.

HackerOne, platforma obsługująca programy bug bounty dla Goldman Sachs, Google i Departamentu Obrony USA, odnotowała 76% wzrost liczby zgłoszeń w roku kończącym się w marcu. Kluczowe: odsetek raportów wskazujących na rzeczywiste luki pozostał stabilny na poziomie 25% przez cały rok.

Kara Sprague, dyrektor wykonawczy HackerOne, zauważa, że w ostatnich tygodniach widzi więcej raportów "wyższej jakości", które wykorzystały AI. Jej zdaniem wzrost liczby AI-generowanych zgłoszeń "nie jest wystarczającym powodem, by odrzucić je wszystkie", bo hakerzy używają tej technologii do wykrywania większej liczby prawdziwych błędów.

Problem nie leży w samej technologii. Leży w tym, że obniżyła barierę wejścia dla osób, które nie wiedzą, co robią. Wcześniej znalezienie luki wymagało wiedzy technicznej - teraz wystarczy wkleić kod do modelu AI i czekać na sugestie. Większość z nich będzie błędna, ale kto to sprawdza?

Firmy odpowiadają: bardziej rygorystyczne kontrole i własne AI

Platformy bug bounty nie zamierzają się poddać. HackerOne wprowadził w tym roku "nowe możliwości walidacji agentowej" - innymi słowy, używa AI do segregowania zgłoszeń przysyłanych przez... AI.

Bugcrowd i inne firmy zaostrzyły weryfikację tożsamości badaczy. Dave Gerry, dyrektor Bugcrowd, twierdzi, że narzędzia takie jak Mythos będą wspierać ludzkich łowców błędów, a nie ich zastępować.

Platformy bug bounty wprowadzają AI do filtrowania AI-generowanych zgłoszeń

McKerchar z Sophos jest bardziej sceptyczny: "Bug bounty zostaną, ale będą musiały się zmienić". Wzrost liczby bezwartościowych raportów "szybko staje się poważnym problemem".

Niektóre firmy eksperymentują z systemami AI do wstępnej selekcji zgłoszeń, podobnie jak w rekrutacji. Inne rozważają wprowadzenie opłat za złożenie raportu, zwracanych tylko w przypadku znalezienia prawdziwej luki. Ma to zniechęcić do masowego wysyłania śmieci.

Co to oznacza dla bezpieczeństwa w sieci

Programy bug bounty to nie fanaberia korporacji. Google wypłacił w zeszłym roku 17 milionów dolarów za znalezione luki - to wzrost z 7,5 miliona w 2021 roku. Największa indywidualna nagroda wyniosła 605 tysięcy dolarów w 2022 roku za lukę w Androidzie.

Te programy są częścią ekosystemu bezpieczeństwa. Gdy firmy zaczynają je zamykać z powodu zalewu AI-śmieci, tracą kanał informacji o rzeczywistych lukach. Badacze, którzy wcześniej zgłaszali problemy za wynagrodzenie, mogą zacząć je sprzedawać na czarnym rynku - tam nikt nie pyta o jakość raportu, liczy się działająca exploitacja.

Paradoksalnie, automatyzacja AI w innych obszarach działa całkiem dobrze - chatboty obsługują klientów, AI pisze raporty i odpowiada na maile. Bug bounty to jednak specyficzny przypadek: system oparty na zaufaniu, że zgłaszający rzeczywiście zweryfikował problem przed wysłaniem raportu. AI zburzyło to zaufanie.

Czy bug bounty przetrwają erę AI?

Prawdopodobnie tak, ale w zmienionej formie. Firmy będą musiały wprowadzić wielopoziomową weryfikację: najpierw AI filtruje oczywiste śmieci, potem ludzie sprawdzają resztę. Albo odwrotnie - badacze będą musieli przejść przez weryfikację tożsamości i historii zgłoszeń, zanim ich raporty trafią do kolejki.

Niektóre platformy mogą wprowadzić system reputacji - nowi użytkownicy mają limit zgłoszeń miesięcznie, dopóki nie udowodnią, że potrafią znajdować prawdziwe luki. To spowalnia pracę początkujących, ale chroni firmy przed zalewem.

Najbardziej prawdopodobny scenariusz? Podział na dwa światy. Duże firmy z budżetami będą prowadzić zamknięte programy dla zweryfikowanych badaczy - elitarny klub, do którego wejście wymaga udowodnienia kompetencji. Mniejsze firmy albo zrezygnują z bug bounty całkowicie, albo będą polegać na platformach z AI-filtrowaniem, akceptując, że część prawdziwych luk przepadnie w szumie.

Ross McKerchar ma rację - bug bounty nie znikną. Już nie będą jednak tym samym, czym były pięć lat temu. AI zmienił ekonomię całego systemu, obniżając koszt wysłania raportu do zera. Teraz firmy muszą znaleźć sposób, by podnieść koszt wysłania bezwartościowego raportu z powrotem powyżej zera.

Najczęstsze pytania

Czy programy bug bounty są nadal opłacalne dla firm?

Tak, ale wymagają teraz większych nakładów na filtrowanie zgłoszeń. Firmy takie jak Google nadal wypłacają miliony dolarów rocznie, bo koszt znalezienia luki przez hakera jest niższy niż koszt jej wykorzystania przez cyberprzestępców. Problem polega na rosnącym szumie informacyjnym, który trzeba przesiać.

Dlaczego AI generuje tyle fałszywych raportów bezpieczeństwa?

Modele AI nie rozumieją kontekstu działania aplikacji - analizują kod powierzchownie i sugerują potencjalne problemy, które w rzeczywistości nie są lukami. Dodatkowo osoby bez doświadczenia w bezpieczeństwie używają AI jako czarnej skrzynki, nie weryfikując wyników przed wysłaniem raportu.

Czy warto zaczynać karierę w bug bounty w 2026 roku?

Tak, ale wymaga to solidnej wiedzy technicznej. Platformy wprowadzają coraz bardziej rygorystyczne weryfikacje, więc amatorskie podejście "wklejam kod do AI i wysyłam co wyjdzie" przestaje działać. Jeśli potrafisz rzeczywiście analizować kod i weryfikować luki - rynek nadal płaci dobrze za prawdziwe odkrycia.

Na podstawie: Ars Technica