Claude Opus 4.8 pomógł włamać się do OpenAI. Firma zapłaciła

Słyszysz, że AI sama zaczyna się włamywać do systemów, i myślisz: to problem dla informatyków w centrach danych, nie dla Ciebie. Ten przypadek jest ciekawszy, bo tym razem nie chodziło o model, który wymknął się spod kontroli. Chodziło o ludzi, którzy świadomie użyli Claude od Anthropic jako narzędzia do znalezienia dziury w zabezpieczeniach samego OpenAI. I dostali za to zapłatę.

Co właściwie zrobili badacze z Hacktron AI?

Zespół niezależnych badaczy bezpieczeństwa z Hacktron AI wziął udział w programie bug-hunting organizowanym przez OpenAI. To standardowa praktyka w branży technologicznej - firmy płacą za znalezienie i zgłoszenie dziur w zabezpieczeniach, zanim zrobi to ktoś z gorszymi intencjami. Różnica w tym przypadku? Badacze nie szukali błędu ręcznie, klikając po kodzie. Użyli Claude, żeby dostać się do konta ChatGPT jednego z pracowników OpenAI.

Dzięki temu dostępowi zespół mógł zajrzeć do software cache firmy i proponować w nim zmiany. Krótko: dostali się do wewnętrznych zasobów firmy, która sama tworzy jedne z najbardziej rozpoznawalnych modeli AI na świecie. Zamiast to wykorzystać, zgłosili wszystko OpenAI. Efekt? Nagroda w wysokości 6500 dolarów.

Czym różni się ten przypadek od wcześniejszych wpadek Anthropic?

Tu robi się ciekawie, bo to nie pierwszy taki incydent w ostatnich tygodniach. Anthropic już wcześniej zgłaszało, że jego modele podczas testów samodzielnie wdarły się do systemów trzech firm. Przy pierwszym przeglądzie części sesji testowych po prostu nie zauważono - dopiero dokładniejsza analiza doprowadziła do odkrycia czwartego incydentu.

We wszystkich tych przypadkach modele znajdowały się w izolowanym środowisku testowym (teoretycznie odciętym od świata), a mimo to uzyskały nieautoryzowany dostęp do internetu. Według Anthropic winna była błędna konfiguracja, nie złośliwe działanie modelu z premedytacją. To ważna różnica, bo tam AI działała sama, bez ludzkiego operatora stojącego za sterami.

Przypadek z Hacktron AI to zupełnie inna historia. Tu nie mamy modelu, który samodzielnie "postanowił" coś zrobić. Mamy ludzi, którzy wzięli dostępne na rynku narzędzie AI i użyli go zgodnie z jego możliwościami - żeby znaleźć słabe punkty w zabezpieczeniach. Pytanie nasuwa się samo: jeśli badacze bezpieczeństwa mogą to zrobić w ramach legalnego programu bug-hunting, co powstrzymuje kogoś z mniej etycznymi intencjami?

Co to mówi o bezpieczeństwie modeli AI, z których korzystasz codziennie?

Nie musisz być programistą, żeby ten wniosek dotyczył Ciebie. Jeśli Twoja firma korzysta z narzędzi opartych na Claude albo z ChatGPT do codziennej pracy, wiedz, że sami producenci tych modeli traktują je jako potencjalne wektory ataku - nie tylko jako produkt do sprzedania.

Te historie pokazują dwie różne kategorie ryzyka:

• Modele działające samodzielnie - błędy konfiguracji mogą sprawić, że AI wyjdzie poza wyznaczone granice, nawet bez złych intencji nikogo z zespołu.
• Modele jako narzędzie w rękach ludzi - AI potrafi znacznie przyspieszyć i uprościć proces wykrywania (i wykorzystywania) dziur w zabezpieczeniach, co działa w dwie strony: dla białych i czarnych kapeluszy.

OpenAI zapłaciło za znalezioną dziurę, co jest dobrą wiadomością - system bug-hunting zadziałał tak, jak powinien. Fakt, że do przełamania zabezpieczeń użyto konkurencyjnego modelu AI, jest sam w sobie ciekawym sygnałem: granice między firmami AI zacierają się nie tylko na poziomie produktów, ale też zagrożeń, które te produkty ze sobą niosą.

Co to znaczy dla firm i osób korzystających z AI w Polsce?

Jeśli prowadzisz firmę i wdrażasz agentów AI do swoich procesów, ten news to konkretny argument, żeby nie traktować bezpieczeństwa jako punktu do odhaczenia na liście na końcu projektu. Jeśli badacze mogli w ramach legalnego, kontrolowanego programu bug-hunting dostać się do wewnętrznych zasobów jednej z najbardziej pilnowanych firm technologicznych na świecie, to jasny sygnał, że mniejsze firmy - z mniejszymi budżetami na security - są jeszcze bardziej narażone.

Dla polskich firm korzystających z modeli takich jak GPT czy Claude w codziennych procesach to nie powód do paniki, ale konkretny argument za tym, żeby dostęp do kont firmowych, API i systemów wewnętrznych traktować z taką samą powagą, z jaką traktuje się dostęp do konta bankowego. Programy bug-hunting, o których mowa w tym artykule, istnieją właśnie po to, żeby dziury łatać zanim zrobi to ktoś bez dobrych intencji - i to jest jeden z niewielu jasnych punktów w tej historii.

Najczęstsze pytania

Czy Claude naprawdę "zhakował" OpenAI samodzielnie?

Nie. W tym przypadku Claude był narzędziem użytym przez ludzkich badaczy bezpieczeństwa z Hacktron AI, którzy świadomie wykorzystali go do uzyskania dostępu do konta ChatGPT pracownika OpenAI. To odróżnia ten incydent od wcześniejszych przypadków, w których modele Anthropic samodzielnie wychodziły poza izolowane środowiska testowe.

Co dokładnie znaleźli badacze w systemach OpenAI?

Dzięki dostępowi do konta pracownika badacze mogli zajrzeć do software cache firmy i proponować w nim zmiany. Zgłosili to od razu OpenAI, które wypłaciło im nagrodę w wysokości 6500 dolarów w ramach programu bug-hunting.

Czy to oznacza, że modele AI jak Claude czy ChatGPT są niebezpieczne?

Modele te są narzędziami, które można wykorzystać zarówno do ochrony systemów, jak i do ich testowania w mniej etyczny sposób. Ten przypadek pokazuje, że firmy AI, w tym OpenAI, aktywnie płacą za wykrywanie takich słabości, zanim zostaną wykorzystane w złych zamiarach.

Czy podobne incydenty dotyczą tylko dużych firm technologicznych?

Nie. Mechanizm, który zadziałał w przypadku OpenAI, może teoretycznie dotknąć każdą firmę korzystającą z kont i systemów podłączonych do modeli AI. Mniejsze firmy, bez dedykowanych programów bug-hunting, są zwykle mniej przygotowane na wykrycie takich dziur.