OpenAI i NASK badają współpracę przy bezpieczeństwie AI
Przejdź do treści i przykładów
OpenAI i NASK podpisały porozumienie, które ma sprawdzić, jak wspólnie badać bezpieczeństwo coraz zdolniejszych systemów AI. To deklaracja zamiaru, a nie gotowy program. Konkretny wynik pochodzi z wcześniejszej współpracy: w lipcu polscy specjaliści od cyberobrony użyli modeli OpenAI do znalezienia luk w oprogramowaniu routerów. Opis tego wyniku pochodzi od OpenAI, więc czytaj go jako relację firmy, a nie niezależny audyt.
Zacznijmy od słowa „explore”, czyli „zbadać”. Strony podpisały porozumienie o zbadaniu współpracy, a nie umowę na konkretny produkt czy wdrożenie. Centrum Badań nad Bezpieczeństwem AI NASK i OpenAI mają razem pracować nad badaniami bezpieczeństwa: sprawdzać, jak oceniać coraz zdolniejsze systemy, szukać potencjalnych podatności i wzmacniać zabezpieczenia. OpenAI nie podało harmonogramu ani szczegółowego zakresu prac.
Cel opisano szerzej: lepiej zrozumieć nowe zagrożenia, wzmocnić zabezpieczenia i zbadać, jak zaawansowana AI może pomagać w budowaniu bezpieczniejszego, bardziej odpornego ekosystemu cyfrowego. Bez technobełkotu: jedna strona ma modele i wiedzę o tym, jak działają, a druga publiczną instytucję, która widzi, jak AI jest używana w praktyce.

Dyrektor NASK Radosław Nielek opisał, że prace centrum obejmują zabezpieczenia przed nowymi zagrożeniami, wykrywanie syntetycznych treści generowanych przez AI oraz zrozumienie ich złośliwego wykorzystania i wielojęzycznych aspektów tych wyzwań. Ostatni wątek ma dla nas znaczenie, bo wiele narzędzi powstaje z myślą o angielskim. Jeśli interesuje Cię, jak to wygląda po stronie zwykłego użytkownika, zobacz nasz tekst o tym, jak rozpoznać deepfake i nie dać się nabrać na dezinformację AI, oraz przegląd narzędzi do wykrywania treści generowanych przez AI.
Tom Duff Gordon z OpenAI stwierdził, że porozumienie otwiera drogę do wspólnego testowania systemów i wzmacniania zabezpieczeń oraz włącza polską wiedzę badawczą w międzynarodowe wysiłki na rzecz bezpieczniejszej AI. Dodał też, że w Polsce pracują naukowcy i inżynierowie, z których wielu pomagało prowadzić badania samego OpenAI. To słowa przedstawiciela firmy, więc traktuj je jako deklarację.
Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00
Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.
Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.
Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa
Współpraca nie zaczyna się od zera. W lipcu CERT Polska, który działa w ramach NASK, uzyskał dostęp do modeli OpenAI o zdolnościach cyberbezpieczeństwa przez program Daybreak. Zespół użył tych modeli, żeby pomóc odkryć sześć podatności w MikroTik RouterOS, czyli oprogramowaniu routerów tego producenta.
Część luk była poważna. Połączone ze sobą mogły pozwolić na przejęcie kontroli nad urządzeniami bez uwierzytelnienia, czyli bez logowania i bez hasła. Producent wydał poprawki, a według CERT Polska powstrzymały one ataki, które zespół zaobserwował.
Zwróć uwagę na układ ról. Model nie „zhakował routerów”. Pomógł ludziom, którzy zawodowo bronią sieci, znaleźć dziury, zanim zrobią to inni, a potem producent je załatał. To zwykła praca obrońców, tyle że z mocniejszym narzędziem. Podobny typ problemu, czyli lukę pozwalającą przejąć serwer zdalnie, opisywaliśmy w tekście o krytycznej luce w DeepSeek Harness.

OpenAI umieszcza porozumienie w szerszym planie. Firma wezwała USA do współpracy z innymi krajami nad międzynarodowymi standardami technicznymi dla najmocniejszej AI, z udziałem instytutów bezpieczeństwa AI i organizacji normalizacyjnych. Według OpenAI wspólne podejścia do oceny zdolności, ryzyka, testowania zabezpieczeń i zgłaszania incydentów pomagają krajom porównywać dowody i reagować na zagrożenia, które nie zatrzymują się na granicach.
OpenAI wskazuje też, że dotychczasowa współpraca z amerykańskim CAISSI, brytyjskim AISI i innymi publicznymi instytucjami badawczymi pomogła wzmocnić zabezpieczenia oraz znaleźć i naprawić luki w agentach AI. Argument firmy brzmi tak: bez krajowych partnerów, takich jak NASK, globalne standardy mogą oderwać się od realiów, w jakich AI jest faktycznie używana. Normy pisane z gabinetu, bez kontaktu z praktyką, to mapa bez dróg.
To logiczne, ale pamiętaj o układzie sił: firma, która tworzy modele, współpracuje z instytucjami, które mają je oceniać. Dlatego liczą się dalsze kroki, zakres wspólnych testów i to, co zostanie opublikowane. Jak łatwo o rozbieżność między deklaracją a praktyką przy zaawansowanych modelach, widać w tekście o GPT-6 Astra i łamaniu zabezpieczeń. Kontekst regulacyjny opisujemy też w artykule Rogue AI to już nie sci-fi. Regulacje właśnie przyspieszą.
Dla polskiego czytelnika wniosek jest prosty. Polska instytucja publiczna dostaje miejsce przy stole, gdzie rozmawia się o testowaniu najmocniejszych modeli. Trudno dziś przesądzać, co z tego wyniknie. Nie musisz jednak czekać, żeby zająć się praktyczną stroną tej historii: otwórz panel swojego routera (domowego albo firmowego), sprawdź markę i wersję oprogramowania, a potem wejdź na stronę producenta i zobacz, czy jest nowsza aktualizacja. Zajmie to kilka minut, a łatanie znanych dziur to dokładnie ten rodzaj roboty, który opisuje lipcowy przykład CERT Polska.
Na podstawie: OpenAI Blog
Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00
Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.
Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.
Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa