Regulacje · 6 min czytania · 17 listopada 2026

Kontrole AI od 28 października. Firmy słabo widzą decyzje agentów

Przejdź do treści i przykładów
Ślad kolejnych kroków agenta AI pod lupą kontrolera, ilustracja do tekstu o kontrolach AI w Polsce

Od 28 października 2026 r. w Polsce obowiązują przepisy ustawy o systemach sztucznej inteligencji o kontrolach, postępowaniach i karach. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), nowy organ nadzoru rynku AI, ma od tego dnia podstawę, żeby sprawdzać, jak firmy stosują unijny AI Act, i karać za naruszenia. W czasie kontroli albo po skardze klienta firma może usłyszeć pytanie, co dokładnie zrobił jej system AI i dlaczego. Przy agentach AI, które same wykonują kolejne kroki, wiele organizacji nie ma dziś na nie odpowiedzi. Pokazuje to badanie Dynatrace State of Observability 2026.

Co weszło w życie i od kiedy

Ustawa z 3 lipca 2026 r. (Dz.U. 2026 poz. 1003) obowiązuje od 11 sierpnia 2026 r. Nie tworzy osobnego zestawu zasad dla sztucznej inteligencji. Organizuje w Polsce nadzór nad tym, jak stosuje się AI Act: powołuje KRiBSI, wprowadza piaskownice regulacyjne do testowania nowych rozwiązań i ustala tryb kontroli. Przepisy o kontrolach, postępowaniach i karach zaczęły obowiązywać później, 28 października, po okresie przewidzianym na zorganizowanie komisji.

Osobno od 2 sierpnia 2026 r. stosuje się przepisy samego AI Act o przejrzystości. Dotyczą m.in. informowania ludzi, że rozmawiają z chatbotem, oraz oznaczania części treści wygenerowanych lub zmienionych przez AI, w tym deepfake'ów.

Obowiązki nie spadają wyłącznie na twórców modeli. Firma, która kupiła gotowe narzędzie i używa go np. w rekrutacji, obsłudze klienta albo analizie dokumentów, też może im podlegać. Zakres zależy od tego, do czego konkretnie służy system. Samo pisanie maili z pomocą ChatGPT nie rodzi rozbudowanych obowiązków prawnych. Inaczej jest z programem oceniającym kandydatów do pracy, który AI Act może zaliczyć do systemów wysokiego ryzyka.

Co może KRiBSI i ile wynoszą kary

Przewodniczącą komisji jest Pamela Krzypkowska, powołana we wrześniu 2026 r. przez Sejm za zgodą Senatu. W skład KRiBSI wchodzą też przedstawiciele UOKiK, KNF, KRRiT i UKE. Od 28 października komisja może prowadzić kontrole, rozpatrywać skargi, wydawać firmom opinie indywidualne o tym, jak przepisy stosują się do ich rozwiązania, i nakładać kary pieniężne.

Skargę może złożyć każdy: osoba prywatna, firma albo organizacja, która uważa, że system AI naruszył przepisy. Postępowanie nie musi się więc zacząć od planowej kontroli. Wystarczy niezadowolony klient albo kandydat do pracy, który podejrzewa, że odrzucił go algorytm.

Polska ustawa nie ustala własnych stawek kar. Komisja stosuje progi z art. 99 AI Act:

  • do 35 mln euro albo 7% rocznego światowego obrotu za zakazane praktyki AI,
  • do 15 mln euro albo 3% obrotu za naruszenie większości pozostałych obowiązków, w tym obowiązków przejrzystości i obowiązków firm używających systemów wysokiego ryzyka,
  • do 7,5 mln euro albo 1% obrotu za podanie organom nieprawdziwych lub niepełnych informacji.

Dla dużych firm granicą jest wyższa z dwóch kwot, dla małych i średnich przedsiębiorstw niższa.

Co pokazało badanie Dynatrace

Dynatrace, firma od monitorowania systemów IT, przygotowała raport State of Observability 2026 na podstawie globalnej ankiety wśród 1202 liderów technologii. Kilka wyników dotyczy wprost agentów AI:

  • 87% organizacji używa agentów AI w umiarkowanym lub dużym zakresie przy monitorowaniu i utrzymaniu systemów IT,
  • 43% uważa za ważne rozumienie, jak agenty AI dochodzą do decyzji, ale tylko 27% faktycznie zapewnia sobie wgląd w ich decyzje,
  • ludzie sprawdzają średnio 66% decyzji podejmowanych z pomocą AI,
  • w pełni autonomiczne działanie osiągnęło 12% organizacji, a 44% chce do niego dojść w ciągu pięciu lat.

Badanie nie jest polskie i dotyczy głównie zastosowań AI w IT, więc nie opisuje wprost sytuacji polskich firm. Widać w nim za to różnicę między tym, co organizacje uznają za ważne, a tym, co już robią. Przy wglądzie w decyzje agentów wynosi ona 16 punktów procentowych.

Kroki agenta AI da się odtworzyć tylko wtedy, gdy ktoś je zapisuje
Kroki agenta AI da się odtworzyć tylko wtedy, gdy ktoś je zapisuje

Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00

Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.

Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.

Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa

Dlaczego ręczne sprawdzanie nie wystarcza

Wynik 66% wygląda uspokajająco, bo większość decyzji AI ktoś jeszcze ogląda. Ma jednak swoją cenę. Każdy nowy agent dokłada decyzji do przejrzenia, więc przy ręcznej kontroli rośnie liczba godzin pracy ludzi, a oszczędności z automatyzacji maleją. Na ten koszt zwraca uwagę Dynatrace w komunikacie o badaniu.

Druga sprawa: osoba, która zatwierdza wynik, często nie widzi drogi do niego. Agent AI pobiera dane, wywołuje narzędzia i sam wybiera kolejne kroki. Jeśli te kroki nigdzie się nie zapisują, sprawdzający ocenia tylko wynik. Przy kontroli albo skardze klienta trudno wtedy odtworzyć, co się stało i na jakiej podstawie.

Co firma może zrobić teraz

Prawnicy zajmujący się AI Act radzą zacząć od mapy narzędzi AI używanych w firmie (opisuje to m.in. kancelaria LTCA). Przy agentach trzeba do niej dołożyć zapis tego, co robią. W praktyce:

  1. Spis systemów AI. Które działy z czego korzystają, do jakich zadań, czy system przetwarza dane osobowe lub poufne i czy wpływa na decyzje o klientach, pracownikach albo kandydatach.
  2. Właściciel każdego agenta. Konkretna osoba, która odpowiada za jego konfigurację i potrafi wyjaśnić, do czego służy.
  3. Zapis działań agenta. Jakie dane dostał, jakie narzędzia wywołał, co zwrócił i kto zatwierdził wynik. Przy systemach wysokiego ryzyka AI Act wymaga automatycznego rejestrowania zdarzeń. Przy pozostałych taki zapis ułatwia odpowiedź na pytania regulatora i klientów.
  4. Zasady weryfikacji. Które decyzje człowiek sprawdza zawsze, a które wyrywkowo. Ręczną kontrolę najlepiej skupić na decyzjach dotyczących ludzi i pieniędzy.
  5. Krótka polityka AI. Jakie narzędzia są dopuszczone, jakich danych nie wolno do nich wpisywać i kto za co odpowiada.

Na start nie trzeba drogich wdrożeń. W małej firmie wystarczy arkusz z listą narzędzi i włączona historia działań tam, gdzie narzędzie ją oferuje. Ocenę, czy dane zastosowanie należy do wysokiego ryzyka, lepiej zostawić prawnikowi, bo od niej zależy reszta obowiązków. Gdy sprawa jest niejasna, firma może też poprosić KRiBSI o opinię indywidualną.

Źródła

Powiązane tematy

Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00

Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.

Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.

Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa

Udostępnij:
Nie przegap nowych artykułów - dodaj SukcesAI do swoich źródeł w wyszukiwarce Google.
Dodaj do preferowanych źródeł
Jan Gajos

Ekspert AI & Founder, AI Evolution

Pasjonat sztucznej inteligencji, który od 18 lat działa z sukcesem biznesowo i szkoleniowo. Wprowadzam AI do swoich firm oraz codziennego życia. Fascynują mnie nowe technologie, gry wideo i składanie klocków Lego - tam też widzę logikę i kreatywność, które AI potrafi wzmacniać. Wierzę, że dobrze użyta sztuczna inteligencja to nie ogłupiające ułatwienie, lecz prawdziwy przełom w sposobie, w jaki myślimy, tworzymy i pracujemy.

Newsletter SukcesAI

Raz w tygodniu najważniejsze nowości z AI i nowe poradniki z tego bloga.

Link do wypisania się jest w każdym mailu. Polityka prywatności