Kontrole AI od 28 października. Firmy słabo widzą decyzje agentów
Przejdź do treści i przykładów
Od 28 października 2026 r. w Polsce obowiązują przepisy ustawy o systemach sztucznej inteligencji o kontrolach, postępowaniach i karach. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), nowy organ nadzoru rynku AI, ma od tego dnia podstawę, żeby sprawdzać, jak firmy stosują unijny AI Act, i karać za naruszenia. W czasie kontroli albo po skardze klienta firma może usłyszeć pytanie, co dokładnie zrobił jej system AI i dlaczego. Przy agentach AI, które same wykonują kolejne kroki, wiele organizacji nie ma dziś na nie odpowiedzi. Pokazuje to badanie Dynatrace State of Observability 2026.
Ustawa z 3 lipca 2026 r. (Dz.U. 2026 poz. 1003) obowiązuje od 11 sierpnia 2026 r. Nie tworzy osobnego zestawu zasad dla sztucznej inteligencji. Organizuje w Polsce nadzór nad tym, jak stosuje się AI Act: powołuje KRiBSI, wprowadza piaskownice regulacyjne do testowania nowych rozwiązań i ustala tryb kontroli. Przepisy o kontrolach, postępowaniach i karach zaczęły obowiązywać później, 28 października, po okresie przewidzianym na zorganizowanie komisji.
Osobno od 2 sierpnia 2026 r. stosuje się przepisy samego AI Act o przejrzystości. Dotyczą m.in. informowania ludzi, że rozmawiają z chatbotem, oraz oznaczania części treści wygenerowanych lub zmienionych przez AI, w tym deepfake'ów.
Obowiązki nie spadają wyłącznie na twórców modeli. Firma, która kupiła gotowe narzędzie i używa go np. w rekrutacji, obsłudze klienta albo analizie dokumentów, też może im podlegać. Zakres zależy od tego, do czego konkretnie służy system. Samo pisanie maili z pomocą ChatGPT nie rodzi rozbudowanych obowiązków prawnych. Inaczej jest z programem oceniającym kandydatów do pracy, który AI Act może zaliczyć do systemów wysokiego ryzyka.
Przewodniczącą komisji jest Pamela Krzypkowska, powołana we wrześniu 2026 r. przez Sejm za zgodą Senatu. W skład KRiBSI wchodzą też przedstawiciele UOKiK, KNF, KRRiT i UKE. Od 28 października komisja może prowadzić kontrole, rozpatrywać skargi, wydawać firmom opinie indywidualne o tym, jak przepisy stosują się do ich rozwiązania, i nakładać kary pieniężne.
Skargę może złożyć każdy: osoba prywatna, firma albo organizacja, która uważa, że system AI naruszył przepisy. Postępowanie nie musi się więc zacząć od planowej kontroli. Wystarczy niezadowolony klient albo kandydat do pracy, który podejrzewa, że odrzucił go algorytm.
Polska ustawa nie ustala własnych stawek kar. Komisja stosuje progi z art. 99 AI Act:
Dla dużych firm granicą jest wyższa z dwóch kwot, dla małych i średnich przedsiębiorstw niższa.
Dynatrace, firma od monitorowania systemów IT, przygotowała raport State of Observability 2026 na podstawie globalnej ankiety wśród 1202 liderów technologii. Kilka wyników dotyczy wprost agentów AI:
Badanie nie jest polskie i dotyczy głównie zastosowań AI w IT, więc nie opisuje wprost sytuacji polskich firm. Widać w nim za to różnicę między tym, co organizacje uznają za ważne, a tym, co już robią. Przy wglądzie w decyzje agentów wynosi ona 16 punktów procentowych.

Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00
Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.
Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.
Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa
Wynik 66% wygląda uspokajająco, bo większość decyzji AI ktoś jeszcze ogląda. Ma jednak swoją cenę. Każdy nowy agent dokłada decyzji do przejrzenia, więc przy ręcznej kontroli rośnie liczba godzin pracy ludzi, a oszczędności z automatyzacji maleją. Na ten koszt zwraca uwagę Dynatrace w komunikacie o badaniu.
Druga sprawa: osoba, która zatwierdza wynik, często nie widzi drogi do niego. Agent AI pobiera dane, wywołuje narzędzia i sam wybiera kolejne kroki. Jeśli te kroki nigdzie się nie zapisują, sprawdzający ocenia tylko wynik. Przy kontroli albo skardze klienta trudno wtedy odtworzyć, co się stało i na jakiej podstawie.
Prawnicy zajmujący się AI Act radzą zacząć od mapy narzędzi AI używanych w firmie (opisuje to m.in. kancelaria LTCA). Przy agentach trzeba do niej dołożyć zapis tego, co robią. W praktyce:
Na start nie trzeba drogich wdrożeń. W małej firmie wystarczy arkusz z listą narzędzi i włączona historia działań tam, gdzie narzędzie ją oferuje. Ocenę, czy dane zastosowanie należy do wysokiego ryzyka, lepiej zostawić prawnikowi, bo od niej zależy reszta obowiązków. Gdy sprawa jest niejasna, firma może też poprosić KRiBSI o opinię indywidualną.
Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00
Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.
Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.
Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa