Baszta-1: polski model Billennium wyłapuje toksyczne treści w AI

Firmy wdrażają dziesiątki modeli AI naraz i często nie wiedzą, który z nich akurat odpowiada klientowi na czacie, a który przetwarza dane w tle jakiegoś wewnętrznego bota. Billennium twierdzi, że to codzienność dużych organizacji - i właśnie dlatego zbudowało narzędzie, które ma to ogarnąć. Nazwali je Baszta-1.

To nie jest kolejny chatbot ani asystent do pisania maili. Baszta-1 to klasyfikator bezpieczeństwa - model, którego jedynym zadaniem jest wyłapywanie ryzykownych treści zanim trafią dalej w system albo do użytkownika. Działa wyłącznie po polsku, co samo w sobie jest ciekawe, bo większość podobnych narzędzi na rynku trenowana jest głównie po angielsku i polszczyznę traktuje po macoszemu.

Co właściwie robi ten model

Baszta-1 oparto na architekturze HerBERT i liczy około 124 milionów parametrów - to niewielki rozmiar w porównaniu do dużych modeli językowych, ale w zadaniu klasyfikacji (czyli szufladkowania tekstu do kategorii, a nie generowania odpowiedzi) mniejszy model wystarczy i działa szybciej. Model rozpoznaje pięć kategorii ryzykownych treści:

• hate - mowa nienawiści
• vulgar - wulgaryzmy
• sex - treści seksualne
• crime - treści związane z przestępczością
• self-harm - treści dotyczące samookaleczenia

Zespół, który stworzył Basztę-1, pracuje w Polsce - w Billennium. Firma udostępniła model do publicznych testów i opublikowała dokumentację opisującą jego budowę, kalibrację oraz ograniczenia. To gest, którego przy narzędziach do moderacji treści nie widuje się często - zwykle takie mechanizmy są zamknięte na cztery spusty, bo producenci wolą nie pokazywać, gdzie model się myli.

Element większej układanki: AI Governance Suite

Baszta-1 nie jest samodzielnym produktem, tylko fragmentem czegoś większego - AI Governance Suite. To zestaw narzędzi, który ma pomóc organizacjom pilnować, jak wykorzystują sztuczną inteligencję. Chodzi o odpowiedzi na pytania pozornie proste, a w praktyce w dużych firmach nikt na nie nie zna odpowiedzi: z jakich modeli korzystamy, do jakich danych mają dostęp i kto za nie odpowiada.

Przedstawiciel Billennium ujął to wprost: w dużych organizacjach AI to już nie jeden model czy jedno narzędzie, tylko cały ekosystem rozsiany po zespołach i procesach. Governance - czyli nadzór nad tym ekosystemem - staje się więc kolejnym etapem, przez który firmy muszą przejść, jeśli poważnie traktują wdrażanie AI, a nie tylko wrzucają chatbota na stronę i liczą na najlepsze.

Polska niezależność technologiczna, nie tylko integracja

Ciekawy jest kontekst, w jakim Billennium prezentuje ten projekt. Firma podkreśla, że Baszta-1 to dowód na coś więcej niż samo integrowanie gotowych rozwiązań stworzonych gdzie indziej - to budowanie własnych technologii i kompetencji w Polsce. Baszta-1 ma być dopiero pierwszym z planowanej rodziny bardziej wyspecjalizowanych modeli.

To wpisuje się w szerszy trend, o którym pisaliśmy już przy okazji wdrożeń AI w biznesie, które dają realny zysk zamiast tylko generować hałas - firmy coraz częściej zauważają, że gotowe API od dużych graczy to nie zawsze najlepsze rozwiązanie, zwłaszcza gdy w grę wchodzi kontrola nad danymi i specyfika języka polskiego. Podobny kierunek - budowanie narzędzi wykrywających konkretne zagrożenia zamiast liczenia na uniwersalne modele - widać zresztą u innych graczy, jak w przypadku Pangram, które zbiera fundusze na wykrywanie treści generowanych przez AI.

Dla firm, które już wdrażają AI wewnętrznie albo planują to zrobić, temat kontroli nad modelami nie jest abstrakcją. Jeśli zastanawiasz się, jak w ogóle zacząć porządkować to, co już masz wdrożone, dobrym punktem wyjścia jest spojrzenie na poziomy wdrożenia AI w pracy i firmie - od prompta do pełnego wdrożenia, bo governance ma sens dopiero wtedy, gdy wiadomo, na jakim etapie faktycznie jesteś.

Co z tego wynika dla kogoś, kto AI używa na co dzień, ale nie zarządza całą infrastrukturą IT w firmie? Niewiele bezpośrednio - Baszta-1 to narzędzie dla działów technicznych i compliance, nie kolejny asystent do rozmowy. Pośrednio dotyczy to jednak każdego: jeśli Twoja firma korzysta z chatbotów obsługujących klientów albo systemów analizujących treści, to właśnie taki mechanizm ma sprawić, że nie wypuści na świat czegoś, co potem trzeba tłumaczyć w mediach.

Najczęstsze pytania

Czy Baszta-1 jest dostępna do testów publicznych?

Tak. Billennium udostępniło model do publicznych testów i opublikowało dokumentację opisującą jego budowę, kalibrację oraz ograniczenia.

Jakie kategorie ryzykownych treści rozpoznaje Baszta-1?

Model wykrywa pięć kategorii: mowę nienawiści (hate), wulgaryzmy (vulgar), treści seksualne (sex), treści związane z przestępczością (crime) oraz treści dotyczące samookaleczenia (self-harm).