Modele AI
·
2 min czytania
·
29 października 2025
OpenAI wypuszcza modele do moderacji treści w open-source
Źródło: Link
Źródło: Link
OpenAI właśnie udostępniło coś, czego nikt się nie spodziewał: dwa modele moderacyjne z otwartymi wagami. gpt-oss-safeguard-120b i gpt-oss-safeguard-20b to narzędzia, które analizują treść według dowolnej polityki, którą im podasz. To przypomina odpowiedź na problem każdej platformy społecznościowej i każdego dewelopera AI.
Modele powstały na bazie wcześniejszych gpt-oss i przeszły dodatkowy trening. Nauczyły się rozumowania Jeśli chodzi o moderacji treści. Zamiast sztywnych reguł dostają politykę jako input i oceniają, czy dany content ją narusza.
OpenAI wypuściło dwie wersje: większą z 120 miliardami parametrów i mniejszą z 20 miliardami. Różnica nie jest tylko w rozmiarze. Chodzi o balans między dokładnością a szybkością działania.
Większy model daje lepsze wyniki w złożonych przypadkach. Mniejszy działa szybciej i wymaga mniej zasobów – co ma znaczenie, gdy moderujesz miliony postów dziennie. Oba modele przeszły post-training specjalnie pod kątem rozumowania o treściach. Nie tylko klasyfikują content jako "bezpieczny" lub "niebezpieczny", ale potrafią wyjaśnić swoje decyzje.
Kluczowa różnica wobec tradycyjnych filtrów: podajesz modelowi swoją własną politykę moderacji, a on analizuje treść właśnie przez ten pryzmat. Prowadzisz forum medyczne? Możesz zdefiniować inne zasady niż na platformie gamingowej. Model dostosuje się do Twojego kontekstu.
W raporcie technicznym OpenAI przedstawia baseline evaluations – testy pokazujące, jak modele radzą sobie z różnymi typami treści. To ważne, bo każdy, kto chce wdrożyć te narzędzia, musi wiedzieć, czego może się spodziewać w praktyce.
Otwarte wagi to możliwość uruchomienia modeli na własnej infrastrukturze bez wysyłania danych do OpenAI. Dla firm obsługujących wrażliwe treści (healthcare, finanse, edukacja) to ogromna różnica. Możesz moderować content lokalnie, dostosować model do swoich potrzeb i mieć pełną kontrolę nad procesem.
Druga strona medalu? Odpowiedzialność spoczywa na Tobie. OpenAI daje narzędzie, ale Ty definiujesz politykę i decydujesz, jak z niego korzystasz. Model może służyć budowaniu bezpieczniejszych przestrzeni online albo wdrażaniu kontrowersyjnych form cenzury (zależy, kto go używa i jak).
90 minut praktycznej wiedzy o AI. Pokaze Ci krok po kroku, jak zaczac oszczedzac 10 godzin tygodniowo dzieki sztucznej inteligencji.
Zapisz sie na webinar