OpenAI płaci pół miliona dolarów. I nikt nie chce tej pracy

OpenAI szuka managera za pół miliona dolarów rocznie. Brzmi jak okazja życia, prawda?

No więc dlaczego ludzie stamtąd uciekają?

Zadanie wygląda niewinnie: pilnuj, żeby AI nie zrobiło czegoś złego. W praktyce to jak próba przewidzenia każdego możliwego sposobu, w jaki inteligentny — ale kompletnie pozbawiony sumienia — system może się wymknąć spod kontroli.

Praca, od której wszyscy uciekają

Firma potrzebuje managera ds. testowania bezpieczeństwa modeli. Ta osoba sprawdza każdy nowy model językowy (czyli "mózg" ChatGPT) zanim trafi do użytkowników. Sprawdza, czy nie nauczył się czegoś niebezpiecznego. Czy nie da się go nakłonić do tworzenia szkodliwych treści. Czy przez przypadek nie wyciekną dane użytkowników.

Pół miliona dolarów — to astronomiczna suma nawet jak na Dolinę Krzemową. Senior software engineer w Google zarabia średnio 300-350 tysięcy. OpenAI oferuje o 50% więcej.

I mimo to ludzie odchodzą.

Dlaczego nikt tam nie wytrzymuje

Wyobraź sobie taką pracę: przewidujesz każdy możliwy scenariusz katastrofy. Nie masz przy tym pełnej kontroli nad produktem. Nie możesz go zatrzymać, jeśli zarząd zdecyduje inaczej. Pracujesz pod presją czasu — konkurencja wypuszcza nowe modele co kilka miesięcy.

A potem czytasz w mediach, że system, który sprawdzałeś, właśnie pomógł komuś w czymś nielegalnym.

Albo wyciekły dane.

Albo model nauczył się generować deepfake'i nie do odróżnienia od rzeczywistości.

To nie jest praca dla ludzi, którzy chcą spać spokojnie. Według Wired Italia rotacja na tym stanowisku jest dramatyczna. Ludzie przychodzą, widzą skalę problemu — i odchodzą. Bo odpowiedzialność jest kolosalna, a wpływ na decyzje biznesowe? Ograniczony.

Co właściwie robi taki manager

Zanim nowy model trafi do ChatGPT, przechodzi serię testów. Manager ds. bezpieczeństwa koordynuje zespół, który próbuje "złamać" system. Testują:

Czy da się wyciągnąć z modelu instrukcje tworzenia niebezpiecznych substancji

Czy można go nakłonić do generowania dezinformacji

Czy nie dyskryminuje określonych grup

Czy nie wyciekają przez niego dane treningowe — w tym potencjalnie prywatne informacje

Czy nie da się go użyć do masowego phishingu czy oszustw

Po testach manager musi podjąć decyzję: czy model jest bezpieczny do wypuszczenia.

I tu zaczyna się problem.

Konflikt interesów wbudowany w system

OpenAI musi konkurować z Google, Anthropic, Meta i innymi gigantami. Każde opóźnienie w wypuszczeniu nowego modelu to stracone miliony dolarów i utrata przewagi rynkowej.

Manager ds. bezpieczeństwa mówi: "Ten model ma luki, potrzebujemy jeszcze dwóch miesięcy testów."

Zarząd odpowiada: "Google wypuszcza swój model za trzy tygodnie. Musimy być pierwsi."

Kto ma ostatnie słowo? W teorii — osoba odpowiedzialna za bezpieczeństwo. W praktyce — presja biznesowa często wygrywa. To nie jest tylko problem OpenAI. To systemowy problem całej branży AI.

Dlaczego to dotyczy nas wszystkich

ChatGPT ma ponad 200 milionów aktywnych użytkowników tygodniowo. GPT-4 jest wbudowany w Bing, w Microsoft 365, w setki aplikacji biznesowych. Modele OpenAI przetwarzają codziennie miliardy zapytań.

Jeśli coś pójdzie nie tak, nie chodzi o awarię aplikacji. Chodzi o potencjalne konsekwencje na skalę globalną.

Model może nauczyć się generować przekonujące fake newsy. Może pomóc w tworzeniu phishingu nie do odróżnienia od prawdziwych maili. Może wyciec przez niego fragment danych treningowych zawierający prywatne informacje.

Osoba zarabiająca pół miliona rocznie ma zapobiegać tym scenariuszom.

Pytanie brzmi: czy to w ogóle możliwe?

Wyścig bez hamulców

Problem jest głębszy niż jedno stanowisko w jednej firmie. Cała branża AI znajduje się w wyścigu, gdzie bezpieczeństwo często schodzi na drugi plan.

Google wypuszcza Gemini 2.0. OpenAI odpowiada o1 Pro. Anthropic kontratakuje Claude 3.5 Opus. Każdy chce być pierwszy. Każdy chce mieć najlepszy model.

Testy bezpieczeństwa? Tak, ale szybko.

To jak wyścig samochodowy, gdzie każdy zespół redukuje testy hamulców, żeby być szybszym od konkurencji. I wszyscy jedziemy tymi samochodami.

Co to oznacza dla przyszłości

Fakt, że OpenAI musi oferować pół miliona dolarów i wciąż ma problem ze znalezieniem kogoś na to stanowisko, mówi więcej niż oficjalne komunikaty o "priorytetowym traktowaniu bezpieczeństwa".

Mówi, że praca jest ekstremalnie stresująca. Że odpowiedzialność jest większa niż uprawnienia. Że ludzie widzą od środka, jak wygląda ten proces — i nie chcą w nim uczestniczyć.

Może potrzebujemy nie lepiej opłacanego managera, ale fundamentalnej zmiany w podejściu do testowania AI. Niezależnych audytów. Regulacji, które dają osobom odpowiedzialnym za bezpieczeństwo realne prawo veta.

Bo jeśli nawet pół miliona dolarów nie wystarcza, żeby przyciągnąć i zatrzymać odpowiednich ludzi, problem nie leży w wysokości pensji.

Leży w samej naturze zadania, które jest nie do wykonania w obecnym systemie.

Źródła

Wired Italia