ChatGPT wyciekł do Google Analytics. OpenAI ma problem

Prywatne rozmowy z ChatGPT pojawiły się w miejscu, gdzie absolutnie nie powinny być – w Google Analytics. To jeden z najdziwniejszych wycieków w historii OpenAI. I może potwierdzać coś, o czym firma wolałaby milczeć.

Historia wyszła na jaw, gdy użytkownicy narzędzi analitycznych Google zaczęli zgłaszać obecność logów konwersacji z ChatGPT w swoich raportach. Nie były to zwykłe fragmenty. Niektóre zawierały pełne, często krępujące wymiany zdań między użytkownikami a modelem (co przy niektórych promptach potrafi być... ciekawe). Problem? Te dane nigdy nie powinny opuścić serwerów OpenAI.

Jak prywatne rozmowy trafiły do Google Analytics

Mechanizm wycieku jest prosty. Jego implikacje – już mniej. Eksperci ds. bezpieczeństwa wskazują, że logi konwersacji pojawiły się w Google Analytics prawdopodobnie przez sposób, w jaki OpenAI zbiera dane z internetu. Jeśli firma rzeczywiście scrapuje strony internetowe do trenowania swoich modeli, może przypadkowo przechwytywać też dane analityczne zawierające fragmenty rozmów użytkowników.

Specjaliści zauważyli, że wzorce wycieków sugerują systematyczne zbieranie danych ze stron zawierających kod śledzący Google. To oznaczałoby, że boty OpenAI nie tylko indeksują treści publiczne, ale również przypadkowo wyciągają dane z narzędzi analitycznych osadzonych na stronach.

Co mówią eksperci o praktykach OpenAI

Analitycy bezpieczeństwa są zgodni – ten wyciek to prawdopodobnie nieumyślny efekt uboczny agresywnego scrapowania sieci przez OpenAI. Firma od dawna stoi w centrum kontrowersji dotyczących tego, skąd dokładnie bierze dane treningowe dla swoich modeli. Oficjalne stanowisko mówi o publicznie dostępnych zasobach. Szczegóły pozostają mgliste.

Problem wykracza poza kwestię prywatności pojedynczych użytkowników. Jeśli OpenAI rzeczywiście zbiera dane w tak szeroki sposób, może to naruszać regulacje dotyczące ochrony danych osobowych w Unii Europejskiej i innych jurysdykcjach. Firmy korzystające z ChatGPT do obsługi klientów czy wewnętrznej komunikacji mogą mieć poważny problem z compliance.

Reakcja OpenAI i co dalej

OpenAI jak dotąd nie wydało oficjalnego oświadczenia wyjaśniającego dokładny mechanizm wycieku. Firma zazwyczaj reaguje na takie incydenty szybko, ale tym razem milczenie trwa dłużej niż zwykle. Użytkownicy ChatGPT powinni założyć, że ich rozmowy mogą nie być tak prywatne, jak się wydaje – szczególnie jeśli zawierają wrażliwe informacje biznesowe czy osobiste.

Dla branży AI to kolejny sygnał, że regulacje muszą nadążyć za rozwojem technologii. Praktyki zbierania danych przez gigantów AI pozostają w dużej mierze nietransparentne. Takie wycieki pokazują realne konsekwencje tej nieprzejrzystości. Jeśli korzystasz z ChatGPT zawodowo, teraz to dobry moment, żeby przejrzeć politykę prywatności i zastanowić się, jakie dane faktycznie powierzasz modelowi.

Źródła

Ars Technica - Oddest ChatGPT leaks yet: Cringey chat logs found in Google analytics tool