Google pokazał dwa nowe chipy do AI. Co z tego ma firma, która korzysta z AI?

9 listopada Google Cloud pokazał dwa nowe układy TPU ósmej generacji: TPU 8tx i TPU 8i Max. Razem z zapowiedzianymi wcześniej w tym roku TPU 8t i TPU 8i to już cztery systemy jednej generacji. Google pisze, że pierwszy raz wprowadza cztery systemy TPU w ciągu jednego roku.

Brzmi jak wiadomość dla inżynierów od serwerowni. Tylko że od takich chipów zależy, ile kosztuje i jak szybko odpowiada AI, z której korzystasz na co dzień. Dlatego w kilka minut wyjaśniamy, o co chodzi.

Najpierw: co to jest TPU

TPU (Tensor Processing Unit) to procesor, który Google projektuje wyłącznie do obliczeń AI. Nie kupisz go w sklepie. Stoi w centrach danych Google, a firmy wynajmują jego moc w chmurze, płacąc za czas pracy. Na TPU Google trenuje i uruchamia m.in. modele Gemini. Główną konkurencją są karty graficzne (GPU), przede wszystkim Nvidii.

Ósma generacja TPU ma po jednym układzie na każdy etap pracy z AI: od trenowania modelu, przez odpowiadanie na pytania, po pracę na danych, których nie wolno nikomu pokazać.

Co pokazał Google

TPU 8tx: AI na poufnych danych

Zabezpieczenia wbudowano w sam sprzęt. Dane firmy i wagi modelu (czyli to, czego model się nauczył) pozostają odizolowane także w trakcie obliczeń, a nie tylko wtedy, gdy leżą na dysku.

Google kieruje ten układ do branż regulowanych: banków, ubezpieczycieli, medycyny. Taka firma może na jednym systemie dostroić model na własnych danych i nie przenosić ich między klastrami. Według Google TPU 8tx ma nawet dwukrotnie niższe opóźnienia niż TPU 8t, a zabezpieczenia prawie nie spowalniają pracy.

TPU 8i Max: na bardzo długie dokumenty i rozmowy

To dwa układy TPU 8i w jednej obudowie. W porównaniu z pojedynczym TPU 8i daje dwa razy więcej mocy obliczeniowej, dwa razy więcej szybkiej pamięci SRAM i dwa razy wyższą przepustowość pamięci HBM.

Po co to wszystko? Im dłuższy materiał dajesz modelowi naraz (umowę, raport roczny, całą historię projektu), tym więcej pamięci potrzebuje on w trakcie pracy. Ta ilość tekstu to okno kontekstowe. Google nazywa ten problem ścianą pamięci i TPU 8i Max ma ją odsunąć. Przy okazji w tej samej szafie serwerowej mieści się dwa razy więcej układów niż dotąd.

TPU Sync: krótsze czekanie na pierwsze słowo

TPU Sync to oprogramowanie, które Google udostępnił za darmo jako open source. Spina pamięć chipów, pamięć serwerów, dyski i sieć w jedną całość. Według Google skraca o ponad 90% czas, zanim model zacznie pisać odpowiedź (w żargonie TTFT, czas do pierwszego tokena). Tyle samo skraca przesyłanie tzw. pamięci podręcznej KV, czyli notatek, które model robi sobie z dotychczasowej rozmowy.

Narzędzia dla programistów

W październiku Google otworzył TorchTPU: kod w PyTorch i modele z Hugging Face działają na TPU bez przepisywania. Teraz dochodzi pakiet agentów TPU (wersja testowa, też open source). Współpracuje z narzędziami do programowania z AI, takimi jak Claude Code, Cursor i Google Antigravity. Agent pomaga przenieść projekt na TPU, szuka miejsc, które go spowalniają, i dostraja kod.

Co to znaczy dla Ciebie

Nie będziesz kupować TPU. Ale ta wiadomość dotyczy Cię bardziej, niż się wydaje.

1. AI tanieje i przyspiesza od strony sprzętu. Google, Nvidia i inni ścigają się o to, kto taniej i szybciej obsłuży jedno pytanie do modelu. Ten wyścig z czasem trafia do cenników narzędzi, z których korzystasz. Nie stanie się to jutro, ale kierunek jest wyraźny.

2. Długie dokumenty przestają być problemem. Dziś przy bardzo długim materiale model potrafi zgubić wątek albo zwolnić. Sprzęt zaprojektowany pod długie okno kontekstowe to krok w stronę AI, której wrzucasz cały segregator, a nie trzy wybrane strony.

3. Poufne dane bliżej AI. Jeśli prowadzisz kancelarię, biuro rachunkowe albo gabinet, pewnie najczęściej słyszysz pytanie, czy wolno wrzucić tam dane klientów. Ochrona danych wbudowana w chip to mocny argument dostawców chmury. Uwaga: sam sprzęt nie załatwia za Ciebie RODO. Umowa z dostawcą, miejsce przechowywania danych i to, kto ma do nich dostęp, nadal są po Twojej stronie.

4. Agenci AI to już główny kierunek. Google projektuje sprzęt wprost pod agentów AI, czyli programy, które same wykonują kolejne kroki zadania. Skoro największe firmy budują pod to całe serwerownie, warto już teraz uczyć się pracy z agentami w swojej codziennej robocie.

Czego jeszcze nie wiemy

Google nie podał, kiedy i w których regionach TPU 8tx i TPU 8i Max będą dostępne, ani ile będą kosztować. Wszystkie liczby z tego wpisu (dwa razy więcej, ponad 90% szybciej) pochodzą od Google, a nie z niezależnych testów. Sprawdzimy je, kiedy pojawią się pierwsze pomiary od klientów.