CAMB.AI i Broadcom przenoszą tłumaczenie głosu do chipów

Twój telefon za chwilę będzie tłumaczył rozmowy w 150 językach bez wysyłania ani bita danych do chmury. CAMB.AI i Broadcom właśnie pokazały, że przetwarzanie głosu przez AI może działać bezpośrednio na chipie. Szybciej, taniej i bez ryzyka wycieku prywatnych rozmów.

Partnerstwo obu firm przenosi modele tłumaczenia głosu w czasie rzeczywistym na NPU (Neural Processing Unit) wbudowane bezpośrednio w urządzenia. To koniec z opóźnieniami, uzależnieniem od internetu i obawami o to, gdzie trafiają nagrania Twoich rozmów.

Dotychczas większość systemów tłumaczenia głosu działała w modelu chmurowym – nagranie było wysyłane na serwer, tam przetwarzane przez potężne modele AI, a wynik wracał do użytkownika. Ten proces generował opóźnienia rzędu kilku sekund, wymagał stabilnego połączenia internetowego i wiązał się z kosztami transmisji danych. Teraz cała ta infrastruktura staje się zbędna.

Tłumaczenie bez wysyłania danych na zewnątrz

CAMB.AI specjalizuje się w modelach AI do przetwarzania głosu, a ich technologia już działa w scenariuszach wymagających natychmiastowej reakcji. Teraz firma przenosi swój model tłumaczenia na NPU Broadcom – dedykowane procesory AI w smartfonach, tabletach czy laptopach.

Cały proces analizy mowy, tłumaczenia i syntezy głosu odbywa się lokalnie. Żadne dane nie opuszczają urządzenia. To rozwiązuje problem prywatności (szczególnie istotny w biznesie czy służbie zdrowia). Eliminujesz też opóźnienia związane z wysyłaniem audio do serwera i czekaniem na odpowiedź.

W praktyce oznacza to, że lekarz może prowadzić konsultację z pacjentem mówiącym w obcym języku, mając pewność, że wrażliwe informacje medyczne nie trafiają na zewnętrzne serwery. Podobnie prawnik negocjujący umowę międzynarodową nie musi martwić się o poufność rozmów – wszystko pozostaje w urządzeniu. To szczególnie istotne w kontekście regulacji takich jak RODO czy HIPAA, które nakładają surowe ograniczenia na przetwarzanie danych osobowych.

Ponad 150 języków w kieszeni

Kolejna faza projektu wprowadzi obsługę ponad 150 języków – wszystko działające offline, na chipie. Możesz prowadzić rozmowę biznesową w Tokio, negocjować kontrakt w São Paulo czy zamawiać jedzenie w Marrakeszu bez aplikacji chmurowych i dodatkowych kosztów transmisji danych.

Dla użytkowników to przede wszystkim szybkość i niezawodność. Dla producentów urządzeń – możliwość oferowania zaawansowanych funkcji AI bez budowania drogiej infrastruktury serwerowej. Dla firm – zgodność z regulacjami dotyczącymi ochrony danych, które coraz bardziej ograniczają przesyłanie informacji wrażliwych do chmury.

Skala tego rozwiązania jest imponująca. 150 języków to pokrycie niemal całej komunikacji globalnej – od najpopularniejszych języków jak angielski, chiński czy hiszpański, przez języki regionalne, aż po dialekty używane przez mniejsze społeczności. Wszystko to mieści się w jednym chipie, bez konieczności pobierania dodatkowych pakietów językowych czy płacenia za subskrypcje usług chmurowych.

Technologia ma też ogromny potencjał w edukacji i turystyce. Studenci mogą uczyć się języków obcych z natychmiastową weryfikacją wymowy, a podróżnicy poruszać się po obcych krajach bez barier językowych – nawet w miejscach bez dostępu do internetu, jak odległe regiony górskie czy pustynne.

Procesor robi robotę, nie serwer

NPU Broadcom to specjalistyczne układy zaprojektowane do obliczeń AI. W przeciwieństwie do GPU czy CPU, są zoptymalizowane pod konkretne operacje sieciowe – inferencję modeli neuronowych. Zużywają mniej energii i działają szybciej przy zadaniach takich jak rozpoznawanie mowy czy tłumaczenie.

Przeniesienie modeli CAMB.AI na te procesory to przykład szerszego trendu: AI ucieka z centrów danych i ląduje tam, gdzie są użytkownicy. Smartfony, słuchawki, urządzenia IoT – wszystko staje się inteligentniejsze bez potrzeby stałego połączenia z internetem.

Różnica w efektywności energetycznej jest znacząca. Podczas gdy przetwarzanie w chmurze wymaga energii do transmisji danych, utrzymania serwerów i systemów chłodzenia, NPU wykonuje te same operacje lokalnie, zużywając ułamek energii. To przekłada się na dłuższy czas pracy baterii w urządzeniach mobilnych – kluczowy parametr dla użytkowników.

Architektura NPU pozwala też na równoległe przetwarzanie wielu strumieni danych, co oznacza, że urządzenie może jednocześnie tłumaczyć rozmowę, analizować kontekst i dostosowywać ton głosu syntetyzowanego – wszystko w czasie rzeczywistym. To poziom wydajności, który jeszcze kilka lat temu był dostępny tylko w serwerowniach.

Partnerstwo CAMB.AI i Broadcom pokazuje, że przyszłość AI to nie gigantyczne farmy serwerów, ale inteligencja rozproszona – obecna w każdym urządzeniu, dostępna natychmiast i działająca niezależnie od infrastruktury sieciowej. To zmienia nie tylko sposób, w jaki korzystamy z technologii tłumaczenia, ale całą filozofię projektowania systemów AI.

Źródła

• Analytics India Magazine - CAMB.AI, Broadcom Bring Voice AI Directly to Chip