New Relic zbudował asystenta AI, który naprawdę działa

New Relic, firma znana z monitorowania wydajności aplikacji, właśnie pokazała coś ciekawego. Ich wirtualny asystent NOVA (New Relic Omnipresence Virtual Assistant) przeszedł drogę od prostego bota odpowiadającego na pytania do pełnoprawnego narzędzia produktywności. I nie, to nie kolejna marketingowa gadka o "rewolucji AI". To konkretny przykład tego, jak duża firma wdrożyła generatywną sztuczną inteligencję w praktyce - z sukcesami i porażkami, których się nauczyli.

Projekt powstał we współpracy z Generative AI Innovation Center od AWS. Owszem. Ale diabeł tkwi w szczegółach - i właśnie te szczegóły pokazują, jak naprawdę wygląda budowanie narzędzi AI w dużej organizacji.

Od chatbota do maszyny produktywności

Zacznijmy od początku. NOVA startowała jako typowy asystent wiedzy - wiesz, taki bot, który odpowiada na pytania typu "gdzie znaleźć dokumentację?" lub "jak skonfigurować monitoring?". Klasyka gatunku. Pracownicy zadawali pytania, system przeszukiwał bazę wiedzy, wypluwał odpowiedź. Nic odkrywczego.

Problem? Takie rozwiązanie to trochę jak zatrudnienie bibliotekarza, który zna lokalizację każdej książki, ale nie przeczytał ani jednej. Pomaga znaleźć informację, ale nie pomaga jej zrozumieć ani zastosować. New Relic szybko zorientował się, że to za mało. Pracownicy potrzebowali czegoś więcej niż wyszukiwarki z ludzką twarzą.

Więc zespół poszedł dalej. NOVA ewoluowała w kierunku tego, co nazywają "comprehensive productivity engine" - czyli silnika produktywności. Co to oznacza w praktyce? Zamiast tylko odpowiadać na pytania, system zaczął pomagać w konkretnych zadaniach. Analiza danych. Generowanie raportów. automatyzacja powtarzalnych procesów. Asystowanie w podejmowaniu decyzji technicznych.

To różnica między kalkulatorem a arkuszem kalkulacyjnym. Pierwszy liczy, drugi pomaga rozwiązywać problemy biznesowe. NOVA przeszła podobną transformację - z narzędzia do znajdowania odpowiedzi stała się narzędziem do wykonywania pracy.

Architektura techniczna - czyli co siedzi pod maską

Dobra, czas na techniczne szczegóły. Ale bez paniki - wytłumaczę to tak, żeby miało sens nawet jeśli programowanie nie jest twoją mocną stroną.

NOVA działa na infrastrukturze AWS, konkretnie wykorzystuje ich usługi do generatywnej AI. W praktyce oznacza to, że New Relic nie musiał budować wszystkiego od zera. To trochę jak wynajęcie profesjonalnej kuchni zamiast budowania własnej - masz dostęp do sprzętu, który byłby za drogi do kupienia na własność.

Kluczowym elementem jest tzw. RAG - Retrieval Augmented Generation. Koncepcja jest prosta. piszesz wypracowanie. Możesz pisać z głowy (to zwykły model AI) albo najpierw poszukać informacji w książkach, a potem napisać tekst oparty na tym, co znalazłeś (to właśnie RAG). Drugi sposób daje lepsze, bardziej aktualne i dokładne odpowiedzi.

System New Relic łączy kilka elementów. Masz modele językowe (LLM - Large Language Models), które rozumieją i generują tekst. Masz bazę wiedzy firmy - dokumentację, procedury, historyczne dane. Masz mechanizmy wyszukiwania, które potrafią szybko znaleźć właściwe informacje. I masz warstwę integracyjną, która łączy to wszystko w spójną całość.

Co ważne - i tu pojawia się ciekawy szczegół - New Relic musiał nauczyć się balansować między mocą modeli a kosztami. Większe modele są mądrzejsze, ale droższe w użyciu. Mniejsze są tańsze, ale czasem gubią kontekst. Znalezienie złotego środka to było jedno z głównych wyzwań projektu.

Droga pełna wyzwań

Tutaj robi się naprawdę ciekawie, bo New Relic nie ukrywa, że nie wszystko szło gładko. I właśnie te "potknięcia" są najbardziej wartościowe dla każdego, kto myśli o wdrożeniu podobnego rozwiązania.

Pierwsze wyzwanie: jakość odpowiedzi. Na początku NOVA miała tendencję do "halucynacji" - czyli wymyślania informacji, które brzmiały wiarygodnie, ale były nieprawdziwe. To klasyczny problem dużych modeli językowych. Są świetne w generowaniu płynnego tekstu, ale nie mają wbudowanego detektora prawdy. Rozwiązanie? Ścisła integracja z weryfikowanymi źródłami danych i mechanizmy walidacji odpowiedzi.

Drugie wyzwanie: adopcja przez użytkowników. Możesz zbudować najlepsze narzędzie na świecie, ale jeśli ludzie go nie używają, to marnowanie pieniędzy. New Relic musiał przekonać pracowników, że NOVA to nie kolejny korporacyjny gadżet, który utrudnia życie zamiast je ułatwiać. Klucz? Zacząć od rozwiązywania realnych, bolesnych problemów. Nie od funkcji, które są "fajne", ale od tych, które naprawdę oszczędzają czas.

Trzecie wyzwanie: bezpieczeństwo i prywatność. Kiedy dajesz AI dostęp do wewnętrznych danych firmy, musisz być cholernie ostrożny. Co jeśli model "wycieknie" z poufnymi informacjami? Co z danymi klientów? New Relic musiał zbudować całą warstwę zabezpieczeń, kontroli dostępu i audytu. To nie jest opcjonalne - to absolutna konieczność.

Czwarte wyzwanie: skalowalność. Jedno jest obsługiwać 50 użytkowników testowych, a drugie - całą organizację liczącą tysiące pracowników. System musiał działać szybko nawet pod dużym obciążeniem. To wymagało optymalizacji na każdym poziomie - od sposobu przechowywania danych po algorytmy wyszukiwania.

Kluczowe lekcje dla każdego

New Relic podzielił się kilkoma wnioskami, które są uniwersalne - niezależnie od tego, czy budujesz asystenta AI dla wielkiej korporacji, czy małego startupu.

Lekcja pierwsza: zacznij od problemu, nie od technologii. A jednak większość projektów AI zaczyna się od "mamy dostęp do GPT-5, co możemy z tym zrobić?" zamiast od "nasi pracownicy tracą 3 godziny dziennie na szukanie informacji, jak możemy to zmienić?". New Relic zaczął od mapowania realnych problemów produktywności i dopiero potem dobierał narzędzia.

Lekcja druga: iteruj szybko, ale mądrze. Nie próbuj zbudować idealnego systemu od razu. Zacznij od MVP (Minimum Viable Product - najprostszej wersji, która działa), wypuść do małej grupy użytkowników, zbierz feedback, popraw, powtórz. NOVA przechodziła przez dziesiątki iteracji zanim osiągnęła obecną formę.

Lekcja trzecia: inwestuj w jakość danych. Model AI jest tylko tak dobry, jak dane, na których pracuje. Jeśli twoja baza wiedzy jest chaotyczna, nieaktualna lub niekompletna, żaden model tego nie naprawi. New Relic spędził mnóstwo czasu na porządkowaniu i strukturyzowaniu swoich danych wewnętrznych. To nudna robota, ale absolutnie kluczowa.

Lekcja czwarta: monitoruj wszystko. Jak system się zachowuje? Jakie pytania zadają użytkownicy? Gdzie model się myli? Ile kosztuje każde zapytanie? New Relic - jako firma od monitoringu - ma to we krwi, ale dla wielu organizacji to nowa umiejętność. Bez dobrego monitoringu lecisz na ślepo.

Lekcja piąta: przygotuj się na koszty. Generatywna AI nie jest darmowa. Każde zapytanie do modelu kosztuje. Im większy model, im dłuższa rozmowa, tym wyższy rachunek. New Relic nauczył się optymalizować koszty przez inteligentne cachowanie odpowiedzi, używanie mniejszych modeli tam gdzie wystarczą, i priorytetyzację zapytań.

Co to oznacza dla reszty z nas

Okej, New Relic to duża firma z dużym budżetem. Co z tego wynika dla przeciętnego przedsiębiorcy czy managera w średniej firmie?

Po pierwsze - technologia jest dostępna. AWS, Azure, Google Cloud - wszyscy oferują narzędzia do budowania podobnych rozwiązań. Nie musisz mieć zespołu 50 inżynierów AI. Możesz zacząć od prostego chatbota opartego na gotowych usługach i stopniowo go rozbudowywać.

Po drugie - wzorce się powtarzają. Problemy, które rozwiązywał New Relic, są uniwersalne. Pracownicy tracą czas na szukanie informacji? Masz to. Powtarzalne zadania zjadają godziny produktywnej pracy? Masz to. Wiedza ekspercka jest zamknięta w głowach kilku kluczowych osób? Masz to. AI może pomóc w każdym z tych obszarów.

Po trzecie - nie musisz budować wszystkiego sam. Ekosystem narzędzi no-code i low-code do tworzenia asystentów AI eksploduje. Platformy jak Voiceflow, Botpress czy nawet GPT Builder od OpenAI pozwalają stworzyć funkcjonalnego asystenta w dni, nie miesiące. Nie będzie tak zaawansowany jak NOVA, ale może rozwiązać 80% twoich problemów za 20% kosztu.

Po czwarte - zacznij małe, myśl duże. New Relic nie zbudował NOVA w obecnej formie z dnia na dzień. Zaczęli od prostego asystenta wiedzy i stopniowo dodawali funkcje. Ty możesz zacząć od automatyzacji jednego procesu - na przykład onboardingu nowych pracowników - i rozbudowywać system w miarę jak widzisz wartość.

Przyszłość asystentów AI w firmach

NOVA to nie koniec drogi, to początek. New Relic już planuje kolejne iteracje. Głębsza integracja z narzędziami, które pracownicy używają codziennie. Proaktywne sugestie zamiast reaktywnych odpowiedzi - system, który podpowiada rozwiązania zanim zapytasz. Personalizacja oparta na roli i historii użytkownika.

Ale szerszy trend jest jeszcze ciekawszy. Każda duża firma będzie miała swojego "wewnętrznego AI" w ciągu najbliższych 2-3 lat. To nie jest kwestia "czy", tylko "kiedy" i "jak dobrze". Firmy, które zaczną wcześniej, zdobędą przewagę konkurencyjną. Te, które zwlekają, będą gonić.

Dodatkowo granica między "narzędziem" a "współpracownikiem" zacznie się rozmywać. NOVA już teraz jest czymś więcej niż programem - to wirtualny członek zespołu, dostępny 24/7, który nigdy nie ma złego dnia i zawsze pamięta każdy szczegół z dokumentacji. Za kilka lat takie asystenci będą normą, nie wyjątkiem.

Pytanie brzmi: czy twoja firma będzie liderem, czy naśladowcą? Czy zaczniesz eksperymentować teraz, ucząc się na błędach i budując przewagę, czy poczekasz aż konkurencja cię wyprzedzi?

Historia New Relic i NOVA pokazuje, że droga nie jest łatwa. Będą wyzwania techniczne, organizacyjne i kulturowe. Ale pokazuje też, że jest możliwa - i że efekty są warte wysiłku. Pracownicy oszczędzają czas, firma zwiększa produktywność, a klienci dostają lepszą obsługę. Win-win-win.

Najważniejsze? Zacznij teraz. Nie czekaj na idealny moment, bo go nie będzie. Nie czekaj na idealną technologię, bo zawsze pojawi się coś lepszego. Zacznij od małego projektu, ucz się, iteruj, skaluj. To dokładnie ta droga, którą przeszedł New Relic. I możesz ją przejść ty.

Źródła

• AWS Machine Learning Blog - New Relic transforms productivity with generative AI on AWS