Agenci AI nie nadają się do produkcji. Oto dlaczego

Pamiętasz ten komentarz z Quora, który stał się memem? Ten o kopiowaniu kodu ze Stack Overflow?

W erze przed dużymi modelami językowymi wyzwaniem było wyłowienie właściwego fragmentu i sprytne wklejenie go do projektu. Teraz? Generowanie kodu to banał. Każdy junior zrobi to w kilka sekund.

Problem leży gdzie indziej.

Generowanie to nie to samo co rozumienie

AI wypluwa kod szybciej niż doświadczony programista. Prawdziwa praca zaczyna się później — gdy trzeba ten kod utrzymać, zrefaktoryzować i wdrożyć.

Tu Agenci AI spisują się fatalnie.

pracownika, który pisze świetne raporty, ale kompletnie nie rozumie kontekstu firmy. Nie wie, jak działają procesy. Nie pamięta, co robił tydzień temu. Co gorsza — za każdym razem, gdy prosisz go o poprawkę, niszczy coś innego.

Dokładnie tak działają dzisiejsze agenci AI.

Kruche okna kontekstu — albo jak AI zapomina, co robiło

Okno kontekstu to pamięć robocza AI. pamiętasz tylko ostatnie 10 minut rozmowy. Wszystko wcześniej? Mgła.

Większość agentów ma okno kontekstu wynoszące 128K tokenów (token to mniej więcej 3/4 słowa). Brzmi imponująco? W teorii — cała książka.

W praktyce? Średniej wielkości projekt to miliony linii kodu. Setki plików. Tysiące zależności.

Efekt?

Agent widzi fragment drzewa, ale gubi las. Wprowadza zmianę w jednym miejscu, która psuje coś zupełnie gdzie indziej. I nie ma pojęcia, że to zrobił.

To jak zlecić architektowi zaprojektowanie łazienki, ale nie powiedzieć mu, że budynek ma trzy piętra i wspólną instalację wodną. Nie skończy się dobrze.

Zepsute refaktoryzacje — gdy "poprawa" robi krzywdę

Refaktoryzacja to przepisywanie kodu tak, żeby działał lepiej, był czytelniejszy i łatwiejszy w utrzymaniu. To sztuka, nie mechanika.

Agenci AI podchodzą do refaktoryzacji jak mechaniczny tłumacz do poezji. Technicznie wszystko się zgadza. Sens? Gdzieś po drodze zaginął.

Przykład z życia: programista prosi agenta o refaktoryzację modułu odpowiedzialnego za płatności. Agent "poprawia" kod — skraca go, usuwa "zbędne" fragmenty, optymalizuje pętle.

Problem.

Te "zbędne" fragmenty obsługiwały edge case'y — np. co się dzieje, gdy użytkownik naciśnie "zapłać" dwa razy w ciągu sekundy. Albo gdy bank zwróci nietypowy kod błędu.

Kod wygląda lepiej. Działa w 99% przypadków. Ten 1%? Klienci tracą pieniądze.

Zero świadomości operacyjnej — AI nie wie, że nie wie

To najbardziej podstępny problem.

Dobry programista wie, czego nie wie. Wie, kiedy zapytać. Wie, że zmiana w module A może wpłynąć na moduł B. Wie, że przed wdrożeniem trzeba przetestować na środowisku testowym. Wie, że o 15:00 w piątek NIE wdraża się zmian na produkcję.

Agent AI? Nie ma tej świadomości.

Nie rozumie, że system działa w chmurze AWS i ma określone limity API. Nie wie, że baza danych ma specyficzną konfigurację. Nie pamięta, że trzy tygodnie temu zespół zdecydował o zmianie architektury.

Generuje kod, który technicznie jest poprawny, ale operacyjnie niewykonalny.

To jak dać komuś przepis na ciasto i oczekiwać, że sam się zorientuje, że piekarnik jest zepsuty, mąki brakuje, a goście są na diecie bezglutenowej.

Dlaczego to jeszcze nie jest "gotowe"

Branża technologiczna uwielbia hype. Każda firma AI chwali się, jak jej agent "autonomicznie" pisze kod, "samodzielnie" naprawia błędy i "bez nadzoru" wdraża zmiany.

Prawda jest prostsza i mniej efektowna.

Agenci AI są dziś świetnymi asystentami. Przyspieszają pracę doświadczonych programistów. Automatyzują nudne, powtarzalne zadania. Pomagają w generowaniu boilerplate'u (szablon kodu, który trzeba pisać w kółko).

Produkcyjny kod? Ten, od którego zależy biznes klientów, pieniądze użytkowników i reputacja firmy.

Jeszcze nie.

Problem nie leży w tym, że AI jest głupie. Problem w tym, że kodowanie to nie tylko pisanie składni. To rozumienie kontekstu biznesowego, świadomość ograniczeń infrastruktury, przewidywanie edge case'ów i odpowiedzialność za konsekwencje.

A tego AI — na razie — nie ma.

Co to oznacza dla Ciebie

Jeśli prowadzisz firmę i myślisz o zastąpieniu programistów agentami AI — nie.

Jeśli jesteś programistą i boisz się, że AI zabierze Ci pracę — spokojnie. Twoja wartość nie leży w pisaniu kodu, ale w rozumieniu, co ten kod ma robić i dlaczego.

Jeśli inwestujesz w startupy AI — patrz na te, które traktują AI jako narzędzie wspomagające ludzi, nie zastępujące ich.

Agenci AI zmienią sposób, w jaki piszemy kod. Zanim jednak zaczną robić to samodzielnie w produkcji, muszą nauczyć się czegoś więcej niż składni.

Muszą nauczyć się myśleć jak programiści.

Źródła

• VentureBeat AI - Why AI coding agents aren't production-ready