Ubezpieczyciele odmawiają AI. Zbyt ryzykowne nawet dla nich

Kiedy ubezpieczyciele – ci sami, którzy wyceniają ryzyko trzęsień ziemi, pandemii i wybuchów w elektrowniach – mówią "nie" sztucznej inteligencji, wiesz że coś jest nie tak. AIG, Great American i WR Berkley właśnie wystąpiły do amerykańskich regulatorów z prośbą o zgodę na wykluczenie odpowiedzialności związanej z AI z korporacyjnych polis.

Powód? AI to – jak ujął to jeden z underwriterów w rozmowie z Financial Times – "zbyt wielka czarna skrzynka".

To nie są małe firmy ubezpieczeniowe szukające wymówki. To gracze, którzy przez lata budowali swoją pozycję właśnie na umiejętności wyceny tego, co inni uznają za niewyceniane. Ich decyzja o wycofaniu się z ubezpieczeń AI to sygnał ostrzegawczy dla całego rynku technologicznego. Jeśli profesjonaliści od ryzyka uważają, że nie są w stanie tego oszacować, pytanie brzmi: kto w ogóle może?

Ryzyko bez historii

Ubezpieczenia działają prosto. Analizujesz dane z przeszłości, wyliczasz prawdopodobieństwo, ustalasz cenę. Gotowe.

Problem? AI nie ma przeszłości. Nie ma precedensów. modele językowe generują treści, podejmują decyzje, wpływają na życie ludzi – ale nikt nie wie, kiedy i jak popełnią błąd. Halucynacja w raporcie medycznym? Dyskryminacja w rekrutacji? Wyciek wrażliwych danych?

Firmy ubezpieczeniowe patrzą na to jak na bombę zegarową. Bez zegara.

Tradycyjne modele aktuarialne opierają się na dziesiątkach lat danych statystycznych. Ubezpieczyciele wiedzą dokładnie, jakie jest prawdopodobieństwo wypadku samochodowego w danej grupie wiekowej, jak często dochodzi do pożarów w budynkach określonego typu, ile kosztują przeciętne szkody powodziowe. Mają tabele, wykresy, trendy. W przypadku AI? Mają chaos.

Systemy AI wdrażane dziś będą działać inaczej za sześć miesięcy – po kolejnych aktualizacjach, zmianach w danych treningowych, modyfikacjach algorytmów. Jak ubezpieczyć coś, co zmienia się szybciej niż zdążysz podpisać polisę? Jak przewidzieć szkody, gdy sama technologia jest w fazie ciągłego eksperymentu?

Paradoks branży ryzyka

"Czarna skrzynka" to nie przypadkowe określenie. Nawet twórcy zaawansowanych modeli AI nie potrafią do końca wyjaśnić, dlaczego system podjął konkretną decyzję. To jak ubezpieczanie kogoś, kto nie wie, co zrobi za pięć minut.

I tu się robi ciekawie: branża, która zarabia na zarządzaniu niepewnością, nagle staje przed niepewnością zbyt dużą do wyceny. AIG – gigant, który ubezpieczał projekty kosmiczne i elektrownie jądrowe – teraz mówi: AI? Dzięki, nie.

Ironia jest niemal bolesna.

Elektrownia jądrowa ma znane parametry bezpieczeństwa, procedury awaryjne, historię incydentów z całego świata. Lot kosmiczny opiera się na fizyce, którą rozumiemy i możemy modelować. Nawet katastrofy naturalne mają swoje wzorce, częstotliwość, geograficzne uwarunkowania. AI? AI to system, który może nagle zacząć generować rasistowskie treści, pomimo że wczoraj działał bez zarzutu. To technologia, która potrafi przejść od perfekcyjnych wyników do kompletnej porażki w ciągu jednej aktualizacji.

Ubezpieczyciele przyznają wprost: nie mają narzędzi do oceny tego ryzyka. Ich matematyczne modele, sprawdzone przez dekady, po prostu się nie sprawdzają. A gdy nie możesz wycenić ryzyka, masz dwie opcje: zażądać astronomicznej składki albo odmówić. Wybrali drugie.

Co to oznacza dla Twojej firmy

Jeśli wdrażasz AI, ta wiadomość powinna Cię zaniepokoić. Brak ubezpieczenia oznacza jedno: całe ryzyko związane z błędami algorytmów spada na Ciebie. Pomyłka modelu? Twój problem. Szkoda wizerunkowa? Twój rachunek. Pozew? Też Twój.

Wyobraź sobie scenariusz: Twój system AI do obsługi klienta nagle zaczyna udzielać błędnych porad medycznych. Albo algorytm rekrutacyjny dyskryminuje kandydatów ze względu na płeć czy pochodzenie – a Ty dowiadujesz się o tym dopiero z pozwu zbiorowego. Model do analizy finansowej halucynuje dane, na podstawie których zarząd podejmuje decyzje kosztujące miliony. Kto za to zapłaci?

Dotychczas firmy mogły liczyć na polisy odpowiedzialności cywilnej, które pokrywały błędy technologiczne. Teraz ta siatka bezpieczeństwa znika. Każde wdrożenie AI staje się zakładem na własne pieniądze – i reputację. Dla startupów może to oznaczać koniec działalności po pierwszym poważnym incydencie. Dla korporacji – straty, które żadna rezerwa nie pokryje.

Niektóre firmy już teraz tworzą wewnętrzne fundusze rezerwowe specjalnie na pokrycie potencjalnych szkód związanych z AI. Inne zatrudniają całe zespoły prawników do oceny ryzyka przed każdym wdrożeniem. To kosztuje. Bardzo kosztuje. I paradoksalnie może spowolnić innowacje bardziej niż jakakolwiek regulacja.

Ubezpieczyciele nie odrzucają AI z kaprysu. Robią to, bo ich modele ryzyka – te same, które działają od dekad – przestają działać w przypadku technologii ewoluującej szybciej niż Prawo, praktyka i zdrowy rozsądek razem wzięte.

A to dopiero początek. W miarę jak AI staje się coraz bardziej powszechne – w medycynie, transporcie, finansach, edukacji – skala potencjalnych szkód rośnie wykładniczo. Błąd w systemie diagnostycznym może dotyczyć milionów pacjentów. Awaria autonomicznego pojazdu może wywołać lawinę pozwów. Pomyłka w algorytmie kredytowym może zniszczyć życie tysięcy ludzi.

Pytanie nie brzmi "czy AI jest ryzykowne". Pytanie brzmi: "kto poniesie konsekwencje, gdy coś pójdzie nie tak". I odpowiedź właśnie się zmieniła.

Źródła

• TechCrunch AI