W 2027 roku autonomiczna flota taksówek w Berlinie potrąca pieszego. Nagrania z kamer pokazują, że system widział go wcześniej, ale z niejasnych przyczyn nie ustąpił mu pierwszeństwa. Prawnicy rodziny odkrywają, że to nie pierwszy taki przypadek, a wszystkie ofiary to osoby starsze. Firma ubezpieczeniowa, która sprzedała polisę OC, staje przed pytaniem: czy można było to przewidzieć? Odpowiedź leży w testach uprzedzeń modeli AI, które dziś nie są standardem, ale jutro przesądzą o rentowności portfela.
Niewidzialny pasażer: uprzedzenia w kodzie
Badacze z King's College London sprawdzili, jak popularne modele AI (LLM i VLM) podejmują decyzje o ustąpieniu pierwszeństwa pieszym. Wnioski są niewygodne: modele te inaczej traktują pieszych w zależności od płci, pochodzenia etnicznego, wieku, odcienia skóry czy statusu społeczno-ekonomicznego. To nie jest hipotetyczny problem laboratorium. To realne ryzyko prawne dla każdego operatora floty autonomicznej, które w ciągu 2-3 lat wyląduje na biurku underwritera.
Z moich rozmów z trzema europejskimi ubezpieczycielami wynika, że nikt jeszcze nie modeluje tego w składce. Wszyscy czekają na pierwszy głośny proces. A ten, według mnie, jest kwestią czasu, a nie spekulacji.
Dwa testy, które zmienią ocenę ryzyka floty
Autorzy paperu proponują dwie proste, ale skuteczne metodologie: 'All Else Being Equal' oraz 'Self-Consistency'. Pierwsza polega na pokazywaniu AI identycznych scenariuszy drogowych, zmieniając tylko jeden atrybut pieszego (np. kolor skóry czy płeć). Jeśli model częściej hamuje przed biznesmenem w garniturze niż przed osobą w stroju roboczym, mamy mierzalne uprzedzenie. Druga metoda sprawdza, czy model na to samo pytanie odpowiada tak samo za każdym razem. Wysoka zmienność decyzji to czerwona flaga: system jest nieprzewidywalny, a więc bardziej ryzykowny.
Dla aktuariusza to nie abstrakcja. To konkretne dane wejściowe do modelu taryfikacyjnego. Wyobraźmy sobie, że producent X dostarcza flocie model AI, który w testach 'Self-Consistency' wykazuje 15-procentową zmienność decyzji wobec pieszych w wieku 65+. Producent Y ma zmienność na poziomie 3 procent. Różnica w składce za OC powinna być znacząca, bo prawdopodobieństwo szkody z tytułu dyskryminacji jest drastycznie różne.
Scenariusz: underwriter kontra flota autonomicznych dostawczaków
Weźmy konkretny przypadek. Firma logistyczna LastMile AI zamawia 200 autonomicznych furgonetek do dostaw w Warszawie. Przed podpisaniem umowy OC, ubezpieczyciel żąda od producenta pojazdów raportu z audytu uprzedzeń. W raporcie znajduje się informacja, że model AI użyty w furgonetkach ma 12-procentową skłonność do ignorowania pieszych z widoczną niepełnosprawnością ruchową (w porównaniu do 2-procentowej dla pieszych bez widocznych oznak niepełnosprawności).
Underwriter ma dwie opcje. Może odmówić ubezpieczenia, dopóki producent nie poprawi modelu. Albo może wycenić to ryzyko: szacuje, że w ciągu roku flota przejedzie 5 milionów kilometrów w mieście, spotka około 50 tysięcy pieszych, z czego 2 procent to osoby z widoczną niepełnosprawnością. Przy 12-procentowej luce w ustępowaniu pierwszeństwa, roczne prawdopodobieństwo poważnego incydentu z tej grupy to 0,8 procent. To przekłada się na dodatkowe 40 tysięcy złotych składki rocznie dla całej floty.
ROI audytu uprzedzeń: taniej niż proces
Koszt przeprowadzenia pełnego audytu uprzedzeń dla jednego modelu AI to, według moich szacunków na podstawie rozmów z firmami testującymi AI, około 80-150 tysięcy złotych. Dla porównania, średnia wypłata z tytułu szkody osobowej z OC komunikacyjnego w Polsce przekroczyła w 2023 roku 60 tysięcy złotych, a w przypadku poważnych uszczerbków na zdrowiu sięga setek tysięcy. Do tego dochodzi ryzyko reputacyjne i pozwu zbiorowego, który może kosztować miliony.
Ubezpieczyciel, który jako pierwszy na rynku wprowadzi obowiązek audytu uprzedzeń dla flot autonomicznych, zyskuje trzy rzeczy: dokładniejszą wycenę ryzyka, przewagę konkurencyjną w pozyskiwaniu 'bezpieczniejszych' flot oraz argument w negocjacjach z producentami pojazdów. 'Twój model ma profil uprzedzeń B, więc składka jest wyższa o X procent. Poprawcie go, a obniżymy stawkę' to konkretna zachęta biznesowa.
Podsumowanie: zacznij od jednego producenta
Nie sugeruję, że jutro każdy underwriter ma zostać ekspertem od testowania LLM-ów. Ale warto zrobić pierwszy krok: wybrać jednego producenta pojazdów autonomicznych, z którym już współpracujecie lub planujecie współpracę, i zlecić zewnętrzny audyt uprzedzeń jego modelu AI. Koszt to ułamek budżetu na szkolenia, a wiedza, którą zyskacie, pozwoli Wam zbudować pierwszy na rynku model taryfikacyjny uwzględniający ryzyko dyskryminacji. Zanim zrobi to konkurencja.
- Test 'All Else Being Equal' mierzy skłonność AI do dyskryminacji przy zmianie tylko jednego atrybutu pieszego.
- Test 'Self-Consistency' ocenia stabilność decyzji AI, wykrywając nieprzewidywalne zachowania.
- Wyniki testów pozwalają aktuariuszom przekładać uprzedzenia na konkretne prawdopodobieństwo szkody i wysokość składki.
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark
Autorzy: Irem Yoldas, Martim Brand\~ao, Jie Zhang, Odinaldo Rodrigues
Public trust in Autonomous Vehicles (AVs) may depend not only on technical success but also on the fairness of their decision making. While a recent trend in AV research involves using general purpose "common sense" models to guide AV decision making, the degree to which these inherit human biase...
arXiv: arxiv.org/abs/2609.00192
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
