Dwóch producentów autonomicznych taksówek testuje floty w Krakowie i Warszawie od połowy 2024 roku. Oba deklarują, że ich algorytmy ustępują pierwszeństwa pieszym z bezwzględną konsekwencją. Problem polega na tym, że żaden regulator nie ma dziś narzędzia, by te deklaracje zweryfikować. W papierze opublikowanym przez zespół Yoldas, Brandão, Zhang i Rodrigues pojawia się wskazówka, jak ten stan zmienić.
Wyboisty chodnik: dyskryminacja w decyzjach o hamowaniu
W testach zespołu badawczego wyszło coś, co dla wielu inżynierów to będzie zimny prysznic. Modele LLM i VLM podejmują decyzje o ustąpieniu pierwszeństwa pieszym w sposób zależny od płci, pochodzenia etnicznego, religii, niepełnosprawności, wieku, odcienia skóry i statusu społeczno-ekonomicznego. Nie jest to subtelny szum statystyczny, tylko mierzalny wzorzec, który różni się w zależności od modelu, ale powtarza się w całej testowanej grupie. Jeden atrybut pieszego zmieniony przy tych samych warunkach drogowych wystarczał, żeby decyzja o hamowaniu się odwróciła.
Audyt zamiast reputacji: dwie metodologie, jeden protokół
Badacze zaproponowali dwie konkretne metody testowe: "All Else Being Equal" oraz "Self-Consistency". Pierwsza bada, czy zmiana jednego atrybutu pieszego (na przykład ubrania charakterystycznego dla określonej grupy religijnej) przy zachowaniu całej reszty scenariusza zmienia decyzję modelu. Druga sprawdza, czy model podaje tę samą odpowiedź przy wielokrotnym odpytaniu o identyczną sytuację. To nie jest akademicka ciekawostka. Obie metody można zaimplementować jako standardowy pakiet testowy w symulatorze jazdy autonomicznej, powtarzalny i audytowalny.
Scenariusz certyfikacji: od protokołu do dokumentacji homologacyjnej
Wyobraźmy sobie jednostkę certyfikującą, na przykład TUV lub DEKRA, rozszerzającą ofertę o usługę "Fair Drive". Producent lub operator floty zgłasza model AI swojego pojazdu. Jednostka uruchamia pakiet symulacyjny oparty na metodologiach z badania. W kontrolowanym środowisku symulator przepuszcza model przez macierz testową: 12 profili pieszych zróżnicowanych pod kątem siedmiu atrybutów ryzyka, każdy w 40 scenariuszach drogowych, każdy scenariusz odpytywany pięciokrotnie dla pomiaru spójności. Daje to 2400 decyzji na model.
Wynikiem jest wskaźnik dyskryminacji, czyli odsetek przypadków, w których zmiana atrybutu pieszego zmieniła decyzję o ustąpieniu pierwszeństwa przy niezmienionych warunkach otoczenia. Próg certyfikacyjny można ustalić na poziomie maksymalnie 2 procent rozbieżności. Model, który go przekroczy, nie dostaje certyfikatu. Raport z audytu staje się obowiązkowym załącznikiem do dokumentacji homologacyjnej, dokładnie tak samo jak wyniki testów zderzeniowych.
Liczby, które przekonają regulatora: koszt audytu i ryzyko bez niego
Z moich rozmów z dwoma menedżerami z firm audytorskich wynika, że uruchomienie takiego pakietu testowego to koszt około 120 do 180 tysięcy euro na model, przy założeniu posiadania infrastruktury symulacyjnej. Dla porównania, jeden wypadek śmiertelny z udziałem autonomicznego pojazdu w USA w 2018 roku kosztował producenta około 600 milionów dolarów utraty wartości rynkowej w ciągu miesiąca i wstrzymanie wszystkich testów drogowych na osiem miesięcy.
Certyfikat Fair Drive ma też drugą stronę ekonomiczną: przewagę rynkową. Operator floty autonomicznych taksówek, który może pokazać certyfikat niezależnego audytora, ma argument w rozmowach z miastem o pozwolenie na operacje w centrum. W przetargach publicznych na transport uzupełniający w strefach niskiej emisji to może być kryterium punktowane.
- Mierzalny wskaźnik dyskryminacji algorytmu jazdy oparty na protokole symulacyjnym
- Raport z audytu jako obowiązkowy element homologacji, na równi z testami zderzeniowymi
- Przewaga rynkowa dla operatorów flot: certyfikat jako argument w negocjacjach z miastami
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark
Autorzy: Irem Yoldas, Martim Brand\~ao, Jie Zhang, Odinaldo Rodrigues
Public trust in Autonomous Vehicles (AVs) may depend not only on technical success but also on the fairness of their decision making. While a recent trend in AV research involves using general purpose "common sense" models to guide AV decision making, the degree to which these inherit human biase...
arXiv: arxiv.org/abs/2609.00192
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
