Wyobraź sobie autonomiczny samochód, który na widok pieszego w garniturze zwalnia, a przy osobie w dresie po prostu przejeżdża. Brzmi jak absurdalny scenariusz? Niestety, najnowsze badania pokazują, że sztuczna inteligencja sterująca pojazdami przyszłości może dziedziczyć nasze – ludzkie – uprzedzenia. Zespół Irem Yoldas z King's College London udowodnił, że decyzje o ustąpieniu pierwszeństwa pieszemu zależą od jego płci, pochodzenia etnicznego, a nawet statusu społeczno-ekonomicznego.
Dwa światła na skrzyżowaniu
Testowanie autonomicznych pojazdów koncentruje się zwykle na tym, czy auto nie wjedzie w słup albo czy rozpoznaje znaki. Badacze z King's College London postawili pytanie, które większość inżynierów pomija: czy algorytm podejmujący decyzję 'przepuścić pieszego czy nie' będzie traktował wszystkich równo?
Żeby to sprawdzić, opracowali dwie nowe metody. Pierwsza, nazwana 'All Else Being Equal', polega na testowaniu scenariusza, w którym zmienia się tylko jeden atrybut pieszego, na przykład płeć albo kolor skóry, a cała reszta (droga, pogoda, odległość) pozostaje taka sama. Druga metoda, 'Self-Consistency', sprawdza, czy model udzieli tej samej odpowiedzi na to samo pytanie zadane wielokrotnie. Jeśli raz każe hamować, a raz nie, to znaczy, że gdzieś w środku ma problem ze spójnością, a to może być sygnał ukrytych uprzedzeń.
Obie techniki zastosowano do popularnych modeli językowych (LLM) i wizualno-językowych (VLM), czyli tych samych architektur, które coraz częściej trafiają do prototypów samochodów bez kierowcy. Wyniki nie pozostawiają złudzeń.
Kto dostanie pierwszeństwo? Wyniki zaskakują
W testach modele podejmowały decyzje o ustąpieniu pierwszeństwa w sposób systematycznie zależny od cech pieszego. Płeć, pochodzenie etniczne, religia, niepełnosprawność, wiek, odcień skóry i status społeczno-ekonomiczny, każda z tych zmiennych wpływała na to, czy wirtualny samochód zwalniał, czy jechał dalej. Nie był to jeden, spójny wzorzec uprzedzeń; każdy model miał swoje własne 'preferencje', ale wszystkie pokazywały jakieś uprzedzenia.
Badacze podkreślają: 'Nasze odkrycia pokazują, że zarówno LLM, jak i VLM podejmują decyzje o ustąpieniu pierwszeństwa, na które wpływają płeć, pochodzenie etniczne, religia, niepełnosprawność, wiek, odcień skóry i status społeczno-ekonomiczny pieszego'. Innymi słowy, algorytmy nie są neutralne, odtwarzają schematy, które wsiąkły w nie podczas treningu na danych z internetu, gdzie pełno jest stereotypów.
Zaufanie publiczne do pojazdów autonomicznych może zależeć nie tylko od sukcesu technicznego, ale także od sprawiedliwości ich decyzji.
Irem Yoldas, Martim Brandão, Jie Zhang, Odinaldo Rodrigues
Abstract
Zdrowy rozsądek maszyny? Nie taki zdrowy
Wiele firm motoryzacyjnych stawia na modele 'zdroworozsądkowe', czyli LLM-y, które mają radzić sobie w nowych sytuacjach dzięki ogólnej wiedzy o świecie. To kusząca wizja: samochód, który wie, że na pasach trzeba się zatrzymać, nawet jeśli nigdy wcześniej nie widział tego konkretnego przejścia. Tyle że ten 'zdrowy rozsądek' okazuje się być przesiąknięty uprzedzeniami.
Autorzy badania nie pozostawiają wątpliwości: 'Argumentujemy, że analizy uprzedzeń powinny być częścią oceny pojazdów autonomicznych'. Dziś testy bezpieczeństwa sprawdzają głównie, czy auto nie spowoduje kolizji. Nikt nie mierzy, czy system traktuje pieszych sprawiedliwie. A przecież zaufanie publiczne do autonomicznych pojazdów, jak zauważają badacze, 'może zależeć nie tylko od sukcesu technicznego, ale także od sprawiedliwości ich decyzji'. Samochód, który częściej przepuszcza białego mężczyznę w garniturze niż czarnoskórą kobietę, nie zdobędzie zaufania społeczeństwa, nawet jeśli nigdy nie spowoduje wypadku.
Jak to zmierzyć? Nowe narzędzia do audytu
Zaproponowane metody testowania są na tyle proste, że można je wdrożyć w istniejących pipeline'ach testowych. 'All Else Being Equal' przypomina trochę eksperymenty psychologiczne, w których badacze zmieniają jeden szczegół w CV, żeby sprawdzić dyskryminację na rynku pracy. Tutaj zmienia się jeden atrybut pieszego i patrzy, czy decyzja modelu się zmienia. Jeśli tak, mamy dowód na uprzedzenie.
Z kolei testy spójności ('Self-Consistency') ujawniają wewnętrzną zmienność modelu. Jeśli na dziesięć zapytań o tę samą sytuację model odpowie 'tak' sześć razy i 'nie' cztery, to znaczy, że jego decyzje są losowe w pewnym stopniu, a losowość w kontekście bezpieczeństwa na drodze jest niedopuszczalna. Co gorsza, ta zmienność może się różnić w zależności od grupy społecznej pieszego, co dodatkowo pogłębia niesprawiedliwość.
- Modele AI stosowane w autonomicznych pojazdach podejmują decyzje o ustąpieniu pierwszeństwa pieszym na podstawie ich płci, pochodzenia etnicznego, religii, niepełnosprawności, wieku, odcienia skóry i statusu społeczno-ekonomicznego.
- Zaproponowano dwie nowe metody testowania uprzedzeń: 'All Else Being Equal' (zmiana jednego atrybutu) i 'Self-Consistency' (spójność odpowiedzi).
- Badacze postulują włączenie analizy uprzedzeń do standardowej oceny bezpieczeństwa pojazdów autonomicznych.
Praktyczne zastosowania
Aby lepiej zrozumieć opisywaną innowację, przygotowaliśmy cztery przykłady praktycznego zastosowania tej technologii w różnych branżach:
Podsumowanie
Badanie pokazuje, że algorytmy autonomicznych samochodów mogą dyskryminować pieszych na podstawie cech takich jak płeć czy kolor skóry. W praktyce oznacza to, że producenci pojazdów autonomicznych i firmy rozwijające systemy AI do motoryzacji powinni rozszerzyć testy bezpieczeństwa o audyt uprzedzeń. Dla regulatorów to sygnał, że certyfikacja pojazdu autonomicznego nie może ograniczać się do testów kolizyjnych – musi obejmować sprawiedliwość decyzji. Wreszcie, dla urbanistów i władz miast planujących wdrożenie flot autonomicznych taksówek, wyniki te są ostrzeżeniem, że technologia może pogłębiać nierówności społeczne, zamiast je niwelować.
Metryka artykułu źródłowego
Tytuł oryginalny: LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark
Autorzy: Irem Yoldas, Martim Brand\~ao, Jie Zhang, Odinaldo Rodrigues
Data publikacji: 2 września 2026
arXiv: arxiv.org/abs/2609.00192
Napisanie tego artykułu zostało wspomagane przez sztuczną inteligencję. Treść opiera się na oryginalnym artykule naukowym, a jej dokładność została zweryfikowana automatycznie.
