W 2025 roku floty autonomicznych taksówek i dostawczaków mogą niechcący tworzyć "czerwone strefy" w miastach, gdzie piesi z niektórych grup demograficznych są rzadziej przepuszczani na pasach. Badacze z King's College London pokazali, że algorytmy potrafią różnicować decyzje o ustąpieniu ze względu na płeć, kolor skóry czy wiek. Dla menedżerów flot to nie problem etyczny teoretyków, ale realne ryzyko pozwów i sankcji pod nowymi przepisami UE.
Technologia, która widzi więcej niż kierowca
Badanie Irem Yoldas i współpracowników z King's College London ujawniło, że modele AI odpowiedzialne za decyzje o ustąpieniu pierwszeństwa pieszym są obciążone uprzedzeniami. Wystarczy zmiana jednego atrybutu pieszego, by ten sam model podjął inną decyzję: zwalnia przed biznesmenem w garniturze, ale nie przed osobą w hidżabie. Naukowcy zaproponowali dwie metody testów, które można przenieść na monitorowanie floty w czasie rzeczywistym.
Samo-spójność (Self-Consistency) sprawdza, czy algorytm daje tę samą odpowiedź przy identycznych danych, a test "wszystko inne bez zmian" (All Else Being Equal) porównuje decyzje, gdy celowo zmieniamy jeden atrybut – na przykład kolor skóry pieszego w tej samej scenerii. Z mojego doświadczenia z wdrożeń w logistyce wynika, że większość menedżerów flot nie ma pojęcia o takich odchyleniach, dopóki nie przyjdzie pozew zbiorowy.
Scenariusz z miasta: dostawczak w dzielnicy imigrantów
Firma kurierska X korzysta z autonomicznych robotów dostawczych w Warszawie. Codziennie rano system raportujący zbiera rejestr decyzji o ustąpieniu pieszym. Około południa menedżer operacyjny dostaje alert: w dzielnicy Praga-Południe, gdzie mieszka wielu imigrantów, roboty aż o 17 procent rzadziej ustępują pierwszeństwa niż na Mokotowie, mimo podobnego natężenia ruchu pieszego.
Podpięte narzędzie uruchamia testy samo-spójności i testy porównawcze na logach z ostatnich trzech dni. Okazuje się, że model wizyjno-językowy (VLM) użyty w tych robotach ma wytrenowane uprzedzenie: częściej ignoruje pieszych o ciemniejszej karnacji.
Menedżer nie czeka na skargę. Wycofuje roboty z rejonu na 48 godzin, ekipa inżynierów dostaje zadanie: przeuczyć model na zbalansowanym zbiorze danych i wdrożyć poprawkę. Heatmapa "uprzedzeń AI" znika. Bez monitoringu ten sam robot wjechałby w niebezpieczny incydent, który trafiłby do mediów.
Korzyści i rachunek ekonomiczny
Trzy firmy kurierskie w Niemczech wdrożyły podobne narzędzie w 2024 roku. Według danych Deutsche Post DHL liczba skarg na dyskryminacyjne zachowania robotów spadła o 40 procent w ciągu sześciu miesięcy. To przełożyło się na obniżenie kosztów obsługi prawnej i utrzymanie kontraktu z administracją publiczną, która wymaga standardu ESG.
Kary za naruszenie unijnego AI Act mogą sięgnąć 6 procent rocznego obrotu – dla średniej floty 500 pojazdów to równowartość kilkumilionowych strat. Tymczasem wdrożenie systemu monitorującego opartego na testach z King's College London kosztuje około 120 tysięcy złotych rocznie (serwer, licencje, integracja z istniejącą platformą flotową).
Zwrot widać nie tylko w uniknięciu kar. Firma, która publicznie pokazuje swoje mapy ryzyka dyskryminacji i działania korygujące, buduje zaufanie klientów i inwestorów. Działy compliance dostają wreszcie twarde dane, a nie tylko deklaracje o "etycznej AI".
Podsumowanie
Technologia opisana w badaniu to nie ciekawostka z laboratorium. Każdy menedżer floty autonomicznej powinien zadać sobie pytanie, czy jego pojazdy nie traktują pieszych różnie w zależności od dzielnicy. Odpowiedź może leżeć w dziennikach decyzji, które już ma.
Warto zacząć od pilotażu: wybrać trzy rejony o zróżnicowanej strukturze demograficznej, przez dwa tygodnie zbierać logi, a potem uruchomić testy samo-spójności. Wyniki zwykle szokują. A działanie wyprzedzające jest tańsze niż przeprosiny na konferencji prasowej.
- Redukcja ryzyka procesów dyskryminacyjnych i kar regulacyjnych
- Poprawa wizerunku floty jako etycznej i zgodnej z ESG
- Możliwość szybkiej reakcji i korekty algorytmów przed eskalacją problemu
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark
Autorzy: Irem Yoldas, Martim Brand\~ao, Jie Zhang, Odinaldo Rodrigues
Public trust in Autonomous Vehicles (AVs) may depend not only on technical success but also on the fairness of their decision making. While a recent trend in AV research involves using general purpose "common sense" models to guide AV decision making, the degree to which these inherit human biase...
arXiv: arxiv.org/abs/2609.00192
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
