Rozmawialem niedawno z szefowa HR duzej firmy produkcyjnej. Zlecila audyt algorytmu ATS, ktory przesiewal CV na stanowiska menedzerskie. Wyszlo na jaw, ze na 1000 wnioskow kandydatki ze srednia ocena 4,5 na 5 byly o 30 procent rzadziej zapraszane na rozmowy niz mezczyzni z identycznym rezultatem. Model nauczyl sie dyskryminacji z danych historycznych. Nowe podejscie, traktujace sprawiedliwosc jako symetrie, pozwala to wyeliminowac bez recznego poprawiania setek regul.
Algorytmiczne sito przepuszcza plec
W korporacyjnych systemach ATS nie chodzi juz tylko o sortowanie CV po slowach kluczowych. Modele uczenia maszynowego punktyuja kandydatow, analizujac historie zatrudnienia, dlugosc doswiadczenia, luki w zyciorysie i jezyk ogloszen. Problem w tym, ze te cechy czesto sa skorelowane z plcia. Jesli dane treningowe pochodza z okresu, gdy na stanowiskach kierowniczych dominowali mezczyzni, model moze uznawac typowo meska sciezke kariery za bardziej ‘pozytywna’, a przerwe zwiazana z urlopem macierzynskim za sygnal slabosci. Efekt? Kobiety z identycznymi kompetencjami dostaja nizszy scoring i rzadziej trafiaja na shortliste.
Symetria zamiast setek zasad
Badacze z projektu Singh zaproponowali proste rozwiazanie: sprawiedliwy klasyfikator powinien podejmowac ta sama decyzje, nawet jesli w CV zmienimy plec (operacja kontrfaktyczna), przy zachowaniu stalych cech merytorycznych. Stronniczosc to zlamanie tej symetrii. W praktyce dodaje sie do funkcji straty modelu dodatkowy skladnik (regularyzacje), ktory karze algorytm za to, ze wynik dla tego samego CV rozni sie przed i po symulowanej zamianie atrybutu wrazliwego. Metoda jest lekka obliczeniowo, nie wymaga analizy zlozonych grafow przyczynowych i moze zostac wpiety w istniejacy system ATS na poziomie koncowego rankingu.
Scenariusz: masowa rekrutacja juniorska, 5000 CV w cztery dni
Wyobrazmy sobie korporacje, ktora otwiera program absolwencki. Wplywa 5000 aplikacji. ATS z modelem rankingowym odrzuca 80 procent kandydatow na wstepie. Bez mechanizmu symetryzacji, wsrod odrzuconych mogloby znalezc sie o 40 procent wiecej kobiet niz mezczyzn o tym samym potencjale, bo algorytm nieuswiadomionie faworyzuje wzorzec ‘szybkiego awansu bez przerw’. Po dodaniu regularyzacji symetrii ten sam system daje identyczny punkt komu, kto ma te same kompetencje, niezaleznie od tego, czy na CV widnieje ‘Michal’ czy ‘Michalina’. Redukcja naruszen siega 90 procent, a koszt w dokladnosci to okolo 5 punktow procentowych – co przy masowej preselekcji jest nieodczuwalne, bo i tak do kolejnego etapu przechodzi tylko gorna polka kandydatow.
Co firma zyskuje, a ile kosztuje
Zacznijmy od kosztow. Brak sprawiedliwosci oznacza utrate talentow, ktore znajda prace u konkurencji. Jedno nieudane zatrudnienie menedzera sredniego szczebla to wedlug danych SHRM z 2022 roku koszt okolo 30-40 tysiecy zlotych (rekrutacja, wdrozenie, utracona produktywnosc). Jesli system odrzuca trzy swietne kandydatki, firma ryzykuje dodatkowe wydatki i dluzszy czas poszukiwan. Po stronie korzysci mamy lepsza roznorodnosc, co wedlug raportu McKinsey ‘Diversity Wins’ przeklada sie na wyzsza rentownosc zespolow zarzadzajacych (o 25 procent). Dochodzi ochrona wizerunku pracodawcy rownosciowego, unikniecie ryzyka prawnego zwiazanego z unijnym AI Act i brak koniecznosci recznego audytu setek regul decyzyjnych – bo symetryzacja dziala automatycznie. Sceptycy mowia, ze 5 procent spadku dokladnosci to za duzo. Moim zdaniem, w rekrutacji wolumenowej to pomijalne. Lepiej stracic kilku kandydatow przez szum niz cala grupe przez algorytmiczna dyskryminacje.
Pierwszy krok: audyt i pilotaż
Nie namawiam do natychmiastowej wymiany systemu ATS. Proponuje maly eksperyment: wyjmijcie z bazy 1000 historycznych CV, zmiencie w nich plec za pomoca prostego skryptu (np. imiona, zaimki) i przeslijcie ponownie do modelu. Jesli wyniki istotnie sie roznia, macie problem. Nastepnie, poproscie swojego dostawce ATS lub wewnetrzny zespol data science o zaimplementowanie lekkiej regularyzacji opartej na symetrii – kod nie zajmie wiecej niz kilkadziesiat linii, a calosc dziala w czasie rzeczywistym, nawet przy masowych naborach. Testujcie na probce 500 aplikacji i porownajcie rozklad plci na liscie finalistow przed i po. To moze byc najprostsza i najszybsza droga do rekrutacji slepej na plec.
- Redukcja naruszen sprawiedliwosci o ponad 90%, bez recznego pisania regul
- Minimalny koszt dokladnosci (okolo 5%) przy masowej preselekcji niezauwazalny
- Szybkie wdrozenie i dzialanie w czasie rzeczywistym, nawet przy 5000 CV
- Ochrona wizerunku pracodawcy i zgodnosc z nadchodzacymi regulacjami AI Act
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation
Autorzy: Nishit Singh
Machine learning systems deployed in high stakes socioeconomic settings routinely display bias. We formalize bias as a symmetry breaking operation: a classifier is fair if its outputs remain invariant under the counterfactual operation of switching a sensitive attribute, with merit features held …
arXiv: arxiv.org/abs/2606.06514
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
