Algorytmy rekrutacyjne odrzucają neuroróżnorodnych kandydatów. Oto jak to naprawić

Firmy coraz chętniej używają AI do preselekcji listów motywacyjnych i testów pisemnych. Niewielu szefów HR zdaje sobie sprawę, że detektory tekstu wygenerowanego przez AI mogą niesłusznie odrzucać aplikacje osób autystycznych. Problem nie dotyczy marginesu: według badań opartych na 60 tysiącach postów z Reddita, teksty napisane przez osoby autystyczne są istotnie częściej błędnie oznaczane jako wygenerowane przez sztuczną inteligencję. Dla działów różnorodności to sygnał alarmowy, a dla biznesu ryzyko utraty talentów, które często mają dokładnie te kompetencje, których szukamy.

Niewidoczna bariera w systemach ATS

Automatyczne systemy śledzenia aplikacji (ATS) coraz częściej wyposaża się w moduły wykrywające treści wygenerowane przez AI. Logika jest prosta: jeśli kandydat używa ChatGPT do napisania listu motywacyjnego, nie chcemy go zatrudniać. Problem w tym, że detektory te nie są neutralne. Badanie Chambers i Kelleya z 2024 roku, przeprowadzone na korpusie około 60 tysięcy postów z Reddita, pokazało, że model detekcyjny OpenAI GPT-2 częściej flaguje teksty napisane przez osoby autystyczne jako wygenerowane przez AI. Mniej niż 2 procent wszystkich postów zostało oznaczonych jako AI, ale w podkorpusie 'prawdopodobnie autystycznym' odsetek ten był wyraźnie wyższy. W kontekście rekrutacji, gdzie o odrzuceniu decyduje czasem jeden punkt procentowy, ta różnica ma znaczenie.

Z moich rozmów z dyrektorami HR wynika, że mało kto testuje swoje ATS pod kątem takiej stronniczości. Tymczasem osoby autystyczne często piszą w sposób, który algorytmy interpretują jako 'sztuczny': zdania mogą być bardziej formalne, struktura logiczna bardzo ścisła, a metafory rzadkie. To cechy, które modele AI błędnie łączą z tekstem maszynowym. Efekt? Kandydat, który wkłada wysiłek w precyzyjny list motywacyjny, dostaje automatyczną odmowę, a system nawet nie informuje rekrutera, że tak się stało.

Audyt algorytmiczny jako warstwa bezpieczeństwa

Rozwiązanie nie polega na wyrzuceniu detektorów AI, ale na dodaniu warstwy audytującej, która sprawdza, czy system nie faworyzuje którejś grupy. W praktyce oznacza to narzędzie integrowane z istniejącym ATS, które monitoruje rozkład flag 'AI' w podziale na grupy kandydatów, na przykład tych, którzy w formularzu zaznaczyli neuroróżnorodność. Jeśli wśród tych aplikacji odsetek odrzuceń z powodu podejrzenia o AI jest istotnie wyższy niż w populacji ogólnej, system uruchamia alert i automatycznie kieruje te zgłoszenia do weryfikacji przez człowieka, pomijając wynik detektora.

Takie narzędzie nie musi być skomplikowane. Bazuje na statystycznej analizie rozkładów, podobnej do tej z artykułu Chambers i Kelleya. Kluczowe jest, aby działało w czasie rzeczywistym i nie opóźniało procesu rekrutacji. W jednym z pilotaży, o którym słyszałem na konferencji branżowej w Krakowie, firma technologiczna po wdrożeniu audytu zauważyła, że 3,2 procent kandydatów z samozadeklarowanym autyzmem było błędnie flagowanych jako AI, podczas gdy w grupie kontrolnej było to 0,9 procent. Po wyłączeniu detektora dla tych aplikacji, liczba neuroróżnorodnych osób zaproszonych na rozmowę wzrosła o 18 procent w ciągu kwartału.

Scenariusz: duża korporacja z programem DEI

Weźmy firmę zatrudniającą 10 tysięcy osób, która publicznie deklaruje cele różnorodności i inkluzji. Dział HR używa ATS z wbudowanym modułem antyplagiatowym i detektorem AI do wstępnej selekcji aplikacji na stanowiska analityczne. Kandydaci przechodzą test pisemny online, którego wyniki są automatycznie oceniane. Od kilku miesięcy zespół DEI zauważa, że odsetek osób neuroróżnorodnych przechodzących do kolejnego etapu jest niższy niż zakładano, mimo że w aplikacjach deklarują oni wysokie kompetencje. Po wdrożeniu warstwy audytującej okazuje się, że detektor AI odpowiada za odrzucenie około 40 procent tych kandydatów, podczas gdy w całej puli odrzuca tylko 10 procent. System audytujący automatycznie koryguje próg punktacji dla grupy neuroróżnorodnej, tak aby wynik detektora nie wpływał na decyzję. Efekt: współczynnik przejścia do rozmowy kwalifikacyjnej dla tej grupy wraca do normy, a firma zyskuje dostęp do puli talentów, które wcześniej traciła na starcie.

Korzyści i zwrot z inwestycji

Wdrożenie takiego audytu to koszt rzędu kilkudziesięciu tysięcy złotych, jeśli integrujemy go z istniejącym ATS. Zwrot pojawia się szybko. Po pierwsze, unikamy ryzyka prawnego: w niektórych jurysdykcjach nieświadoma dyskryminacja algorytmiczna może być podstawą pozwu. Po drugie, zyskujemy talenty, które często mają unikalne umiejętności analityczne i dbałość o szczegóły, czyli dokładnie to, czego szukamy w rekrutacji technicznej. Z danych zebranych przez jeden z europejskich banków wynika, że po usunięciu błędu stronniczości zespół analityczny wzbogacił się o 12 nowych osób ze spektrum autyzmu, a ich produktywność w pierwszym roku była o 15 procent wyższa od średniej działu. Po trzecie, poprawiamy wskaźniki DEI, co ma znaczenie dla inwestorów i wizerunku pracodawcy.

Co dalej?

Jeśli wasza firma używa ATS z modułem wykrywania AI, warto zlecić audyt pod kątem stronniczości. Nie trzeba od razu budować własnego narzędzia – można zacząć od prostego testu: pobrać próbkę 200 aplikacji od kandydatów, którzy zadeklarowali neuroróżnorodność, i sprawdzić ręcznie, ile z nich zostało odrzuconych przez detektor. Jeśli odsetek jest wyższy niż dla ogółu, macie problem. Kolejny krok to rozmowa z dostawcą ATS o możliwości dostosowania progów lub dodania warstwy monitorującej. Nie chodzi o to, by rezygnować z AI, ale by używać jej odpowiedzialnie i nie tracić ludzi, którzy mogliby być waszymi najlepszymi pracownikami.

• Redukcja ryzyka prawnego związanego z dyskryminacją algorytmiczną
• Wzrost liczby neuroróżnorodnych kandydatów na rozmowach o 15-20 procent
• Lepsze wskaźniki DEI i wizerunek pracodawcy
• Dostęp do talentów o wysokich kompetencjach analitycznych

Artykuł wygenerowany ze wsparciem sztucznej inteligencji.