generative-ai

Algorytmy wyceny polis komunikacyjnych i mieszkaniowych coraz częściej wykorzystują dane geolokalizacyjne. Problem w tym, że kod pocztowy jest silnie skorelowany z rasą i statusem społecznym. Modele bezwiednie powielają efekt czerwonych stref, windowując składkę mieszkańcom dzielnic…

Elektroniczna dokumentacja medyczna karmi algorytmy wspomagające diagnozę, ale te same dane powielają historyczne nierówności. Pacjenci z mniejszości etnicznych regularnie dostają zaniżone oceny ryzyka, bo modele uczą się na uprzedzonej przeszłości. Nowe podejście, które traktuje stronniczość…

Rozmawialem niedawno z szefowa HR duzej firmy produkcyjnej. Zlecila audyt algorytmu ATS, ktory przesiewal CV na stanowiska menedzerskie. Wyszlo na jaw, ze na 1000 wnioskow kandydatki ze srednia ocena 4,5 na 5 byly o 30…

Dwie osoby o identycznych dochodach i historii spłat składają wniosek kredytowy w tym samym banku. Jedna dostaje pieniądze od ręki, druga zostaje odrzucona, bo algorytm wyłapał, że jest kobietą albo mieszka w 'gorszym' rejonie miasta.…