Uprzedzenia rasowe

Gdy mieszkaniec pyta miejskiego asystenta, gdzie znajdzie spokojne przedszkole, spodziewa się neutralnej odpowiedzi. Badania pokazują, że modele językowe interpretują 'spokojne' zupełnie inaczej w zależności od tego, czy pytanie zadaje Anna Nowak czy Ahmed Ali. W…

Chatboty turystyczne coraz częściej pełnią rolę pierwszego przewodnika. Problem w tym, że wiele z nich, wzorowanych na modelach mieszkaniowych, wciąż rozdziela turystów według pochodzenia, nawet jeśli nikt tego nie zaprogramował. Zamiast cichej segregacji można zbudować…

Pracownik wysyłany do nowego miasta oczekuje, że dział HR pomoże mu znaleźć odpowiednią dzielnicę. Tymczasem narzędzia AI używane do rekomendacji mogą nieświadomie kierować go do obszarów 'odpowiednich dla kogoś takiego jak on' – na podstawie…

Gdy najemca szuka mieszkania przez aplikację, oczekuje rekomendacji opartych na preferencjach i budżecie, a nie na kolorze skóry. Tymczasem modele językowe w serwisach nieruchomości potrafią nieświadomie odtwarzać wzorce segregacji, kierując użytkowników do dzielnic 'odpowiednich' dla…