Halucynacje AI

Wirtualni korepetytorzy oparci na dużych modelach językowych radzą sobie świetnie – do momentu, gdy zaczynają zmyślać. Dla ucznia to dramat, bo wierzy w odpowiedź. Dla wydawcy edukacyjnego to ryzyko pozwu i utraty zaufania. Nowe badania…

Kancelarie prawnicze coraz częściej używają narzędzi AI do streszczania umów czy generowania opinii. Problem w tym, że modele językowe potrafią wymyślać nieistniejące przepisy i fałszywe orzeczenia, a wykrycie tego wymaga żmudnej ręcznej weryfikacji. Jeden przykład:…

Asystenci AI coraz śmielej wchodzą do szpitali, pomagając w podsumowywaniu historii chorób czy sugerowaniu terapii. Problem w tym, że modele językowe potrafią zmyślać - raz podadzą nieistniejącą alergię, innym razem wymyślą wynik badania, którego pacjent…

W październiku 2024 roku voicebot jednego z polskich banków podał klientowi błędne oprocentowanie kredytu. Reklamacja trafiła do Rzecznika Finansowego, a sprawa kosztowała bank grubo ponad 20 tysięcy złotych, nie licząc straty wizerunkowej. Takie sytuacje zdarzają…