ryzyko AI

Jeden źle sformułowany paragraf w umowie handlowej kosztował kancelarię 2,5 miliona złotych. Nie napisał go stażysta, tylko algorytm. System agentowy, który miał przyspieszyć przegląd kontraktów, samodzielnie zmienił klauzulę walutową, a prawnik zatwierdził to jednym kliknięciem.…

W zeszłym roku autonomiczny dron dostawczy jednej z europejskich firm kurierskich zgubił paczkę wartą 800 euro na podmiejskim trawniku. Błąd nawigacji w deszczu. Standardowa polisa OC nie pokryła straty, bo operator nie zgłosił wcześniej, że…

Szpital wdraża system, który samodzielnie sugeruje leki na OIOM-ie. Popełnia błąd, pacjent doznaje uszczerbku, a odszkodowanie sięga 2 milionów złotych. Kto płaci? Dziś nikt nie ma na to dobrej odpowiedzi, dlatego większość placówek blokuje autonomiczne…

W 2012 roku Knight Capital stracił 440 milionów dolarów w 45 minut przez błąd w algorytmie. Dziś, gdy boty handlowe działają z prędkością mikrosekund, jeden źle skonfigurowany agent może wywołać katastrofę, zanim człowiek zdąży wcisnąć…