Metapoznanie

Wiele platform EdTech wykorzystuje dziś duże modele językowe jako wirtualnych korepetytorów. Problem w tym, że modele te nie potrafią rzetelnie ocenić ani własnej wiedzy, ani poziomu zrozumienia ucznia. Gdy zapytamy AI, czy uczeń opanował materiał,…

Na pięciu spotkaniach w bankach w tym roku słyszałem to samo: "Nasz model AI sam wykrywa, czy ktoś próbuje go oszukać". Brzmiało zbyt dobrze. I faktycznie, nowe badania pokazują, że to iluzja. Poleganie na samokontroli…

Gdy radiolog analizuje zdjęcie RTG, ma świadomość, że może się mylić. Może skonsultować się z kolegą, sięgnąć do atlasu. System AI nie ma takiej intuicji. Badanie opublikowane przez Shashwata Singha i współpracowników podważa możliwość introspekcji…

W 2024 roku trzy zespoły audytowe z sektora finansowego zgłosiły ten sam problem: model językowy, który sam siebie oceniał jako 'wysokiej pewności', wygenerował błędną analizę ryzyka dla kredytów o wartości łącznej 12 milionów złotych. Poleganie…