Lekarski kompas: Gdy AI nie gubi wątku pacjenta

W 2023 roku algorytm wspomagający diagnozę w jednym z amerykańskich szpitali zasugerował podanie leku, który w połączeniu z przewlekłą terapią pacjenta doprowadziłby do ostrej niewydolności nerek. Dostał pełną historię choroby w promptcie, 'przeczytał' ją, ale w trakcie wieloetapowego wnioskowania po prostu zgubił kluczową informację. Nie zignorował jej celowo - zbudował spójny obraz, a potem go stracił. Nowe badania pokazują, że to nie wyjątek, tylko reguła działania dużych modeli rozumujących.

Problem, którego lekarz by nie przeoczył

Kliniczne systemy wspomagania decyzji (CDSS) działają coraz częściej na architekturze łańcuchów myślowych - model analizuje historię pacjenta krok po kroku, żeby dojść do rekomendacji. Wygląda to świetnie w testach na wyidealizowanych przypadkach. W realnej pracy szpitalnej, gdzie pacjent ma cukrzycę typu 2, nadciśnienie, przyjmuje pięć leków dziennie i trafił na SOR z nietypowym bólem brzucha, zaczyna się problem.

Zespół Devina Pereiry i Willema Zuidemy z Vrije Universiteit Amsterdam opublikował właśnie pracę, która to wyjaśnia. Modele rozumujące budują w trakcie przetwarzania promptu precyzyjny, wewnętrzny 'model świata' - w badaniu na łamigłówce Wieże Hanoi była to geometrycznie wierna reprezentacja całej przestrzeni stanów. Problem w tym, że podczas dalszego planowania ta reprezentacja po prostu zanika. Cytując autorów: 'Obecne duże modele rozumujące budują model świata, a potem go tracą'. W kontekście medycznym nie chodzi o trójkąt Sierpińskiego, tylko o spójny obraz stanu pacjenta.

Gdy CDSS 'zapomina' o chorobie przewlekłej

Wyobraźmy sobie konkretny scenariusz. 67-letnia pacjentka z przewlekłą chorobą nerek (GFR 35), nadciśnieniem i osteoporozą trafia do szpitala z podejrzeniem zatorowości płucnej. System CDSS dostaje w promptcie pełną dokumentację: historię choroby, listę leków (w tym metforminę i alendronian), wyniki badań obrazowych i laboratoryjnych. Model rozpoczyna analizę - najpierw ocenia ryzyko zatorowości, potem proponuje antykoagulację, następnie sugeruje modyfikację leczenia przeciwcukrzycowego. I tu następuje utrata kontekstu. W piątym czy szóstym kroku łańcucha myślowego reprezentacja 'pacjentka ma GFR 35' ulega degradacji do poziomu, który nie wpływa już na rekomendację. System proponuje dawkę enoksaparyny odpowiednią dla osoby z prawidłową funkcją nerek.

Lekarz, widząc ten błąd, traci zaufanie do całego systemu. Nie dlatego, że model jest 'głupi' - on na początku analizy doskonale 'wiedział' o upośledzonej filtracji. Po prostu nie utrzymał tej informacji wystarczająco mocno w swojej wewnętrznej reprezentacji podczas dalszego wnioskowania.

Mechanizm utraty kontekstu i sposób na jego odzyskanie

Badacze z Amsterdamu nie tylko zdiagnozowali problem, ale też zaproponowali częściowe rozwiązanie. W eksperymencie na dużych modelach (Qwen3.6-27B, DeepSeek-R1-Distill-Qwen-32B) pokazali, że jeśli do reprezentacji wewnętrznej modelu wstrzyknie się - w trakcie wnioskowania - tę samą reprezentację, którą model miał zaraz po przetworzeniu promptu, wyniki wracają do akceptowalnego poziomu. Nazwijmy to 'kotwicą kontekstową'.

W praktyce przekłada się to na architekturę monitorującą. Zamiast polegać na jednym przebiegu modelu, system robi snapshot wewnętrznej reprezentacji stanu pacjenta zaraz po przetworzeniu historii choroby, zanim jeszcze zacznie się łańcuch myślowy dotyczący konkretnej diagnostyki. Jeśli w trakcie planowania reprezentacja kluczowych parametrów (funkcja nerek, interakcje lekowe, przeciwwskazania) spadnie poniżej zadanego progu podobieństwa do snapshota, system przywraca oryginalną reprezentację przed kolejnymi krokami. Alternatywnie - wysyła alert do lekarza z flagą 'utrata kontekstu pacjenta' i blokuje dalsze rekomendacje.

Korzyści i ROI dla placówek medycznych

Z danych zebranych przez The Leapfrog Group za 2022 rok wynika, że błędy w dawkowaniu leków z powodu nieuwzględnienia funkcji nerek dotykają około 4 na 100 hospitalizacji w USA. W polskich warunkach, gdzie cyfryzacja dokumentacji medycznej jest na wcześniejszym etapie, odsetek ten raczej nie jest niższy. Średni koszt leczenia powikłań pojedynczego zdarzenia niepożądanego związanego z lekiem to według raportu Agency for Healthcare Research and Quality z 2023 roku około 8 tysięcy dolarów.

Dla średniej wielkości szpitala wojewódzkiego przyjmującego 30 tysięcy pacjentów rocznie mówimy o grupie około 200-250 zdarzeń potencjalnie możliwych do uniknięcia dzięki mechanizmowi kotwicy kontekstowej. Przy założeniu, że system zapobiegnie 40 procentom z nich, roczne oszczędności samego kosztu powikłań to około 640-800 tysięcy złotych. Do tego dochodzi kwestia odpowiedzialności prawnej i reputacyjnej - każdy przypadek 'AI zaleciło niebezpieczną dawkę' to potencjalny pozew i materiał dla mediów.

Co dalej: rekomendacja dla zespołów wdrożeniowych

Technologia kotwiczenia reprezentacji nie wymaga trenowania modelu od zera. Pracuje jako middleware między CDSS a modelem bazowym - przechwytuje reprezentację wewnętrzną i monitoruje jej dryf. To oznacza, że można ją testować na istniejących systemach bez inwestycji w nowe trenowanie. Rekomendowane podejście to trzytygodniowy pilotaż na ograniczonym zakresie: tylko pacjenci z przewlekłą chorobą nerek (GFR poniżej 45) i minimum trzema lekami w karcie. Zespół walidacyjny porównuje rekomendacje z kotwicą i bez, oceniając zgodność z rzeczywistymi decyzjami lekarskimi. Po dwóch tygodniach ma się wystarczająco danych, żeby zdecydować o rozszerzeniu na inne grupy ryzyka.

• Redukcja ryzyka błędnych interakcji lekowych przez utrzymanie spójnego kontekstu pacjenta
• Brak konieczności trenowania nowego modelu - działa jako warstwa monitorująca
• Szacunkowe oszczędności 640-800 tys. zł rocznie dla średniego szpitala z samego unikania powikłań nefrologicznych

Artykuł wygenerowany ze wsparciem sztucznej inteligencji.