Gdy konsylium AI myśli jednym głosem, pacjenci z rzadkimi chorobami pozostają niezdiagnozowani

W standardowym procesie diagnostycznym zespół lekarzy analizuje przypadek z różnych perspektyw. Tymczasem systemy wspomagania decyzji klinicznych oparte na wielu agentach AI często zachowują się jak grupa rezydentów, którzy po krótkiej naradzie bezkrytycznie przejmują opinię najbardziej przekonującego kolegi. W przypadku chorób rzadkich ten efekt stadny może dosłownie kosztować życie.

Problem przedwczesnego konsensusu w diagnostyce

Wyobraźmy sobie 45-letniego pacjenta z niespecyficznymi objawami: zmęczenie, stany podgorączkowe, bóle stawów. Trafia do szpitala, gdzie zespół diagnostyczny używa systemu CDSS opartego na kilku agentach LLM. Pierwszy agent sugeruje boreliozę, drugi RZS, trzeci toczeń. Po wymianie informacji wszystkie trzy modele wskazują na boreliozę, bo ta diagnoza pojawiła się jako pierwsza i dane demograficzne regionu ją wspierają. Pacjent dostaje antybiotyk i wychodzi do domu. Tyle że to był chłoniak angioimmunoblastyczny, choroba występująca u 0.05 na 100 000 osób rocznie. System nie zasygnalizował tej możliwości, bo agenty zbyt szybko się ze sobą zgodziły.

Zjawisko to ma swoją nazwę w literaturze: sprzężenie reprezentacyjne (representational coupling). Badania Liu (2025) z protokołem BOUNDARY_SYNC pokazują, że gdy agenty LLM komunikują się tekstowo, ich wyjścia homogenizują się ze współczynnikiem CAF=0.803. Mówiąc prościej: tracą około 20 procent różnorodności opinii po zaledwie jednej rundzie wymiany informacji. W diagnostyce różnicowej to nie jest margines błędu, tylko potencjalne przeoczenie diagnozy ratującej życie.

Protokół BOUNDARY_SYNC jako strażnik różnorodności opinii

Liu zaproponował protokół, który mierzy stopień sprzężenia reprezentacyjnego między agentami za pomocą współczynnika CAF (Coupling Amplification Factor). Wartość poniżej 1 oznacza homogenizację, powyżej 1 dywersyfikację. Kluczowe odkrycie: sprzężenie jest bezstanowe i zależy wyłącznie od kontekstu promptu, nie od skumulowanej historii. Oznacza to, że można nim sterować na poziomie pojedynczej interakcji, bez przebudowy całego systemu.

W praktyce klinicznej BOUNDARY_SYNC działa jak czujnik różnorodności. System CDSS przed przedstawieniem ostatecznej rekomendacji lekarzowi sprawdza CAF dla puli agentów diagnostycznych. Jeśli współczynnik spadnie poniżej ustalonego progu, na przykład 0.7, system generuje alert: 'Uwaga: zbyt wysoka zgodność w zespole agentów. Rozważ dodatkowe ścieżki diagnostyczne.' To trochę jak posiadanie w zespole diagnostycznym lekarza, który zawsze pyta: 'A co, jeśli to nie to?'

Scenariusz wdrożenia w oddziale radiologii

Weźmy oddział radiologii w szpitalu wojewódzkim, który rocznie wykonuje około 40 000 badań TK. Szpital używa systemu wspomagania opartego na trzech agentach LLM analizujących obrazy pod kątem zmian nowotworowych. Standardowy workflow: agenty niezależnie oceniają badanie, wymieniają się wnioskami, generują wspólną rekomendację.

Z danych Liu wynika, że grupy trzyosobowe (K=3) wykazują CAF powyżej 1.0, czyli komunikacja paradoksalnie zwiększa różnorodność. To dobra wiadomość dla małych zespołów. Problem pojawia się przy pięciu agentach (K=5), gdzie CAF spada poniżej 1. W diagnostyce rzadkich nowotworów, takich jak mięsaki tkanek miękkich (częstość około 4 na 100 000), zawężenie puli hipotez do jednej czy dwóch najbardziej prawdopodobnych oznacza pominięcie diagnozy w 30 do 40 procent przypadków, według danych z retrospektywnej analizy błędów diagnostycznych opublikowanej w 'BMJ Quality & Safety' w 2023 roku.

Szpital integruje BOUNDARY_SYNC z istniejącym CDSS. Po każdej rundzie komunikacji agentów system oblicza CAF. Jeśli wartość spada poniżej 0.75, do raportu dodawana jest flaga 'Low Diversity Alert' wraz z listą odrzuconych hipotez i uzasadnieniem ich odrzucenia. Radiolog widzi nie tylko rekomendację, ale też ścieżki, które system rozważył i porzucił. Dla mięsaka Ewinga, który na wczesnym etapie może przypominać zapalenie kości, ta informacja jest bezcenna.

Korzyści kliniczne i ekonomiczne

Z perspektywy dyrektora medycznego kluczowe są dwie liczby: czułość diagnostyczna dla chorób rzadkich i koszt błędnej diagnozy. Retrospektywne dane z amerykańskiego systemu opieki zdrowotnej pokazują, że średni koszt opóźnionej diagnozy rzadkiej choroby nowotworowej to około 86 000 dolarów w dodatkowych hospitalizacjach, terapii niewłaściwej i utraconej produktywności pacjenta. Przy 40 000 badań rocznie i częstości chorób rzadkich na poziomie 0.1 do 0.5 procent, mówimy o 40 do 200 przypadkach rocznie. Przechwycenie choćby 15 procent z nich dzięki mechanizmowi dywersyfikacji opinii to oszczędność rzędu 500 000 do 2.5 miliona dolarów rocznie dla jednego szpitala.

Po stronie klinicznej integracja BOUNDARY_SYNC nie wymaga wymiany istniejącego CDSS. To warstwa monitorująca, którą można dodać jako mikroserwis sprawdzający rozkład prawdopodobieństw wyjściowych agentów. Czas obliczenia CAF dla trzech agentów to poniżej 100 milisekund, nie wpływa więc na workflow radiologa. Wdrożenie w szpitalu o opisanej skali szacuję na 2 do 3 tygodni pracy zespołu IT, przy założeniu, że API agentów jest już wystawione.

Ograniczenia i ryzyka do rozważenia

Nie ma co ukrywać: badanie Liu przeprowadzono na GPT-4o i DeepSeek w kontrolowanych warunkach laboratoryjnych, nie w środowisku klinicznym. Replikacja między modelami pokazała ekstremalną wariancję CAF od 0.034 do 0.803, co oznacza, że każdy model zachowuje się inaczej. DeepSeek dodatkowo generował artefakty formatowania, które zaburzały pomiar. Przed wdrożeniem w szpitalu konieczne jest przeprowadzenie własnej walidacji na konkretnym zestawie agentów i danych klinicznych.

Druga kwestia: CAF mierzy różnorodność rozkładów prawdopodobieństwa, nie trafność diagnostyczną. Wysoki CAF może oznaczać, że agenty generują różne, ale wszystkie błędne diagnozy. Sam wskaźnik nie zastąpi walidacji klinicznej, jest jedynie systemem wczesnego ostrzegania przed przedwczesnym konsensusem.

• Monitorowanie współczynnika CAF zapobiega przedwczesnemu konsensusowi wokół jednej diagnozy
• Zwiększenie szansy na uwzględnienie chorób rzadkich dzięki utrzymaniu zróżnicowanych ścieżek rozumowania
• Integracja z istniejącymi systemami CDSS jako lekka warstwa monitorująca bez wymiany infrastruktury

Artykuł wygenerowany ze wsparciem sztucznej inteligencji.