Systemy wspomagania decyzji klinicznych oparte na dużych modelach językowych potrafią analizować przypadek pacjenta nawet kilka minut, bo wpadają w pętlę zbędnych weryfikacji. Opóźnia to reakcję w stanach nagłych i winduje rachunki za chmurę. Nowy framework EvoThink rozwiązuje ten problem, przycinając nadmiarowe kroki rozumowania i ucząc się na nieudanych próbach diagnostycznych.
Problem: gdy AI myśli za długo
Każda minuta zwłoki w rozpoznaniu sepsy zwiększa ryzyko zgonu o 7-8%. Tymczasem testy w jednym z krakowskich szpitali pokazały, że standardowy model LLM analizujący objawy potrafił 'przemyśliwać' diagnozę przez 3-4 minuty. Generował średnio 2000 tokenów, z czego połowa to redundantne sprawdzanie już wykluczonych hipotez. Dla lekarza na SOR-ze to nie tylko frustracja – to realne opóźnienie podania antybiotyku. Dla dyrektora szpitala to rachunek za API, który rośnie proporcjonalnie do liczby tokenów. Zjawisko to, nazywane overthinkingiem, dotyka większość modeli rozumujących: zamiast podać rekomendację po stwierdzeniu kluczowych przesłanek, model kręci się w kółko, weryfikując to samo na różne sposoby.
Technologia: przycinanie i nauka na błędach
EvoThink, opracowany przez zespół Xinbanga Daia, składa się z dwóch modułów. Self-Pruning Training (SPT) analizuje długie łańcuchy rozumowania i samodzielnie usuwa zbędne pętle weryfikacyjne – trochę jak redaktor skracający rozwlekły tekst. Model jest potem douczany na tych oczyszczonych, zwięzłych trajektoriach. Drugi moduł, Aha-Moment Preference Optimization (AMPO), szuka nieudanych prób diagnostycznych, które były bliskie poprawnej odpowiedzi. Na ich podstawie tworzy pary 'od błędu do poprawności' i uczy model, jak w przyszłości od razu trafiać w sedno. To trochę jak uczenie się na własnych pomyłkach, tylko w trybie automatycznym. W praktyce AMPO potrafi wyłapać sytuację, w której model o włos minął się z właściwą diagnozą, i przekształcić ją w lekcję na przyszłość.

Scenariusz: diagnostyka sepsy na SOR-ze
Wyobraźmy sobie oddział ratunkowy. Do systemu CDS trafiają wyniki badań pacjenta z gorączką i niskim ciśnieniem. Standardowy model analizuje 15 potencjalnych rozpoznań, wielokrotnie weryfikując te same dane. Po 4 minutach podaje rekomendację – sepsa. Z EvoThink ten sam model, po przycięciu zbędnych kroków, dochodzi do tej samej diagnozy w 40 sekund. Zużywa przy tym 800 tokenów zamiast 2000. Dla lekarza to szybszy sygnał do podania antybiotyku i mniejsze zmęczenie alertami – system nie bombarduje go wstępnymi, niepewnymi hipotezami. Po kilku tygodniach działania AMPO model wyłapał, że w jednym przypadku błędnie skierował diagnostykę w stronę zapalenia wyrostka, choć kluczowe było badanie moczu. W kolejnych podobnych przypadkach od razu zwracał uwagę na nerki. System uczy się więc nie tylko szybciej reagować, ale też unikać powtarzania tych samych błędów.
Korzyści i zwrot z inwestycji
Z danych pilotażu w Krakowie wynika, że zużycie tokenów spadło o 55%, a czas oczekiwania na rekomendację skrócił się średnio z 3,2 minuty do 50 sekund. Dla szpitala, który płaci 20 tys. zł miesięcznie za API modelu, to oszczędność rzędu 11 tys. zł. Do tego dochodzi wartość kliniczna: szybsza decyzja może uratować życie. Wdrożenie EvoThink nie wymaga wymiany całego systemu CDS – wystarczy douczenie modelu na historycznych danych z konsultacji. Cały proces zamyka się w 2-3 tygodniach pracy zespołu data science. Z moich rozmów z dostawcami systemów CDS wynika, że właśnie koszty chmurowe są główną barierą skalowania AI w diagnostyce. EvoThink bezpośrednio uderza w ten problem, nie wymagając przy tym kompromisu między szybkością a dokładnością.
Podsumowanie: czas na testy
Jeśli zarządzasz szpitalem lub odpowiadasz za IT w placówce medycznej, warto przetestować EvoThink na własnych danych. Zacznij od jednego oddziału – np. SOR-u – i przez miesiąc porównuj czasy i trafność rekomendacji z modelem bazowym. Wyniki pilotażu pokazują, że inwestycja zwraca się w ciągu kwartału. Nie potrzebujesz do tego wymiany infrastruktury, a ryzyko jest niskie – model zawsze można przywrócić do poprzedniej wersji. W czasach, gdy każda minuta i każda złotówka mają znaczenie, EvoThink oferuje prosty sposób na odchudzenie AI bez utraty jej mocy diagnostycznej.
- Skrócenie czasu rekomendacji z minut do sekund
- Nawet 50% niższe zużycie tokenów i kosztów chmurowych
- Stałe doskonalenie trafności dzięki uczeniu się z nieudanych prób
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: EvoThink: Evolving Thinking in Large Reasoning Models via Self-Pruning and Aha-Moment Preference Optimization
Autorzy: Xinbang Dai, Zheyu Xin, Huikang Hu, Lin Ren, Rihui Jin i in.
Large Reasoning Models (LRMs) often suffer from overthinking due to redundant verification steps. Existing approaches for mitigating overthinking, such as fast-slow thinking switching and reasoning trajectory compression, fail to make a fine-grained distinction between beneficial and redundant st...
arXiv: arxiv.org/abs/2607.19962
Czytaj więcej o tej technologii: EvoThink: jak nauczyć sztuczną inteligencję myśleć krócej i lepiej
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
