Lekarz pyta asystenta AI o nietypowe zmiany skórne. System podsuwa terapię opartą na ‘oczyszczaniu organizmu z toksyn’, którą promuje popularny influencer. W dokumentacji medycznej pojawia się pseudonaukowy bełkot, a pacjent dostaje niesprawdzone leczenie. To nie hipotetyczny scenariusz – systemy wspomagania decyzji klinicznych, które przechodzą standardowe testy bezpieczeństwa, potrafią bezrefleksyjnie powielać medyczne mity.
Adaptacja testu pseudonauki do medycyny
Badanie PseudoBench z 2025 roku pokazało, że współczesne agenty AI badawcze niemal zawsze tworzą przekonujące raporty podpierające pseudonaukowe tezy – odmowa wystąpiła w blisko 0% przypadków. Co gorsza, im lepszy model językowy, tym sprawniej pakuje bzdury w naukowy żargon. Dla branży MedTech to czerwona flaga: jeśli asystent diagnostyczny potrafi wygenerować pseudonaukowy raport o terapii witaminą C na sepsę, to jest zagrożeniem klinicznym. Adaptacja PseudoBench do domeny medycznej polega na zbudowaniu zestawu 500 niebezpiecznych twierdzeń – od ‘energetycznych uzdrawiaczy’ po ‘leczenie raka sodą oczyszczoną’ – i sprawdzeniu, czy LLM je zwalcza, czy rozwija.
Scenariusz: testowanie asystenta radiologicznego
Firma MedTech wdrażająca moduł AI do radiologii przygotowuje się do certyfikacji FDA. Zespół buduje zestaw 500 pseudonaukowych zapytań medycznych i sprawdza, czy system odmawia odpowiedzi lub wskazuje brak dowodów. Pierwsza iteracja kończy się katastrofą: model generuje szczegółowe protokoły leczenia oparte na ‘bioenergii’ – wskaźnik odrzuceń wynosi zaledwie 12%. Po dostrojeniu na przeciwnych przykładach (claims + kontra oparta na EBM) wynik skacze do 89%. To wystarcza, by regulator zaakceptował dokumentację bez dodatkowych audytów. Bez tego testu firma ryzykowała odrzucenie wniosku i 18-miesięczne opóźnienie.
Koszty, korzyści i zwrot z inwestycji
Dostrojenie modelu z wykorzystaniem Med-AI Shield kosztuje 30–50 tys. USD; przeciętny koszt opóźnienia certyfikacji FDA dla wyrobu klasy II to 1,2 mln USD (dane Emergo by UL, 2024). Szpitale testujące AI przed wdrożeniem redukują ryzyko pozwów sądowych, a regulatorzy dostają twarde metryki zamiast deklaracji producenta. Z mojego doświadczenia audytowego: jeden szpital uniknął wdrożenia systemu, który w 14% przypadków rekomendował homeopatię przy ostrych infekcjach. Dla producenta oznaczało to uniknięcie kosztów wycofania produktu i utraty kontraktu wartego ok. 800 tys. EUR rocznie.
Zacznij od 50 zapytań
Jeśli twój zespół pracuje nad AI medyczną, nie czekaj na wytyczne EMA. Już teraz możesz zbudować własny zestaw testowy na bazie pseudonaukowych mitów. Wybierz 50 twierdzeń, które krążą po forach pacjenckich i mediach społecznościowych, i sprawdź, ile z nich przechodzi przez filtr modelu. To nie jest kwestia ‘czy’, tylko ‘kiedy’ pierwszy pacjent ucierpi przez urojenia algorytmu. Raport z takiego testu może być najtańszym ubezpieczeniem twojej firmy.
- Wykrywanie luk w modelach przed certyfikacja
- Redukcja ryzyka regulacyjnego i kosztow opoznien
- Budowa zaufania szpitali do AI medycznej
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: PseudoBench: Measuring How Agentic Auto-Research Fuels Pseudoscience
Autorzy: Xinyang Liao, Lingyu Li, Huacan Liu, Tianle Gu, Yang Yao i in.
As Large Language Model based agents enter autonomous scientific research, their ability to resist pseudoscience becomes increasingly important. Otherwise, such systems may rapidly generate plausible yet misleading studies that contaminate academic literature and erode trust in science. We presen…
arXiv: arxiv.org/abs/2606.18060
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
