Inteligentny agent kredytowy nie zniesie taniego dostrajania

Co trzeci wniosek o kredyt hipoteczny w polskich bankach ląduje w koszu, zanim klient przebrnie przez wszystkie formularze. Powód nie leży w złej ofercie, tylko w gąszczu warunkowych pytań, które zmieniają się po każdej odpowiedzi. Agenci konwersacyjni zbudowani na modelach językowych mogliby ten problem rozwiązać, ale tylko wtedy, gdy wdrożymy pełne dostrajanie modelu – pokazują to badania nad proceduralną naturą takich zadań.

Dlaczego statyczne formularze to martwy pieniądz

Kredyt hipoteczny to jedno z najbardziej rozgałęzionych drzew decyzyjnych w finansach. Rodzaj dochodu (umowa o pracę, własna działalność, źródła zagraniczne), historia kredytowa, wkład własny, współkredytobiorcy, zabezpieczenia – to tylko fragment pułapki, w którą wpada przeciętny wnioskodawca. Gdy bank stawia przed klientem statyczny, 30-stronicowy formularz, porzucenie jest kwestią czasu. Z moich rozmów z menedżerami banków wynika, że w segmencie nowych klientów odpada nawet 40-50% rozpoczętych wniosków. Straty idą w dziesiątki milionów złotych rocznie.

Rozwiązanie w postaci chatbota, który krok po kroku zadaje odpowiednie pytania i reaguje na wcześniejsze odpowiedzi, brzmi kusząco. Jednak większość dostępnych dziś agentów to modele dostrajane metodą LoRA, pozornie tanie i szybkie. I tu zaczyna się problem.

Co poszło nie tak z LoRA – lekcja z badań nad procedurami

Nowy artykuł naukowy autorstwa Dennisa i współpracowników (2024) sprawdził, jak modele językowe radzą sobie z zadaniami proceduralnymi – takimi, gdzie kolejne odpowiedzi zależą od poprzednich i gdzie przepływ rozmowy tworzy skomplikowane drzewo. Testowano rezerwację podróży (14 węzłów decyzyjnych), wsparcie techniczne Zoomu (14 węzłów) i roszczenia ubezpieczeniowe (aż 55 węzłów). W każdym przypadku porównano pełne dostrajanie modelu z popularną, oszczędną metodą LoRA.

Wynik? LoRA nawet z rangą 128 osiągała w zadaniu rezerwacji wynik maksymalnie 2,54 (skala zadania), a pełne dostrajanie 4,11. W domenie ubezpieczeniowej, najbardziej przypominającej proces kredytowy, luka sięgała 2,2 punktu. Dlaczego? Bo aktualizacje wag w pełnym dostrajaniu mają efektywną rangę 761-1026, a LoRA z rangą 128 przechwytuje tylko 43-51% ich siły. Procedura po prostu nie jest niskorangowa – wiedza o tym, co zapytać po odpowiedzi 'dochody z działalności gospodarczej', a co po 'umowa o pracę', wymaga znacznie więcej wymiarów, niż zakłada LoRA.

Agent hipoteczny krok po kroku: scenariusz, który działa

Wyobraźmy sobie bank, który wytrenował model językowy 8B pełną metodą na historycznych danych z dwóch lat wniosków – w tym zapisach wszystkich ścieżek decyzyjnych, decyzji kredytowych i poprawnych odpowiedziach analityków. Taki agent potrafi:
- Zapytać o główne źródło dochodu i natychmiast dostosować kolejne pytania – dla samozatrudnionych poprosi o PIT za dwa ostatnie lata, dla etatowca tylko o zaświadczenie o zarobkach.
- Gdy klient poda wkład własny 15%, od razu sprawdzić historię w BIK i zaproponować ubezpieczenie niskiego wkładu, zamiast odrzucać wniosek.
- W przypadku kredytu z dofinansowaniem (np. 'Mieszkanie na start') przełączyć się na osobną ścieżkę z limitami cenowymi i warunkami programu, bez gubienia dotychczasowego postępu.

Co ważne, pełne dostrajanie gwarantuje, że agent trzyma się regulacyjnego drzewa decyzyjnego – nie zapomina o żadnym punkcie, nie generuje sprzecznych informacji. Testy na zbliżonych zadaniach pokazały, że takie modele nie popełniają błędów proceduralnych nawet przy 55 węzłach warunkowych.

Liczby i zwrot, zanim włączysz projekt

Szacunki, które zbieram od wdrożeń fintechowych, wskazują, że uproszczenie procesu wnioskowania przez agenta konwersacyjnego podnosi konwersję o 25-35 procent. Dla średniego banku z 10 tysiącami wniosków hipotecznych rocznie to dodatkowe 500-700 doprowadzonych do końca procesów. Przy średniej marży 2,5 tys. zł na jednym kredycie mówimy o dodatkowych 1,25-1,75 mln zł rocznie. Koszt pełnego dostrajania 8B to obecnie około 6-8 tys. dolarów w chmurze (jednorazowo), plus kilkaset dolarów miesięcznie na inferencję. Nawet jeśli dołożymy koszt ponownego strojenia co kwartał po zmianach regulacyjnych, ROI jest kilkudziesięciokrotny w pierwszym roku.

Jest jednak haczyk: narzędzia marketingowe sprzedające 'agenta AI' często opierają się na LoRA właśnie dlatego, że jest tania i szybka do zademonstrowania na demo. Działa dobrze na prostych FAQ, ale zawodzi, gdy dochodzi do warunkowego rozgałęzienia. W branży ubezpieczeniowej podobny eksperyment skończył się tym, że model udzielał sprzecznych porad w zależności od kolejności pytań. Dlatego zanim zamówisz 'inteligentnego asystenta kredytowego', zapytaj dostawcę o metodę dostrajania. Jeśli pada odpowiedź 'LoRA', masz powód, by się wycofać.

Podsumowanie: warto postawić na pełne dostrajanie od razu

Proces kredytowy to drzewo decyzyjne o dziesiątkach węzłów – naturalne środowisko dla pełnego dostrajania modelu językowego. Badania potwierdzają, że niskorangowe metody, choć efektywne w testach ogólnych, tu się wykładają. Dla banku oznacza to prosty wybór: zaoszczędzić 6 tys. dolarów na treningu i stracić miliony przez porzucone wnioski. Dla fintechów i pośredników – okazja, by wreszcie dać klientom proces, który nie przypomina walki z Excel'em.

  • Wzrost konwersji wniosków o 25-35% dzięki adaptacyjnemu procesowi
  • Eliminacja błędów proceduralnych – agent nie pomija żadnego wymaganego kroku
  • Pełna zgodność z regulacjami KNF bez ręcznej kontroli każdej ścieżki
  • Skrócenie czasu od pierwszego kontaktu do decyzji o około 30%

Informacje o artykule

Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.

Paper: Procedural Knowledge Is Not Low-Rank: Why LoRA Fails to Internalize Multi-Step Procedures

Autorzy: Simon Dennis, Kevin Shabahang, Hao Guo, Rivaan Patil

Parameter-efficient fine-tuning methods like LoRA have become the default for adapting large language models, succeeding across instruction following, style transfer, and factual adaptation. We show that for procedural knowledge--the ability to follow multi-step procedures with conditional branch...

arXiv: arxiv.org/abs/2607.21612

Czytaj więcej o tej technologii: Proceduralna wiedza nie jest niskorangowa. Dlaczego LoRA nie radzi sobie z procedurami

Artykuł wygenerowany ze wsparciem sztucznej inteligencji.

Dawid Grabanowski

Dawid Grabanowski, założyciel MTZN. Projektuje i wdraża rozwiązania AI dla firm: agenty SI, uczenie maszynowe, automatyzacje procesów i aplikacje dedykowane. Specjalizuje się w architekturze serverless i optymalizacji kosztów wdrożeń. https://mtzn.pl