Modele dyfuzyjne z maskowaniem (MDM) są szybkie, ale ich założenie o niezależności tokenów psuje się przy małej liczbie kroków. Modele przepływowe (FLM) tego unikają, ale zmuszają do dekodowania każdego tokena, co utrudnia rozumowanie wieloetapowe. Nowe Masked Language Flow Models łączą oba światy, a pierwsze testy na GSM8K i MT-Bench pokazują, że przepływowe modele językowe mogą rozwiązywać zadania wymagające rozumowania.
Dwie rodziny modeli i ich bolączki
Od kilku lat w generowaniu tekstu konkurują dwa podejścia. Modele dyfuzyjne z maskowaniem (MDM) stopniowo zakrywają tokeny, a potem uczą się je odsłaniać. Przy generowaniu robią to równolegle dla wszystkich pozycji naraz, co jest szybkie, ale opiera się na przybliżeniu, że każdy token jest niezależny od pozostałych. W praktyce to założenie przestaje działać, gdy próbkujemy w kilku krokach - a właśnie wtedy równoległość miała dawać największą przewagę.
Z drugiej strony mamy modele przepływowe (FLM). One uczą się ciągłego pola wektorowego, które przesuwa szum w stronę czystego tekstu. Dzięki temu można po treningu destylować mapę przepływu i generować tekst w jednym kroku. Tyle że FLM-y muszą zdekodować wszystkie tokeny na raz. Przy prostych zdaniach to nie problem, ale gdy model ma przeprowadzić kilkuetapowe rozumowanie - na przykład rozwiązać zadanie matematyczne - takie hurtowe generowanie utrudnia sprawę.
Azangulov i współpracownicy z Uniwersytetu Oksfordzkiego postanowili połączyć oba podejścia. W swojej pracy wprowadzają Masked Language Flow Models (MLFM), które wplatają maskowanie w ramy modeli przepływowych. Jak mówią sami autorzy: 'Modele dyfuzyjne z maskowaniem obiecują szybkie, równoległe generowanie języka, ale ich odwrotna transformacja zakłada niezależność pozycji tokenów - przybliżenie, które załamuje się przy małej liczbie kroków próbkowania, czyli tam, gdzie równoległość miała dawać największe zyski.'
Jak działa MLFM? Interpolacja i maskowanie
Sercem MLFM-ów jest ciągły stochastyczny interpolant. To matematyczne narzędzie, które definiuje gładką ścieżkę między rozkładem częściowo zamaskowanych sekwencji a rozkładem czystego tekstu. W uproszczeniu: wyobraźmy sobie, że mamy zdanie z dziurami (tokeny zastąpione znacznikiem [MASK]) i chcemy je stopniowo wypełniać, ale nie skokowo, tylko płynnie zmieniając reprezentację każdego tokena w przestrzeni euklidesowej.
W klasycznym FLM-ie szum przechodzi w tekst w sposób ciągły, ale wszystkie tokeny są traktowane jednakowo. MLFM dodaje do tego maskę: niektóre tokeny mogą pozostać zamaskowane dłużej, a model uczy się transportować reprezentację tylko tych odsłoniętych. To pozwala na warunkowe generowanie - jeśli wiemy, że część sekwencji jest już poprawna (np. początek odpowiedzi), możemy skupić się na uzupełnianiu reszty.
Co ciekawe, autorzy pokazali, że wstępnie wytrenowane MDM-y można łatwo przekształcić w MLFM-y. Wystarczy lekka adaptacja, bez trenowania od zera. To praktyczna zaleta, bo wiele zespołów ma już gotowe modele dyfuzyjne i może je rozszerzyć o ciągły przepływ.
Modele dyfuzyjne z maskowaniem (MDM) obiecują szybkie, równoległe generowanie języka, ale ich odwrotna transformacja zakłada niezależność pozycji tokenów - przybliżenie, które załamuje się przy małej liczbie kroków próbkowania, czyli tam, gdzie równoległość miała dawać największe zyski.
Azangulov et al.
Abstract
Sprytny sampler: na zmianę odszumianie i odmaskowywanie
Samo połączenie maskowania z przepływem nie wystarczy, żeby dobrze rozwiązywać zadania wieloetapowe. Potrzebny jest jeszcze algorytm generowania, który wykorzysta tę hybrydową naturę. Autorzy proponują sampler, który działa naprzemiennie: najpierw wykonuje krok ciągłego odszumiania (czyli przesuwa wszystkie tokeny w stronę czystych reprezentacji), a potem sprawdza, które tokeny są już na tyle pewne, że można je odmaskować (zamienić z [MASK] na konkretne słowo).
Tokeny o wysokiej pewności są odmaskowywane i od tej pory pozostają niezmienne. Proces powtarza się, aż cała sekwencja będzie czysta. Taki schemat przypomina trochę rozwiązywanie krzyżówki: najpierw wpisujemy pewne hasła, a potem, mając już część liter, łatwiej odgadnąć pozostałe.
W standardowym FLM-ie model musiałby od razu wygenerować całą odpowiedź, co przy zadaniu matematycznym często kończy się błędem już w pierwszym kroku. MLFM z nowym samplerem może stopniowo odsłaniać kolejne etapy rozumowania, korygując się po drodze. 'Proponujemy nowy sampler, który naprzemiennie wykonuje ciągłe odszumianie i dyskretne odmaskowywanie pewnych tokenów, aby lepiej wspierać wieloetapowe rozumowanie' - piszą autorzy.
Pierwsze testy: od matematyki do rozmowy
Zespół przetestował MLFM-y na dwóch różnych benchmarkach. Pierwszy to GSM8K - zbiór 8,5 tysiąca zadań matematycznych z zakresu szkoły podstawowej, które wymagają kilkuetapowego rozumowania. Drugi to MT-Bench, czyli wieloturowe rozmowy testujące umiejętność podążania za instrukcjami i prowadzenia spójnego dialogu.
Wyniki są obiecujące. Na GSM8K model poradził sobie z zadaniami, które do tej pory były poza zasięgiem modeli przepływowych. Nie chodzi o to, że pobił rekordy - raczej o to, że w ogóle dał radę. Wcześniej FLM-y nie były w stanie sensownie rozwiązywać takich zadań, bo wymuszały generowanie całej odpowiedzi naraz. MLFM, dzięki naprzemiennemu odmaskowywaniu, mógł zatrzymać się na niepewnych tokenach i wrócić do nich później.
Na MT-Bench model również pokazał, że potrafi prowadzić kilkuetapową rozmowę, nie gubiąc wątku. To pierwszy przypadek, gdy przepływowy model językowy został przeskalowany do zadań wymagających rozumowania i śledzenia instrukcji. 'Oceniamy nasze podejście na zbiorach GSM8K i MT-Bench i po raz pierwszy stwierdzamy, że przepływowe modele językowe można skalować do rozwiązywania zadań wymagających rozumowania i podążania za instrukcjami' - podsumowują autorzy.
Co to zmienia w praktyce?
MLFM-y nie są jeszcze gotowym produktem, ale wyznaczają nowy kierunek. Do tej pory modele przepływowe były niszowym pomysłem, głównie ze względu na ograniczenia w rozumowaniu. Teraz okazuje się, że można je połączyć z maskowaniem i uzyskać coś, co łączy szybkość generowania równoległego z elastycznością generowania autoregresyjnego.
W praktyce może to oznaczać modele, które szybko szkicują odpowiedź, a potem iteracyjnie ją poprawiają. W systemach dialogowych chatbot mógłby najpierw zaproponować ogólną odpowiedź, a potem, w kolejnych krokach, uzupełniać szczegóły, zamiast od razu wyrzucać długi akapit. W narzędziach do generowania kodu pewne fragmenty (np. importy, szablony) mogłyby powstawać równolegle, a bardziej złożona logika - stopniowo, z możliwością korekty.
Jest też aspekt edukacyjny. Wyobrażam sobie model, który rozwiązuje zadanie matematyczne i pokazuje kolejne kroki. Uczeń widzi wynik i proces. To coś, czego obecne modele autoregresyjne nie robią naturalnie, bo generują token po tokenie od lewej do prawej, bez wyraźnych etapów.
- MLFM-y łączą maskowanie z ciągłym przepływem, eliminując wady MDM-ów (niezależność tokenów) i FLM-ów (konieczność dekodowania wszystkiego naraz).
- Ciągły stochastyczny interpolant definiuje gładkie przejście od sekwencji z dziurami do czystego tekstu, umożliwiając warunkowe generowanie.
- Wstępnie wytrenowane modele dyfuzyjne można łatwo przekształcić w MLFM-y przez lekką adaptację.
- Nowy sampler naprzemiennie odszumia i odmaskowuje pewne tokeny, co poprawia wieloetapowe rozumowanie.
- Po raz pierwszy pokazano, że przepływowe modele językowe radzą sobie z zadaniami matematycznymi (GSM8K) i dialogowymi (MT-Bench).
Praktyczne zastosowania
Aby lepiej zrozumieć opisywaną innowację, przygotowaliśmy cztery przykłady praktycznego zastosowania tej technologii w różnych branżach:
Podsumowanie
MLFM-y łączą szybkość generowania równoległego z możliwością stopniowego odsłaniania odpowiedzi, co otwiera nowe zastosowania. W systemach dialogowych model mógłby najpierw szkicować odpowiedź, a potem ją doprecyzowywać. W narzędziach do kodu pewne fragmenty generowane byłyby hurtowo, a złożona logika - iteracyjnie. W edukacji model mógłby krok po kroku pokazywać rozwiązanie zadania matematycznego, dając uczniowi czas na zrozumienie każdego etapu.
Metryka artykułu źródłowego
Tytuł oryginalny: Masked Language Flow Models
Autorzy: Iskander Azangulov, Kianoosh Ashouritaklimi, Leo Zhang, Simon Vary, Patrick Rebeschini
Data publikacji: 29 czerwca 2026
arXiv: arxiv.org/abs/2606.27617
Napisanie tego artykułu zostało wspomagane przez sztuczną inteligencję. Treść opiera się na oryginalnym artykule naukowym, a jej dokładność została zweryfikowana automatycznie.
