Trzy lata temu architekt zespołu zadecydował, że w legacy'owym systemie nie używamy wzorca Command, bo kolizje w warstwie cache'owania kosztowały nas przestój w wysokości pół miliona złotych. Dziś nikt już tego nie pamięta. Nowy programista pisze funkcję według wzorca Command. Katastrofa. Asystent AI z długą pamięcią mógłby przypomnieć o tamtej decyzji.
AutoMem: metapamięć dla agenta kodowego
Framework AutoMem, opisany w najnowszym paperze, traktuje zarządzanie pamięcią jako umiejętność poznawczą, której model uczy się samodzielnie. Nie chodzi o to, by asystent zapamiętywał każdą linijkę kodu, ale by decydował, które fragmenty z setek godzin spotkań i tysięcy commitów są warte zapisania w plikach i odtworzenia, gdy nowe zadanie koliduje ze starą architekturą. Operacje na plikach - zapis, odczyt, aktualizacja - stają się dla modelu akcjami pierwszorzędnymi, na równi z generowaniem kodu. Dwie automatyzowane pętle frameworka optymalizują strukturę tych plików (prompty, schematy) oraz bezpośrednio trenują model na poprawnych decyzjach pamięciowych z przeszłości. Efekt: otwarty model 32B po użyciu AutoMem osiąga wyniki konkurencyjne z systemami frontierowymi, a poprawa dotyczy wyłącznie pamięci, bez zmiany zachowania agenta w zadaniu.
Scenariusz: zespół utrzymaniowy w finansach
Wyobraźmy sobie polski fintech, w którym system transakcyjny ma 12 lat. Pięciu seniorów wie, dlaczego w 2019 roku przerzucili moduł ryzyka na osobną usługę i że każde synchroniczne wywołanie tego modułu powodowało timeouty przy ruchu powyżej 500 RPS. Junior, który dołączył w zeszłym roku, nie ma tej wiedzy. Gdy dostaje zadanie integracji nowego modułu scoringowego, łączy go synchronicznie. Asystent z AutoMem, wytrenowany na archiwalnych logach Slacka, komentarzach w repozytorium i dokumentacji Confluence, rozpoznaje wzorzec. Przegląda swoje pliki pamięci - które sam dla siebie stworzył - i odnajduje notatkę z 2019 roku: 'Synchroniczne wywołanie RiskService kończyło się błędem 504 dla >500RPS, przeszliśmy na kolejkę RabbitMQ'. Agent ostrzega zespół i sugeruje użycie kolejki. Konflikt architektoniczny zażegnany zanim trafi na produkcję.
Mierzalne korzyści i zwrot
W przedstawionym zespole, dzięki asystentowi z AutoMem, liczba bugów regresyjnych spadła w ciągu pół roku z 12 do 3 na kwartał. Seniorzy, którzy wcześniej tracili średnio 40 godzin miesięcznie na wyjaśnianie juniorom przyczyn dawnych decyzji, teraz poświęcają na to 20 godzin. Przy stawce godzinowej 150 zł daje to oszczędność około 3000 zł miesięcznie dla pięciu seniorów łącznie. Do tego dochodzi uniknięcie kosztów awarii - wspomniany przestój z przeszłości kosztował 500 tys. zł, a podobne incydenty w legacy potrafią pojawiać się raz na rok.
Koszt wdrożenia? Dwa tygodnie pracy inżyniera ML nad pipeline’em danych historycznych (logi komunikatora, komentarze w kodzie, historia PR) i dostrojeniem otwartego modelu za pomocą drugiej pętli AutoMem. Ponieważ całość działa lokalnie na infrastrukturze firmy, wrażliwy kod nigdy nie opuszcza wewnętrznych serwerów. Szacunkowy zwrot nakładów następuje w ciągu 2-3 miesięcy, a główną wartość stanowi zatrzymanie wiedzy, która bezpowrotnie znika wraz z odejściem kluczowych programistów.
- Redukcja czasu debugowania konfliktów architektonicznych o 30-50%
- Zachowanie wiedzy zespołu po odejściu kluczowych programistów
- Działanie lokalnie bez wysyłania kodu do chmury
Informacje o artykule
Ten artykuł powstał w oparciu o paper naukowy opublikowany w serwisie arXiv.
Paper: AutoMem: Automated Learning of Memory as a Cognitive Skill
Autorzy: Shengguang Wu, Hao Zhu, Yuhui Zhang, Xiaohan Wang, Serena Yeung-Levy
Memory expertise is a learned skill: knowing what to encode, when to retrieve, and how to organize knowledge--a capacity known in cognitive science as metamemory. We bring this perspective to LLMs by treating memory management as a trainable skill. We promote file-system operations to first-class...
arXiv: arxiv.org/abs/2607.01224
Czytaj więcej o tej technologii: AutoMem: jak nauczyć AI myśleć o własnej pamięci
Artykuł wygenerowany ze wsparciem sztucznej inteligencji.
