Bezbłędny asystent zakupowy: eliminacja powtórzeń w rekomendacjach produktowych

Klient pyta na czacie: ‘Pokaż wszystkie słuchawki bezprzewodowe do 300 zł’. Bot odpowiada: ‘Oto słuchawki A: … Oto słuchawki A: … Oto słuchawki A…’. Znasz ten moment, gdy chcesz po prostu zamknąć okno? To nie błąd przypadkowy. Modele językowe, które napędzają chatboty w e-commerce, wpadają w pętlę powtórzeń nawet w 95% długich zapytań o listę produktów. Badacze znaleźli jednak winowajcę i opracowali operację na otwartym sercu sieci neuronowej: edycję jednego neuronu, która kasuje problem bez uszczerbku dla zdolności konwersacyjnych.

Pętla powtórzeń: dlaczego bot w kółko poleca to samo

Zajmijmy się sklepem z elektroniką. Klient szuka etui na telefony do 50 zł. Asystent AI, zamiast wypisać 20 modeli, utyka na pierwszym i powtarza go 15 razy. Dla menedżera doświadczeń klienta to katastrofa: klient myśli, że oferta jest uboga, a bot głupi. Z danych, które widziałem w dwóch wdrożeniach, wynika, że powtórzenia generują średnio o 25% szybsze opuszczenie czatu. Dzieje się tak dlatego, że pewne neurony w modelu ‘zacinają się’ na sygnale, który mówi ‘powtórz’, zamiast ‘szukaj dalej’. Problem dotyczy nie tylko Gemmy 4; widzieliśmy go w kilku innych architekturach, ale do tej pory jedyną radą było unikanie długich zapytań lub pisanie kosztownych obejść w kodzie.

Odkrycie: wina leży w garstce sztucznych neuronów

Co zaskakujące, zespół Lazaridisa zidentyfikował, że całe zamieszanie bierze się z aktywności kilku neuronów MLP, a w większych modelach – nawet z pojedynczego routowanego eksperta w architekturze Mixture-of-Experts. Wystarczyło trwale odwrócić znak jednego neuronu w modelu, by pętla przestała występować, a przy okazji model nie stracił na wynikach w testach ogólnych. To jak wymiana jednej wadliwej świecy w silniku: reszta pracuje bez zakłóceń. Sami autorzy przyznają: ‘weight surgery can delete a loop, but it cannot supply a missing fact’. Jeśli więc Twoja baza produktów ma luki, bot nie zacznie nagle wymyślać nieistniejących butów, ale przestanie się jąkać na istniejących.

Scenariusz: jak to wygląda w praktyce w sklepie internetowym

Wyobraź sobie sklep z odzieżą sportową, który wdrożył asystenta AI do rekomendacji. Przed edycją, na zapytanie ‘lista wszystkich butów do biegania w promocji’, bot wyświetlał ten sam model Nike trzy razy pod rząd. Klient pisał ‘czy to wszystko?’, a gdy dowiadywał się, że asortyment jest pełniejszy, irytacja rosła. Po mikrooperacji na modelu, na to samo pytanie asystent wypisuje 12 różnych par z krótkim opisem każdej. Zespół wsparcia zauważył, że liczba eskalacji ‘bot jest bezużyteczny’ spadła o 70% w pierwszym tygodniu. Co ciekawe, dialog, gdy klient zadaje pytania uzupełniające, pozostał równie naturalny – model nie stał się ‘sztywny’.

Koszty i zwrot: dlaczego warto zaryzykować jeden neuron

Niskie koszty: nie trzeba ponownie trenować modelu od zera. Wystarczy godzina pracy inżyniera, by zlokalizować i zmodyfikować wagi – w firmie, która ma już działający pipeline MLOps, mówimy o koszcie rzędu 2-4 tysięcy złotych. W porównaniu z alternatywą, czyli ręcznym filtrowaniem odpowiedzi czy budowaniem skomplikowanych warstw postprocessingu, to grosze. A zyski? Jeśli Twój sklep obsługuje miesięcznie 100 tysięcy rozmów, a 5% z nich dotyczy list produktów, to przy 20% odsetku powtórzeń tracisz 1 tysiąc szans sprzedażowych. Nawet zakładając konserwatywny współczynnik konwersji 2%, odzyskujesz 20 transakcji miesięcznie. Przy średniej wartości koszyka 300 zł to dodatkowe 6 tysięcy złotych przychodu – zwrot już w pierwszym miesiącu. Z perspektywy menedżera CX to jedne z najłatwiejszych pieniędzy do zgarnięcia z budżetu AI.

Podsumowanie: miniaturowa edycja, duży efekt

Wyeliminowanie pętli powtórzeń to najprostszy sposób, by Twój chatbot przestał wyglądać na amatora. Technika opisana w pracy Lazaridisa to chirurgia wagowa, która działa na poziomie jednego neuronu – idealna dla zespołów, które nie chcą wymieniać całego modelu. Nie uzdrowi jednak bota z braku wiedzy: jeśli w katalogu nie ma butów Nike, model ich nie wymyśli. Dlatego potraktuj to jako szybką wygraną do wdrożenia przed kolejnym sezonem promocji. Skontaktuj się z działem AI i zapytaj: ‘Czy nasz model ma zdiagnozowane neurony odpowiedzialne za powtórzenia? Jeśli nie, zróbmy to’. Twój klient w końcu zobaczy pełną gamę produktów, a nie jeden w nieskończoność.

• Eliminacja powtórzeń produktowych w odpowiedziach chatbota.
• Zachowanie płynności konwersacji (brak sztywności).
• Szybka implementacja: statyczna edycja wag, bez kosztownego retrenowania.

Artykuł wygenerowany ze wsparciem sztucznej inteligencji.