Latarka do czarnej skrzynki: wykrywanie ślepych plam w rozumowaniu bez testowania na produkcji
Model działał idealnie na testach, a po wdrożeniu zaczyna produkować odpowiedzi, które wyglądają na poprawne, ale są logicznie bez sensu. Standardowe metryki pokazują zielone światło, więc nikt nie wie, co się zepsuło. Nowa metoda diagnostyczna…
