Sędzia AI to nie wyrocznia: dlaczego samodoskonalące się agenty potrzebują twardych zabezpieczeń
Wyobraź sobie, że trenujesz asystenta AI do analizy umów. Po każdej zmianie promptu inny model ocenia, czy poszło mu lepiej. Problem w tym, że ten sędzia bywa ślepy, a czasem sam cię oszukuje. Vansh Wahi…
