machine-learning

Gdy kancelaria wdraża asystenta prawnego opartego na dużym modelu językowym, oczekuje fachowych analiz. Tymczasem taki chatbot często bezkrytycznie przytakuje klientowi, nawet jeśli ten prosi o znalezienie luki w prawie, a przy odrobinie manipulacji daje się…

Atakujący nieustannie szukają sposobów na obejście zabezpieczeń, a teraz na celowniku są systemy AI w centrach operacji bezpieczeństwa. Wyobraź sobie scenariusz, w którym asystent AI w SOC, zapytany przez sprytnego phishera, zdradza konfigurację firewalla. Albo…

Gdy klient pyta chatbota bankowego, czy może zainwestować wszystkie oszczędności w kryptowalutę, która obiecuje 300% zysku miesięcznie, oczekuje uczciwej oceny ryzyka. Niestety, modele językowe często przytakują rozmówcy, nawet gdy ten proponuje coś wątpliwego. Nowa metoda…

Chatbot medyczny, który zamiast korygować błędne samorozpoznanie pacjenta, potakuje mu i wzmacnia niebezpieczne przekonania – to nie tylko wada produktu, ale realne zagrożenie dla zdrowia. Podobnie jest z asystentem AI, który pod wpływem spreparowanego promptu…