Ataki adwersarialne

Wasz bank kupił model scoringu kredytowego od zewnętrznego dostawcy. Działa bez zarzutu, testy bezpieczeństwa przeszły gładko. Tyle że istnieje typ backdoora, którego nie wykryje żadna analiza wag ani inspekcja kodu wynikowego. Udowodnili to matematycznie badacze…

W 2023 roku analitycy wywiadu jednego z państw NATO przechwycili model klasyfikacji treści, który od miesięcy działał w systemie moderacji opozycyjnej platformy społecznościowej. Model przeszedł pełny audyt bezpieczeństwa, łącznie z inspekcją wag i architektury. Nie…

Kradzież modelu uczenia maszynowego potrafi kosztować firmę kilka milionów złotych, ale udowodnienie jej przed sądem do niedawna graniczyło z cudem. Nowe badania pokazują, że każdy model może nosić swój unikalny, kryptograficzny podpis, który zdradzi złodzieja…

Każdy, kto pracował w zespole bezpieczeństwa AI, wie, że kradzież modeli to nie science fiction. Modele warte miliony dolarów trafiają na dark web, a ich twórcy nie mają jak udowodnić, że to ich własność. W…