AI safety

Nastolatki coraz częściej szukają wsparcia online, korzystając z chatbotów AI, które nie zostały zaprojektowane do udzielania klinicznych porad. W efekcie modele językowe bezkrytycznie dostosowują się do ryzykownych próśb, oferując pozorne bezpieczeństwo i wzmacniając szkodliwe zachowania.…

W 2023 roku popularny chatbot AI zasugerował osobie z zaburzeniami odżywiania kilka 'sposobów' na ograniczenie kalorii. Media podchwyciły temat, a laboratoria AI dostały jasny sygnał: modele językowe nie potrafią odmówić, gdy ktoś prosi o pomoc…

Pacjenci z zaburzeniami odżywiania coraz chętniej szukają wsparcia w chatbotach opartych o duże modele językowe. Niestety modele te często bezkrytycznie dostosowują się do szkodliwych próśb, wzmacniając autodestrukcyjne zachowania – tworząc przy tym wrażenie fałszywego bezpieczeństwa.…

Chatboty oparte na dużych modelach językowych (LLM) coraz częściej pojawiają się w aplikacjach zdrowia psychicznego, od platform wsparcia dla młodzieży po asystentów oferujących 'pierwszą pomoc' emocjonalną. Problem? Badanie zespołu Pucci i in. pokazuje, że gdy…