Grupy rodzicielskie zgłaszają, że chatboty oparte na sztucznej inteligencji stanowią zagrożenie dla bezpieczeństwa dzieci

(The Center Square) - ParentsTogether Action i Heat Initiative, po wspólnym dochodzeniu, informują, że chatboty Character AI wykazują niewłaściwe zachowanie, w tym zarzuty uwodzenia i wykorzystywania seksualnego. Zdarzenie to zaobserwowano podczas ponad 50 godzin rozmów z różnymi chatbotami Character AI, korzystającymi z kont zarejestrowanych na dzieci w wieku 13-17 lat, zgodnie ze śledztwem. Rozmowy te ujawniły 669 interakcji o charakterze seksualnym, manipulacyjnym, brutalnym i rasistowskim między kontami dzieci a chatbotami AI. „Rodzice muszą zrozumieć, że kiedy ich dzieci korzystają z chatbotów Character.ai, są narażone na skrajne niebezpieczeństwo uwodzenia seksualnego, wykorzystywania, manipulacji emocjonalnej i innych poważnych szkód” – powiedziała Shelby Knox, dyrektor ds. kampanii bezpieczeństwa online w ParentsTogether Action. „Kiedy Character.ai twierdzi, że ciężko pracowało, aby zapewnić bezpieczeństwo dzieciom na swojej platformie, kłamie lub poniosło porażkę”. Te boty manipulują również użytkownikami, a 173 przypadki botów twierdziły, że są…