Chatbot lavet til folkeskoler chokerer eksperter: Gav detaljerede beskrivelser af selvskade

Description

Den danske chatbot SkoleGPT, der hjælper med skoleopgaver, har ændret sine svar efter at have givet detaljerede beskrivelser af selvskade og selvmord. Thomas Ploug, professor i AI- og dataetik ved Institut for Kommunikation på Aalborg Universitet, mener, at detaljerede informationer om selvskade ikke bør være nemt tilgængelige i en chatbot, der bruges af elever. "Det havde været utroligt let at lukke det her hul. Og det havde også været nemt at opdage det. Det kan man gøre ved simple søgninger på områder, som man ved er problematiske," siger han. (Resumé leveret af Infomedia). Kilder:DR P4 Radioavisen 02.00, 05-03-2025DR P1 Radioavisen 02.00, 05-03-2025Dr.dk, 05-03-2025