EP26: Hvorfor lyver AI? Med Kåre Bjørn Jensen

Et entreprenørfirma spurgte en AI hvor meget en betonklods til vejafspærring vejer. Den svarede tredive kilo. Manden der spurgte, arbejder med de klodser hver dag og kunne selv se det var galt. Det var ikke fejlen der væltede noget for ham. Det var at han lige havde regnet med at kunne stole på alt det andet. Kåre Bjørn Jensen er tilbage. Han var med i afsnit 23 om Copilot, som indtil videre er det mest lyttede afsnit vi har lavet, og han underviser til daglig i Copilot, ChatGPT og AI-sikkerhed. I dette afsnit taler vi om hvorfor AI svarer forkert, hvad EU's nye regler faktisk kræver af dig, og hvad man rent praktisk kan gøre for at fange fejlene i tide. Undervejs kommer vi omkring et Copilot-kursus på et sygehus, hvor sikkerheden var strammet så hårdt at systemet ikke ville udlevere en kageopskrift. En kommune der valgte AI-genererede billeder frem for at stille et kamera op foran en ældre borger i en sårbar situation. Og hvordan man kan tale sig udenom de regler en model er pakket ind i, bare ved at ændre måden man spørger på. Kåre fortæller også om det unge selskab han er med i, som bygger noget der minder om en røgalarm til AI. Den er stille det meste af tiden, men giver besked hvis modellen flytter sig fra sin normale tilstand. Om reglerne: EU's AI-forordning rulles ud i etaper. Med AI Omnibus, forordning (EU) 2026/1744, der trådte i kraft 27. juli 2026, er kravene til højrisikosystemer efter bilag III udskudt til 2. december 2027. Det der trådte i kraft 2. august 2026 er blandt andet artikel 50 om gennemsigtighed: oplysningspligt om at man taler med en AI, og mærkning af AI-genereret indhold. GDPR og ophavsret gælder uændret, uanset om der er AI involveret. Kapitler: 00:00 Velkommen og hvorfor Kåre er tilbage 01:46 Hvad er hallucinationer egentlig 04:07 Den svarede Margrethe 2. efter troneskiftet 06:37 Fra lukket træningsdata til modeller der slår op 09:33 Transformerne og hvad de ændrede 11:15 AI-slop og et ry der har taget skade 14:55 Nysgerrighed, faglighed og kritisk sans 16:12 Betonklodsen der vejede tredive kilo 17:45 Copilot på sygehuset ville ikke give en opskrift 19:44 Kontekst er det der afgør svaret 21:30 GDPR, ophavsret og de regler der er nye 23:19 Forudsigeligt eller fleksibelt, sortér i bunker 25:18 Gad vide hvem der laver flest fejl 26:59 Da kommunen valgte AI-billeder af hensyn til borgeren 30:34 Svindlere sætter ikke mærkat på 31:24 Sådan taler man sig udenom en models regler 36:01 Sikkerhedslag, brugerstyring og monitorering 38:07 En brandalarm til AI 41:28 Hvad er tokens 43:16 False positives og hvorfor de er farlige 46:54 Model routing og danske alternativer 50:31 Bed AI om at stille spørgsmål til dig 52:18 Opgaver der før slet ikke blev løst 54:06 Stol aldrig blindt på AI 55:55 Hvis det lugter af lort, er det nok lort Kåre Bjørn Jensen på LinkedIn: linkedin.com/in/kaarebj Følg AI Bros på Instagram @aibrosdk og TikTok @aibroes. ---------------------------------------------------------------