Beskrivelse
I dette afsnit spørger vi det store spørgsmål: er vi i The Matrix? Eller er det bare computerne, der er begyndt at opføre sig underligt? Vi starter som altid med "Hvorfor finder vi os i det?", hvor Daniel denne gang har lagt sig ud med Facebook. Derefter tager Magnus os med i maskinrummet og forklarer, hvorfor en AI kan finde på at gøre noget helt vildt, som at hacke en anden virksomhed, helt af sig selv, selvom ingen har bedt den om det. Ikke fordi den er ond, men fordi den bare prøver at løse sin opgave så effektivt som muligt. Og så udsætter Daniel Magnus for en lille quiz om AI'er, der er gået i selvsving i den virkelige verden. Kan Magnus gætte, hvad der er sandt, og hvad der er løgn? Til sidst kigger vi på, hvordan teknologi bliver portrætteret i populærkulturen med udgangspunkt i NCIS sæson 2, afsnit 5, og en hacking-scene, der er så vild, at den er værd at grine ad. Referencer og links: Paperclip / Squiggle Maximizer (Nick Bostrom): https://www.lesswrong.com/w/squiggle-maximizer-formerly-paperclip-maximizer Universal Paperclips som spil (Frank Lantz) Kilderne til historierne i Daniels quiz: Project Vend https://www.anthropic.com/research/project-vend-1 Project Vend, del 2 https://www.anthropic.com/research/project-vend-2 Agentic Misalignment https://www.anthropic.com/research/agentic-misalignment Hjemmeside: https://idioter.med.computer Feedback og spørgsmål: [email protected]
