#122 - AI på dansk jord: Fra Gefion til API - med Lars Maaløe fra Corti og Rasmus Bisgaard fra DCAI

Hvad kræver det at køre stærke, åbne AI-modeller på dansk jord? Og hvor meget af arbejdet ligger i alt det, der omgiver selve modellen? Kasper Junge og Jonas Høgh Kyhse-Andersen har besøg af Lars Maaløe, medstifter og CTO i Corti, og Rasmus Bisgaard, Chief Commercial Officer i DCAI, som driver Gefion. Lars fortæller om rejsen fra realtidsanalyse af 112-opkald til en AI-platform og om modeller, der skal fungere med medicinske fagudtryk, støj og uventede situationer. Rasmus forklarer, hvorfor GPU-kapacitet først bliver brugbar for flere, når andre bygger de nødvendige services ovenpå. Vi undersøger gæsternes tese om, at åbne modeller nu er et reelt alternativ til de lukkede. Vi diskuterer også, hvornår små modeller giver mening, hvornår prisoptimering begrænser et produkt for tidligt, og hvordan agent-workflows ændrer behovet for compute og lav latency. Samtalen slutter med Corti og DCAI's samarbejde og Rasmus' eksempel med Vejle Kommune: forskellen mellem at have adgang til hardware og at have en løsning, der er nem at bruge. Hvad holder jer tilbage fra at køre jeres AI på dansk infrastruktur? Links og kilder: Corti: https://www.corti.ai/ Corti Labs / Corti Models: https://cortilabs.com/ Cortis API-dokumentation: https://docs.corti.ai/get_started/welcome DCAI og Gefion: https://dcai.dk/ Cortis forskning og publikationer: https://www.corti.ai/research Corti og DCAI om samarbejdet: https://corti.ai/newsroom/dcai-and-corti-launch-sovereign-ai-control-layer-for-european-enterprises---trifork-first-to-adopt-as-implementation-partner Kapitler: 00:00 Åbne modeller på dansk jord – mød Lars og Rasmus 01:04 Corti: Fra neurale netværk til hjælp ved 112-opkald 04:09 GPU'er, Theano og de tidlige deep learning-år 07:30 Rasmus' vej fra produktion til NVIDIA og DCAI 10:00 Gefion: Fra supercomputer til enterprise-infrastruktur 16:19 Cortis vej fra applikationer til AI-platform 22:50 Hvorfor domænekendskab stadig er afgørende 27:17 Speech-to-text skal fungere uden for testdatasættet 30:53 Er åbne modeller blevet gode nok? 36:13 Store eller små modeller – hvornår optimerer man? 41:18 Agenter øger behovet for tokens og lav latency 46:43 Corti og DCAI: Kontrol over modeller og infrastruktur 51:25 Ingen kan bygge hele AI-stakken alene 58:36 Vejle Kommune: Fra GPU-adgang til en brugbar service 01:00:23 Afrunding og hvor du kan komme i gang Verbos: AI og Softwareudvikling er den danske podcast fra maskinrummet. Kasper Junge og Jonas Høgh Kyhse-Andersen bygger bro mellem klassisk software engineering og arbejdet med AI-agenter. YouTube: https://www.youtube.com/@VerbosPodcast Apple Podcasts: https://podcasts.apple.com/dk/podcast/verbos-ai-og-softwareudvikling/id1650151292 Spotify: https://open.spotify.com/show/0wNglFesfNltKiDAhcu4nJ