#93 - Hvordan Bygger Man RAG-systemer? med Emil Lykke Jensen

I denne episode af Vabos Podcast dykker værten Kasper Junge og gæsten Emil Jensen ned i Retrieval Augmented Generation (RAG). De diskuterer, hvad RAG er, hvordan det kan anvendes i virksomheder, og hvilke udfordringer der er forbundet med datahåndtering og søgning. Derudover taler de om vigtigheden af at optimere supportartikler og den iterative proces i systemforbedringer. Episoden afsluttes med en diskussion om hukommelse og RAGs fremtidige perspektiver. I denne samtale diskuterer deltagerne emner relateret til AI, semantisk søgning, evaluering af RAG-systemer, fine-tuning og RAG. De udforsker, hvordan uendelige kontekstvinduer kan forbedre søgninger, vigtigheden af feedback loops i systemer, og hvordan man bedst anvender fine-tuning i forhold til RAG. Deltagerne deler også deres erfaringer med forskellige modeller og værktøjer, samt hvordan domæneviden spiller en afgørende rolle i data science. Find Emil Lykke Jensen og hans projekter her: - https://www.linkedin.com/in/emillykkejensen/ - https://www.governt.io/ - https://www.brieft.io/ Chapters 00:00 Introduktion til RAG og gæsternes baggrund 02:31 Hvad er Retrieval Augmented Generation? 05:22 Anvendelse af RAG i virksomheder 08:06 Udfordringer ved datahåndtering og søgning 10:44 Effektivitet i søgning og retrieval 13:39 Optimering af supportartikler med RAG 16:23 Data som en vigtig ressource 18:56 Iterativ forbedring af systemer 22:03 Hukommelse og RAGs rolle 24:42 Fremtidige perspektiver for RAG 35:52 Uendelige kontekstvinduer og semantisk søgning 42:20 Evaluering af racksystemer og feedback loops 47:48 Fine-tuning vs. RAG: Hvornår skal man bruge hvad? 55:03 Praktiske anvendelser og fremtidige perspektiver