RAG vs Self-RAG: Hoe AI zichzelf leerde controleren

Wat is RAG en waarom is het belangrijk

Grote taalmodellen hebben één kritieke zwakte: ze kennen alleen wat ze getraind hebben. Vraag een model naar iets van vorige maand of iets in je interne documenten, dan verzint het iets of geeft toe het niet te weten.

Retrieval-Augmented Generation (RAG) is ontworpen om dit op te lossen. In plaats van alleen op getrainde parameters te vertrouwen, verbindt RAG het model met een externe kennisbron, doorgaans een vectordatabase. Bij een vraag worden de meest relevante documenten opgehaald en als context aan het model meegegeven.

Het resultaat is een systeem dat feitelijk nauwkeuriger is, makkelijker bij te werken, en veel goedkoper te onderhouden dan het herhaaldelijk fine-tunen van een model op nieuwe data.

Het probleem met standaard RAG

Standaard RAG heeft één fundamentele ontwerpkeuze: het haalt altijd op. Elke query triggert een vectorzoekopdracht, ongeacht of de vraag externe context nodig heeft.

Stel een simpele rekensom en een standaard RAG-pijplijn zal toch netjes de kennisbank doorzoeken, marginaal gerelateerde documenten vinden, en die als context meegeven. Dit is verspilling en kan de antwoordkwaliteit juist verslechteren.

• Onnodige ophaling: eenvoudige feitelijke vragen hebben helemaal geen externe context nodig
• Geen zelfcorrectie: als de opgehaalde documenten fout of irrelevant zijn, detecteert standaard RAG dit niet
• Geen outputvalidatie: na het genereren van een antwoord controleert niets of het antwoord door het bewijs wordt ondersteund

Wat is Self-RAG

Self-RAG is een geavanceerd framework dat een laag van autonoom redeneren toevoegt bovenop standaard RAG. In plaats van altijd op te halen, beslist het model eerst of ophalen überhaupt nodig is. Na het ophalen evalueert het of wat gevonden is relevant is. Na het genereren controleert het of de output daadwerkelijk door het bewijs wordt ondersteund.

Dit zelfkritische gedrag maakt Self-RAG significant betrouwbaarder dan zijn voorganger. Het model is niet alleen een passieve tekstgenerator, maar fungeert als zijn eigen kwaliteitscontrolelaag door het hele proces heen.

Hoe reflectie-tokens werken

Het mechanisme achter Self-RAG bestaat uit speciale markeringen die reflectie-tokens worden genoemd. Deze worden niet opgehaald uit externe bronnen, ze worden door het model zelf gegenereerd als onderdeel van het redeneerproces. Er zijn drie kerntypen:

• Retrieve token: het model genereert dit om te beslissen of het iets moet opzoeken of vanuit eigen kennis kan antwoorden. Als het antwoord nee is, wordt ophalen volledig overgeslagen
• Relevance token: na het ophalen van documenten evalueert het model elk document. Is dit document relevant voor de gestelde vraag? Irrelevante documenten worden weggegooid voor generatie
• Support token: na het genereren van een antwoord controleert het model of het antwoord daadwerkelijk door het opgehaalde bewijs wordt ondersteund. Zo niet, dan markeert of herziet het model het antwoord

Deze driestaps zelfevaluatie vermindert hallucinaties drastisch en verbetert de betrouwbaarheid van gegenereerde antwoorden aanzienlijk ten opzichte van standaard RAG.

Agentische RAG vs lineaire RAG

Zowel standaard RAG als Self-RAG volgen een relatief lineair proces: query ontvangen, documenten ophalen, antwoord genereren. Agentische RAG breekt deze lineariteit volledig.

In een agentisch RAG-systeem kan het model een meerstaps ophalingsstrategie plannen. Het kan ophalen uit één bron, de resultaten evalueren, besluiten dat het meer informatie nodig heeft uit een andere bron, opnieuw ophalen, synthesiseren over meerdere documenten en dan een eindantwoord genereren.

• Lineaire RAG: één ophalingsstap, één generatiestap, klaar
• Self-RAG: beslist of ophalen nodig is, bekritiseert opgehaalde inhoud, valideert uitvoerkwaliteit
• Agentische RAG: meerstaps planning, meerdere ophalingsbronnen, dynamische strategie op basis van tussenresultaten

RAG vs fine-tuning: waarom RAG wint voor de meeste gevallen

Een veelgestelde vraag is of je RAG moet gebruiken of simpelweg het basismodel moet fine-tunen op domeinspecifieke data. Fine-tuning heeft echter ernstige praktische nadelen:

• Kosten: fine-tuning van een groot model kost duizenden euro's en moet worden herhaald wanneer je kennisbank verandert
• Versheid: fine-tuned modellen kunnen niet in real time worden bijgewerkt. RAG haalt bij elke query op uit een live kennisbank
• Transparantie: met RAG zie je precies welke documenten het model gebruikte. Met fine-tuning is de kennis ondoorzichtig in de gewichten
• Verifieerbaarheid: RAG-antwoorden zijn terug te voeren op brondocumenten. Fine-tuned antwoorden niet

Voor de meeste bedrijfsapplicaties is RAG, en vooral Self-RAG, de kostenefficiëntere, onderhoudbaardere en betrouwbaardere keuze.

Bekijk de volledige uitleg

Bekijk onze YouTube video voor een visuele uitleg van standaard RAG, Self-RAG reflectie-tokens en agentische RAG met echte voorbeelden: https://youtu.be/ztSvMbz4NPU

Conclusie

Standaard RAG was een grote stap voorwaarts voor het verankeren van AI in verifieerbare kennis. Self-RAG gaat verder door het model de mogelijkheid te geven te redeneren over wanneer op te halen, of wat het heeft opgehaald nuttig is, en of zijn eigen uitvoer vertrouwd kan worden.

Als je AI-systemen bouwt waarbij nauwkeurigheid telt, is het begrijpen van deze onderscheiden niet optioneel. Het verschil tussen een standaard RAG-pijplijn en een Self-RAG-pijplijn kan het verschil zijn tussen een AI-assistent die zelfverzekerd foute antwoorden geeft en één die weet wanneer hij moet zeggen "ik moet dat even controleren."

Bronnen