Wat is RAG (Retrieval-Augmented Generation)?

RAG staat voor Retrieval-Augmented Generation. Het is een techniek in de kunstmatige intelligentie die helpt betere antwoorden te geven. Een AI-model met RAG kan extra informatie ophalen uit een eigen kennisbank. Deze gegevensbron is géén onderdeel van het AI-model, maar juist een externe gegevensbron. Op deze manier kan het AI-model nieuwe en bedrijfsspecifieke informatie ophalen. Dit leidt tot antwoorden die preciezer zijn dan zonder RAG.

Hoe werkt RAG?

RAG werkt in twee stappen. De eerste stap is data verzamelen. RAG slaat eerst alle relevante documenten, handleidingen en gegevens van het bedrijf op in een kennisbank. Zo kan de AI later in al die informatie zoeken. De tweede stap is informatie zoeken en beantwoorden. Als iemand een vraag stelt, zoekt de AI in de kennisbank naar relevante informatie. Zie het als een soort bibliothecaris die de juiste woorden in het juiste boek zoekt. De gevonden informatie wordt samen met het taalmodel gebruikt om het antwoord te geven.

Hoe kun je RAG zien?

Een AI-model met RAG werkt een beetje alsof je ChatGPT en Google combineert in één systeem:

• Zonder RAG is ChatGPT als een slimme student die alles vertelt wat hij ooit geleerd heeft, maar geen toegang heeft tot nieuwe boeken of het internet. Zijn kennis stopt op een bepaalde datum. Oftewel: Zonder RAG: Vraag → AI antwoordt uit geheugen.
• Met RAG geef je diezelfde student toegang tot een bibliotheek of Google. Stel je stelt een vraag over een onderwerp waar hij geen details van weet. Dan gaat hij eerst opzoeken in de juiste bronnen, haalt de relevante passages erbij en gebruikt die om een antwoord te formuleren. Oftewel: Met RAG: Vraag → AI zoekt in kennisbank → AI formuleert antwoord.

Een handig ezelsbruggetje:
RAG = ChatGPT die even gaat googlen of andere externe bronnen gebruikt die niet in de standaard kennisbibliotheek zitten. (Dan lijkt het écht alsof ChatGPT gaat googlen, want Google fungeert dan als de externe kennisbank.)

Waarom is RAG belangrijk?

AI-systemen als ChatGPT kennen zonder RAG alleen de informatie waarmee ze zijn getraind. Hun kennis kan daardoor verouderd zijn, wat kan leiden tot onjuiste of algemene antwoorden. RAG lost dit op door de AI toegang te geven tot actuele, betrouwbare bronnen. Zo heeft het systeem steeds de nieuwste gegevens bij de hand. Dat maakt de antwoorden vaak veel nauwkeuriger.

Ook onze chatbots werken met RAG. Dit geeft meerdere voordelen:

• AI gebruikt feiten uit jouw eigen databronnen. Zo maakt hij minder fouten en geeft hij relevantere antwoorden. Jij bepaalt zelf tot welke gegevensbronnen de AI toegang krijgt.
• Antwoorden komen uit de nieuwste gegevens. Een klant krijgt dan bijvoorbeeld direct de laatste productinformatie of bestelstatus.
• Een RAG-chatbot kan dag en nacht vragen beantwoorden. De chatbot zoekt zelf in je bedrijfsregels en klantgegevens voor het juiste antwoord. Dit verbetert de service en vermindert de werkdruk voor je team.
• RAG werkt met jouw eigen documenten en systemen. Antwoorden komen zo precies uit je eigen bedrijfskennis, zoals handleidingen of jaarcijfers. Op die manier deel je snel informatie binnen het bedrijf.
• RAG voegt nieuwe informatie toe zonder het hele AI-model opnieuw te trainen. Dat bespaart veel tijd bij het actueel houden van de kennis.

Voorbeeld: RAG in de praktijk

Stel je vraagt: “Wat staat er in hoofdstuk 3 van het jaarverslag 2023 van bedrijf X?”

• Zonder RAG
  Een taalmodel kan alleen antwoorden op basis van de kennis waarmee het is getraind. Als dat specifieke jaarverslag niet in de trainingsdata zat, kan het model hooguit raden of aangeven dat het het niet weet.
• Met RAG
  1. De vraag triggert het systeem om informatie op te halen uit een gekoppelde kennisbron (bijvoorbeeld de database met jaarverslagen).
  2. Het RAG-systeem zoekt de relevante passages in het document.
  3. Deze passages worden toegevoegd als context bij de prompt voor het taalmodel.
  4. Het model genereert een antwoord in natuurlijke taal, gebaseerd op de opgehaalde informatie.

Dit laat zien dat RAG niet continu actief is, maar pas wordt ingezet wanneer er aanvullende, actuele of specifieke kennis nodig is.

Waarom RAG niet de heilige graal is

• De kwaliteit van het antwoord hangt sterk af van de kwaliteit van de brondata (net als zoeken zonder RAG, input = output).
• Als de kennisbank niet goed wordt bijgehouden, kan de AI nog steeds achterhaalde of verkeerde info geven.
• De AI combineert opgehaalde teksten. Dat betekent dat “hallucinatie” minder wordt, maar niet volledig weg is.