RAG: Retrieval-Augmented Generation

Wat is RAG?

Retrieval-Augmented Generation (RAG) is een AI-techniek waarbij een taalmodel niet alleen antwoord genereert op basis van zijn training, maar ook relevante informatie ophaalt uit externe bronnen, zoals documenten, kennisbanken of databases. Hierdoor worden de antwoorden nauwkeuriger en relevanter.

Waarom RAG handig is

• Accuraat en actueel: AI haalt specifieke, recente informatie op.
• Domeinspecifiek: antwoorden zijn afgestemd op jouw data of organisatie.
• Vermindert fouten: minder kans op verzonnen antwoorden.
• Langdurige context: info buiten het token-limiet kan alsnog gebruikt worden via retrieval.

Context window probleem

LLMs hebben een beperkt context window: ze kunnen maar een bepaald aantal tokens tegelijk verwerken. Alles wat buiten dit window valt, kan door het model “vergeten” worden.

Voorbeeld: je zegt Mijn naam is Marco van Basten aan het begin van een lange sessie. Later kan de AI dit niet meer onthouden zonder RAG.

Concrete use-case: bijles met PDF

Stel: je bent student en wilt AI gebruiken voor bijles. Je kunt een PDF van je boek uploaden en vragen stellen zoals voor een toets of om uitleg over specifieke hoofdstukken te krijgen.

• Upload PDF van het boek.
• Stel vragen: bijvoorbeeld Leg hoofdstuk 3 uit of Maak oefenvragen over paragraaf 5.
• AI gebruikt RAG om relevante info uit de PDF te halen en direct antwoorden te geven.

Andere relevante use-cases

• Klantenservice: AI-chatbots beantwoorden vragen van klanten op basis van actuele handleidingen, FAQ’s of interne documenten.
• Bedrijfskennis ontsluiten: medewerkers vinden snel interne policies, technische manuals of procedures.
• Besluitvorming ondersteunen: AI haalt relevante rapporten of data op zodat managers sneller gefundeerde keuzes kunnen maken.
• Persoonlijke assistentie: AI kan gebruikers helpen bij complexe taken, zoals planning of training, door specifieke informatie op te halen.

Samengevat

• RAG combineert generatieve AI met externe bronnen.
• Het verbetert nauwkeurigheid, relevantie en contextbeheer.
• Gebruikscases: onderwijs, klantenservice, bedrijfskennis, persoonlijke assistentie.