RAG steht für Retrieval-Augmented Generation. Dabei sucht ein System zuerst passende Informationen in einer getrennten Wissensbasis und gibt diese zusammen mit der Frage an ein Sprachmodell weiter. Das Modell formuliert seine Antwort auf Grundlage des gefundenen Kontexts.

Eine RAG-Lösung kann interne Dokumente schneller zugänglich machen. Sie ist aber kein Ersatz für gepflegtes Wissen, klare Berechtigungen oder fachliche Prüfung.

Was RAG von einem normalen Chat unterscheidet

Ein allgemeines Sprachmodell kennt interne Handbücher, Verträge oder aktuelle Prozessbeschreibungen nicht. Beim RAG-Verfahren bleiben diese Informationen in einer separaten Wissensbasis. Zu einer Frage werden passende Abschnitte gesucht und nur für die konkrete Antwort bereitgestellt.

Das NIST beschreibt RAG als Verbindung eines generativen Modells mit einem Informationsabrufsystem. Die Wissensbasis kann aktualisiert werden, ohne das Modell neu zu trainieren.

Das bringt drei praktische Vorteile:

  • internes Wissen lässt sich laufend aktualisieren,
  • Antworten können auf konkrete Quellen verweisen,
  • der Umfang kann auf freigegebene Unternehmensdaten begrenzt werden.

Wann sich eine Wissensbasis lohnt

RAG passt zu wiederkehrenden Fragen, deren Antworten in einem überschaubaren und gepflegten Bestand liegen. Beispiele sind Betriebsanleitungen, interne Richtlinien, Produktwissen, Supportdokumentation oder freigegebene Vertragsbausteine.

Weniger geeignet ist RAG, wenn die Informationen überwiegend mündlich, widersprüchlich oder veraltet sind. Das System kann Unordnung schneller durchsuchen, aber nicht von selbst entscheiden, welche von drei widersprechenden Anleitungen verbindlich ist.

Die eigentliche Arbeit beginnt bei den Dokumenten

Vor der technischen Umsetzung braucht jedes Dokument:

  • einen erkennbaren Eigentümer,
  • Titel, Version und Gültigkeitsdatum,
  • nachvollziehbare Zugriffsrechte,
  • eine eindeutige Ablage,
  • Regeln für Aktualisierung und Archivierung.

Danach werden Inhalte in sinnvolle Abschnitte zerlegt und mit Metadaten versehen. Zu kleine Abschnitte verlieren Zusammenhang, zu grosse liefern zu viel unpassenden Text. Diese Aufteilung muss anhand realer Fragen getestet werden.

Berechtigungen gelten vor der Suche

Eine interne Wissensbasis darf keine vertraulichen Dokumente an Personen ausgeben, die sie im Original nicht lesen dürften. Zugriffskontrolle muss deshalb bereits den Abruf begrenzen. Ein Hinweis im Prompt ersetzt keine technische Berechtigung.

Das gilt auch für Protokolle und Auswertungen. Fragen können vertrauliche Interessen offenlegen. Aufbewahrung, externe Verarbeitung und Datenminimierung gehören in die Architektur.

Quellen machen Antworten prüfbar

Eine gute RAG-Antwort zeigt, aus welchen Dokumenten und Abschnitten sie abgeleitet wurde. Quellenangaben verhindern keine Fehler, machen sie aber auffindbar. Der Benutzer kann prüfen, ob die Fundstelle aktuell, passend und vollständig ist.

Die Qualitätsprüfung sollte reale Aufgaben enthalten:

  • Findet das System das richtige Dokument?
  • Verwendet es den relevanten Abschnitt?
  • Begrenzt es die Antwort auf die vorhandenen Quellen?
  • Erkennt es, wenn keine belastbare Antwort vorliegt?
  • respektiert es Berechtigungen und Datenklassen?

Eine KI-Richtlinie legt fest, wie Mitarbeiter solche Antworten verwenden und kontrollieren.

Klein beginnen

Ein guter Pilot verwendet einen klar abgegrenzten Bestand und zwanzig bis fünfzig echte Fragen aus dem Arbeitsalltag. Erst wenn Suche, Quellen und Berechtigungen funktionieren, sollte die Wissensbasis wachsen.

Merksatz

RAG macht vorhandenes Wissen auffindbarer. Die Qualität entsteht aus gepflegten Dokumenten, passenden Fundstellen, konsequenten Berechtigungen und einer Antwort, deren Herkunft überprüfbar bleibt.