Przejdź do treści
promptowy.com / KI-Glossar / RAG (Retrieval-Augmented Generation)
Technologie

RAG (Retrieval-Augmented Generation)

RAG verbindet Sprachmodelle mit externen Datenbanken: Das System sucht relevante Dokumente heraus und nutzt diese Fakten direkt als Grundlage für die Antwort.

Retrieval-Augmented Generation (abgekürzt RAG) ist eine Methode in der künstlichen Intelligenz, die ein Sprachmodell mit einer externen, verlässlichen Wissensquelle verbindet. Anstatt sich allein auf das Wissen zu verlassen, das während des Trainings im Modell gespeichert wurde, greift das System vor dem Formulieren einer Antwort gezielt auf spezifische Dokumente zu.

In der Praxis bedeutet das: Wenn ein Nutzer eine Frage stellt, durchsucht das RAG-System zuerst die angebundene Datenbank nach passenden Abschnitten. Diese Textstellen werden zusammen mit der ursprünglichen Frage an das Sprachmodell übergeben. Die künstliche Intelligenz formuliert ihre Antwort dann auf Basis dieser frisch gelieferten Fakten.

Wie RAG Schritt für Schritt funktioniert

Der Begriff beschreibt den Ablauf bereits im Namen. Der Prozess lässt sich in drei aufeinanderfolgende Phasen unterteilen:

  1. Retrieval (Abrufen): Die Anfrage des Nutzers wird analysiert. Eine Suchfunktion, meist gestützt auf semantische Vektordatenbanken, durchkämmt interne Dokumente, PDF-Dateien, Handbücher oder E-Mails nach den inhaltlich relevantesten Textbausteinen.
  2. Augmentation (Anreicherung): Die gefundenen Textabschnitte werden im Hintergrund an den Prompt angehängt. Die Anfrage wird also mit verlässlichen Fakten und Kontext angereichert, bevor sie an das Sprachmodell geht.
  3. Generation (Erzeugung): Das Sprachmodell liest die Frage und die mitgelieferten Informationen. Es formuliert eine verständliche Antwort und stützt sich dabei direkt auf das bereitgestellte Material, anstatt frei zu spekulieren.

Ein Praxisbeispiel aus dem DACH-Mittelstand

Man stelle sich einen mittelständischen Betrieb für Gebäudetechnik in Linz oder ein Sanitärunternehmen im Raum Karlsruhe vor. Im Kundenservice und bei Monteuren vor Ort fallen täglich hunderte Fragen an: Welche Fehlermeldung zeigt die Wärmepumpe eines bestimmten Herstellers? Wie lauten die Wartungsintervalle für eine Industrieanlage? Welche Brandschutzrichtlinien gelten im Kanton Zürich?

Ein Standard-Sprachmodell kennt interne Schaltpläne oder spezifische Verträge nicht und neigt bei Fachfragen dazu, plausible Details zu erfinden. Ein RAG-System löst dieses Problem: Es durchsucht die PDF-Archive und Montageanleitungen des Betriebs in Sekundenschnelle. Der Monteur vor Ort erhält sofort die richtige Antwort, inklusive des Hinweises auf Seite 42 des Originalhandbuchs. Das Unternehmen muss kein eigenes Sprachmodell für Millionenbeträge trainieren, sondern nutzt handelsübliche Modelle, die schlicht mit den eigenen Daten gefüttert werden.

Warum RAG der Standard für Unternehmens-KI ist

Für Unternehmen in Deutschland, Österreich und der Schweiz ist RAG zur bevorzugten Architektur für interne Wissensassistenten geworden. Die Gründe dafür liegen auf der Hand:

Erstens sinkt das Risiko von Halluzinationen drastisch. Da das Modell explizit angewiesen wird, nur die mitgelieferten Fakten zu nutzen, erfindet es deutlich seltener falsche Behauptungen. Wenn in den Dokumenten keine Antwort steht, kann das Modell darauf hinweisen.

Zweitens bleibt das Wissen jederzeit aktuell, ohne dass das Basismodell neu trainiert oder mit hohem Aufwand feingetunt werden muss. Ändern sich Tarife, interne Richtlinien der Stadtwerke oder Montagevorschriften, genügt es, das Dokument in der Wissensdatenbank zu aktualisieren. Die nächste Abfrage berücksichtigt sofort den neuen Stand.

Drittens bietet RAG vollständige Nachvollziehbarkeit. Da das System genau weiß, welche Dokumentabschnitte an das Modell geschickt wurden, kann es die entsprechenden Quellenangaben direkt mitliefern. Mitarbeiter können jede Behauptung der KI im Originaldokument gegenprüfen.

Der häufigste Denkfehler: Datenqualität schlägt Modellgröße

Ein weit verbreiteter Irrglaube in Projekten lautet, dass ein größeres oder klügeres Sprachmodell schlechte Suchergebnisse ausgleichen kann. Das ist nicht der Fall. Das RAG-Prinzip folgt dem bekannten Grundsatz: Was vorne fehlerhaft hineingegeben wird, kommt hinten fehlerhaft heraus.

Findet der Suchschritt unvollständige, veraltete oder völlig falsche Absätze in der Datenbank, kann selbst das fortschrittlichste Modell daraus keine korrekte Antwort mehr ableiten. Der Erfolg eines RAG-Systems entscheidet sich daher fast nie an der Wahl des Chat-Modells, sondern an der Vorbereitung der Daten: saubere Texttrennung, gute Verschlagwortung und eine präzise Suchtechnologie sind das eigentliche Fundament.

Häufig gestellte Fragen

Was ist der Unterschied zwischen RAG und Fine-Tuning?

Beim Fine-Tuning lernt ein Modell durch weiteres Training neue Muster und Schreibstile fest ein. Bei RAG bleibt das Modell unverändert, bekommt aber bei jeder Frage die passenden Dokumente direkt zum Nachlesen vorgelegt.

Kann eine KI mit RAG immer noch falsche Antworten geben?

Ja, aber deutlich seltener. Fehler entstehen meist dann, wenn die interne Suche unpassende Dokumente auswählt oder die bereitgestellten Texte selbst widersprüchlich oder veraltet sind.

Welche Daten können für RAG genutzt werden?

Nahezu alle textbasierten Quellen lassen sich anbinden, etwa PDF-Dateien, Word-Dokumente, Firmen-Wikis, Ticketsysteme oder rechtliche Vorschriften.

Warum trainiert man Modelle nicht einfach mit den eigenen Daten?

Ein eigenes Training ist extrem zeitaufwendig, technisch komplex und muss bei jeder Dokumentenänderung wiederholt werden. RAG ist flexibler, transparenter und wesentlich kostengünstiger.

← Alle Begriffe im KI-Glossar

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›