{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Development"],"content":{"markdown":"Ein Sprachmodell weiß nur, was in seinen Trainingsdaten stand. Ihre Preisliste, Ihr internes Wiki oder die Richtlinie, die sich letzte Woche geändert hat, kennt es nicht. **Retrieval-Augmented Generation** (RAG, abrufgestützte Textgenerierung) schließt diese Lücke. Bevor das Modell antwortet, sucht Ihre Anwendung die passendsten Passagen in Ihren eigenen Dokumenten und fügt sie dem Prompt hinzu. Das Modell antwortet dann auf Grundlage dieser Passagen und nennt seine Quellen.\n\nDies ist Teil 2 von Level 2. Er baut auf [Embeddings und Vektordatenbanken](/de/ai-development/learn/embeddings-and-vector-databases/) aus Teil 1 auf. Sie gehen die ganze Pipeline Schritt für Schritt durch und erfahren, wo sie typischerweise bricht, wie Sie sie testen — und wann Sie RAG gar nicht brauchen.\n\n## Warum ein Modell Ihre Dokumente braucht\n\nDrei Grenzen machen den Abruf nötig:\n\n- **Stichtag.** Ein Modell lernt aus Daten bis zu einem bestimmten Datum. Was danach kam, kennt es nicht, solange Sie es nicht mitliefern.\n- **Kein internes Wissen.** Ihre Verträge, Tickets und Produktdaten waren nie Teil seiner Trainingsdaten.\n- **Selbstsicheres Raten.** Kennt ein Modell eine Tatsache nicht, erfindet es womöglich eine plausible Antwort. Das nennt man **Halluzination**.\n\nDer letzte Punkt lässt sich messen. Der Benchmark SimpleQA Verified stellt kurze Faktenfragen mit genau einer richtigen Antwort, und die Modelle antworten ohne Werkzeuge oder Websuche. Selbst die besten Modelle unserer LLM-Datenbank beantworten nicht alle richtig:\n\n{{\u003c llm-top bench=\"simpleqa-verified\" n=\"5\" \u003e}}\n\nRAG macht ein Modell nicht fehlerfrei. Aber es liefert dem Modell die Fakten, die es braucht, und es lässt Nutzer jede Antwort an ihrer Quelle prüfen. Beschrieben haben das Verfahren 2020 Forschende von Facebook AI Research (Quelle: Lewis et al., „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks“, NeurIPS 2020, arxiv.org). Heute ist es eines der häufigsten Muster für Assistenten, die Fragen zu Unternehmensdokumenten beantworten.\n\n## Die Pipeline im Überblick\n\nEin RAG-System arbeitet in zwei Phasen. Das **Indexieren** läuft im Hintergrund, sobald sich Dokumente ändern: Sie laden die Dokumente, zerlegen sie in Chunks, betten die Chunks ein und speichern sie. Das **Antworten** läuft bei jeder Frage: Sie rufen passende Chunks ab, sortieren sie neu und lassen das Modell eine Antwort mit Quellenangaben schreiben.\n\n![RAG-Pipeline in zwei Reihen: Indexieren mit Einlesen, Zerlegen, Einbetten und Speichern; Antworten mit Abrufen, Neu sortieren und Antworten mit Quellen](/images/learn/de/retrieval-augmented-generation-step-by-step-pipeline.webp \"Die zwei Phasen von RAG: Das Indexieren bereitet Ihre Dokumente vor, das Antworten nutzt sie bei jeder Frage.\")\n\nDie nächsten beiden Abschnitte gehen die sieben Schritte einzeln durch. Jeder Schritt hat eine Aufgabe und eigene typische Fehler. Die Bewertung, der achte Schritt, bekommt einen eigenen Abschnitt.\n\n## Indexieren: einlesen, zerlegen, einbetten, speichern\n\n**1. Einlesen.** Sammeln Sie die Dokumente aus ihren Quellen: PDFs, Wiki-Seiten, Artikel aus dem Hilfe-Center, Tickets. Ziehen Sie sauberen Text heraus und entfernen Sie Kopfzeilen, Fußzeilen und Seitenzahlen, die sich auf jeder Seite wiederholen. Behalten Sie die **Metadaten**: Titel, Link oder Dateipfad, Datum, Verantwortliche und Zugriffsrechte. Lassen Sie Dubletten und veraltete Fassungen weg. Stehen zwei Fassungen einer Richtlinie im Index, zitiert das Modell womöglich die falsche.\n\n**2. Zerlegen.** Teilen Sie jedes Dokument entlang seiner Struktur in Chunks: Überschriften, Absätze, Listenpunkte. Lassen Sie Tabellen am Stück und wandeln Sie sie in ein einfaches Format wie Markdown um, denn beim Auslesen von PDFs werden Tabellenzeilen oft zu einem Zahlensalat. Stellen Sie jedem Chunk Dokumenttitel und Überschrift voran. Wie Sie die Chunk-Größe wählen, erklärt Teil 1.\n\n**3. Einbetten.** Wandeln Sie jeden Chunk mit einem Embedding-Modell in einen Vektor um. Nutzen Sie für Chunks und Fragen dasselbe Modell und speichern Sie den Modellnamen beim Index. Tausende Chunks einzubetten ist eine Stapelverarbeitung: Sie läuft einmal und danach nur noch für neue oder geänderte Dokumente.\n\n**4. Speichern.** Schreiben Sie Vektoren, Chunk-Texte und Metadaten in Ihren Vektorspeicher, mit einer festen ID für jeden Chunk. Ändert sich ein Dokument, ersetzen Sie seine Chunks. Wird es gelöscht, löschen Sie sie ebenfalls.\n\nDrei Tools aus unserem Vergleich passen zu diesen Schritten: eine verwaltete Vektordatenbank für Speicherung und Suche und eine Plattform für KI-Apps auf eigenen Daten. Das dritte ist ein Scraper ohne Code, der laut Anbieter Webseiten auf Änderungen überwacht. Er hilft, wenn Ihre Quellen öffentliche Seiten sind, die im Index aktuell bleiben müssen.\n\n{{\u003c tools \"pinecone devs-ai browse-ai\" \u003e}}\n\n## Antworten: abrufen, neu sortieren, generieren\n\n**5. Abrufen.** Betten Sie die Frage mit demselben Modell ein und suchen Sie im Index die nächstgelegenen Chunks. Holen Sie mehr Kandidaten, als Sie brauchen, zum Beispiel 20 bis 50. Wenden Sie Metadatenfilter vor oder während der Suche an: Sprache, Produkt, Datum und vor allem die Zugriffsrechte der Nutzerin. Zwei Techniken helfen oft:\n\n- **Hybride Suche** verbindet Vektorsuche mit Stichwortsuche, sodass exakte Begriffe wie Produktcodes gefunden werden.\n- **Query Rewriting** macht aus einer Anschlussfrage eine vollständige Frage. Im Chat bedeutet „Und in Deutschland?“ für sich genommen nichts. Ein kurzer Modellaufruf kann daraus vor der Suche „Wie lange ist die Rückgabefrist für Bestellungen in Deutschland?“ machen.\n\n**6. Neu sortieren.** Vektorsuche ist schnell, aber grob. Ein **Reranker** ist ein zweites Modell, das Frage und Kandidaten-Chunk gemeinsam liest und bewertet, wie gut sie zusammenpassen. Das ist genauer, aber langsamer, deshalb sortieren Sie nur die Kandidaten aus Schritt 5 neu. Für den Prompt behalten Sie die besten wenigen, etwa drei bis acht Chunks.\n\n![Trichter von allen Chunks im Index zu rund 50 Kandidaten aus der Vektorsuche, dann den besten 5 nach dem Neusortieren, dann der Antwort mit Quellen](/images/learn/de/retrieval-augmented-generation-step-by-step-funnel.webp \"Der Abruf grenzt die Suche Schritt für Schritt ein. Die Zahlen sind Beispiele; stimmen Sie sie mit Ihren eigenen Daten ab.\")\n\n**7. Antworten mit Quellen.** Jetzt bauen Sie den Prompt. Er enthält klare Regeln, die ausgewählten Chunks mit ihren IDs und die Frage der Nutzerin:\n\n![Ein Prompt in drei Teilen: Regeln, nur aus den Quellen zu antworten und sie zu zitieren, die Quellen mit IDs und die Frage der Nutzerin](/images/learn/de/retrieval-augmented-generation-step-by-step-prompt.webp \"Aufbau eines quellengestützten Prompts: zuerst die Regeln, dann die Quellen mit IDs, dann die Frage.\")\n\nDrei Details machen den Unterschied:\n\n- **„Weiß ich nicht“ erlauben.** Sagen Sie dem Modell, dass es das offen sagen soll, wenn die Quellen die Antwort nicht enthalten. Ohne diese Regel füllt es Lücken mit allgemeinem Wissen.\n- **Quellenangaben im Code prüfen.** Jede ID, die das Modell zitiert, muss zu einem Chunk gehören, den Sie tatsächlich geschickt haben. Zeigen Sie die zitierten Passagen in Ihrer Oberfläche an, damit Nutzer die Antwort prüfen können.\n- **Die besten Chunks zuerst, den Prompt fokussiert halten.** Sprachmodelle nutzen Informationen am Anfang und am Ende einer langen Eingabe meist besser als Informationen in der Mitte (Quelle: Liu et al., „Lost in the Middle: How Language Models Use Long Contexts“, 2023, arxiv.org).\n\n{{\u003c callout type=\"warning\" \u003e}}\nAbgerufener Text ist Inhalt, keine Anweisung. Ein Dokument in Ihrem Index kann versteckte Anweisungen an das Modell enthalten, etwa eine Zeile, die es auffordert, seine Regeln zu ignorieren. Folgt das Modell ihr, spricht man von **indirekter Prompt-Injection**. Halten Sie Ihre Anweisungen im System-Prompt, kennzeichnen Sie die Quellen klar als zitiertes Material und geben Sie dem Modell nie mehr Rechte, als die Nutzerin hat. Unser [Bereich AI Security](/de/ai-security/) behandelt dieses Risiko ausführlich.\n{{\u003c /callout \u003e}}\n\n## Abruf und Antworten getrennt bewerten\n\nIst eine RAG-Antwort falsch, müssen Sie wissen, welcher Schritt versagt hat. Messen Sie die beiden Hälften deshalb getrennt:\n\n- **Abruf:** Für jede Testfrage wissen Sie, welcher Chunk die Antwort enthält. Ist dieser Chunk unter den besten Treffern? Den Anteil der Fragen, bei denen das so ist, nennt man **Trefferquote** (Hit Rate) oder **Recall@k**.\n- **Antwort:** Ist jede Aussage durch die zitierten Chunks gedeckt? Das nennt man **Faithfulness** (Quellentreue) oder **Groundedness**. Ist die Antwort richtig und vollständig? Und sagt das Modell „Weiß ich nicht“, wenn die Dokumente die Antwort nicht enthalten?\n\nVersagt der Abruf, verbessern Sie Chunks, Filter oder Suche. Funktioniert der Abruf, sind die Antworten aber falsch, ändern Sie den Prompt oder probieren ein anderes Modell. Teil 4 dieses Levels zeigt, wie Sie solche Testsätze aufbauen und automatisch laufen lassen: [KI-Funktionen mit Evals testen](/de/ai-development/learn/test-ai-features-with-evals/).\n\n{{\u003c callout type=\"try\" \u003e}}\nSchreiben Sie 20 echte Fragen auf, die Ihre Dokumente beantworten können, und notieren Sie zu jeder Dokument und Abschnitt mit der Antwort. Ergänzen Sie fünf Fragen, die die Dokumente nicht beantworten können. Schicken Sie alle 25 durch Ihre Pipeline und zählen Sie zweierlei: wie oft der richtige Abschnitt abgerufen wurde und wie oft das Modell bei den fünf unbeantwortbaren Fragen „Weiß ich nicht“ gesagt hat.\n{{\u003c /callout \u003e}}\n\n## Typische Fehler und ihre Behebung\n\nDie meisten RAG-Fehler entstehen, bevor das Modell ein einziges Wort schreibt. Die Abbildung zeigt sechs typische Fehler und den Schritt, in dem jeder beginnt:\n\n![Sechs Fehlerkarten, jede mit dem Pipeline-Schritt, in dem sie beginnt: schlechte Chunks, fehlender Kontext, veraltete Daten, verfehlte exakte Begriffe, fehlender Berechtigungsfilter, schwache Anweisungen](/images/learn/de/retrieval-augmented-generation-step-by-step-failures.webp \"Wo RAG bricht: Jeder Fehler ist mit dem Schritt markiert, in dem er beginnt.\")\n\nDie Tabelle macht daraus eine Anleitung zur Fehlersuche:\n\n| Symptom | Wahrscheinliche Ursache | Behebung |\n|---|---|---|\n| Der Antwort fehlen Fakten, die in den Dokumenten stehen | Der richtige Chunk wurde nicht abgerufen | Hybride Suche, Query Rewriting, bessere Chunks |\n| Die Antwort verwechselt Produkte oder Versionen | Chunks fehlt Kontext wie Titel oder Produktname | Titel und Überschrift in jeden Chunk; nach Produkt filtern |\n| Die Antwort ist veraltet | Der Index wurde nicht aktualisiert; alte Fassungen liegen noch darin | Bei jeder Änderung neu indexieren; alte Fassungen löschen; Datum anzeigen |\n| Zahlen aus Tabellen stimmen nicht | Tabellen wurden beim Auslesen zerteilt oder plattgedrückt | Tabellen ganz lassen; in Markdown umwandeln; mit Zahlenfragen testen |\n| Das Modell antwortet aus allgemeinem Wissen | Schwache Anweisungen oder nichts Passendes abgerufen | Antworten nur aus den Quellen verlangen; Mindestwert für die Relevanz setzen |\n| Nutzer sehen Inhalte, die sie nicht sehen dürfen | Kein Berechtigungsfilter beim Abruf | Nach den Rechten der Nutzer filtern, bevor das Modell Text sieht |\n\n## Wann Sie kein RAG brauchen\n\nRAG bringt bewegliche Teile mit: einen Index, der aktuell bleiben muss, eine Suche, die abgestimmt werden will, Quellenangaben, die geprüft werden müssen. Prüfen Sie vor dem Bau, ob ein einfacherer Weg genügt:\n\n| Situation | Besserer Weg |\n|---|---|\n| Das ganze Wissen passt in den Prompt, etwa ein zehnseitiges Handbuch, das sich selten ändert | Den ganzen Text in den Prompt geben; er passt problemlos ins [Kontextfenster](/de/ai-development/learn/apis-tokens-and-context-windows/) aktueller Modelle |\n| Sie brauchen einen Stil, einen Ton oder ein Ausgabeformat, kein neues Wissen | Prompting mit Beispielen oder Fine-Tuning bei großen Mengen — der [Entscheidungsleitfaden in Level 3](/de/ai-development/learn/fine-tuning-vs-rag-vs-prompting/) vergleicht beides |\n| Die Antwort steht in einer Datenbank, etwa ein Bestellstatus oder Lagerbestände | Das Modell eine Funktion aufrufen lassen, die die Abfrage ausführt: siehe [strukturierte Ausgabe und Function Calling](/de/ai-development/learn/structured-output-and-function-calling/) |\n| Fragen zu Allgemeinwissen | Das Modell allein oder ein Modell mit Websuche |\n| Antworten müssen vollständig und exakt sein, etwa bei juristischen Prüfungen | RAG nur als Hilfe, mit menschlicher Prüfung jeder Antwort |","text":"Ein Sprachmodell weiß nur, was in seinen Trainingsdaten stand. Ihre Preisliste, Ihr internes Wiki oder die Richtlinie, die sich letzte Woche geändert hat, kennt es nicht. Retrieval-Augmented Generation (RAG, abrufgestützte Textgenerierung) schließt diese Lücke. Bevor das Modell antwortet, sucht Ihre Anwendung die passendsten Passagen in Ihren eigenen Dokumenten und fügt sie dem Prompt hinzu. Das Modell antwortet dann auf Grundlage dieser Passagen und nennt seine Quellen.\nDies ist Teil 2 von Level 2. Er baut auf Embeddings und Vektordatenbanken aus Teil 1 auf. Sie gehen die ganze Pipeline Schritt für Schritt durch und erfahren, wo sie typischerweise bricht, wie Sie sie testen — und wann Sie RAG gar nicht brauchen.\nWarum ein Modell Ihre Dokumente braucht Drei Grenzen machen den Abruf nötig:\nStichtag. Ein Modell lernt aus Daten bis zu einem bestimmten Datum. Was danach kam, kennt es nicht, solange Sie es nicht mitliefern. Kein internes Wissen. Ihre Verträge, Tickets und Produktdaten waren nie Teil seiner Trainingsdaten. Selbstsicheres Raten. Kennt ein Modell eine Tatsache nicht, erfindet es womöglich eine plausible Antwort. Das nennt man Halluzination. Der letzte Punkt lässt sich messen. Der Benchmark SimpleQA Verified stellt kurze Faktenfragen mit genau einer richtigen Antwort, und die Modelle antworten ohne Werkzeuge oder Websuche. Selbst die besten Modelle unserer LLM-Datenbank beantworten nicht alle richtig:\nSimpleQA Verified: die 5 besten Modelle #ModellErschienenErgebnis 1Gemini 4 Argon (high) Google DeepMind30.09.202676,0 % 2GPT-6 Astra (max) OpenAI03.09.202675,6 % 3GPT-6.1 Sol (max) OpenAI29.09.202673,9 % 4Gemini 3.1 Pro Preview Google DeepMind19.02.202673,5 % 5Claude Opus 5.5 (max) Anthropic22.09.202672,2 % Kurze Faktenfragen mit genau einer richtigen Antwort, beantwortet ohne Hilfsmittel. Zeigt, wie viel ein Modell wirklich weiß — und wie oft es eine Antwort erfindet, statt Nichtwissen zuzugeben. Daten: Epoch AI, abgerufen am 17.10.2026, Lizenz CC BY 4.0. Alle Modelle: LLM-Datenbank.\nRAG macht ein Modell nicht fehlerfrei. Aber es liefert dem Modell die Fakten, die es braucht, und es lässt Nutzer jede Antwort an ihrer Quelle prüfen. Beschrieben haben das Verfahren 2020 Forschende von Facebook AI Research (Quelle: Lewis et al., „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks“, NeurIPS 2020, arxiv.org). Heute ist es eines der häufigsten Muster für Assistenten, die Fragen zu Unternehmensdokumenten beantworten.\nDie Pipeline im Überblick Ein RAG-System arbeitet in zwei Phasen. Das Indexieren läuft im Hintergrund, sobald sich Dokumente ändern: Sie laden die Dokumente, zerlegen sie in Chunks, betten die Chunks ein und speichern sie. Das Antworten läuft bei jeder Frage: Sie rufen passende Chunks ab, sortieren sie neu und lassen das Modell eine Antwort mit Quellenangaben schreiben.\nDie zwei Phasen von RAG: Das Indexieren bereitet Ihre Dokumente vor, das Antworten nutzt sie bei jeder Frage. Die nächsten beiden Abschnitte gehen die sieben Schritte einzeln durch. Jeder Schritt hat eine Aufgabe und eigene typische Fehler. Die Bewertung, der achte Schritt, bekommt einen eigenen Abschnitt.\nIndexieren: einlesen, zerlegen, einbetten, speichern 1. Einlesen. Sammeln Sie die Dokumente aus ihren Quellen: PDFs, Wiki-Seiten, Artikel aus dem Hilfe-Center, Tickets. Ziehen Sie sauberen Text heraus und entfernen Sie Kopfzeilen, Fußzeilen und Seitenzahlen, die sich auf jeder Seite wiederholen. Behalten Sie die Metadaten: Titel, Link oder Dateipfad, Datum, Verantwortliche und Zugriffsrechte. Lassen Sie Dubletten und veraltete Fassungen weg. Stehen zwei Fassungen einer Richtlinie im Index, zitiert das Modell womöglich die falsche.\n2. Zerlegen. Teilen Sie jedes Dokument entlang seiner Struktur in Chunks: Überschriften, Absätze, Listenpunkte. Lassen Sie Tabellen am Stück und wandeln Sie sie in ein einfaches Format wie Markdown um, denn beim Auslesen von PDFs werden Tabellenzeilen oft zu einem Zahlensalat. Stellen Sie jedem Chunk Dokumenttitel und Überschrift voran. Wie Sie die Chunk-Größe wählen, erklärt Teil 1.\n3. Einbetten. Wandeln Sie jeden Chunk mit einem Embedding-Modell in einen Vektor um. Nutzen Sie für Chunks und Fragen dasselbe Modell und speichern Sie den Modellnamen beim Index. Tausende Chunks einzubetten ist eine Stapelverarbeitung: Sie läuft einmal und danach nur noch für neue oder geänderte Dokumente.\n4. Speichern. Schreiben Sie Vektoren, Chunk-Texte und Metadaten in Ihren Vektorspeicher, mit einer festen ID für jeden Chunk. Ändert sich ein Dokument, ersetzen Sie seine Chunks. Wird es gelöscht, löschen Sie sie ebenfalls.\nDrei Tools aus unserem Vergleich passen zu diesen Schritten: eine verwaltete Vektordatenbank für Speicherung und Suche und eine Plattform für KI-Apps auf eigenen Daten. Das dritte ist ein Scraper ohne Code, der laut Anbieter Webseiten auf Änderungen überwacht. Er hilft, wenn Ihre Quellen öffentliche Seiten sind, die im Index aktuell bleiben müssen.\nPineconeInfrastruktur \u0026amp; Hosting · KI ist der KernVektordatenbank für KI-Anwendungen, etwa für Suche und Retrieval. Devs.aiApp-Bau \u0026amp; Tests · KI ist der KernPlattform, auf der Teams KI-Anwendungen und eigene Agenten mit ihren Daten bauen und betreiben. Browse AIAgenten \u0026amp; Automatisierung · Software mit KI-FunktionenWeb-Scraping ohne Code: liest Daten aus Websites aus und überwacht Änderungen. Kurzbeschreibungen aus unserem Tool-Vergleich, nach Angaben der Anbieter — nicht von ABXK getestet.\nAntworten: abrufen, neu sortieren, generieren 5. Abrufen. Betten Sie die Frage mit demselben Modell ein und suchen Sie im Index die nächstgelegenen Chunks. Holen Sie mehr Kandidaten, als Sie brauchen, zum Beispiel 20 bis 50. Wenden Sie Metadatenfilter vor oder während der Suche an: Sprache, Produkt, Datum und vor allem die Zugriffsrechte der Nutzerin. Zwei Techniken helfen oft:\nHybride Suche verbindet Vektorsuche mit Stichwortsuche, sodass exakte Begriffe wie Produktcodes gefunden werden. Query Rewriting macht aus einer Anschlussfrage eine vollständige Frage. Im Chat bedeutet „Und in Deutschland?“ für sich genommen nichts. Ein kurzer Modellaufruf kann daraus vor der Suche „Wie lange ist die Rückgabefrist für Bestellungen in Deutschland?“ machen. 6. Neu sortieren. Vektorsuche ist schnell, aber grob. Ein Reranker ist ein zweites Modell, das Frage und Kandidaten-Chunk gemeinsam liest und bewertet, wie gut sie zusammenpassen. Das ist genauer, aber langsamer, deshalb sortieren Sie nur die Kandidaten aus Schritt 5 neu. Für den Prompt behalten Sie die besten wenigen, etwa drei bis acht Chunks.\nDer Abruf grenzt die Suche Schritt für Schritt ein. Die Zahlen sind Beispiele; stimmen Sie sie mit Ihren eigenen Daten ab. 7. Antworten mit Quellen. Jetzt bauen Sie den Prompt. Er enthält klare Regeln, die ausgewählten Chunks mit ihren IDs und die Frage der Nutzerin:\nAufbau eines quellengestützten Prompts: zuerst die Regeln, dann die Quellen mit IDs, dann die Frage. Drei Details machen den Unterschied:\n„Weiß ich nicht“ erlauben. Sagen Sie dem Modell, dass es das offen sagen soll, wenn die Quellen die Antwort nicht enthalten. Ohne diese Regel füllt es Lücken mit allgemeinem Wissen. Quellenangaben im Code prüfen. Jede ID, die das Modell zitiert, muss zu einem Chunk gehören, den Sie tatsächlich geschickt haben. Zeigen Sie die zitierten Passagen in Ihrer Oberfläche an, damit Nutzer die Antwort prüfen können. Die besten Chunks zuerst, den Prompt fokussiert halten. Sprachmodelle nutzen Informationen am Anfang und am Ende einer langen Eingabe meist besser als Informationen in der Mitte (Quelle: Liu et al., „Lost in the Middle: How Language Models Use Long Contexts“, 2023, arxiv.org). !Achtung\nAbgerufener Text ist Inhalt, keine Anweisung. Ein Dokument in Ihrem Index kann versteckte Anweisungen an das Modell enthalten, etwa eine Zeile, die es auffordert, seine Regeln zu ignorieren. Folgt das Modell ihr, spricht man von indirekter Prompt-Injection. Halten Sie Ihre Anweisungen im System-Prompt, kennzeichnen Sie die Quellen klar als zitiertes Material und geben Sie dem Modell nie mehr Rechte, als die Nutzerin hat. Unser Bereich AI Security behandelt dieses Risiko ausführlich.\nAbruf und Antworten getrennt bewerten Ist eine RAG-Antwort falsch, müssen Sie wissen, welcher Schritt versagt hat. Messen Sie die beiden Hälften deshalb getrennt:\nAbruf: Für jede Testfrage wissen Sie, welcher Chunk die Antwort enthält. Ist dieser Chunk unter den besten Treffern? Den Anteil der Fragen, bei denen das so ist, nennt man Trefferquote (Hit Rate) oder Recall@k. Antwort: Ist jede Aussage durch die zitierten Chunks gedeckt? Das nennt man Faithfulness (Quellentreue) oder Groundedness. Ist die Antwort richtig und vollständig? Und sagt das Modell „Weiß ich nicht“, wenn die Dokumente die Antwort nicht enthalten? Versagt der Abruf, verbessern Sie Chunks, Filter oder Suche. Funktioniert der Abruf, sind die Antworten aber falsch, ändern Sie den Prompt oder probieren ein anderes Modell. Teil 4 dieses Levels zeigt, wie Sie solche Testsätze aufbauen und automatisch laufen lassen: KI-Funktionen mit Evals testen.\n▸Probieren Sie es aus\nSchreiben Sie 20 echte Fragen auf, die Ihre Dokumente beantworten können, und notieren Sie zu jeder Dokument und Abschnitt mit der Antwort. Ergänzen Sie fünf Fragen, die die Dokumente nicht beantworten können. Schicken Sie alle 25 durch Ihre Pipeline und zählen Sie zweierlei: wie oft der richtige Abschnitt abgerufen wurde und wie oft das Modell bei den fünf unbeantwortbaren Fragen „Weiß ich nicht“ gesagt hat.\nTypische Fehler und ihre Behebung Die meisten RAG-Fehler entstehen, bevor das Modell ein einziges Wort schreibt. Die Abbildung zeigt sechs typische Fehler und den Schritt, in dem jeder beginnt:\nWo RAG bricht: Jeder Fehler ist mit dem Schritt markiert, in dem er beginnt. Die Tabelle macht daraus eine Anleitung zur Fehlersuche:\nRetrieval-Augmented Generation (RAG) Schritt für Schritt Symptom Wahrscheinliche Ursache Behebung Der Antwort fehlen Fakten, die in den Dokumenten stehen Der richtige Chunk wurde nicht abgerufen Hybride Suche, Query Rewriting, bessere Chunks Die Antwort verwechselt Produkte oder Versionen Chunks fehlt Kontext wie Titel oder Produktname Titel und Überschrift in jeden Chunk; nach Produkt filtern Die Antwort ist veraltet Der Index wurde nicht aktualisiert; alte Fassungen liegen noch darin Bei jeder Änderung neu indexieren; alte Fassungen löschen; Datum anzeigen Zahlen aus Tabellen stimmen nicht Tabellen wurden beim Auslesen zerteilt oder plattgedrückt Tabellen ganz lassen; in Markdown umwandeln; mit Zahlenfragen testen Das Modell antwortet aus allgemeinem Wissen Schwache Anweisungen oder nichts Passendes abgerufen Antworten nur aus den Quellen verlangen; Mindestwert für die Relevanz setzen Nutzer sehen Inhalte, die sie nicht sehen dürfen Kein Berechtigungsfilter beim Abruf Nach den Rechten der Nutzer filtern, bevor das Modell Text sieht Wann Sie kein RAG brauchen RAG bringt bewegliche Teile mit: einen Index, der aktuell bleiben muss, eine Suche, die abgestimmt werden will, Quellenangaben, die geprüft werden müssen. Prüfen Sie vor dem Bau, ob ein einfacherer Weg genügt:\nRetrieval-Augmented Generation (RAG) Schritt für Schritt (2) Situation Besserer Weg Das ganze Wissen passt in den Prompt, etwa ein zehnseitiges Handbuch, das sich selten ändert Den ganzen Text in den Prompt geben; er passt problemlos ins Kontextfenster aktueller Modelle Sie brauchen einen Stil, einen Ton oder ein Ausgabeformat, kein neues Wissen Prompting mit Beispielen oder Fine-Tuning bei großen Mengen — der Entscheidungsleitfaden in Level 3 vergleicht beides Die Antwort steht in einer Datenbank, etwa ein Bestellstatus oder Lagerbestände Das Modell eine Funktion aufrufen lassen, die die Abfrage ausführt: siehe strukturierte Ausgabe und Function Calling Fragen zu Allgemeinwissen Das Modell allein oder ein Modell mit Websuche Antworten müssen vollständig und exakt sein, etwa bei juristischen Prüfungen RAG nur als Hilfe, mit menschlicher Prüfung jeder Antwort ","words":1749},"date":"2026-10-14","description":"Wie RAG vom Einlesen bis zur belegten Antwort funktioniert: zerlegen, einbetten, abrufen, neu sortieren, antworten, prüfen — und wann Sie RAG nicht brauchen.","image":"https://abxk.ai/images/cover/retrieval-augmented-generation-step-by-step.webp","json":"https://abxk.ai/de/ai-development/learn/retrieval-augmented-generation-step-by-step/index.json","kind":"page","language":"de","learning_path":{"category":"ai-development","level":2,"level_name":"Fortgeschritten"},"modified":"2026-10-14","related_tools":["Pinecone","Devs.ai","Browse AI"],"section":"ai-development","seo_title":"RAG Schritt für Schritt: Retrieval-Augmented Generation","tags":["rag","retrieval","vektorsuche","llm-anwendungen"],"title":"Retrieval-Augmented Generation (RAG) Schritt für Schritt","translations":[{"json":"https://abxk.ai/en/ai-development/learn/retrieval-augmented-generation-step-by-step/index.json","language":"en","url":"https://abxk.ai/en/ai-development/learn/retrieval-augmented-generation-step-by-step/"}],"url":"https://abxk.ai/de/ai-development/learn/retrieval-augmented-generation-step-by-step/"}