Zum Inhalt springen
kenjtecJournal
Journal durchsuchen

RAG erklärt: So bekommt eine KI Zugriff auf dein eigenes Wissen

Eine richtige Quelle kann durch eine ungünstige Textgrenze falsch wirken. Mit drei kurzen Regeln lässt sich RAG vom Finden bis zur Antwort nachvollziehbar untersuchen.

Hanne schneidet aus einem Bogen einen schmalen Streifen und ein breites Stück, das zwei Felder zusammenhält. KI-Illustration.

„Material darf entnommen werden.“ Der Satz steht wirklich im Handbuch. Die Ausnahme für versiegelte Pakete folgt direkt dahinter, landet aber nicht im gefundenen Textstück. Eine KI kann aus dem ersten Satz eine saubere, belegte Antwort formulieren und dabei trotzdem die entscheidende Bedingung verlieren.

RAG verbindet Suche und Antwort: Zur Frage werden passende Stellen aus einem Bestand ausgewählt und als Kontext bereitgestellt. Das verändert nicht automatisch die Modellgewichte. Die relevante Technik beginnt vor dem Schreiben der Antwort, bei Erschließung, Aufteilung und Auswahl des Materials.

Vier Schritte und vier mögliche Fehlerstellen

Zuerst muss der Inhalt einer Datei brauchbar vorliegen. Danach wird er in Abschnitte aufgeteilt. Eine Suchgrundlage hilft, passende Abschnitte zur Frage zu finden. Schließlich formuliert ein Modell mit diesem ausgewählten Material eine Antwort. Ein Fehler am Anfang verschwindet nicht dadurch, dass der letzte Satz besonders überzeugend klingt.

Die Open-WebUI-Dokumentation beschreibt unter anderem Textaufteilung, Überlappung und Neuindexierung. Bereits vorhandene Wissensdokumente behalten ihre bisherige Aufteilung, bis sie neu indexiert werden. Eine geänderte Einstellung ist deshalb noch kein Nachweis einer bereits geänderten Suchgrundlage.

Baue einen winzigen Bestand mit bekannten Antworten

Erstelle drei eigene Textdateien mit stabilen Kennungen. Die erste beschreibt Materialentnahme und ihre Ausnahme. Die zweite unterscheidet Gäste von Teammitgliedern. Die dritte erklärt den Unterschied zwischen aktuellen und archivierten Unterlagen. Als Ursprung können bewusst ausgewählte lokale Dateien oder exportierte Inhalte aus einem System wie Nextcloud dienen; Bereitstellen und KI-Suche bleiben verschiedene Schritte.

K01 Material
Material darf entnommen werden.
Für versiegelte Pakete ist vorher eine Freigabe nötig.

K02 Zugang
Gäste melden sich am Empfang.
Teammitglieder verwenden ihren eigenen Zugang.

K03 Archiv
Aktuelle Unterlagen liegen im Arbeitsordner.
Archivierte Fassungen dienen nur der Nachvollziehbarkeit.

Schreibe vier Fragen mit erwarteter Grundlage auf: Was gilt für versiegelte Pakete? Wie melden sich Gäste? Welche Fassung ist aktuell? Wo steht die Telefonnummer des Empfangs? Die letzte Information fehlt absichtlich. Damit erhältst du neben drei beantwortbaren Fragen einen echten Unbekannt-Fall.

Verwende in einem vorhandenen RAG-Werkzeug zunächst diesen kleinen Bestand. Sichere oder zeige die tatsächlich gefundenen Textstücke, bevor du die fertige Antwort beurteilst. Fehlt die Ausnahme bereits dort, sollte zuerst die Aufteilung oder Auswahl untersucht werden. Eine andere Formulierung des Antwortprompts kann fehlende Quelle nicht zuverlässig ersetzen.

Textgrenzen bewusst verändern

Vergleiche zwei überschaubare Varianten: eine Aufteilung, bei der Regel und Ausnahme getrennt geraten, und eine, die beide zusammenhält. Notiere die tatsächlich erzeugten Abschnitte. Eine bloße Einstellung mit einem schönen Namen sagt noch nicht, an welcher Stelle dein eigener Text wirklich geschnitten wurde.

Überlappung kann benachbarten Zusammenhang erhalten, erzeugt aber zusätzliche wiederholte Inhalte. Sehr große Abschnitte können wiederum viel unpassendes Material mitbringen. Es gibt deshalb aus diesem Beispiel keine universelle ideale Abschnittsgröße.

Halte bei einem Vergleich alle übrigen Schritte gleich. Wenn gleichzeitig Extraktion, Embedding-Modell und Prompt wechseln, lässt sich eine veränderte Antwort kaum einer Ursache zuordnen. Ein kleiner Bestand erleichtert genau diese Beobachtung.

Neuindexieren und neu einlesen sind verschieden

Eine besonders praktische Grenze nennt Open WebUI bei der Neuindexierung: Sie arbeitet mit dem bereits extrahierten Text und öffnet die Originaldatei nicht erneut. Eine andere Extraktionsmethode verändert damit alte Dokumentinhalte nicht automatisch. Für eine tatsächlich neue Erschließung müssen die betroffenen Dateien nach der dokumentierten Vorgehensweise erneut eingebracht werden.

Diese Unterscheidung hilft bei der Fehlersuche. Fehlt eine Tabellenzeile schon im extrahierten Text, ist eine andere Chunkgröße nicht der erste Hebel. Liegt die Ausnahme vor, wird aber getrennt gefunden, betrifft das eine spätere Stufe.

Eine gute Antwort auf die vier Prüffragen nennt ihre Grundlage, erhält Einschränkungen und lässt die fehlende Telefonnummer offen. Der Versuch misst keine allgemeine RAG-Qualität. Er macht die Kette verständlich: Quelle erschließen, Zusammenhang erhalten, passende Stelle finden und erst daraus antworten.

Quellen und Stand

Quellenstand: 25. Oktober 2026. Retrieval Augmented Generation — Chunking and re-indexing.

Hamburg ist unser Ausgangspunkt.

Das Nützliche reist mit dir.

KI-Praxis aus Hamburg, international erklärt.

Merkliste