bottamatik

RAGmatik · Fachbegriffe

RAG verständlich erklärt.

Von den Grundlagen bis zu Sicherheit, Betrieb und Qualität: zentrale Begriffe rund um Retrieval-Augmented Generation verständlich und praxisnah eingeordnet.

205 Einträge14 RegisterMit RAGmatik-Hinweisen
Kein Eintrag gefunden. Andere Schreibweise oder kürzeres Stichwort versuchen – die Suche gleicht ä/ae, ö/oe, ü/ue und ß/ss automatisch ab.
Register 01

RAG in einer Minute

Ein normales Sprachmodell kennt nur das Wissen aus seinem Training und aus dem aktuellen Prompt. Es kennt nicht automatisch die internen Dokumente eines Unternehmens.

Ein RAG-System sucht deshalb zuerst passende Stellen in den freigegebenen Unternehmensdokumenten. Danach erhält das Sprachmodell nur diese Fundstellen als Kontext und formuliert daraus eine Antwort mit Quellenangaben.

  1. 01Dokumente
  2. 02Einlesen, aufbereiten und in Abschnitte teilen
  3. 03Keyword- und Vektorindex
  4. 04Frage des Benutzers
  5. 05Passende Abschnitte suchen und sortieren
  6. 06Sprachmodell formuliert eine belegte Antwort
  7. 07Zitatprüfung oder kontrollierte Verweigerung
RAG verbindet die sprachlichen Fähigkeiten eines KI-Modells mit nachprüfbarem Wissen aus den eigenen, zugriffsberechtigten Quellen.
Register 02

Die wichtigsten Grundbegriffe

KIKünstliche Intelligenz

Oberbegriff für Computersysteme, die Aufgaben bearbeiten, für die normalerweise menschliche Wahrnehmung, Sprache oder Entscheidungsfähigkeit erforderlich ist.

Bei RAGmatik

KI wird vor allem für semantische Suche, Bewertung von Fundstellen und Formulierung von Antworten eingesetzt.

LLMLarge Language Model

Ein großes Sprachmodell, das Texte verstehen und erzeugen kann. Ein LLM berechnet sprachlich wahrscheinliche Fortsetzungen. Es ist keine klassische Datenbank und besitzt kein garantiert korrektes Unternehmenswissen.

Bei RAGmatik

Das LLM formuliert die Antwort aus den zuvor gefundenen Dokumentstellen.

RAGRetrieval-Augmented Generation

„Durch Suche erweiterte Textgenerierung“. Vor der Antwort sucht das System passende Informationen in einer Wissensbasis und gibt sie dem Sprachmodell als Kontext.

Bei RAGmatik

Retrieval, Generation, Zitatprüfung und Zugriffsprüfung bilden eine gemeinsame Pipeline für GUI, API, CLI und Evaluation.

Retrieval

Der Suchvorgang, der zu einer Frage die wahrscheinlich passenden Dokumentabschnitte ermittelt.

Bei RAGmatik

Retrieval kombiniert eine semantische Vektorsuche mit einer lexikalischen Keyword-Suche.

Generation

Das Erzeugen der verständlichen Antwort durch ein Sprachmodell.

Bei RAGmatik

Die Generation darf nur Informationen aus dem bereitgestellten Kontext verwenden und muss Tatsachen mit Quellen belegen.

GroundingQuellenbindung

Eine Antwort ist „grounded“, wenn ihre Tatsachen auf den bereitgestellten Quellen beruhen und nicht frei erfunden wurden.

Bei RAGmatik

Zitate und Guardrails sollen diese Quellenbindung überprüfbar machen.

Halluzination

Eine sprachlich überzeugende, aber sachlich falsche oder unbelegte Aussage eines KI-Modells.

Kundenerklärung

Ein RAG-System verhindert Halluzinationen nicht automatisch. Gute Suche, klare Antwortregeln, Quellenprüfung und kontrollierte Verweigerung reduzieren das Risiko.

Prompt

Die Anweisung und der Kontext, die an ein Sprachmodell gesendet werden.

System-Prompt

Übergeordnete Regeln für das Verhalten des Sprachmodells, beispielsweise: „Antworte nur anhand der Quellen und zitiere jede Tatsachenbehauptung.“

Token

Kleine Texteinheit, die ein Sprachmodell verarbeitet. Ein Token ist nicht immer ein vollständiges Wort. Wörter, Satzzeichen und Wortteile können eigene Tokens sein.

Kontextfenster

Die maximale Textmenge, die ein Modell in einer Anfrage gleichzeitig verarbeiten kann.

Bei RAGmatik

Nur die am besten bewerteten Fundstellen dürfen in das begrenzte Kontextfenster gelangen.

Inferenz

Der eigentliche Rechenvorgang, bei dem ein trainiertes Modell eine Antwort, ein Embedding oder eine Bewertung erzeugt.

Temperatur

Parameter für die Zufälligkeit der Textgenerierung. Niedrige Werte führen tendenziell zu gleichförmigeren, höhere Werte zu variableren Antworten.

Wichtig

Auch bei niedriger Temperatur können Modelle variieren.

Register 03

Dokumente einlesen und aufbereiten

Ingest / Ingestion

Der vollständige Aufnahmeprozess von Dokumenten in das RAG-System.

Typische Schritte:

  1. Datei oder Datensatz erkennen;
  2. Text extrahieren;
  3. Qualität prüfen;
  4. Metadaten zuordnen;
  5. Text in Chunks teilen;
  6. Embeddings erzeugen;
  7. Suchindizes aktualisieren.

Datenquelle / Source

Ort oder System, aus dem Dokumente stammen, beispielsweise ein Ordner, Outlook-Export, Fileserver, DMS oder ITSM-System.

Connector

Generische Anbindung an eine Datenquelle. Ein Connector liest Daten und überführt sie in das gemeinsame Dokumentformat des RAG-Kerns.

Produktprinzip

Kundenspezifische Datenanbindungen sollen als Connector oder Mapping entstehen, nicht als Sonderlogik in der Suche.

Parser

Softwarekomponente, die ein Dateiformat liest und seinen Inhalt strukturiert extrahiert.

Bei RAGmatik

Unter anderem für PDF, DOCX, XLSX/XLSM, Markdown, Text, HTML, CSV und JSONL.

OCROptical Character Recognition

Texterkennung für gescannte Seiten oder Bilder, die keine verwertbare Textebene besitzen.

Bei RAGmatik

PDFs verwenden OCR nur als lokalen Fallback, wenn die normale Textextraktion nicht ausreicht.

Textebene

Bereits im Dokument gespeicherter, direkt auswählbarer Text. Ein Scan kann sichtbare Schrift enthalten, ohne eine Textebene zu besitzen.

JSON

Strukturiertes Textformat für Datenobjekte und Schnittstellen.

JSONLJSON Lines

Format, bei dem jede Zeile ein vollständiges JSON-Objekt enthält.

Bei RAGmatik

Eine Zeile kann beispielsweise genau eine E-Mail darstellen und wird als eigenständiges Dokument verarbeitet.

Metadaten

Zusatzinformationen über ein Dokument oder einen Chunk, beispielsweise:

  • Dateiname und Pfad;
  • Datum;
  • Absender und Empfänger;
  • Dokumentart;
  • Ordner;
  • Tenant;
  • Zugriffsgruppen.

Metadaten verbessern Suche, Filterung, Anzeige und Zugriffsschutz.

doc_idDokumentkennung

Stabile technische Kennung eines Dokuments oder Datensatzes.

chunk_idAbschnittskennung

Stabile technische Kennung eines einzelnen Chunks.

Chunk

Begrenzter, zusammenhängender Dokumentabschnitt, der einzeln gesucht und zitiert werden kann.

Warum Chunks nötig sind

Ganze Handbücher oder Postfächer passen nicht in das Kontextfenster. Kleine Abschnitte ermöglichen eine gezielte Suche.

Chunking

Verfahren, mit dem Dokumente in Chunks aufgeteilt werden.

Hierarchisches Chunking

Chunking, das Überschriften, Abschnitte, Tabellen und Dokumentstruktur berücksichtigt, statt nur nach einer festen Zeichenzahl zu schneiden.

Chunk OverlapÜberlappung

Wiederholung eines kleinen Textbereichs am Ende des vorherigen und am Anfang des nächsten Chunks. Dadurch gehen Informationen an Schnittstellen weniger leicht verloren.

Nachteil

Zu viel Überlappung erzeugt Duplikate und verbraucht Speicher.

Deduplizierung

Erkennen und Behandeln mehrfach vorhandener Inhalte.

Near Duplicate

Dokumente oder Abschnitte, die nicht exakt gleich, aber sehr ähnlich sind.

Fingerprint

Kompakter, reproduzierbarer Wert über Inhalt und relevante Metadaten. Er zeigt, ob sich ein Chunk geändert hat.

Hash

Mathematisch berechneter Prüfwert über Daten. Eine kleine Datenänderung erzeugt normalerweise einen anderen Hash.

Manifest

Persistentes Verzeichnis darüber, welche Quelldokumente verarbeitet wurden, welchen Status sie besitzen und welche Chunks zu ihnen gehören.

Quarantäne

Getrennter Bereich für fehlerhafte, unlesbare oder qualitativ ungeeignete Dokumente. Diese Dokumente werden nicht stillschweigend in den Suchbestand übernommen.

Idempotenz

Ein Vorgang kann wiederholt werden, ohne dadurch unerwünschte zusätzliche Änderungen zu erzeugen.

Beispiel

Ein unveränderter erneuter Ingest erzeugt keine doppelten Chunks.

Delta-Sync

Synchronisierung ausschließlich der neuen, geänderten oder gelöschten Datensätze.

Nutzen

Ein Millionenbestand muss bei einer einzelnen neuen E-Mail nicht vollständig neu indexiert werden.

Batch / Batching

Mehrere Datensätze werden gemeinsam in einem begrenzten Paket verarbeitet. Das reduziert Netzwerk- und Verwaltungsaufwand und verhindert zu große Einzelanfragen.

Streaming

Daten werden schrittweise gelesen und verarbeitet, anstatt einen kompletten Großbestand in den Arbeitsspeicher zu laden.

Register 04

Embeddings und Vektorsuche

Embedding

Numerische Darstellung der inhaltlichen Bedeutung eines Textes. Ähnliche Texte erhalten Vektoren, die im mathematischen Raum nahe beieinanderliegen.

Vereinfachtes Beispiel

"Wartungsintervall des Motors" → [0,12; -0,37; 0,81; ...]

Embedding-Modell

Modell, das Text in Embeddings umwandelt.

Bei RAGmatik

Das Modell ist konfigurierbar. Ein Modellwechsel verändert den Vektorraum und erfordert deshalb eine kontrollierte Neuindexierung.

Vektor

Geordnete Liste von Zahlen. Im RAG bildet sie die maschinell berechnete Bedeutung eines Textes ab.

Dimension

Anzahl der Zahlen in einem Vektor. Dokument- und Fragevektoren müssen dieselbe Dimension besitzen.

Dense Vectordichter Vektor

Vektor mit vielen belegten Zahlenwerten. Dense Embeddings bilden vor allem semantische Ähnlichkeit ab.

Dense Retrieval

Semantische Suche über Dense-Vektoren.

Stärke

Findet häufig sinngleiche Formulierungen ohne identische Wörter.

Schwäche

Exakte Artikelnummern, Namen oder Zahlen können lexikalisch zuverlässiger sein.

Ähnlichkeitsmaß

Mathematische Funktion zur Bestimmung der Nähe zweier Vektoren.

Cosine SimilarityKosinusähnlichkeit

Häufig verwendetes Ähnlichkeitsmaß für Embeddings. Es vergleicht hauptsächlich die Richtung zweier Vektoren.

Vektorindex

Datenstruktur, die ähnliche Vektoren schnell findet, ohne jeden Vektor einzeln vergleichen zu müssen.

HNSW

„Hierarchical Navigable Small World“. Graphbasierter Index für schnelle Ähnlichkeitssuche in großen Vektorbeständen.

Bei RAGmatik

Qdrant nutzt HNSW für die skalierbare Dense-Suche.

ANNApproximate Nearest Neighbor

Sehr schnelle Suche nach annähernd nächsten Vektornachbarn. Sie tauscht einen kleinen Teil theoretischer Exaktheit gegen große Geschwindigkeitsgewinne.

Qdrant

Persistente Vektordatenbank und Suchmaschine für große Vektorbestände.

Bei RAGmatik

Qdrant ist das Produktionsziel für die Dense-Suche bei großen Kundenbeständen.

Collection

Logisch getrennter Bestand in Qdrant. Vergleichbar mit einer eigenen Indexsammlung.

Bei RAGmatik

Collections sind tenantbezogen.

Point

Ein Eintrag in Qdrant. Er enthält eine ID, Vektoren und einen Payload.

Payload

Metadaten eines Qdrant-Points, beispielsweise chunk_id, Dokumentkennung, Text, Datum und Zugriffsgruppen.

Upsert

„Update oder Insert“. Ein Eintrag wird neu angelegt oder bei vorhandener ID aktualisiert.

Vector Sidecar

Separate Binärdatei für die Vektoren eines Chunk-Dokuments.

Bei RAGmatik

Text und Metadaten bleiben schlank in JSONL; Float32-Vektoren liegen getrennt in generationsgebundenen .vec-Dateien.

Float32

Binäres Zahlenformat mit 32 Bit pro Fließkommazahl. Es ist ein üblicher Kompromiss aus Genauigkeit, Speicherbedarf und Geschwindigkeit.

Register 05

Keyword-Suche

Lexikalische Suche

Suche nach tatsächlich vorkommenden Wörtern, Wortformen, Kennungen oder Zahlen.

Keyword-Index

Index, der Wörter und ihre Fundstellen verwaltet.

SQLite

Eingebettete relationale Datenbank, die als lokale Datei auf dem Backend-System liegt.

Bei RAGmatik

SQLite dient derzeit als persistente tenantbezogene Keyword-Datenbank. Windows-Clients greifen niemals direkt auf diese Datei zu, sondern ausschließlich über die API.

FTS5

Volltextsuchmodul von SQLite. FTS steht für „Full Text Search“.

Bei RAGmatik

FTS5 ist der bestehende Keyword-Arm der hybriden Suche.

BM25

Bewährte Rankingformel für Volltextsuche. Sie berücksichtigt unter anderem:

  • wie häufig ein Suchwort im Dokument vorkommt;
  • wie selten das Wort im Gesamtbestand ist;
  • wie lang das Dokument im Verhältnis zum Durchschnitt ist.

TFTerm Frequency

Häufigkeit eines Begriffs in einem Dokument.

IDFInverse Document Frequency

Gewichtung nach Seltenheit im gesamten Bestand. Ein Begriff, der nur in wenigen Dokumenten vorkommt, ist meist aussagekräftiger als ein sehr häufiges Wort.

Sparse Vectordünn besetzter Vektor

Vektor, bei dem nur wenige Positionen Werte besitzen. Positionen können Begriffen entsprechen.

Bei RAGmatik

Qdrant Sparse wird als mögliche Alternative zum FTS5-Arm untersucht, ist aber aktuell nicht als Produktionsweg abgenommen.

Stopwörter

Sehr häufige Wörter mit geringer Suchaussage, beispielsweise „der“, „die“, „und“ oder „ist“. Sie können bei der Bildung der Suchanfrage reduziert werden.

Stemming

Reduktion verschiedener Wortformen auf einen gemeinsamen Wortstamm.

Flexion

Sprachliche Veränderung eines Wortes, beispielsweise: „installieren“, „installiert“ und „Installation“.

Folding / Normalisierung

Vereinheitlichung von Schreibweisen für die Suche.

Bei RAGmatik

Dazu gehören Groß-/Kleinschreibung sowie deutsche Varianten wie ä/ae, ö/oe, ü/ue und ß/ss.

Query-Normalisierung

Aufbereitung einer Benutzerfrage in eine suchgeeignete Form.

Synonym

Begriff mit gleicher oder verwandter Bedeutung.

Beispiel

„Kfz“ und „Kraftfahrzeug“.

Taxonomie

Geordnete Fachbegriffswelt mit Ober-, Unter- und verwandten Begriffen.

Fachvokabular

Kundenspezifische Begriffe, Abkürzungen, Produktnamen und Synonyme.

Produktprinzip

Das Fachvokabular gehört in die Tenant-Konfiguration und nicht fest in den universellen Kern.

Cross-Language Retrieval

Suche über Sprachgrenzen hinweg, beispielsweise eine deutsche Frage auf eine englische Quelle.

Dense Embeddings können dabei semantisch helfen. Lexikalische Verfahren benötigen normalerweise Übersetzungen, gemeinsame Fachbegriffe oder Synonymzuordnungen.

Register 06

Hybride Suche und Ranking

Hybrid Retrieval

Kombination mehrerer Suchverfahren.

Bei RAGmatik

Dense-Vektorsuche + FTS5-Keyword-Suche → RRF → optionaler Reranker

Kandidat

Chunk, der von einem Sucharm als möglicherweise relevant gefunden wurde.

Kandidatenpool

Gesamtheit der zunächst gefundenen Kandidaten, bevor die endgültige Auswahl erfolgt.

Top-k

Anzahl der besten Treffer, die eine Suchstufe zurückgibt.

Beispiel

top_k=5 bedeutet, dass die fünf bestplatzierten Treffer verwendet werden.

Ranking

Sortierung der Treffer nach vermuteter Relevanz.

Rank

Position eines Treffers in einer Rangliste.

Score

Numerischer Bewertungswert eines Suchverfahrens. Scores verschiedener Verfahren sind nicht automatisch direkt vergleichbar.

RRFReciprocal Rank Fusion

Verfahren zur Zusammenführung mehrerer Ranglisten. Entscheidend ist vor allem die Position eines Treffers, nicht die absolute Höhe inkompatibler Scores.

Reranker

Zusätzliche Bewertungsstufe, die den Kandidatenpool genauer gegen die Benutzerfrage sortiert.

Cross-Encoder

Modelltyp, der Frage und Kandidat gemeinsam bewertet. Das ist meist genauer, aber aufwendiger als ein einfacher Vektorvergleich.

Relevanz

Maß dafür, wie gut ein Treffer zur Frage passt.

Termabdeckung

Anteil beziehungsweise Gewicht der wichtigen Fragebegriffe, die in einem Kandidaten vorkommen.

Relevanzschwelle

Untergrenze, unterhalb derer ein Treffer nicht als ausreichend relevant gilt.

Relevanzabstandsfilter

Filter, der sehr viel schwächere Kandidaten im Verhältnis zum besten Treffer entfernt, damit der Kontext nicht mit Rauschen gefüllt wird.

Rauschen / Noise

Irrelevante oder nur entfernt passende Informationen, die Suche und Antwortqualität verschlechtern können.

Filter vor dem Ranking

Metadaten- und Zugriffsfilter werden bereits während der Suche angewendet.

Sicherheitsnutzen

Ein unberechtigter Chunk darf nicht erst gefunden und anschließend ausgeblendet werden.

Register 07

Antworten, Zitate und Guardrails

ClaimTatsachenbehauptung

Überprüfbare Aussage in einer Antwort.

Beispiel

„Die Wartung erfolgt alle zwölf Monate.“

Claim Unit

Einzelne, prüfbare Behauptungseinheit. Ein Satz kann mehrere Claims enthalten.

CitationZitat / Quellenverweis

Verweis von einer Antwortbehauptung auf den Chunk, der sie belegt.

Citation Accuracy

Metrik dafür, ob verwendete Zitate technisch gültig sind und auf tatsächlich bereitgestellte Quellen zeigen.

Claim Support

Metrik dafür, welcher Anteil der Tatsachenbehauptungen durch die zitierten Quellen gestützt wird.

Wichtig

Claim Support misst Tatsachenbezug, nicht identische Wortwahl.

Faithfulness / Quellentreue

Grad, in dem eine Antwort ausschließlich Aussagen enthält, die aus den Quellen ableitbar sind.

Bei RAGmatik

Der zusätzliche modellbasierte Laufzeitprüfer bleibt derzeit deaktiviert, weil seine Einschaltbedingungen noch nicht vollständig erfüllt sind. Die normale Zitat- und Belegprüfung bleibt aktiv.

Guardrail

Technische Schutzregel, die unerwünschtes Modellverhalten erkennt oder begrenzt.

Retry

Kontrollierter zweiter Generierungsversuch, wenn die erste Antwort den Belegvertrag verletzt.

Refusalkontrollierte Verweigerung

Das System antwortet bewusst nicht, wenn die Quellen keine verlässliche Antwort tragen oder der Belegvertrag nicht erfüllt ist.

Kundenerklärung

Eine ehrliche Verweigerung ist besser als eine überzeugend formulierte Erfindung.

Answerable

Kennzeichnung, ob eine Frage anhand des vorhandenen und zugriffsberechtigten Bestands beantwortbar sein sollte.

Reasoning-Modell

Modell, das intern zusätzliche Rechenschritte für komplexe Aufgaben verwendet. Interne Gedankenschritte sind kein Quellenbeleg und gehören nicht in die sichtbare Antwort.

Register 08

Qualität messen

Evaluation / Eval

Systematische Messung der RAG-Qualität anhand definierter Fragen, Erwartungen und Schwellenwerte.

Gold-Set / Gold-Dataset

Geprüfte Sammlung aus Fragen, Beantwortbarkeitskennzeichen und relevanten Quellen. Es bildet den Qualitätsvertrag für einen Tenant.

Ground TruthReferenzwahrheit

Manuell oder fachlich bestätigte Erwartung, gegen die eine Messung verglichen wird.

Recall@k

Anteil der relevanten Quellen, die unter den ersten k Treffern gefunden werden.

Beispiel

Recall@5 fragt: „Wie viele benötigte Quellen liegen in den ersten fünf Treffern?“

MRRMean Reciprocal Rank

Metrik für die Position des ersten relevanten Treffers. Ein Treffer auf Rang 1 ist besser als derselbe Treffer auf Rang 10.

Answer Rate

Anteil der beantwortbaren Fragen, die das System tatsächlich beantwortet.

Refusal Correctness

Metrik dafür, ob unbeantwortbare Fragen korrekt verweigert werden.

Gate

Verbindlicher Mindestwert, den eine Qualitätsmetrik erreichen muss.

Regression

Verschlechterung gegenüber einem zuvor bestätigten Stand.

Benchmark

Vergleichsmessung von Qualität, Latenz, Durchsatz oder Ressourcenbedarf unter definierten Bedingungen.

Baseline

Festgehaltener Ausgangswert für spätere Vergleiche.

P50 / Median

50 Prozent der Messwerte sind schneller oder gleich diesem Wert.

P95

95 Prozent der Messwerte sind schneller oder gleich diesem Wert. Die langsamsten fünf Prozent liegen darüber.

P99

99 Prozent der Messwerte sind schneller oder gleich diesem Wert.

End-to-End-Latenz

Gesamtdauer vom Eingang einer Frage bis zur vollständigen Antwort.

Retrieval-Latenz

Zeit für Suche, Fusion und gegebenenfalls Reranking.

Generation-Latenz

Zeit, die das Sprachmodell für die Antworterzeugung benötigt.

Durchsatz

Anzahl der verarbeiteten Dokumente, Chunks oder Anfragen pro Zeiteinheit.

Warm-up

Vorbereitende Aufrufe, durch die Modelle, Verbindungen, Dateiseiten oder Caches geladen werden. Warm-up-Aufrufe dürfen nicht unbemerkt als normale Messwerte ausgegeben werden.

Kaltstart

Start ohne bereits geladenen Index, Cache oder Modellzustand.

Warmstart

Start mit vorhandenem persistentem Bestand, bei dem keine vollständige Neuindexierung erforderlich sein sollte.

Determinismus

Gleiche Eingaben erzeugen wiederholt dasselbe Ergebnis.

Varianz

Schwankung der Ergebnisse oder Laufzeiten zwischen mehreren Durchläufen.

ConcurrencyNebenläufigkeit

Mehrere Aufgaben werden gleichzeitig bearbeitet.

Bei RAGmatik

Nebenläufigkeit kann Durchsatz erhöhen, muss aber auf Stabilität, GPU-Verhalten und Ergebnisvarianz geprüft werden.

Register 09

Skalierung und Betrieb

Skalierbarkeit

Fähigkeit eines Systems, mit wachsenden Datenmengen und Nutzerzahlen umzugehen, ohne unvertretbar langsam oder instabil zu werden.

RAM

Arbeitsspeicher des Systems. Er hält laufende Programme, Caches und geladene Daten.

GPU

Spezialisierter Prozessor für stark parallele Berechnungen. Er beschleunigt Embeddings, Reranker und Sprachmodelle.

VRAM

Speicher direkt auf der Grafikkarte. Modellgewichte und KV-Cache müssen in das verfügbare VRAM-Budget passen.

KV-Cache

Zwischenspeicher eines Sprachmodells für den bereits verarbeiteten Kontext. Größere Kontextfenster benötigen mehr KV-Cache und damit mehr VRAM.

CPU

Allgemeiner Hauptprozessor. Er übernimmt unter anderem Parsing, SQLite, Dateiverarbeitung und Teile der Indexverwaltung.

NVMe

Schneller, direkt angebundener SSD-Speicher. Für große lokale Indizes, Snapshots und Datenbestände besonders wichtig.

Connection PoolVerbindungspool

Begrenzte Menge wiederverwendbarer Netzwerkverbindungen zwischen RAGmatik und einem Dienst wie Qdrant.

Nutzen

Weniger Verbindungsaufbau, niedrigere Latenz und Schutz gegen Port-Erschöpfung.

Keep-Alive

Eine Netzwerkverbindung bleibt nach einer Anfrage geöffnet und kann für weitere Anfragen wiederverwendet werden.

TIME_WAIT

TCP-Zustand einer kürzlich geschlossenen Verbindung. Der lokale Port bleibt vorübergehend gebunden.

Port-Erschöpfung

Zu viele kurz nacheinander neu aufgebaute TCP-Verbindungen belegen alle verfügbaren temporären Ports.

Bei RAGmatik

Der Qdrant-Verbindungspool und das saubere Schließen der Clients sind deshalb ein produktionsrelevanter Vertrag.

REST-API

HTTP-Schnittstelle, über die andere Programme strukturierte Anfragen an RAGmatik senden können.

Endpoint

Konkrete Adresse und Operation einer API, beispielsweise eine Frage, ein Ingest-Auftrag oder eine Statusabfrage.

FastAPI

Python-Framework des RAGmatik-Backends für REST-API und Webanwendung.

GUIGraphical User Interface

Grafische Benutzeroberfläche.

Zielbild

Das Backend läuft auf Ubuntu; Windows-Arbeitsplätze bedienen RAGmatik über Browser und API.

CLICommand Line Interface

Kommandozeilenschnittstelle für Betrieb, Tests, Ingest, Evaluation und Wiederherstellung.

Ollama

Lokale Laufzeitumgebung für Embedding- und Sprachmodelle.

Docker / Container

Isolierte, reproduzierbare Laufzeitumgebung für einen Dienst.

Bei RAGmatik

Qdrant kann als Container betrieben werden.

Konfiguration

Einstellungen, die Verhalten und kundenspezifische Werte bestimmen, ohne den universellen Programmcode zu ändern.

YAML

Menschenlesbares Format für Konfigurationsdateien.

Feature Flag

Konfigurationsschalter, mit dem eine Funktion je Tenant aktiviert oder deaktiviert wird.

Register 10

Mandantenfähigkeit und Sicherheit

Tenant / Mandant

Logisch getrennter Kunden- oder Wissensbestand mit eigener Konfiguration, eigenen Daten, Indizes, Zugriffsregeln und Evaluationen.

Multi-TenancyMandantenfähigkeit

Mehrere Tenants verwenden denselben universellen Kern, bleiben aber technisch und fachlich voneinander getrennt.

ACLAccess Control List

Liste der Gruppen oder Identitäten, die auf ein Dokument zugreifen dürfen.

IAMIdentity and Access Management

Gesamtheit aus Benutzeridentitäten, Anmeldung, Rollen, Gruppen und Berechtigungsverwaltung.

RBACRole-Based Access Control

Rechte werden anhand von Rollen vergeben, beispielsweise Benutzer, Wissensmanager, Auditor oder Administrator.

Deny by Default

Ohne ausdrückliche Berechtigung wird kein Zugriff gewährt.

Fail-closed

Bei Fehlern oder unklarem Zustand wird der Zugriff oder die Veröffentlichung verweigert.

Gegenbegriff

Fail-open würde trotz unklarer Sicherheitslage fortfahren.

API-Key

Geheimer technischer Schlüssel, mit dem ein externes System authentifiziert auf eine API zugreift.

OIDCOpenID Connect

Standard zur Anmeldung über einen zentralen Identity Provider. Er kann Benutzer- und Gruppeninformationen an RAGmatik übermitteln.

CSRF

Angriff, bei dem ein Browser ungewollt eine zustandsändernde Anfrage sendet. Schutz erfolgt beispielsweise über Herkunftsprüfung und spezielle Header.

PIIPersonally Identifiable Information

Personenbezogene Informationen, anhand derer eine Person direkt oder indirekt identifiziert werden kann.

Egress

Ausgehende Netzwerkverbindung eines Systems.

Bei RAGmatik

Der lokale Betriebsmodus soll keine Dokumente oder Prompts ungewollt an externe Cloudanbieter senden.

Auditlog

Nachvollziehbares Protokoll wichtiger Vorgänge wie Anfragen, Änderungen, Fehler, Verweigerungen und Verwaltungsaktionen.

Hash-Kette

Jeder Audit-Eintrag enthält den Prüfwert des vorherigen Eintrags. Nachträgliche Manipulationen werden dadurch erkennbar.

Register 11

Sicherung und Wiederherstellung

Snapshot

Konsistente Momentaufnahme eines Tenant-Bestands.

Restore

Wiederherstellung eines gespeicherten Snapshots.

Rebuild

Kontrollierter Neuaufbau abgeleiteter Indizes aus den als Wahrheit geltenden Quelldaten und Chunkdateien.

Generation

Zusammengehöriger veröffentlichter Stand von Dateien und Indizes.

Staging

Vorbereitungsbereich, in dem ein neuer Stand vollständig aufgebaut und geprüft wird, bevor er aktiv wird.

Alias

Stabiler logischer Name, der in Qdrant auf die aktuell aktive Collection zeigt. Eine Umschaltung kann dadurch atomar erfolgen.

Atomarität

Eine Änderung wird entweder vollständig oder gar nicht sichtbar.

Commit-Punkt

Genau definierter Schritt, ab dem ein neuer Stand als veröffentlicht gilt.

Rollback

Rückkehr zum vorherigen funktionsfähigen Stand.

Recovery

Kontrollierte Wiederherstellung nach Absturz, Abbruch oder beschädigtem Zwischenzustand.

Journal

Persistente Aufzeichnung über den Fortschritt eines mehrstufigen Vorgangs. Nach einem Absturz kann das System erkennen, welcher Schritt erreicht wurde.

Digest

Prüfwert über eine Menge oder Struktur von Daten. Er dient als kompakter Vollständigkeits- und Gleichheitsnachweis.

Query Fence

Prüfung, ob der verwendete Datenstand vor und nach einer Anfrage noch gültig ist. Ergebnisse eines zwischenzeitlich veralteten Retrievers werden nicht veröffentlicht.

Lease

Temporäres Nutzungsrecht auf einer Retriever-Instanz. Solange eine laufende Anfrage sie verwendet, darf sie nicht geschlossen werden.

Singleflight

Mehrere gleichzeitige Anforderungen für denselben Neuaufbau führen nur zu einem tatsächlichen Bauvorgang. Die übrigen warten auf dessen Ergebnis.

Register 12

FAQ

FIst RAGmatik einfach ein Chatbot?

Nein. Der Chat ist nur die Oberfläche. Dahinter stehen Dokumentaufnahme, Zugriffsprüfung, zwei Suchverfahren, Ranking, Quellenkontext, Antwortgenerierung, Zitatprüfung, Audit und Evaluation.

FWarum werden Dokumente in Chunks geteilt?

Weil ein Modell nicht den gesamten Unternehmensbestand gleichzeitig lesen kann. Chunks ermöglichen, genau die relevanten Stellen zu finden und zu zitieren.

FWarum brauchen wir Keyword- und Vektorsuche?

Die Vektorsuche findet ähnliche Bedeutungen. Die Keyword-Suche ist stark bei exakten Begriffen, Namen, Nummern und Formulierungen. Zusammen sind beide robuster als jeweils allein.

FWarum Qdrant und SQLite?

Qdrant skaliert die semantische Vektorsuche. SQLite FTS5 stellt derzeit die lokale, schnelle Keyword-Suche bereit. Beide erfüllen unterschiedliche Aufgaben und werden über RRF zusammengeführt.

FLernt das Sprachmodell unsere Dokumente neu?

Nein. Die Dokumente werden nicht in das Sprachmodell eintrainiert. Sie werden indexiert, bei einer Frage gezielt gesucht und nur als aktueller Kontext bereitgestellt.

FWas passiert, wenn eine E-Mail geändert oder gelöscht wird?

Der Ingest erkennt Änderungen über stabile Kennungen und Fingerprints. Delta-Sync aktualisiert oder entfernt gezielt die betroffenen Chunks und Indizes.

FKann ein Benutzer fremde Dokumente finden?

Zugriffsgruppen werden bereits in der Suche angewendet. Ohne Berechtigung gelangt ein Dokument nicht in die Trefferliste oder den Modellkontext.

FWas passiert, wenn die Antwort nicht sicher belegt werden kann?

RAGmatik versucht genau eine kontrollierte Korrektur. Bleibt die Antwort unbelegt, verweigert das System, statt eine Behauptung zu erfinden.

FWie wird Qualität bewiesen?

Mit kundenspezifischen Gold-Fragen, Retrieval- und Antwortmetriken, verbindlichen Gates, wiederholten Läufen sowie Last-, Wiederherstellungs- und Sicherheitstests.

FLaufen die Daten in eine Cloud?

Das Zielsystem arbeitet lokal. Externe Provider sind keine Voraussetzung und müssen ausdrücklich aktiviert werden. Der lokale Modus soll unerlaubten externen Datenverkehr verhindern.

FIst das System für einen einzelnen Kunden gebaut?

Nein. Jeder Kunde erhält eigene Quellen, Zugriffsregeln, Fachbegriffe, Konfiguration und Gold-Evaluation. Der technische Kern bleibt universell und soll einen weiteren Kunden ohne Kernänderung aufnehmen können.

Register 13

Merksätze

  1. Ein LLM formuliert; das Retrieval liefert das Wissen.

  2. Ein gutes Modell ersetzt keine gute Suche.

  3. Ein Treffer ist noch kein Beleg.

  4. Eine Quellenangabe ist nur wertvoll, wenn sie die Behauptung wirklich trägt.

  5. Eine ehrliche Verweigerung ist besser als eine überzeugende Erfindung.

  6. Sicherheit beginnt vor dem Ranking, nicht erst bei der Anzeige.

  7. Große Bestände brauchen Delta-Verarbeitung statt vollständiger Neuaufbauten.

  8. Ein Benchmark ist nur so belastbar wie sein Messaufbau.

  9. Kundenspezifische Konfiguration ist gewollt; Kundensonderlogik im Kern ist es nicht.

  10. Produktreife wird gemessen und nachgewiesen, nicht behauptet.

Register 14

Warum RAGmatik?

Ein Glossar erklärt Begriffe – dieser Abschnitt erklärt eine Haltung. RAGmatik ist aus einer einfachen Überzeugung entstanden: Ein Unternehmen sollte sein eigenes Wissen befragen können, ohne es dafür aus der Hand zu geben. Was das konkret für Sie bedeutet:

Ein Ort für Ihr gesamtes Wissen

In den meisten Unternehmen liegt das Wissen verstreut: in E-Mail-Postfächern, Dokumentenordnern, PDFs, Office-Dateien, Serviceberichten und Altablagen. RAGmatik führt diese Quellen in einer zentral verwalteten Wissensbasis zusammen – durchsuchbar über eine einzige Frage statt über zehn Ablagesysteme. Neue und geänderte Inhalte werden gezielt nachgeführt, ohne dass jemand Dokumente manuell einpflegen muss.

Ihre Daten bleiben Ihre Daten

RAGmatik läuft vollständig bei Ihnen im Haus – auf Ihrer Hardware, in Ihrem Netz. Es gibt keinen Cloud-Zwang und keine stillen Übertragungen: Der lokale Betriebsmodus ist darauf ausgelegt, dass Ihre Dokumente und Fragen Ihr Unternehmen nicht verlassen. Das ist nicht nur DSGVO-freundlich – es ist schlicht die sauberste Antwort auf die Frage, wem Ihr Wissen gehört.

Antworten, die Sie überprüfen können

Jede Tatsachenbehauptung trägt einen Quellenverweis auf das Originaldokument. Und wenn die Quellen eine Frage nicht verlässlich tragen, sagt RAGmatik das offen, statt etwas Überzeugendes zu erfinden. Eine ehrliche Verweigerung ist uns lieber als eine schöne Halluzination – gerade dann, wenn Entscheidungen daran hängen.

Zugriffsrechte gelten auch für die KI

Wer ein Dokument nicht lesen darf, bekommt es auch von RAGmatik nicht zu sehen – weder als Antwort noch als Treffer. Berechtigungen werden bereits während der Suche durchgesetzt, nach dem Prinzip: ohne ausdrückliche Freigabe kein Zugriff. Ihre bestehende Rechtestruktur bleibt damit auch im KI-Zeitalter das Maß der Dinge.

Kontrollierte Anbindung – Interna bleiben intern

RAGmatik bindet Ihre bestehenden Systeme kontrolliert an: ITSM- und Ticketsysteme, Webseiten, Fileserver oder Fachablagen – jede Quelle bewusst freigegeben statt wahllos eingesammelt. Dabei bleibt sauber getrennt, was intern ist und was Ihre Kunden sehen dürfen: Ein Wissensbestand für Ihre Mitarbeitenden, ein kuratierter für Ihr Kundenportal – aus einem System, ohne dass Interna nach außen sickern.

Nachvollziehbarkeit ab Werk

Anfragen, Änderungen und Verwaltungsaktionen werden in einem manipulationserkennbaren Protokoll festgehalten, in dem jeder Eintrag kryptografisch am vorherigen hängt. Wenn Revision, Datenschutzbeauftragte oder Ihre eigene Neugier fragen, was das System wann getan hat, gibt es eine belastbare Antwort statt eines Achselzuckens.

Qualität wird gemessen, nicht behauptet

Vor der Abnahme definieren wir gemeinsam Prüffragen aus Ihrem Alltag – mit erwarteten Quellen und verbindlichen Mindestwerten. Das System muss diese Messlatte wiederholbar überspringen, bevor es produktiv geht, und bei jeder Weiterentwicklung erneut. Sie sehen schwarz auf weiß, wie gut RAGmatik auf Ihren Dokumenten arbeitet.

Ein bewährter Kern, konfiguriert für Sie

Ihr Fachvokabular, Ihre Datenquellen, Ihre Zugriffsregeln und Ihr Erscheinungsbild sind Konfiguration – kein Sonderumbau. Sie profitieren von einem universellen, gepflegten Produktkern und bekommen trotzdem ein System, das sich anfühlt, als wäre es nur für Sie gebaut. Weiterentwicklungen kommen allen Kunden zugute, ohne Ihre Anpassungen zu gefährden.

Strategie und Vision statt Software von der Stange

Sie kaufen bei uns kein Werkzeug, das man Ihnen über den Zaun wirft. Wir entwickeln gemeinsam mit Ihnen eine Wissensstrategie: Welche Quellen zuerst, welche Teams profitieren sofort, wie wächst das System mit Ihren Zielen – vom internen Nachschlagewerk bis zur kundenseitigen Wissensauskunft. RAGmatik ist das Fundament; die Richtung bestimmen wir zusammen.

Mittelstand versteht Mittelstand

Bottamatik ist ein inhabergeführtes Softwarehaus aus Moers am Niederrhein. Sie sprechen direkt mit dem Menschen, der das System entwickelt – ohne Ticketschleifen, ohne Vertriebsetagen, mit deutscher Dokumentation und pragmatischen Entscheidungen. Kurze Wege sind bei uns kein Versprechen, sondern Betriebsmodell.