Glossar
Vektordatenbank:
der Speicher für Bedeutungssuche.
Wenn ein KI-System zu einer Frage die richtigen Unterlagen findet, steckt eine Vektordatenbank dahinter. Ein Gedächtnis des Modells ist sie nicht. Sie dient als Suchregister für Bedeutung.
Kurz gesagtEine Vektordatenbank speichert die Zahlenreihen (Embeddings) Ihrer Texte und findet zu einer Frage die inhaltlich ähnlichsten Stellen. Sie liefert dem Sprachmodell die passenden Auszüge. Das Modell selbst bleibt unverändert.
Was eine Vektordatenbank ist
Aus jedem Textabschnitt Ihrer Unterlagen berechnet ein Modell ein Embedding, also eine lange Zahlenreihe, die die Bedeutung abbildet. Eine Vektordatenbank legt diese Reihen zusammen mit dem Originaltext und einigen Angaben ab, etwa Dokumentname, Stand und Berechtigung. Kommt eine Frage, wird auch sie in eine Zahlenreihe umgewandelt, und die Datenbank liefert die Abschnitte, deren Reihen am nächsten liegen.
Der Vorteil gegenüber einer gewöhnlichen Datenbank liegt in der Art der Frage. Eine Tabelle beantwortet „Welche Bestellungen stammen von Kunde 4711?“ exakt und schnell. Eine Vektordatenbank beantwortet „Welche Stellen in unseren Unterlagen handeln von beschädigter Ware?“, auch wenn nirgends genau diese Wörter stehen.
Sie ist ein Baustein, kein fertiges System. Erst im Zusammenspiel mit einem Sprachmodell, das aus den Fundstellen eine Antwort formuliert, entsteht ein Wissensagent. Dieses Zusammenspiel heißt RAG.
Beispiel (Interne Unterlagen eines Servicebetriebs)
Fiktives Beispiel, kein Kundenfall.
Ein Dienstleister für Haustechnik hat Montageanleitungen, Wartungsintervalle und Garantiebedingungen in Dutzenden Dokumenten. Jedes wird in Abschnitte zerlegt, jeder Abschnitt in ein Embedding verwandelt und in der Vektordatenbank mit Quelle und Stand gespeichert. Fragt die Hotline-Kraft „Wie oft muss die Anlage gewartet werden, wenn sie in einem Gewerbebetrieb steht?“, liefert die Datenbank die zwei passenden Abschnitte samt Dokumentname.
Das Antwortsystem formuliert daraus einen Vorschlag und zeigt die Fundstellen. Die Kraft prüft in Sekunden, ob die Auskunft stimmt, und entscheidet, ob sie sie so weitergibt.
Wichtig ist der Blick auf die Fundstellen: Sie machen sichtbar, ob die Suche das Richtige gefunden hat. Passt der Treffer nicht, kann die Ursache bei den Unterlagen oder ihrer Aufteilung liegen und nicht beim Sprachmodell.
Was in der Datenbank steht
| Feld | Inhalt | Zweck |
|---|---|---|
| Text | Der Abschnitt im Original | Wird dem Modell als Quelle vorgelegt |
| Vektor | Zahlenreihe des Abschnitts | Dient dem Auffinden ähnlicher Inhalte |
| Quelle | Dokument, Kapitel, Seite | Ermöglicht den Quellenverweis in der Antwort |
| Stand | Datum oder Version | Verhindert Antworten aus überholten Fassungen |
| Berechtigung | Wer den Abschnitt sehen darf | Schützt vertrauliche Inhalte |
Gerade die letzten beiden Felder werden unterschätzt. Ohne Stand und Berechtigung findet die Suche, was inhaltlich passt, nicht was gilt und erlaubt ist.
Abgrenzung zu anderen Speichern
- Klassische Datenbank: speichert Tabellen mit genauen Werten. Gut für Aufträge, Kunden, Bestände.
- Volltextsuche: findet Wörter. Gut für Nummern und Eigennamen, schwach bei Umschreibungen.
- Vektordatenbank: findet Bedeutung. Gut für Fragen in Alltagssprache.
- Dateiablage: hält Dokumente, kennt aber ihren Inhalt nicht.
In der Praxis ergänzen sich diese Speicher. Der Agent fragt Bestände in der klassischen Datenbank ab, Regeln in der Vektordatenbank. Kleine Wissensbestände kommen auch ohne eigenen Dienst aus, weil die Vektorsuche in bestehende Datenbanken integriert werden kann.
Grenzen und Risiken
- Veraltete Inhalte. Die Datenbank kennt nur, was eingespielt wurde. Wird ein Dokument ersetzt, muss die alte Fassung entfernt werden, sonst konkurrieren beide.
- Rechte. Wer über den Agenten fragt, darf nur Abschnitte sehen, die er auch im Original lesen dürfte. Das Berechtigungsfeld muss bei jeder Suche gelten.
- Personenbezug. Enthalten die Texte personenbezogene Daten, gelten für die gesamte Kette Datenschutzregeln. Bei Verarbeitung durch Dienstleister im Auftrag braucht es einen Vertrag (Art. 28 DSGVO). Siehe Löschkonzept.
- Fehlende Treffer. Liegt die Antwort nicht in den Unterlagen, darf der Agent nicht raten. Er übergibt an einen Menschen.
Worauf es bei der Einrichtung ankommt
- Bestand klären. Welche Dokumente gelten, welche sind überholt, wer verantwortet sie?
- Abschnitte sinnvoll schneiden. Ein Thema pro Abschnitt, mit Überschrift und genug Umgebung.
- Metadaten pflegen. Stand, Quelle und Berechtigung gehören zu jedem Eintrag.
- Treffer testen. Mit echten Fragen prüfen, ob die richtige Stelle oben steht.
- Aktualisierung automatisieren. Änderungen an Dokumenten müssen ohne Handarbeit in die Datenbank gelangen.
Dieses Vorgehen bildet den Kern jedes Wissens-Agenten-Projekts. Es entscheidet über die Qualität stärker als die Wahl der Datenbank-Marke. Zur Pflege im Betrieb siehe Wissensbasis-Pflege.
Wann sich eine eigene Vektordatenbank nicht lohnt
Nicht jeder Wissensbestand braucht einen eigenen Dienst. Umfasst die Wissensbasis wenige Dutzend Seiten, kann eine Lösung genügen, die die Zahlenreihen direkt neben den Texten speichert und beim Start in den Arbeitsspeicher lädt. Das spart einen Systembaustein, den jemand betreiben, absichern und bezahlen müsste.
Anders sieht es aus, wenn mehrere Bereiche mit unterschiedlichen Berechtigungen auf einen großen Bestand zugreifen, wenn Dokumente täglich wechseln oder wenn die Antwortzeit knapp ist. Dann lohnt ein spezialisierter Speicher. Wir entscheiden das mit Ihnen anhand der tatsächlichen Menge und beschreiben im Angebot, welche Lösung wir vorschlagen und warum.
Ein Wechsel zu einer größeren Lösung bleibt später möglich, weil die Texte und ihre Metadaten ohnehin Ihnen gehören und die Zahlenreihen sich neu berechnen lassen.
Unser Angebot dazu
Wir wählen die Technik passend zur Größe Ihres Bestands. Für kleine Bestände genügt eine schlanke Lösung. Der Einstieg mit dem Wissens-Agenten liegt bei ab 1.000 € Setup und ab 100 € im Monat. Mehr unter KI-Agenten entwickeln.
Im Erstgespräch klären wir, wie viele Unterlagen es gibt, wie sie gepflegt werden und wer dafür zuständig ist.
Häufige Fragen
Brauche ich für einen Wissensagenten zwingend eine Vektordatenbank?
Nicht zwingend. Bei sehr kleinen Beständen kann eine einfache Suche genügen. Ab einem gewissen Umfang und bei Fragen in Alltagssprache ist die Bedeutungssuche deutlich im Vorteil.
Wo liegen meine Daten?
Das legen wir pro Projekt fest und halten es im Auftragsverarbeitungsvertrag fest. Zur Wahl stehen Dienste bei Anbietern oder Lösungen auf Servern, die wir mit Ihnen auswählen.
Kann der Agent auch Inhalte sehen, die er nicht sehen soll?
Nur, wenn die Berechtigungen falsch gesetzt sind. Wir hinterlegen sie je Abschnitt und prüfen im Test, dass geschützte Inhalte nicht erscheinen.
Wie schnell sind Änderungen wirksam?
Sobald das geänderte Dokument neu eingelesen ist. Wir automatisieren diesen Schritt, sodass ein ersetztes Dokument in kurzer Zeit gilt und die alte Fassung nicht mehr gefunden wird.
Ist das dasselbe wie das Gedächtnis des Sprachmodells?
Nein. Das Modell bleibt unverändert. Die Datenbank ist ein externer Speicher, aus dem bei jeder Anfrage die passenden Stellen geholt werden.
Quellen und rechtlicher Rahmen
- DSGVO, Art. 28 (Auftragsverarbeiter): Verarbeitet ein Dienstleister personenbezogene Daten im Auftrag, arbeitet der Verantwortliche nur mit Auftragsverarbeitern, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Die Verarbeitung folgt einem Vertrag, der unter anderem Gegenstand, Dauer, Art und Zweck festlegt. (abgerufen 21. Oktober 2026)
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.