Vektordatenbank

Eine Vektordatenbank speichert Embeddings und beantwortet eine einzige Art von Frage sehr schnell: Welche Einträge liegen diesem hier inhaltlich am nächsten? Damit ist sie die Suchmaschine hinter den meisten KI-Anwendungen, die mit eigenen Daten arbeiten.

Wie funktioniert eine Vektordatenbank?

Eine klassische Datenbank sucht nach exakten Werten oder Zeichenketten. Eine Vektordatenbank sucht nach Nähe in einem Raum mit hunderten Dimensionen. Der Suchbegriff ist kein Wort, sondern ein Vektor.

Der Kern ist ein Index, der diese Nachbarschaftssuche abkürzt. Alle Einträge einzeln zu vergleichen wäre bei Millionen Abschnitten zu langsam, deshalb arbeiten diese Indizes mit Näherungen. Sie liefern fast immer die besten Treffer und gelegentlich den zweitbesten anstelle des besten. Für eine Suche ist das ein guter Tausch, für eine Buchhaltung wäre es keiner.

Praktisch wichtig ist die Kombination mit Filtern. Fast jede echte Anwendung braucht Nähe plus Bedingung: das ähnlichste Dokument, aber nur aus dieser Abteilung, nur in dieser Sprache, nur für diese Berechtigungsgruppe.

Warum ist eine Vektordatenbank relevant?

Sobald ein Sprachmodell mit euren Inhalten arbeiten soll, braucht es einen Weg, die richtigen Ausschnitte zu finden. Genau das ist die Aufgabe. In einem RAG-Aufbau bestimmt die Qualität dieser Suche die Qualität der Antworten, deutlich stärker als die Wahl des Sprachmodells.

Die zweite Rolle ist Kontrolle. Weil die Suche entscheidet, welche Dokumente das Modell überhaupt sieht, ist sie die natürliche Stelle für Zugriffsrechte. Wer hier filtert, muss dem Modell nicht vertrauen, dass es Vertrauliches verschweigt.

Braucht es dafür eine eigene Datenbank?

Oft nicht. Postgres kann mit einer Erweiterung Vektoren speichern und durchsuchen, ebenso mehrere Suchsysteme, die ihr vielleicht schon betreibt. Für einige zehntausend Abschnitte ist das völlig ausreichend und spart euch ein zusätzliches System im Backend.

Eine spezialisierte Vektordatenbank lohnt sich bei sehr großen Beständen, bei hoher Abfragelast oder wenn ihr Funktionen wie hybride Suche und Neusortierung der Treffer direkt mitgeliefert bekommen wollt.

Die Frage, die vorher geklärt sein sollte: Wo dürfen diese Vektoren liegen? In ihnen steckt Rekonstruierbares aus euren Dokumenten. Ein gehosteter Dienst in einer anderen Rechtsordnung ist deshalb dieselbe Entscheidung wie das Auslagern der Dokumente selbst, und sie gehört zur KI-Governance.

Was bei der Auswahl wirklich zählt

Nicht die Geschwindigkeitsangaben der Anbieter. Vier andere Punkte entscheiden über den Betrieb.

Filter zusammen mit der Nachbarschaftssuche. Wenn ein System erst Nachbarn sucht und danach filtert, verschwinden bei engen Filtern die passenden Treffer. Beides muss gemeinsam ausgeführt werden, sonst liefert die Suche in genau den Fällen schlechte Ergebnisse, in denen Rechte gelten.

Hybride Suche. Bedeutungssuche findet Umschreibungen, Stichwortsuche findet Artikelnummern und Eigennamen. Praktisch brauchen die meisten Anwendungen beides, weil Menschen beides eingeben.

Aktualisierung im Betrieb. Dokumente ändern sich. Ein System, in dem einzelne Abschnitte ersetzt werden können, ohne den Index neu zu bauen, spart dauerhaft Arbeit.

Und ein Weg zurück. Der Bestand muss sich neu berechnen lassen, denn beim Wechsel des Embedding-Modells ist genau das nötig.

Wer diese vier Punkte prüft, landet häufig bei der einfachsten Lösung: der Datenbank, die schon läuft.