KI & AI

Vektordatenbank

Overview

Eine Vektordatenbank speichert hochdimensionale Zahlenvektoren (Embeddings) zusammen mit Metadaten und findet zu einer Anfrage die ähnlichsten Einträge. Weil Embeddings Bedeutung abbilden, findet eine Suche nach „Urlaubsantrag“ auch Dokumente zu „Abwesenheit beantragen“. Vektordatenbanken sind deshalb die Speicherschicht von RAG-Systemen, semantischer Suche, Empfehlungsfunktionen und Langzeitgedächtnis von Agenten.

Es gibt spezialisierte Systeme wie Qdrant, Weaviate, Milvus, Chroma oder Pinecone sowie Vektorfunktionen in bestehenden Plattformen: Azure AI Search, PostgreSQL mit pgvector, Azure Cosmos DB oder Elasticsearch. Für viele Unternehmen ist die Vektorfunktion einer vorhandenen Datenbank einfacher zu betreiben als ein zusätzliches System.

Abgrenzung: Eine Vektordatenbank erzeugt keine Embeddings selbst, das übernimmt ein Embedding-Modell, sofern die Plattform keine integrierte Vektorisierung mitbringt. Reine Vektorsuche ersetzt klassische Stichwortsuche nicht, die Praxis setzt meist auf Hybridsuche.

How it works

Der Ablauf in einer Vektordatenbank:

  1. Indexierung: Inhalte werden in Chunks zerlegt, per Embedding-Modell vektorisiert und mit Metadaten (Quelle, Abteilung, Berechtigung) gespeichert.
  2. Indexstruktur: Für schnelle Suche bauen die Systeme Näherungsindizes, verbreitet ist HNSW (Hierarchical Navigable Small World). Exhaustive KNN vergleicht dagegen mit jedem Vektor und eignet sich für kleine Datenmengen.
  3. Abfrage: Die Suchanfrage wird mit demselben Modell vektorisiert, die Datenbank liefert die k nächsten Nachbarn nach einem Distanzmaß wie Kosinus-Ähnlichkeit.
  4. Filter und Hybridsuche: Metadatenfilter schränken Treffer ein, Hybridsuche kombiniert Vektor- und Stichworttreffer in einer Ergebnisliste.

Viele Systeme komprimieren Vektoren per Quantisierung, um Speicher zu sparen, weil HNSW-Indizes im Arbeitsspeicher liegen müssen.

Benefits

  • Semantische Treffer auch bei abweichender Wortwahl, das verbessert Suche und RAG deutlich
  • Schnelle Antworten auch bei Millionen Vektoren dank Näherungsindizes wie HNSW
  • Metadatenfilter erlauben Berechtigungs- und Mandantentrennung direkt in der Suche
  • Große Auswahl von Open-Source bis verwaltetem Cloud-Dienst, dadurch passend für lokale und Cloud-Architekturen

Practical example

Ein IT-Dienstleister mit 90 Beschäftigten baut einen internen Assistenten über 15.000 gelöste Tickets und Kundendokumentationen. Statt eines neuen Datenbanksystems aktiviert das Team pgvector in der vorhandenen PostgreSQL-Instanz, speichert pro Chunk die Kundennummer als Metadatum und filtert jede Abfrage auf die Kunden, für die der Techniker zuständig ist. Die Hybridsuche findet sowohl Fehlermeldungen im Wortlaut als auch inhaltlich ähnliche Fälle. Die Lösungszeit für wiederkehrende Störungen sinkt spürbar.

Things to keep in mind

  • Embedding-Modell und Vektordimension festlegen und dokumentieren: Ein Modellwechsel erfordert die Neuindizierung aller Inhalte
  • Berechtigungen als Metadaten mitführen und bei jeder Abfrage filtern, sonst wird die Vektorsuche zum Datenleck
  • Hybridsuche nutzen, weil reine Vektorsuche bei Artikelnummern, Namen und Codes schwach ist
  • Speicherbedarf planen: HNSW-Indizes liegen im Arbeitsspeicher, Quantisierung kann den Bedarf senken
  • Vektordaten wie andere Unternehmensdaten sichern, löschen und in Löschkonzepte aufnehmen, da aus Embeddings Rückschlüsse auf Inhalte möglich sind (OWASP LLM08)

Conclusion

Die Vektordatenbank ist die Grundlage jeder RAG-Lösung. Prüfe zuerst, ob Deine vorhandene Datenbank oder Azure AI Search Vektorsuche bereits abdeckt, bevor Du ein weiteres System einführst.

Further reading

Related articles