Retrieval-Augmented Generation (RAG)
Architekturmuster, bei dem ein Sprachmodell vor der Antwort passende Inhalte aus eigenen Datenquellen abruft und darauf aufbaut.
Gefilterte Glossar-Einträge
Semantic Kernel
Open-Source-SDK von Microsoft für C#, Python und Java zur Integration von KI-Modellen und Plugins, abgelöst durch das Microsoft Agent Framework.
Stable Diffusion
Modellfamilie von Stability AI zur Text-zu-Bild-Generierung, deren offene Gewichte lokal auf eigenen GPUs laufen können.
Token (Sprachmodelle)
Grundeinheit, in die Sprachmodelle Text zerlegen; Tokens bestimmen Kontextfenster, Kosten und Geschwindigkeit von KI-Anfragen.
Tokenizer
Komponente, die Text in Tokens zerlegt und in Token-IDs umwandelt, bevor ein Sprachmodell ihn verarbeitet.
Vektordatenbank
Datenbank, die Embeddings als Vektoren speichert und per Nächste-Nachbarn-Suche semantisch ähnliche Inhalte findet, Basis vieler RAG-Systeme.
vLLM
Open-Source-Engine für Inferenz und Serving großer Sprachmodelle auf GPU-Servern, mit OpenAI-kompatibler API und hohem Durchsatz bei parallelen Anfragen.