Retrieval-Augmented Generation (RAG)
Architekturmuster, bei dem ein Sprachmodell vor der Antwort passende Inhalte aus eigenen Datenquellen abruft und darauf aufbaut.
Knowledgebase
Knowledgebase
Helpful terms, background knowledge and concise explanations from your CMS, linked directly in context.
Category: KI & AI
Filtered knowledgebase matches
Semantic Kernel
Open-Source-SDK von Microsoft für C#, Python und Java zur Integration von KI-Modellen und Plugins, abgelöst durch das Microsoft Agent Framework.
Stable Diffusion
Modellfamilie von Stability AI zur Text-zu-Bild-Generierung, deren offene Gewichte lokal auf eigenen GPUs laufen können.
Token (Sprachmodelle)
Grundeinheit, in die Sprachmodelle Text zerlegen; Tokens bestimmen Kontextfenster, Kosten und Geschwindigkeit von KI-Anfragen.
Tokenizer
Komponente, die Text in Tokens zerlegt und in Token-IDs umwandelt, bevor ein Sprachmodell ihn verarbeitet.
Vektordatenbank
Datenbank, die Embeddings als Vektoren speichert und per Nächste-Nachbarn-Suche semantisch ähnliche Inhalte findet, Basis vieler RAG-Systeme.
vLLM
Open-Source-Engine für Inferenz und Serving großer Sprachmodelle auf GPU-Servern, mit OpenAI-kompatibler API und hohem Durchsatz bei parallelen Anfragen.