Token

Grundeinheit fuer die Verarbeitung in Sprachmodellen.

Allgemeine Infos

LLMs verarbeiten Text in Tokens (Wortteile, ca. 4 Zeichen = 1 Token im Englischen, Deutsch ca. 3 Zeichen). Tokens bestimmen Kontextfenster (z. B. 128k Tokens bei GPT-4o), Kosten (per 1000 Input/Output Tokens) und Geschwindigkeit. Token-Limits beeinflussen RAG-Design und Prompt-Laenge.

Kurzbeschreibung

Grundeinheit fuer die Verarbeitung in Sprachmodellen.

Lizenz & Verfügbarkeit

Abrechnung nach Token-Verbrauch bei Cloud-APIs.

Weiterführende Links