KI & AI

Prompt Engineering

Overview

Prompt Engineering bezeichnet das systematische Gestalten von Eingaben (Prompts) für große Sprachmodelle. Weil ein Modell nur auf das reagiert, was im Kontext steht, entscheiden Anweisung, Kontext, Beispiele und Ausgabeformat über die Qualität der Antwort. Das gilt für Copilot, ChatGPT, Claude und lokale Modelle gleichermaßen.

Im Unternehmen taucht Prompt Engineering an zwei Stellen auf: bei Endanwendern, die Copilot im Alltag nutzen, und bei Entwicklern oder Admins, die Systemnachrichten für Agenten, RAG-Anwendungen oder Automatisierungen schreiben. Abzugrenzen ist es vom Fine-Tuning, bei dem das Modell selbst mit Trainingsdaten angepasst wird.

Neuere Reasoning-Modelle (z. B. die GPT-5- und o-Serie) planen ihre Lösungswege intern. Microsoft weist darauf hin, dass klassische Techniken wie das Erzwingen von Chain-of-Thought dort nicht empfohlen sind. Klare Ziele, Kontext und Ausgabevorgaben bleiben trotzdem wichtig.

How it works

Ein guter Prompt besteht aus erkennbaren Bausteinen:

  1. Anweisung und Rolle: Was soll das Modell tun, in welcher Rolle und mit welchen Grenzen (bei APIs in der Systemnachricht).
  2. Kontext und Quellen: Relevante Daten oder Dokumente mitgeben und die Antwort darauf beschränken (Grounding).
  3. Beispiele (Few-Shot): Ein bis drei Ein-/Ausgabepaare zeigen das gewünschte Muster.
  4. Struktur: Trennzeichen, Markdown- oder XML-Abschnitte trennen Anweisung, Daten und Beispiele.
  5. Ausgabeformat: Tabelle, JSON-Schema oder Zitierpflicht festlegen, plus ein „Ausweg“ wie „antworte mit nicht gefunden“.

Ergänzend wirken Aufgabenzerlegung (Prompt Chaining), Wiederholung der Kernanweisung am Ende und Parameter wie Temperature (niedrig für präzise, höher für kreative Aufgaben).

Benefits

  • Bessere Ergebnisse ohne Zusatzkosten, weil nur die Eingabe verbessert wird und kein Training nötig ist
  • Weniger Halluzinationen, wenn Antworten auf mitgelieferte Quellen beschränkt und Zitate verlangt werden
  • Reproduzierbare Ausgaben durch feste Formate, das erleichtert die Weiterverarbeitung in Skripten und Workflows
  • Geringerer Tokenverbrauch durch kompakte Prompts, was bei API-Abrechnung direkt Kosten spart

Practical example

Die IT eines Logistikdienstleisters mit 400 Beschäftigten baut einen Ticket-Klassifizierer auf Basis von Azure OpenAI. Die erste Version mit einem Einzeiler-Prompt sortiert viele Tickets falsch. Nach Umstellung auf eine Systemnachricht mit Kategorienliste, drei Beispielen pro Kategorie und JSON-Ausgabe mit Feld „unsicher“ landen die meisten Tickets in der richtigen Queue, unsichere Fälle gehen an den First-Level-Support. Die Prompts liegen versioniert im Git-Repository, Änderungen werden gegen einen Testdatensatz geprüft.

Things to keep in mind

  • Prompts wie Code behandeln: versionieren, mit Testfällen prüfen und Änderungen dokumentieren
  • Keine vertraulichen Daten in Prompts für Dienste ohne Unternehmensvertrag einfügen
  • Bei Reasoning-Modellen keine künstlichen Denkschritte erzwingen, sondern Ziel, Kontext und Format klar vorgeben
  • Prompt Injection einplanen: Eingaben aus Mails, Webseiten oder Dokumenten können eigene Anweisungen enthalten und dürfen die Systemnachricht nicht aushebeln
  • Für Endanwender eine kleine Prompt-Bibliothek mit erprobten Vorlagen bereitstellen

Conclusion

Prompt Engineering ist die günstigste Stellschraube für bessere KI-Ergebnisse. Bevor Du über Fine-Tuning nachdenkst, schöpfe saubere Prompts und Grounding aus.

Further reading

Related articles