KI & AI

Responsible AI

Overview

Responsible AI beschreibt den Anspruch, KI-Systeme so zu entwickeln und einzusetzen, dass sie Menschen nicht schaden, nachvollziehbar arbeiten und jemand für ihr Verhalten verantwortlich ist. Microsoft fasst das in sechs Prinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz sowie Verantwortlichkeit. Umgesetzt werden sie im Microsoft Responsible AI Standard, jährlich berichtet Microsoft im Responsible AI Transparency Report.

Für Unternehmen wird Responsible AI vom Ethikthema zur Pflicht: Der EU AI Act verlangt je nach Risikoklasse Transparenz, Risikomanagement, menschliche Aufsicht und Dokumentation, die Pflicht zur KI-Kompetenz gilt seit Februar 2025. Responsible AI liefert dafür den organisatorischen Rahmen.

Abgrenzung: KI-Sicherheit und Datenschutz konzentriert sich auf Angriffe, Datenabfluss und rechtliche Vorgaben. Responsible AI ist breiter und umfasst auch Fairness, Verzerrungen (Bias), Barrierefreiheit und die Frage, ob ein Anwendungsfall überhaupt vertretbar ist.

How it works

Microsoft gliedert die Umsetzung für Foundry in drei Phasen:

  1. Discover: Qualitäts-, Sicherheits- und Schutzrisiken vor und nach der Bereitstellung finden, z. B. durch Tests mit gegnerischen Prompts (Red Teaming) und Evaluierungen.
  2. Protect: Unerwünschte Ausgaben und unsichere Aktionen auf Modell- und Agentenebene verhindern, etwa mit Inhaltsfiltern, Guardrails und Prompt Shields.
  3. Govern: Tracing, Monitoring und Compliance-Integrationen nutzen, um Abweichungen im Betrieb zu erkennen.

Organisatorisch gehören dazu eine KI-Richtlinie, eine Folgenabschätzung pro Anwendungsfall, dokumentierte Verantwortliche, Human-in-the-Loop bei folgenreichen Entscheidungen und ein Meldeweg für Fehlverhalten.

Benefits

  • Senkt das Risiko diskriminierender oder falscher Entscheidungen, weil Tests und Aufsicht fest eingeplant sind
  • Erleichtert die Erfüllung des EU AI Act, da Dokumentation und Risikobewertung ohnehin entstehen
  • Schafft Vertrauen bei Kunden, Mitarbeitenden und Betriebsrat
  • Bietet einen klaren Prüfweg, ob ein KI-Anwendungsfall eingeführt, angepasst oder verworfen wird

Practical example

Ein Personaldienstleister mit 350 Beschäftigten möchte KI zur Vorauswahl von Bewerbungen nutzen. Die Responsible-AI-Prüfung ergibt, dass der Anwendungsfall nach AI Act als Hochrisiko einzustufen ist. Das Unternehmen beschränkt die KI deshalb auf das Zusammenfassen von Lebensläufen, die Entscheidung trifft immer ein Mensch. Ein regelmäßiger Bias-Test mit anonymisierten Testprofilen und eine dokumentierte Verantwortliche sind Teil des Freigabeprozesses.

Things to keep in mind

  • Für jeden KI-Anwendungsfall vorab die Risikoklasse nach AI Act bestimmen, Hochrisiko-Pflichten nach Anhang III gelten ab 2. Dezember 2027
  • Menschliche Aufsicht dort verbindlich festlegen, wo KI über Personen entscheidet oder Entscheidungen vorbereitet
  • Inhaltsfilter und Guardrails nicht abschalten, nur weil sie im Test stören, sondern gezielt konfigurieren
  • Transparenz herstellen: Benutzer sollen wissen, wann sie mit KI interagieren oder KI-generierte Inhalte sehen

Conclusion

Responsible AI ist der organisatorische Rahmen, in dem KI-Projekte rechtssicher und vertretbar bleiben. Verankere die Prüfung im bestehenden Freigabeprozess für neue IT-Systeme.

Further reading

Related articles