Security & Compliance

KI-Sicherheit und Datenschutz

Overview

KI-Sicherheit und Datenschutz umfasst alle Maßnahmen, mit denen Unternehmen KI-Anwendungen sicher und rechtskonform nutzen: Schutz vertraulicher Daten in Prompts und Antworten, Abwehr von Angriffen auf Sprachmodelle, Zugriffskontrolle für Agenten sowie die Erfüllung von DSGVO und EU AI Act.

Die typischen Risiken beschreibt die OWASP Top 10 for LLM Applications 2025, darunter Prompt Injection, Offenlegung sensibler Informationen, Lieferkettenrisiken, übermäßige Handlungsbefugnis von Agenten und Schwachstellen in Vektor- und Embedding-Speichern. Hinzu kommt Oversharing: KI-Assistenten machen falsch berechtigte Dokumente schlagartig auffindbar.

Regulatorisch gilt seit dem 2. Februar 2025 das Verbot bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz der Mitarbeitenden (Art. 4 AI Act), seit dem 2. August 2025 die Regeln für KI-Modelle mit allgemeinem Verwendungszweck. Durch das KI-Omnibus-Paket (in Kraft seit 27. Juli 2026) verschieben sich die Pflichten für Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 und nach Anhang I auf den 2. August 2028. Die DSGVO gilt unabhängig davon für jede Verarbeitung personenbezogener Daten.

How it works

Die Maßnahmen lassen sich in vier Ebenen gliedern:

  1. Governance: KI-Richtlinie, Inventar der eingesetzten KI-Systeme mit Risikoeinstufung nach AI Act, Schulungen zur KI-Kompetenz, Rollen und Freigabeprozess.
  2. Datenschutz: Rechtsgrundlage, Auftragsverarbeitungsvertrag mit dem Anbieter, Prüfung von Drittlandübermittlungen, Datenschutz-Folgenabschätzung bei hohem Risiko, Löschkonzept für Prompts und Protokolle.
  3. Datensicherheit: Bereinigung von Berechtigungen, Vertraulichkeitsbezeichnungen, DLP für KI-Apps und Browser, Audit-Protokollierung. In Microsoft 365 übernimmt Microsoft Purview (früher Azure Purview bzw. Microsoft Information Protection) mit DSPM for AI, DLP, Insider Risk Management, Audit und eDiscovery diese Aufgaben.
  4. Anwendungssicherheit: Eingabe- und Ausgabefilter (z. B. Prompt Shields), minimale Rechte für Agenten und Tools, menschliche Freigabe kritischer Aktionen, Red Teaming und Monitoring.

Benefits

  • Verhindert Datenabfluss in private oder ungeprüfte KI-Dienste, weil freigegebene Alternativen und DLP-Regeln zusammenwirken
  • Erfüllt Nachweispflichten aus DSGVO, AI Act und NIS2, da Prozesse, Protokolle und Schulungen dokumentiert sind
  • Reduziert das Risiko manipulierter Agenten durch begrenzte Rechte und Freigabeschritte
  • Schafft Vertrauen bei Betriebsrat und Mitarbeitenden, was die Akzeptanz von KI-Projekten erhöht

Practical example

Ein Chemiehändler mit 220 Beschäftigten führt Microsoft 365 Copilot ein und muss gleichzeitig NIS2-Pflichten erfüllen. Die IT erstellt eine KI-Richtlinie, schult alle Mitarbeitenden zur KI-Kompetenz und dokumentiert die eingesetzten KI-Systeme in einem Verzeichnis. In Purview werden Vertraulichkeitsbezeichnungen für Rezepturen erzwungen, eine Endpoint-DLP-Regel blockiert das Einfügen von Kundendaten in externe KI-Webseiten. Der Datenschutzbeauftragte bewertet Copilot anhand von DPA und Produktbedingungen, die Betriebsvereinbarung regelt die Auswertung von Nutzungsdaten.

Things to keep in mind

  • Mit einem KI-Inventar starten: Welche Tools sind im Einsatz, welche Daten fließen wohin, welche Risikoklasse nach AI Act
  • Oversharing vor dem Rollout von Copilot oder RAG bereinigen, nicht danach
  • Agenten nur die minimal nötigen Rechte geben und kritische Aktionen (Mails senden, Daten löschen, Zahlungen) per Freigabe absichern
  • Die Pflicht zur KI-Kompetenz gilt bereits seit Februar 2025 und betrifft auch Unternehmen, die KI nur nutzen
  • In Deutschland bei Nutzungsauswertungen den Betriebsrat früh einbinden

Conclusion

KI-Sicherheit ist kein eigenes Projekt, sondern Teil von Informationssicherheit und Datenschutz. Verknüpfe sie mit Deinem bestehenden ISMS und den NIS2-Prozessen, statt Parallelstrukturen aufzubauen.

Further reading

Related articles