KI in regulierten Branchen: Datensicherheit, AI Act, Strategie

KI in regulierten Branchen gilt vielen als Widerspruch: hier die schnelle, experimentierfreudige Technologie – dort strenge Vorgaben zu Datenschutz, Haftung und Aufsicht. Das Ergebnis ist oft Stillstand. Man wartet ab, weil man das rechtliche Risiko fürchtet. Doch Abwarten ist selbst ein Risiko: Wer in Kanzleien, Kliniken, im Finanzwesen oder in der öffentlichen Verwaltung nicht handelt, verliert Effizienz und Anschluss.

Der Ausweg liegt nicht darin, die Regeln zu ignorieren oder sich von ihnen lähmen zu lassen, sondern sie zu verstehen. Wichtig vorweg: Die meisten Unternehmen wollen und müssen gar keine Hochrisiko-KI betreiben. Der erste und oft wirksamste Schritt besteht darin, genau das zu prüfen – und Anwendungsfälle so zu gestalten, dass sie erst gar nicht in die Hochrisiko-Klasse fallen. Dieser Leitfaden erklärt, was der EU AI Act von Hochrisiko-Systemen verlangt und warum deren Umsetzung so aufwendig ist (und damit, warum sich Vermeidung lohnt), was ein Risk-Assessment konkret bedeutet – von der Datenschutz-Folgenabschätzung bis zur Grundrechte-Folgenabschätzung – und wie besonders Konzerne die verteilten Verantwortlichkeiten mit einer RACI-Matrix in den Griff bekommen.

Hinweis: Dieser Beitrag bietet praxisorientierte Orientierung und ersetzt keine Rechtsberatung. 6Rocks ist keine Anwaltskanzlei. Für die verbindliche rechtliche Bewertung Ihres Einzelfalls – etwa zu EU AI Act, DSGVO oder Haftung – ziehen Sie bitte anwaltlichen Rat hinzu.

Warum regulierte Branchen ein eigenes Spielfeld sind

Regulierte Branchen arbeiten mit besonders sensiblen Daten und unterliegen zusätzlichen Pflichten. In Kanzleien ist es die anwaltliche Verschwiegenheit, in Kliniken die ärztliche Schweigepflicht nach § 203 StGB, im Finanzsektor die Aufsicht durch die BaFin, in der Verwaltung das besondere Vertrauensverhältnis zum Bürger. Ein Datenleck ist hier nicht nur ein IT-Vorfall, sondern ein Rechts- und Vertrauensbruch.

Hinzu kommt die Haftung. Die Rechtsprechung stellt klar: Wer KI einsetzt, verantwortet ihre Ergebnisse. Das OLG Hamm entschied 2026, dass ein Chatbot-Betreiber voll für falsche KI-Aussagen haftet – eine Halluzination entlastet nicht.¹ Für regulierte Branchen bedeutet das: Die Struktur muss vor dem Einsatz stehen, nicht danach.

Der EU AI Act: die vier Risikoklassen

Der EU AI Act ist das erste umfassende KI-Gesetz der EU. Sein Kern ist ein risikobasierter Ansatz – KI wird nach ihrem Risiko in vier Klassen eingeteilt:

• Verbotene Systeme (inakzeptables Risiko, etwa Social Scoring) sind untersagt; diese Verbote gelten bereits.²
• Hochrisiko-Systeme berühren Grundrechte oder Sicherheit stark – etwa KI in Personalauswahl, Kreditwürdigkeitsprüfung, Versicherungen oder als Medizinprodukt. Hier gelten die strengsten Pflichten. Nach dem „Digital Omnibus" greifen sie für eigenständige Hochrisiko-Systeme ab dem 2. Dezember 2027, für KI in regulierten Produkten wie Medizinprodukten ab dem 2. August 2028.²
• Begrenztes Risiko bedeutet Transparenzpflicht – ein Chatbot muss sich als KI zu erkennen geben. Die allgemeinen Transparenzpflichten greifen ab dem 2. August 2026.²
• Minimales Risiko umfasst den Großteil der Anwendungen und bleibt weitgehend unreguliert.

Der Bußgeldrahmen ist ernst zu nehmen: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.³ Entscheidend für regulierte Branchen ist die Hochrisiko-Klasse – denn genau dort liegen viele ihrer wertvollsten Anwendungsfälle, und genau dort wird die Umsetzung anspruchsvoll.

Warum Hochrisiko-KI so schwer zu implementieren ist

Ein Hochrisiko-System einzuführen heißt nicht, ein Tool zu lizenzieren. Es heißt, einen umfangreichen Pflichtenkatalog zu erfüllen, der die gesamte Lebensdauer des Systems begleitet. Der AI Act verlangt für Hochrisiko-KI unter anderem:

• ein Risikomanagementsystem, das kontinuierlich über den gesamten Lebenszyklus läuft (dazu unten mehr),
• Daten-Governance – die Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein,
• eine technische Dokumentation, die Aufbau, Zweck und Funktionsweise nachvollziehbar macht,
• Protokollierung (Logging) der Systemvorgänge zur Rückverfolgbarkeit,
• Transparenz gegenüber den Betreibern und Nutzern,
• menschliche Aufsicht – das System muss so gestaltet sein, dass ein Mensch eingreifen kann,
• sowie Genauigkeit, Robustheit und Cybersicherheit auf angemessenem Niveau.

Bevor ein solches System auf den Markt kommt, ist eine Konformitätsbewertung nötig; das System wird in einer EU-Datenbank registriert, erhält eine CE-Kennzeichnung und unterliegt anschließend einer laufenden Marktbeobachtung.⁵

Das ist der Grund, warum Hochrisiko-KI Monate statt Tage braucht: Es müssen technische Normen erfüllt, Daten aufbereitet, Prozesse dokumentiert und Verantwortlichkeiten geklärt werden – oft über mehrere Abteilungen hinweg. Erschwerend kommt hinzu, dass viele der harmonisierten Normen erst entstehen; genau deshalb wurden die Fristen verschoben. Wer ein Hochrisiko-System plant, plant ein Projekt, kein Setup.

Für die meisten Unternehmen ist die eigentliche Lehre daraus: Der klügste erste Schritt ist, Hochrisiko möglichst zu vermeiden. Vieles, was ein System in die Hochrisiko-Klasse bringt, hängt daran, dass die KI Entscheidungen über Menschen trifft oder maßgeblich beeinflusst. Wer seine Anwendungsfälle bewusst so zuschneidet, dass ein Mensch die Letztentscheidung behält und keiner der im Gesetz genannten Hochrisiko-Zwecke berührt wird, bleibt in den unteren Risikoklassen – mit deutlich geringeren Pflichten. Das ist keine Umgehung, sondern gute Gestaltung: KI unterstützt, entscheidet aber nicht allein.

Was ein Risk-Assessment wirklich bedeutet

„Risk-Assessment" klingt nach einem Dokument, das man einmal ausfüllt. Tatsächlich stecken dahinter drei unterschiedliche, teils verpflichtende Bewertungen, die man nicht verwechseln sollte.

1. Das Risikomanagementsystem nach dem AI Act (Art. 9). Für Hochrisiko-KI ist es kein einmaliger Check, sondern ein kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus. Man identifiziert und analysiert Risiken für Gesundheit, Sicherheit und Grundrechte, bewertet sie, ergreift Gegenmaßnahmen und testet das System gezielt – und wiederholt das regelmäßig.⁵ Ändert sich das System oder sein Einsatz, beginnt die Schleife von vorn.

2. Die Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO. Sobald eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte betroffener Personen mit sich bringt – bei sensiblen Daten der Regelfall –, ist eine DSFA Pflicht.⁴ Sie ist der aufwendigste Teil, weil sie konkret wird: Welche Daten fließen in das System? Auf welcher Rechtsgrundlage? Werden sie zum Training genutzt? Wer hat Zugriff? Verlassen sie das Haus? Welche technischen und organisatorischen Maßnahmen mindern das Risiko? Eine saubere DSFA zwingt dazu, den gesamten Datenfluss offenzulegen – und deckt genau die Lücken auf, die im laufenden Betrieb sonst zum Vorfall werden.

3. Die Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 AI Act. Für bestimmte Betreiber von Hochrisiko-KI – öffentliche Stellen, private Anbieter öffentlicher Dienste sowie Betreiber im Bereich Kreditwürdigkeit und Versicherungen – kommt eine eigene Grundrechte-Folgenabschätzung hinzu. Darin beschreibt der Betreiber die Einsatzprozesse, Dauer und Häufigkeit der Nutzung, die betroffenen Personengruppen, die spezifischen Schadensrisiken, die Maßnahmen zur menschlichen Aufsicht und das Vorgehen im Schadensfall – und meldet das Ergebnis der Marktaufsichtsbehörde.⁶

Diese drei Ebenen überschneiden sich, ersetzen sich aber nicht. Wer sie früh zusammendenkt, spart Doppelarbeit; wer sie ignoriert, riskiert Nachbesserungen mitten im Projekt.

Verantwortung im Konzern: Rollen klären mit RACI

Je größer die Organisation, desto größer die Verantwortungsfrage. Der AI Act unterscheidet Rollen mit unterschiedlichen Pflichten: Der Anbieter (Provider) entwickelt oder lässt ein System entwickeln und bringt es in Verkehr; der Betreiber (Deployer) setzt es ein. Betreiber müssen unter anderem menschliche Aufsicht sicherstellen, Protokolle mindestens sechs Monate aufbewahren und – wo einschlägig – die FRIA durchführen.⁶ In einem Konzern ist man oft beides zugleich: Betreiber eingekaufter Systeme und Anbieter eigenentwickelter. Das vervielfacht die Pflichten.

Genau hier scheitern viele große Organisationen – nicht an der Technik, sondern an unklaren Zuständigkeiten. Die bewährte Antwort ist eine RACI-Matrix, die für jede Aufgabe vier Rollen festlegt:

• R (Responsible) – wer die Arbeit ausführt, z. B. der Fachbereich, der das System nutzt.
• A (Accountable) – wer verantwortlich zeichnet und entscheidet; diese Rolle ist pro Aufgabe genau einmal vergeben, meist auf Leitungsebene.
• C (Consulted) – wer fachlich eingebunden wird: Datenschutzbeauftragter, IT-Sicherheit/CISO, Rechtsabteilung, Betriebsrat.
• I (Informed) – wer über Ergebnisse informiert wird, z. B. Geschäftsführung oder Aufsichtsgremien.

Für ein KI-Projekt heißt das konkret: Wer verantwortet die DSFA? Wer gibt das System frei? Wer überwacht es im Betrieb? Wer meldet einen Vorfall? Ohne eindeutige Zuordnung bleibt im Ernstfall die Frage „Wer hat das genehmigt?" unbeantwortet – und die Haftung landet ungeplant bei der Geschäftsführung.

Ergänzend hat sich das Modell der drei Verteidigungslinien bewährt: Die erste Linie ist der Fachbereich, der KI nutzt und die operativen Kontrollen trägt. Die zweite Linie sind Risiko-, Compliance- und Datenschutzfunktionen, die Vorgaben setzen und überwachen. Die dritte Linie ist die interne Revision, die unabhängig prüft. Viele Konzerne bündeln die Steuerung zusätzlich in einem KI-Governance-Gremium, das Use Cases priorisiert, Freigaben erteilt und die Einhaltung überwacht. Das klingt nach Overhead – ist aber die Voraussetzung dafür, KI überhaupt in der Fläche und rechtssicher zu skalieren.

Wie das branchennah aussieht, zeigen unsere beiden Vertiefungen: für Kanzleien mit Fokus auf Verschwiegenheit und Haftung und für Krankenhäuser mit Fokus auf Patientendaten und On-Premise-Architektur.

Warum Strategie KI trotz Regulierung effizient macht

Der verbreitete Irrtum lautet: Regulierung macht KI langsam. Tatsächlich macht planloser Einsatz langsam – weil er in Sackgassen, Nachbesserungen und Haftungsrisiken führt. Ein Risk-Assessment beantwortet vorab genau die Fragen, die sonst mitten im Projekt zum Stopp führen: Dürfen wir diese Daten nutzen? Ist dieses Tool zulässig? Wer haftet? Sind diese Fragen einmal geklärt und die Rollen zugewiesen, kann das Team im abgesteckten Rahmen frei und schnell arbeiten. Regulierung wird so von der Bremse zur Leitplanke.

Genau darum geht es bei 6Rocks. Wir strukturieren KI-Transformation entlang von sechs Dimensionen – den 6 Rocks: Strategie, Governance, Organisation, Daten, Technologie und Iteration. In regulierten Branchen stehen Governance und Daten am Anfang, damit die anderen vier tragen. Wer zuerst die Strategie klärt – welche Use Cases, welche Daten, welches Sicherheitsniveau –, setzt KI danach effizienter ein als jeder, der ohne Plan startet.

Was Sie konkret tun sollten

1. Inventar: Erfassen Sie alle KI-Systeme im Einsatz – inklusive still eingebauter Funktionen.
2. Klassifizieren – und Hochrisiko vermeiden: Ordnen Sie jedes System einer AI-Act-Risikoklasse zu. Prüfen Sie bei Hochrisiko-Kandidaten zuerst, ob sich der Anwendungsfall so gestalten lässt – etwa mit menschlicher Letztentscheidung –, dass er in einer niedrigeren Klasse bleibt.
3. Bewertungen aufsetzen: Führen Sie bei sensiblen Daten eine Datenschutz-Folgenabschätzung durch, prüfen Sie die FRIA-Pflicht und etablieren Sie ein laufendes Risikomanagement.
4. Rollen klären: Legen Sie mit einer RACI-Matrix fest, wer verantwortet, entscheidet, berät und informiert wird.
5. Architektur & Strategie: Entscheiden Sie bewusst über Datenhaltung (On-Premise vs. abgesicherte Cloud) und konzentrieren Sie Ressourcen auf die Use Cases mit dem größten Wert.

Leitfragen: Wissen wir, welche KI bei uns läuft und in welche Risikoklasse sie fällt? Ist geklärt, wer für jede Bewertung verantwortlich ist? Und haben wir eine Strategie – oder nur Tools?

Fazit

KI in regulierten Branchen ist kein Widerspruch, sondern eine Frage der Reihenfolge: erst die Struktur, dann das Tempo. Der EU AI Act und der Datenschutz setzen den Rahmen; das Risikomanagement, die DSFA und – wo nötig – die FRIA übersetzen ihn in beherrschbare Schritte; eine RACI-Matrix klärt die Verantwortung; und eine klare Strategie sorgt dafür, dass KI innerhalb dieses Rahmens schnell und wirksam arbeitet. Wer weiß, was er will, muss sich zwischen Sicherheit und Effizienz nicht entscheiden.

Wenn Sie wissen möchten, wo Ihre Organisation zwischen Regulierung und Wertschöpfung steht, sprechen Sie mit uns – ein strukturierter Blick auf Ihre Ausgangslage, ohne Vertrieb und ohne Folien.

6Rocks – Your Path to AI Sovereignty.

Quellen & Verweise

1. OLG Hamm (Az. 4 UKl 3/25) zur vollen Haftung von Chatbot-Betreibern für KI-Fehler, berichtet vom Handelsblatt, 2026: handelsblatt.com
2. Gibson Dunn: „EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes", 2026 (Fristen 2.12.2027 / 2.8.2028, Transparenzpflichten ab 2.8.2026): gibsondunn.com
3. Deloitte Deutschland: „EU AI Act – Änderungen durch den ‚Digital Omnibus on AI'" (Risikoklassen, Bußgeldrahmen bis 35 Mio. € / 7 % Jahresumsatz): deloitte.com
4. DSN Group / datenschutz notizen: „KI-Systeme im Krankenhaus – datenschutzrechtliche und sicherheitstechnische Pflichten", 2026 (Datenschutz-Folgenabschätzung, § 203 StGB, On-Premise): dsn-group.de
5. EU AI Act, Artikel 9 „Risk Management System" (kontinuierlicher, iterativer Prozess) sowie Hochrisiko-Anforderungen Art. 9–15: artificialintelligenceact.eu/article/9
6. EU AI Act, Artikel 26 „Obligations of Deployers" und Artikel 27 „Fundamental Rights Impact Assessment": artificialintelligenceact.eu/article/27