KI-Beratung für Krankenhäuser: Sicherheit zuerst, On-Premise als Option

KI-Beratung für Krankenhäuser unterscheidet sich grundlegend von KI-Beratung in jeder anderen Branche. Der Grund hat einen Namen: Patientendaten. Sie gehören zu den sensibelsten Daten überhaupt, unterliegen der ärztlichen Schweigepflicht nach § 203 StGB und der DSGVO – und ein Fehler ist hier nicht nur ein Compliance-Problem, sondern kann Menschen betreffen.

Gleichzeitig ist der Nutzen groß und die Entwicklung schnell. Laut einer Studie von Bitkom und Hartmannbund hat sich der KI-Einsatz in deutschen Kliniken seit 2022 verdoppelt: Bei 18 Prozent der Klinikärztinnen und -ärzte ist KI im Einsatz, etwa zur Auswertung bildgebender Verfahren – 2022 waren es erst 9 Prozent.¹ 78 Prozent der Ärzteschaft sehen in KI eine große Chance für die Medizin.¹

Dieser Artikel zeigt ausführlich, worauf es bei KI-Beratung für Krankenhäuser ankommt: warum Sicherheit und Datenschutz am Anfang stehen müssen, welche rechtlichen Pflichten gelten – und warum eine lokale, im Haus betriebene KI (On-Premise) in vielen Fällen die sicherste Lösung ist.

Der Ausgangspunkt: großer Nutzen, hohe Sensibilität

Die Anwendungsfelder sind real und wachsen. KI unterstützt bei der Auswertung radiologischer Bilder, strukturiert Befunde, automatisiert Dokumentation und entlastet so knappes medizinisches Personal. 60 Prozent der befragten Ärztinnen und Ärzte gehen davon aus, dass KI in bestimmten Fällen bessere Diagnosen stellen wird als ein Mensch.¹

Doch dieselbe Ärzteschaft ist wachsam. 76 Prozent fordern eine strenge Regulierung von KI für die Medizin.¹ Diese Haltung ist berechtigt. Denn KI im klinischen Einsatz fällt regelmäßig unter die Hochrisiko-Kategorie des EU AI Act, mit entsprechenden Betreiberpflichten² (was das im Detail bedeutet, lesen Sie in unserem Beitrag KI in regulierten Branchen). Wer KI im Krankenhaus einführt, bewegt sich also von Anfang an in einem regulierten Raum – anders als in vielen anderen Branchen, wo zunächst experimentiert und später geregelt wird.

Für die Beratung heißt das: Die Reihenfolge ist umgekehrt. Nicht „erst nutzen, dann absichern", sondern „erst absichern, dann nutzen".

Warum Datensicherheit bei Klinik-KI nicht verhandelbar ist

Der kritische Punkt ist der Weg der Daten. Sobald Patientendaten ein KI-System erreichen, stellen sich drei Fragen, die eine seriöse KI-Beratung für Krankenhäuser klären muss.

Erstens: Werden die Daten zum Training verwendet? Patientendaten dürfen nicht zur Optimierung oder zum Training eines KI-Modells genutzt werden – das wäre eine zweckfremde Nutzung ohne Rechtsgrundlage.² Ein KI-System für die Klinik muss technisch sicherstellen, dass eingegebene Daten das Modell nicht „füttern".

Zweitens: Wer kann auf die Daten zugreifen? Die ärztliche Schweigepflicht nach § 203 StGB verlangt, dass auch externe Dienstleister und deren Subunternehmer vertraglich auf die Wahrung von Berufsgeheimnissen verpflichtet werden.² Ein reiner Auftragsverarbeitungsvertrag nach Art. 28 DSGVO genügt nicht – es braucht die zusätzliche § 203-Regelung. Bei US-Anbietern kommt das Risiko des CLOUD Act hinzu: US-Behörden könnten theoretisch auch auf Daten in europäischen Rechenzentren zugreifen.²

Drittens: Erfüllt der Anbieter die Nachweispflichten? Für Cloud-Dienste, die Gesundheitsdaten verarbeiten, verlangt § 393 SGB V ein C5-Typ-2-Testat und eine Niederlassung in Deutschland.² Reine Consumer-Chatbots erfüllen das nicht – Gesundheitsdaten dürfen dort nicht eingegeben werden.

Diese drei Fragen sind kein bürokratisches Beiwerk. Sie entscheiden, ob ein KI-Einsatz im Krankenhaus überhaupt zulässig ist.

On-Premise: die lokale Lösung für höchste Sicherheit

Ein Architektur-Ansatz löst viele dieser Risiken an der Wurzel: die On-Premise-KI – ein KI-Modell, das auf klinikeigenen Servern im eigenen Netzwerk läuft. Der Vorteil ergibt sich direkt aus der Architektur: Die Daten verlassen das Haus nicht.² Daraus folgt eine Kette von Sicherheitsvorteilen – keine Übertragung an Dritte, kein CLOUD-Act-Risiko, kein Training auf Patientendaten und volle Kontrolle über jeden Zugriff.²

Das ist die technische Grundlage der Medical-AI-Lösungen, die unser Schwesterunternehmen Admed für den klinischen Einsatz entwickelt: KI, die dort rechnet, wo die Daten liegen. Die Kehrseite – Modellqualität, Infrastruktur und Aufwand – sowie die Frage, wann On-Premise und wann eine abgesicherte Cloud-Instanz mit § 203-Regelung und C5-Testat der richtige Weg ist, behandeln wir ausführlich im eigenen Beitrag: On-Premise-KI: Wie Firmen ihre eigene KI hosten – Vorteile und Grenzen.

Was KI-Beratung für Krankenhäuser konkret leistet

Wirksame Beratung ordnet KI in einen Rahmen ein, statt ein einzelnes Tool zu empfehlen. 6Rocks arbeitet dafür entlang von sechs Dimensionen – den 6 Rocks. Für Krankenhäuser sind vier besonders relevant:

Governance und Recht. EU-AI-Act-Einstufung, DSGVO, § 203 StGB und § 393 SGB V gehören an den Anfang jedes Projekts, nicht ans Ende. Eine Datenschutz-Folgenabschätzung ist bei Gesundheitsdaten Pflicht, nicht Kür.

Daten und Architektur. Die zentrale Weiche: Wo werden die Daten verarbeitet? On-Premise, dedizierte Instanz oder Cloud – diese Entscheidung bestimmt das Sicherheitsniveau des gesamten Systems.

Technologie-Auswahl. Nicht jedes Modell eignet sich für den medizinischen Einsatz. Ausgewählt wird nach Eignung, Nachweisbarkeit und Sicherheit – nicht nach Bekanntheit.

Organisation und Iteration. Klare Verantwortung, Schulung des Personals und ein Prozess, der neue Anwendungen prüft, bevor sie an den Patienten kommen. Die Ärzteschaft ist offen für KI – wenn sie ärztlich verantwortet und technisch zuverlässig gestaltet ist.¹

Was Sie konkret tun sollten

1. Zuerst: Klären Sie für jeden geplanten KI-Einsatz die Datenfrage – welche Patientendaten fließen hinein und wohin?
2. Dann: Bestimmen Sie die EU-AI-Act-Risikoklasse und führen Sie eine Datenschutz-Folgenabschätzung durch.
3. Architektur-Entscheidung: Prüfen Sie ergebnisoffen On-Premise gegen dedizierte Cloud-Instanz – gemessen an Sensibilität, Leistung und Aufwand.
4. Vertraglich: Sichern Sie § 203-Verpflichtung, C5-Testat und deutschen Standort ab, wo ein externer Anbieter beteiligt ist.
5. Organisatorisch: Benennen Sie Verantwortliche, schulen Sie das Personal und etablieren Sie einen Freigabeprozess für neue KI-Anwendungen.

Leitfragen: Verlassen unsere Patientendaten das Haus – und wenn ja, mit welchem Schutz? Wer haftet, wenn das System einen Fehler macht? Und ist unsere Architektur so gewählt, dass Sicherheit nicht von einzelnen Vertragsklauseln abhängt, sondern schon im Aufbau steckt?

Fazit

In kaum einer Branche ist der Satz „rechtssicher von Anfang an" so wörtlich zu nehmen wie im Krankenhaus. KI kann die Versorgung verbessern und Personal entlasten – aber nur, wenn Patientendaten geschützt bleiben. Die sicherste Antwort ist oft die einfachste: Lassen Sie die KI dort rechnen, wo die Daten liegen. On-Premise ist kein Rückschritt, sondern für sensible Kernprozesse häufig der souveränste Weg.

Wenn Sie wissen möchten, welche KI-Architektur zu Ihrer Klinik passt – von der Risikoklasse bis zur On-Premise-Umsetzung –, sprechen Sie mit uns. Ein strukturierter Blick auf Ihre Ausgangslage, ohne Vertrieb und ohne Folien.

Quellen & Verweise

1. Bitkom / Hartmannbund: „KI in fast jeder siebten Praxis und vielen Kliniken im Einsatz" (Umfrage unter 616 Ärztinnen und Ärzten), 2025: bitkom.org
2. DSN Group / datenschutz notizen: „KI-Systeme im Krankenhaus – datenschutzrechtliche und sicherheitstechnische Pflichten", 2026 (§ 203 StGB, § 393 SGB V / C5-Testat, CLOUD Act, On-Premise/Open-Source): dsn-group.de