KI-Richtlinie.

Medi-IT.Care betreibt seine KI-Infrastruktur vollständig in eigenen Rechenzentren in Deutschland. Wir setzen ausschließlich selbst gehostete KI-Systeme ein – keine Cloud-Dienste Dritter, keine externen KI-Anbieter.

Durch den vollständig eigenständigen Betrieb stellen wir sicher, dass:

• Alle verarbeiteten Daten ausschließlich auf unseren eigenen Systemen verbleiben
• Keine Trainingsdaten oder Anfragen an externe Anbieter wie OpenAI, Microsoft, Google oder andere weitergegeben werden
• Wir jederzeit die vollständige technische und organisatorische Kontrolle über das KI-System behalten
• Die KI-Infrastruktur denselben Sicherheits- und Datenschutzstandards wie unsere übrige IT unterliegt

Der Schutz personenbezogener und vertraulicher Daten hat bei unserem KI-Einsatz höchste Priorität. Unsere KI-Systeme sind in unsere bestehende Datenschutzinfrastruktur integriert und unterliegen den gleichen strengen Richtlinien wie alle anderen IT-Systeme bei Medi-IT.Care.

Folgende Maßnahmen gewährleisten den Schutz Ihrer Daten:

• Selbstgehostete InfrastrukturVollständiger Betrieb in eigenen deutschen Rechenzentren – keine Cloud, keine Drittanbieter.
• VerschlüsselungAlle Datenübertragungen innerhalb unserer Systeme erfolgen verschlüsselt.
• ZugriffskontrolleNur autorisierte Mitarbeiter haben Zugriff auf KI-gestützte Funktionen.
• Kein Modell-Training mit KundendatenAnfragen an unsere KI werden nicht verwendet, um das Modell weiter zu trainieren.
• DSGVO-KonformitätDer Einsatz unserer KI-Systeme erfolgt in Übereinstimmung mit der Datenschutz-Grundverordnung.
• LöschkonzeptTemporäre Verarbeitungsdaten werden nach der Sitzung nicht dauerhaft gespeichert.

Der Einsatz unserer KI-Systeme erfolgt in vollständiger Übereinstimmung mit der Datenschutz-Grundverordnung (EU) 2016/679. Als IT-Dienstleister verarbeiten wir im Rahmen unserer KI-gestützten Funktionen unter Umständen personenbezogene Daten – etwa Namen, Kontaktdaten oder technische Informationen aus Support-Tickets. Diese Verarbeitung unterliegt den strengen Anforderungen der DSGVO.

Folgende DSGVO-Grundsätze sind bei unserem KI-Einsatz verbindlich umgesetzt:

• Datensparsamkeit (Art. 5 Abs. 1 lit. c)Die KI verarbeitet nur die Daten, die für die jeweilige Funktion tatsächlich erforderlich sind. Es findet keine anlasslose Massenverarbeitung statt.
• Zweckbindung (Art. 5 Abs. 1 lit. b)Daten werden ausschließlich für den definierten Zweck verarbeitet – z. B. Zusammenfassung eines Tickets. Eine Weiterverwendung für andere Zwecke, insbesondere für das Training des KI-Modells, findet nicht statt.
• Speicherbegrenzung (Art. 5 Abs. 1 lit. e)Temporäre Verarbeitungsdaten werden nach der Sitzung nicht dauerhaft gespeichert. Es gibt kein persistentes Speichern von KI-Anfragen außerhalb der regulären Systeme.
• Integrität & Vertraulichkeit (Art. 5 Abs. 1 lit. f)Alle Datenübertragungen innerhalb unserer Infrastruktur sind verschlüsselt. Zugriff auf KI-Funktionen haben ausschließlich autorisierte Mitarbeiter.
• Keine Drittlandübermittlung (Art. 44 ff.)Da unsere KI vollständig selbst gehostet in deutschen Rechenzentren betrieben wird, findet keinerlei Übermittlung personenbezogener Daten in Drittländer statt.

Der EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung von Künstlicher Intelligenz. Die Verordnung ist am 1. August 2024 in Kraft getreten und wird stufenweise bis 2026 vollständig anwendbar. Medi-IT.Care beobachtet die regulatorischen Entwicklungen aktiv und richtet seinen KI-Einsatz frühzeitig an den Anforderungen des AI Act aus.

Warum kein Hochrisiko-System? Der AI Act stuft KI als Hochrisiko ein, wenn sie in kritischen Bereichen eigenständige Entscheidungen trifft – etwa in der Strafverfolgung, im Personalwesen oder in kritischer Infrastruktur mit direkter Wirkung auf Personen. Unsere KI trifft keine solchen Entscheidungen:

• Keine automatischen Entscheidungen mit RechtswirkungUnsere KI fasst zusammen, analysiert und schlägt vor. Jede Handlung wird von einem Mitarbeiter geprüft und ausgeführt – die KI entscheidet nichts eigenständig.
• Transparenzpflicht (Art. 50 AI Act)Wir informieren klar und offen darüber, wo KI eingesetzt wird. Diese Richtlinie sowie entsprechende Hinweise in unseren Systemen stellen sicher, dass Nutzer und Kunden jederzeit wissen, wenn KI-Unterstützung im Einsatz ist.
• Menschliche Aufsicht (Art. 14 AI Act)Das Prinzip der menschlichen Kontrolle ist fest in allen unseren KI-Prozessen verankert. Kein KI-Ergebnis wird ohne menschliche Prüfung als abschließend behandelt.
• Technische Robustheit (Art. 15 AI Act)Unsere KI-Systeme werden regelmäßig auf Genauigkeit und Zuverlässigkeit überprüft. Fehlfunktionen werden dokumentiert und systematisch behoben.

Aktuell setzen wir unsere KI in den folgenden drei Bereichen ein. In allen Bereichen gilt: Die KI handelt nicht selbstständig – sie liefert Vorschläge, Zusammenfassungen und Analysen, die von unseren Mitarbeitern geprüft und freigegeben werden müssen.

Wir haben bewusste Grenzen für den Einsatz unserer KI definiert, um sicherzustellen, dass Verantwortung und Kontrolle jederzeit beim Menschen verbleiben. Folgende Tätigkeiten werden bei Medi-IT.Care grundsätzlich nicht durch KI automatisiert:

• Automatisches Beantworten, Schließen oder Eskalieren von Support-Tickets
• Selbstständiges Einleiten von Sicherheitsmaßnahmen oder Reaktionen auf SIEM-Alarme
• Eigenständiges Erstellen oder Versenden von offiziellen Audit-Berichten oder -Empfehlungen
• Automatische Änderungen an Kundensystemen, -konfigurationen oder -daten jeglicher Art
• Kommunikation mit Kunden ohne menschliche Prüfung und Freigabe
• Verarbeitung besonders sensibler Daten (z. B. medizinische Daten) ohne explizite menschliche Kontrolle

Das Prinzip „Human in the Loop" ist zentraler Bestandteil unserer KI-Strategie. Das bedeutet: An jedem relevanten Punkt, an dem unsere KI Informationen verarbeitet oder Vorschläge macht, ist eine menschliche Prüfung zwingend vorgesehen.

Dies stellt sicher, dass:

• Fehler der KI erkannt und korrigiert werden können, bevor sie Auswirkungen haben
• Die Verantwortung für alle Maßnahmen klar bei qualifizierten Fachkräften liegt
• Unsere Kunden jederzeit von echtem menschlichem Sachverstand profitieren
• Keine kritischen Entscheidungen ausschließlich auf KI-Basis getroffen werden

Wir überprüfen den Einsatz unserer KI-Systeme regelmäßig auf Qualität, Genauigkeit und datenschutzrechtliche Konformität. Diese Richtlinie wird bei wesentlichen Änderungen unseres KI-Einsatzes aktualisiert.

Unsere Mitarbeiter erhalten Schulungen zum verantwortungsvollen Umgang mit KI-Unterstützung, insbesondere zur kritischen Bewertung von KI-Vorschlägen und zur Erkennung möglicher Fehler oder Ungenauigkeiten.

• Regelmäßige interne Überprüfung der KI-Ausgaben auf Qualität und Korrektheit
• Mitarbeiterschulungen zu KI-Kompetenz und kritischem Umgang mit KI-Ausgaben
• Dokumentation von Fehlfunktionen und kontinuierliche Verbesserung
• Aktualisierung dieser Richtlinie bei Erweiterung des KI-Einsatzes

Haben Sie Fragen zu unserem KI-Einsatz, zu dieser Richtlinie oder zu den Auswirkungen auf Ihre Daten? Wir stehen Ihnen gerne zur Verfügung: