Rahmenbedingungen der künstlichen Intelligenz in der Diabetologie

Der Einsatz von KI (künstliche Intelligenz) in der Diabetologie ist an komplexe rechtliche, regulatorische und ethische Rahmenbedingungen gebunden. Im europäischen Kontext sind dabei die Medizinprodukte- (MDR) und die KI-Verordnung besonders wichtig, ergänzt durch internationale Normen, nationale Gesetze und Datenschutzvorgaben wie die Datenschutz-Grundverordnung (DSGVO). Für eine verantwortungsvolle Implementierung sind zudem ethische Leitlinien, wissenschaftliche Positionspapiere sowie die Perspektiven der Nutzer:innen zentral. Die KI-Systeme unterliegen strengen MDR-Vorgaben und müssen sicher, wirksam und datenschutzkonform sein. Hohe Risikoklassen, zu denen viele KI-Anwendungen im Diabetesbereich gehören, erfordern die Einhaltung technischer Normen und gezielter Cybersicherheitsschutzmaßnahmen. Die KI-Verordnung schafft zudem einen verbindlichen Rechtsrahmen für die Entwicklung und den Einsatz von KI und verlangt Nachvollziehbarkeit und menschliche Kontrolle. Da Gesundheitsdaten besonders schützenswert sind, erfordern KI-Systeme zudem eine strikte Beachtung der DSGVO, wobei Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen verpflichtend sind. Laut Produkthaftungsgesetz haften Hersteller:innen von KI-Anwendungen für fehlerhafte Funktionen dieser Systeme, während Ärzt:innen die Verantwortung für den Einsatz, die Aufklärung und die Dokumentation der KI im Behandlungsprozess tragen. Positionspapiere aus Wissenschaft und der Diabetescommunity unterstreichen die Risiken von KI-Systemen aus unterschiedlichen Perspektiven, jedoch mit der gemeinsamen Forderung nach Schutz von Gesundheitsdaten. Schließlich wirft der Einsatz von KI im Gesundheitsbereich auch ethische Fragen auf, etwa in Bezug auf fehlende Repräsentativität, die zu ungleicher Behandlung führen kann.