Das neue KI-Gesetz: Eine Chance oder Gefahr für medizinisch-pflegerische Innovationen?

Seit dem 1. August 2024 ist das neue EU-Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in Kraft. Dieses Gesetz bringt weitreichende Veränderungen mit sich, insbesondere im Gesundheitswesen, wo KI bereits in vielen Bereichen in der Planung bzw. ersten Projekten ist – sei es in der Diagnoseunterstützung, der Patientenüberwachung oder der Verwaltung von Gesundheitsdaten. Doch während die Regelungen darauf abzielen, den Einsatz von KI sicherer und transparenter zu gestalten, stehen viele Einrichtungen und Software-Anbieter vor großen Herausforderungen.

Ich habe beobachtet, dass häufig weder die Software-Anbieter im Gesundheitswesen noch die Gesundheitseinrichtungen selbst ausreichend auf die neuen Anforderungen vorbereitet sind. Die Implementierung der KI-Systeme, die den strengen EU-Vorgaben entsprechen sollen, erfordert nicht nur technologische Anpassungen, sondern auch ein tiefes Verständnis für die ethischen und rechtlichen Implikationen. Insbesondere im Bereich der sogenannten „hochriskanten“ Anwendungen, die nun strenger überwacht werden müssen, besteht dringender Handlungsbedarf.

Ein besonders kritischer Punkt ist die Einstufung von KI-unterstützter Gesundheitssoftware als „hochriskant“ im Rahmen des AI-Acts. Hier stellt sich die Frage, ob diese Software dann auch im Sinne der Medizinprodukteverordnung (MDR) als Medizinprodukt eingestuft wird. Sollte dies der Fall sein, könnte dies die Entwicklung solcher Applikationen erheblich verlangsamen und die Kosten für deren Umsetzung deutlich in die Höhe treiben. Die zusätzlichen regulatorischen Hürden würden die ohnehin komplexen Entwicklungsprozesse weiter erschweren.

In meinem Austausch mit verschiedenen Akteuren in der Branche wird deutlich, dass viele Einrichtungen noch am Anfang stehen, geeignete Strategien zur Einhaltung der neuen Vorschriften zu entwickeln. Die Unsicherheit darüber, wie die Anforderungen konkret umgesetzt werden sollen, führt zu Verzögerungen und erhöhtem Druck auf die Verantwortlichen. Dies ist besonders problematisch, da die Folgen von Verstößen gegen das Gesetz erhebliche finanzielle Sanktionen nach sich ziehen können.

Das neue Gesetz bietet zwar einen wichtigen Rahmen, um den Einsatz von KI im Gesundheitswesen sicherer und ethisch vertretbarer zu gestalten, doch es zeigt sich, dass noch viel Arbeit notwendig ist, um diese Ziele zu erreichen. Ich werde dieses Thema weiter verfolgen und freue mich, meine Erkenntnisse und praktischen Tipps in kommenden Artikeln zu teilen.

Ressourcen:

EU-Gesetz zur Künstlichen Intelligenz : https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689

Das Gesetz zusammengefasst : https://artificialintelligenceact.eu/de/high-level-summary/

Healthcare digital: https://www.healthcare-digital.de/neues-ki-gesetz-der-eu-tritt-in-kraft-was-aendert-sich-a-2342292c57c602f8b7afb26401487201/