Die europäische Verordnung über Künstliche Intelligenz (KI-Verordnung), auch bekannt als AI Act, ist die weltweit erste umfassende gesetzliche Regelung für Künstliche Intelligenz (KI). Die Verordnung greift schrittweise, mit einigen sofort geltenden Verboten, z.B. für unannehmbare Risiken. Bereits nach einem Jahr muss jeder Mitgliedstaat eine nationale Behörde zur Marktüberwachung benennen. Der Großteil der Regelungen ist von den Mitgliedstaaten innerhalb einer Frist von zwei Jahren umzusetzen. Anforderungen für hochriskante Systeme müssen nach drei Jahren erfüllt sein. Die KI-Verordnung ist die weltweit erste ihrer Art. In vielen Ländern gibt es Bestrebungen, KI-Regulierungen einzuführen, diese befinden sich jedoch größtenteils im Entwurfsstadium. Die Schweiz hat hingegen beschlossen, bestehende Gesetze bei Bedarf an die Anforderungen von KI anzupassen, anstatt ein eigenes Gesetz zur Regulierung von KI vorzubringen.
Rahmenbedingungen in der EU sollen harmonisiert werden
Ziel der Verordnung ist es, die KI-Nutzung sicherer sowie transparenter, nachvollziehbarer, nicht diskriminierend und umweltfreundlich zu gestalten. Es soll ein harmonisierter Binnenmarkt aufgebaut sowie ein förderliches Innovationsumfeld geschaffen werden. Ein zentraler Aspekt ist, dass eine menschliche Überwachung der KI-Anwendung stattfindet.
Medizinprodukte sind oftmals Hochrisiko-KI-Systeme
Vergleichbar zu Medizinprodukten werden KI-Anwendungen in Risikogruppen eingestuft. Hochrisiko-KI-Systeme betreffen die Bereiche Gesundheit, Sicherheit oder Grundrechte und müssen strenge Anforderungen (hochwertige Datensätze, genaue Dokumentation, klare Information der Nutzer) erfüllen. Im Gesundheitsbereich sind zumeist medizinische Geräte (z.B. diagnostische Tools, chirurgische Roboter) oder KI in kritischen Infrastrukturen wie in Gesundheitseinrichtungen als hochriskant eingestuft.
Ein Verhaltenskodex für KI-Anbieter soll bis April 2025 erstellt werden. Verstöße gegen das Gesetz können hohe Strafen zur Folge haben. Für Unternehmen sind Strafen von bis zu 7% des weltweiten Jahresumsatzes vorgesehen.
Kommentar:
Die europäische KI-Verordnung stellt Medizintechnikunternehmen vor neue Herausforderungen, bietet aber auch bedeutende Chancen. Unternehmen müssen künftig in Bezug auf hochriskante KI-Systeme hohe Sicherheits- und Qualitätsstandards einhalten. Transparenz ist ein weiterer wichtiger Aspekt: Die Entscheidungsprozesse der KI-Systeme müssen nachvollziehbar und erklärbar sein, um das Vertrauen der Anwender und Patienten zu gewinnen.
Der Schutz sensibler personenbezogener Daten ist von zentraler Bedeutung, besonders im Gesundheitssektor, wo der Umgang mit solchen Daten alltäglich ist. Anbieter und Betreiber von KI-Systemen tragen die Hauptverantwortung für die Einhaltung der Verordnung und sind haftbar für etwaige Verstöße. Durch die Einhaltung dieser hohen Standards können Medizintechnikunternehmen das Vertrauen der Patienten und Anwender stärken und ihre Marktposition verbessern.
Quelle: Europäische Kommission – Europäische Verordnung über künstliche Intelligenz tritt in Kraft
