Mit dem Artificial Intelligence Act hat die EU-Kommission einen Rechtsrahmen für Künstliche Intelligenz vorgeschlagen. Wie ein angemessener Ausgleich zwischen Chancen und Risiken der Zukunftstechnologie gelingen kann, diskutierten Experten auf Einladung der Vereinigung der bayerischen Wirtschaft.
Es gehe um nichts weniger als die Schlüsseltechnologie des 21. Jahrhunderts, machte vbw-Hauptgeschäftsführer Bertram Brossardt gleich zu Beginn deutlich. Die bayerische Wirtschaft hatte beim „Politischen Dialog Brüssel“ Vertreter aus Politik und Wirtschaft zur Diskussion über die Chancen durch Künstliche Intelligenz (KI) geladen. Der Zeitpunkt war gut gewählt: Die Beratungen im Europaparlament über den Vorschlag der EU-Kommission zur Regulierung von KI-Systemen gehen in eine entscheidende Phase. Und der Entwurf des AI-Acts droht die Zukunftstechnologie in Europa auszubremsen.
Der gesellschaftliche Nutzen und das Potenzial von KI für Innovation, Wachstum, Produktivität und die Schaffung von Arbeitsplätzen sind enorm. Im Wettbewerb mit den USA und China müsse die Europäische Union darauf achten, den Unternehmen keine unnötigen neuen Hürden aufzustellen, mahnte Brossardt mit Blick auf die geplante Regulierung. Der Vorschlag der EU-Kommission sieht vor, neue KI-Anwendungen auf potenzielle Risiken für die Sicherheit und die Grundrechte zu überprüfen und gegebenenfalls zu beschränken oder zu verbieten. Dieser risikobasierte Ansatz zur Regulierung von KI anhand von Risikoklassen sei sinnvoll, die Ausgestaltung jedoch unverhältnismäßig, kritisiert die vbw den vorliegenden Entwurf. Die allgemeine Zuordnung ganzer Anwendungsbereiche in die Kategorie der Hochrisikoanwendungen führe zu pauschalen Zertifizierungsvorgaben oder Verboten. Diese Überregulierung hemme Innovationen und schade dem europäischen Wirtschaftsstandort.
KI-Anwendungen stärken die Gesundheitsversorgung
Wie umfangreich die geplante EU-Regulierung in die Wirtschaft eingreifen würde, illustrierte der Vorstandsvorsitzende des PKV-Verbands, Dr. Ralf Kantak, anhand von konkreten Beispielen in der Privaten Krankenversicherung. Als Innovationsmotor haben private Krankenversicherer schon früh auf den Einsatz digitaler Anwendungen gesetzt. Angebote wie Telemedizin und Gesundheits-Apps arbeiten vielfach mit KI. Sie entlasten Leistungserbringer und Patienten und stärken die Gesundheitsversorgung. Die PKV fördert gezielt Anwendungen mit KI-Technologie, zum Beispiel das intensivmedizinische Assistenzsystem „Mona“ der Firma clinomics sowie Healthtech-Startups über den Venture-Capital-Fonds Heal Capital wie die Medical Guidance Plattform von Infermedica.
Die PKV-Unternehmen und ihre Kunden profitieren auf mehreren Ebenen vom ressourcenschonenden Einsatz digitaler Services. Zum Beispiel können Kunden Informationen von Arztrechnungen automatisch erfassen und an den Versicherer zur Weiterverarbeitung übertragen. So entsteht ein Kostenvorteil durch die Zeitersparnis sowohl für Nutzer als auch Sachbearbeitende. Die Nutzerzufriedenheit steigt durch mobile und digitale Einreichungskanäle im Web nachweislich und die Versicherten profitieren von einer schnellen und effizienten Regulierung.
PKV: EU sollte Liste der Hochrisiko-Anwendungen überarbeiten und Doppelregulierung vermeiden
Der Entwurf des AI-Acts gefährde dieses Potenzial und den Mehrwert für Versicherungskunden und Patienten, erläutert Kantak. Im Kommissionsvorschlag fallen die in der PKV eingesetzten IT-Strukturen zur Prämienberechnung, zur Prüfung und Einschätzung von Versicherungsrisiken (Underwriting) oder für das Schadenmanagement komplett in die Kategorie der Hochrisikoanwendungen. Um die Chancen der KI-Technologie in der Gesundheitsversorgung zu erhalten, empfiehlt Kantak den europäischen Institutionen eine präzisere und sachgemäße Definition von KI. Die weit gefasste Variante des Entwurfs umfasst aktuell eine Vielzahl von konventionellen IT-Systemen.
Änderungsbedarf sieht der PKV-Verband außerdem bei der Liste mit Hochrisiko-Anwendungen. Der Europäische Rat in Brüssel hat zurecht Bedenken geäußert, dass der Fokus auf den allgemeinen Einsatzbereich auch harmlose KI-Systeme einschließen könnte, bei denen es unwahrscheinlich ist, dass sie schwerwiegende Grundrechtsverletzungen oder andere erhebliche Risiken verursachen. Die konkrete Ausgestaltung der KI, ihre konkrete Verwendung oder das eigentliche Risiko, welches sie mit sich bringen, werden dagegen nicht berücksichtigt. In diesem Kontext ist bemerkenswert, dass die europäische Aufsichtsbehörde EIOPA am 6. Juli 2022 in einem Brief an die Mitgesetzgeber empfohlen hat, die versicherungsspezifischen Anwendungsfälle zum jetzigen Zeitpunkt nicht in die Liste der hoch-riskanten KI-Anwendungsfälle aufzunehmen. Zuletzt sollte die EU mit der zusätzlichen Regulierung durch den AI-Act eine Doppelregulierung vermeiden. Das Versicherungswesen ist schon heute eine hoch regulierte Branche. Der bestehende Rechtsrahmen bietet einen ausreichenden Schutz für Verbraucher und gilt selbstverständlich auch für KI-Anwendungen.