Der europäische Ansatz für Künstliche Intelligenz (KI)
Die KOM hat am 21. April ihr Maßnahmenpaket zur Regulierung und Förderung der Entwicklung und Nutzung von künstlicher Intelligenz (KI) in der EU vorgelegt. Dabei geht es um sog. Follow up-Maßnahmen zum KOM-Weißbuch zur KI, das im Februar 2020 vorgelegt wurde.
Das Paket umfasst, nebst einer Mitteilung, die einen allgemeinen Überblick über die vorgeschlagenen Maßnahmen und die damit angestrebten Ziele wiedergibt, einen neuen koordinierten Plan für KI und zwei Verordnungsvorschläge – KI-Verordnung und Maschinen-Verordnung. Ziel ist es, die Entwicklung und Anwendung innovativer KI-Technologien bei gleichzeitiger Wahrung der Sicherheit und der Grundrechte von Menschen und Unternehmen zu fördern und zugleich EU-weit Investitionen und Innovationen im Bereich „KI-Technologien“ anzukurbeln.
Mit der neuen KI-Verordnung wird insbesondere darauf abgezielt, das Vertrauen der EU-Bürgerinnen und -Bürger in KI-Technologien zu erhöhen. Ein verhältnismäßiger und flexibler Regulierungsrahmen soll angemessene Antworten zu den spezifischen Risiken geben, die von KI-Anwendungen und Systemen ausgehen, z. B. Fernidentifikationssysteme, Gesichtsanerkennung. Hierzu schlägt die KOM einen risikobasierten Ansatz mit einer abgestuften Regulierungstiefe vor, die vom Ausmaß der von KI-Systemen ausgehenden Risiken für die Sicherheit und die Rechte der Menschen abhängt. Die Auflagepalette reicht von Verboten für risikoreiche Technologien über strenge Nutzungsbedingungen und Transparenzpflichten bis hin zur freien Nutzung von KI-Systemen, die nur ein minimales Risiko darstellen. Systeme, die das menschliche Verhalten manipulieren, und das sog. Social Scoring sollen verboten werden. Massenhafte Gesichtserkennung sowie die wahl- und anlasslose Nutzung biometrischer Fernidentifizierungssysteme im öffentlichen Raum sollen grundsätzlich unzulässig sein. Ausnahmen sind allerdings zu Strafverfolgungszwecken möglich (z. B. Terrorismusbekämpfung, Suche nach Verbrechern oder vermissten Personen). Vorgesehen sind strenge Bedingungen – u. a. angemessene Risikobewertungs- und Risikominderungssysteme, hohe Qualität der Datensätze; Nachverfolgbarkeit der Entscheidungsprozesse; ausführliche Dokumentation für Kontrollbehörden und Nutzer*innen; angemessene menschliche Aufsicht – für das Inverkehrbringen von KI-Systemen, bei denen ein hohes Risiko bestehen kann. Dies soll vor allem gelten, wenn solche KI-Systeme in sensiblen Bereichen eingesetzt werden, z. B. kritische Infrastrukturen, Schul- und Berufsausbildung, Beschäftigung. Strafverfolgung, Migration. Hinsichtlich KI-System mit geringerem Risiko, wie z. B. Chatbots, sollen lediglich Transparenzverpflichtungen gelten.
Der neue koordinierte Plan für KI umfasst die Maßnahmen und die Investitionen, die die EU und Mitgliedstaaten betätigen sollen, um die Wettbewerbsfähigkeit und die strategische Souveränität Europas im Bereich innovativer, nachhaltiger, inklusiver und menschenorientierten KI-Technologien zu stärken. Dies soll dazu beitragen, die digitale und grüne Transformation der EU voranzutreiben und zugleich die wirtschaftliche und gesellschaftliche Erholung Europas nach der Corona-Pandemie zu unterstützen. Zudem soll der Plan die Mitgliedstaaten dabei unterstützen, die nationalen KI-Strategien umzusetzen.
Der strategische und rechtliche EU-Rahmen für KI soll durch eine neue Maschinen-Verordnung ergänzt werden, die insbesondere darauf abzielt, die Gesundheits- und Sicherheitsanforderungen an die Maschinenprodukte der neuen Generation anzupassen. Betroffen ist eine breite Palette von Produkten sowohl für den privaten als auch für den gewerblichen Gebrauch, z. B. Roboter, Rasenmäher, 3D-Druckern, Baumaschinen, Produktionslinien. Dies soll die Sicherheit der Nutzer*innen auch im digitalen Zeitalter sicherstellen und ihr Vertrauen in Produkte der neuen Generation – KI-basierte Produkte, vernetzte Geräte – erhöhen. Die neuen Vorschriften zielen insbesondere darauf ab, die Voraussetzungen für eine sichere Integration von KI-Systemen in Maschinenprodukte zu schaffen. Darüber hinaus soll sie für mehr Rechtsklarheit sorgen und den Verwaltungsaufwand und die Kosten für Unternehmen senken, z. B. durch die Zulassung digitaler Formate für die Dokumentation. Roberta Ferrario