Datenschutzanwälte mit über 50 Jahren Erfahrung

Kostenlose Erstberatung
/insights

Aktualisiert Freitag, April 28, 2023

Aktualisiert Freitag, April 28, 2023

Vorläufige Einigung über europäischen “Artificial Intelligence Act”

Europäisches Parlament erzielt vorläufige Einigung über das weltweit erste "KI-Gesetz"

Steffen Groß

Partner (Rechtsanwalt)

Verbot von Emotionserkennung, biometrischer Identifizierung und „predictive policing“
Kriterien für die Einstufung von KI als hochriskant definiert
Schutzmaßnahmen bei der Verarbeitung sensibler Daten für KI-Modelle mit hohem Risiko
Allgemeine Grundsätze für alle KI-Modelle

Erhalten Sie Unterstützung von unseren Anwälten

Datenschutz kann kompliziert sein. Unser erfahrenes Team unterstützt Sie gern.

Kostenlose Erstberatung

Die Mitglieder des Europäischen Parlaments haben am 27.04.2023 eine vorläufige politische Einigung über das weltweit erste "KI-Gesetz" erzielt. Das "Gesetz über künstliche Intelligenz" zielt darauf ab, KI auf der Grundlage ihres Schadenspotenzials zu regulieren. Der Text kann vor der für den 11. Mai geplanten Abstimmung im Ausschuss noch geringfügig angepasst werden. Die Vereinbarung sieht vor, dass alle Fraktionen dem Kompromiss zustimmen müssen, ohne die Möglichkeit, alternative Änderungsanträge einzureichen. Die EU-Gesetzgeber stimmen am 26. April über die politische Einigung zum KI-Gesetz ab, wobei einige kritische Fragen noch geklärt werden müssen.


Verbot von Emotionserkennung, biometrischer Identifizierung und „predictive policing“

Die Verwendung von KI-Software zur Erkennung von Emotionen ist in den Bereichen Strafverfolgung, Grenzkontrolle, Arbeitsplatz und Bildung verboten. Das Verbot von Software zur biometrischen Identifizierung wurde ebenfalls ausgeweitet.

Die Möglichkeit des Einsatzes von KI zu Zwecken der präventiven Polizeiarbeit ("Predictive Policing") soll ebenfalls eingeschränkt werden. Die KI-Verordnung verbietet "gezielte" Manipulationen, was trotz der Debatten um den Nachweis der Absichtlichkeit beibehalten wurde.


Kriterien für die Einstufung von KI als hochriskant definiert

Die im KI-Gesetz vorgesehene Einstufung als hochriskant gilt nur für KI-Modelle, die ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte darstellen. Dazu gehört auch KI, die zur Verwaltung kritischer Infrastrukturen eingesetzt wird und ein erhebliches Umweltrisiko darstellt. Schwere, Intensität, Eintrittswahrscheinlichkeit und Dauer der Auswirkungen werden berücksichtigt, um festzustellen, ob das Risiko erheblich ist.


Schutzmaßnahmen bei der Verarbeitung sensibler Daten für KI-Modelle mit hohem Risiko

Das Europäische Parlament hat zusätzliche Sicherheitsvorkehrungen getroffen, um negative Verzerrungen und Vorurteile bei der Verarbeitung sensibler Daten wie sexuelle Orientierung oder religiöse Überzeugungen für KI-Modelle mit hohem Risiko zu erkennen. Die Verarbeitung solcher Daten muss in einer kontrollierten Umgebung erfolgen, und die Voreingenommenheit darf bei der Verarbeitung synthetischer, anonymisierter, pseudonymisierter oder verschlüsselter Daten nicht erkennbar sein. Die sensiblen Daten dürfen nicht an Dritte weitergegeben werden und müssen nach der Voreingenommenheitsbewertung gelöscht werden. Die Anbieter müssen dokumentieren, warum die Datenverarbeitung stattgefunden hat.


Allgemeine Grundsätze für alle KI-Modelle

Die Mitglieder des Europäischen Parlaments haben allgemeine Grundsätze vorgeschlagen, die für alle KI-Modelle gelten sollen und in technische Standards und Richtlinien einfließen sollen. Diese umfassen menschliche Einflussnahme und Aufsicht, technischer Robustheit und Sicherheit, Datenschutz und Daten-Governance, Transparenz, soziale und ökologische Aspekte, Vielfalt, Nichtdiskriminierung und Fairness.

KI-Systeme mit hohem Risiko müssen außerdem Aufzeichnungen über ihre Umweltauswirkungen führen und die europäischen Umweltstandards einhalten. Diese Grundsätze sollen keine neuen Verpflichtungen schaffen, sondern in technische Normen und Leitfäden aufgenommen werden.

Quelle: https://www.euractiv.com/section/artificial-intelligence/news/meps-seal-the-deal-on-artificial-intelligence-act/

Rechtsberatung

Simpliant Legal - Wittig, Bressner, Groß Rechtsanwälte Partnerschaftsgesellschaft mbB