Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)

Das Europäische Parlament und der Rat haben eine Verordnung veröffentlicht, mit dem Ziel, ein einheitliches rechtliches Rahmenwerk für die Nutzung künstlicher Intelligenz (KI) in der EU zu schaffen. Dieser Schritt soll die Entwicklung und Implementierung von KI fördern, während gleichzeitig ein hohes Schutzniveau für die Gesundheit, Sicherheit und die Grundrechte der Bürgerinnen und Bürger sichergestellt wird. Besonders betont wird die Notwendigkeit, KI-Systeme im Einklang mit den Werten der Union zu entwickeln, um die Übernahme von vertrauenswürdiger und menschenzentrierter KI zu unterstützen.

Hintergrund:

Der "Artificial Intelligence Act" (AI Act) ist ein Teil des Engagements der EU, ihre technologische Führungsposition zu bewahren und sicherzustellen, dass Europäer von neuen, gemäß den Unionswerten entwickelten Technologien profitieren können. Er reagiert auf ausdrückliche Anforderungen des Europäischen Parlaments und des Europäischen Rates, die wiederholt gesetzliche Maßnahmen gefordert haben, um sowohl die Vorteile als auch die Risiken der KI auf Unionsebene angemessen anzugehen.

Inhalt:

Die Verordnung verfolgt hauptsächlich folgende Ziele:

Einhaltung der verbotenen KI-Praktiken:

Unternehmen müssen sicherstellen, dass ihre KI-Systeme keine der verbotenen Praktiken umsetzen, wie beispielsweise manipulative Techniken, die das menschliche Verhalten in einer Weise verzerren, die Gesundheit, Sicherheit oder Grundrechte erheblich beeinträchtigen könnten, oder die Verwendung von Echtzeit-Fernbiometrie in öffentlich zugänglichen Räumen für Strafverfolgungszwecke ohne ausdrückliche Genehmigung.

Definition und Management von Hochrisiko-KI-Systemen:

Unternehmen müssen identifizieren, ob ihre KI-Systeme als Hochrisiko eingestuft werden und entsprechende Risikomanagementprozesse implementieren. Dies beinhaltet die Entwicklung, Dokumentation und Implementierung von Maßnahmen zur Minimierung der Risiken sowie die Sicherstellung, dass die Systeme transparent und nachvollziehbar sind.

Datenschutz und Grundrechte:

Unternehmen müssen die Datenschutzanforderungen erfüllen und die Grundrechte wahren, insbesondere in Bezug auf die Verarbeitung biometrischer Daten und den Schutz der Privatsphäre. Sie müssen Datenschutz-Folgenabschätzungen durchführen und geeignete Datenschutzmaßnahmen ergreifen.

Transparenz und Informationspflichten:

Unternehmen müssen die Transparenzanforderungen der KI-Verordnung erfüllen, indem sie Nutzern und Betroffenen klare Informationen über die Funktionsweise ihrer KI-Systeme, deren Risiken und die getroffenen Schutzmaßnahmen zur Verfügung stellen.

Überwachung und Berichterstattung:

Unternehmen müssen die Nutzung ihrer Hochrisiko-KI-Systeme überwachen und sicherstellen, dass sie bei Bedarf korrigierende Maßnahmen ergreifen. Sie müssen auch bestimmte Vorfälle melden und mit den zuständigen Behörden zusammenarbeiten.

Förderung der KI-Kompetenz:

Unternehmen sollten Maßnahmen ergreifen, um das Bewusstsein und das Verständnis für KI-Systeme bei ihren Mitarbeitern, Kunden und der Öffentlichkeit zu fördern. Dies umfasst die Schulung von Mitarbeitern in Bezug auf ethische Aspekte und Risikomanagement im Zusammenhang mit KI.