EU beschließt Gesetzentwurf zur Regelung von Künstlicher Intelligenz

Am Freitag hatte das Europäische Parlament über die lange verhandelte Verordnung zur Regulierung von künstlicher Intelligenz (KI) abgestimmt. Damit sollen Risiken bei der Nutzung der Technologie minimiert und ein Rahmen zur Nutzung KI-basierter Anwendungen geschaffen werden. Ein erster Entwurf war bereits vor zwei Jahren erstellt worden, bis zum Inkrafttreten werden noch einige Detailfragen zu klären sein. 

EU als erster Wirtschaftsraum der KI reguliert 

Die Europäische Union strebt mit dem Gesetzesentwurf an, der weltweit erste Wirtschaftsraum zu werden, der klare Regeln für den Einsatz von KI definiert. Dabei soll vor allem der Schutz von „Gesundheit, Sicherheit, Grundrechten und der Demokratie“ vor potenziellen Gefahren KI-basierter Anwendungen im Fokus stehen. 

Vorgesehen ist, dass KI-Systeme, welche die Sicherheit von Bürgern gefährden, sie diskriminieren könnten oder für sogenanntes „social scoring“ eingesetzt werden könnten, verboten werden. Unter „social scoring“ werden Praktiken verstanden, mit denen Bürger anhand von Charakteristika wie ihrem individuellen Sozialverhalten in Kategorien eingeteilt werden. Erstens sind diese häufig fehlerbehaftet und zweitens könnten sie in weiterer Folge zu Diskrimierung beispielsweise nach Herkunft oder sozialer Klasse führen.

Entsprechend dieses Ansatzes, ist im Entwurf vorgesehen, Anwendungen wie etwa die Echtzeit-Überwachung im öffentlichen Raum, biometrische Systeme zur Kategorierung von Personen nach Geschlecht, ethnischer Zugehörigkeit oder politischen Orientierung oder Emotions-Erkennungssysteme beispielsweise bei der Strafverfolgung und an den europäischen Grenzen ganz oder teilweise zu verbieten. 

Einteilung von KI in vier Risikostufen vorgesehe

Die Regulierung soll in vier Abstufungen erfolgen. Besagtes „social scoring“ wird in diesem Zusammenhang etwa als inakzeptabel definiert und soll verboten werden. Anwendungen, die im medizinischen Bereich Einsatz finden oder zum Anwerben von Bewerbern bei Jobausschreibungen genutzt werden gelten als „high-risk“, sollen aber dennoch bis zu einem gewissen Grad erlaubt sein. Sobald sich KI-Anwendungen, wie etwa Bots, zu gewissen Transparenz-Regeln verpflichten, gelten sie als erlaubt. Dies könnte beispielsweise durch das kennzeichnen von Deepfake-Videos oder die Kennzeichnung von Bot-gesteuerten Chats erfolgen. Anwendungen mit niedrigem Sicherheitsrisiko sollen uneingeschränkt erlaubt werden. 

Das Inkrafttreten der Verordnung wird frühestens 2026 erwartet. In den nächsten Monaten wird der Entwurf innerhalb der europäischen Kommission und mit den Mitgliedstaaten weiter verhandelt.