Strenge Regeln für AI-Einsatz: EU-Parlament verabschiedet großes KI-Gesetz

Was das Gesetzt verbietet und welche Ausnahmen es gibt

Zu den verbotenen Anwendungen von Künstlicher Intelligenz im öffentlichen Raum zählen „unter anderem die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken“. Allerdings soll es streng kontrollierte Ausnahmen bei der sogenannten Fernidentifizierung in Echtzeit für Strafverfolgungsbehörden geben. Das Parlament erklärt:

[…] Entsprechende Systeme dürfen beispielsweise genutzt werden, um gezielt nach einer vermissten Person zu suchen oder einen Terroranschlag zu verhindern. Der Einsatz von KI-Systemen zur nachträglichen Fernidentifizierung gilt als hochriskant. Hierfür ist eine gerichtliche Genehmigung nötig, die mit einer Straftat in Verbindung stehen muss.

Insgesamt bestimmt die Risikokategorie, in die bestimmte Systeme und Anwendungen eingeordnet werden, die Voraussetzungen, die die Betreiber:innen erfüllen müssen. Dabei gibt es vier Risikokategorien: ein geringes, ein limitiertes, ein hohes und ein inakzeptables Risiko.

Wer in der EU mit KI-Systemen und -Anwendungen arbeitet, muss sich also künftig an die Regularien des AI Acts halten und spezifische Transparenzbestimmungen einhalten. So muss beispielsweise offengelegt werden, welche Daten für das Training von KI-Modellen verwendet werden. Auch müssen mit AI bearbeitete Bilder, Audio- oder Videoelemente (hier schreibt die EU von Deepfakes) „in Zukunft eindeutig als solche gekennzeichnet werden.“

Damit sich Unternehmen auf die Anforderungen des KI-Gesetzes einstellen können, hat die EU den AI Pact ins Leben gerufen. Auf der Website der EU-Kommission heißt es dazu:

The Pact will allow front-runners and ambitious participants to test and share their solutions with the wider community, giving them a first-mover advantage.

Mit dem AI Act wiederum möchte das EU-Parlament auch Innovationen und KMU fördern. So sollen fortan in den Mitgliedsstaaten Reallabore für KI-Tests eingerichtet werden, die von KMU und Startups für die Innovation und Entwicklung ihrer KI-Systeme genutzt werden können.

Welchen Einfluss das Gesetz realiter haben wird, das dürfte sich in den kommenden Monaten zeigen. Tech-Unternehmen und AI-Anwender:innen müssen sich jedenfalls auf strenge Regeln einstellen. Eine Implementierung ähnlicher Gesetzesvorgaben ist auch in anderen Regionen der Welt vorstellbar. Sofern du mehr über den AI Act erfahren möchtest, kannst du dir die Hinweise zu den wegweisenden Regeln der EU durchlesen.

---

Quo Vadis KI:

Was der AI Act für Unternehmen bedeutet