Chatbots und Deepfake-Generatoren müssen ihre Kreationen kennzeichnen und Daten über ihre Algorithmen teilen
Die EU hat am Freitag ihr erstes Gesetzespaket vorgestellt, das versucht, die Produktion und Nutzung künstlicher Intelligenz zu regulieren. Das KI-Gesetz verfolgt angeblich einen „risikobasierten Ansatz“ für die Technologie und priorisiert Beschränkungen derjenigen Aspekte, von denen angenommen wird, dass sie die größte Gefahr für die Gesellschaft darstellen.
Die Gesetzgebung führt Transparenzanforderungen für alle Allzweck-KI-Modelle ein, mit strengeren Anforderungen für größere und leistungsfähigere Modelle, die „systemische Risiken für die Union“ darstellen könnten, sagte Europaabgeordneter Dragos Tudorache, einer der Verhandlungsführer, am Freitag gegenüber Reportern.
Als „hochriskant“ werden Anwendungen von KI eingestuft, die einen erheblichen potenziellen Schaden für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit nach der neuen Gesetzgebung darstellen, in der insbesondere der Versicherungs- und Bankensektor sowie Wahlen erwähnt werden – und wahlbezogene Systeme als Bereiche, die vor dem öffentlichen Einsatz strenge Sicherheitstests erfordern.
Berichten zufolge können Bürger Beschwerden einreichen und Erklärungen dazu fordern, inwieweit sich die Entscheidung eines KI-Systems auf ihre Rechte und ihr Leben ausgewirkt hat.
Das Paket erfordert, dass Deepfake-Generatoren, große Sprachmodelle und andere Erstellungs-Engines ihre Arbeit als KI-generiert kennzeichnen und soll Urheberrechtsinhaber davor schützen, dass KI ihre Arbeit fälscht.
Biometrische Systeme, die „sensible Merkmale“ wie Rasse und sexuelle Orientierung zur Identifizierung von Personen verwenden, sind nach der neuen Gesetzgebung verboten, ebenso wie das wahllose Auslesen von Gesichtern aus Online-Datenbanken oder anderen Bildspeichern. Ebenfalls verboten sind soziale Bonitätsbewertungen, „Systeme, die menschliches Verhalten manipulieren, um ihren freien Willen zu umgehen“, Emotionserkennung durch Arbeitgeber oder Bildungseinrichtungen.
Der Einsatz von Gesichtserkennungstechnologie durch Strafverfolgungsbehörden wäre auf „bestimmte Ausnahmen aus Sicherheitsgründen und nationaler Sicherheit“ beschränkt, etwa um eine „spezifische und gegenwärtige terroristische Bedrohung“ zu verhindern. Für den „Post-Remote“-Einsatz der biometrischen KI-Verfolgung muss die Zielperson wegen einer schweren Straftat verurteilt oder verdächtigt worden sein, eine schwere Straftat begangen zu haben – Terrorismus, Menschenhandel, sexuelle Ausbeutung, Mord, Entführung, Vergewaltigung, bewaffneter Raubüberfall, Beteiligung an einer kriminellen Vereinigung usw. oder „Umweltkriminalität“.
Die Verbote sollen in sechs Monaten in Kraft treten, während die Transparenzanforderungen ab einem Jahr durchgesetzt werden. Das vollständige Gesetzespaket tritt in zwei Jahren in Kraft.
Der endgültige Gesetzesentwurf, der in dreitägigen Verhandlungen ausgearbeitet wurde, die am Mittwoch mit einer 22-stündigen Marathonsitzung begannen, wurde noch nicht veröffentlicht und muss durch Abstimmungen sowohl im Parlament als auch im Europäischen Rat verabschiedet werden.
Der Block hofft, weltweit führend bei der Regulierung von KI zu werden, und wiederholt damit seine umstrittenen Bemühungen, den Informationsfluss im Internet mit dem Digital Services Act Anfang des Jahres zu regulieren. Wie diese Gesetzgebung ist sie mit hohen finanziellen Strafen verbunden – Verstöße könnten mit einer Geldstrafe von bis zu 35 Millionen Euro (37,7 Millionen US-Dollar) oder 7 % des weltweiten Umsatzes belegt werden.