Trend Logo

AI-Act: EU bringt Regeln für Künstliche Intelligenz (KI) auf Schiene

Subressort
Aktualisiert
Lesezeit
8 min

Grünes Licht für den EU-AI-Act. Der Gesetzesentwurf wurde vom EU-Parlament beschlossen.

©iStockphoto
  1. home
  2. Finanzen
  3. Recht

Die Europäische Union hat als erste Region weltweit Regeln für den Einsatz Künstlicher Intelligenz (KI) festgelegt. Mit dem EU-AI-Act sollen unter anderem KI-generierte Inhalte gekennzeichnet, Urheberrechte geschützt und Anwendungen wie eine automatisierte Gesichtserkennung verboten werden.

von

Die Europäische Union bekommt mit dem EU-AI-Act, dem KI-Gesetz, ein Regelwerk für den Einsatz von Künstlicher Intelligenz (KI).

EU-Binnenmarktkommissar Thierry Breton gab nach langwierigen Verhandlungen zwischen den Unterhändlern der Mitgliedstaaten und des Europaparlaments eine politische Vereinbarung für den neuen Rechtsrahmen bekannt. "Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt", schrieb Breton via "X".

Auch EU-Kommissionspräsidentin Ursula von der Leyen wertet den AI Act als "weltweite Premiere". Es handle sich um ein rechtliches Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, der die Menschen "vertrauen" könnten. Außerdem würden "Sicherheit und Grundrechte von Menschen und Unternehmen" geschützt.

Der Weg zum EU-AI-Act

Die EU-Kommission hatte bereits im April 2021 einen Rechtsrahmen für den Einsatz Künstlicher Intelligenz vorgeschlagen. Die Verhandlungen zogen sich aber in die Länge. Die großen Mitgliedsländer Deutschland, Frankreich und Italien hatten vor scharfen Auflagen gewarnt, um die Entwicklung der Zukunftstechnologie nicht zu gefährden. So gab es Befürchtungen, Start-up-Unternehmen könnten in ihrer Entwicklung behindert werden.

Nach der politischen Einigung müssen nun noch technische Details ausgearbeitet werden. Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.

Verschärfte Vorgaben soll es für "risikoreiche" Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.

Zunächst müssen EU-Staaten und Europaparlament dem Vorhaben noch offiziell zustimmen. Das gilt aber als Formsache. Gelten soll das Gesetz dann zwei Jahre nach Inkrafttreten.

Hintergrund: Der EU-AI-Act

KI gilt als Zukunftstechnologie, die praktisch alle Aspekte in der Wirtschaft, aber auch im Alltag betreffen könnte. Auch der Arbeitsmarkt steht dadurch im Wandel: Jobs werden sich verändern oder vielleicht ganz verschwinden. KI birgt auch Gefahren, etwa in Form von KI-generierten Falschinformationen. Auch Fotos oder Videos können durch KI leicht manipuliert werden. Als Problem gilt auch, dass KI teilweise mit verzerrten Datensätzen trainiert wurden und damit Personen diskriminiert werden. Auch der Einsatz in der Kriegsführung wird für möglich gehalten.

Die nun vorgelegten Vorschriften legen Verpflichtungen für KI auf Grundlage ihrer potenziellen Risiken und Auswirkungen fest. Als besonders riskant werden KI eingestuft, die ein erhebliches Schadenspotenzial etwa für Gesundheit, Demokratie, Umwelt oder Sicherheit haben.

Bestimmte Anwendungen werden komplett verboten, etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Auch das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken soll nicht erlaubt sein. Allerdings wird es Ausnahmen für biometrische Identifizierungen im öffentlichen Raum in Echtzeit geben, etwa bei der Gefahr eines Terroranschlags oder bei der gezielten Suche von Opfern von Menschenhandel. Um diesen Punkt wurde intensiv gerungen, das EU-Parlament wollte eigentlich ein komplettes Verbot.

Ein weiterer Streitpunkt war die Regulierung von sogenannten Basismodellen. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählt etwa GPT. Deutschland, Frankreich und Italien hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basistechnologie an sich. Nun einigten sich die Unterhändler auf bestimmte Transparenzpflichten für diese Modelle.

Biometrische Überwachung und Schutz der Bürgerrechte

Der größte Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Der Gesetzesentwurf des Parlaments verbietet KI-Anwendungen wie eine automatisierte Gesichtserkennung. Kritiker sehen darin eine massive Verletzung der Bürgerrechte.

Die EU-Staaten wollten Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke durchsetzen. Die Einigung sieht Beschränkungen für die Nutzung biometrischer Identifizierungssysteme durch die Strafverfolgungsbehörden vor. Die Einzelheiten sollen in den kommenden Tagen ausgearbeitet werden.

Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer durch KI vor. Verbraucher sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Geldstrafen für Verstöße sollen zwischen 7,5 Millionen Euro und 35 Millionen Euro liegen.

Mit dem Gesetz setzt sich die EU weltweit an die Spitze der KI-Regulierung. Die meisten anderen Staaten haben bisher vor allem Verordnungen und Dekrete erlassen. Außerdem könnte der "AI Act" als Blaupause für diejenigen dienen, denen die Regelungen der USA zu locker und die Auflagen Chinas zu restriktiv sind.

Reaktionen auf den Beschluss des AI-Acts

Florian Tursky, Österreichs Staatssekretär für Digitalisierung, begrüßte die Einigung. "Mit dem weltweit ersten Rechtsrahmen für KI setzen wir in der Europäischen Union einen wichtigen Meilenstein, denn durch sinnvolle Regulierung stärken wir nicht nur das Vertrauen in die neuen Technologien, sondern stärken zudem die europäischen Werte und Grundrechte im digitalen Raum", betonte er in einer Aussendung vom Samstag.

Für Unternehmen seien "klare Regeln und Vorgaben" wichtig, um Rechtssicherheit zu haben. "Für die Bürgerinnen und Bürger ist die Transparenz und der Schutz ihrer persönlichen Daten wichtig", so Tursky.

Aus der Wirtschaft kam aber auch Kritik an den EU-Vorgaben. Sie seien eine weitere Belastung für die Unternehmen, erklärte der Branchenverband DigitalEurope. Der Bundesverband der Deutschen Industrie (BDI) bemängelte, das Ziel, durch den "AI Act" einen sicheren und vertrauensbildenden Rechtsrahmen auf Basis eines risikobasierten Ansatzes zu wählen, sei teilweise verfehlt worden. Die Wettbewerbs-und Innovationsfähigkeit werde gefährdet und die von Unternehmen benötigte Rechtssicherheit in Form von praxisnaher und vorausschauender Regulierung sei durch unausgereifte Kriterien nicht gegeben. "Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus", erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung. "Europa riskiert auf diesem Weg, den Anschluss an die weltweiten KI-Entwicklungen zu verlieren."

Auch die Datenschutzgruppe European Digital Rights äußerte sich kritisch. Es sei schwer, sich über ein Gesetz zu freuen, das zum ersten Mal in der EU Schritte unternehme, um die öffentliche Gesichtserkennung in der gesamten EU zu legalisieren. Das Gesamtpaket zur biometrischen Überwachung und zum Profiling sei bestenfalls mäßig.

Künstliche Intelligenz

Über die Autoren

Logo
Abo ab €16,81 pro Monat
Ähnliche Artikel
Chip mit Grips
Unternehmen
Chip mit Grips
KI im Unternehmen
Technologie
KI-Halluzination: Wie lässt sich eine vertrauenswürdige KI ins Unternehmen integrieren?
Florian Hasibar
Unternehmensprofile
KI-Nachhilfe für Mitarbeiter
Der AI Act – Chance für Europa
Technologie
Der AI Act – Chance für Europa
EU AI-Office: Auftrag und Rechtsrahmen des KI-Amts
Recht
EU AI-Office: Auftrag und Rechtsrahmen des KI-Amts
KI im Business: Praxis-Tipps abseits des Hype
Technologie
KI im Business: Praxis-Tipps abseits des Hype
KI oder echt? Wie Sie KI-Bilder erkennen
Technologie
KI oder echt? Wie Sie KI-Bilder erkennen
ChatGPT
Technologie
Die KI motivieren - So erhalten sie von ChatGPT & Co. die Ergebnisse, die Sie wollen
Devin: Der erste KI-Softwareingenieur der Welt
Business Tools
Devin: Der erste KI-Softwareingenieur der Welt
Datensatz KI
Technologie
Groq AI: Revolution in der KI-Beschleunigung
ChatGPT
Technologie
ChatGPT-Webtraffic stagniert
OpenAI auf Laptop geöffnet
Technologie
OpenAI veröffentlicht Video-Tool "Sora"