• Home
  • /
  • Meldungen
  • /
  • KI-Gesetz: Erste Regeln für künstliche Intelligenz

22.05.2023

Um eine menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz (KI) zu garantieren, hat das Europäische Parlament neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt.

Beitrag mit Bild

pitinan/123.rf.com

Am 11.05.2023 haben der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, 7 Nein-Stimmen und 12 Enthaltungen angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale KI-Definition, sodass sie für die KI-Systeme von heute und morgen gelten kann.

Risikobasierter Ansatz für KI – Verbotene KI-Praktiken

Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, wären strengstens verboten. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.

Verbot für aufdringliche und diskriminierende KI-Anwendungen

Die Abgeordneten änderten die Liste erheblich, um Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufzunehmen wie etwa:

  • biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
  • biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
  • biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
  • prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
  • Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
  • wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Hochriskante KI

Die Abgeordneten haben die Klassifizierung der Hochrisikobereiche um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Sie fügten auch KI-Systeme zur Beeinflussung von Wählerinnen und Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern gemäß dem Gesetz über digitale Dienste) verwendet werden, der Liste der Hochrisikobereiche hinzu.

KI für allgemeine Zwecke – Transparenzmaßnahmen

Die Abgeordneten haben Verpflichtungen für Anbieter von Foundation-Modellen – ein neuer und sich rasch entwickelnder Bereich der KI – aufgenommen, die einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten müssen. Sie müssten Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen.

Generative Foundation-Modelle wie GPT müssten zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Auch müssten Modelle so konzipiert sein, dass keine illegalen Inhalte generiert und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlicht werden.

Nächste Schritte

Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15.06.2023 erwartet.

„Angesichts der tiefgreifenden Auswirkungen, die KI auf unsere Gesellschaften und Volkswirtschaften haben wird, ist das KI-Gesetz wahrscheinlich der wichtigste Rechtsakt in diesem Mandat“, erklärte Mitberichterstatter Dragos Tudorache. „Es ist die erste Rechtsvorschrift dieser Art weltweit, was bedeutet, dass die EU eine Vorreiterrolle dabei spielen kann, KI menschenzentriert, vertrauenswürdig und sicher zu machen. Wir haben uns dafür eingesetzt, die KI-Innovation in Europa zu unterstützen und Start-ups, KMU und der Industrie Raum für Wachstum und Innovation zu geben und gleichzeitig die Grundrechte zu schützen, die demokratische Kontrolle zu stärken und ein ausgereiftes System der KI-Governance und -Durchsetzung zu gewährleisten.“


EU-Parlament vom 11.05.2023 / Viola C. Didier, RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

©momius/fotolia.com

11.04.2024

Der Verbraucherverband Bundeszentrale klagt vor dem Oberlandesgericht Hamm gegen Unternehmen der Vodafone-Gruppe.

weiterlesen
Verbandsklage gegen Vodafone: OLG Hamm ist zuständig

Meldung

©Coloures-Pic/fotolia.com

10.04.2024

Der Anteil mittelständischer Unternehmen mit abgeschlossenen Digitalisierungsvorhaben steigt auf 33 %, die Digitalisierungsausgaben bleiben mit 29,3 Mrd. Euro auf hohem Niveau.

weiterlesen
KfW-Digitalisierungsbericht: Schub aus Coronajahren hält an

Meldung

©photo 5000/fotolia.com

09.04.2024

Die wichtigsten Änderungen des Regierungsentwurfs des BEG IV im Vergleich zum Referentenentwurf zeigt die WPK.

weiterlesen
Die wichtigsten Änderungen beim BEG IV

Meldung

©pixbox77/fotolia.com

04.04.2024

Durch die Ausweitung der EU-weiten Berichtspflichten werden ab 2025 etwa 13.000 Unternehmen in Deutschland berichtspflichtig. Die Berichterstattung wird mit dem DNK 2.0 wesentlich einfacher.

weiterlesen
DNK: Unternehmen sollen Nachhaltigkeitsstandards einfacher umsetzen können

Haben wir Ihr Interesse für WIRTSCHAFT und WETTBEWERB geweckt?

Sichern Sie sich das WuW Gratis Paket: 2 Hefte + Datenbank