02.08.2024

Am 01.08.2024 ist der AI Act der EU in Kraft getreten. Mit dem KI-Gesetz soll sichergestellt werden, dass die in der EU entwickelte und eingesetzte KI vertrauenswürdig ist und die Grundrechte der Menschen geschützt werden.

Beitrag mit Bild

pitinan/123.rf.com

Die weltweit erste umfassende Verordnung über künstliche Intelligenz, das europäische Gesetz über die künstliche Intelligenz (KI-Gesetz), ist in Kraft getreten. Die meisten Vorschriften des KI-Gesetzes gelten ab dem 02.08.2026. Mit dem KI-Gesetz wird eine zukunftsorientierte Definition von KI eingeführt, sie beruht auf einem produktsicherheits- und risikobasierten Ansatz in der EU:

Minimales Risiko:

Die meisten KI-Systeme, wie z. B. KI-gestützte Empfehlungssysteme und Spam-Filter, fallen in diese Kategorie. Für diese Systeme gelten aufgrund ihres minimalen Risikos für die Rechte und die Sicherheit der Bürger keine Verpflichtungen im Rahmen des KI-Gesetzes. Unternehmen können auf freiwilliger Basis zusätzliche Verhaltenskodizes annehmen.

Spezifisches Transparenzrisiko:

KI-Systeme wie Chatbots müssen den Nutzern klar zu verstehen geben, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte (einschließlich Deep Fakes) müssen als solche gekennzeichnet werden. Die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Hohes Risiko:

KI-Systeme, die als hochriskant eingestuft werden, müssen strenge Anforderungen erfüllen. Dazu gehören Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen risikoreichen KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personalauswahl eingesetzt werden, um zu beurteilen, ob jemand einen Anspruch auf einen Kredit hat, oder um autonome Roboter zu betreiben.

Unannehmbares Risiko:

KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte von Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen der Nutzerinnen und Nutzer zu umgehen, wie z. B. Spielzeug, das Minderjährige durch Sprachsteuerung zu gefährlichem Verhalten anregt, Systeme, die eine „soziale Bewertung“ durch Regierungen oder Unternehmen ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit (predictive policing). Darüber hinaus werden einige Anwendungen biometrischer Systeme verboten, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).

KI-Modelle für allgemeine Zwecke

Ergänzend zu diesem System führt das KI-Gesetz auch Vorschriften für sog. KI-Modelle für allgemeine Zwecke ein. Dabei handelt es sich um hochgradig leistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben ausgelegt sind – etwa das Erstellen von Texten, die sich lesen, als hätten Menschen sie geschrieben. KI-Modelle für allgemeine Zwecke werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und sich mit möglichen systemischen Risiken der leistungsfähigsten Modelle befassen.

Anwendung und Durchsetzung der KI-Vorschriften

Die Mitgliedstaaten haben bis zum 02.08.2025 Zeit, die zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungsmaßnahmen durchführen werden. Das Amt für Künstliche Intelligenz der Kommission (AI Office) wird die wichtigste Stelle für die Umsetzung des KI-Gesetzes auf EU-Ebene sowie für die Durchsetzung der Vorschriften für KI-Modelle für allgemeine Zwecke sein.

Verstoß gegen die Vorschriften kann hohe Geldbußen nach sich ziehen

Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Die Bußgelder können bis zu 7 % des weltweiten Jahresumsatzes für Verstöße gegen das Verbot von KI-Anwendungen, bis zu 3 % für Verstöße gegen andere Verpflichtungen und bis zu 1,5 % für die Angabe falscher Informationen betragen.

Nächste Schritte

Die meisten Vorschriften des KI-Gesetzes werden ab dem 02.08.2026 gelten. Verbote von KI-Systemen, die ein unannehmbares Risiko darstellen, werden jedoch bereits nach sechs Monaten, die Regeln für sog. Allzweck-KI-Modelle nach 12 Monaten gelten.

KI-Pakt

Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission den KI-Pakt ins Leben gerufen. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen freiwillig zu übernehmen.

KI-Leitlinien

Die Kommission entwickelt außerdem Leitlinien, um zu definieren und zu präzisieren, wie das KI-Gesetz umgesetzt werden sollte, und um Koregulierungsinstrumente wie Standards und Verhaltenskodizes zu erleichtern. Die Kommission hat einen Aufruf zur Interessenbekundung für die Teilnahme an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eine Konsultation mehrerer Interessengruppen gestartet, um allen Beteiligten die Möglichkeit zu geben, zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes Stellung zu nehmen.


EU-Kommission vom 01.08.2024 / RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

©valerybrozhinsky/fotolia.com

09.12.2024

Ziel der Verordnung über den Zugang zu Finanzdaten ist es, die Einführung datengesteuerter Geschäftsmodelle im Finanzsektor zu fördern.

weiterlesen
Kapitalmarktunion: Besserer Zugang zu Finanzdaten von Verbrauchern

Meldung

©photo 5000/fotolia.com

06.12.2024

Nach Angaben der Unternehmen entsteht der steigende Zeitaufwand vor allem durch ausufernde Berichts- und Informations-, Dokumentations- und Meldepflichten.

weiterlesen
22 % der Arbeitszeit für Bürokratie nötig

Meldung

©marog-pixcells/fotolia.com

03.12.2024

Das OLG Schleswig-Holstein erklärte undifferenzierte Schufa-Meldungen für widerrufspflichtig, wenn der Datenschutz des Schuldners überwiegt.

weiterlesen
SCHUFA-Meldung rückständiger Forderungen kann gegen DSGVO verstoßen

Meldung

©number1411/fotolia.com

02.12.2024

Die D&O-Versicherung des ehemaligen Wirecard-Buchhalters muss wegen aufgebrauchter Deckungssumme nicht mehr zahlen, so das OLG Frankfurt/M.

weiterlesen
Wirecard: D&O-Versicherungssumme für Ex-Chefbuchhalter aufgebraucht

Haben wir Ihr Interesse für WIRTSCHAFT und WETTBEWERB geweckt?

Sichern Sie sich das WuW Gratis Paket: 2 Hefte + Datenbank