07.02.2024

Der Rahmen für Künstliche Intelligenz in der EU steht. Die KI-Verordnung soll eine Balance zwischen Innovation und Risikoschutz schaffen. International ist dieser Rechtsrahmen ein Novum – Europa wird damit zum Pionier.

Beitrag mit Bild

pitinan/123.rf.com

Die Mitgliedstaaten der Europäischen Union haben die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) am 02.02.2024 einstimmig gebilligt. Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert. Die KI-Verordnung ist das weltweit erste umfassende Regelwerk für KI.

Inhalte der KI-Verordnung

Für die Vertretung der deutschen Position bei den europäischen Verhandlungen über die KI-Verordnung sind das Bundesministerium der Justiz und das Bundesministerium für Wirtschaft und Klimaschutz federführend zuständig. Folgende Meilensteine konnten erreicht werden:

  • Es wird klargestellt, dass es sich bei der KI-Verordnung um eine Produktregulierung handelt, die sich nicht auf Forschungs- und Entwicklungsaktivitäten bezieht. Gleichzeitig schafft die Verordnung das Fundament für die Entwicklung anwendungsorientierter KI in Europa.
  • Social Scoring mithilfe Künstlicher Intelligenz und Emotionserkennung am Arbeitsplatz wird es in Europa nicht geben. Zur biometrischen Fernidentifikation enthält die Verordnung strenge und einschränkende Vorgaben und beugt einer flächendeckenden biometrischen Überwachung vor.
  • Hierin zeigt sich auch der risikobasierte Ansatz, den die KI-Verordnung verfolgt: Je höher das Risiko ist, desto strenger sind auch die Pflichten. Während KI-Systeme mit einem inakzeptablen Risiko (wie etwa Social Scoring) gänzlich verboten werden und für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten.
  • Besondere Vorschriften wird es zudem für generative KI geben, namentlich sogenannte KI-Modelle mit allgemeinem Verwendungszweck, darunter auch solche, die Inhalte wie Texte und Bilder generieren. Dabei unterliegen besonders wirkmächtige KI-Modelle mit systemischem Risiko strengeren Auflagen.
  • Konkretisierend wird es auf Verhaltenskodizes (Codes of Practice) ankommen, die zusammen mit Modellanbietern und Stakeholdern erarbeitet werden, bis später auf Standards und damit harmonisierte europäische Normen zurückgegriffen werden kann. Damit wird der hochdynamischen Entwicklung von KI Rechnung getragen und unter anderem sichergestellt, dass Anwender über die für sie notwendigen Informationen verfügen. Die Pflichten sind auch infolge des Einsatzes der Bundesregierung begrenzt und möglichst praktikabel ausgestaltet.
  • Das gilt insbesondere für das Urheberrecht. Während die Regelungen des europäischen Urheberrechts uneingeschränkt gelten, soll durch angemessene und erfüllbare Transparenzvorgaben den Rechtsinhabern die Durchsetzung ihrer Rechte in Zukunft erleichtert werden.
  • Auch für kleine und mittlere Unternehmen wird Transparenz die Anwendung von KI erleichtern. Insgesamt werden die Interessen und Bedürfnisse von KMU und Start-ups verstärkt berücksichtigt – auch durch die von der Bundesregierung eingebrachten Regeln für Reallabore, die Freiräume zur Erprobung von Innovationen schaffen.

Vor Inkrafttreten der KI-Verordnung müssen noch das Europäische Parlament und eine Ratsformation formell zustimmen. Die Verordnung tritt am 20. Tag nach Veröffentlichung im EU-Amtsblatt in Kraft und findet grundsätzlich 24 Monate später Anwendung. Einige Vorschriften sind aber auch schon früher anwendbar: So greifen die Verbote bereits nach sechs Monaten, die Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck gelten nach 12 Monaten.

Bei der nun anstehenden Umsetzung wird sich die Bundesregierung gemeinsam mit den anderen Mitgliedstaaten und der Kommission für eine bürokratiearme und innovationsfreundliche Lösung einsetzen.


BMJ vom 02.02.2024 / RES JURA Redaktionsbüro

Weitere Meldungen


Meldung, Wirtschaftsrecht

©jirsak/123rf.com

08.07.2025

Durch klare Regeln für Umweltwerbung und ein Verbot manipulativer Designs im Online-Finanzbereich wird Transparenz geschaffen und Greenwashing erschwert.

weiterlesen
Klarheit statt Greenwashing: Neue Regeln für Umweltaussagen

Meldung

© Jamrooferpix / fotolia.com

02.07.2025

Die EU-Kommission schlägt ein neues Klimaziel von 90% weniger Emissionen bis 2040 vor – ein ambitionierter Plan, der jedoch erhebliche Zweifel an Umsetzbarkeit aufwirft.

weiterlesen
EU-Klimagesetz: Neues Zwischenziel für 2040

Meldung

©jirsak/123rf.com

27.06.2025

Nur wenn eine zuständige Behörde die therapeutische Relevanz einer Bio-Herkunft bestätigt, darf ein Bio-Logo auf Arzneitees verwendet werden.

weiterlesen
Bio-Logo: EuGH setzt Grenzen

Meldung

nosua/123rf.com

24.06.2025

Durch das neue EU-Label sollen Verbraucher:innen sofort sehen, wie nachhaltig ein Gerät ist. Der Reparierbarkeits-Index zeigt, ob sich eine Investition auch langfristig lohnt.

weiterlesen
EU-Energielabel sorgt für mehr Transparenz
Wirtschaft und Wettbewerb - Zeitschrift und Cover

Haben wir Ihr Interesse für WIRTSCHAFT und WETTBEWERB geweckt?

Sichern Sie sich das WuW Gratis Paket: 2 Hefte + Datenbank