Der AI Act (2024)

Europa führt mit dem AI Act als erstes weltweit eine umfassende Regulierung für Künstliche Intelligenz (KI) ein. Der AI Act wird für alle Akteure und Akteurinnen gültig sein, die ein KI-System in der EU anbieten wollen bzw. dessen Nutzung Menschen in der EU betrifft. Der AI Act 2024 ist eine Verordnung, die unmittelbar gilt (großteils 24 Monate Übergangszeit). Als innovationsfördernde Maßnahme enthält sie die Möglichkeit zu sogenannten "Regluatory Sandboxex": Eine Regulatory Sandbox bringt Innovator:innen und Regulator:innen zusammen und ermöglicht in einem kontrollierten Setting zu kooperieren, zu testen und zu lernen (beidseitig).

Herausgeber: Europäische Kommission
Englisch

Inhaltsbeschreibung

Das KI-Gesetz ist ein umfassender Vorschlag für eine Verordnung der Europäischen Kommission, die harmonisierte Regeln für Künstliche Intelligenz (KI) festlegt. Die Schlüsselaspekte sind dabei:

Ziele: Um sicherzustellen, dass KI-Systeme im EU-Markt sicher sind, bestehende Gesetze zu Grundrechten und Unionswerten respektieren, Rechtssicherheit für KI-Investitionen bieten, die Governance verbessern und Marktfragmentierung verhindern.
Risikobasierter Ansatz: Der Vorschlag verfolgt einen risikobasierten Ansatz, der zwischen KI-Systemen unterschiedet, je nach dem Risiko, das sie darstellen, und sich auf hochriskante KI-Systeme konzentriert.
Verbotene Praktiken: Bestimmte KI-Praktiken sind verboten, insbesondere solche, die gegen Unionswerte oder grundlegende Rechte verstoßen.
Transparenz- und Sicherheitsanforderungen: Der Vorschlag legt verbindliche Anforderungen für hochriskante KI-Systeme fest und setzt Transparenzpflichten für bestimmte KI-Systeme, einschließlich solcher, die mit Menschen interagieren und Inhalte manipulieren.
Governance und Umsetzung: Er etabliert ein Governance-System auf Mitgliedstaatsebene und einen Europäischen KI-Beirat für unionsweite Zusammenarbeit.
Unterstützung von Innovation: Maßnahmen zur Unterstützung von Innovation, einschließlich regulatorischer Sandboxes und Maßnahmen zur Verringerung regulatorischer Belastungen, insbesondere für KMUs und Startups.
Integration mit anderen EU-Politiken: Der Vorschlag stellt sicher, dass er mit anderen Unionspolitiken wie Datenschutz, Verbraucherschutz und Nichtdiskriminierung konsistent ist.
Internationale Rolle und Standards: Er zielt darauf ab, globale Normen und Standards in der KI zu gestalten, die mit den Werten und Interessen der EU vereinbar sind.
Überwachung und Bewertung: Er enthält Mechanismen zur Überwachung, Bewertung und Berichterstattung, um die Wirksamkeit der Verordnung zu bewerten.

Diese Verordnung zielt darauf ab, den technologischen Fortschritt mit ethischen und Sicherheitsüberlegungen in Einklang zu bringen und ein Vertrauensökosystem für KI innerhalb der EU zu fördern.

Das Dokument enthält mehrere wichtige Regeln und Vorschriften als Teil des KI-Gesetzes:

Strafen für Verstöße gegen die Verordnung: Die Mitgliedstaaten sind verpflichtet, Regeln für Strafen, einschließlich Verwaltungsstrafen, für Verstöße gegen die Verordnung festzulegen. Diese Strafen müssen wirksam, angemessen und abschreckend sein und die Interessen von kleinen Anbietern und Startups berücksichtigen.
Klassifizierung von hochriskanten KI-Systemen: Das Dokument enthält spezifische Regeln für die Klassifizierung von KI-Systemen als hochriskant. Die Mitgliedstaaten müssen detaillierte nationale Regeln für die Erteilung, Ausübung und Überwachung von Genehmigungen im Zusammenhang mit der Verwendung dieser Systeme festlegen, insbesondere im Bereich der Strafverfolgung.
Delegation und Durchführungsbefugnisse: Es legt Regeln für die Ausübung von Delegations- und Durchführungsbefugnissen fest und befugt die Kommission, Durchführungsmaßnahmen zur einheitlichen Anwendung der Verordnung zu erlassen. Darüber hinaus ist die Kommission verpflichtet, regelmäßig den Bedarf an Aktualisierungen zu bewerten und Evaluierungs- und Überprüfungsberichte vorzubereiten.
Anwendung von Strafbestimmungen: Die Bestimmungen über Strafen, einschließlich Verwaltungsstrafen, sollten von den Mitgliedstaaten festgelegt und der Kommission mitgeteilt werden. Diese Bestimmungen sollen zum Zeitpunkt des Inkrafttretens der Verordnung ordnungsgemäß und wirksam umgesetzt werden.
Formale Maßnahmen bei Nichteinhaltung: Das Dokument spezifiziert Maßnahmen bei formaler Nichteinhaltung, bei denen die Marktüberwachungsbehörde den betreffenden Anbieter auffordert, Nichtkonformitätsprobleme wie unzureichende Konformitätsmarkierungen oder falsche EU-Konformitätserklärungen zu beheben. Wenn die Nichteinhaltung fortbesteht, müssen angemessene Maßnahmen ergriffen werden, um das hochriskante KI-System nicht auf dem Markt verfügbar zu machen oder zu beschränken oder zu verbieten, oder um seine Rückruf oder Rücknahme sicherzustellen.

Diese Regeln bilden den Kern des KI-Gesetzes und konzentrieren sich darauf, die Sicherheit und Konformität von KI-Systemen, insbesondere hochriskanten, im regulatorischen Rahmen der Europäischen Union zu gewährleisten.