Der Schlüssel zum Verständnis der Aufgabenteilung des KI-Gesetzes
1: KI-Gesetz
Die europäische KI-Verordnung, auch genannt “KI-Gesetz” – stellt einen entscheidenden Wandel in der Regulierung der digitalen Technologie dar. Wo Unternehmen künstliche Intelligenz bisher relativ frei implementieren konnten, wird das KI-Gesetz dänische Organisationen künftig dazu verpflichten, strukturierter, dokumentierter und transparenter mit KI-basierten Systemen zusammenzuarbeiten.
Das KI-Gesetz ist nicht nur ein weiteres Gesetz mit Gesetzen und Klauseln, sondern ein Rahmen, der definiert, was verantwortungsvolle KI ist und wie Unternehmen somit auch in Zukunft Vertrauen und Qualität rund um ihre KI-Lösungen aufbauen müssen.
Dieser Artikel bietet einen umfassenden, strategischen Überblick über die Verordnung und ihre praktische Bedeutung für Unternehmen.
Zweck des KI-Gesetzes
Obwohl das KI-Gesetz häufig im Zusammenhang mit Regulierung und Compliance erwähnt wird, besteht sein Hauptzweck nicht darin, Unternehmen einzuschränken, sondern einen kontrollierten und sicheren Rahmen für die Entwicklung und Anwendung von KI-Systemen zu schaffen. Dies liegt vor allem an der Geschwindigkeit, mit der sich KI in den letzten Jahren entwickelt hat, und den damit verbundenen gesellschaftlichen Risiken. Das KI-Gesetz muss Folgendes sicherstellen:
-
Schutz der Grundrechte der Bürger
KI darf ohne rechtliche Befugnis nicht die Privatsphäre verletzen, zu Diskriminierung führen oder die Rechte der Bürger einschränken.
-
Transparenz in KI-Systemen
Unternehmen müssen in der Lage sein, die Funktionsweise von KI zu erklären, insbesondere wenn es für die Menschen auf die Leistung ankommt.
-
Sichere und verantwortungsvolle Innovation
Die Verordnung soll das Vertrauen in KI stärken, indem sie sowohl Nutzer als auch Unternehmen vor unbeabsichtigten Auswirkungen schützt.
-
Einheitliche Regeln in der gesamten EU
Das KI-Gesetz ist als Verordnung konzipiert, um nationale Sonderregelungen zu vermeiden und einen stabilen digitalen Binnenmarkt zu schaffen.
Mit anderen Worten: Das KI-Gesetz wurde geschaffen, um sicherzustellen, dass KI verantwortungsvoll, dokumentiert und im Hinblick auf die Grundwerte der Gesellschaft umgesetzt wird.
Zeitplan für die Umsetzung
Obwohl das KI-Gesetz umfassend ist, wird es schrittweise eingeführt, um Unternehmen Zeit zu geben, Prozesse, Systeme und Dokumentation anzupassen. Dies bedeutet jedoch auch, dass bestimmte Teile bereits heute gelten.
| Zeit | Hauptpunkte |
| August 2024 | Das KI-Gesetz trat in Kraft und die ersten Gesamtverpflichtungen mussten umgesetzt werden. |
| Februar 2025 | Verbot von KI mit inakzeptablem Risiko. Anforderungen an allgemeine KI-Modellanbieter. |
| August 2025 | Es gelten Regeln für die Aftermarket-Überwachung. |
| Februar 2026 | Besondere Anforderungen an ausgewählte groß angelegte Informationssysteme. |
| August 2026 | Hochrisiko-KI wird in der Praxis reguliert. Anforderungen an Dokumentation, Qualität und Kontrolle. |
| Vor 2030 | Eine vollständige Umsetzung wird erwartet. Mögliche Verschärfungen und Neuinterpretationen. |
Die risikobasierte Klassifizierung von KI durch die EU
Das KI-Gesetz basiert auf einem risikobasierten Ansatz, der eine differenzierte Regulierung schafft, je nachdem, wie stark das KI-System Auswirkungen auf Mensch und Gesellschaft hat. Die Klassifizierung ist von zentraler Bedeutung, da sie bestimmt, welche Anforderungen an Dokumentation, Verantwortung und Betrieb gelten.
1. Inakzeptables Risiko (verboten – keine Ausnahmen)
Diese Kategorie umfasst KI-Systeme, die als schädlich oder unethisch gelten. Sie bergen erhebliche Risiken für die Freiheiten der Bürger und das Vertrauen in die Institutionen der Gesellschaft. Beispiele hierfür sind:
- Soziale Bewertung, wobei die Bürger hierarchisch nach Verhalten oder Daten eingestuft werden.
- Manipulation menschlichen Verhaltens, zB politischer Einfluss durch KI-generierte Inhalte.
- Biometrische Identifizierung in Echtzeit, was zu einer Überwachung der Bevölkerung führen kann.
- Emotionserkennung Wird in Arbeitskontexten oder im Unterricht verwendet.
Diese Systeme sind in allen EU-Mitgliedstaaten vollständig verboten.
2. Hohes Risiko (streng reguliert)
Hochrisikosysteme werden in Situationen eingesetzt, in denen KI erhebliche Auswirkungen auf das Leben, die Sicherheit oder die Finanzen der Bürger haben kann. Daher werden hohe Anforderungen an Dokumentation, Qualität, Transparenz und menschliche Kontrolle gestellt. Zu den Bereichen gehören unter anderem:
- Personalwesen und Rekrutierung, wo KI Kandidaten beurteilt oder erschöpft.
- Finanzen und Kreditwürdigkeit, wenn Entscheidungen den finanziellen Zugang betreffen.
- Der Gesundheitssektor, wo KI Diagnosen unterstützen kann.
- Kritische Infrastruktur, zB Energieversorgung, Wasser, Transport und Notfallvorsorge.
- Sozialleistungen, zB Beurteilung der Anspruchsberechtigung der Bürger.
- Bildung, einschließlich automatisierter Benotung.
Für diese Systeme müssen Unternehmen unter anderem Datenbanken, Risikoanalysen, Betriebsabläufe und menschliche Aufsicht dokumentieren.
3. Begrenztes Risiko (vor allem Transparenzanforderungen)
Zu dieser Kategorie gehören KI-Systeme, die keine direkten oder wesentlichen Auswirkungen auf die Rechte der Bürger haben, aber dennoch transparent genutzt werden müssen. Typische Beispiele sind:
- Chatbots, die mit Kunden oder Mitarbeitern interagieren.
- Deepfakes im Marketing oder in der Kommunikation, wo der Benutzer informiert werden muss.
- Generative KI, das Text, Bilder oder Ton erzeugt.
Hier besteht die zentrale Anforderung darin, dass die Nutzer klar darüber informiert werden, dass die Inhalte KI-generiert sind.
KI-Act als strategisches Instrument
Das KI-Gesetz sollte als Gelegenheit gesehen werden, den KI-Ansatz des Unternehmens zu professionalisieren. Die Verordnung bietet Unternehmen einen strukturierten Rahmen für:
- Verantwortungsvolle Entwicklung
- Risikomanagement
- Dokumentation
- Transparenz
- Datenqualität
- Governance
Unternehmen, die diese Prinzipien frühzeitig umsetzen, werden gegenüber Kunden, Geschäftspartnern und Behörden stärker sein und eine viel ausgereiftere, sicherere und skalierbarere KI-Anwendung erleben.