Der AI Act: Ein Überblick – Was er regelt und was Unternehmen jetzt tun müssen
02.05.2025
Die Europäische Union hat mit dem AI Act eine umfassende Regulierung für Künstliche Intelligenz (KI) geschaffen. Dieses Gesetz legt Anforderungen an KI-Systeme fest, um Transparenz, Sicherheit und ethische Standards zu gewährleisten. Wir geben einen Überblick über die wichtigsten Inhalte und erläutern, was Unternehmen tun müssen, um die Vorgaben einzuhalten.
Der AI Act unterteilt KI-Systeme in vier Risikokategorien:
- Unzulässige KI: Systeme wie Social Scoring, manipulative Technologien oder biometrische Massenüberwachung, die Grundrechte gefährden, sind verboten (Artikel 5 AI Act).
- Hochrisiko-KI: Anwendungen mit erheblichen Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte, z. B. in der medizinischen Diagnostik oder im Finanzsektor, unterliegen strengen Auflagen.
- Begrenztes Risiko: Systeme wie Chatbots oder Empfehlungssysteme müssen Transparenzpflichten erfüllen.
- Minimales Risiko: KI-Anwendungen wie Spam-Filter oder Videospiele sind weitgehend unreguliert.
Je nach Risikokategorie gelten folgende Anforderungen:
- Dokumentation & Transparenz: Hochrisiko-KI erfordert ausführliche technische Dokumentationen und Nachvollziehbarkeit.
- Datenqualität & -sicherheit: KI-Modelle müssen auf verlässlichen, nicht diskriminierenden Daten basieren.
- Menschliche Aufsicht: Hochrisiko-KI darf nur unter menschlicher Kontrolle eingesetzt werden.
- Meldepflichten & Konformitätsbewertung: Unternehmen müssen die Einhaltung der Anforderungen nachweisen.
- Schulungspflicht: Ab dem 2. Februar 2025 müssen Unternehmen sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt (Artikel 4 AI Act).
Unternehmen stehen unter zunehmendem Druck, Datenschutz und KI-Compliance zu gewährleisten. Verstöße können hohe Strafen nach sich ziehen.
- Datenschutz & Datensicherheit: Der Europäische Gerichtshof (EuGH) erlaubt Bußgelder basierend auf dem Konzernumsatz. Das Oberlandesgericht Schleswig fordert zudem Ende-zu-Ende-Verschlüsselung für sensible Daten.
- Transparenz bei automatisierten Entscheidungen: Ein EuGH-Urteil verpflichtet Unternehmen, den Einsatz automatisierter Entscheidungsfindung detailliert offenzulegen.
Um die Vorschriften umzusetzen, sollten Unternehmen:
- Ihre KI-Anwendungen nach Risikokategorien prüfen.
- Prozesse anpassen, um Transparenz- und Dokumentationspflichten nachweisbar zu erfüllen.
- Mitarbeitende zu den Vorgaben und deren Umsetzung schulen.
- Interne Compliance-Strukturen mit klaren Verantwortlichkeiten und regelmäßigen Audits aufbauen.
Der AI Act wird die Entwicklung und Nutzung von KI in der EU maßgeblich beeinflussen. Unternehmen sollten sich frühzeitig mit den Anforderungen auseinandersetzen, um rechtliche Risiken zu vermeiden und Innovationen rechtskonform zu gestalten. Unsere KI-Schulungen unterstützen Sie dabei – sprechen Sie uns an!
Mehr zum AI Act, für wen er gilt, wer nicht betroffen ist und was dies für Unternehmen bedeutet, können Sie hier nachlesen.