EU AI Act
Die Europäische Union (EU) hat im Mai 2024 einen EU-weit gültigen Rechtsrahmen für Anbieter und Nutzer von KI-Systemen geschaffen.
In mehreren gestaffelten Schritten kommen auf Betreiber und Nutzer von KI-Systemen, besonders im kommerziellen Kontext, umfangreiche Pflichten hinzu. Die Pflichten gelten für alle Unternehmen und Angebote innerhalb der EU.
Ab dem 02.08.2026 tritt ein großer Teil der relevanten Regeln für Unternehmen in Kraft.
Kategorisierung und Schulung
Unternehmen müssen zukünftig eindeutig dokumentieren, welche KI-Systeme sie zu welchem Zweck einsetzen. Abhängig von Automatisierungsgrad und Auswirkungen müssen KI-Systeme auch hinsichtlich ihres Risikoprofils kategorisiert werden.
Der TÜV Rheinland hat eine einfache Zusammenfassung der Risikoklassifizierung veröffentlicht. Diese Zusammenfassung finden Sie hier.
Mitarbeiter müssen im Umgang mit diesen KI-Systemen geschult werden und es muss sichergestellt sein, dass alle Mitarbeiter über Risiken und Limitierungen der Systeme unterwiesen wurden.
Hochrisiko-KI-Systeme
KI-Systeme, die eine hohe Tragweite in ihren Entscheidungen haben, müssen zukünftig genau überwacht werden. Dazu gehören Systeme, die automatisch Entscheidungen treffen, die eine sehr hohe Tragweite für Menschen haben. Das können z.B. Entscheidungen über Kredite, Bewerberauswahl oder kritische Infrastruktur sein.
Betreiber solcher Systeme müssen diese Systeme umfangreich dokumentieren, überwachen, protokollieren und mehr.
Kennzeichnungspflicht
Inhalte, die mit KI erstellt wurden, müssen zukünftig eindeutig gekennzeichnet werden.
Auch jede Interaktion mit einem KI-System (z. B. Chatbots) müssen für den Nutzer sofort als KI-System ersichtlich sein.
Empfehlungen
- Prüfen und dokumentieren Sie, welche KI-Systeme Sie aktuell nutzen.
- Prüfen Sie, ob Sie KI-Systeme haben, die in die Hochrisiko-Klassifizierung fallen.
- Falls noch nicht geschehen, schulen Sie Ihre Mitarbeiter im Umgang mit KI-Systemen und dokumentieren Sie dies.
- Wenn Sie KI in der Außenkommunikation nutzen, sollten Sie das transparent kennzeichnen.
- Wenn Sie KI zur Erstellung von Inhalten nutzen, sollten Sie das transparent kennzeichnen.
