Kurzdefinition: Verbotene KI-Praktiken sind die KI-Anwendungen, die die KI-Verordnung wegen ihres unannehmbaren Risikos vollständig untersagt. Art. 5 KI-VO zählt sie abschließend auf; Verstöße sind mit dem höchsten Bußgeldrahmen bewehrt. [N-KI-VO-5]
Der Normwortlaut
Art. 5 Abs. 1 KI-VO lautet einleitend: „Folgende Praktiken im KI-Bereich sind verboten“ — es folgt der Katalog der Buchstaben a bis h. [N-KI-VO-5]
Welche KI-Praktiken sind verboten?
Der Katalog des Art. 5 Abs. 1 KI-VO nennt unter anderem: die unterschwellige oder manipulative Beeinflussung mit erheblichem Schaden; die Ausnutzung von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer Lage; das Social Scoring mit benachteiligender Wirkung; die Vorhersage von Straftaten allein auf der Grundlage von Profiling; das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Datenbanken; die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen; die biometrische Kategorisierung nach sensiblen Merkmalen; und die biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken. [N-KI-VO-5]
Kennen die Verbote Ausnahmen?
Nicht durchgängig. Für einzelne Tatbestände — namentlich die biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken — sieht Art. 5 KI-VO eng begrenzte Ausnahmen unter strengen Voraussetzungen vor. Die Kernverbote wie Social Scoring oder die manipulative Beeinflussung mit erheblichem Schaden gelten dagegen ohne solche Ausnahmen. Das Verbot ist also gestuft, nicht einheitlich. [N-KI-VO-5]
Was droht bei einem Verstoß?
Der höchste Bußgeldrahmen der KI-Verordnung. Nach Art. 99 KI-VO können Verstöße gegen die verbotenen Praktiken des Art. 5 mit Geldbußen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden — je nachdem, welcher Betrag höher ist. Die verbotenen Praktiken stehen damit an der Spitze der Sanktionsskala. [N-KI-VO-5] [N-KI-VO-99]
Welchen Bußgeldrahmen lösen Verstöße gegen Art. 5 aus?
Den höchsten. Für Verstöße gegen die verbotenen Praktiken des Art. 5 KI-VO gilt der schärfste Sanktionsrahmen: bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Verbote stehen damit an der Spitze der Durchsetzung. [N-KI-VO-5] [N-KI-VO-99]
Gilt für kleine Unternehmen derselbe Bußgeldbetrag?
Nein. Bei den Bußgeldern gilt für kleine und mittlere Unternehmen sowie Start-ups jeweils der niedrigere der beiden Beträge. Der Sanktionsrahmen wird damit an die Unternehmensgröße angepasst. [N-KI-VO-99]
Häufige Fehlannahmen
- „Emotionserkennung ist generell verboten.“ Nein. Verboten ist sie nach Art. 5 KI-VO am Arbeitsplatz und in Bildungseinrichtungen — nicht in jedem Kontext. [N-KI-VO-5]
- „Alle verbotenen Praktiken kennen Ausnahmen.“ Nein. Nur einzelne Tatbestände, etwa die biometrische Echtzeit-Fernidentifizierung, haben eng begrenzte Ausnahmen. [N-KI-VO-5]
- „Ein Verstoß wird wie andere KI-Pflichtverstöße geahndet.“ Nein. Für Art. 5 gilt der höchste Rahmen von 35 Millionen Euro oder 7 Prozent. [N-KI-VO-5] [N-KI-VO-99]
- „Social Scoring durch Behörden ist zulässig.“ Nein. Art. 5 KI-VO verbietet die Bewertung sozialen Verhaltens (Social Scoring) mit benachteiligender Wirkung in unpassenden oder unverhältnismäßigen Kontexten. [N-KI-VO-5]
- „Für kleine Unternehmen gilt derselbe Bußgeldbetrag.“ Nein. Bei den Bußgeldern gilt für KMU und Start-ups der jeweils niedrigere Betrag. [N-KI-VO-99]
Was die Geschäftsleitung tun sollte
- Katalog abgleichen. Prüfen, ob eingesetzte oder geplante KI unter einen der Verbotstatbestände fällt.
- Beschäftigtenkontext beachten. Emotionserkennung am Arbeitsplatz ist untersagt.
- Ausnahmen nicht überdehnen. Die engen Ausnahmen gelten nur für bestimmte Tatbestände.
- Sanktionsrisiko einordnen. Verstöße stehen an der Spitze des Bußgeldrahmens.
Für die Geschäftsleitung
Die verbotenen Praktiken sind die rote Linie der KI-Verordnung: Wo Art. 5 greift, ist die jeweilige Praktik untersagt — und Verstöße können mit dem höchsten KI-VO-Bußgeldrahmen von 35 Millionen Euro oder 7 Prozent bewehrt sein. Der Katalog ist abschließend, das Verbot aber gestuft: Einzelne Tatbestände kennen enge Ausnahmen. Wer den Katalog früh abgleicht, vermeidet das größte Sanktionsrisiko der Verordnung.
Quellen
- [N-KI-VO-5] Art. 5 KI-VO (Verbotene Praktiken im KI-Bereich), Abs. 1. Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
- [N-KI-VO-99] Art. 99 KI-VO (Sanktionen), Bußgeldrahmen. Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
