EU AI Act Artikel 5 —
die verbotenen Praktiken im Klartext.
Acht Anwendungen sind seit dem 2. Februar 2025 EU-weit verboten — mit Bußgeldern bis 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes. Sie heißen „Unacceptable Risk" und betreffen viel breitere Bereiche, als es auf den ersten Blick scheint. Wir gehen alle acht durch — mit Originaltext-Zitaten und Praxis-Beispielen, die in deutschen Unternehmen wirklich auftauchen können.
Die meisten Artikel des EU AI Act regeln, wie KI eingesetzt werden darf. Artikel 5 hingegen sagt: So nicht. Nie. EU-weit verboten. Das sind acht Praktiken, die der Gesetzgeber als unvereinbar mit europäischen Werten und Grundrechten klassifiziert hat. Wer sie betreibt — egal ob versehentlich oder absichtlich — riskiert die schärfsten Bußgelder des gesamten Gesetzes.
Klingt nach Konzern-Thema? Stimmt teilweise. Aber zwei der acht Verbote betreffen jedes Unternehmen, sobald es mit Personal arbeitet: Emotion-Erkennung am Arbeitsplatz und manipulative Systeme. Hier ist die ehrliche Tour durch alle acht.
Die acht Verbote im Überblick
Artikel 5 listet acht KI-Praktiken auf, die EU-weit verboten sind. Stand Verordnung 2024/1689:
- Manipulative oder täuschende KI-Systeme
- Ausnutzung von Schwachstellen bestimmter Personengruppen
- Social Scoring durch öffentliche/private Akteure
- Predictive Policing nur auf Basis von Profiling
- Untargeted Gesichts-Scraping aus dem Internet/Überwachungskameras
- Emotion-Erkennung am Arbeitsplatz oder in Bildungseinrichtungen
- Biometrische Kategorisierung nach sensitiven Merkmalen
- Echtzeit-Fernidentifizierung im öffentlichen Raum (mit engen Ausnahmen)
Wir gehen alle acht einzeln durch — und zeigen, welche im normalen Geschäftsalltag relevant werden können.
Manipulative oder täuschende KI
Beispiele aus der Praxis-Auslegung:
- Dark-Pattern-KI in E-Commerce, die gezielt Kaufdruck erzeugt und dem Nutzer wirtschaftlich schadet.
- Manipulative Chatbots, die Vertrauen aufbauen, um an Bankdaten zu kommen.
- KI-generierte „Influencer-Empfehlungen", die nicht als KI/Werbung erkennbar sind.
Schwelle: Es muss konkret schädliches Verhalten provoziert werden — klassisches Marketing („mehr kaufen") ist nicht erfasst.
Ausnutzung von Schwachstellen
Praxis-Beispiele:
- KI-Spielzeug, das Kinder zu riskantem Verhalten verleitet.
- Empfehlungssysteme, die Personen mit Demenz oder Spielsucht gezielt manipulieren.
- Werbung an obdachlose Menschen für unbezahlbare Glücksspiel-Apps.
Social Scoring
Der Klassiker, der „China"-Assoziationen weckt. Aber das Verbot greift auch im EU-Geschäftskontext:
- Versicherungstarif basierend auf Social-Media-Verhalten.
- Mieterbewertung anhand digitaler Spurensuche.
- Zugang zu öffentlichen Leistungen abhängig von Score-Modellen, die Verhalten in unzusammenhängenden Kontexten bewerten.
Achtung: Klassisches Credit-Scoring zur Kreditwürdigkeit ist nicht verboten — aber als „High Risk" eingestuft (Annex III).
Predictive Policing nur auf Profiling-Basis
Erlaubt bleibt klassische Risiko-Analyse mit faktenbasierter Grundlage (objektive, verifizierbare Verdachtsmomente). Verboten: „Diese Person wird wahrscheinlich kriminell, weil ihr Profil bestimmten Merkmalen ähnelt".
Betrifft primär Polizei und Sicherheitsbehörden — aber auch private Sicherheitsfirmen mit KI-gestützter Vor-Profil-Bewertung von Personen.
Untargeted Gesichts-Scraping
Das richtet sich u. a. gegen Anbieter wie Clearview AI, die in der EU dafür bereits mit DSGVO-Bußgeldern belegt wurden. Verboten ist:
- Massen-Scraping von Social-Media-Fotos für Gesichtserkennung.
- Speichern und Verwerten von Überwachungskamera-Aufnahmen ohne klaren rechtlichen Anlass.
Emotion-Erkennung am Arbeitsplatz
Praxis-relevant für viele Unternehmen:
- Verboten: KI-Tool, das Stress-Level von Mitarbeitenden aus Mikrofonen analysiert.
- Verboten: Sales-Tool, das Gesichts-Emotionen während Video-Calls auswertet, um Verhandlungsführung zu verbessern.
- Verboten: KI in Schulen, die Konzentrations-Level von Schülern aus Webcam-Bildern errechnet.
- Erlaubt: Sprache-zu-Text bei Meeting-Protokollen ohne Emotion-Analyse.
- Erlaubt: Müdigkeits-Erkennung beim Fahren (Sicherheits-Ausnahme).
Biometrische Kategorisierung nach sensitiven Merkmalen
Verbot trifft auch versteckte Anwendungen:
- HR-Software, die anhand von Foto-Analyse auf Ethnizität schließt.
- Marketing-Tools, die aus Gesichts-Merkmalen sexuelle Orientierung „erraten" wollen.
- Sicherheits-KI, die religiöse Zugehörigkeit aus Kleidung/Aussehen ableitet.
Wichtig: Standard-Biometrie zur Authentifizierung (Fingerabdruck, Face-ID am Handy) ist nicht betroffen — nur Klassifikation nach den genannten sensitiven Merkmalen.
Echtzeit-Fernidentifizierung im öffentlichen Raum
Im Kern ein Polizei-Verbot, das aber durch enge Ausnahmen ergänzt wird (Suche nach Vermissten, Verhinderung konkreter Terror-Bedrohungen, Identifizierung schwerster Straftäter). Diese Ausnahmen erfordern richterliche Genehmigung. Private Unternehmen sind nicht betroffen — ihnen war Live-Erkennung im öffentlichen Raum schon nach DSGVO praktisch unmöglich.
Was passiert bei Verstößen?
Die Bußgeld-Höhe für verbotene Praktiken ist die höchste im gesamten EU AI Act (Art. 99 Abs. 3):
- Bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist.
- Bei KMU gilt der jeweils niedrigere Wert (Art. 99 Abs. 6).
- Plus: Reputations-Risiko, behördliche Untersagung der Tätigkeit, mögliche zivilrechtliche Klagen Betroffener.
Die Verbote sind seit 2. Februar 2025 in Kraft. Aufsichtsbehörden (in Deutschland u. a. BNetzA als nationale KI-Behörde + Landesdatenschutzbehörden) bauen ihre Vollzugs-Kapazitäten gerade aus — erste Verfahren sind in mehreren EU-Ländern angekündigt.
3 konkrete Schritte für dein Unternehmen
- HR-/Sales-/CRM-Software prüfen: Wird irgendwo „Emotion-Analyse", „Sentiment-Tracking" oder „Stress-Erkennung" eingesetzt? — sofort prüfen, dokumentieren, ggf. abschalten.
- Mitarbeiter sensibilisieren: Wer KI in Personal-Entscheidungen einsetzt, muss die Verbote kennen. Das ist Teil der EU-AI-Act-Art.-4-Schulung.
- Bei neuen Tools sauber prüfen: Vor jedem Lizenz-Abschluss eines KI-Tools im HR/Sales/Sicherheits-Bereich gegen die 8 Verbote checken. Standardfrage an Anbieter: „Enthält euer System Funktionen, die unter EU-AI-Act-Art. 5 fallen könnten?"
Quellen
Wissens-Check — sichere dir den Fortschritt
5 Fragen, alle Multiple Choice. Ab 4 von 5 richtig wird dieser Artikel in deinem Zertifizierungs-Pfad als bestanden markiert. Du brauchst einen Snowbyte-Account, um den Fortschritt zu speichern.
Lies weiter mit Snow Academy — ab 14 €/Monat.
Dieser Artikel ist Teil der gepflegten Snow Academy. Mit einem Privat- oder Business-Abo bekommst du vollen Zugriff auf alle Artikel, Quizze und das Zertifizierungs-Programm.