Verbotene KI: Was ist absolut untersagt?
Der AI Act verbietet bestimmte KI-Anwendungen vollständig: Social Scoring, unterschwellige Manipulation, Emotionserkennung am Arbeitsplatz und das Scrapen von Gesichtern für Datenbanken. Die Strafe: bis zu 7 % des Jahresumsatzes.
Artikel 5 des AI Act beschreibt KI-Praktiken, die als so schädlich gelten, dass sie in der EU vollständig verboten sind. Diese Verbote gelten seit dem 2. Februar 2025.
Verbotene KI umfasst: (a) unterschwellige Manipulation, die das Verhalten verzerrt, (b) Ausbeutung gefährdeter Gruppen, (c) Social Scoring, (d) profilbasierte Risikobewertung für kriminelles Verhalten, (e) Scrapen von Gesichtern für Datenbanken, (f) Emotionserkennung am Arbeitsplatz oder in der Bildung, (g) biometrische Kategorisierung anhand geschützter Merkmale.
Für Online-Shops besonders relevant: Dark Patterns, die KI nutzen, um Sie unbewusst zu einem Kauf zu drängen, sowie Marketing, das gezielt schutzbedürftige Gruppen anspricht (Senioren mit phishing-ähnlichen Angeboten, Kinder mit süchtig machender Gamifizierung).
Die Strafe für verbotene KI ist die schwerste: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist.
Möchten Sie wissen, ob das für Ihre Website gilt?
Unser Scanner prüft automatisch, ob Ihre Website diesen AI Act-Anforderungen entspricht, und gibt konkrete Empfehlungen.
Website scannen