Hochrisiko-KI: Welche Pflichten gelten?
KI für Bonitätsprüfung, Versicherungen, HR-Entscheidungen oder Recruiting ist Hochrisiko. Die Pflichten sind streng: Konformitätsbewertung, Logging, menschliche Aufsicht und Folgenabschätzungen.
Der AI Act stuft bestimmte KI-Systeme als Hochrisiko ein, weil sie das Leben von Menschen direkt beeinflussen. Für Online-Shops besonders relevant: KI-Bonitätsbewertung (Kauf auf Rechnung), KI-Versicherungstarife und KI-Recruiting.
Als Deployer von Hochrisiko-KI müssen Sie: (1) eine DSFA durchführen, (2) automatische Logs mindestens 6 Monate aufbewahren, (3) menschliche Aufsicht sicherstellen, (4) Personen informieren, sobald KI Entscheidungen trifft.
Für bestimmte Systeme (Kredit, Versicherung) ist auch eine FRIA (Folgenabschätzung für Grundrechte) verpflichtend. Das geht über eine DSFA hinaus: Sie bewerten die Auswirkungen auf Grundrechte wie Nichtdiskriminierung und Gleichbehandlung.
Das Recht auf Erklärung (Artikel 86): Personen, die von Hochrisiko-KI betroffen sind, haben Anspruch auf eine verständliche Erklärung, wie die KI zu ihrer Entscheidung kam.
Möchten Sie wissen, ob das für Ihre Website gilt?
Unser Scanner prüft automatisch, ob Ihre Website diesen AI Act-Anforderungen entspricht, und gibt konkrete Empfehlungen.
Website scannen