Hoog-risico AI: wat zijn de verplichtingen?
AI voor kredietbeoordeling, verzekeringen, HR-besluiten of werving is hoog-risico. De verplichtingen zijn zwaar: conformiteitsbeoordeling, logging, menselijk toezicht en impactbeoordelingen.
De AI Act classificeert bepaalde AI-systemen als hoog-risico vanwege hun directe impact op mensenlevens. Voor webshops zijn vooral relevant: AI-kredietscoring (achteraf betalen), AI-verzekeringsprijzen en AI-werving.
Als deployer van hoog-risico AI moet je: (1) een DPIA uitvoeren, (2) automatische logs bijhouden en minimaal 6 maanden bewaren, (3) menselijk toezicht waarborgen, (4) personen informeren op het moment dat AI besluiten neemt.
Voor bepaalde systemen (krediet, verzekering) is ook een FRIA (Fundamental Rights Impact Assessment) verplicht. Dit gaat verder dan een DPIA: je beoordeelt de impact op grondrechten zoals non-discriminatie en gelijke behandeling.
Het recht op uitleg (Artikel 86): personen die door hoog-risico AI worden geraakt hebben recht op een begrijpelijke uitleg over hoe de AI tot het besluit is gekomen.
Wilt u weten of dit voor uw website geldt?
Onze scanner controleert automatisch of uw website voldoet aan deze AI Act vereisten en geeft concrete aanbevelingen.
Scan uw website