AI Act Glossar
Die wichtigsten Begriffe aus dem AI Act, in einfacher Sprache erklärt.
DeployerDie Organisation, die ein KI-System einsetzt (Sie als Online-Shop-Betreiber).
Ein Deployer ist jede Person oder Organisation, die ein KI-System in einem beruflichen Kontext einsetzt. Wenn Sie einen KI-Chatbot auf Ihrer Website einbinden, sind Sie der Deployer — auch wenn Sie die KI nicht selbst gebaut haben. Sie haben Pflichten unter dem AI Act.
DSGVO-Vergleich
Vergleichbar mit dem 'Verantwortlichen' in der DSGVO: Sie sind verantwortlich dafür, wie die KI eingesetzt wird.
Ein Online-Shop, der den Tidio KI-Chatbot nutzt, ist der Deployer dieses KI-Systems.
ProviderDie Organisation, die ein KI-System entwickelt oder auf den Markt bringt.
Der Provider ist der Hersteller der KI. OpenAI (Hersteller von ChatGPT), Google (Gemini) oder Anthropic (Claude) sind Provider. Sie tragen die schwersten Pflichten unter dem AI Act.
DSGVO-Vergleich
Vergleichbar mit dem 'Auftragsverarbeiter' in der DSGVO, aber mit mehr Eigenverantwortung.
OpenAI ist Provider von ChatGPT. Wenn Sie ChatGPT einsetzen, sind Sie Deployer.
Hoog-risico AIAI-systemen die significante impact hebben op mensen, zoals kredietscoring of HR-besluiten.
De AI Act classificeert bepaalde AI-systemen als hoog-risico vanwege hun impact op mensenlevens. Denk aan AI voor werving, kredietbeoordeling, verzekeringsprijzen of onderwijs. Deze systemen moeten aan strenge eisen voldoen.
DSGVO-Vergleich
De AVG kent 'hoog-risico verwerking' waarvoor een DPIA nodig is. De AI Act gaat veel verder met conformiteitseisen.
Een AI-systeem dat bepaalt of je een lening krijgt is hoog-risico.
Verboden AIAI-toepassingen die zo schadelijk zijn dat ze volledig verboden zijn in de EU.
Sommige AI-toepassingen zijn zo gevaarlijk dat ze niet mogen bestaan: sociale scoring, subliminale manipulatie, emotieherkenning op werk, en het scrapen van gezichten voor databases. De boete: tot 7% van de jaaromzet.
Een systeem dat klanten een 'score' geeft op basis van hun sociale media-gedrag.
Limited riskKI mit begrenztem Risiko, für die Transparenzpflichten gelten.
Die meiste KI auf Websites fällt in diese Kategorie: Chatbots, Empfehlungssysteme, KI-generierte Inhalte. Sie müssen Nutzer darüber informieren, dass KI eingesetzt wird, müssen aber keine Konformitätsbewertung durchführen.
DSGVO-Vergleich
Vergleichbar mit der DSGVO-Pflicht, Personen über die Verarbeitung ihrer Daten zu informieren.
Ein KI-Chatbot in einem Online-Shop ist limited risk: Sie müssen offenlegen, dass es KI ist.
AI-geletterdheidDe verplichting om medewerkers die met AI werken voldoende kennis te geven.
Artikel 4 van de AI Act verplicht organisaties om te zorgen dat iedereen die met AI werkt begrijpt wat het kan, wat de risico's zijn en hoe de AI Act werkt. Dit geldt al sinds februari 2025.
DSGVO-Vergleich
Vergelijkbaar met de AVG-eis om medewerkers te trainen in privacy en dataverwerking.
Een klantenservicemedewerker die een AI-tool gebruikt moet weten wanneer AI fout kan zitten.
GPAIGeneral Purpose AI: vielseitige KI-Modelle wie ChatGPT, Claude oder Gemini.
GPAI-Modelle sind KI-Systeme, die für viele Zwecke eingesetzt werden können. Der AI Act stellt Anforderungen sowohl an die Provider (Hersteller) als auch an die Deployer (Nutzer) dieser Modelle.
ChatGPT ist ein GPAI-Modell. Wenn Sie es auf Ihrer Website einsetzen, müssen Sie angeben, welches Modell Sie nutzen.
TransparantieverplichtingDe plicht om gebruikers te vertellen dat ze met AI te maken hebben.
Transparantie is de kerneis van de AI Act voor de meeste websites. Als AI betrokken is bij wat een bezoeker ziet of ervaart, moet je dat melden. Dit geldt voor chatbots, aanbevelingen, AI-content en tracking.
DSGVO-Vergleich
De AVG kent al transparantie-eisen voor dataverwerking. De AI Act voegt transparantie over AI-gebruik toe.
Een banner bij je chatbot: 'U spreekt met een AI-assistent'.
DeepfakeVon KI erzeugte oder manipulierte Videos, Audios oder Bilder.
Deepfakes sind immer schwerer von echten Inhalten zu unterscheiden. Der AI Act verlangt, dass alle KI-generierten Medien klar gekennzeichnet werden.
Ein KI-generiertes Produktfoto muss als 'KI-generiert' gekennzeichnet sein.
ConformiteitsbeoordelingEen formele beoordeling die bewijst dat een hoog-risico AI-systeem aan alle eisen voldoet.
Voor hoog-risico AI moet worden aangetoond dat het systeem veilig, eerlijk en transparant is. Dit is vergelijkbaar met een CE-markering voor fysieke producten.
Een AI-kredietsysteem moet een conformiteitsbeoordeling doorlopen voor inzet.
DPIAData Protection Impact Assessment: een verplichte risicobeoordeling voor privacy.
Een DPIA is al verplicht onder de AVG bij hoog-risico verwerking. De AI Act benadrukt dat de DPIA specifiek moet ingaan op de AI-aspecten van je systeem.
DSGVO-Vergleich
De DPIA komt uit AVG Artikel 35. De AI Act versterkt de eis voor AI-systemen.
Voordat je AI-kredietscoring inzet, beschrijf je de risico's in een DPIA.
FRIAFundamental Rights Impact Assessment: Bewertung der Auswirkungen auf Grundrechte.
Eine FRIA geht über eine DSFA hinaus. Sie bewerten nicht nur Datenschutzrisiken, sondern auch Auswirkungen auf Gleichheit, Nichtdiskriminierung und andere Grundrechte.
Ein Versicherer mit KI-Pricing bewertet, ob das System bestimmte Gruppen benachteiligt.
Hochrisiko-KIKI-Systeme mit erheblichen Auswirkungen auf Menschen, etwa Bonitätsbewertung oder HR-Entscheidungen.
Der AI Act stuft bestimmte KI-Systeme als Hochrisiko ein, weil sie das Leben von Menschen beeinflussen. Etwa KI für Recruiting, Bonitätsbewertung, Versicherungstarife oder Bildung. Diese Systeme müssen strenge Anforderungen erfüllen.
DSGVO-Vergleich
Die DSGVO kennt 'hochriskante Verarbeitung', für die eine DSFA erforderlich ist. Der AI Act geht mit Konformitätsanforderungen deutlich weiter.
Ein KI-System, das entscheidet, ob Sie einen Kredit erhalten, ist Hochrisiko.
Verbotene KIKI-Anwendungen, die so schädlich sind, dass sie in der EU vollständig verboten sind.
Manche KI-Anwendungen sind so gefährlich, dass sie nicht existieren dürfen: Social Scoring, unterschwellige Manipulation, Emotionserkennung am Arbeitsplatz und das Scrapen von Gesichtern für Datenbanken. Die Strafe: bis zu 7 % des Jahresumsatzes.
Ein System, das Kunden auf Basis ihres Social-Media-Verhaltens einen 'Score' gibt.
KI-KompetenzDie Pflicht, Mitarbeitende, die mit KI arbeiten, ausreichend zu schulen.
Artikel 4 des AI Act verpflichtet Organisationen sicherzustellen, dass alle, die mit KI arbeiten, verstehen, was KI kann, welche Risiken bestehen und wie der AI Act funktioniert. Diese Pflicht gilt seit Februar 2025.
DSGVO-Vergleich
Vergleichbar mit der DSGVO-Pflicht, Mitarbeitende in Datenschutz und Datenverarbeitung zu schulen.
Ein Kundenservicemitarbeiter, der ein KI-Tool nutzt, muss wissen, wann KI sich irren kann.
TransparenzpflichtDie Pflicht, Nutzer darüber zu informieren, dass sie es mit KI zu tun haben.
Transparenz ist die Kernanforderung des AI Act für die meisten Websites. Wenn KI an dem beteiligt ist, was ein Besucher sieht oder erlebt, müssen Sie das offenlegen. Das gilt für Chatbots, Empfehlungen, KI-Inhalte und Tracking.
DSGVO-Vergleich
Die DSGVO kennt bereits Transparenzpflichten für Datenverarbeitung. Der AI Act fügt Transparenz über KI-Nutzung hinzu.
Ein Hinweis bei Ihrem Chatbot: 'Sie sprechen mit einem KI-Assistenten'.
KonformitätsbewertungEine formale Bewertung, die nachweist, dass ein Hochrisiko-KI-System alle Anforderungen erfüllt.
Für Hochrisiko-KI muss nachgewiesen werden, dass das System sicher, fair und transparent ist. Vergleichbar mit einer CE-Kennzeichnung für physische Produkte.
Ein KI-Kreditbewertungssystem muss vor dem Einsatz eine Konformitätsbewertung durchlaufen.
DSFADatenschutz-Folgenabschätzung: eine verpflichtende Risikobewertung für den Datenschutz.
Eine DSFA ist bereits unter der DSGVO bei hochriskanter Verarbeitung Pflicht. Der AI Act betont, dass die DSFA gezielt auf die KI-Aspekte Ihres Systems eingehen muss.
DSGVO-Vergleich
Die DSFA kommt aus DSGVO Artikel 35. Der AI Act verstärkt die Anforderung für KI-Systeme.
Bevor Sie KI-Bonitätsbewertung einsetzen, beschreiben Sie die Risiken in einer DSFA.