Glossar zur EU-KI-Verordnung

A

Akteur in der Wertschöpfungskette

Jeder Beteiligte an Herstellung, Vertrieb, Einfuhr, Bereitstellung oder Betrieb von KI.

Warum das für KMU wichtig ist: Verdeutlicht die geteilten Verantwortlichkeiten in Verträgen und Kontrollmechanismen.

Anbieter

Eine natürliche oder juristische Person, die ein KI-System oder -Modell entwickelt oder unter ihrem eigenen Namen in Verkehr bringt.

Warum das für KMU wichtig ist: Die Pflichten des Anbieters sind umfassender und betreffen den gesamten Lebenszyklus.

B

Benannte Stelle

Eine im EU-Rahmen benannte unabhängige Konformitätsbewertungsstelle.

Warum das für KMU wichtig ist: Kann je nach Bewertungsweg erforderlich sein.

Bereitstellung auf dem Markt

Die Lieferung eines Systems oder Modells zum Vertrieb oder zur Nutzung im Rahmen einer gewerblichen Tätigkeit in der EU.

Warum das für KMU wichtig ist: Wichtig für Akteure in der Lieferkette und vertragliche Regelungen.

Betreiber

Eine natürliche oder juristische Person, die ein KI-System unter eigener Verantwortung im Rahmen einer beruflichen Tätigkeit einsetzt.

Warum das für KMU wichtig ist: Die meisten KMU sind Betreiber und haben dennoch Pflichten.

Betreiberanweisungen

Vom Anbieter bereitgestellte Anweisungen für den rechtmäßigen und sicheren Einsatz des KI-Systems.

Warum das für KMU wichtig ist: Betreiber müssen ihren Betrieb an diesen Vorgaben ausrichten.

Bevollmächtigter

Eine in der EU niedergelassene Stelle, die vom Anbieter beauftragt wurde, bestimmte rechtliche Aufgaben wahrzunehmen.

Warum das für KMU wichtig ist: Entscheidend für Nicht-EU-Anbieter, die auf dem EU-Markt tätig sind.

Biometrische Echtzeit-Fernidentifizierung

Sofortige oder nahezu sofortige biometrische Fernidentifizierungsverarbeitung.

Warum das für KMU wichtig ist: Besonders sensibel im Kontext öffentlich zugänglicher Räume.

Biometrische Fernidentifizierung

Biometrische Identifizierung aus der Ferne ohne aktive Mitwirkung der betroffenen Person.

Warum das für KMU wichtig ist: Der Einsatzkontext ist stark reguliert und unterliegt strenger Prüfung.

Biometrische Identifizierung

Erkennung oder Verifizierung von Personen anhand biometrischer Datenmuster.

Warum das für KMU wichtig ist: Hochsensibel und häufig streng reguliert.

Biometrische Kategorisierung

Einordnung von Personen in Kategorien anhand biometrischer Daten.

Warum das für KMU wichtig ist: Kann Diskriminierungs- und Grundrechterisiken aufwerfen.

Büro für Künstliche Intelligenz

EU-weite Governance-Stelle, die die Umsetzung und Aufsichtsaspekte koordiniert.

Warum das für KMU wichtig ist: Prägt Leitlinien und die aufsichtliche Auslegung.

C

CE-Kennzeichnung

Kennzeichnung, die die Konformität mit den einschlägigen Harmonisierungsrechtsvorschriften der Union anzeigt.

Warum das für KMU wichtig ist: Zeigt die rechtmäßige Bereitstellung an, sofern vorgeschrieben.

D

Daten-Governance

Maßnahmen zur Sicherstellung von Datenqualität, Relevanz, Repräsentativität und Umgang mit Verzerrungen.

Warum das für KMU wichtig ist: Wirkt sich unmittelbar auf die Zuverlässigkeit und Fairness des Systems aus.

Deepfake

KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlicherweise echt oder wahrheitsgemäß erscheinen würden.

Warum das für KMU wichtig ist: Betreiber müssen Deepfakes gemäß den Transparenzvorschriften in Artikel 50 Absatz 4 offenlegen.

E

Einführer

Ein in der EU ansässiger Akteur, der ein KI-System eines Nicht-EU-Anbieters auf dem Unionsmarkt bereitstellt.

Warum das für KMU wichtig ist: Prüfpflichten des Einführers können Beschaffung und Marktzugang beeinflussen.

Eingabedaten

Daten, die einem KI-System bereitgestellt oder von diesem direkt erhoben werden und auf deren Grundlage das System eine Ausgabe erzeugt.

Warum das für KMU wichtig ist: Das Verständnis der Eingabedaten hilft bei der Bestimmung, was Ihr System verarbeitet, und der damit verbundenen DSGVO-Pflichten.

Emotionserkennungssystem

Ein KI-System, das emotionale Zustände aus biometrischen oder verhaltensbezogenen Signalen ableitet.

Warum das für KMU wichtig ist: In bestimmten Arbeits- und Bildungskontexten eingeschränkt.

EU-Datenbank

Eine unionsweite Datenbank für die Registrierung und Offenlegung relevanter KI-Systeme.

Warum das für KMU wichtig ist: Der Registrierungsstatus kann eine gesetzliche Pflicht darstellen.

F

Freie und quelloffene KI-Komponente

Eine KI-Komponente, die unter einer Open-Source-Lizenz bereitgestellt wird, die den Zugang, die Nutzung, Änderung und Verbreitung erlaubt, mit öffentlich zugänglichen Parametern.

Warum das für KMU wichtig ist: Quelloffene GPAI-Modelle erhalten Ausnahmen von bestimmten Dokumentationspflichten (Artikel 53 Absatz 2).

G

Genauigkeit, Robustheit und Cybersicherheit

Anforderungen an Leistung und Widerstandsfähigkeit gegenüber Fehlern und Manipulation.

Warum das für KMU wichtig ist: Technische Qualitätsanforderungen mit Compliance-Konsequenzen.

Grundrechte-Folgenabschätzung (FRIA)

Eine Bewertung der Grundrechteauswirkungen und Gegenmaßnahmen bei Einsätzen mit hoher Tragweite.

Warum das für KMU wichtig ist: Wichtig für grundrechtssensible Anwendungsfälle und als Governance-Nachweis.

H

Hochrisiko-KI-System

Ein KI-System, das die Risikokriterien des Rechtsrahmens und der Anhangkategorien erfüllt.

Warum das für KMU wichtig ist: Der Hochrisiko-Status erfordert strengere Kontrollen und umfassendere Dokumentation.

Händler

Ein Akteur in der Lieferkette, der – abgesehen vom Anbieter oder Einführer – KI-Systeme auf dem Markt bereitstellt.

Warum das für KMU wichtig ist: Im Vertriebskontext ist eine Sorgfaltspflicht vor der Weiterlieferung erforderlich.

I

Inbetriebnahme

Die erstmalige bestimmungsgemäße Nutzung eines Systems oder Modells durch den Betreiber in der EU.

Warum das für KMU wichtig ist: Operativer Startpunkt für die Pflichten des Betreibers.

Inferenz

Der Prozess, durch den ein KI-System aus den empfangenen Eingaben Ausgaben (Vorhersagen, Inhalte, Empfehlungen, Entscheidungen) ableitet.

Warum das für KMU wichtig ist: Das definierende Merkmal, das KI-Systeme unter der Verordnung von herkömmlicher Software unterscheidet.

Inverkehrbringen

Die erstmalige Bereitstellung eines KI-Systems oder -Modells auf dem EU-Markt.

Warum das für KMU wichtig ist: Löst zentrale Compliance-Prüfpunkte beim Markteintritt aus.

K

KI-Kompetenz

Pflicht, sicherzustellen, dass relevante Mitarbeitende über ausreichendes KI-Verständnis verfügen.

Warum das für KMU wichtig ist: Praktische Schulungsanforderung für den sicheren Betrieb.

KI-Modell

Ein Rechenmodell, das Inferenz und Ausgabeerzeugung ermöglicht und häufig in ein KI-System integriert ist.

Warum das für KMU wichtig ist: Wichtig für das Verständnis der unterschiedlichen Verantwortlichkeiten von Modell und System.

KI-Modell mit allgemeinem Verwendungszweck (GPAI)

Ein Modell mit erheblicher Allgemeingültigkeit, das viele verschiedene Aufgaben bewältigen kann.

Warum das für KMU wichtig ist: Aufgrund der breiten Nutzung von ChatGPT/Copilot-artigen Systemen weithin relevant.

KI-System

Ein maschinengestütztes System, das aus Eingaben Schlussfolgerungen ziehen kann, um Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu erzeugen.

Warum das für KMU wichtig ist: Zentraler Anwendungsbereich: Bestimmt, ob die Verordnung auf Ihr Werkzeug bzw. Ihren Arbeitsablauf anwendbar ist.

KI-System mit allgemeinem Verwendungszweck

Ein KI-System, das auf einem KI-Modell mit allgemeinem Verwendungszweck basiert und vielfältige Zwecke für die direkte Nutzung oder Integration erfüllen kann.

Warum das für KMU wichtig ist: Zu unterscheiden vom Modell selbst – das System ist das, womit Endnutzer interagieren (z. B. ChatGPT).

Konformitätsbewertung

Ein Verfahren zum Nachweis der Konformität mit den geltenden Anforderungen vor der Marktnutzung.

Warum das für KMU wichtig ist: Zentral für Hochrisiko-Pfade.

M

Menschliche Aufsicht

Maßnahmen, die eine menschliche Überwachung und Eingriffsmöglichkeit beim Betrieb des KI-Systems ermöglichen.

Warum das für KMU wichtig ist: Verringert Automatisierungsschäden in folgenschweren Kontexten.

N

Nachgelagerter Anbieter

Ein Anbieter eines KI-Systems, der ein von einem anderen Unternehmen bereitgestelltes KI-Modell auf Basis vertraglicher Beziehungen integriert.

Warum das für KMU wichtig ist: Relevant, wenn Ihr Produkt ein KI-Modell eines Drittanbieters integriert – Sie übernehmen dessen Pflichten.

Nachmarktüberwachung

Fortlaufende Erhebung und Auswertung von Leistungs- und Risikodaten des Systems nach der Inbetriebnahme.

Warum das für KMU wichtig ist: Unverzichtbar für die Compliance über den gesamten Lebenszyklus und zur Vermeidung von Vorfällen.

Nationale zuständige Behörde

Die für Aufsichts- und Durchsetzungsaufgaben zuständige Behörde des Mitgliedstaats.

Warum das für KMU wichtig ist: Primäre Anlaufstelle bei nationalen Compliance-Interaktionen.

P

Plan für die Nachmarktüberwachung

Ein dokumentiertes Verfahren für Überwachung, Vorfallerkennung und Korrekturmaßnahmen.

Warum das für KMU wichtig ist: Zentrales Nachweisdokument bei Audits und Überprüfungen.

Protokollierung (Aufzeichnungspflicht)

Automatische Aufzeichnung von Ereignissen zur Gewährleistung von Rückverfolgbarkeit und Untersuchungsmöglichkeiten.

Warum das für KMU wichtig ist: Entscheidend für die Vorfallanalyse und Rechenschaftspflicht.

Q

Qualitätsmanagementsystem (QMS)

Ein organisatorisches System aus Richtlinien und Prozessen zur Sicherstellung einer konsistenten Compliance-Umsetzung.

Warum das für KMU wichtig ist: Erforderliche Reifegrad-Ebene für nachhaltige Compliance.

R

Regulatorische Sandbox

Eine überwachte Umgebung zur Entwicklung und Erprobung innovativer KI-Systeme unter Aufsicht der zuständigen Behörde.

Warum das für KMU wichtig ist: Nützlicher Weg für Innovation bei kontrolliertem Risiko.

Risikomanagementsystem

Ein iterativer Prozess zur Identifizierung, Bewertung, Minderung und Überwachung von KI-Risiken.

Warum das für KMU wichtig ist: Grundlegende Kontrollschicht für die Hochrisiko-Compliance.

Rücknahme eines KI-Systems

Jede Maßnahme, die verhindern soll, dass ein KI-System in der Lieferkette auf dem Markt bereitgestellt wird.

Warum das für KMU wichtig ist: Zu unterscheiden vom Rückruf – die Rücknahme stoppt den künftigen Vertrieb, der Rückruf betrifft bereits eingesetzte Systeme.

Rückruf eines KI-Systems

Jede Maßnahme, die darauf abzielt, die Rückgabe an den Anbieter, die Außerbetriebnahme oder die Deaktivierung eines bereits bereitgestellten KI-Systems zu erreichen.

Warum das für KMU wichtig ist: Behörden können Rückrufe für nicht konforme Systeme anordnen – kennen Sie das Risiko.

S

Sandbox-Plan

Ein zwischen einem teilnehmenden Anbieter und der zuständigen Behörde vereinbartes Dokument, das Ziele, Bedingungen und Anforderungen für Sandbox-Aktivitäten beschreibt.

Warum das für KMU wichtig ist: Erforderlich für die Teilnahme an einer regulatorischen KI-Sandbox – für KMU kostenlos.

Schwerwiegender Vorfall

Ein Vorfall, der einen schweren Schaden für Gesundheit, Sicherheit, Grundrechte oder Eigentum verursacht oder wahrscheinlich verursacht.

Warum das für KMU wichtig ist: Löst Eskalations- und Meldepflichten aus.

Sicherheitskomponente

Eine Komponente eines Produkts oder Systems, die eine Sicherheitsfunktion erfüllt und deren Ausfall die Sicherheit gefährdet.

Warum das für KMU wichtig ist: Kann die Compliance-Pflichten bei regulierten Produkten erhöhen.

Soziale Bewertung (Social Scoring)

Bewertung oder Klassifizierung natürlicher Personen über einen Zeitraum anhand ihres Sozialverhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften.

Warum das für KMU wichtig ist: Verboten nach Artikel 5 Absatz 1 Buchstabe c – eine der untersagten KI-Praktiken.

Systemisches Risiko (GPAI)

Risiko mit hoher Tragweite durch besonders leistungsfähige Modelle mit weitreichenden nachgelagerten Auswirkungen.

Warum das für KMU wichtig ist: Beeinflusst die Governance-Erwartungen für fortschrittliche Modelle.

T

Technische Dokumentation

Ein umfassendes Dokumentationspaket, das Design, Funktion und Compliance-Maßnahmen belegt.

Warum das für KMU wichtig ist: Kernnachweis für Hochrisiko-Systeme.

Testdaten

Daten, die für eine unabhängige Bewertung eines KI-Systems verwendet werden, um die erwartete Leistung vor dem Inverkehrbringen zu bestätigen.

Warum das für KMU wichtig ist: Getrennt von Trainings-/Validierungsdaten – muss die Systemleistung unabhängig verifizieren.

Trainingsdaten

Daten, die zum Trainieren eines KI-Systems durch Anpassung seiner lernbaren Parameter verwendet werden.

Warum das für KMU wichtig ist: Zentraler Begriff für die Daten-Governance-Pflichten nach Artikel 10.

Transparenzpflichten

Pflicht zur Information von Nutzern und Betroffenen bei bestimmten KI-Interaktions- und Inhaltskontexten.

Warum das für KMU wichtig ist: Häufige Anforderung an Betreiber und öffentlich zugängliche Werkzeuge.

V

Validierungsdaten

Daten, die zur Evaluierung eines trainierten KI-Systems und zur Abstimmung seiner nicht-lernbaren Parameter und des Lernprozesses verwendet werden.

Warum das für KMU wichtig ist: Erforderlich für Bias-Tests und Leistungsverifizierung bei Hochrisiko-Systemen.

Verbotene KI-Praktiken

KI-Anwendungen, die als inakzeptabel gelten und gesetzlich verboten sind.

Warum das für KMU wichtig ist: Unmittelbares Ausschlusskriterium für Produkt- und Einsatzentscheidungen.

Verhaltenskodizes

Von der Industrie entwickelte Rahmenwerke zum Nachweis der Konformität mit den Pflichten der KI-Verordnung, insbesondere für GPAI-Modelle.

Warum das für KMU wichtig ist: GPAI-Anbieter können Verhaltenskodizes nutzen, um ihre Konformität nachzuweisen – prüfen Sie, ob Ihr Anbieter Unterzeichner ist.

Vernünftigerweise vorhersehbare Fehlanwendung

Eine nicht bestimmungsgemäße, aber aufgrund von Verhaltensweisen oder Kontext vernünftigerweise vorhersehbare Nutzung.

Warum das für KMU wichtig ist: Muss im Risikomanagement und bei der Sicherheitsplanung berücksichtigt werden.

W

Wesentliche Änderung

Eine Änderung, die die Konformität mit den Anforderungen oder das Profil der Zweckbestimmung beeinflusst.

Warum das für KMU wichtig ist: Kann die Rolle und Pflichten verändern, einschließlich anbieterähnlicher Pflichten.

Z

Zweckbestimmung

Die vom Anbieter vorgesehene Verwendung, wie sie in Anleitungen, Werbematerialien und Dokumentation beschrieben wird.

Warum das für KMU wichtig ist: Bestimmt die Risikoklassifizierung und den Compliance-Umfang.