Die KI-Verordnung (KI-VO) ist eine EU-Vorschrift und hat damit Geltung in der gesamten EU – damit auch in Deutschland.
Art. 1 Abs. 1 der KI-VO setzt dabei zunächst den Gegenstand und die Ziele der Verordnung fest:
„Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI‑Systemen in der Union zu gewährleisten und die Innovation zu unterstützen.“
Die KI-VO gilt für die Nutzung von Künstlicher Intelligenz im beruflichen Kontext, also beispielsweise für Unternehmen und Behörden und die jeweiligen Beschäftigten. Die KI-VO gilt nicht für die private, nicht-berufliche Nutzung.
Geregelt wird in der KI-VO unter anderem das Inverkehrbringen von KI-Systemen, die Marktüberwachung und zuständige Behörden, Maßnahmen zur Innovationsförderung, Rechte und Pflichten für Anbieter und Betreiber, verbotene KI-Systeme, besondere Anforderungen an Hochrisiko-KI-Systeme, sowie Sanktionen bei Verstößen gegen die Vorgaben.
Welche Pflichten für die Anbieter und Betreiber von KI-Systemen bestehen, richtet sich nach dem sog. „Risikobasierten Ansatz“ – die Pflichten ergeben sich aus dem Risiko, das sich aus dem jeweiligen KI-System für die Menschen und die Gesellschaft ergibt. Dabei wird unterschieden zwischen einem unzulässigen Risiko (= verbotene KI-Systeme), Hohes Risiko (= Hochrisiko-KI-System), begrenztem Risiko und minimalem Risiko.
Kurz gesagt: Je höher das Risiko des KI-Systems für Menschen und Gesellschaft ist, desto strenger sind die Anforderungen an die Nutzung.
Weiter haben auch Anbieter und Betreiber von KI-Systemen zum Teil unterschiedliche Pflichten.