Die KI-Verordnung sieht eine Reihe von Pflichten für die Anbieter und Betreiber von KI-Systemen vor.
Welche Pflichten für Anbieter und Betreiber konkret gelten, richtet sich nach dem Risiko, das von dem jeweiligen KI-System ausgeht (der sog. risikobasierter Ansatz). Anders gesagt bedeutet das: Je höher das Risiko für die Menschen und die Gesellschaft ist, das von dem KI-System ausgeht, und je mehr Einfluss eine KI auf Menschen haben kann, desto mehr Pflichten gelten für die Anbieter und Betreiber. Gerade für die sog. Hochrisiko-KI-System gibt einen ganzen Katalog an Pflichten, die zu beachten sind.
Bei KI-Systemen mit minimalem oder begrenztem Risiko gelten dagegen kaum Pflichten. Für Anbieter und Betreiber nahezu aller gängigen KI-System gelten insbesondere die Pflicht zur Sicherstellung einer ausreichenden KI-Kompetenz der Mitarbeiter sowie die Kennzeichnungspflicht.
Kennzeichnungspflicht
Die Kennzeichnungspflicht verlangt, dass bestimmte KI-generierten Inhalte oder Inhalte, die mittels KI manipuliert wurden, wie bspw. Texte oder Bilder, klar als KI-generiert gekennzeichnet werden. Das Ziel der Kennzeichnungspflicht ist es, dass Nutzer klar erkennen können, wann Sie mit KI interagieren. Nutzer sollen vor Täuschung und Manipulation geschützt werden. Durch die Kennzeichnungspflicht soll so auch das Vertrauen in KI gestärkt werden.
Kennzeichnungspflichten können insbesondere bei dem Einsatz von KI-gesteuerten Chatbots und Telefonassistenten, bei der Verwendung von sog. Deepfakes oder bei KI-generierten Texten (insbesondere bei solchen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren) bestehen.
KI-Kompetenz
Die KI-Verordnung sieht weiterhin vor, dass Anbieter und Betreiber von KI-Systemen dafür verantwortlich sind, dass sämtliche Mitarbeiter (und andere Personen, die im Auftrag des Anbieters oder Betreibers tätig sind), die mit dem Betrieb und der der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Das bedeutet für Anbieter und Betreiber von KI-Systemen, dass ihre Beschäftigten über den richtigen Umgang mit KI-System und den damit verbundenen Pflichten entsprechend geschult sind.
Beschäftigte sollte dabei ein Grundverständnis über die Funktionsweisen von KI-Systemen, die Risiken und Auswirkungen von KI-Systemen und die mit dem Einsatz oder der Entwicklung von KI-Systemen verbundenen Pflichten vermittelt werden. Zu beachten ist dabei auch, dass der Einsatz von KI-Systemen neben der KI-Verordnung auch weitere rechtliche Vorschriften berühren kann, wie etwa den Datenschutz, das Urheberrecht sowie ggfs. Vertraulichkeitsvereinbarungen und Geheimhaltungspflichten.
Setzen Sie aktuell KI-Systeme in Ihrem Unternehmen ein oder planen dies in nähere Zukunft und benötigen bei der Umsetzung Unterstützung?
Wir beraten Sie dabei gerne – und bieten dabei auch Schulungen zur notwendigen KI-Kompetenz Ihrer Beschäftigen an. Kontaktieren Sie uns bei Bedarf jederzeit gerne!