Neben dem Arbeitsrecht und dem Datenschutz ist bei solchen Entscheidungen mittlerweile auch die KI-Verordnung besonders relevant, sofern in diesen Bereichen KI eingesetzt wird oder werden soll.
Einsatz von KI im Bewerbungsverfahren und Personalmanagement
Möchten Sie eine KI im Rahmen eines Bewerbungsverfahrens einsetzen – etwa zur Durchsicht von Lebensläufen anhand bestimmter Kriterien und für eine Vorauswahl danach passender Kandidaten? Oder ist die Unterstützung einer KI im Rahmen von weiteren Personalentscheidungen geplant wie Kündigungen, Beförderungen oder der Auszahlung von Boni? Die KI-Verordnung stuft einen solchen Einsatz als Hoch-Risiko-KI-System ein. Das hat zur Folge, dass die Nutzung zwar zulässig sein kann, aber an bestimmte, strenge Regelungen gebunden ist.
Zu den Pflichten des Betreibens eines Hoch-Risiko-KI-Systems gehört unter anderem, dass bestimmte technische und organisatorische Maßnahmen umgesetzt werden, dass eine menschliche Aufsicht vorhanden ist und das KI-System ständig überwacht wird, sowie weitere Pflichten. Gegebenenfalls bestehen dabei auch Beteiligungs- und Mitbestimmungsrechte des Betriebsrates.
Zu den Vorgaben gehört auch, dass die betroffenen Beschäftigten und Bewerber darüber informiert werden müssen, dass ein Hoch-Risiko-KI-System im Einsatz ist und zu welchem Zweck dies geschieht.
Verbotene Praktiken im Beschäftigtenverhältnis
Sollen Beschäftigte bei ihrer Arbeit und an ihrem Arbeitsplatz mithilfe von KI, auch anhand von Emotionen, überwacht werden, ist dieser Einsatz von KI ausdrücklich verboten und damit unzulässig. Grund dafür ist das hohe Maß an Diskriminierung, das dadurch ausgelöst werden kann, sowie das ungleichgewichtige Machtverhältnis am Arbeitsplatz zwischen Arbeitnehmer und Arbeitgeber.
Allgemeine Pflichten
Neben den besonderen Pflichten bei dem Einsatz von Hoch-Risiko-KI-System, gelten weiterhin auch die allgemeinen Pflichten – unabhängig davon, ob der Einsatz der jeweiligen KI in den Hoch-Risiko-Bereich fällt oder nicht. Beschäftige, die das jeweilige KI-System einsetzen, müssen ausreichend darin geschult werden und eine entsprechende KI-Kompetenz nachweisen können. Weiter ist es ratsam, eine KI-Richtlinie für alle Beschäftigen einzuführen, die die einzuhaltenden Regelungen bei dem Einsatz von KI festhält.