Immer wieder erreichen uns Fragen rund um den Einsatz von KI-Chatbots auf Webseiten oder den Einsatz von KI-Telefonassistenten. Chatbots und Telefonassistenten unterstützen den Kundensupport, können Informationen bereitstellen oder auch Termine vereinbaren.
Was gibt es bei dem Einsatz solcher Tools aber alles zu beachten? Dazu in unserem heutigen Beitrag ein kleiner FAQ:
Müssen Kunden bzw. die Nutzer von KI-Chatbots und Anrufer bei einem KI-Telefonassistenten darüber informiert werden, dass sie mit einer KI kommunizieren?
Ja. Das ist Teil der Transparenzpflichten. Nutzer und Anrufer müssen gleich zu Beginn einer solchen Kommunikation mit einer KI darüber informiert werden, dass sie mit einer KI kommunizieren und nicht mit einem Menschen.
Gibt es weitere Informationspflichten gegenüber den Nutzern und Anrufern?
Ja. Auch datenschutzrechtliche Informationspflichten gelten in solchen Fällen. Die Datenschutzerklärung der Webseite sollte etwa auch über den Einsatz des KI-Chatbots oder des KI-Telefonassistenten informieren, und unter anderem darüber welche (personenbezogenen) Daten durch die Nutzung und Kommunikation wie verarbeitet werden.
Auf die Datenschutzerklärung muss beim Start des KI-Chatbots verlinkt werden. Auch beim Anruf bei der KI-Telefonassistenz muss auf diese verwiesen werden.
Was ist bei der Auswahl des Anbieters des KI-Chatbots oder der KI-Telefonassistent zu beachten?
Achten Sie darauf, wo der Anbieter seinen Sitz hat (Deutschland, EU, außerhalb der EU?) und in welche Länder ggfs. Daten übertragen werden können. Am sichersten ist eine Datenverarbeitung innerhalb von Deutschland oder der EU: hier gelten die DSGVO und die KI-Verordnung unmittelbar für Anbieter. Achten Sie auch darauf, dass die KI des Anbieters nicht mit den Daten Ihrer Kunden und Nutzer trainiert wird.
Wer haftet, wenn der KI-Chatbot oder KI-Telefonassistent falsche Aussagen macht?
Es haftet der Betreiber der KI – das heißt, das Unternehmen, dass den KI-Chatbot auf seiner Webseite bzw. den KI-Telefonassistenten einsetzt. Macht die KI Fehler, sind diese dem Unternehmen zuzurechnen. Deswegen ist es wichtig, dass eine menschliche Aufsicht über die KI vorhanden ist und die KI für den konkret geplanten Einsatz geeignet ist.
Darf der KI-Chatbot oder der KI-Telefonassistent eigene Entscheidungen treffen?
Jein. Ist der konkrete Einsatz dazu gedacht, dass Nutzer oder Anrufer bspw. einfach mithilfe der KI Termine vereinbaren können und ist die KI entsprechend darauf trainiert, ist das in der Regel kein Problem. Geht es aber um Entscheidungen, die rechtlich erheblich oder anderweitig erhebliche Auswirkungen auf die betroffenen Personen haben (bspw. Entscheidungen rund um einen Kreditantrag oder den Abschluss eines Vertrags), dürfen das KI-Systeme in der Regel nicht eigenständig entscheiden. Solche Entscheidungen müssen durch Menschen getroffen werden.