KI-BEITRAG NR. 19: GEFAHREN DURCH KI – WAS UNTERNEHMEN BEACHTEN SOLLTEN

Bisher haben wir uns in unserem KI-Newsletter vordergründig damit beschäftigt, was Unternehmen bei dem eigenen Einsatz von künstlicher Intelligenz alles zu beachten haben: Welche Regelungen und Gesetze gilt es einzuhalten, welche Maßnahmen kann man wie umsetzen, was passiert bei Verstößen, und vieles mehr. Nicht vernachlässigen sollte man jedoch auch den Einfluss, den KI von außen auf das eigene Unternehmen haben kann – und welche Gefahren dadurch für ein Unternehmen entstehen können.

Clevere Phishing-Attacken

Auch andere Personen und Personengruppen bedienen sich der künstlichen Intelligenz und nutzen Ihre Vorteile. Eine große Gefahr stellen dabei die immer besser werdenden Phishing-Attacken dar. Jedes Unternehmen kennt die bekannten Phishing-Mails, teilweise noch leicht identifizierbar durch Rechtschreib- und Grammatikfehler oder merkwürdige Formulierungen. Doch diese Phishing-Attacken werden auch dank des Einsatzes von künstlicher Intelligenz immer besser. Generative KI kann nahezu perfekte E-Mails schreiben und täuschend echte und personalisierte Nachrichten verfassen, etwa in Nachahmung eines Geschäftsführers oder IT-Sicherheitsbeauftragten. Damit wird es immer schwieriger Phishing-Mails von echten zu unterscheiden.

Social Engineering

Auch Angriffe auf ein Unternehmen anhand von Social Engineering werden immer geschickter und wirken immer echter und sind damit leider auch effektiver. Die KI kann dabei helfen, Kommunikationsmuster zu analysieren und auf dieser Grundlage in großer Zahl individuelle Nachrichten erstellen und versenden. Dazu kommen auch immer besser werdende Deepfakes sowie Audio- und Videofälschungen, durch die etwa ein Anruf durch einen Geschäftsführer nachgeahmt werden kann.

Cyber-Angriffe

Auch kann die KI Cyberangriffe auf technischer Ebene unterstützen – wie zum Beispiel bei der Suche nach Schwachstellen oder der Erstellung von Schadcode. Die Hürde für Cyber-Angreifer sinkt damit erheblich. Cyberangriffe werden damit immer geschickter und können auch häufiger auftreten.

Der Beitrag soll zeigen, dass Unternehmen nicht nur sicherstellen müssen, dass sie selbst künstliche Intelligenz sicher einsetzen, sondern auch darauf achten müssen, dass Beschäftigte in dem Umgang mit den neuen – erhöhten – Gefahren geschult sind und dass auch das Unternehmen auf technischer Ebene ausreichend geschützt ist. Künstliche Intelligenz ist damit auch ein wichtiger Faktor im Rahmen des Risikomanagements.