Mit dem Einsatz künstlicher Intelligenz im Betrieb verschwimmt die Grenze zwischen Original und Fälschung. Deepfakes und digitale Zwillinge können Beschäftigte täuschen, bloßstellen oder unbemerkt überwachen – und stellen Arbeitgeber damit vor neue arbeits- und datenschutzrechtliche Pflichten.

Deepfakes und digitale Zwillinge – was verbirgt sich dahinter?

Künstliche Intelligenz ermöglicht heute täuschend echte Bild-, Ton- und Videoaufnahmen. Dabei werden die Begriffe „Deepfake“ und „digitaler Zwilling“ häufig gleichgesetzt, obwohl sie unterschiedliche Technologien beschreiben.

Ein Deepfake ist ein mithilfe künstlicher Intelligenz erzeugtes oder manipuliertes Bild-, Audio- oder Videomaterial, das eine Person scheinbar echte Aussagen treffen oder Handlungen ausführen lässt, die tatsächlich nie stattgefunden haben. Dadurch können Identitäten vorgetäuscht oder Personen gezielt getäuscht werden.

Ein digitaler Zwilling hingegen ist das digitale Abbild einer realen Person oder eines realen Prozesses. Unternehmen nutzen digitale Zwillinge beispielsweise für Schulungen, die Optimierung von Arbeitsabläufen oder zur Simulation bestimmter Arbeitsprozesse. Richtig eingesetzt bietet diese Technologie großes Potenzial – sie wirft jedoch gleichzeitig zahlreiche arbeits- und datenschutzrechtliche Fragen auf.

Welche Risiken entstehen für Unternehmen?

Der Einsatz künstlicher Intelligenz eröffnet Unternehmen neue Möglichkeiten, schafft aber auch neue Missbrauchspotenziale. Deepfakes können beispielsweise für Betrugsversuche eingesetzt werden, wenn Beschäftigte vermeintliche Video- oder Sprachnachrichten von Vorgesetzten erhalten und dadurch zu Überweisungen oder der Herausgabe sensibler Unternehmensdaten veranlasst werden.

Ebenso können manipulierte Inhalte dazu dienen, Kolleginnen und Kollegen oder Führungskräfte zu diffamieren oder deren Ruf zu schädigen. Solche Vorfälle belasten nicht nur die betroffenen Personen, sondern können auch den Betriebsfrieden erheblich beeinträchtigen und das Vertrauen innerhalb des Unternehmens nachhaltig erschüttern.

Auch digitale Zwillinge bergen Risiken. Da sie regelmäßig auf umfangreichen personenbezogenen Daten beruhen, müssen Unternehmen sorgfältig prüfen, ob deren Einsatz datenschutzrechtlich zulässig ist und die Rechte der Beschäftigten ausreichend gewahrt werden.

Arbeitgeber tragen Verantwortung

Mit dem Einsatz neuer Technologien gehen auch neue Pflichten einher. Arbeitgeber sind aufgrund ihrer arbeitsvertraglichen Fürsorgepflicht verpflichtet, die Persönlichkeitsrechte ihrer Beschäftigten zu schützen. Erhalten sie Kenntnis davon, dass Mitarbeitende durch Deepfakes oder andere KI-generierte Inhalte herabgewürdigt, bloßgestellt oder getäuscht werden, dürfen sie nicht untätig bleiben.

Vielmehr müssen sie geeignete Maßnahmen ergreifen, um weitere Rechtsverletzungen zu verhindern. Dazu gehören beispielsweise interne Untersuchungen, die Entfernung rechtswidriger Inhalte aus betrieblichen Kommunikationskanälen, organisatorische Schutzmaßnahmen oder die Unterstützung betroffener Beschäftigter.

Verursachen Beschäftigte entsprechende Rechtsverletzungen selbst, können arbeitsrechtliche Konsequenzen folgen. Je nach Schwere des Einzelfalls kommen eine Abmahnung oder sogar eine außerordentliche Kündigung in Betracht. Ob eine Kündigung gerechtfertigt ist, hängt stets von den konkreten Umständen und einer umfassenden Interessenabwägung ab.

Datenschutz und Persönlichkeitsrechte dürfen nicht vernachlässigt werden

Deepfakes und digitale Zwillinge beruhen häufig auf Bild-, Sprach- oder Bewegungsdaten realer Personen. Dabei handelt es sich vielfach um personenbezogene oder sogar biometrische Daten, deren Verarbeitung besonderen datenschutzrechtlichen Anforderungen unterliegt.

Unternehmen sollten daher bereits vor dem Einsatz entsprechender KI-Anwendungen prüfen, auf welcher Rechtsgrundlage personenbezogene Daten verarbeitet werden dürfen und welche technischen sowie organisatorischen Schutzmaßnahmen erforderlich sind. Gleichzeitig sind die Beschäftigten transparent darüber zu informieren, welche KI-Systeme eingesetzt werden und zu welchem Zweck ihre Daten verarbeitet werden.

Neben den datenschutzrechtlichen Vorgaben spielen auch die Persönlichkeitsrechte der Beschäftigten eine wichtige Rolle. Werden Gesichter, Stimmen oder andere persönliche Merkmale ohne ausreichende Rechtsgrundlage oder Zustimmung verwendet, kann dies erhebliche rechtliche Konsequenzen nach sich ziehen.

Der Betriebsrat ist häufig einzubeziehen

Werden im Unternehmen KI-Systeme eingeführt, die personenbezogene Daten verarbeiten oder geeignet sind, Verhalten oder Leistung von Beschäftigten zu überwachen, können Mitbestimmungsrechte des Betriebsrats bestehen. Dies betrifft nicht nur digitale Zwillinge, sondern unter Umständen auch technische Systeme zur Erkennung von Deepfakes.

Eine frühzeitige Einbindung des Betriebsrats schafft Transparenz und Rechtssicherheit. Gleichzeitig können gemeinsam Regelungen entwickelt werden, die den verantwortungsvollen Einsatz künstlicher Intelligenz im Unternehmen fördern.

Neue Transparenzpflichten durch die EU-KI-Verordnung

Neben dem Arbeits- und Datenschutzrecht gewinnt auch die europäische Regulierung künstlicher Intelligenz zunehmend an Bedeutung. Die EU-KI-Verordnung (AI Act) führt schrittweise neue Anforderungen für Unternehmen ein.

Wer KI-generierte oder mithilfe künstlicher Intelligenz manipulierte Bild-, Ton- oder Videoinhalte nutzt, muss künftig in vielen Fällen offenlegen, dass diese Inhalte künstlich erstellt oder verändert wurden. Diese Transparenzpflicht soll verhindern, dass Menschen durch täuschend echte Inhalte in die Irre geführt werden. Unternehmen sollten deshalb frühzeitig prüfen, ob die von ihnen eingesetzten KI-Anwendungen unter diese Vorgaben fallen und ihre internen Prozesse entsprechend anpassen.

Frühzeitig handeln statt später reagieren

Deepfakes und digitale Zwillinge werden die Arbeitswelt künftig weiter prägen. Unternehmen sollten deshalb nicht erst tätig werden, wenn bereits ein Vorfall eingetreten ist. Empfehlenswert sind klare interne Richtlinien zum Einsatz künstlicher Intelligenz, regelmäßige Sensibilisierungsschulungen sowie sichere Freigabe- und Kontrollprozesse für KI-generierte Inhalte.

Wer den Einsatz künstlicher Intelligenz frühzeitig rechtlich begleitet, reduziert Haftungsrisiken, schützt seine Beschäftigten und schafft zugleich Vertrauen in den verantwortungsvollen Umgang mit neuen Technologien.