Speaker 1: Willkommen zum Podcast Kaffeerecht von der Kanzlei TWW Law mit rechtlichen Themen für Kreative, Unternehmer und Unternehmen. Speaker 2: Hallo und herzlich willkommen zu einer weiteren Folge unseres Podcasts Kaffeerecht. Speaker 2: Wie gewohnt heute an diesem Mikrofon Dennis Tölle und am anderen Mikrofon Hanna Schellberg. Hallo.

Speaker 2: Hallöchen! Wir sprechen heute über ein aktuelles Thema, würde ich sagen. Speaker 2: Und zwar haben wir uns den zweiten Entwurf zur KI-Kennzeichnung vorgenommen und mal geschaut, was drinsteht. Speaker 2: Und das Thema KI-Kennzeichnung ist ja grundsätzlich eins, was ein bisschen ein schwebendes ist im Moment.

Speaker 2: Wir kennen zwar die KI-Verordnung, die uns mit Transparenzpflichten bedacht hat, aber wie die genau ausgestaltet sind, das weiß man nicht so genau. Dazu vielleicht so ein bisschen mal kurz ausgeholt. Speaker 2: Die KI-Verordnung, die eben diese Transparenzverpflichtung vorsieht in Artikel 50, soll unterstützt und flankiert werden durch eine Empfehlung der Kommission, wie denn eine KI-Kennzeichnung aussehen kann und wie diese Transparenzpflichten eingehalten werden können. Speaker 2: Und da ist man gerade auf dem Weg, das Ganze zu einem finalen Dokument zu bringen.

Speaker 2: Und jetzt gibt es eben einen zweiten Entwurf dazu. Speaker 2: Den ersten, der ist auch schon ein paar Monate alt und seit Anfang März gibt es den zweiten Entwurf. Speaker 2: Und dazu kann man eben bis zum Ende des Monats, also jetzt quasi kurz nach Veröffentlichung der Folge, Speaker 2: können da noch Stellungnahmen abgegeben werden etc. Speaker 2: dann soll das Ganze mit Geltungsbeginn dieser Transparenzverpflichtung am 2.

August diesen Jahres stehen. Speaker 2: Und deswegen ist dieser Entwurf meines Erachtens auch schon einigermaßen konkret. Speaker 2: Und wir wollen uns mal anschauen, was denn da drin steht, ob da irgendwas drin steht, Speaker 2: was jetzt bahnbrechend ist, ganz erschreckend ist oder wie auch immer. Speaker 2: Du hast den Entwurf gelesen und ja, was ist dein erster Eindruck?

Speaker 3: Ich habe direkt mal eine Frage an dich. Speaker 3: Oh Gott. Speaker 3: Und zwar, du hast ja jetzt gerade grob skizziert den zeitlichen Ablauf und ich habe mich gefragt, auch als ich das gelesen habe, und möchte mal nachhören, ob du das genauso verstehst, also ab 2. August 26 wäre das dann auch verbindlich oder gibt es noch eine Schonfrist?

Speaker 2: Naja, also die Transparenzpflichten sind dann verbindlich, aber diese KI-Kennzeichnung oder diese in Anführungsstrichen Hilfestellung zur KI-Kennzeichnung ist eine Empfehlung. Speaker 2: Und Ziel ist aber eben, den Unternehmen und Unternehmern die Möglichkeit zu geben, okay, hieran kann ich mich halten, damit ich diese Transparenzverpflichtung, jedenfalls was die Kennzeichnung von KI-Inhalten angeht, einhalten kann. Speaker 2: Und insofern würde ich sie schon als verbindliche Leitlinie interpretieren. Also machen wir lieber das, dann kann nachher keiner sagen, wir haben es verkehrt gemacht.

Speaker 3: Genau, also klarstellen oder grundsätzlich wäre es so, dass diese Transparenzpflicht ab 2. August 26 so oder so greifen würde, Speaker 3: unabhängig davon, ob es jetzt dann diese Empfehlung, die wir jetzt schon im Entwurf haben, gibt oder nicht. Speaker 3: Aber die Empfehlung hilft natürlich, dass man weiß, was damit gemeint ist. Speaker 3: Also Transparenzpflicht gäbe es so oder so.

Speaker 3: Und die Empfehlung dient halt dazu, dass man sich nicht selber ausdenken muss vielleicht, wie man das jetzt umsetzt, oder? Speaker 2: Ja, also genau. Einmal das, einmal so ein bisschen rechtliche Sicherheit geben für die Unternehmen und vielleicht auch ein bisschen verhindern, dass es Wildwuchs gibt. Speaker 2: Dahingehend jeder überlegt sich was Eigenes, jeder macht irgendwie ein eigenes Label und deswegen geht die Kommission her und sagt, okay, wir machen was Einheitliches, Speaker 2: was dann ja auch insofern sinnvoll ist, als dass der Verbraucher dann sagen kann, okay, an diese Kennzeichnung habe ich mich gewöhnt, das erkenne ich etc.

Speaker 2: Vielleicht, wo wir bei den Gesetzen und Normen sind, Speaker 2: wird auch ein deutsches Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz geben, Speaker 2: das sogenannte KIMIG. Speaker 2: Und da wird man die nationale Ausgestaltung dann drin vornehmen. Speaker 2: Daran ändert aber nichts, dass diese Transparenzpflichten ab 2. August 26 verbindlich sind.

Speaker 2: Und ja, genau, das ist der Punkt. Speaker 2: Ja, dein erster Eindruck. Speaker 3: Theoretisch könnte es dann sein, dass durch das, durch die deutsche Ausgestaltung, Speaker 3: durch das Gesetz, was da geplant ist, nochmal klarere Vorgaben erfolgen. Speaker 2: Keine, die von denen abweichen.

Speaker 3: Ja, nee, genau, nur eventuell klarer ausgestaltet, dass man eben sagt, umsetzbar ist das auf vielen Wegen. In Deutschland möchten wir aber, dass ihr es auf diesem Weg umsetzt. Speaker 2: Ja, also wie gesagt, es muss ja dann alles irgendwie vereinbar sein. Klar ist es häufiger auch schon mal so gewesen, dass dann in so einer Ausgestaltung irgendwie eine Formulierung gewählt wurde, die dazu Veranlassung gegeben hat, darüber zu sprechen, ob das denn wirklich mit dieser Verordnung dann einhergeht etc.

Speaker 2: Aber was diese Empfehlungen angeht, wie gesagt, die sind davon ja unbeeindruckt. Und da ist, wie gesagt, wenn es jetzt um Formulierungen geht, da haben wir auch in der KI-Verordnung, vielleicht kann man das nochmal ganz kurz auch als Einstieg oder als Einordnung sagen, schon eine Begrifflichkeit, an die man sich in Anführungsstrichen gewöhnen muss. Speaker 2: Wenn man davon spricht, dass wir den Anbieter und den Betreiber eines KI-Systems haben, dann ist vielleicht nochmal klarstellend, der Anbieter nicht nur der technische Entwickler, also weiß ich nicht, zum Beispiel OpenAI oder so, sondern eben auch derjenige, der ein OpenAI-System verwendet innerhalb eines selbst angebotenen Chatbots auf der Website. Speaker 2: So, ja, dann bin ich derjenige, bin ich, weiß ich nicht, wenn ich als Kanzlei ein Chatbot auf der Website habe, dann bin ich der Anbieter.

So, damit falle ich in eine andere Kategorie in dieser KI-Verordnung und auch was die Kennzeichnungspflichten angeht, als der Betreiber. Und der Betreiber, das ist letztlich der, der so ein KI-System verwendet in eigener Verantwortung. Also, weiß ich nicht, ich benutze ChatGPT und bastel mir daraus irgendwelche Texte, die ich dann irgendwo verwende. Speaker 2: Dann bin ich der Betreiber, meines Erachtens ist dieser Begriff Betreiber, klingt nach mehr, klingt nach größer, aber ich bin eben schon Betreiber, wenn ich das mache.

Und dann habe ich auch Kennzeichnungspflichten, die nach diesem Entwurf etwas niedrigschwelliger sind. Und wenn ich mir den Rest der KI-Verordnung angucke, gibt es natürlich noch andere Verpflichtungen, die ich einhalten muss, je nachdem, in welche Kategorie ich dann falle. Speaker 3: Also jetzt mal ganz umgangssprachlich zusammengefasst, würde man wahrscheinlich sagen, die meisten, die irgendwie mit KI in Berührung kommen, werden Betreiber sein. Also Betreiber ist man schneller als Anbieter.

Betreiber ist jeder, der es nutzt, in dem Sinne, dass dieser Output, der aus der KI kommt, auch in irgendeiner Form in die Welt gelangt, veröffentlicht wird, wie auch immer. Speaker 3: und Anbieter bin ich dann, wenn ich den Zugang zu einer KI quasi bereitstelle? Speaker 3: Grob zusammengefasst. Speaker 2: Ja, also beim Betreiber bin ich dabei, beim Anbieter ist es so, Speaker 2: wenn ich das als eigenes Produkt unter eigenem Namen anbiete, Speaker 2: ohne dass ich jetzt irgendwie selber mir ein Modell trainiert haben muss Speaker 2: oder ich sage mal die Infrastruktur bereitstellen muss, Speaker 2: die OpenAI, Google oder Anthropic dann zur Verfügung stellen.

Speaker 2: Aber da gibt es ja diverse Sachen. Speaker 2: Ich meine, ich kenne es jetzt natürlich aus dem juristischen Bereich Speaker 2: und das gibt es ja in anderen Bereichen umso stärker, Speaker 2: dass man sagt, okay, ich habe hier irgendwelche Chatbots, Speaker 2: ich habe hier irgendwelche V-Keys, die mir helfen, Fragen zu beantworten. Speaker 2: Und letztlich ist das ein System, Speaker 2: Ein System, das aufbaut zum Beispiel auf den OpenAI-Modellen oder was auch immer. Speaker 2: Und wenn ich dann drunter schreibe, hier, das ist Helga, unser Chatbot, der beantwortet dir alle Fragen zu unseren Produkten, dann bin ich auch der Anbieter.

Speaker 3: Genau, aber darum ging es mir. Also es reicht aus, dass ich das in irgendeiner Form einbinde bei mir oder eben zur Verfügung stelle für die Nutzung. Speaker 3: Ich muss jetzt nicht aktiv irgendwie daran beteiligt gewesen sein, dass dieser Chatbot entwickelt wurde oder was auch immer, sondern es reicht eben, dass das über meine Seite zum Beispiel dann nutzbar ist. Speaker 2: Ja, also es wird sicherlich in einzelnen Bereichen noch Diskussionen darüber geben, aber diese Frage würde ich nach meinem Verständnis im Moment mit Ja beantworten.

Speaker 2: Und auf diese Unterteilung Anbieter, Betreiber bzw. Anbieter und Veröffentlichender geht eben auch diese Empfehlung ein, die dann sagt, okay, pass mal auf, wenn du Anbieter bist, jedenfalls nach dem aktuellen Stand des Entwurfs, empfehlen wir, dass du Folgendes tust. Speaker 2: und wenn du veröffentlichender bist, also KI-generierte Inhalte nach außen bringst, Speaker 2: empfehlen wir, dass du Folgendes tust, um das Ganze zu kennzeichnen. Speaker 2: Und hier, wie du eben sagst, also alles, was rauskommt.

Speaker 2: Also es ist egal, ob das jetzt Text ist, ob das Musik ist, ob das Bild, Video, Live, whatever. Speaker 2: Man ist immer geneigt, das so in diesen Textbereich zu schieben. Speaker 2: Möglicherweise bin ich da vorbelastet, weil ich einfach sehr viel mit Text zu tun habe. Speaker 2: Aber alles, was aus einer KI rauskommen kann letztlich.

Speaker 2: Und wenn es Code ist, das kannst du auch, also Programmiercode etc. Speaker 2: Ja, aber vielleicht können wir da einmal ansetzen und sagen, okay, was für grobe Unterscheidung trifft denn dieser Entwurf? Speaker 2: dass wir einmal sagen, wer sollte was grob machen. Speaker 2: Vielleicht kannst du das jedenfalls ganz oberflächlich einmal skizzieren.

Speaker 3: Genau, also dann haben wir ja erstmal den Anbieter, also derjenige, der eben die KI gebaut hat im Zweifel und zur Verfügung stellt. Speaker 3: Der muss zumindest signierte Metadaten bereithalten, beziehungsweise dafür sorgen, dass die immer verknüpft sind mit den Inhalten, die rauskommen. Speaker 3: Und ein Wasserzeichen, ein imperzeptibles Wasserzeichen, da hatten wir eben schon die Freude in der Vorbereitung der Folge, dass ich zumindest nicht wusste direkt, was das bedeutet. Speaker 3: Ich habe es da mal nachgeschaut, es ist ein nicht sichtbares Wasserzeichen.

Speaker 3: Also ich verstehe das so, dass sich jetzt erstmal, wenn wir jetzt das Beispiel ChatGPT nehmen, in dem, was bei ChatGPT rauskommt, wenn ich was gepromptet habe, das, was dann als Ergebnis rauskommt, das wird nicht anders aussehen. Speaker 3: Muss jedenfalls nach dem Entwurf hier nicht anders aussehen, weil es geht ja nur darum, dass nicht sichtbare Daten damit verknüpft sind. Speaker 3: Das würde insoweit ausreichen als Pflicht der Anbieter. Speaker 3: Anders sieht es dann bei den Veröffentlichenden aus.

Speaker 3: Was die Anbieter aber zusätzlich bereitstellen müssen, Speaker 3: ist ein kostenloses Prüftool oder eine API, Speaker 3: damit man eben diese Daten, die da unsichtbar verknüpft sind, Speaker 3: auch auslesen kann. Speaker 2: Ja, ganz genau. Speaker 2: Also das letztlich bringt nichts, wenn niemand es angucken kann. Speaker 2: Also ich musste den Output dann schon prüfen können extern, entweder über so ein, ja, ich sage ja blöd gesagt, ich kopiere irgendwo auf einer OpenAI-Seite einen Text rein und OpenAI sagt mir, ja, das stammt von uns oder nicht oder ist KI generiert oder nicht.

Speaker 2: Und das Ganze eben automatisiert über eine API, dass man sagt, okay, ich habe irgendwie auch externe Programme etc., die darauf zugreifen kann, um das da vielleicht auch automatisiert und in etwas größerem Stil zu prüfen, was ganz interessante Möglichkeiten bietet. Da kommt man vielleicht nachher noch zu. Speaker 2: Bei den Veröffentlichenden sieht das dann etwas anders aus. Speaker 3: Genau, also die Veröffentlichenden, das sind ja dann die, die im Zweifel, wie gesagt, den KI-generierten Inhalt unter Menschen bringen oder in die Öffentlichkeit bringen, die müssen eine sichtbare Kennzeichnung vornehmen.

Da ist geplant, dass es eben ein einheitliches EU-Symbol, sage ich mal, gibt. Das steht jetzt aber noch nicht ganz fest meinem Stand nach. Speaker 2: Nee, genau. Also am Ende dieses Entwurfs gibt es Entwürfe dazu, zwei Stück.

Speaker 2: Es ist ein rundes und eins in so einem eckigen Kasten, jeweils mit AI als Wort darin, das sich dann auf unterschiedlichen Hintergründen auch nutzen lässt. Speaker 2: Ich könnte mir vorstellen, dass das in die Richtung geht, weil das, glaube ich, EU-weit verständlich ist und auch weltweit verständlich ist, wenn da AI drinsteht und dann hat man quasi so ein Label. Speaker 3: Kann man sich von der Größe und Aufmachung so ein bisschen vorstellen, auch wie dieses Copyright C, was man so kennt. Speaker 3: Also jetzt nichts mega fancy Spezielles, aber irgendwie was, was man halt überall verwenden kann.

Speaker 3: Genau, das soll es geben, ist jetzt aber noch nicht ganz klar, was es im Endeffekt wird, welcher dieser Entwürfe, ob es einer davon wird. Speaker 3: Und das ist aber eben nicht verbindlich. Alternativ kann man auch ein eigenes Label verwenden. Speaker 3: Es muss halt irgendwie gekennzeichnet werden, dass ein KI-generierter Inhalt vorliegt.

Speaker 2: Also vielleicht kann man das mal so ein bisschen, um das mit Anbieter und Veröffentlichenden nochmal so ein bisschen klar zu machen, Speaker 2: mit der Lebensmittelkennzeichnung vergleichen. Speaker 2: Also natürlich muss der Hersteller von einem Lebensmittel draufschreiben, Speaker 2: was da für Inhaltsstoffe drauf sind. Speaker 2: Das ist zwar jetzt nicht unsichtbar, sondern er schreibt was drauf. Speaker 2: Das ist dann die Ebene 1.

Speaker 2: Aber gleichzeitig muss der Supermarkt natürlich das Etikett sichtbar lassen. Speaker 2: Und beides zusammen erfüllt dann diese Transparenzanforderungen. Speaker 2: So kann man so ein bisschen auch das Zusammenspiel hier sehen. Speaker 2: Ich habe zum einen den Anbieter, der das Ganze kennzeichnet.

Speaker 2: und dann habe ich den Nutzer, der es dann öffentlich macht und das nicht nur den Inhalt, sondern eben auch diese Kennzeichnung. Speaker 2: Und da vielleicht wollen wir, glaube ich, nochmal so ein bisschen stärker ins Detail gehen, was zum einen der Anbieter dann leisten muss, Speaker 2: vielleicht auch technisch, und zum anderen, was diese Veröffentlichenden leisten müssen, so grob haben wir es gesagt. Speaker 2: Aber da würde ich vielleicht nochmal etwas stärker ins Detail gehen. Speaker 3: Dann würde ich doch vorschlagen, wir teilen uns das auf, da du der technisch Versiertere von uns bist, übernimmst du den Anbieter und ich würde dann erklären, was Veröffentlichende tun müssen.

Speaker 2: Das machen wir so. Also Pflicht des Anbieters ist, dass es eben technisch maschinenlesbar als KI generiert erkennbar sein soll. Das ist der Punkt, das ist der Wunsch, den die Kommission mit dem Entwurf da auch verfolgt. Speaker 2: Und das Ganze soll mehrschichtig sein.

Die Frage ist, warum soll das mehrschichtig sein? Zum einen eben diese signierten Metadaten und dann eben dieses nicht sichtbare Wasserzeichen. Speaker 2: Ich glaube, das Ziel des Ganzen ist einfach, dass die Gefahr sehr groß ist, dass das irgendwann verschüttet geht, weil diese Kennzeichnung eben mitreisen soll, in Anführungsstrichen. Das heißt also, soll auch darin enthalten bleiben, wenn die Inhalte weitergeben.

Das heißt, wenn ich einen Text aus dem ChatGPT kopiere, soll diese Kennzeichnung da drin bleiben. Speaker 2: Wie das technisch tatsächlich gut zu lösen ist, ist immer so ein bisschen die Frage. Es gibt für diesen Bereich einen C2PA-Standard, das ist ein Konsortium. Speaker 2: Ich lehne mich vermutlich etwas zu weit aus dem Fenster, aber würde es mal ganz grob vergleichen mit zum Beispiel EXIF und IPTC-Daten im Bereich der Fotografie, also Daten, die zu einem digitalen Dokument hinterlegt sind und gewisse Informationen dazu erbringen.

Speaker 2: Letztlich steht dann da salopp gesagt drin, das ist KI generiert. Und das muss so im Inhalt verankert sein, dass es schwer entfernbar wird. Dafür gibt es eben technische Möglichkeiten, die dieser C2PA Standard ermöglicht. Speaker 2: Da gibt es auch schon namhafte Anbieter, die den so nutzen.

Ich meine, wenn ich der Website nachgehe, sind es Adobe, Microsoft, Google, die dann so eine Art digitalen Beipackzettel an Dateien zum Beispiel heften. Speaker 2: Und es ist ein offener Standard, der diese Herkunftsdaten beinhaltet. Speaker 2: Soweit geht mein technisches Verständnis dann nicht, dass ich genau erklären könnte, wie das da dran geheftet wird. Speaker 2: Aber es gibt diese Möglichkeiten und der, der es nachher machen muss, der wird sich technisch damit entsprechend auskennen.

Speaker 2: Aber gleichzeitig besteht eben auch ein kostenloses Prüfangebot für Nutzer, für alle Dritten, die eben prüfen wollen, was beinhaltet denn dieser Beipackzettel. Speaker 2: weil natürlich steht das nicht oben drüber, dass man sagt, okay, ich sehe diesen Text und oben drüber steht hier, das ist KI generiert von dem und dem, Speaker 2: sondern das ist so hinterlegt, dass man es eben auf den ersten Blick nicht sehen kann. Speaker 2: Deswegen brauche ich da wieder, Anführungsstrichen, einen Übersetzer. Speaker 2: Wie gut das Ganze nachher daran dauerhaft haften bleibt, ist natürlich eine Frage.

Speaker 2: Die Frage ist, wer ein Interesse daran hat, das zu entfernen. Wer dieses Interesse hat, wird es technisch auch hinbekommen, da müssen wir uns nichts vormachen. Aber ich glaube, für diese Vorgaben wäre das eine ganz gute Möglichkeit, das umzusetzen, dauerhaft umzusetzen und vor allen Dingen auch, dann kommt der nächste Schritt, den Veröffentlichenden auf der einen Seite zu ermöglichen, das ist ein KI-generierter Inhalt, hier muss ich eine Kennzeichnung vornehmen. Speaker 2: und auf der anderen Seite dem Nutzer zu ermöglichen, Speaker 2: okay, hier kann ich auch prüfen, ob es ein KI-generierter Inhalt ist oder nicht, Speaker 2: unabhängig von der Frage, ob er jetzt korrekt gekennzeichnet ist oder nicht.

Speaker 2: Also ich kann, wenn mir ein Inhalt, die Inhalte werden besser, Speaker 2: man hat vielleicht manchmal den Eindruck, das ist menschengeschrieben, Speaker 2: dabei ist es das nicht, aber gerade zum Beispiel im Bereich der Berichterstattung, Speaker 2: im Bereich der Tagesberichterstattung gibt es ja ein großes Interesse daran zu wissen, Speaker 2: sind diese Bilder echt? Speaker 2: Und das prüfen zu können, ist, glaube ich, von sehr großer Relevanz. Speaker 2: Und da wird ein, in Anführungsstrichen, digitaler Beipackzettel sicherlich gut behelfen. Speaker 2: Allerdings wird es sicherlich auch ein Compliance-Thema sein, Speaker 2: nachher zu sagen, okay, wie habe ich das technisch umgesetzt, diese Kennzeichnung, Speaker 2: Und wie habe ich vielleicht auch verhindert, dass sie manipuliert werden kann?

Speaker 2: Welche technischen Möglichkeiten habe ich? Welche habe ich getroffen? Welche habe ich gewählt? Speaker 2: Gut, aber das betrifft dann eben nur in Anführungsstrichen den Anbieter, Speaker 2: weil dieser Kreis allerdings relativ groß sein kann.

Speaker 3: Okay, dann kommen wir jetzt zu den Veröffentlichenden. Speaker 3: Da sieht die Verordnung bzw. der Entwurf für die Umsetzung der KI-Verordnung, so muss man es ja genau bezeichnen, sieht da verschiedene Pflichten vor. Es kommt in dem Sinne darauf an, was man veröffentlicht und wofür man eben die KI genutzt hat.

Speaker 3: Ich sage mal, der schwerste, der strengste Fall sind Deepfakes. Egal ob Bilder, Audios, Videos, was auch immer, da stehen ja viele Möglichkeiten. Ich glaube, das kennt man mittlerweile auch. Speaker 3: Wer solche täuschend echten Inhalte erzeugt oder eben auch tatsächlich echte Inhalte manipuliert durch KI, der muss offenlegen, ganz klar offenlegen, dass da KI irgendwie verwendet worden ist.

Das ist quasi der strengste Fall. Bei Texten sieht es anders aus. Speaker 3: Da besteht die Kennzeichnungspflicht nur bei Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen. Speaker 3: Das könnte noch so ein bisschen kritisch werden, wie man das genau abgrenzt und differenziert.

Speaker 3: Ja, man mag sich darunter was vorstellen können, wie das dann nachher wirklich umgesetzt und auch nachverfolgt wird. Speaker 3: Das ist ja auch immer noch so die zweite Frage. Welche Auswirkungen hat das überhaupt, wenn ich mich daran nicht halte? Das ist jetzt noch schwer zu beurteilen.

Ein bisschen relativiert wird das Ganze auch dadurch, dass Texte keine Kennzeichnung brauchen. Speaker 3: Also auch wenn sie Angelegenheiten von öffentlichem Interesse betreffen, brauchen sie keine Kennzeichnung, wenn eine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat. Also wenn KI verwendet worden ist, aber dann das Ergebnis nochmal kontrolliert wurde und entsprechend von einem Menschen als eigenes freigegeben. Speaker 3: Also wenn ein Mensch dahinter steht, der sagt, ich übernehme die Verantwortung für diese Inhalte, dann muss man nicht angeben, dass in der Erstellung dann auch eine KI verwendet worden ist.

Und das wird, so jedenfalls unsere Einschätzung, in vielen Bereichen aktuell zumindest noch der Fall sein. Speaker 3: Von daher ist die Frage, wie sich das bei Texten auswirkt. Unstreitig sollte man aber eine Kennzeichnung vornehmen, wenn man Dinge einfach KI generiert und raushaut, sag ich jetzt mal so blöd. Also wenn man das überhaupt nicht mehr kontrolliert, dann wird das auf jeden Fall zu kennzeichnen sein.

Speaker 3: Um nochmal das Ganze ein bisschen zu veranschaulichen, haben wir ein paar Beispiele mitgebracht. Erstes Beispiel wäre ein Social-Media-Clip mit einer KI-generierten Person. Da wäre man ganz klar in dem kennzeichnungspflichtigen Bereich. Speaker 3: Genauso ein rein KI-generierter News-Text, also eine Nachrichtendarstellung, das ist das, was ich eben meinte, das wäre dann auch kennzeichnungspflichtig.

Ein redaktionell geprüfter Text, der eben unterstützt durch KI erstellt worden ist. Speaker 3: Dann könnte man eben im Bereich der Ausnahme sein, dass man keine Kennzeichnung vornehmen muss, wenn man denn wirklich kontrolliert hat. Und das wäre jetzt der nächste Schritt, was wir empfehlen würden, diese Kontrolle auch zu dokumentieren. Das muss nicht sichtbar sein, das muss nicht veröffentlicht sein, diese Dokumentation, aber man sollte zumindest intern eine Dokumentation haben.

Speaker 3: Für diese Texte ist zum Beispiel Dennis Tölle verantwortlich. Der hat das hier redaktionell übernommen. Bei KI-generierten Werbebildern, Kennzeichnungspflicht ja, es ist ja ein KI-generiertes Bild. Und bei einem Chatbot auf der Internetseite, das Beispiel hatten wir ja jetzt auch schon öfter, da besteht die Kennzeichnungspflicht auch.

Das ist sogar klar geregelt in der KI-Verordnung. Speaker 2: Ja, genau. Zu dem Beispiel, was du eben gesagt hast, ich will das an der Stelle jetzt glaube ich mal einschieben. Was die Dokumentation angeht, hatten wir uns ein paar Gedanken gemacht an diesem Beispiel.

Also ganz viele Veröffentlichungen, egal ob das jetzt kleine Blogs sind oder große Blogs oder Unternehmensblogs oder private Blogs gibt es auch, aber das ist nicht der Schwerpunkt. Speaker 2: Aber viele Veröffentlichungen erfolgen ja im Hintergrund mit einem Content-Management-System. Das beliebteste ist WordPress und wenn man jetzt sagt, okay, wie kann ich das denn umsetzen mit WordPress, dann wäre nach meinem Verständnis das Ganze so, dass ich letztlich einmal intern ein Dokument erstelle, in dem eben klar geregelt ist, wer ist hier verantwortlich für die Veröffentlichung von Blogbeiträgen. Speaker 2: Gibt es dann Vertreter?

Dann, welche Vertretungsregeln gelten? Wann vertritt der? Welche Maßnahmen haben wir ergriffen, um das abzusichern? Speaker 2: Und dann würde man letztlich im Beitragseditor in WordPress vielleicht noch so ein paar benutzerdefinierte Felder hinterlegen, in denen man ja, nein, Auswahl gibt, KI verwendet.

Speaker 2: wo wurde KI verwendet, ist eine menschliche Prüfung erfolgt, Speaker 2: wer hat es geprüft und dann wird es veröffentlicht. Speaker 2: Das sieht keiner nach außen hin. Speaker 2: Natürlich kann man das auch nach außen veröffentlichen, wer das möchte, Speaker 2: aber damit hätte man im Zeitpunkt der Veröffentlichung dokumentiert, Speaker 2: intern, dass eine Prüfung erfolgt ist und hätte damit, glaube ich, Speaker 2: wenn man diesen Beitrag nicht kennzeichnet, das ist ja der Punkt, Speaker 2: wenn nachher jemand sagt, naja, wir haben das jetzt aber geprüft, Speaker 2: Wir haben diesen Beitrag mal durch eben solch ein Prüftool von einem KI-Anbieter oder von einer OpenAI etc. prüfen lassen.

Speaker 2: Und da kam heraus, dass das ein Text ist, der aus dieser KI stammt. Speaker 2: Ihr habt es aber gar nicht gekennzeichnet. Das hättet ihr aber doch machen müssen. Speaker 2: Dann kann man sagen, nee, hätten wir nicht, weil es ist menschlich geprüft worden.

Speaker 2: Und das haben wir dokumentiert. Hier ist unsere Prüfung oder hier ist unsere Dokumentation. Speaker 2: Dann würde ich sagen, wäre das so ein Ablauf, wie man ihn sich vorgestellt hat. Speaker 2: beim Entwurf dieser Empfehlung.

Speaker 2: Und letztlich stellt es natürlich immer die Frage, Speaker 2: wie vertrauenswürdig das ist Speaker 2: und wie sehr die Praxis dann tatsächlich so aussieht, Speaker 2: dass man Dinge raushaut, blind, so wie sie sind, Speaker 2: und dann einfach nur Häkchen setzt. Speaker 2: Okay, aber dann muss man eben auch die Verantwortung dafür tragen. Speaker 2: Und ich glaube auch, dass diese Kennzeichnung vielleicht jetzt im Moment noch so ein Punkt ist, wo man sagt, naja, das erweckt kein großes Vertrauen, wenn ich jetzt zum Beispiel ein Angebot von einem Anbieter sehe, der, weiß ich nicht, der bietet mir irgendwelche Informationen an und dann sehe ich da, das ist alles KI generiert. Speaker 2: Ich glaube tatsächlich, dass es im Moment in manchen Bereichen einfach noch schwierig ist, weil man denkt, ist das Vertrauen noch nicht da, dass es auch stimmt.

Speaker 2: In manchen Bereichen wird sich das aber, glaube ich, auch erledigen und dann ist auch diese AI-Kennzeichnung keine so große Bürde mehr. Speaker 2: Es wird aber, glaube ich, weiterhin und immer Bereiche geben, wo man sagt, okay, ich möchte nicht, dass das KI generiert ist. Speaker 2: Und dann möchte ich natürlich als Anbieter auch nicht, auch wenn ich vielleicht die Vorteile nutzen möchte, habe ich eine andere Einstellung zu dieser Kennzeichnung, sage ich mal vorsichtig. Speaker 2: Aber genau, das war unser Gedanke dazu, dass wir sagen, so könnte man es ja dokumentieren.

Speaker 2: Aber wo Grundregeln sind, es gibt auch Ausnahmen und da hattest du eben schon eine Ausnahme genannt, aber es gibt doch noch ein, zwei weitere Ausnahmen. Speaker 2: Vielleicht kannst du dazu nochmal was sagen, was der Entwurf sich da vorstellt. Speaker 3: Genau, also vielleicht nochmal klarstellend, weil du das gerade schon erwähnt hast, also die redaktionelle Ausnahme bei Texten haben wir jetzt eben schon erläutert. Das ist eben eine aus unserer Sicht wichtige und wahrscheinlich auch praxisrelevante Ausnahme.

Speaker 3: Und dann gibt es noch Ausnahmen für Kunst, Satire und Fiktion. Die sind aber nicht so weitgehend, wie man sich das vielleicht wünschen würde. Hier ist es so, dass eine Transparenzpflicht grundsätzlich besteht, die aber abgeschwächt ist. Speaker 3: Und zwar in dem Sinne, dass die Offenlegung nicht dazu führen soll, dass die Wirkung, Nutzung, der Zweck der Satire beispielsweise oder der Kunst beeinträchtigt wird oder unangemessen beeinträchtigt wird.

Speaker 3: Vorstellen kann man sich dabei, zum Beispiel, wenn man jetzt einen Film als Beispiel nimmt, dass zu Beginn oder irgendwo daneben am Rand, wie auch immer, irgendwo eine Kennzeichnung erfolgt, dass das aber jetzt nicht dauerhaft sichtbar sein muss. Speaker 3: Und ähnlicherweise wie das bei einem Film am Anfang und am Ende eingespielt wird, das basiert auf einer wahren Begebenheit. So könnte man zum Beispiel da einspielen, das ist KI-generiert oder hier sind KI-generierte Inhalte vorhanden, irgendwas in der Art. Speaker 3: Es muss aber jetzt nicht dauerhaft auf dem Bildschirm zu sehen sein zum Beispiel, weil das dann wieder das Werk an sich sehr beeinträchtigen würde.

Speaker 3: Oder bei einer Ausstellung von Kunst könnte man sich vorstellen, dass zum Beispiel am Eingang oder irgendwo deutlich sichtbar ein Aufsteller ist, der eben besagt, hier gibt es auch KI-generierte Kunstwerke. Speaker 3: So, und dann muss aber nicht unbedingt an jedem einzelnen Kunstwerk was zu sehen sein. Das ist alles vage und wackelig, ja. Mehr Stoff gibt es aber dazu leider im Moment noch nicht.

Speaker 2: Ja, also ich sage mal, es soll ja eine Ausnahme sein. Das heißt, es soll für diesen Bereich eben weniger sein, als das, was grundsätzlich gefordert wird. Und grundsätzlich gefordert ist es ja so, dass zum Beispiel bei Live-Videos das Ganze fortlaufend oder eben zu Beginn und in Intervallen erfolgt. Es muss also ein weniger sein davon.

Speaker 2: Bei kurzen Videos soll es dauerhaft sein. Speaker 2: Kurz muss man dann auch mal gucken, ein bisschen definieren. Speaker 2: Bei Bildern soll es ab der ersten Wahrnehmung sichtbar sein. Speaker 2: Das heißt also, es darf da gerade nicht etwas sein, was dann nur auf den zweiten Klick erfolgt, Speaker 2: sondern wenn ich ein Bild wahrnehme, muss ich gleichzeitig auch wahrnehmen können, Speaker 2: okay, das ist generiert oder manipuliert.

Speaker 2: Und ein ganz wichtiger Bereich natürlich zunehmend auch der Audio-Bereich. Speaker 2: Da muss ich spätestens zu Beginn einen hörbaren Hinweis haben. Speaker 2: Und spätestens zu Beginn bedeutet eben, dass ich im Prinzip schon bevor ich, Speaker 2: eher bevor ich das Ganze starte, schon den Hinweis bekomme, der dann kein Audio-Hinweis ist, Speaker 2: sondern das kann, weiß ich nicht, ich einen Podcast anhöre, der eben nicht mehr von echten Menschen gesprochen ist, Speaker 2: sondern eben nur mit den Stimmen generiert wurde, dann schreibe ich es am besten vorher auch schon hin. Speaker 2: Da ist man natürlich immer, wie bei vielen Sachen auch, im Zweifel macht man beides, dann kommt man gar nicht in die Bredouille.

Speaker 2: Aber das sind ja so die Standards, die sich vorgestellt werden und davon abweichend kann man dann eben eine verringerte Verpflichtung oder Empfehlung im Moment annehmen, wenn wir im Bereich Kunstsatire und Fiktion unterwegs sind. Speaker 2: Ja, das war es. Mehr steht da nicht drin. Ich glaube aber tatsächlich, dass das so der materielle Teil ist, der drinsteht, den man mitnehmen sollte.

Die Frage ist, was das bedeutet. Speaker 2: Also zum einen stellt sich natürlich immer die Frage, warum sollte ich mich jetzt daran halten? Zwei Argumente gibt es, die recht schlagkräftig sind. Das ist zum einen die Bußgeldverpflichtung oder die Bußgeldgefahr, die bei einem Verstoß droht.

Die KI-Verordnung sieht bis zu 15 Millionen Euro oder 3% Jahresumsatz als Bußgeld vor, wenn ich einen Verstoß habe. Speaker 2: Auch da, es gibt mehrere Möglichkeiten, gegen die KI-Verordnung zu verstoßen. Es gibt auch mehrere Möglichkeiten, dann gegen diese Grenzeeignungs- und Transparenzpflichten zu verstoßen. Und das ist das obere Ende der Fahnenstange.

Aber Bußgelder sind sicherlich das eine. Speaker 2: Das andere, da wird man auch erstmal ein bisschen abwarten müssen, ob die Rechtsprechung das auch so sieht, aber ich halte es durchaus für vorstellbar, dass bei einer Verletzung von Transparenzpflichten, Kennzeichnungspflichten, die Möglichkeit besteht, das wettbewerbsrechtlich abzumarten. Speaker 2: Dass man sagt, okay, entweder ein Mitbewerber oder ein Verbraucherschutzverband wendet sich gegen eine entweder gar nicht erfolgte oder nach deren Auffassung falsch erfolgte Kennzeichnung und leitet dann ein wettbewerbsrechtliches oder ein lauterkeitsrechtliches Verfahren ein. Speaker 2: Das ist sicherlich ein Punkt.

Manche sagen, okay, es wird, wie bei der Darmstagsgrundverordnung damals, eine Abmahnwelle geben, Klammer auf. Ich vertrete die Auffassung, dass es diese Welle nicht gab, Klammer zu. Aber da ist sicherlich Bewegung drin. Das heißt, das dürfte Motivation genug sein, sich dahingehend Gedanken darüber zu machen, wie ich das Ganze umsetze.

Speaker 3: Ja, und deshalb zum Abschluss noch ein paar konkrete Handlungsempfehlungen. Eine kleine To-Do-Liste, was man jetzt tun sollte, startet mit einer Bestandsaufnahme. Also natürlich sollte jedes Unternehmen wissen und auch dokumentiert haben, welche KI-Tools denn im Einsatz sind. Speaker 3: Das ist ja schon mal das Erste, wo man nicht drumherum kommt.

Und als nächstes sollten dann die Verantwortlichkeiten geklärt werden. Also wer ist im Unternehmen Ansprechpartner und entscheidet auch über Kennzeichnung, wer steht für Fragen zur Verfügung, wer informiert alle Personen, die irgendwie mit KI zu tun haben im Unternehmen und gibt eben Handlungsanweisungen, damit man da ein einheitliches Management hat. Speaker 3: Und dann wäre der nächste Schritt nochmal Dokumentation, also auch da am besten eine klare Anweisung beziehungsweise ein Formular, ähnlich wie du es ja auch schon skizziert hast, zur Verfügung stellen, wo eben einmal dokumentiert wird, wie es von der KI-Nutzung zur Veröffentlichung von Inhalten kam, damit man eben entsprechend, gerade wenn man jetzt, ich habe da immer diesen Fall der redaktionellen Verantwortung, Speaker 3: im Hinterkopf, wenn man solche Fälle hat, dass man vielleicht nicht alles kennzeichnet, Speaker 3: weil man sagt, ich muss das auch gar nicht, weil ich eben diese redaktionelle Prüfung Speaker 3: hier vornehme, dann muss ich aber zumindest das dokumentiert haben. Speaker 3: Das wären so die Hauptpunkte aus unserer Sicht, Speaker 3: die man jetzt beziehungsweise spätestens bis August Speaker 3: irgendwie angehen sollte.

Speaker 2: Ja, es gilt wieder wie damals, das muss man dann tatsächlich Speaker 2: so ein bisschen vergleichen mit der Einführung der DSGVO, Speaker 2: Wer sich frühzeitig damit befasst, hat jetzt zum Stichtag nicht so einen Stress und kann da jetzt noch, glaube ich, in aller Ruhe darauf hinarbeiten, dass das alles soweit in trockenen Tüchern ist. Speaker 2: Und wir gehen eben davon aus, dass die finale Fassung dieses Entwurfs nicht so allzu weit weg ist von dem, was jetzt auf dem Papier steht. Speaker 2: Und ich glaube, wenn man sich da jetzt noch nicht mit beschäftigt hat, wäre das jetzt ein guter Zeitpunkt damit zu beginnen. Speaker 2: Den Entwurf natürlich verlinken wir in den Shownotes.

Speaker 2: Auch die Labels kommen mit in die Shownotes. Speaker 2: Und auch wenn die, wie gesagt, nicht final sind, aber möglicherweise geht es in diese Richtung, dann hat man schon mal eine Idee davon. Speaker 2: Und ja, ich bin gespannt, wie es sich weiterentwickelt. Speaker 2: Es bleibt ein spannendes Thema.

Das geht nicht wieder weg mit dieser KI. Das können wir, glaube ich, festhalten. Und das hat ja durchaus auch seine positiven Seiten, nicht nur negative. Und ja, wir werden das beobachten und werden vielleicht noch die eine oder andere Folge, glaube ich, zu diesem Thema machen.

Aus meiner Sicht kann ich aber schon mal sagen, dass ich für heute durch bin. Und freue mich aufs nächste Mal und sag auf Wiederhören. Speaker 3: Ja, ich bin auch gespannt. Ich denke mal, wir werden sicherlich updaten, wenn es dann finale Hinweise gibt.

Und dann hören wir uns in zwei Wochen wieder, würde ich sagen. Und vielen Dank fürs Zuhören.