Willkommen zum Podcast Kaffeerecht von der Kanzlei TWW Law mit rechtlichen Themen für Kreative, Unternehmer und Unternehmen. Herzlich willkommen zum Podcast Kaffeerecht zu einer weiteren Folge unseres rechtlichen Talks. Mein Name ist immer noch Dennis Hölle, ich bin Rechtsanwalt und Fachanwalt für Urheber- und Medienrecht in der Kanzlei TW WELO in Bonn und mit mir ist heute hier wieder einmal Marwan Elrify, ich bin auch wieder dabei. Heute geht es um das Thema KI-Bildgeneratoren, insbesondere im Zusammenhang mit Urheberrecht.

Ich glaube, da haben wir uns ein ganz spannendes und auch umfassendes Thema ausgesucht. Wir versuchen das ein bisschen einzufangen, versuchen da auch ein bisschen mit der aktuellen Zeit zu gehen. Das ist ja ein sehr hochbrisantes, aktuelles Thema. Wie stehst du dazu?

Ja, also ich möchte nicht sagen, dass das Thema durch seine tägliche Präsenz mittlerweile ja dann ein bisschen überhand nimmt, aber es ist sehr präsent. Ich finde es innerlich rechtlich super spannend, weil es da im Moment ja noch sehr viele offene Fragen gibt und man über vieles diskutieren kann, was wir, glaube ich, in der Vergangenheit jetzt schon viel getan haben und es wahrscheinlich heute in dieser Folge auch tun werden. Und ich ganz interessant fand, dass zuletzt die, also letzter Aufhänger, jedenfalls zum Zeitpunkt der Aufzeichnung dieser Folge, eine Meldung die Runde machte, die eigentlich so aus der Ecke kam, derjenigen, die das Ganze sehr vorantreiben wollen. Und zwar, dass Elon Musk und Steve Wozniak fordern, dass man zum jetzigen Zeitpunkt dem Modell GPT-4 eine Zwangspause verordnet, dass man sagt, okay, das Ganze geht jetzt so schnell voran, wir müssen das gerade mal stoppen, um vielleicht an einigen Stellen hinterher zu kommen.

was, glaube ich, ganz gut abbildet, was im Moment passiert, weil an jeder Ecke wird von KI gesprochen und an jeder Ecke taucht irgendetwas auf, was auf einmal KI beinhaltet und irgendwas besser macht. Und da müssen wir, glaube ich, an der Stelle einsteigen und sagen, okay, vielleicht klären wir ein paar Begrifflichkeiten, vielleicht gucken wir, was technisch dahinter steht und dann gucken wir, was rechtlich da relevant ist. Ja genau, also vielleicht als allererstes, es mag für den einen oder anderen jetzt sehr redundant wirken, aber wir wollen trotzdem erstmal sagen, okay, KI, künstliche Intelligenz, vielleicht ganz kurz so auf den Punkt gebracht, was könnte das denn bedeuten? Da ist nämlich die Frage, was bedeutet eigentlich Intelligenz?

Man versucht im Rahmen der KI jetzt, Maschinen intelligent zu machen. Und Intelligenz ist zumindest laut Wikipedia in diesem Zusammenhang die Eigenschaft eines Wesens, angemessen und vorausschauend in seiner Umgebung zu agieren. Okay, und in unserem Zusammenhang bedeutet das im Prinzip, wir haben ein, ich würde jetzt mal ganz untechnisch Programm sagen, dass auf eine Anweisung unsererseits, des Nutzers, eine bestimmte Reaktion zeigt, die für uns vorausschauend und auch sinnvoll erscheint. ChatGPT sagt jedem etwas, da zum Beispiel kann man mit dieser KI einfach im Prinzip eine Diskussion halten.

Und jetzt, weil wir uns ja mit dem Thema KI-Bildgeneratoren beschäftigen wollen, da ist es nun mal so, dass man gewisse Prompts eingeben kann und mit diesen Prompts erzeugt man dann ein Bild, bzw. ob man selber dieses Bild erzeugt, das müssen wir gleich nochmal vielleicht klären, aber auf jeden Fall erzeugt eine KI, eine künstliche Intelligenz ein Bild oder mehrere Bilder sogar und diese Bilder sind dann erstmal in der Welt. Die hat die KI aufgrund von irgendwelchen einfachen Aussagen, wie zum Beispiel Haus, Baum, Grün, hat die einfach ein Bild erstellt. Und die greift dabei ja nicht nur auf das zurück, was sie letztlich in der Programmierung, sage ich mal, vorgegeben bekommen hat, soweit sie da Vorgaben bekommen hat, sondern diese Algorithmen sind in der Vergangenheit und werden auch fortlaufend, jedenfalls je nachdem welchen Dienst oder welche Software man da meint, weiterentwickelt und greifen eben auf Trainingsdaten zurück.

Und diese Trainingsdaten, die kommen in Anführungsstrichen irgendwo her. Wir haben das mal für Bildgeneratoren anhand der Top-Tender-Bildgeneratoren untersucht, ob man das rausfinden kann, welche Trainingsdaten das sind und welche Inhalte da zu finden sind. Das ist relativ schwierig, weil von sich aus verraten einem das bei weitem nicht alle Generatoren. Und deswegen ist es auch in der Folge nicht immer möglich zu sehen, worauf dann irgendwelche Erzeugnisse beruhen, weil ich eben nicht weiß, welche Daten dem zugrunde liegen.

Bei Bildgeneratoren, klar, die haben andere Bilder sich angesehen, die im Netz frei abrufbar sind. Ob die nun zulässig abrufbar sind oder nicht, das ist eine andere Frage, aber sie sind jedenfalls technisch einsehbar gewesen von außen oder sind es auch immer noch. Und da kann man, also es gibt bei Stable Diffusion zum Beispiel die Möglichkeit, das zu prüfen, ob die eigenen Daten genutzt worden sind, weil die eben sagen, okay, wir haben folgendes Paket genutzt und dieses Paket lässt sich auch durchsuchen. Da gibt es eben einen Dienst zu, have I been trained?

Und dann kann ich selber schauen, ob meine Daten und meine Bilder genutzt worden sind zur Trainierung dieser KI. Ja, Stable Diffusion hast du jetzt schon genannt. Das ist halt super spannend, vielleicht so ein bisschen aus dem Nähkästchen. Stable Diffusion ist eigentlich der einzige Bildgenerator, der angegeben hat, welche Trainingsdaten er verwendet.

und ausgerechnet Stable Diffusion sieht sich jetzt im Prinzip schon einer Klage ausgesetzt. Also hat Vor- und Nachteile für die Anbieter von KI-Bildgeneratoren, das öffentlich zu machen. Das ist auf jeden Fall gut für uns als Nutzer und auch gut für Urheber zu wissen, welche Daten eigentlich verwendet werden. Ich würde nochmal einmal ganz kurz ein bisschen vorher anknüpfen und gucken, was bedeutet eigentlich Trainingsdaten.

KI-Bildgeneratoren nutzen also Trainingsdaten, das hast du jetzt auch schon gesagt, um was zu tun. Und zwar werden diese Trainingsdaten verwendet, damit der KI-Bildgenerator weiß, was will ein Nutzer sehen, wenn er bestimmte Wörter benutzt. Das heißt, desto mehr Bilder zur Verfügung gestellt werden, desto realistischer ist das erzeugte Bild, das die KI nachher erstellt, aufgrund von bestimmten Begriffen. Realistisch muss jetzt nicht bedeuten Fotorealismus, sondern kann auch cartoonartig sein oder bildhaft sein.

Es geht nur darum, dass die KI verstehen möchte oder gut verstehen möchte, was möchte mein Nutzer oder meine Nutzerin von mir. Und dafür braucht sie halt Trainingsdaten und desto mehr Trainingsdaten, desto besser rein theoretisch. Und diese Trainingsdaten bei KI-Bildgeneratoren sind halt eben Bilder, die im Internet so zur Verfügung stehen. Es ist aber ja so, dass, also nicht, dass das irgendwie falsch verstanden wird, der Clou an der Sache ist ja, dass nicht das ausschließlich wiedergegeben werden kann, was schon trainiert ist, Und es können Dinge wie die Dinge, die gesehen worden sind durch die KI, abgebildet werden, neu erstellt werden, kombiniert.

Und dann kommen eben die Prompts, also die Eingaben der Nutzer, die besagen, ich hätte gern, was weiß ich nicht, mal mir ein Bild von einem Pferd mit drei Beinen. So und dann kennt die KI eben Bilder von Pferden, die haben alle vier Beine, aber es weiß, wie Beine aussehen und es weiß, wo die grundsätzlich bei Pferden wachsen. Es kann aber dann durchaus sein, dass ich ein Pferd bekomme mit drei Beinen, in dem einfach nur das vierte fehlt. Kann auch sein, dass ich irgendwie, weiß ich nicht, das dritte Bein ist ein menschliches Bein oder irgendwie sowas.

Das ist durchaus ja möglich. Also es wird nicht wiedergegeben, was ich schon gesehen habe, sondern es wird neu erstellt. Das ist ja letztlich der Clou an diesem oder das vermeintlich Intelligente daran. Das ist jetzt vielleicht auch noch nichts Rechtliches, aber trotzdem würde ich das gerne erzählen.

Und zwar, die Ergebnisse werden insbesondere dann interessant, wenn ich der KI Prompts gebe, also Eingaben mache, die sehr unwahrscheinlich sind, die so vielleicht auch gar nicht existieren in den Datensätzen. Also wenn man jetzt zum Beispiel fragt, gib mir ein Bild von einem Pferd mit Schuhen, dann entstehen plötzlich die verrücktesten Sachen. Also da haben wir uns auch schon dran rumprobiert, zumindest habe ich das getan und die Pferde, die dann entstehen, das weiß ich nicht, was das sein soll, hat auf jeden Fall nichts mit Pferden und Schuhen zu tun. Aber das ist sehr super interessant, weil daran erkennen wir zumindest oder laienhaft erkenne ich daran, dass die KI auch nur das erzeugen kann, von mir aus auch neu erzeugen kann, was sie irgendwie vorhanden in ihren Datenbanken hat, in ihren Trainingsdaten hat.

Also nur basierend darauf kann sie neue Dinge auch wieder erschaffen. Das heißt, sie kann sehr gut einen Menschen darstellen, auch einen Menschen, der so nicht existiert. Was sie aber nicht kann, ist etwas völlig Neues zu erschaffen, was so in den Datenbanken noch nicht existiert hat. Da ist ja grundsätzlich, das wollen wir vielleicht gar nicht als Schwerpunkt für diese Folge nehmen, aber grundsätzlich sind da ja auch Sachen möglich, die nicht immer nur lustig sind.

Also viele Themen, so Pferde mit Schuhen oder irgendwelche lustigen Äffchen mit Verkleidung. Also es gibt ja viele Anwendungspunkte, wo man sagen kann, da hat man mal so rumprobiert, was es da so an lustigen Sachen gibt. Es gibt da ja aber auch Sachen, die nicht nur lustig sind. Und da fällt gelegentlich mal in Veröffentlichungen auch das Wort Sexismus oder Rassismus.

Eine KI ist sexistisch, eine KI ist rassistisch. Wie siehst du das? Ja, also um das Thema erstmal zu begreifen, es gibt inzwischen halt beispielsweise auch KI-Bildgeneratoren, bei denen man selber freiwillig sozusagen ein Bild von sich hochlädt oder mehrere Bilder von sich selber hochlädt und dann bekommt man von der KI wiederum Bilder von sich, wie man sie gerne hätte. Also zum Beispiel als Superheld.

Dann kann ich ein Bild von mir hochladen, ein Selfie von mir und dann sage ich, zeige mir mich selbst als Superheld und dann zeigt die mir 20 Bilder, die KI zeigt mir dann 20 Bilder von mir als Superheld. Und da ist es nun mal dazu gekommen, dass wenn Frauen solche KIs benutzt haben, die häufig dann sehr anzügliche, hochsexualisierte Bilder von sich zurückbekommen haben. Und obwohl möglicherweise die Ausgangsbilder, die sie reingeschickt haben, überhaupt nichts damit zu tun haben. Also komplett angezogen, keine Haut gezeigt in Anführungsstrichen und trotzdem kommt dann ein sehr anzügliches Bild vielleicht im Bikini raus.

Und dann fragt man sich natürlich, was soll das? Das ist nicht das, was ich wollte. Und in diesem Zusammenhang wird häufig von Sexismus gesprochen, also Sexismus der KI. Ich sehe das ein bisschen kritischer.

Ich sehe da auf jeden Fall ein Problem, das möchte ich gar nicht bestreiten. Ich frage mich nur, ob die KI wirklich sexistisch sein kann, da sie ja, wie wir auch gerade eben besprochen haben, nur aufgrund ihrer Trainingsdaten arbeitet. Das heißt, wenn die Trainingsdaten problematisch sind, in Anführungsstrichen, das heißt, Frauen innerhalb der Trainingsdaten sehr häufig in sehr anzüglichen Outfits unterwegs waren und die KI daraufhin Bilder so erstellt, dann ist es nicht unbedingt die KI, die sexistisch war, sondern möglicherweise die Trainingsdaten liefern ein sehr sexistisches Bild von Frauen und das verfestigt die KI nun. Das ist nicht weniger problematisch, es ist nur nicht die KI, die in Anführungsstrichen wie ein Mensch sexistisch ist.

Und abhängig davon, letztlich muss es dann Aufgabe derjenigen, die die Möglichkeit haben, am Algorithmus zu schrauben oder an der KI selber zu schrauben, in Anführungsstrichen, sein, dass so etwas nicht passiert. Also da wollen wir gar nicht in irgendwelche ethischen, politischen, gesellschaftlichen Diskussionen gehen. Es gibt ja auf vielen Ebenen da Problemfelder, die sich ergeben können. Aber jedenfalls aus unserer Perspektive ist es ja so, dass das nicht gewünscht ist und das dann führt das zu einem Missverhältnis, das vielleicht ausgeglichen werden muss.

Ja, und nur um das einmal kurz vorzustellen, was man so in der Diskussion sieht, es gibt wahrscheinlich zwei Möglichkeiten, wie man daran rangehen kann. Einerseits wäre es, die Trainingsdaten nicht unbedingt zu filtern, sondern der KI oder einer vorgelagerten KI zu zeigen, wie die Trainingsdaten wiederum zu verstehen sind. Das ist die eine Option und die andere Option ist auf der nachgelagerten Ebene die Erzeugnisse der KI sozusagen zu filtern und anzupassen, möglicherweise dann auch der KI wieder die zurückzuschicken und zu sagen, nein, das war zu anzüglich, bevor überhaupt irgendjemand diese Erzeugnisse zu sehen bekommt. Das sind die zwei Optionen, da muss man auf jeden Fall noch das im Auge behalten, ist auf jeden Fall auch ein sehr problematisches Thema, wollten wir hier aber auch nicht jetzt noch zu vertieft ausarbeiten, da es sich ja um ein sehr gesellschaftliches, ethisches Thema handelt und wir versuchen uns zumindest mit den rechtlichen Themen zu beschäftigen.

Genau, da können wir direkt einsteigen mal, weil zu den Trainingsdaten selber haben wir im Wesentlichen was gesagt und klargestellt, was das ist. Wir wissen nicht in jedem Fall, wo sie herkommen, aber die Frage, die da so ein bisschen dran anknüpft, vielleicht können wir die an der Stelle auch direkt mit besprechen. Ist es denn okay, dass die Daten benutzt werden? Also wenn ich höre, dass eine KI in Anführungsstrichen oder eben ein Bot, der im Auftrag in Anführungsstrichen dieser KI arbeitet, alles, was ihm bildlich im Internet in die digitalen Hände kommt, nimmt und sich anschaut und vielleicht auch zusammenführt oder bestimmt zusammenführt, analysiert etc., Dann löst das bei mir nicht zwingend ein Unwohlsein aus, aber zumindest irgendetwas, wo ich meine, dass das vielleicht nicht in Ordnung ist oder doch in Ordnung ist oder jedenfalls nicht bis zu dem Zeitpunkt, wo die KI so wahnsinnig präsent wurde oder Bildgeneratoren so präsent wurden, nicht immer jedem bewusst war, dass sowas vielleicht zulässig sein kann.

Ja, und dafür gibt es auch gesetzliche Regelungen, die sich sozusagen mit diesem dahinterstehenden Text- und Datamining beschäftigen, die das erlauben wollen. Da stellt sich nur die Frage so ein bisschen, handelt es sich hier wirklich um Text- und Datamining? Da kannst du ja vielleicht nochmal Input dazu geben. Ja, also ich fange mal damit an.

Es gibt tatsächlich im Urheberrechtsgesetz eine Norm, oder zwei Normen, bei denen es im Wesentlichen um dieses Text- und Datamining geht. Das ist der Paragraf 60d, der auch noch relativ jung ist und auf einer europäischen Richtlinie basiert und eben in deutsches Recht umgesetzt wurde. Und da steht unter anderem, da steht eine ganze Menge drin, aber unter anderem steht da eben auch drin, dass Vervielfältigungen für Text- und Datamining für Zwecke der wissenschaftlichen Forschung zulässig sein können. So, dann gibt es da Bestimmungen zu, wann das denn nun Forschung ist, etc.

Und grundsätzlich kann das also für diese Zwecke zulässig sein. Und bei der Frage, was Juristen dann ja immer gerne machen, man definiert und fragt, was bedeutet das denn alles, das ist auch, glaube ich, ganz sinnvoll. Text- und Datamining wird verstanden als automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen, insbesondere Mustertrends und Korrelationen zu gewinnen. Und das ist ja genau das, was im Prinzip eine KI mit diesen Trainingsdaten macht.

Das heißt, ich schaue mir etwas an, ich schaue mir eine Landschaftsfotografie an und sehe, oben ist blauer Himmel, unten ist grüne Wiese, dann steht ein Haus, roter Backstein, spitzes Dach, Häuser haben irgendwie immer Fenster und Türen und all sowas. Und diese Information nimmt die KI da raus und jedenfalls aus urheberrechtlicher Perspektive sieht es so aus, als wäre der gesetzgeberische Wille, dass das zulässig ist, dass diese Informationen jedenfalls zu Forschungszwecken genutzt werden können. Jetzt ist immer die Frage, Forschungszwecke, haben wir die denn in jedem Fall der KI? Das ist, glaube ich, nicht ausdiskutiert und kann ich auch nicht abschließend beantworten.

Es wird sich wahrscheinlich zumindest bestreiten lassen, dass es immer Forschungszwecke im Vordergrund sind, insbesondere wenn man sich jetzt anschaut, dass KI-Bildgeneratoren dann doch auch in ihrer Anzahl an Bildgeneratoren relativ viele werden und nicht jeder der Bildgeneratoren selber sozusagen ein Interesse daran hat, die KI, die dahinter steht, weiterzuentwickeln, sondern ganz viele sind ja einfach nur noch Anbieter auf einem Markt, der entstanden ist von KI-Bildgeneratoren. Das heißt möglicherweise benutzen die dieselbe KI dahinter, haben diese aber nur angepasst auf ihre Bedürfnisse, das was sie mit ihrem Bildgenerator anbieten wollen, an Bildern. Und da wird man zumindest kritisch sehen, immer zu behaupten, dass Forschungszwecke bestehen. Jetzt sieht aber das Urheberrechtsgesetz doch noch eine zweite Form der Zulässigkeit vor für Text- und Datamining im 44b Urheberrechtsgesetz und zwar immer dann im Prinzip, wenn die Nutzung nicht durch den Urheber vorbehalten wurde.

Dann soll das auch zulässig sein, sagt zumindest nach Meinung des Gesetzgebers. Und das ist jetzt interessant, weil jetzt stellt sich die Frage, erstens, wie behalte ich eigentlich die Nutzung vor als Urheber von einem Bild? Und zweitens, was ist eigentlich mit den ganzen Bildern, die schon im Internet sind und ins Internet gestellt wurden vor der Zeit von KI-Bildgeneratoren, vor der Zeit vom Text- und Data-Mining in irgendeiner Form? Also diese zwei Fragen können wir jetzt erstmal beleuchten.

Anfangen sollte man wahrscheinlich mit des Nutzungsvorbehalts als solchem. Es ist so, dass die dem zugrunde liegende Richtlinie, da gibt es ja dann immer auch Erwägungsgründe zu, das heißt also, ich sage mal so ein bisschen Erläuterungen des Warum dieser Regelung und des Ziels dieser Regelung. Und letztlich ist es so zu verstehen, dass ich als Nutzer, der Inhalte ins Internet öffentlich abrufbar stellt, wohl in maschinenlesbarer Form zum Ausdruck bringen soll, dass ich nicht möchte, dass die Daten, die ich da einstelle, zum Text- und Datamining genutzt werden. Da ist keine konkrete Form genannt.

Das heißt, das Einzige, was konkretisiert ist, ist, dass es maschinenlesbar sein muss. Aus technischer Perspektive gibt es meines Erachtens zwei Wege, die man da nutzen kann. Das ist zum einen der eher nicht so technische Weg, dass man sagt, okay, ich habe eine Website, da habe ich vielleicht, oder nicht vielleicht, sondern in aller Regel habe ich da ein Impressum oder AGB oder Datenschutzhinweise etc. Und an einem dieser Punkte und an einem dieser Stellen und Seiten muss ich zum Ausdruck bringen, sprachlich, dass ich das nicht möchte, dass meine Bilder oder meine anderen Daten genutzt werden für eben diese Zwecke.

Und da gibt es auch keine fixe Formulierung für. Was die Frage der Maschinenlesbarkeit angeht, muss man dann sagen, wenn ein Google-Suchroboter, ein Google-Suchrobot es schafft, meine Textinhalte auf einer Website auszulesen, wird er wahrscheinlich auch in der Lage sein, das zu interpretieren. Und damit werden es wahrscheinlich KI-Bots auch tun. Etwas technischer ist die zweite Möglichkeit, die genau darauf abzielt, dass man solche Robots anspricht, die im Internet unterwegs sind und Inhalte crawlen, also von Website zu Website, von IP zu IP gehen und gucken, was verbirgt sich dahinter, finde ich da Text, finde ich da Bild etc.

Und ich sage mal, an jeder Eintrittstür gibt es die Möglichkeit, an die sich die Robots halten in der Regel, einer sogenannten Robots.txt-Datei. Das ist eine Textdatei, die auf dem Web-Server hinterlegt ist, in der sind bestimmte Vorgaben gemacht. Da sind zum Beispiel für den Google-Suchrobot oder für alle anderen Suchmaschinenanbieter Angaben drin, dass man sagt, okay, diese Seiten indizierst du bitte und die anderen Seiten, da lässt du die Finger weg. So, jetzt könnte man hergehen und sagen, in diese Robots.txt formuliere ich einen Befehl hinein, der es einem KI-Robot deutlich macht, nimm diese Daten bitte nicht für dein Data Mining, geh weiter.

Ja, also salopp gesagt, so ein digitaler Türsteher, der sagt, du kommst hier nicht rein. Und das setzt aber voraus, dass das dann auch berücksichtigt wird, weil letztlich kann der Robot oder kann die KI auch sagen, ja, interessiert mich nicht, das berücksichtige ich nicht, ich gucke es mir trotzdem an und benutze es. Inwieweit man damit tatsächlich nachher einen Anpack hat, dass diese Daten nicht genutzt werden, das lässt sich zum jetzigen Zeitpunkt zumindest nicht belastbar sagen. Ja, da stellt sich natürlich eigentlich auch direkt die Frage, warum soll sich jetzt, nehmen wir mal irgendeinen KI-Bildgenerator von einem amerikanischen Unternehmen, nur beispielsweise, damit es sich nicht um ein europäisches bzw.

deutsches Unternehmen handelt, warum sollte sich ein solcher KI-Bildgenerator an ein deutsches Gesetz halten oder eine europäische Richtlinie halten? Das ist jetzt so ein bisschen die nächste Frage, die sich so ein bisschen daran anschließt. Natürlich würde man meistens behaupten, also das sieht man auf europäischer Ebene häufig, dass Dinge, die hier auf dem Markt angeboten werden, unterfallen natürlich auch unseren Gesetzen. Und im Internet wird eigentlich alles überall angeboten, außer ein paar Ländern.

Und deswegen muss man dann immer sofort eigentlich auch europäisches Recht bzw. nationales Recht beachten. Jetzt kann es natürlich sein, dass ein KI-Bildgenerator für die Nutzer in seinen Nutzungsbedingungen bestimmtes Recht, zum Beispiel amerikanisches Recht, als Anwendungsrecht vorgibt. Das hat aber nichts damit zu tun, im Ausgangspunkt nichts damit zu tun, dass für die Frage des Text- und Data-Mining, das ja davor gelagert ist, dazu sind ja keine Nutzer, die diesem Text- und Datamining unterfallen, da dann amerikanisches Recht Anwendung findet.

Also diese zwei Ebenen muss man sozusagen trennen und zumindest meiner Ansicht nach wird man wohl dazu kommen, dass auch ein amerikanischer KI-Bildgenerator deutsches Recht beachten muss, also auch den 44b beachten muss und damit auch den Nutzungsvorbehalt eines Urhebers hier in Deutschland beachten müsste. Da ist aber auch, wie im ganzen Bereich, leider noch nicht das letzte Wort gesprochen. Ja, und wir haben ja, glaube ich, auch so ein bisschen den Punkt, die amerikanischen Anbieter müssen mit ihren Diensten auch die Datenschutzgrundverordnung einhalten. So, jetzt ist aber einfach die Umgebung und die gesetzlichen Vorgaben auf Bundesebene in den USA wieder als Beispiel nicht die, die das Niveau des Datenschutzes gleich lagert wie in der EU.

Also da haben wir ja auch etwas, wo man sagt, naja, ihr müsst euch denn an dieses Recht halten. Tut ihr aber nicht. Nicht der einzelne Anbieter, er kann es einfach nicht, weil er bestimmten Verpflichtungen auf Bundesebene da unterliegt. und die Nachrichten und Geheimdienste eben bestimmte Zugriffsmöglichkeiten haben, die verhindern, dass letztlich die Datenschutzgrundverordnung und die Vorgaben eingehalten werden.

Und da würde ich genauso sagen, dass man da im Moment vielleicht, also das ist vielleicht aus der streng reglementierten deutschen und europäischen Sicht auch so, dass wir uns das wünschen und dass wir das gut finden. Wobei, kleiner Einschub, ich muss auch sagen, dass diese gesetzlichen Regelungen, die wir haben, ziemlich liberal sind. Und der europäische Gesetzgeber auch ganz klar mit dem Ziel, das formuliert hat, solche, jedenfalls zu Forschungszwecken, solche Sachen zu erlauben. Also dieses Text- und Data-Mining, das wirkt, glaube ich, aus den Regelungen sehr deutlich.

Aber dass wir es erreichen, dass sich alle Dienste daran halten, das sehe ich jedenfalls etwas kritisch. Nur um das als kurzen Einschub nochmal zu machen, kleiner Exkurs zur DSGVO. Es ist ja nun mal so, dass jede Datenverarbeitung personenbezogener Daten ist erstmal verboten und muss gerechtfertigt werden, beispielsweise vorrangig über die Einwilligung. Und man wird wahrscheinlich zu dem Schluss kommen, dass wenn Bilder auf den Personen zu sehen sind, die ja personenbezogene Daten dann sind, dass diese Personen sehr wahrscheinlich nicht eingewilligt haben in die Nutzung zum Training eines KI-Bildgenerators.

Und also dass die Datenschutzgrundverordnung bzw. ein Datenschutzverstoß vorliegt, da muss man nicht zu sehr ins Blaue hineinreden, damit das wahrscheinlich erscheint. Und das ist nochmal so ein ganz anderes Gebiet neben dem Urheberrecht, das möglicherweise betroffen ist und auch sehr problematisch erscheint, wollen wir hier nur ganz am Rande einmal kurz beleuchtet haben natürlich. Ja, haben wir auch, ich weiß nicht, ob das eben deutlich geworden ist, dass diese Ausnahmen, diese gesetzlichen Ausnahmen im Urheberrechtsgesetz stehen und damit natürlich auch erstmal nur für urheberrechtlich geschützte und damit zusammenhängende Werke gelten.

Was du sagst, dass Bildnisse, wie es dann rechtlich heißt, wenn Personen abgebildet sind, die sind definiert eben im Kunsturheberrechtsgesetz und dann zusammenhängt auch eben als personenbezogenes Datum in der Datenschutzgrundverordnung. Da findet sich so eine Ausnahme zum Text- und Datamining nicht. Das regelt erstmal nur, in Anführungsstrichen, das Urheberrecht. Es gibt durchaus Stimmen, die sagen, naja, das muss man viel weiter fassen.

Das kann ja nicht sein. Das ist natürlich ein schwieriges Argument, aber diese Ausnahme ist erstmal nur urheberrechtlich zu sehen. Okay, dann würde ich jetzt einmal ganz kurz zusammenfassen, was wir zum Text- und Datamining bzw. zu den Trainingsdaten gesagt haben, bevor wir dann zu der nächsten spannenden Frage des Urhebers der Erzeugnisse kommen.

Text- und Datamining, das nationale Recht auf Basis einer europäischen Richtlinie, sieht vor, dass es die Möglichkeit gibt, dass es zulässig ist. Gerade für Forschungszwecke ist es sogar sehr weitläufig zulässig, aber auch für alle anderen Zwecke ist es zulässig, soweit kein Nutzungsvorbehalt besteht bei den Werken, die sozusagen darin verwendet werden. Und das nochmal ganz kurz, Trainingsdaten bzw. Text- und Datamining wird dazu verwendet, damit KI-Bildgeneratoren ihre Arbeit tun können.

Und die ist Bilder erzeugen. Und dann kommen wir direkt zum nächsten Bereich. Ja, wer ist Urheber dieser Bilder? Das ist eine schöne Frage und wir haben uns, glaube ich, in der Kanzlei auch schon den Mund fusselig diskutiert darüber, wer denn an was welche Rechte haben kann.

Ich fange jedenfalls mal damit an. Wir haben diese Nutzungsbedingungen der Bildgeneratoren eben schon mal kurz angesprochen und die haben wir uns angeschaut alle und haben geguckt, was steht auch dazu da drin. Da steht in der Regel drin, dass man mit den erzeugten Sachen gar nichts darf machen. Eigentum liegt beim Anbieter.

Es gibt Anbieter, die sagen, ja, kannst du alles mitmachen, darfst aber nicht kommerziell, darfst nicht weiterverkaufen, darfst auch nicht behaupten, es wäre von dir. Aus urheberrechtlicher Perspektive ist es schwierig zu beurteilen, was da immer mit gemeint ist. Das knüpft natürlich immer, oder nicht immer, aber nahezu immer, an das US-amerikanische Recht an, das aber ja so weit entfernt vom deutschen Urheberrecht gar nicht ist. Das heißt also, jedenfalls im Grundsatz ist ja auch da immer die Frage nach einer Schöpfungshöhe und nach einer kreativen Leistung, die erbracht wird.

Und da muss man dann tatsächlich immer fragen, wer erbringt welche Leistung hier. Und dann kann man sich angucken, wer kann woran welche Rechte haben. Der Ablauf ist ja, du hast das vorhin hier schon kurz geschildert, ich bekomme zum Beispiel ein Texteingabefeld beim Bildgenerator und kann dann dort Dinge reinschreiben. Da kann ich reinschreiben, zeige mir ein Pferd mit drei Beinen.

Und dann macht die KI etwas und dann kommt da ein Bild bei rum. So, das heißt, ich habe im ersten Schritt irgendjemanden, der eine, salopp gesagt, KI programmiert hat. Ich habe dann jemanden, der diese KI in Gang setzt mit einem bestimmten Befehl, das ist der Nutzer. Und ich habe dann die KI, die irgendwas macht und ein Bild auswirft.

So, wer hat jetzt welche Rechte? Und ich glaube, man kann zu Recht an jeder Stelle sagen, dass vielleicht jeder an bestimmten Dingen ein Recht hat. Die entscheidende Frage ist ja die oder die häufig damit verknüpft wird, wer ist Urheber einer von KI-Bildern, ist ja immer verknüpft mit dem letztlich erzeugten Bild. Was kann ich damit machen und bin ich derjenige, der alle Rechte daran hat?

Und als Unjurist würde ich jetzt sagen, naja, derjenige, der die Eingabe gemacht hat, ist Urheber dieses Bildes, weil die KI ist keine Rechtsperson, die kann gar nicht selber Urheber sein und das Unternehmen, das die KI zur Verfügung stellt, das hat eigentlich auch nichts damit zu tun, was eigentlich in diese KI eingegeben wird, deswegen sollte ich als Nutzer das sein. Und so einfach ist das natürlich leider nicht. Und ich finde die Diskussion dahingehend sehr spannend, weil einerseits wird man wohl sagen können, naja, es ist eben nicht vergleichbar mit dem ich male ein Bild in der Realität. Also ich habe meine Leinwand und male ein Bild des Siebengebirges oder sowas.

Das ist es halt gerade nicht, sondern ich gebe halt gewisse Wörter ein in das Textfeld. Aber in diesem Eingeben der Wörter kann auch eine gewisse Schöpfungshöhe entwickelt werden, indem ich einen ganz spezifischen Prompt erzeuge, der ein ganz besonderes Bild durch die KI generieren lässt, werde ich ja auch schöpferisch tätig. Also ich sehe da auf jeden Fall Potenzial zu sagen, naja, diese Schöpfungshöhe, die erreicht werden muss, damit ich Urheber bin, die kann auch durch das reine Eingeben dieses Prompts erreicht werden. Also ich bin bei dir, dass der Nutzer Urheber sein kann.

Ich bin aber noch nicht so weit, möglicherweise habe ich auch das Beispiel noch nicht gesehen, aber ich bin noch nicht so weit zu sagen, dass der Nutzer dann Urheber dieses Erzeugnisses ist, des Bildes. Ich bin bei dir zu sagen, ich bin Urheber meiner Eingaben, die ich da formuliere. Da reicht sicherlich nicht, schaffe oder mal mir ein Bild oder erstelle mir ein Bild von einem Pferd mit drei Beinen. Das reicht nicht.

Ich brauche schon auch in dem Ganzen einen schöpferischen Ausdruck. Das heißt, ich brauche auch da eine Arbeit mit Sprache, die eben über die Norm hinausgeht, die dann auch nicht nur sich in Anweisungen irgendwie erschöpft. Das heißt, ich weiß nicht, mal mir ein Haus, das Haus ist blau, das Haus hat ein Dach, das Haus hat ein Balkon etc. Also ich muss dann auch da schon irgendwo in dem Text letztlich ein gewisses Spiel mit der Sprache durchführen.

Und dann kann ich an diesem Text sicherlich Urheberschaft erlangen. Das ist ja, glaube ich, auch Grundlage eines sich dann jetzt nebenher entwickelnden Marktes, wo ich online quasi Prompts kaufen kann. Also ich kann online von anderen Leuten erstellte Texte, Prompts einkaufen, die dann sagen, ja, die sind, weiß ich nicht, die sind teilweise sehr, sehr lang und die führen eben zu einer bestimmten Art von Bild. Aber, das muss man auch sagen, nicht immer, also meines Wissens, nicht immer zum identischen Bild.

Die KI macht dann ja doch immer wieder was. Ja, da kommt es natürlich dann auch drauf an, wo ich den Prompt eingebe, welche KI benutze ich. Okay, da muss man natürlich auch dazu sagen, dass alle KIs verschiedene Eingabeversionen haben. Also wir reden jetzt die ganze Zeit über den textbasierten KI-Bildgenerator mit relativ umfangreichem Eingabefeld, wo man einfach eingeben kann, was man will.

Es gibt natürlich auch andere Versionen, wo man vielmehr so bausteinartig alles zusammenfügen kann. Also da gibt es schon Unterschiede und unterschiedlich einfach oder schwer wird es wohl sein, über eine Schöpfungshöhe zu diskutieren. Was ich mich jetzt gerade frage, wie ist das denn, wenn ich jetzt hier rumsitze und unabhängig jetzt von KI-Bildgeneratoren auf die Idee komme, dass ein bestimmtes Bild wäre mal etwas ganz Tolles, Neues und ich habe nur diese Idee. Ist diese Idee per se erstmal rechtsfähig?

Also kann ich die schützen? Nein. Also das ist Grundsatz tatsächlich des gesamten geistigen Eigentums oder des Rechts des geistigen Eigentums. Die Idee alleine ist nicht schutzfähig.

Es muss irgendeine Form von Verkörperung stattgefunden haben. Genau, und wenn ich jetzt an diesen Punkt anknüpfe, dann könnte ich doch auch sagen, nur das Prompt eingeben oder die Idee eines Prompts, also eine Eingabe, das ist ja auch genauso wenig in Anführungsstrichen wie die Idee in meinem Kopf. Erst dadurch, dass die KI das Bild auch erzeugt, das Erzeugnis erschafft, wird daraus etwas, was sozusagen schutzfähig ist oder von uns urheberrechtlich von Interesse ist oder im Rahmen des geistigen Eigentums von Interesse ist. Und wenn ich jetzt sozusagen wieder zurück zu dem Beispiel in der Realität, wenn ich jetzt sage, ich habe diese ganz tolle Idee und gehe zu diesem Bildermacher, der malt dann für mich dieses Bild, was ich in meinem Kopf habe, wer ist dann Urheber?

Ja, der sogenannte Bilder machen, also der Maler. Also wenn ich jemandem sage, bitte mal ein Bild von mir, dann ist er, also die Diskussion ist ja insofern nicht neu, da kann ich vielleicht dann urheberrechtlich so ein bisschen ausholen, dass die Frage danach, wer Urheber ist bei entweder mehreren Beteiligten oder bei Beteiligten, die nicht menschlich sind, durchaus ja schon mal geführt wurde und auch immer mal wiedergeführt wird. Und es läuft immer darauf hinaus, dass derjenige Urheber wird, der aufs Endergebnis in der Art schöpferisch eingewirkt hat, dass er, wenn er denn urheberfähig ist, also als natürliche Person, keine Affen oder irgendwas, auch keine Maschinen oder Unternehmen, derjenige Urheber ist, der das Ergebnis schöpferisch bestimmt hat. Und ich tue mich insofern schwer, wir haben ja zum Beispiel auch die Konstellation, dass ich jemandem sage, bitte mach folgendes, erstell mir ein Bild von einem, mal mir ein Bild von einem Haus und wenn diese Person hergeht und malt ein schönes Bild vom Haus, dann habe ich denjenigen, also den ausführenden Maler als Urheber dieses Bildes, selbst wenn ich gesagt habe oder den Auftrag gegeben habe, mach das bitte.

Wenn ich jedoch, und das ist die einzige Ausnahme, die es geben kann und wo die Rechtsprechung es zulassen würde, es aber in der Vergangenheit in einer ganz, ganz, ganz, ganz, ganz geringen und in der Praxis nicht wirklich relevanten Anzahl der Fälle zugelassen hat, dass ich so konkret alles vorgebe, dass also keinerlei Gestaltungsspielraum mehr durch denjenigen, der da agiert, tätig ist, dass man sagt, okay, dann bin ich sogar Urheber, auch wenn ich den Pinsel nicht in der Hand habe, weil letztlich der andere mein Werkzeug war. Wenn man jetzt weitergeht und sagt, okay, das überträgt man auf diese Konstellation, dann müsste ich aber die KI und den Bildgenerator so sehr beeinflussen, und zwar so beeinflussen, dass er keine Wahl mehr hat, ob das jetzt rot ist, wie breit der Strich ist, wie lang der Strich ist, welche Augenfarbe irgendwer hat und sonst was, dass ich da irgendwelche Rechte dran erwerbe. Und das halte ich im Moment noch für schlichtweg nicht möglich, weil die Ergebnisse, selbst wenn ich Prompts kaufe, die identisch sind, ich gebe die einmal ein, da kommt was anderes raus, ich gebe sie nochmal ein, da kommt was anderes aus. Ich habe nicht im Griff, was hinten rauskommt, in Anführungsstrichen.

Ja, so ein bisschen, also ich überlege jetzt gerade, wie man das möglicherweise beweisen könnte in der Realität. Und ich könnte mir vorstellen, dass wenn zum Beispiel ein KI-Bildgenerator auf einen Prompt immer vier verschiedene Bilder rausgibt, also es passiert häufiger, dass die nicht nur ein Bild immer erzeugen, sondern gleich vier oder mehr Bilder erzeugen und du dir dann aussuchen kannst, was dem am nächsten gekommen ist. Und wenn der Prompt so genau ist, dass die KI dir viermal dasselbe Bild, beziehungsweise einfach nur ein Bild erzeugt, obwohl sie eigentlich mehrere Bilder erzeugen sollte, Ich glaube, dann könnte man darüber reden, dass man genau das, was du sagst, erreicht hat. Also dann ist die KI wirklich nur noch ein Werkzeug und sie hat sich selbst nicht in der Lage gesehen, irgendwas anderes zu tun, als dieses eine Bilderzeugnis zu erschaffen.

Und das ist vielleicht ganz interessant. Das ist dann, glaube ich, aber auch so ein Punkt, wo dann wieder die Masse der Trainingsdaten eine Rolle spielt. Es ist ja, glaube ich, das haben wir, glaube ich, tatsächlich mal diskutiert und besprochen, aber im Zusammenhang mit Textgeneratoren oder ChatGPT in dem Fall, dass die KI ja immer versucht ist, ein Ergebnis zu finden. irgendein passendes zur Anfrage oder zur Anfrage passendes Ergebnis zu finden.

Und dabei eben bei Textgeneratoren ist es so, dass er sich dann auch falsche Antworten ausdenkt, damit es eine Antwort gibt, damit es eine plausible Antwort gibt. Ganz konkret hatten wir mal zu rechtlichen Themen da so ein paar Anfragen gestellt und haben dann gesagt, naja, welche Rechtsprechung gibt es da und was gibt es da insgesamt so für Vorgaben. Und dann hat ChatGPT an dem Punkt Urteile erfunden. Und diese Urteile sind aber, also wenn man den Text gelesen hätte und man hätte den irgendwo veröffentlicht und jemand, der sich nicht damit auskennt, hätte gesagt, ja, klasse, da sind ja rechtliche Ausführungen, die sind irgendwie stimmig und da sind Urteile zitiert, das wirkt wirklich seriös.

Diese Urteile gab es aber nicht. Der Aufbau der Aktenzeichen war aber tatsächlich so, wie sie dann eben Urteile haben. Und es ist auch so, dass es zum Beispiel die Kammern der jeweils zitierten Landgerichte auch gab. Und wir haben uns damals die Mühe gemacht und haben drei Urteile rausgenommen, die er da zitiert hat, und haben bei den Pressestellen der Gerichte angefragt und haben uns gebeten, diese Entscheidung zu übersenden.

Und alle drei Gerichte haben geantwortet und haben gesagt, ja, also wir haben ein Urteil unter dem Aktenzeichen, zu dem Datum, was sie da angeben, gibt es hier nicht. Das war inhaltlich, gehörte dazu, was völlig anderem. Und zwei haben gesagt, diese Urteile gibt es nicht. Und nach außen hin sahen sie aber täuschend echt aus.

Und das ist, glaube ich, auch so ein bisschen der Clou der KI, dass sie eben zwanghaft versucht, eine Antwort zu finden, die an ein bisheriges Muster anknüpft. Und deswegen glaube ich, dass wir es bei der Masse der Trainingsdaten, das sind ja, ich weiß gar nicht, wie ich den Begriff dafür bilden soll, wie viele Nullen da hinten dran müssen, von Bildern und Möglichkeiten, wie Dinge aussehen können. dass wir es nicht schaffen werden, mit einem Prompt nur ein einziges Bild immer und immer wieder hinzukriegen. Eine letzte Idee, die mir jetzt gerade noch gekommen ist, weil du ja von dem schöpferischen Einwirken darauf gesprochen hast, ganz zu Beginn, wäre ja, wenn man sagt, naja, alle Urheber, die Teil des Datensatzes sind, das zum Training verwendet wurden, die werden jeweils in Anführungsstrichen geteilte Urheber, der erzeugten Bilder.

Und das wäre jetzt so meine letzte Überlegung, was noch sozusagen im Raum steht. Wie stehst du dazu? Da habe ich mir noch keine Gedanken drüber gemacht, dass quasi alle Urheber der Ursprungswerke mit Urheber sind. Also ich sage mal so, es wird eigentlich gesagt, dass jeder einen schöpferischen Anteil dann am Gesamtwerk haben muss.

Und das würde ich für schwierig erachten im Hinblick darauf, was dann an Teilen da noch übrig bleibt am Gesamtwerk. und dass es so viele sind, dass der Teil jedes Einzelnen wohl verschwimmen wird und nicht mehr erkennbar ist. Also insofern, ja, weiß ich nicht, glaube nicht. Ja, das ist auf jeden Fall eine sehr sinnvolle Überlegung.

Also das wahrscheinlich einfach, wie du gerade gesagt hast, wir wissen ja einfach nicht, wie viele Nullen alleine an die Anzahl der Daten, die da drin sind, in den Datensätzen gehören. Und dann soll jeder von denen auch, und diesen Personen soll dann auch noch Urheber sein. Das funktioniert ja nicht, weil welches minimalste Recht soll man denn dann noch ausüben können? Ich habe noch eine kurze Sache, das ist mir noch eingefallen.

Das kommt in der Diskussion häufig, finde ich jedenfalls aus rechtlicher Perspektive, noch nicht so ganz raus, dass wir ja insofern, jedenfalls auch in Deutschland, die spezielle Regelung haben, dass gerade bei Bildern nicht nur Werke geschützt sind, die eine schöpferische Leistung enthalten, sondern eben auch sogenannte Lichtbilder, also nicht Lichtbildwerke. Werk bedeutet immer, dass ich irgendwo auch eine schöpferische Leistung habe, sondern ein reines Lichtbild. Das ist ein sogenanntes Leistungsschutzrecht. Und wie der Name schon sagt, wird damit eben nur eine Leistung geschützt.

Das ist eine relativ alte Regelung. In der Fotografie war es eben jedenfalls früher, technisch mit einem relativ großen Aufwand verbunden, Fotos zu erstellen. Und deswegen wurde gesagt, okay, allein die Tatsache, dass du so eine Leistung erbringst, ist schützenswert und deswegen schützen wir auch das, was bei deiner Fotografieanstrengung herauskommt. Das führt im Moment zu dieser Situation, dass, salopp gesagt, jeder Schnappschuss urheberrechtlich geschützt ist oder leistungsschutzrechtlich geschützt ist.

Und wenn man das überlegt, dann kommt man immer noch die Frage, wer diese Leistung erbringt, aber wohl auch ohne schöpferische Leistung dazu, dass die Outputs von KI-Generatoren als Lichtbilder schutzfähig sind. Und die Frage ist dann, wem dieser Lichtbildschutz zukommt, weil da die technische Leistung, da könnte man dann vertreten, dass man sagt, naja, die Programmierung der KI, das Sammeln von Trainingsdaten etc., das ist ja eine Leistung eigentlich des Anbieters ursprünglich. Und wenn man das dann weiterdenkt, hätte der Anbieter jedenfalls einen Lichtbildschutz. Nur um vielleicht die Gegenseite zu beleuchten, man könnte bestimmt genauso sagen, vielleicht eine Analogie zur bisherigen Welt, wenn der Schnappschuss mit meinem Handy mir dann der Leistungsschutzrecht zugutekommt und nicht dem Handyhersteller beispielsweise, dann wäre es doch bei der KI dann ebenso ich, der ich die Eingabe mache, dem das Leistungsschutzrecht zugutekommen sollte.

Also mit dieser Analogie, ich weiß, die hinkt etwas und man muss da sehr vorsichtig sein mit dieser, ich weigere mich eigentlich das zu sagen, aber mit dieser neuen Welt der KI-Bildgeneratoren muss man vorsichtig sein, da solche Analogien zur, Anführungsstrichen, alten Welt zu machen. Aber ich finde, das könnte sich zumindest hören lassen, beziehungsweise kann man so vertreten zu sagen, dass die KI nur das Tool ist, das sozusagen in der Mitte steht. Ja, also es ist auf jeden Fall ein Punkt. Ich glaube, was man daran ganz gut sieht, ist, dass es eben auch wir kein Ergebnis haben.

Also es gibt, da haben wir nachher noch ein Urteil zu, über das wir sprechen, ja aus den USA mittlerweile eine Entscheidung zu einem Punkt, der sich mit KI beschäftigt. Aber über viele, viele Fragen ist es halt im Moment nicht möglich, eine Entscheidung zu treffen. Also was man, glaube ich, und da kann man das Thema vielleicht so ein bisschen zusammenfassen, wer ist Urheber? Im Ergebnis ist es unklar, ob es überhaupt einen Urheber in dem Sinne gibt, dass man eine schöpferische Leistung schützen muss, dass es vielleicht ein Leistungsschutzrecht gibt.

Und ja, kann man vertreten. Wem diese Rechte zugutekommen, ja, auch da wird man sagen müssen, wird natürlich immer derjenige, der in seiner Position steht, was anderes vertreten. Das liegt in der Natur der Sache. Und die Anbieter werden sich ganz sicherlich auf ihre Nutzungsbedingungen stützen und sagen, naja, selbst wenn du irgendwelche Rechte hast, du hast unsere Nutzungsbedingungen akzeptiert, indem du unseren Dienst benutzt hast.

Und da steht ja ganz klar drin, wir haben alle Rechte. Ob das nachher zulässig ist, ob das AGB-technisch vielleicht unwirksam ist, etc. Das ist ja nochmal eine andere Frage. Insofern ist es spannend, darüber zu diskutieren.

Und ich glaube, das kam raus, dass man viele Meinungen vertreten kann. Und das auch, wenn man nicht Jurist ist. Und es gibt ja, glaube ich, auch ganz viele Interessen, die da einfach jetzt miteinander und gegeneinander arbeiten. Und das ist im Bereich der Text-KI, der Bild-KI so, weil einfach auch manche Gruppen ein bisschen Angst haben, dass jetzt vielleicht die eigene Leistung nicht mehr notwendig ist am Markt.

Und da sind durchaus auch berechtigte Interessen unterwegs. Und das in Einklang zu bringen, wird, glaube ich, schwierig. Eine klare Endaussage ist da, glaube ich, schwierig. Ja, besonders auf politischer Ebene wird das schwierig dann zu sagen, also gerade auf europäischer Ebene dann zu sagen, wir wollen einerseits den Forschungsstandort, aber auch diesen Wirtschaftsstandort Europa sozusagen beibehalten oder sogar fördern und den Markt offen halten für alle möglichen neuen technologischen Fortschritte, wie beispielsweise halt KI-Bildgeneratoren.

Aber auf der anderen Seite wollen wir Urheber schützen, wollen wir die Nutzer schützen. Da ist noch viel im Gange, da muss auch noch viel im Gange sein. Klar, man könnte natürlich auch vertreten, lass doch einfach sein und lass alle machen, alle Beteiligten und die sollen wissen, wie sie damit klarkommen. und wir haben Verbraucherschutzrecht und sobald das betroffen ist, oder Datenschutzrecht und sobald das betroffen ist, greifen wir ein und vorher nicht.

Das könnte man auch als Überlegung anbringen. Weiß ich jetzt nicht, ob das so vertreten wird in der Diskussion. Es ist schwierig. Also dabei wollen wir es vielleicht dann auch belassen.

Ein letztes Thema, was wir noch ganz kurz anschneiden wollen, bevor wir zum Urteil kommen, wäre noch die Frage mit dem Recht am eigenen Bild im Zusammenhang mit KI-Bildgeneratoren. Und zwar ist es ja so, wie ich auch, glaube ich, an anderer Stelle schon vorhin gesagt habe, man kann jetzt Bilder von sich irgendwo hochladen und dann erstellt die KI Bilder von einem selbst in anderen Szenarios. Und jetzt ist es ja so, dass ich auch ein Bild hochladen könnte von einer anderen Person. Der KI-Bildgenerator erstellt dann Bilder von dieser anderen Person in diesen Szenarios.

Und jetzt könnte ich zum Beispiel Dennis von dir Bilder hochladen Und dann erstellt die KI Bilder von dir und ich nutze die irgendwie. Und noch eine Ebene weiter könnte ich jetzt dein Gesicht Photoshoppen auf den Körper einer anderen Person. Die KI erstellt mir Bilder von deinem Gesicht auf diesem beispielsweise Astralkörper. Und diese Bilder benutze ich dann und veröffentliche oder mache daraus eine Collage.

Und da stellt sich für mich die Frage, wie ist es jetzt mit dem Recht am eigenen Bild? Weil das ist ja eigentlich, könnte man ja zumindest behaupten, erstmal kein Bild von dir. Das wurde ja einfach erzeugt, das ist ja nur computergeneriert. Ja, das Schöne ist, dass da, also jedenfalls würde ich da sagen, dass die Lage oder die Rechtslage einigermaßen klar ist.

Also das Recht, was da Anwendung findet, das Kunsturheberrechtsgesetz und dann natürlich auch im Zusammenhang damit die Datenschutzgrundverordnung, geht erstmal davon aus, sobald eine Person erkennbar ist, haben wir einen Anwendungsbereich. Und solange ich als Person, egal in welcher Form, da noch erkennbar bin, habe ich einen Anpack gegenüber demjenigen, der das Bild nutzt. Das heißt, ob das derjenige ist, der das Bild nachher irgendwie auf eine Website stellt oder sonst was, kann ich sagen, okay, lass das. Und theoretisch habe ich auch einen Anpack gegen denjenigen, der dann ohne meine Einwilligung, das ist natürlich immer der Punkt, ein Bildnis von mir in die KI gibt.

da würde ich sagen, dass man da von einem Verbreiten ausgehen kann, weil ich werde es auf jeden Fall auf andere Server transferieren damit und das passiert ohne meine Einwilligung und wenn ich nicht sicherstellen kann, dass das nur für mich ist, sondern auch wieder Teil von Trainingsdaten wird und dann ja theoretisch auch andere darauf zugreifen können, dann vielleicht versehe ich das ganz, vielleicht habe ich in den Metadaten noch meinen Namen drin, so dann landet das als Trainingsdatum irgendwo und dann sagt irgendein Dritter irgendwo, ja, gib mir ein Bild von Dennis Tolle aus und plump erscheint da mein Gesicht, dann hätte ich auf jeden Fall einen Anpack, gegen wen das dann gerichtet ist, wenn es bei der KI ist. Da muss man ein bisschen schauen, Anbieter etc. Aber da sehe ich nicht das große Problem. Ich glaube, das ist dann auf einer ganz anderen Ebene datenschutzrechtlich ein Riesenproblem vielleicht.

Ja, das ist doch ganz schön, dass wir auch mal eine Sache noch beleuchten konnten mit KI-Bildgeneratoren, die rechtlich jetzt nicht ganz so problematisch ist. Ich glaube, die Beweisfrage könnte dann problematisch werden. Also wie weise ich nach und da sind wir vielleicht sogar ein bisschen wieder ganz beim Anfang vom Thema. Wie weiß ich bei diesen ganzen Datensätzen, wie weiß ich bei diesen ganzen Eingaben nach, wer die gemacht hat, wie die gemacht wurden, ob ich da drin enthalten bin oder nicht.

Da muss man wirklich sagen, dass es noch ein ganz offenes Feld, da sehe ich auch Potenzial, dass da rechtliche Verpflichtungen entstehen werden könnten oder den Anbietern auferlegt werden, dass sie da gewisse Offenlegungspflichten haben werden. Die Unsicherheiten, die mit diesem ganzen Gebiet einhergehen, basieren ja unter anderem darauf, dass wir bislang keine oder nur ganz, ganz wenige gerichtliche Entscheidungen haben. Deswegen nutze ich diese Überleitung mal, um das eine Urteil, was wir mitgebracht haben, jedenfalls einzuleiten. Also das Urteil, die Entscheidung nenne ich es mal.

Das ist auch keine deutsche Entscheidung oder europäische Entscheidung, sondern eine Entscheidung des US Copyright Office, des USCO. Und da ging es eben vielleicht zur Erläuterung darum, also ich kann urheberrechtlich geschützte Werke oder andere Werke beim Copyright Office in den USA hinterlegen, also registrieren und dann werden die da registriert und dann kann man überlegen, ob man da ein Claim gegen einreicht und kann in Frage stellen, dass das urheberrechtlich geschützt ist etc. Es gibt mehrere Wege, um da eine Entscheidung zu erwirken, dieses Office. Und in dem konkreten Fall ging es um eine Bildergeschichte von einer Autorin, von einer Bildautorin, die ihr Werk da angemeldet hat und registriert hat.

Und das UCO letztlich darüber zu entscheiden hatte, ob diese Bildergeschichte schutzfähig ist. Und das ist die einzige mir bekannte Entscheidung, die sich über die Frage der Schutzfähigkeit von KI-generierten Inhalten überhaupt verhält, aber die auch insofern relativ klar zwischen einzelnen Punkten differenziert. Ja genau, also wir müssen jetzt sehr vorsichtig sein, dass wir das klar rüberbringen. Deswegen nur nochmal die Nachfrage.

Es geht hier um die Bildergeschichte als Gesamtes und nicht um die einzelnen KI-generierten Bilder. Also die KI hat ja nicht die Bildergeschichte so in dieser Kombination auch erschaffen, sondern eben nur die einzelnen Bilder. Und die Autorin hat die dann zusammengeführt zu der Geschichte. Genau.

Also letztlich, wie so eine Bildergeschichte in der Regel in Anführungsstrichen aussieht, Wir haben Bildanteile, wir haben Textanteile und wir haben eben die gesamte Geschichte als Kombination von Bild und Text. Und das USCO hat sehr klar gesagt, dass in dem Fall war das Midjourney, der Generator Midjourney, den die Autorin dann genutzt hat, für die Bilder, für die Erstellung der Bilder, die sie im Nachhinein selber dann nochmal mit Photoshop bearbeitet hat. Und das USCO hat im Ergebnis gesagt, dass diese Bildergeschichte schutzfähig ist, weil diese Bildergeschichte ähnlich wie in Deutschland eine Schöpfungshöhe enthält. Das heißt also einen hohen kreativen Anteil der Autorin als Person, die gesagt hat, okay, ich kombiniere Text und Bild in einer Form, dass sich eine Geschichte ergibt und das Gesamtwerk ist geschützt worden.

oder das USCO hat gesagt, das ist urheberrechtlich schutzfähig nach US-amerikanischem Recht. Und diesen Gedanken kann man, glaube ich, auch aus deutscher Perspektive und europäischer Perspektive so mittragen. Das USCO hat aber dann auch ein bisschen was dazu gesagt, welche Teile vielleicht nicht schutzfähig sind. Und da ist natürlich der Punkt, ganz interessant sind diese Bilder, die von MidJourney generiert worden sind und im Nachhinein, das muss man auch sagen, nochmal bearbeitet worden sind von der Autorin, die sollen nicht schutzfähig sein.

Und zwar relativ pauschal, oder was ist relativ pauschal, also UCO hat gesagt, dass Midjourney eben kein Werkzeug ist, das von der Bildautorin kontrolliert und gesteuert wird, sondern eben auf unvorhersehbare Weise Bilder erzeugt. Und deswegen kann sie nicht Autorin oder Urheberin im Sinne des Urheberrechts sein von Werken, die diese Technologie erzeugt. Also grundsätzlich bin ich dabei. Das ist okay.

Ich weiß nicht genau, wie weit sie auf diesen Gestaltungsprozess tatsächlich Einfluss genommen hat durch diese Nachbearbeitung mit Photoshop. weil es ist ja durchaus möglich, wenn ich ein bestehendes Werk habe und ich bearbeite das in einer bestimmten Art und Weise, dass ich ein gesondertes Urheberrecht am Endergebnis erwerbe. Da weiß ich offengesagt nicht, wie viel sie da an schöpferischer Leistung noch erbracht hat. Ich persönlich stelle mich auch ein bisschen an dem Begriff der Unvorhergesehenheit.

Das USTO hat ja jetzt darauf verwiesen, dass das Ergebnis eines KI-Bildgenerators in dem Fall mit Journey unvorhergesehen ist. Und ich bin mir noch nicht sicher, und da sind wir uns, glaube ich, allesamt technologisch auch noch nicht sicher, inwieweit das stimmt. Inwieweit KI wirklich unvorhergesehene Ergebnisse erzeugt oder es doch mehr wie ein Werkzeug ist. Natürlich, wenn wir uns zurückerinnern an den eingangs eingebrachten Begriff der künstlichen Intelligenz, müsste es per Definition eigentlich so sein, dass die KI selbstständig sozusagen ein Ergebnis erzeugt und damit dieses Ergebnis auch nicht vorhersehbar ist, wie es bei einem normalen, in Anführungsstrichen, Programm ist.

Trotzdem muss ich gestehen, dass mich da noch, vielleicht habe ich auch technologisch zu wenig oder noch Verständnisschwierigkeiten, dass ich das begreifen kann, dass es wirklich sozusagen so unvorhergesehen ist. Ja, also wie intelligent ist die KI wirklich und wie viele Entscheidungen kann sie selber treffen? Ich glaube, da ist in der Tat, da bin ich offen gesagt auch nicht sicher, ob die Menschen, das ist ja nicht ein Mensch, der da sitzt und daran rumprogrammiert, sondern es sind ja hunderte und inwieweit es da auch vielleicht eine Gesamtfassung gibt, was denn möglich ist und was nicht. weil gefühlt kommen alle zwei Wochen neue Versionen dieser KI raus und sie sind besser und klüger und schneller und alle.

Deswegen ist auch da, vielleicht um das rund zu machen, dieser Anfangsgedanke, da mal kurz irgendwie auf die Bremse zu treten und zu sagen, okay, warte mal, wir müssen mal gerade schauen, wo stehen wir denn gerade? Was kann die KI, was kann sie nicht? Wo können wir beeinflussen, wo nicht? Es ist ja ganz nett, irgendwelche Diskussionen mit irgendeiner KI zu führen.

Es gibt ja etliche Beispiele, wie das dann eskalieren kann, wie das nicht eskalieren kann, wie das witzig ist oder was. Aber für die tatsächlich ernsthaften Fragen, wie kann ich das Ganze verlässlich einsetzen und ganz sicherlich ist es auch eine der Fragen, wie kann ich damit Arbeitskraft einsparen. Das dürfen wir nicht irgendwie unter den Tisch fallen lassen. Das ist ja auch das, was vielen Leuten Angst macht.

Das ist, glaube ich, im Moment einfach unfassbar schwer einzuschätzen. Ja, und ich glaube, die allerletzte Frage, die sich für mich dann daran anschließt, im Prinzip an das, was du gerade gesagt hast, ist, wie mache ich dann auch auf rechtlicher Ebene das allen Beteiligten klar, was bedeutet das, was technologisch da vorgeht? Das bedeutet, sind die Mitglieder bei der USTO, waren die sich vollkommen im Klaren darüber, was ein KI-Bildgenerator macht, wie ein KI-Bildgenerator die Dinge tut, die er tut. Ist das bei deutschen Gerichten später dann?

Also wird es deutschen Gerichten, muss man ja auch dann genau klar machen, was technologisch da vor sich geht. Und deswegen, klar, wir müssen erstmal die Technologie selber verstanden haben. Irgendwer muss die dann verstanden haben, die Wissenschaft von mir aus. Und dann müssen wir das aber auch noch umformen in die rechtliche Ebene.

Und das ist noch ein langer Weg. Das ist, glaube ich, ein gutes Schlusswort. Es ist ein langer Weg einer durchaus spannenden Entwicklung, aber nicht immer nur toll, auch wenn es, glaube ich, durchaus Potenzial hat, Dinge im Positiven voranzubringen. Damit haben wir diese Folge auch, glaube ich, ganz gut gefüllt mit Inhalten.

und wir freuen uns, wenn ihr gerne zugehört habt und ein bisschen was mitnehmen konntet aus der Folge. Wir haben alle Infos, auf die wir irgendwie verwiesen haben, in den Shownotes untergebracht, insbesondere natürlich den Verweis auf die Entscheidung vom USCO und wir werden ganz sicher bei neuen Entwicklungen auch wieder auf dieses Thema zurückkommen. Ihr findet die Shownotes und alle bisherigen und folgenden Folgen zum Nachhören und Nachlesen unter kaffeerecht.de und ich sage an dieser Stelle auf Wiederhören und schön, dass ihr zugehört habt. Ja, auch von mir noch ein paar Abschiedsworte.

Wie ihr vielleicht auch schon gemerkt habt, probieren wir noch etwas mit den Folgen herum, was die Themenauswahl angeht, wie wir die Themen aufbauen. Deshalb freuen wir uns natürlich sehr über Kritik, über Anmerkungen, dass wir die auch einbauen können. Themenvorschläge sind natürlich auch sehr willkommen. Dafür wendet euch gerne an podcast.tvw.lor und damit freuen wir uns.

Bis zum nächsten Mal. Untertitelung des ZDF, 2020