Willkommen zum Podcast Kaffee Recht von der Kanzlei TVW Law mit rechtlichen Themen für kreative Unternehmer und Unternehmen. Hallo und herzlich willkommen zu einer weiteren Folge unseres Podcasts Kaffee Recht an diesem Mikrofon wie gewohnt Dennis Tölle und am anderen Mikrofon Marwan Eriefei Hallo auch von meiner Seite die 51. Folge steht an wir sind bereit heute geht es mal wieder um KI KI vor Gericht insbesondere das heißt wir schauen uns mal wieder nur Gerichtsentscheidungen an bzw. nicht nur Entscheidungen sondern auch laufende Verfahren ja ich bin auf jeden Fall gespannt was es da so ein neues gibt was es neues gab was wir jetzt vorstellen werden ja genau also wir haben jetzt tatsächlich schon etwas länger nicht mehr über KI gesprochen aber das Thema ist ja allgegen wertig in ganz unterschiedlichen Konstellationen und die also jedenfalls ein Auszug der aktuell laufenden Verfahren oder kürzlich abgeschlossenen Verfahren wollen wir dann heute mal darstellen damit man vielleicht so einen kleinen Einblick bekommt weil tatsächlich am Anfang kurz nach diesem großen KI Hype ist es ja so gewesen dass es nicht lange gedauert hat bis da irgendwelche Verfahren auch Medien wirksam angestoßen worden sind da ist es ja gefühlt ein bisschen ruhiger geworden so dass man sich die Frage stellt passiert da denn noch was was ist denn da gerade der Stand der Dinge und da haben wir uns ein paar Sachen rausgesucht ich fange einfach mal an und zwar mit einer Entscheidung die relativ jung ist und zwar geht es dabei um den Entscheidung des europäischen Gerichtshofes und darum dass nach einer Vorlage Frage eines österreichischen Gerichts über die Frage einer Auskunftspflicht entschieden werden musste es ist so dass das kein klassisches also diesem Verfahren lag keine klassische generative KI zugrunde sondern es ging im wesentlichen darum dass ein österreichisches Gericht den OGH angerufen hat und gefragt hat wie umfangreich ist denn eigentlich meine Auskunftspflicht basierend auf der Datenschutzgrundverordnung im Zusammenhang mit einer bestimmten Konstellation und diese Konstellation war die das ist ein ja ich sage mal so eine sogenannte Auskunfttei also so ein Credit Storing Unternehmen seine Arbeit gemacht hat sage ich mal im wesentlichen das heißt die Daten die so eine Auskunfttei hat um zum Beispiel zu berechnen welchen Score also welche Bewertung ein Unternehmen aus wirtschaftlicher Sicht hat wie diese wie dieses Verfahren die Hintergründe die Algorithmen etc.

zu Beauskunften sind konkret hatte eine Betroffene im Rahmen oder eine Betroffene angefragt gesagt ja ich hätte gerne Auskunft darüber wie meine Daten hier bei euch verarbeitet werden und ich möchte gerne wissen welche welche Logik dahinter steht das ganze ist jetzt nicht neu also das gibt es auch bezogen auf deutschland ansässige ansässige Auskunftteien die dann natürlich vielleicht so ein bisschen auch betriebsbedingt sagen naja wir wollen ungern sagen wie diese Berechnung erfolgt wie diese Logik aussieht wie wir dieses Score berechnen nach denen wir dann ja dann ein Unternehmen ranken wirtschaftlich und da ging es in österreich eben soweit dass man gesagt hat okay jetzt müssen wir das vielleicht mit dem OGH vorlegen und fragen was muss denn aber auskunftet werden ja vielleicht eine lustige eine Dorte dazu wenn man irgendwo was versucht zu mieten dann muss man ja ganz häufig auch eine selbstauskunft einholen von der also von irgendeiner solcher auskunft teil haben bekanntestens wahrscheinlich auch die schufer die auch gegenstand oder teilnehmerin eines verfahren zwar vom OGH zu einer zeit und das hatte ich gemacht und dann hatte ich ein schufer score von unter 100 und ich dachte okay und 100 ist das beste was geht und ich hatte irgendwie irgendwas mit 90 und dann habe ich mich wirklich gefragt was ist hier los ich habe in meinem leben nie einen kredit aufgenommen ich habe nie ein kredit abbezahlt ich habe keine schulden und dann kam heraus oder das ist zumindest die urban legend die mir dann so berichtet wurde ich will hier nicht behaupten dass das die war der wahrheit entspricht dass es so ist dass es besser ist aus sich der schufer oder einer solchen auskunft teil dass man schon mal einen kredit abbezahlt hat und schon mal sozusagen schulden aufgenommen hat und gezeigt hat ich kann die auch abbezahlen als wenn man das noch nie gemacht hat und das heißt die hundert oder nah an hundert kommt man nur dann ran wenn man sich so schon mal betätigt hat das fand ich auf jeden fall witzig und deswegen kann ich es auf jeden fall verstehen wenn andere manchmal nachfragen hey wie kommt eigentlich dieser score hier zustande das ist dann doch recht intransparent wenn man einfach nur diesen brief bekommt sozusagen mit hier dass es ihr score und dann hast du erst mal direkt einen neuen laptop finanziert oder nein nein ich habe nichts daran geändert und hatte gehofft das vermieter genauso wie ich jetzt neu wissen wie dieser score zu bewerten ist und dass das eigentlich dann doch ein hoffentlich guter score ist und ja hat auch geklappt ja aber in der tade ist ja so dass davon ja einiges abhängt also gerade diese in anfangen stich pauschale bewertung du bekommst jetzt hier von uns eine nummer und diese nummer entscheidet dann vielleicht darüber ob du einen kredit bekommst ob du eine mietwohnung bekommst ob du sonstige finanzielle leistungen in anspruch nehmen kannst oder eben nicht und das bedeutet dass man ja schon ein bisschen davon abhängig ist und das bedürfen ist dass das transparent passiert ist groß und schon häufiger auch gegenstand von streitigkeiten gewesen und der zusammenhang mit k i den müssen wir jetzt vielleicht gerade nochmal herstellen weil diese diese berechnung und diese logik basieren tatsächlich ja auch auf automatisierten entscheidungen also schon auch entscheidungen die sich einer künstlichen intelligenz bedienen nicht zwingend oder nicht zwingen also eigentlich gar nicht generativ wie man es jetzt so klassisch populär kennt chachi bt und co aber trotzdem sind es jedenfalls automatisierte entscheidungen und so ganz 100 prozent können wir ja auch nicht reinblicken oder sagen okay das ist es weil das ist ja demagrat das geheimnis aber zurück zum fall der europäische gerichtshof hat nachdem das österreichische gericht ihn angerufen hat gesagt was was ist denn jetzt der umfang dieses in diesem fall ist das artikel 15 dsg vo wie umfangreich muss denn so eine so eine auskunft erteilt werden wenn das so automatisierte entscheidungsfindungen gibt und da hat der egh relativ klar gesagt er hat wörtlich gesagt dass die betroffene person die dann die auskunft bekommen kann von dem verantwortlichen also in diesem fall dieser auskunft teil neben aussage kräftigen informationen über die involvierte logik verlangen kann dass ihr anhand sachdienliche informationen und in präziser transparenter verständlicher und leicht zugänglicher form das verfahren und die grundsätze erläutert werden die tatsächlich angewandt werden um die sie betreffenden personen bezogene daten im automatisierten verfahren zur erzielung eines bestimmten ergebnisses etwa eines kredit profils zu verwenden so das war einsatz im wesentlichen sagt der egh also es reicht nicht dass ich grundsätzlich ein bisschen was über die logik sage darin sondern ich sehr konkret sagen muss und zwar sehr präzise sagen muss was passiert wann und wie mit welchem datum wie wird es berechnet welche ich sage mal welche grundsätze werden wendet dieses verfahren an und wie genau komme ich zu dem ergebnis dieses kredit profils die frage danach welche informationen dann dabei rumkommen kann vorhin ein schwer beantwortet werden weil das ist ja eben gerade unbekannt und in dem entsprechend ist das auch nicht Gegenstand des verfahrens gewesen wenn man das aber anwendet was der egh sagt wird man wahrscheinlich nicht drum herumkommen sehr genau zu sagen wie ich meine logik aufbauen weil ansonsten würde das wahrscheinlich diese an diesen anforderung nicht gerecht ich finde das sehr interessant weil es ja sozusagen auch beinhaltet dass man als laie verstehen muss wie es zu dieser entscheidung gekommen ist dadurch dass es ja transparent und präzise sein muss muss es ja für mich nachher als jemand der keine ahnung hat von euler rhythmen oder k i muss verstehen oder nachvollziehen können wie es zu so einer entscheidung oder wie es zu diesem ergebnis dem kredits score beispielsweise dann gekommen ist und die zweite sache die ich sehr interessant finde wenn wir aus Sicht der dsg vo das ganze denken ganz häufig hört man ja auch in der praxis dass dass man ja eigentlich dann nur wenn es um auskunftssansprüche geht die personenbezogenen daten die eben verarbeitet werden heraus gibt also man zeigt dann okay ich verarbeitet deinen namen deinen geburtstatum und vielleicht eine bankkonto daten sowas in dem spezifischen fall und das geht ja jetzt weit darüber hinaus das ist ja nicht nur verarbeitet diese diese diese personenbezogenen daten nein ich verarbeitete sie auch in dieser weise also dieser algorithmus schaut da zu diesem zeitpunkt an datum x y schaut er sich das an evaluiert und hat erschafft ein ergebnis das ist ja schon wesentlich darüber hinausgehend weil ich die verarbeitungsart ist eigentlich nicht einfach nur a ja ich habe k i x y sondern es ist k i x y die nach dieser und dieser logik arbeitet ja vor allen Dingen also was gerade nicht ausreichend ist das hat er auch gesagt ist wenn ich mathematische formeln angebe was ich schon für für relativ detailliert halte wenn ich die konkrete mathematische formel angebe nach der das berechnet wird allerdings ist eine formel natürlich auch dahin gehen abstrakt als dass sie dann auf irgendwelche variablen verweist so und das heißt ich reicht nicht dass ich einfach nur eine formel angebe oder dann die diesen einzelne einzelne schritte dieser formel beschreibe sondern es muss eben einen ganz konkreten individuellen bezug geben ich muss sagen okay basierend auf dieser formel habe ich mit deinem datum x habe ich mit deinem kontostand das gemacht habe dann berücksichtigt dass du weiß ich nicht da tausend euro minus warst dann hast du das nicht bezahlt dann wohnst du da und da dann und also hier punkte und dann muss man aus diesen konkreten einzelne informationen ersehen können warum in diesem individuellen fall dieses ergebnis zustande gekommen ist und das halte ich für für doch ein sehr sehr tiefgreifendes verständnis und weitgehendes verständnis zum mal das war in dem verfahren auch noch gegenständlich weil es in dem fall aus aus österreich kam da gab es eben noch eine besondere norm die der olg oder die das ein bisschen eingeschränkt hätte weil gesagt wurde dass das auskunftsrecht betroffener person in österreich eingeschränkt ist wenn es um den schutz von geschäftsgeheimnissen geht das heißt also bei dieser beauskunftung konnte man sich regelmäßig auf geschäfts regelmäßig auf geschäftsgeheimnisse berufen und sagen das können wir jetzt aber hier auch nicht rausgeben weil das betrifft ein geschäftsgeheimnis und das hat der olgh oder diese regelung hat der olgh allerdings als unionsrechtswiedrig beurteilt und somit kann man sich da wieder in österreich noch in deutschland sonstwo drauf berufen ja ich mein das wundert mich persönlich jetzt nicht weil die dhg fao ja explizit das nicht kennt als einschränkungsgrund während neuere andere gesetze die sich ja zum beispiel mit generell daten herausgabe beschäftigen data act die kennen das immer als einschränkungsgrund geschäftsgeheimnisschutz sozusagen als schranke der herausgabe ansprüche zugangsansprüche und die dhg fao kennt das explizit nicht und deswegen hätte es mich auch gewundert wenn ich dann einfach gesetzlich die dhg fao sozusagen ein einschränken kann ja ein sehr sehr spannendes urteil muss ich sagen weil es auch sehr sehr weitreichend ist dann würde ich aber dann auch weiter fortfahren nach dem wir den olgh abgearbeitet haben können wir zurück zu nationalen gerichten und zwar zum landgericht hamburg das hat in einem urteil eines urhebers eines fotografen gegen leion sich mit der frage beschäftigt wann text und datamining vorliegt und weil ich jetzt ganz viele begriffe benutzt habe die man vielleicht nicht auf den ersten blick versteht leion text und datamining klage nein Spaß will ich erst mal ein bisschen was erklären und zwar was ist leion oder la ion das ist wird benutzt als begriff für einen datensatz der von einer gleichnamigen deutschen gemeinnützigen von einem gleichnamigen deutschen gemeinnützigen vereinen erstellt wurde leion steht für large scale artificial intelligence open network und dieser datensatz wurde von dem vereinen erstellt und beinhaltet insbesondere bilder zusammen hängt mit einer bildbeschreibung die dann wiederum also dieser datensatz kann dann wiederum verwendet werden um k i zu trainieren da drauf bilder selber zu erkennen also neue bilder zu erkennen dieser datensatz ist inzwischen sehr sehr groß und der ist sogar frei zugänglich und ja dieser vereinen leion hat diese bild text pare mit hilfe automotor digital verfahren aus öffentlich zugänglichen internet quellen gesammelt und falls irgendjemand was sagt stable diffusion das k i modell von stability ai wurde darauf also basierend auf leion entwickelt und das heißt dieser leion datensatz ist halt eben auch dazu in der lage oder mit dem leion datensatz kann man nicht nur k i trainieren um bilder zu erkennen sondern selber auch k i bilder zu generieren also ist möglich damit generative k i zu trainieren ich sehe es richtig dass es basiert auf öffentlich zugänglichen quer diese diese bild text kombi die da drin enthalten ist ich glaube mittlerweile sind 5 8 billionen das ist milliarden milliarden wusste milliarden einzelne kombinationen die stammen alle aus öffentlichen quer öffentlich öffentlich zugänglich genau also wir müssen natürlich technisch öffentlich zugänglich richtig das ist glaube ich die einschränkungen die wir machen müssen denn wir kennen das ja oder es ist möglich dass ich ein bild im internet hoch lade dann ist es öffentlich technisch öffentlich zugänglich ich kann rechts click download auf jedes bild machen dass ich im internet erst mal finde das heißt aber noch lange nicht dass ich das darf und insbesondere darf ich dann das dann ja nicht weiter verwenden potenziell und deswegen öffentlich zugängliche internet quellen bezieht sich dann wahrscheinlich eher so auf den technischen aspekt nicht unbedingt darauf ob leion auch die genehmigung bekommen hat oder die ob da die verwertungsrechte sozusagen an leion gegeben wurden oder der gemeinheit freigegeben wurden diese bilder das ist auch so ein bisschen thema nämlich dieses falls denn ein fotograf hat geklagt gegen das gemeinnützige forschungsnetzwerk leion das sein bild eben in dieser freizugänglichen datenbank für k i training enthalten sei und damit wie du gerade gesagt hat es handelt sich um eines von sechs milliarden rund sechs milliarden bildern also eine sehr sehr großer datensatz inzwischen und der fotograf hat sich halt eben darauf berufen dass leion seine urheberrechte an diesem bild verletzt hat indem das bild heruntergeladen wurde also gescraped wurde von einer futur agentur website das ist ja wenn man das wenn man diesen teil nimmt das ist ja erst mal jedenfalls eine verfielfältigungshandlung könnte man mal annehmen dass es jedenfalls eine solche ist genau und leion bzw. und auch nachher das lg hamburg haben sich darauf berufen dass es möglicherweise oder durch das lg dann halt auch bestätigt um eine zulässige handlung handelt denn diese handlung dieses scrapen unterliegt der urheberrechtlichen schranke zugunsten der wissenschaft das ist der paragraf 60 d urheberrechtsgesetz und das ist um das jetzt einmal kurz zu erklären was bedeutet das denn schranke das bedeutet dass ich urheberrechte habe und diese dann sozusagen einen äußeren rahmen bekommen von so schranken und eine dieser schranken ist eben die wissenschaftliche nutzung dann habe ich als urheber verliere ich nicht unbedingt aber da enden meine urheberrechte und ich kann sozusagen sie nicht mehr durchsetzen und ich kann niemandem verbieten mein bild zu wissenschaftlichen zwecken zu verwenden und hier sah das lg hamburg eine wissenschaftliche verwende also eine nutzung zu wissenschaftlichen zwecken und was nämlich wichtig war für das gericht und das ist nämlich der entscheidende punkt ist dass es hier nicht darum ging dass leion k i trainiert hat sondern es geht darum dass das runterladen gegenstand von diesem gerichtsverfahren war also das runterladen eines bildes und dann analysieren zusammen mit einem algorithmus um sozusagen dieses bild text par zu erschaffen dass ich nachher in diesen datensatz findet das ist die verwertung handlung und diese verwertung handlung hat wissenschaftlichen hintergrund das nachträgliche training zugunsten um eine kaide daraus zu generieren oder zu erstellen oder zu verbessern das ist eben nicht gegenstand dieses verfahrens gewesen und da hat sich auch sozusagen das gericht davor verwahrt sich dazu zu äußern sondern die haben gesagt was ist gegenstand unseres verfahrens gegenstand unseres verfahrens ist das download des bildes von dieser seite der fotoregentur und dann zusammenführen mit einem passenden text und daraus entsteht ein neues bild text par und das ist eigentlich eine privilegierte handlung also eine handlung zur wissensgewinnung und nicht eben eine klassische verwertung handlung man muss natürlich dazu sagen es kommt im vereinen auch zugunsten dass er eben ein gemeinnütziger verein ist der eben selber keine wirtschaftlichen ziele oder zwecke verfolgt sondern eben das auch frei zugänglich zur verfügung stellt diesen datensatz und somit eben nicht open ai ist oder sowas wo man dann vielleicht sagen würde oh das ist aber ein wirtschaftlich denkendes unternehmen da handelt sich dann umso mehr um eine verwertung handlung also im ergebnis sagt das elgi hamburg also und stimmte damit höchstwahrscheinlich leih und zu das ist sich um eine privilegierte handlung handelt und damit sozusagen die urheberrechte oder die damit wurde eben die klage des urhebers abgewiesen das ist die eine seite vielleicht willst du was dazu sagen sonst nee ich hatte ich hätte jetzt noch ergänzt diesen kleinen teil den sie da so ohne ohne gefragt zu sein quasi gesagt haben ja das ist nämlich der eine teil und der andere teil ist ein sogenanntes obid uber uber bieter dictum wurde veröffentlicht oder hat das gericht diskutiert für diejenigen die es nicht wissen dass es so ein bisschen die möglichkeit für den gericht wenn es sich anbietet über eine rechtsfrage zu diskutieren die eigentlich nicht entscheidungstragend ist aber dennoch sozusagen nahe liegt und man sozusagen die chancen nutzen möchte als gericht einmal zu sagen hey wir sehen das so und so damit auch mögliche potentielle nachfolge fälle schon wissen okay das ist die ansicht des gerichts und möglicherweise kann man das dann sozusagen im hinterkopf behalten wenn man ja sich eben verhalten möchte in irgendeiner Weise und dieses obid da dictum beschäftigt sich nämlich mit der frage ob es sich um wann ein nutzungsvorbehalt maschinen lesbar ist worüber reden wir da wir reden darüber dass der paragrap 44 b uhrheber rechtsgesetz sagt dass text und datameinig theoretisch erlaubt ist aber wenn der urheber vorher ein maschinen lesbaren nutzungsvorbehalt an dem bild beispielsweise bild kann irgendein werk eigentlich sein aber an dem bild angebracht hat im internet dann ist dieser nutzungsvorbehalt zu beachten und dann darf ich dieses text und datameinig das beispielsweise dieses scraping umfasst darf ich dann nicht durchführen an diesem bild und das gericht hat sich jetzt da infrage was heißt eigentlich maschinen lesbar und zwar insbesondere ist natürliche sprache maschinen lesbar denn wenn ich in den metadaten irgendwie einen bestimmten code unterbringe dann ist das das ein das ist maschinen lesbar aber wenn ich jetzt einfach an das bild dran schreibe unten drunter oder in das bild rein vielleicht sogar dass da ein nutzungsvorbehalt gilt nach paragrap 44 b uhrheber rechtsgesetz reicht das aus und da hat das gericht gesagt in diesem obida dictum dass sie davon ausgehen dass bei moderner k i natürliche sprache als maschinen lesbar gelten muss denn moderne k i ist in der lage eben natürliche sprache aus auch auszulesen und ist nicht darauf angewiesen dass man bestimmte codes oder bestimmte vorgaben einhält sondern sind eben auch in der lage natürliche sprache einfach auszuwerten das haben die aber sozusagen eingeschränkt mit dem maßgabe dass das wirklich dann auch von der technischen entwicklung abhängt das heißt man müsste dann auch beweisen oder nachweisen dass das möglich ist wenn einig wenn k i oder algoritmen nicht in der lage werden natürliche sprache auszuwerten dann reicht das nicht aus für maschinen lesbarkeit denn es kommt eben auf die maschine an und nicht auf den menschen aber wenn sie denn in der lage werden und das ist dann sozusagen technologische entwicklung dann reicht das auch aus also jedenfalls wenn man es von außen betrachtet agiert ja insbesondere generative k i ja in natürliche sprache und ich gebe ein prompt in natürliche sprache da ein und es reagiert darauf dann macht es den eindruck als würde es natürliche sprache verstehen dass das bezogen ist dann auf die vorgelagerte technische instanz die dann ich sage mal scraped oder diese sachen erfasst gilt dass weiß man nicht aber soll man meinen dass das auch möglich ist also insofern kann ich das ganz gut nachvollziehen was das landgericht hamburg da sagt dann lass uns mal in norddeutschland bleiben ich habe nämlich noch ein ein urteil aus keel und zwar vom landgericht keel dass sich im wesentlichen mit k i generiertem text beschäftigt hat und da ging es um die frage inwieweit denn ein unternehmen das k i einsetzt nach außen hin einsetzt für die ergebnisse dieser k i haften muss es ging ganz konkret darum dass ein wirtschaftsinformationsdienst allgemein verfügbare daten nutzte unter anderem aus dem handelsregister etc um daraus automatisch unter nutzung von generative k i eine auswertung zu veröffentlichen und diese auswertung kommt dann eben zu einem ergebnis über die unternehmen die gegenstand diese öffentlichen informationen waren und da kam es zu dem fall dass fälschlicherweise über ein unternehmen berichtet wurde dass es vermögenslos sei und das ist dann durch ich meine durch durch zufall festgestellt worden es ging um ein mittelständisches familienunternehmen das angeblich vermögenslos gewesen sein soll und die information war wohl dass es aus dem handelsregister gelöscht werden soll das war komplett falsch und wie sich nachher rausstellte handelte sich dabei auch um eine verwechslung mit einer anderen firma und das unternehmen das da betroffen war gegen gegen diesen wirtschaftsinformationsdienst vor und sagte freunde das geht nicht da müsst ihr das müsst ihr unterlassen und ihr müsst eine unterlassungserklärung abgeben dass ihr das nie wieder tut das hat dieser dienst nicht getan die haben zwar die information gelöscht insofern also korrigiert aber haben keine unterlassungserklärung abgegeben was insofern vielleicht nachvollziehbar ist als dass sie sich dazu natürlich verpflichtet hätten auch künftig zu verhindern dass solche falsche informationen entstehen was aber technisch wahrscheinlich einfach nur schwer bis gar nicht zu kontrollieren ist wenn ich eben eine k i einsetze die ich einfach nicht zu 100 prozent unter kontrolle habe und das ist auch immer noch so würde ich behaupten dass also sowohl falsche informationen als auch falsche kombinationen und das sogenannte haluzinieren nicht hundert prozent ausgeschlossen werden können selbst wenn ich die quellen die ich dort eingebe unter kontrolle habe und da gab es dann einen verfahren vom landgericht kehl das landgericht kehl gesagt naja natürlich sind sie hier zur unterlassung verpflichtet weil sie haben freiwillig entschieden diese k i einzusetzen und die ergebnisse zu veröffentlichen und damit haften sie klar als störer für auf unterlassung bezüglich dieser diese informationen und das landgericht hat auch gesagt dass wenn man hier auf der wiederholungsgefahr abstellen möchte dass die ja nicht gegeben sei hat es gerade dadurch dass der dieser dienst bekräftigt hat dass er nur fremde daten veröffentlicht und ohne sich zu prüfen und dass diese pflichtinformation im handelszug ist auch unzuverlässig sein die gefall ja gerade untermauert wird dass das noch mal passiert und dementsprechend kann man daraus ziehen jeder der k i nach außen einsetzt steht muss dafür gerade stehen was diese k i ausspuckt und das ist so ein bisschen man man sieht es immer häufiger das abgesehen jetzt davon von den ganz großen anbietern das wir sagt hier chat gbt und co werfen informationen aus schreiben natürlich auch dazu achtung kann falsche informationen enthalten etc. ob das nur ausreichend ist steht auf einem anderen blatt aber wenn ich zum beispiel ein chat bot auf meiner website anbiete der automatisiert irgendwelche antworten gibt und diese antworten sind falsch also es gab den fall ja bei ich meine fluganbieter und dann musste das unternehmen dafür gerade stehen das ist nun mal kommt ja gleich noch in der folge er kann er da ist ja ja hat hatte probleme ja aber das das ist insofern eigentlich etwas was man meinen könnte klar wäre das ist klar wäre aber das landkrieg tiel hat es dann auch noch mal sehr deutlich aufgeschrieben wenn ich k i einsetze muss ich eben auch haften für die ergebnisse die dabei rauskommen ja die nächsten zwei urteile die wir vorstellen wollen sind noch offene verfahren deshalb keine urteile sondern einfach gerichtsverfahren die noch anhängig sind das was jetzt alle an nächstes kommt ist meter wird verklagt durch mehrere autoren meter ist die muttergesellschaft von die auch facebook betreibt und inzwischen auch instagram und whatsapp betreibt und die haben auch ein k i modell namens lama l l a ma und zwei autoren insbesondere also mehrere autoren aber insbesondere auch sarah silverman in juno dias haben meter eben verklagt darauf dass ihre bücher ohne genehmigung zum training des modells des k i modells lama verwendet wurden und warum wir jetzt schon über dieses verfahren sprechen wollen ist bei ein us bundesrichter für dieses anhängige verfahren zweifel daran geäußert hat ob denn meters verteidigungsstrategie funktionieren wird und schon jetzt sozusagen klargestellt hat dass da erhebliche zweifel eben dran bestehen meter beruft sich nämlich auf die sogenannte fair use doctrine und das ist eine regelung im us im amerikanischen recht die so ein bisschen ähnlich ist zu den schranken regeln des deutschen urheberrechts und zwar ist das so ein so eine ausgleichs schaffen für zugunsten der freiheit von wissenschaft bildung journalismus und kreativität dass man eben gewisse urheberrechtliche werke in geringem umfang oder auf bestimmte art und weise nutzen darf ohne dass man die rechte an der nutzung hat zum beispiel eben für die parodie oder die die wissenschaft das sind so zwecke und arten der nutzungen die dann erlaubt sind das kennt das deutsche urheberrecht nämlich genauso und dann wird jetzt der neue begriff durch die gegengt geworfen transformative nutzungen und das ist nämlich das worauf sich auch meta beruft die transformative nutzungen das ist nämlich eben eine neuartige neue art der nutzungen von urheberrechtlich geschützten werken eben hier den büchern um nämlich nicht klassisch eine parodie zu erstellen oder vielleicht eine kopie zu erstellen was auf jeden fall verboten wäre ohne die rechte da dran sondern um k.i. zu trainieren und das soll eben eine solche transformative nutzungen sein und damit aber auch geschützt sein und der us bundesrichter hat sich ja man kann sagen sehr skeptisch geäußert ob das denn so funktionieren kann denn zitat sie schaffen ein produkt das unendlich viele konkurrenzprodukte erzeugen kann und sagen sie müssten dafür nicht mal eine lizenz zahlen also das problem das hier sozusagen gesehen wird ist diese transformative nutzungen wenn es denn eine wäre ist geeignet den markt für das ursprüngliche werk zu zerstören und das ist vorher nicht der fall gewesen wenn man sich die vorherigen schranken sozusagen anschaut also die fälle die unter fair use doctrine fallen ist das normalerweise etwas was keine konkurrenzprodukte erschafft eine parodie ist kein konkurrenzprodukt zu einem zum ausgangswerk sondern naja eine parodie eben und da sagt sagt der bundesrichter geht erst mal grundsätzlich nicht davon aus dass es oder hat bedenken dass das denn funktionieren kann und man das unter eine sogenannte transformative nutzung eben fallen lassen kann zweites titat das klinik könnte den markt für original werke regelrecht überfluten was hier vielleicht auch noch schlechter sozusagen für meter oder meter dastehen lässt ist ein bisschen dass die autorinnen meter sogar vorwerfen dass raubkubi kopien ihrer bücher verwendet werden also dass dann nicht mal die vergütung sozusagen einmalig bezahlt wurde und die bücher käuflich erworben wurden auch in digitaler form sondern einfach ohne genehmigung diese raubkupien eben verwendet wurden also das wird noch ein interessanter fall sein denn ja also es ist halt eben die amerikanische seite zu dem pondon was wir gerade eben schon vorgestellt haben und in der in der hinsicht wird es einfach super interessant zu sehen sein weil eben ganz viel kt training nicht in deutschland geschieht sondern oder nicht in der eu geschieht und daher wird es einfach wichtig zu sehen sein wie eben amerikanische gerichte und das amerikanische recht mit kt training umgehen wir hatten das ja in der vorbesprechung schon mal kurz angerissen dass in auch einem ist ja einem jedenfalls recht bekannten fall weil er einer der ersten fälle war die publik geworden sind dass in dem fall get the images gegen stability a i sowohl in den usr als auch in uk klage eingereicht hat ja eine eine internationale beteiligung angesichts dieser ganzen technischen entwicklung zu sehen ist also wir haben get the images ein us unternehmen wir haben stability a i ein unternehmen mit sitz in uk und gegenstand dieses verfahrens ist unter anderem auch der laion datensatz der eben von diesem deutsch unternehmen nicht unternehmen sondern von der deutschen vereinigung stammt ja und genauso gibt es natürlich in jedem in jedem land dieser erde interessen und auch in ihrem land anbieter aber nicht nur in den usa große anbieter die sich eben mit dieser thematik beschäftigen und dann auch diversen klagen ausgesetzt sind also wenn man schaut es gibt ja diverse verfahren offene und abgeschlossene zu dieser thematik zu einzelnen randbereichen etc wir gucken uns jetzt noch ein teil an und deswegen darf da eben auch dieses verfahren get the images gegen stability a i nicht fehlen meines erachtens get the images ist einmal ist sie eine der oder die weltweit größte bildagentur und die hatten in ihrem archiv über 477 millionen bilder und videos und musik clips also ein riesengroßes archiv von werken und die werden dort natürlich lizenziert und werden ja wird eine menge geld mit verdienen mit diesen lizenzen das muss man ja auch sagen und stability get the images ist glaube ich auch zunehmend in zusammenarbeit mit ja ich sage mal mit k.i.

technologien ich meine dass es da eine partnerschaft mit n video gibt man verschließt sich diesem thema nicht aber trotzdem hat man eben klage eingereicht gegen stability a i was wiederum wie gesagt ein britisches unternehmen ist und das vor allem für das open source bildgenerierungsmodell stabil diffusion bekannt ist das eben aus text beschreibungen bilder erzeugt gibt es auch mehrere anbieter am markt aber eben stability a i war auch früh schon ja früh am start und get the ford hat aktuell 1,7 milliarden dollar aufgrund der nutzung von in diesem sind die zahl war 11.383 fotos so die urberechtigt geschützt sind und stability a i sagt eben okay es gibt hier keine ansprüche und gut darüber werden gerichte dann eben entscheiden das ganze ist nicht das ist ein laufendes verfahren man kann eines der bilder die da gegenständlich sind ganz interessant sehen wie sich die bildgenerierung entwickelt hat also es geht unter anderem darum dass getty sagt okay ihr generiert fotos die quasi aussehen wie die originale die wir in unserer bilddatenbank haben und da sind einzelne fotos nebeneinander halten und da gibt es unter anderem ein foto von einem fußballspiel wo zwei fußballspieler zu sehen sind das ganz witzig also die beine sind noch schief die finger sind krumm fehlbuchs habe das gesicht ist matschig ich sage mal das hat sich ja in der technischen entwicklung entweder geändert aber bereits da erkennt man aufgrund der farbsetzung der situation der der situation die dargestellt wird auch relativ deutlich dass irgendwo muss es schon eine grundlage geben ist auch das wasserzeichen lässt sich erkennen was getty images auf seinen bildern hat also man man man kann daran fühlen dass da etwas mit diesen urwerklich geschützten werk passiert die frage ist aber eben ist es zulässig gewesen oder nicht das und kann man es auch beweisen natürlich und zwar kann man das auch beweisen für die ganzen 11.000 bilder das ist ja also wenn man mal von einem riesen verfahren spricht dann ist das glaube ich eins das da zu nennen ist immerhin werden ja auch 1,7 milliarden us-dollar eingeklagt aber ja die bilder habe ich auch vor augen wo das wasserzeichen von getty images noch so ein bisschen zu sehen war also so ein bisschen oder so verschoben dass dann irgendwie nicht getty images da steht sondern ge images eti oder sowas also so ganz komische sachen als aber jetzt auch schon wieder zwei zwei jahre her bestimmt dass die k i solche bilder erstellt hat ich würde sagen also die klage ist eingereicht worden im januar 2023 also relativ zügig nachdem der ich sagen wir dieser ganze k i hype überhaupt los ging und getty vermutet meines wissens dass stability a bis zu 12 millionen seiner geschützten fotos verwendet haben könnte um stabil diffusion zu trainieren einen großteil dieser bilder muss man sagen stammt wohl aus der lion datenbank und bei dir glaube ich auch nur fünf nebis haben wir gesagt knapp sechs millionen beinhaltet und milliarden richtig dann würde das ja passen und stability a i selbst sieht sich ja mehreren klagen ausgesetzt es gibt ja unterschiedliche vereinigungen und auch künstler die entweder einzeln künstler oder gruppen von künstlern die ähnlich gelagerte fälle gegen stability a positionieren und da wird sich in der tat im laufe der nächsten jahre das ist ja so wie wir da wo wir dann mit der entwicklung sind technisch steht auf ein ganz anderen blatt aber dann wird sich herausstellen wie die gerichte dazu stehen aber das war oder eines der ersten verfahren die auch immer noch laufen und da ist auch eine entscheidung meines wissens noch nicht abzusehen und auch es gibt auch noch keine einschätzung keine richtliche einschätzung also keine richterliche einschätzung wie es ausschaut deswegen es sollte nicht fehlen aber es ist in sofern vielleicht auch das verfahren mit dem geringsten ergebnis dass wir hier präsentieren können ja dann kommen wir doch eigentlich zum abschluss dann noch zu einem verfahren wo wir zu einem gericht urteil sogar wo wir mal richtig ergebnisse präsentieren können 658 kanadische dollar hat ein kläger nämlich gegen er kanada zugesprochen bekommen und ich will es wirklich eigentlich recht kurz halten weil du es ja eben auch schon angeschnitten hast mit der verantwortlichkeit von chat für chatbots von unternehmen aber es ist trotzdem ein schöner fall weil es einfach mal ein klares ergebnis sozusagen gibt und zwar hatte ein kunde sich auf der website von er kanada im jahr 2022 über sogenannte trauer tarife erkundigt also es gibt dann extra preise die natürlich billiger sind wenn man zu der trauer also zu der begrebnestauer oder was auch immer welche trauer ist dann gerade der fall ist hin fliegt zu angehörigen oder verwandten und der kunde hatte sich dann nämlich bei dem chat bot auf der auf der seite eingebunden war darüber erkundigt ob man auch nachträglich sozusagen den tarif noch bekommen kann also man kauft sich erstmal ticket und lässt sich nachträglich das geld zurückerstatten was man zu viel gezahlt hat und der bot hat versprochen dass man diesen antrag auf erstattung eben auch 90 tage nach ticket ausstellungen noch machen könnte und das war eben einfach nicht der fall grundsätzlich und der kunde kaufte eben ein reguläres ticket reiste zu dem begrebnes eines angehörigen und forderte nachträglich den trauer tarif er kann er da berief sich darauf ne das machen wir so nicht steht ja auch in den agb oder wo auch immer und vor gericht kam dann noch die argumentation der chat bot sei eine eigene rechtliche einheit und für seine aussagen selbst verantwortlich das gericht in kanada also in britisch kolumbia wie ist das dann zurück und sagte er kanada ist für alle inhalte auf seiner webseite verantwortlich egal ob sie von einer statischen seite oder einem chat bot stamm was nicht weiter verwundert insbesondere der begriff eigene rechtliche einheit da dreht es mir ein bisschen um ehrlich gesagt weil wie kann man auf die idee kommen dass ein chat bot eine eigene rechtliche einheit im sinne also soll das bedeuten dass der eigene rechte und pflichten hat kann man den geld anspruch gegen die chat bot richten das wäre sehr interessant welches vermögen hat so ein chat bot na ja auf jeden fall die richter in kanada sehen das ähnlich wie ich anscheinend und haben dann er kanada dazu dazu verurteilt dass sie eben diesen preis unterschied sowie zinsen und verfahrenskosten an den kunden dann eben kläger heraus zahlen müssen und das war irgendwie das erste urteil was sich so mit k&e chat bots in kanada beschäftigt hat und hat aber dann für kanada klargestellt dass man eben als unternehmen für seine k&e basierten tools auf seiner webseite verantwortlich ist und diese ja gut daran tut dass man diese in irgendeiner weise vielleicht doch überprüft oder eben die nicht rechtsverbindliche aussagen treffen dass man dann immer klar sagt okay das ist jetzt eine aussage von dem chat bot diese muss auf richtigkeit oder muss nicht richtig sein das kann man ja wenn diese meldung sozusagen immer mit dabei ist dann ist das ja eingeschränkt und dann hätte der kunde sich auch möglicherweise nicht darauf verlassen dürfen aber wenn ungefiltert sozusagen einfach die aussage kommt ja du kannst das noch 90 tage später diesen antrag auf erstattungen stellen dann verlassen ich mich als kunde darauf und denke okay das ist eine aussage die hat er kanada mir jetzt so gemacht dann ist das so und ja das ist einfach ein kurz knackiges urteil zugunsten oder gegen chat bots oder gegen die ungefilterte dutzung von chat bots vielleicht sagen wir so ja jetzt kann sich der arme chat bot gar nicht richtig dagegen ja also klingt klingt vernünftig ich denke das entspricht also ein bisschen dem menschenverstand wie weit man dann tatsächlich kommt indem man sich davon distanziert im vorhinein sagt okay hier das das sind alles vielleicht gar keine wahren aussagen die hier stattfinden und wir wollen auf keinen fall für gerade stehen das ist sicherlich auch nur in grenzen möglich und auch nur in grenzen sinnvoll weil man will das ding ja schon irgendwie vernünftig nutzen aber ja es gilt bei der externen als auch bei der internen nutzung einfach dass man es kontrollieren muss dass wird man letztlich mitnehmen müssen und den wie weit die anderen verfahren tatsächlich über kurz oder lang eine entscheidung bringen werden wir beobachten und werden wir sicherlich auch nicht das letzte mal hier thematisiert haben und ich hoffe dass wir damit einen kleinen überblick über das aktuelle den aktuellen stand der dinge gegeben haben wenn das Thema interessant ist gerne bescheid geben gerne beschäftigen wir uns auch intensiv noch mit mit einzelnen kleineren aspekten aus diesem kaibereich themen wünsche immer her damit und wenn euch das ganze gefallen hat freuen wir uns natürlich auch über eine entsprechende bewertung oder weitere empfehlung und freuen uns wenn ihr beim nächsten mal wieder dabei seid in diesem sinne sage ich erstmal auf wiederhören zwar wie mir wie immer eine freude und auch von mir auf wiederhören bis zum nächsten mal [Musik] [Musik]