Willkommen zum Podcast Kaffee Recht von der Kanzlei TVW Law mit rechtlichen Themen für kreative Unternehmer und Unternehmen. Hallo und herzlich willkommen zu einer weiteren Folge unseres Podcasts Kaffee Recht an diesem Mikrofon wie gewohnt Dennis Tölle und auf der anderen Seite Marwan Eriefei. Hallo auch von meiner Seite. Heute beschäftigen wir uns mit dem Kampf zwischen europäischer Kommission und TikTok.

Stellvertretend TikTok muss man ehrlich sagen für alle möglichen Social Media Plattformen. Da gab es jetzt zuletzt, also ich glaube sogar letzte Woche oder vor zwei Wochen neue Infos, dass die europäische Kommission wieder einmal überprüft, ob das Verhalten oder wie die Plattform aufgebaut ist, insbesondere TikTok, ja mit EU Regeln konform geht. Das wollten wir uns nochmal genauer anschauen und uns auch so ein bisschen die Frage stellen, wird TikTok in der EU etwas verboten? Ist das möglich?

Ja, ist nicht die Antwort auf deine Frage, aber ist eine spannende Frage. Vielleicht zum Einstieg ganz kurz nochmal um den einen oder anderen abzuholen, wenn wir hier über den DSA sprechen, also den Digital Services Act, also das Gesetz über digitale Dienste, dann handelt es sich dabei um eine EU Verordnung, die seit 2024 in Kraft ist, in allen Mitgliedstaaten unmittelbar. Was daran liegt, dass es eine Verordnung ist, die gelten immer unmittelbar in den Mitgliedstaaten und diese Regelung, diese Verordnung soll erst einmal einheitliche Regeln für generell digitale Dienste in Europa schaffen. Das betrifft jetzt nicht nur die Großen, das betrifft auch kleinere Plattformen, alles was eben ein digitaler Dienst ist.

Im Fokus stehen natürlich, was jetzt so die Öffentlichkeit angeht, die Großen, weil da, ich sage mal, die meiste Berichterstattung darüber erfolgt, TikTok, YouTube, Instagram, Facebook und Co., weil die eben in eine bestimmte Kategorie fallen. Und Ziel des Ganzen ist es, dass man neben dieser Einheitlichkeit der Regelung ein transparentes und sicheres Umfeld schafft, eben auch online, so wie es offline auch der Fall sein soll, will man eben auch für den Onlinebereich Regelungen finden, die das gewährleisten, damit letztlich auch die, ja, ich sage mal, die die Grundrechte der Bürger im Onlinebereich zu schützen und flankieren natürlich immer so ein bisschen auch DSGVO etc., dass das überschneidet sich in manchen Bereichen. Ja, und genauso wie es bei der DSGVO der Fall ist, es ist auch beim DSA so, dass es eigentlich erst mal egal ist, woher ein, wo das Unternehmen sitzt, dass eine bestimmte Plattform anbietet oder ein Social Medium anbietet. Es geht eigentlich nur darum, wird es auch in der EU angeboten und dann unterfällt es sozusagen dem DSA.

Und die andere Sache ist so ein bisschen, das hast du ja auch schon angeschnitten, lange Zeit und bis heute hat man das Gefühl oder kann schnell das Gefühl bekommen, na ja, das Internet ist ein bisschen rechtsfreier Raum. Man kann da einfach machen, was man will, man ist anonym und muss sich eigentlich keine Sorgen machen und dem will man oder will die Europäische Kommission oder die EU als Gesamt ist eigentlich entgegengehen und Regelungen schaffen, der DSA ist dann eine Spezifische davon, um Regelungen und Regulierungen zu schaffen, um diese Plattform in die Pflicht zu nehmen und zu gucken, dass eben desinformationskampagnen nicht mehr so leicht möglich sind, dass Werbungen sichtbarer sind oder transparenter sind, wer, wo welche Werbung geschaltet hat. Das sind so zwei Hauptpunkte, würde ich sagen. Das Dritte sind dann die Dark Patterns, über die können wir gleich auch noch mal ein bisschen reden.

Aber es geht eben insbesondere um Transparenz zu schaffen, Wahlbeeinflussung zu verhindern und eben so Risiken, die von der Nutzung von KI bzw. Algorithmen ausgehen zu verringern. Ja, ganz genau. Bezüglich der Dark Pattern erlaube ich mir kurz den Verweis auf eine ältere Folge von uns, die ich glaube kurz nach in Kraft treten, dass DSA auch online gegangen ist.

Das müsste Folge 22 sein. Da haben wir nämlich genau darüber mal gesprochen, was Dark Patterns sind und inwieweit die zulässig oder unzulässig sind. Aber ja, der DSA kategorisiert so ein bisschen nach unterschiedlichen Kategorien von Anbietern. Es betrifft grundsätzlich alle digitale Dienste.

Da will ich jetzt gar nicht in die Definition reingehen, aber wir haben soziale Netzwerke, wir haben Online-Markplätze, Hostingdienste, Appstores, gibt auch so klassische Reise- und Beherbergungsplattformen. Da haben wir glaube ich mal in der Vergangenheit auch darüber gesprochen, dass es da einen Anbieter gab, der sich doch sehr dagegen gewährt hat, wo wir uns auch gewundert haben, dass der in dieser Größenordnung tatsächlich unter den DSA fällt. Er fällt jetzt tatsächlich gerade nicht mehr ein, wer es war. Ich weiß nicht, ob du das noch im Kopf hast, aber Booking.com, glaube ich.

Ja, das war Booking.com. Aber das war auch im Rahmen des DMA, also des Digital Markets Acts, wo es dann darum ging, ob die Torwächter sind. Auch dazu haben wir eine Folge gemacht. Der DSA aber muss man dazu sagen, hat auch gewisse Größenordnungen nach der Anzahl der Nutzer, also derjenigen, die sozusagen von der Plattform betroffen sind und richtet dann höhere Anforderungen an größere Plattformen.

Was immer so ein bisschen mitschwingt, wenn man über den DSA spricht und über die jetzt auch in diesem, nicht nur im Fall TikTok, sondern auch in anderen sozialen Netzwerken stattfindenden Verfahren der EU-Kommission, ist natürlich so dieser Punkt, okay, wir haben hier überwiegend US-amerikanische Unternehmen, die auf einmal im europäischen Raum eine Regulierung unterworfen werden, die das sowieso dem aktuellen politischen Lager in den USA nicht gefallen, aber das lehne ich mich mal soweit aus dem Fenster da auch schwierig, dem zu befallen. Aber es ist so, dass das natürlich weltweit tatsächlich in dieser Größenordnung auch einmalig ist. Also es gibt andere Staaten, die auch in entsprechender Regulierung haben, aber die Größenordnung der EU, für die das hier greift, ist schon, wenn ich das richtig sehr einzigartig und da bewegt sich die EU natürlich auch so ein bisschen auf einem Bereich, der jetzt nicht, das ist kein eingetretener Fahrt. Also da gibt es glaube ich vieles, was nicht das erste Mal diskutiert wird, aber das erste Mal so diskutiert wird, dass es nachher vielleicht auch eine Folge haben kann, ob das ein Bußgeld, ob das ein temporäres Verbot ist etc.

und deswegen führt das natürlich dazu, dass es auch einen erheblichen Widerstand bei den sozialen Netzwerken und bei auch manch anderen Teilnehmern dieser ganzen Geschichte gibt. Nur ganz kurz um das zu ergänzen, TikTok ist natürlich in chinesischer Hand, also in der Hand eines chinesischen Unternehmens, aber ja, ich meine die EU hat 450 Millionen Einwohner in ihren 27 Mitgliedstaaten und ist damit sehr, sehr bevölkerungsstark und auch einfach macht damit auch einen sehr, sehr erheblichen Anteil an dem wirtschaftlichen Einkommen von digitalen Unternehmen aus. Deswegen ist es ja sozusagen, wenn man es so formulieren möchte, der Trick der EU so groß zu sein durch diesen Verbund der Staaten, dass man eben nicht mehr ignoriert werden kann, denn das ist das Problem, dem sich Deutschland gegenüber ausgesetzt sehen würde, wenn man das Beispiel nehmen wollen würde. Wenn Deutschland jetzt in den Alleingang sagen will so etwas wie TikTok, das wollen wir in Deutschland verbieten, weil wir davon nicht halten oder die sich an unsere Regeln nicht halten, dann ist das TikTok am Ende des Tages herzlich egal.

Wenn es so weit kommen würde, würden sie wahrscheinlich das Verbot einfach hinnehmen, vielleicht auch gerichtlich dagegen vorgehen, aber auf die 80 Millionen Einwohner bzw. wie viel auch immer davon da Nutzer wirklich sind, das macht den Beraten nicht fett für TikTok oder für YouTube oder sonst irgendwen. Aber der Gesamtverbund der EU mit all den Maßnahmen, die dann möglich sind, das ist dann doch ein Markt, den kann man nicht einfach ignorieren und da kann man nicht einfach drauf verzichten und deswegen ist eben die EU ein ernst zu nehmender Player und das versuchen sie auch geltend zu machen mit ihren Gesetzen, die immer schärfer werden, aber ob der DSA jetzt so scharf ist, wie manchmal behauptet, das schauen wir uns ja gleich noch an bei der Frage, ob denn überhaupt z.B. so etwas wie ein Verbot möglich ist.

Vier Sachen wollen wir uns heute anschauen, das ist einmal die Werbetransparenz, die Wahlbeeinflussung, algorithmische Risiken und auch so insbesondere der Jugendschutz und dann noch wie immer sozusagen die Datenschutzverstöße, die immer im Raum stehen. Immer mit dabei, danke. Vielleicht ganz kurz, es wird häufig darüber gesprochen, dass die EU-Kommission irgendwas macht und das liegt daran, dass bei diesen Plattformen, also bei diesen sehr großen Online-Plattformen und Suchmaschinen tatsächlich die EU-Kommission, die direkte Aufsicht ausübt, was anders ist bei allen anderen digitalen Diensten, die nur in einfach schrink kleiner und mittlere Plattformen darstellen. Dafür sind die jeweiligen Mitgliedstaaten verantwortlich und in Deutschland ist das, meine ich, die Bundesnetzagentur, die hatten ein Digital Services Coordinator als zentrale Aufsicht eingerichtet und zusätzlich wird das, glaube ich, ergänzt.

Die Bundeszentrale für Kinder- und Jugendmedienschutz macht da, glaube ich, auch noch was und das gilt aber eben nicht für die Groß, für die ganz Großen, die wir jetzt hier heute besprechen. Und für die strafrechtlich relevanten Aspekte des DSA wurde auch beim Bundeskriminalamt sozusagen eine Teilzuständigkeit geschaffen, das nur so als Ergänzung noch. Also strafbare Hassrede etc. Genau.

Ja, okay. Ja, dann starten wir doch einfach mal mit dem ersten Punkt, den du genannt hast, mit der sogenannten Werbetransparenz. Also es ist ja so, wenn wir es jetzt mal juristisch angehen, du hast es eben schon gesagt, also es wird viel geschrieben ja auch aus dem politischen Lager raus und aus einer, ja ich sage raus, aus der Perspektive, dass wer versucht hier auf der Welt, wen zu regulieren. Aber wenn man sich jetzt diesen DSA tatsächlich im Wortlaut mal anschaut, muss man natürlich gucken, was lässt sich tatsächlich damit überhaupt machen.

Und der Vorwurf, der jetzt zuletzt erhoben wurde, ist ja der, das oder nicht der Vorwurf, sondern das, ein angedrohte Geldstrafe, das ist glaube ich im Moment noch gegenüber TikTok, weil es einen Verstoß gegen Transparenz, Transparenzpflichten geben soll. Und zwar ist es so, dass der DSA vorsieht, dass die Plattform ein Register bereithalten oder eine, eine in wirrunger geartete Darstellung bereithalten, jedenfalls öffentlich zugänglich und durchsuchbar, über Werbeinhalte, Zielgruppen und Auftraggeber. Das heißt also, wenn ich auf der Plattform unterwegs bin, mit wem schließt die Plattform Werbeverträge, was sind das für Unternehmen und das muss ich, das muss ich einsehen können. Das ist, ich mal Artikel 30 Absatz 7 im DSA.

Da steht das drin. Guck mal, wie ich ihn so schnell finde. Er ist ja auch, ist ja nicht so, dass es wenig Text wäre. Ich kann dir den gerne einmal vorlesen, wenn du willst.

Ja, jetzt habe ich ihn auch gleich. Mach mal gerne. Der Anbieter der Online-Plattform, die Verbraucher an den Abschluss von fern Absatzverträgen mit Unternehmen ermöglicht, stellt den Nutzern, die in Absatz 1, Buchstaben A, D und E genannten Informationen in klarer, leicht zugänglicher und verständlicher Weise auf seiner Online-Plattform zur Verfügung. Diese Informationen müssen zumindest auf der Online-Schnittstelle der Online-Plattform verfügbar sein, auf der die Informationen über das Produkt oder den Dienst bereitgestellt werden.

Die Informationen nach Absatz 1, A, D und E sind Name, Anschrift, Telefonnummer und E-Mail-Adresse des Unternehmens. Falls der Unternehmer in einem Handelsregister oder einem öffentlichen Register eingetragen ist, das Handelsregister, in dem er eingetragen ist und seine Handelsregisternummer oder eine gleichwertige in diesem Register wendete Kennung sowie eine Selbstbesteinigung des Unternehmens, in der sich dieser verpflichtet, nur Produkte oder Dienstleistungen anzubieten, die den geltenden Vorschriften des Unionsrechts entsprechen. So, und jetzt können wir ja mal sagen, was denn jetzt bitte das Problem? Jetzt haben die halt da eine Adressliste nicht.

Ja, okay, und jetzt sollen die irgendwie bis zu 6 Prozent des weltweiten Jahresumsatzes da in die Hand nehmen, als Strafe, das ist ja irgendwie komisch. Ja, ist es aber nicht. Weil der Grund ist ja gerade, dass diese Transparenz gerade dazu beiträgt, dass wir als Nutzer eben auch klar sehen können, wenn wir denn wollen. Ja, es ist ja nicht so, dass jeder auf diese Plattform gebt so, jetzt möchte ich erst mal, wo kommt denn diese Anzeige?

Was ist das denn? Viele, ob sie es nicht wahrnehmen, das ist wahrscheinlich eine psychologische Frage, ob man Werbeanzeigen nicht wahrnimmt, wenn man es schnell durchskrollt. Aber ich möchte jedenfalls die Möglichkeit haben zu sagen, warum wird mir jetzt diese Brillenanzeige da gezeigt? Wer wirbt denn da?

Sondern kann ich gucken, okay, das ist fiktives Beispiel, die Firma Vielmann sitzt in, weiß ich auch nicht, wo, das ist die XYG und BH und die hat auch eine Bescheidigung, dass sie sich eben an die Vorschriften des Unionsrechts hält. Letztes ist wahrscheinlich das größte Problem, weil da natürlich auch ein möglicherweise in Teilen und durchsichtiger Werbemarkt besteht, wo vielleicht für die Plattform selber, für TikTok und Co selber es super schwierig ist, diese Informationen überhaupt zu bekommen. Weil ich ja, es ist ja nicht so, dass TikTok hergehend ist, da guten Tag unternehmen. A, ich möchte gerne mit dir einen Werbevertrag schließen.

Ja, Unternehmen B, mich möchte mit dir einen Werbevertrag schließen, sondern das wird ja auch gebündelt mit Tausenden von Unternehmen, die TikTok selber möglicherweise auch gar nicht kennt. So, Sie müssen das jetzt aber erfüllen. Ja, genau, der Punkt ist ja der und vielleicht hat der DSA da an der Stelle auch ein falsches Bild von der Realität gehabt. Der Punkt ist der, dass TikTok eigentlich einen Vertrag hat mit einem, wie so eine Art Werbebroker und einem Werbemarktplatz und TikTok sagt Nutzer X Y, der dieser und dieser Zielgruppe zugehörig ist, der kriegt gleich Werbung.

Innerhalb von Millisekunden wird dann sozusagen ein Angebot erstellt und die Nachfrage ermittelt und eine bestimmte Werbung wird dann geschalten. Und das läuft über so ein Werbemarktplatz und da ist eigentlich gar keine direkte Verbindung erst mal zwischen TikTok und dem Werbeinhalt selbst, sondern die direkte Verbindung ist zwischen TikTok und dem diesem Werbemarktplatz und der Werbemarktplatz wiederum hat die Verbindung zu den einzelnen Werbeinheiten. Deswegen ist da noch diese leichte Barriere, die es wiederum TikTok sehr schwer machen würde, ein solches Anzeigenregister zu erstellen. Ja und der Weg, den das Ganze geht, ist der, also die Untersuchungen laufen schon seit Anfang 2024 wohl und jetzt im Mai dieses Jahres ist dann die Kommission zu der Einschätzung gekommen, dass da eben eine Verstoßlicht vorliegt.

Die Tatsache, was ich eben sagte, dass wir als Nutzer sehen können, wer macht denn da Werbung, ist ja das eine. Das andere ist natürlich auch, dass man insofern vielleicht eine kleine Überleitung zum nächsten Thema, das natürlich auch erkennbar wird dadurch, aus welchem möglicherweise politischen Lager und mit welcher Zielrichtung so eine Werbung geschaltet wird. Natürlich gibt es Möglichkeiten da irgendwie das wirklich zu verschleiern, selbst wenn man das transparent in Anführungsstrichen macht, aber ich habe ja gar keine Möglichkeit überhaupt zu schauen, ob es irgendeine Form von Beeinflussung oder versuchter Beeinflussung über Werbung in sozialen Netzwerken gibt, wenn ich mir anschaue, wenn ich keine Ahnung habe, woher diese Werbung stammt und diese Transparenz soll das natürlich ermöglichen, damit ich quasi wie eben in Anführungsstrichen echten Analogen-Lebend genauso sehen kann, wer hängt mit der Nierenplakat auf, wer beeinflusst mich hier, wenn er mir irgendwelche Dinge erzählt, im Kontext von anstehenden Wahlen zum Beispiel. Ja und auf der anderen Seite ist bestimmt auch diese Verpflichtung der werbenden Unternehmen, dass sie eben Produkte und Dienstleistungen anbieten, die im Einklang sind mit EU-Regeln, ist eigentlich sehr wertvoll.

Das verhindert ja so ein bisschen oder schränkt, sage ich mal, Werbe die Werbenden ein, in der Hinsicht, dass sie eben nicht einfach irgendwelche Dienstleistungen anbieten können, die gar nicht auch relevant sind möglicherweise oder irgendwo angeboten werden, wo sie eben der EU nicht unterliegen. Diese Sachen werden dadurch ein bisschen eingeschränkt und auch da dann wiederum die Nutzer geschützt, dass sie eben nur Werbung erhalten, die auch für sie relevant ist, in dem Sinne, dass sie auch den Regeln konform ist und ihr Schutzinteresse sozusagen dabei mitgedacht wurde. Du hast es in einem Neben-Satz gesagt und ich würde es gerne nochmal aufgreifen, weil es so ein bisschen die Schärfe des Schwertes definiert und zwar ist ja jetzt hier in diesem speziellen Fall bei der Werbetransparenz die Androhung, dass eine Geldstrafe von bis zu 6 Prozent des weltweiten Jahresumsatzes des letzten Jahres, des vergangenen Geschäftsjahres von TikTok sozusagen, denen als Sanktion aufgebürdet wird. TikTok.

Und das ist ein echt erheblicher Betrag. Also das da kennt der DSA nichts, wenn man so will und ist auch recht hart, würde ich zumindest so persönlich einschätzen. Ich bin aber nicht der Unternehmer, ich weiß nicht, vielleicht kannst du das besser einschätzen. Aber kommt mir wie ein recht hoher Betrag vor und insbesondere die Summe macht es.

Das ist ja jetzt ein Einzelfall. Wenn jetzt TikTok aber gegen noch drei weitere Sachen verstößt, die der DSA vorgibt, dann kann auch noch drei weitere Male diese 6 Prozent des weltweiten Jahresumsatzes, wohlgemerkt weltweiten, nicht EU-weiten Jahresumsatzes, geltend gemacht werden und dann wird irgendwann leppert sich. Ja, definitiv. Also das sind schon Beträge, die da muss ich aber auch sagen unter der Voraussetzung, dass sie gezahlt werden, beeinflussen können und auch gerade bei Unternehmen, die natürlich eine fremde Teilhabe beinhalten, auch eine Gefahr darstellen.

Also wenn ich weiß, okay, ich habe jetzt hier irgendwie drei Bußgeld-Androgen, EU in Höhe von jeweils x Millionen Euro, dann ist das natürlich etwas, was meine, wofür ich unternehmerisch und finanzunternehmerisch dann Rücklagen bilden muss und eben entsprechend eingeschränkt bin möglicherweise in anderen Bereichen. Also das ist durchaus auch, auch wenn es dann nicht direkt gezahlt werden muss. Das gucken wir nachher nochmal kurz, was denn jetzt tatsächlich schon gezahlt wurde und was nicht. Im Moment ist ja der Stand erstmal der, TikTok hat die Möglichkeit noch Stellung zu nehmen, dazu sich zu äußern, dann wird es eine Entscheidung geben, dann wird es vermutlich dagegen ein Rechtsmittel geben und dann wird es, es wird noch eine Weile dauern, bis das final ist.

Aber ich denke, es ist wichtig, dass es überhaupt vorangeht, um, also es ist ja nicht so, dass nicht auf anderen Plattformen auf einmal Dinge schon passiert sind, die das ganze, die das ganze frei machen. Also ich habe jetzt ganz anderes Beispiel, aber auch basierend auf EU-Regulierung gelesen, dass es wohl bei Apple Entwicklungen dahingehend gibt, dass man den eigenen, den Apple eigenen Sprachassistenten, das nahm ich jetzt nicht sage, um niemanden, keinen Hörer da jetzt gerade irgendwo was zu aktivieren, dass man den wohl in einer künftigen Softwareversion frei wählen kann. Das heißt, ich könnte da den Sprachassistenten vielleicht von ChatGPT, von Gemini, von irgendwas einsetzen, was, wenn man jetzt mal die Funktionalitäten offen und ehrlich betrachtet, natürlich weit über das hinaus geht, was Apple im Moment bietet. Wo ich selber sagen würde, als Technik interessierter, ah, das ist, finde ich natürlich interessant, wenn das so wäre.

Jetzt lassen wir mal den ganzen datenschutzrechtlichen Aspekt außen vor, aber das wäre zum Beispiel eine Funktion, die nur in der EU verfügbar ist. Wo ich es dann sagen muss, finde ich gut. Also auch wenn ich jetzt keine Alternativen App Stores brauche, die auch möglich sind, das wäre etwas, wo ich sagen, prima. Ja, gut, was du da ansprichst, ist ja dieses Thema der Interoperabilität, das durch den Digital Markets Act insbesondere nach vorne getrieben wird.

Und da muss man ja sagen, die Idee dahinter ist ganz klar Verbraucherschutz und aber auch die Förderung eines Wettbewerbs und eines Marktes an allen Elken und Enden eines solchen Produktlebens und auch da sehe ich sehr viele Vorteile für die Nutzer, wenn es denn dann auch in der Realität gleichwertig miteinander läuft. Du hast gerade gesagt, wie der weitere Verlauf sein wird, in dem Fall der Werbetransparenz für TikTok und ich kann die Quelle leider jetzt nicht mehr benennen, aber ich habe meine gelesen zu haben, dass das ein bisschen on hold ist aus Sicht der Europäischen Kommission. Das Thema denn, das führt mich zum nächsten Thema, die Wahlbeeinflussung, insbesondere in Rumänien, ist zwischenzeitlich aufgekommen und hat aus Sicht der Europäischen Kommissionen Priorität auch hier ist es wieder gegen, richtet sich die ja die Ermittlung des Sachverhalts gegen TikTok, denn TikTok soll unzureichende Maßnahmen getroffen haben gegen eben Desinformationskampagnen, die auf TikTok verbreitet wurden, die dann wiederum die Präsidentschaftswahlen in Rumänien im Jahr 2024 beeinflusst haben sollen, sogar nachweislich so sehr, dass jetzt die Präsidentschaftswahlen ja wiederholt wurden am Sonntag, dem ich weiß gerade nicht, wann diese Folge rauskommt, aber am 18. Mai waren die Präsidentschaftswahlen jetzt in Rumänien, wo auch sogar ein anderes Ergebnis rauskam als das jenige Ergebnis von aus dem Jahr 2024.

Das bedeutet für die Europäische Kommission, dass sie da wieder ein neues Verfahren sozusagen im Dezember 2024 gestartet haben gegen TikTok und so wie auch in dem ersten Verfahren wird jetzt erstmal ermittelt. Also jetzt wird erstmal herausgefunden, was ist da wirklich passiert. Genau und auch da ist basiert auf natürlich einem auf einer Norm. In dem Fall ist das Artikel 34, Absatz 1 und da Literat C, denn es gibt eine Verpflichtung nach dem DSA, dass die benannten Plattform unter die TikTok auch fällt, eine Risikobewertung vorzunehmen haben.

Das heißt, man hat zu ermitteln, analysieren und zu bewerten die systemischen Risiken, die sich aus dem Betrieb ihrer Dienste ergeben, inklusive der Algorithmen, die da laufen und der Nutzung etc. und zwar unter anderem, und das ist dieser Literat C, alle tatsächlichen oder absehbaren nachteiligen Auswirkungen auf die gesellschaftliche Debatte und auf Wahlprozesse und die öffentliche Sicherheit. So, das ist dieser Passus, auf dem man sich unterstützt und sagt, okay, ihr müsst schon mal gucken, was im Hinblick auf irgendwelche Wahlen bei euch negativ passieren kann. Das müsst ihr zumindest risiko bewerten und analysieren und der Vorwurf ist aktuell, meine ich, dass es nur unzureichende Maßnahmen gegen so Desinformationskampagnen gab.

Ich weiß nicht, ob überhaupt schon bewertet wurde, ob es eine Risikobewertung gegeben hat und wie die stattgefunden hat. Das ist, glaube ich, der Punkt, der jetzt ermittelt wird und wo TikTok dann auch etwas zu sagen kann. Das bleibt abzuwarten, wie die Ermittlungen da weiterlaufen. Und vielleicht für diejenigen Hörer, die das nicht so mitbekommen haben und die sich jetzt fragen, was bedeuten eigentlich Desinformationskampagnen und was kann man sich darunter vorstellen?

Das lief Berichten zufolge so ab, ich war selber nicht in Rumänien. Das lief so ab, dass Videos insbesondere von diesem ultar rechten Kandidaten, dessen Namen ich jetzt nicht ausspreche, weil ich ihn nur falsch aussprechen würde, Videos von ihm, TikToks von ihm sehr stark gepusht wurden. Das bedeutet, wenn ich die App geöffnet habe, habe ich unter 10 TikToks, die ich durchgescrollt habe, neunmal ein Video, ein politische Wahlvideo, Wahlwerbevideo von diesem Kandidaten gesehen. Und das ging wohl so weit, dass, wenn man die Grenze überschritten hat, raus aus der, aus Rumänien, war alles normal.

Man hat seinen normalen üblichen Feed bekommen und sobald man wieder im rumänischen Geografisch sich in Rumänien befunden hat, wurden wieder diese Videos gepusht. Da habe ich so Berichte zu gelesen, wie krass das gewesen sein muss, dass man wirklich TikTok nicht mehr nutzen konnte, ohne diese Wahlwerbevideos zu sehen. Und das ist dann eine sogenannte, das ist das, was man versteht unter einer Disinformationskampagne, weil jetzt einfach überproportional ein Kandidat gepusht wird, sodass man das Gefühl hat, nur noch diese Person existiert fast schon und nur seine Inhalte werden repliziert. Und dagegen oder das hat mit freier Meinungsbildung und sozusagen einem gerechten Schlagabtausch der politischen Kandidaten nicht unbedingt viel zu tun.

Und da ist eben die Frage nach dem, was hat eine Plattform, ein Dienst damit überhaupt zu tun in Anführungsstrichen, weil keiner der Dienste wird aktiv hergehen und sagen, prima, jetzt nehmen wir diese Inhalte und bringen die richtig nach vorne, indem wir unseren Algorithmus so und so umstellen. Das ist gar nicht der Punkt. Der Punkt ist einfach, dass externe, in der Regel Werbeanbieter oder Nutzer nicht, aber ich sage mal gewerbliche Anbieter auf den Plattformen, soweit es möglich ist, meistens sind es Werbeanbieter, einfach überdurchschnittlich viel Geld investieren für Werbungen und die Möglichkeiten des Tagetings dieser Werbung so ausnutzen, dass es eben dazu führt, dass den Nutzern fast nur noch diese Sachen angezeigt werden. Und an der Stelle kommt ja der Punkt, dass die Algorithmen und dass die Anbieter dafür sorgen müssen, dass sowas erkannt wird und dann verhindert wird, dass eine solche, ja ein solches Ungleichgewicht entsteht.

Und da ist die Frage, wie analysieren Sie das, wie können Sie das sehen? Ich gehe nur um eine private Meinung. Ich gehe davon aus, dass man sowas ohne Weiteres analysieren und feststellen kann, ob es jetzt besonders viel invest oder besonders viel Tageting in einem Bereich gibt oder nicht. Und da nehmen die Frage als nächstes, was tut man dagegen, damit das eben wieder ausgeglichen wird.

Man sieht es nicht, aber ich stelle mit meinen Händen eine Waage da. Nur das zu ergänzen, die andere Möglichkeit, die genutzt werden kann, sind natürlich BOTS, also Programme, programmierte Nutzer in Anführungsstrichen, weil sie eben keine wirklichen Nutzer sind, die einfach nach Systemen bestimmte Inhalte immer wieder replizieren, liken, teilen, aber auch selber hochladen, um eben Reichweite zu generieren, die gar nicht da ist. Denn, wie es so häufig ist mit diesen Social Media Plattformen, ist es ja so, wenn etwas x tausendmal geguckt wurde, wird es ja auch neun Personen preferiert oder mehr vorgeschlagen als Inhalt. Und wenn du diese Schwelle, sozusagen, erstmal überschreiten kannst, gar nicht mit echten Nutzern, sondern mit BOTS, dann macht es dir leichter, deine Inhalte oder macht es es leichter, gewisse Inhalte zu pushen.

Ja, jetzt bietet es sich an, dass wir, wofür wir gerade beim Algorithmus sind, dann tatsächlich zu sagen, okay, wir gehen darüber zu dem Punkt, den wir unter algorithmische Risiken und Jugendschutz irgendwie zusammengefasst haben. Da geht es nämlich dann tatsächlich um den Algorithmus der Plattform selber. Denn auch hier ist es so, dass der DSA vorsieht, dass es zum einen eine Risikobewertung geben soll, der Plattform, inwieweit die Auswirkungen auf die öffentliche Gesundheit und von Minderjährigen irgendwie, inwieweit die Algorithmen unter anderem sich negativ auf Minderjährige auswirken können oder in welche schwerwiegende nachteiligen Folgen haben können, auch für das körperliche und geistige Wohlbefinden einer Person. Da aber eben auch das nicht bei einer Risikobewertung bleibt, sondern die sind auch verpflichtet, eine Risikobinderung vorzunehmen.

Das heißt also, sie sollen Maßnahmen ergreifen, die zum einen die Altersüberprüfung ermöglichen, älterliche Kontrolle und die Möglichkeiten missbraucht zu melden etc. Was dabei immer wieder im Raum steht, sind die sogenannten Rabbit-Holes. Das heißt also die Gefahr, dass Minderjährige unter anderem natürlich in eine Situation geführt werden können, die zu einem Suchverhalten führt. Das heißt also, wenn ich einmal einen bestimmten Content mir angeschaut habe, dass ich dann immer wieder diesen Content vorgeschlagen bekommen, dass ich immer weiter in dieser gleichen Thematik bleibe, dadurch dass mir immer wieder solche Sachen vorgeschlagen werden und dass ich damit quasi aus diesem sogenannten Rabbit-Hole nicht mehr rauskomme und das auch doof ist, wenn es irgendwelche sinnbefreienden Spielchen sind, die ich dann da spielen kann auf irgendwelchen Plattformen, was aber ganz extrem schlecht wird, wenn das irgendwelche extremistischen Inhalte werden.

Und das sind so Punkte, wo die Plattformen auch bewerten müssen, inwieweit ihre Algorithmen das befeuern und Maßnahmen ergreifen und darlegen müssen, wie es verhindert werden kann. Ja, zu dem Thema, inwieweit die das befeuern, kann ich ein Dokument, ein Dokudrama anscheinend, nennt man das, eine Dokumentation meiner Meinung nach. Das Social Dilemma auf Netflix kann ich sehr empfehlen. Da sind nämlich Insiders aus dem, ja, aus verschiedenen sozialen Medien Unternehmen, die aber Aussteiger sind, so weiß ich das erkennen konnte.

Ich habe es auch ein bisschen länger her, dass ich es geschaut habe und die berichten so ein bisschen darüber, wie die Algorithmen nicht ganz aufgebaut werden, aber wie man versucht, die so zu modulieren oder zu verändern, dass eben Suchtverhalten gefördert wird. Und jetzt hast du gerade gesagt, dass das bei Minderjährigen besonders viel passiert. Das Problem besteht für alle Menschen, nur bei Minderjährigen bzw. bei Jugendlichen.

Die wollen wir natürlich noch besonders schützen. Erwachsene Menschen sind auch sehr suchtveranfällig, auch auf Social Media. Nur da können wir bestimmt vielleicht etwas besser in Gewissens sagen, okay, die sind für sich selbst verantwortlich, die können das besser abschätzen, wann sie in eine Sucht verfallen, wann nicht. Bei Minderjährigen sind die Gefahren und die gesundheitlichen Gefahren sehr, sehr viel größer und da brauchen wir eben, wie es auch in der echten Welt so ist, mit, keine Ahnung, Alkohol, also Bier erst ab 16, Rauchen erst ab 18.

Das sind ja alles so Themen, wo wir Minderjährige besonders schützen wollen. Und genau das findet hier eben auch auf Social Media statt. Ja, vielleicht kurz zum Hintergrund, also diese Plattformen leben weit überwiegend von Werbegeldern und Werbeeinblendungen und deswegen haben sie natürlich ein Interesse daran, die User möglichst lange auf der Plattform zu halten. Woher dann dieser Gedanke ursprünglich stammt, dass man sagt, na ja gut, wenn dem Nutzer das gefällt, dann zeigt man ihm einfach ganz viel davon, dann bleibt er nämlich ganz lange.

Das ist gut für unsere Werbekunden, dann können wir denen nämlich sagen, guck mal, unser Nutzer ist so lange bei uns auf der Plattform. So, so weit, so gut, schräg, schräg schlecht, aber das wird halt immer dann schwierig, wenn es körperliche oder geistige negative Folgen haben kann, plus die Inhalte selber dazu führen können, dass ich mich möglicherweise in einer Art und Weise entwickle, die da dem Gemeinwohl entgegensteht, also was die extremistischen Inhalte angeht, etc. ist das ja nur einer der Punkte, die da von relevant sind. Aber ja, also da gibt es auch von der E-Kommission ausgehend Ende letzten Jahres Aufforderungen an TikTok, YouTube und Snapchat, detaillierte Informationen über diese Empfehlungsalgorithmen bereitzustellen, um letztlich um zu bewerten, inwieweit das Ganze tatsächlich so stattfindet.

Also das es stattfindet, ja, da müssen wir uns jetzt nichts vormachen. Also tatsächlich ist es so, die Frage ist, inwieweit man vielleicht Maßnahmen ergreifen kann und sollte, um das zu reduzieren. Den nächsten Teil würde ich gerne mit einer kleinen Anekdote sozusagen einleiten. Und zwar, Roberta Metzola, die abendierende oder aktuelle Präsidentin des Europäischen Parlaments, hat im Februar 2024 ihr erstes TikTok veröffentlicht.

Das war Februar 2024, ist genau ein Jahr gewesen, nachdem ihre Institution, also das Europäische Parlament, für ihre Mitarbeiter, die Mitarbeiter des Europäischen Parlaments, ihnen verboten hat, auf ihren Arbeitsgeräten die App TikTok zu haben. Und das wurde damals nämlich begründet, 2023 wiederum, mit datenschutzrechtlichen Bedenken unter anderem. Und zwar, diesen datenschutzrechtlichen Bedenken war, man könne nicht sicherstellen und nicht sicher sein, ob nicht die App TikTok möglicherweise doch immer weiter Daten an, sozusagen China weiterleitet oder auf chinesisches Server, wenn man so will, übermittelt und dies eben gegen die DSGVO verschlossen könne und eben auch insbesondere nicht sehr transparent sei. Und im Mai 2025, also jetzt, hat die irische Datenschutzkommission eine Geldstrafe gegen TikTok verhängt von 530 Millionen Euro.

Und diese Anekdote wollte ich nur erzählen, weil ich es so spannend finde, wie dann doch Politiker*innen ein weiteres Beispiel wäre, vielleicht noch die Rückkehr von Robert Habeck auf X, nachdem er erst X, beziehungsweise damals wahrscheinlich sogar noch Twitter kurzzeitig, sein Account gelöscht hat und dann im Rahmen des letzten Bundestagswahlkampfes wieder zurückgekehrt ist auf X, wie abhängig wir dann doch sind von diesen Informationsmedien und auf der anderen Seite sehen wir aber auch die Gefahren und dieses Zusammenspiel zwischen, es ist eine super gefährliche App anscheinend, weil wir dürfen sie nicht auf unseren Arbeitsgeräten haben, aber andererseits die Präsidentin dieser gleichen Institution nutzt TikTok, um, was weiß ich, Werbevideos zu machen oder weil Werbevideos zu machen oder Informationen zu vermitteln, was ja auch etwas Gutes sein kann, ist schon sehr, sehr krass, finde ich auch sehr, sehr spannend und anscheinend ist die irische Datenschutzkommission nachher davon ausgegangen, dass TikTok wirklich gegen die DSGVO verstößt und hat diese entsprechende Geldstrafe dann gegen TikTok verhängt. Datenschutzverstöße sind sozusagen immer ein Thema, das ist immer so ein bisschen das Problem, dass man kann theoretisch in alles einwilligen, wenn es die DSGVO, also wenn die DSGVO Anwendung findet, ich kann theoretisch immer in alles einwilligen, aber es müsste theoretisch transparent passieren. Ich müsste wissen, woran ich einwillige und gerade bei diesen Social Media Plattformen ist es einfach unendlich schwierig, das in transparenter Weise zu gestalten, denn die Einwilligung müsste in so unglaublich viele Prozesse und Verarbeitungen, Datenverarbeitungen stattfinden, alleine die unendliche Anzahl an Werbepartnern, die möglicherweise meine Daten bekommen können, wenn ich TikTok benutze, dass es schier unmöglich da eine Transparenz und informierte Einwilligung einzuholen und deshalb kann man als Laie zumindest immer davon ausgehen, dass das DSGVO Konform nicht unbedingt abläuft. Ja, in der Tat und das, ich sage mal, die EU-Kommission hat jetzt die Datenschutzkommission, die irische Datenschutzkommission hat jetzt in 530 Millionen Euro Geldstrafe verhängt gegen TikTok und das ist auch eine endgültige Entscheidung in dem ersten Schritt.

TikTok kann Einspruch einheben, einlegen dagegen, wird das auch tun, so hat man das mitgeteilt. Irische Datenschutzkommissionen, weil die in Europa diese Plattformen in Irland ihren Sitz haben, deswegen ist die Behörde dort zuständig und wir werden sehen, was dann im weiteren Verfahren, im Laufe des Verfahrens noch passiert, der Vorwurf ist ja der oder der Punkt, der da eine größere Rolle spielte, ist er, dass TikTok nicht sicherstellen konnte oder nicht garantieren konnte, dass nicht Daten von europäischen Nutzern auf chinesischen Servern landen und man hat wohl irgendwie auch eingeräumt, dass das in begrenztem Umfang passiert sei und dass man davor nicht korrekte Angaben gemacht habe. Dazu, dass man eben zwar gesagt hatte, Nutzerdaten aus Europa werden nicht auf Servern in China gelagert, das sei wohl dann doch nicht ganz korrekt gewesen. So, ja, das ist natürlich auch so eine Aussage, wenn es so ein Eigenständes gibt, ist das gut, weil dann führt das ja irgendwie dazu, dass man vielleicht auch sagen kann, ja, dann ist es jeden falls ein bisschen vertrauenswürdiger, als wenn es einfach nicht eingestanden wird, aber es ändert natürlich nichts an der Tatsache, dass man kein Vertrauen in die Kontrolle dessen hat, weil die Situation wie TikTok, also ein Unternehmen des Unternehmens, oder eine Plattform des Unternehmens "Bite Dance", die Verbindung zu China gibt es nun mal und dass es dort auch Einfluss geben kann, das ist auch kein Geheimnis, aber wie viel Einfluss dann so eine Plattform tatsächlich darauf hat, ist die Frage und deswegen wird man wahrscheinlich nicht umhin kommen zu sagen, okay, das geht nicht konform mit der DSGFO und dann löst es eben solche Strafen aus.

Ja, es ist ein vergleichbares Problem, wie mit der Datenübermittlung in die USA und zwar ist es in China auch so, dass die dort dann zuständigen Behörden fast vollständig Zugriff haben können, Zugang haben können auf Daten, die auf chinesischen Servern gelagert oder gespeichert sind und sobald also Daten von europäischen Nutzern auf chinesischen Servern landen könnten, möglicherweise chinesische Behörden Zugang dazu bekommen in einem Umfang, indem sie das nach zumindest der DSGFO nicht bekommen sollten. Ähnliches Problem haben wir mit den USA, warum dort dann oder was dazu führt, dass die Abkommen, die sozusagen diese Angemessenheitsbeschlüsse nach der DSGFO mit der USA häufig oder schon zweimal von dem europäischen Gerichtshof einkassiert wurden. Mit China meines Wissens zumindest gibt es auch keinen Angemessenheitsbeschluss, auf dem man sich berufen könnte, so dass es einfach schwierig ist, eine Datenübermittlung nach der DSGFO dann rechtskonform, also DSGFO-konform zu gestalten, weil es für TikTok bzw. Bydance nicht möglich ist, den chinesischen Behörden zu verbieten, auf die Daten zuzugreifen, wenn sie denn wollen würden, die in China auf Servern gespeichert sind.

TikToks Verteidigung aktuell, zumindest in der Pressemitteiligung, die sie selber gemacht haben, ist, dass es keinen echten oder keinen wirklichen Zugriff der chinesischen Behörden gab und noch nicht mal eine Anfrage nach Daten von europäischen Nutzern meines Erachtens, aber das ist wirklich nur mit dem begrenzten Wissen, was wir jetzt gerade haben, reicht diese Verteidigung nicht aus, denn es reicht alleine schon die Gefahr, dass chinesische Behörden Zugang dazu bekommen könnten. Es muss nicht tatsächlich geschehen sein, um einen DSGFO-Verstoß zu begründen. Das ist natürlich jetzt sehr TikTok-lastig, wenn wir nicht verschweigen, das ist gegenüber X und Meter, bezogen auf Facebook und Instagram natürlich auch Verfahren gibt, sowohl basierend auf Datenschutzverstößen als auch jedenfalls zu prüfenden Verstößen gegen den Digital Services Act, insbesondere bezogen auf Hassrede, Transparenz von Werbung, Schutz von Minderjährigen. Das ist ein Punkt, der viele Plattformen betrifft und bei denen auch viel Arbeit bevorsteht, was zu ermitteln ist, was die Verfahren angeht.

Das ist jetzt kein TikTok-eigendes Problem. Ja, das finde ich sehr gut, dass du es sagst und sozusagen mich auch ein bisschen dran erinnerst, denn wir haben ja eingeleitet mit der Frage, ob man nach dem DSL verbieten kann, eine solche Plattform. Das würde ich gerne im Zusammenhang mit X dann wiederum sehen, denn bei X war die Diskussion, würde ich sagen, am weitesten, ob man nicht X jetzt mal verbieten müsste, jetzt so gerade in den letzten Monaten durch den Erwerb von Elon Musk und dann diese Umstellung von X als Werbemaßnahme oder als politische Plattform für Elon Musk und Donald Trump. Da waren ja die Diskussion dann auch auf Seiten der Politik und auf Seiten der EU doch recht weit, was können wir dagegen tun und wie können wir X dazu bringen, sich wieder an die Regeln zu halten, die wir nun mal hier in der EU haben und dann geistert sozusagen die Idee, zumindest die Drohung mit einem Verbot umher.

Der DSA, und das kann ich jetzt am Ende des Podcasts, kann ich das so klar sagen, sieht keine endgültige sozusagen zeitlich unbefristeten Verbot von Plattformen, sozialen Medien vor, gibt es nicht. Das Maximum, was sozusagen möglich ist, ist ein vier Wochen Zugangsverbot, das verlängert werden kann, wenn der Plattformbetreiber sozusagen nicht den Anforderungen nachkommt. Aber man muss ganz ehrlich sagen, selbst dieses vier Wochen Verbot unterliegt wirklich sehr, sehr, sehr, sehr hohen Anforderungen. Also da müssen alle anderen Maßnahmen, alle anderen Möglichkeiten eine solche Plattform zu verpflichten, müssen vorher schiefgegangen sein.

Dann muss nochmal versucht werden, einen sogenannten Aktionsplan zu erstellen zusammen mit dem Plattformbetreiber, der muss auch schiefgegangen sein und erst dann sozusagen nach einem, wenn man so will, auch in zeitlicher Hinsicht, vielleicht jahrelangen Prozess, kann ich für vier Wochen den Zugang sperren lassen und danach vier Wochen ist der Affronten selbst wieder da. Das heißt, was das angeht, muss ich leider sehr, sehr stark einschränken und sagen, hier zeigt sich, dass der DSA dann doch nicht so scharf schneidig ist, wie wir es vielleicht uns erhoffen würden. Das hat natürlich unzählige Erwägungen dahinter und hat natürlich auch Aspekte, die vollkommen verständlich sind und die können wir jetzt auch in der Tiefe hier nicht besprechen. Ich fand es nur wichtig, das einmal sozusagen zu erwähnen, ein vollständiges Verbot beispielsweise von TikTok, beispielsweise von X, ist nicht mit dem DSA, zumindest nicht mit dem DSA möglich.

Punkt. Ich glaube, das ist ein ganz gutes Schlusswort. Also, im Ergebnis bleibt es ein wirksames Mittel, um bestimmte 4N-Union und auch auf einen anderen Bereich in der Welt wichtige Rechte der Nutzer zu sichern, herzustellen in diesem Bereich. Aber tatsächlich, dieses Verbot ist möglich, aber nur in einem ganz, ganz kleinen Umfang und nach einem sehr langen Weg und wie effektiv das dann ist, das muss ich dann selber, jeder selber überlegen.

Aber das heißt nicht, dass auf dem Weg dorthin, wobei man jetzt sagen muss, es ist ja nicht das Ziel, solche Plattformen zu verbieten. Also, ich meine, man darf ja jetzt mal nicht übersehen, wie welche großen Vorteile diese Plattformen auch haben. Also, es ist nicht das Ziel der EU-Kommission und auch nicht wünschenswert, dass hier irgendwie alle möglichen Plattformen verboten werden. Das wäre, ehrlich gesagt, so über ziemlich schlecht.

Aber das Leben mit diesen Plattformen sollte dann doch den Regeln entsprechend, die wir auch im Echten uns wünschen und es ist nur etwas schwerer zu kontrollieren. Aber es ist ein Weg, das, oder ein vernünftiger Versuch ist, so zu kontrollieren. Ja, ich würde sagen, dass so ein kleiner Abriss und ein kleiner Ritt durch die aktuellen Verfahren und das den aktuellen Stand der Dinge dort, dafür reicht es. Und ich glaube jetzt, gönnen wir uns eine kleine DSA-Pause und hauen uns nächste, in zwei Wochen wieder mit einem anderen Thema, was nichts mit dem DSA zu tun hat.

Und deswegen sage ich an dieser Stelle auf Wiederhören und freue mich, wenn ihr uns nächste, ich will mir nächste Woche sagen, wenn ihr uns in zwei Wochen in der nächsten Folge wieder zuhört. Bis dahin. Auch von meiner Seite aus, danke fürs zuhören. Ich hoffe, ihr hattet Spaß mit dieser DSA-Folge und für die DSA-Liebhaber kann ich ganz sicher sagen, der DSA kommt bestimmt auch wieder zurück.

So ist es nicht. Und ja, dann ein bisschen zwei Wochen. [Musik] Copyright WDR 2021