 Jetzt fangen wir damit an, wofür wir eigentlich da sind. Ich bin glücklich, euch an der Maskel vorzustellen. Sie ist eben der Titel des Talks. Geständnisse einer zukünftigen Terroristin. Aber Geständnisse ist das eine, was man immer machen kann. Und so, da geht es quasi um all die schönen Antiterror-Gesetze, die unsere Freiheit einschränken. Sie ist Lobbyistin für Menschenrechte in Brüssel und gibt relativ viele Talks. Aber das ist der Erste beim Kongress, nein, das ist der Zweite am Kongress, sogar schon. Hm, okay, das habe ich noch nicht gut genug recherchiert. Also das ist der Zweite Kongress-Talk von ihr. Also bitte großen Applaus für Diana. Danke. Also, wie ihr schon gehört habt, ich mache nichts von den coolen Dingen, die Wikimedia und Wikipedia-Leute machen. Ich sitze in Brüssel und mache Lobbying für die Community. Und heute bin ich da, um euch was über eine der Vorschläge, also Gesetzesvorschläge in der EU, wo es gerade jetzt entwickelt werden. Und ich möchte meine Einsichten als Aktivistin mit euch dabei teilen. Weil ich fürchte mich ein bisschen davor, wie das ausschaut, wenn das so durchgeht, wie es jetzt ist, wie das, wie meine Arbeit davon betroffen sein wird und auch wie eure Arbeit davon betroffen sein wird. Und eigentlich alle unsere, ja, unsere Freiheiten und Ausdrucksmöglichkeiten online. Und das möchte ich mit euch teilen und euch teilen, dass diese Lobby für die ich da habe, die eben sehr böse ist, oder es nicht gut findet, was da passiert. Deshalb bin ich da, um mit euch darüber zu diskutieren. Und ich hoffe auch, dass wir quasi am Ende des Ganzen darüber sprechen können und freue mich auch über eure Ansichten zu den Themen. Und viel leicht stimmt es euch gar nicht in allen mit mir überein. Also, worum geht es bei diesem Gesetz? Also, der Antrag. Die Europäische Kommission hat quasi einen Antrag gestellt, quasi das, ja, Verteilung von terroristischen Inhalten online reguliert wird. Das ist 2018 im September gemacht worden. So, wenn wir so ein Gesetz sehen und übers Internet und Inhalte und überhaupt online umgegen und das etwas regulieren oder beschränken will, das ist immer etwas sehr Kompliziertes und Schwieriges für uns als für die digitalen Rechtsaktivistinnen, weil das ist schwierig, weil Regulierung und quasi vor allem Verhinderung von Dingen ist da immer schwierig. Das Konzept von neuer terroristischem Inhalt, was ist das überhaupt? Darüber werde ich ein bisschen euch erzählen und ich werde euch erzählen, was die Europäische Kommission darunter versteht und was das Problem damit diesem Verständnis ist, weil das ist etwas, das kann einfach definiert werden im Gesetz und dann steht so da und das ist schwierig. Das sind schon einige sehr problematische Sachen, einige Sachen, wo man wirklich direkt aufpassen muss, also einige Red Flags drin, in dem Antrag. Also, jetzt sage ich immer die Rahmenbedingungen. Das ist jetzt vielleicht der Tokenste Teil von dem Talker, aber es ist wichtig, dass, damit man das einordnen kann, also ist die Europäische Union und deren Gesetzgebung, also europäische EU-Gesetzgebung, die wird also 27 europäische Staaten beeinflussen, vielleicht auch der 28, aber Brexit und so, wir wissen alle, dass das spannend ist, sagen wir mal, das ist fragwürdig, wie es da weitergehen wird. Es ist außerdem wichtig, dass wenn es solche europäischen Gesetzgebungen gibt in der EU, dann sind das die Gesetze, die quasi alle diese, alle Gesetze gestalten, die in den einzelnen Ländern dann umgesetzt werden und sie stehen über den nationalen Gesetzen. Also quasi, auch wenn die in den einzelnen Ländern umgesetzt werden, dann ist das eben quasi, die müssen das entsprechend dem EU-Gesetz an, ja, verabschieden. Der nächste Punkt ist, dass diese spezifische Regulation, da geht es jetzt um den sogenannten digitalen Einheitsmarkt, also die Europäische Union, ist eines ihrer Ziele der EU und der Europäischen Kommission, wenn die ein Gesetz machen, ist, dass es quasi eben einen, dass diese Gesetze in allen Staaten der EU ähnlich sind und dass es quasi einen digitalen einheitlichen Markt gibt. Also wir wollen etwas erreichen online im Internet, was quasi schon da ist als gesamtes Ding in der EU geografisch gesehen, also wir wollen keine Grenzen zwischen den Staaten der EU haben, sondern quasi, dass das EU weit ist. Und wie ist das jetzt, wie hat das jetzt, was hat das jetzt mit terroristischem Inhalt zu tun und mit diesen, also ganz ehrlich, ich verstehe das auch nicht, das ist doch relativ verwirrend, also Gesetzgebung, die darüber redet, wie Menschen sich online miteinander unterhalten und was ist dann das, was sie dort sagen dürfen und was nicht und das ist dann irgendwie ein Teil des Marktes, das ist schon irgendwie sehr verwirrend und auch beunruhigend, dass das da so durcheinander geworfen wird. Wir schon auf der ersten Folie gesehen haben, es geht dabei also um eine Regulation, das ist quasi einfach ein Terminus, der so steht, a regulation, das ist halt ein spezifischer gesetzlicher Terminus im Kontext der EU. Da will ich jetzt nicht zu direkt darauf eingehen, aber der wichtige Punkt ist, dass eine Regulation, wenn sie einmal angenommen ist von der EU, also wenn das Parlament das beschlossen hat, dann ist es bindend für alle Mitgliedsstaaten der EU, da gibt es quasi keine weitere Diskussion, ob das jetzt wirklich implementiert werden soll oder nicht, also in jedem Land gibt es dann unterschiedliche Entscheidungen von den unterschiedlichen Einrichtungen, was genau gemacht wird, aber prinzipiell ja, aber wir als Lobbyistinnen, die das jetzt da beeinflussen wollen, wir müssen quasi das vorher machen, dass das Gesetz erst mal in Brüssel beschlossen ist, dann geht es in die Mitgliedsstaaten und können wir nichts mehr dagegen tun. Das ist wichtig, weil jetzt ist diese Diskussion aus unserer Sicht eben in Brüssel und deshalb müssen wir uns jetzt damit beschäftigen. Es gibt Versionen von dem Gesetz, also es gibt quasi die europäische Kommission, schlägt das vor, das Parlament, das europäische Parlament diskutiert, verändert das Parlament oder das Gesetz oder auch nicht, dann gibt es quasi den Council of the EU, die dann wieder darüber reden. Das ist der europäische Rat ja und dann am Ende quasi, gibt es dann, kommt dann quasi eine gemeinschaftliche Fassung raus, wo dann im Endeffekt alle zustimmen von diesem, das ist ein relativ komplizierter Prozess. Okay, und Regulation ist Verordnung in korrekt auf Deutsch übersetzt. Und es gibt bis dato auch irgendwie keine wirklich offizielle Informationen, wie genau diese Verhandlungen ablaufen. Und in dem Teil der Gesetzgebung, befinden wir uns gerade aus dieser internen Besprechung der verschiedenen EU-Gremien. Und ich möchte quasi heute über die Version der europäischen Kommission sprechen, weil wenn wir uns alle Versionen anschauen, dann wird das ein bisschen sehr kompliziert. Und die europäische Kommission hat sehr viel Einfluss informell auch auf die Mitgliedsstaaten und außerdem auch auf den ganzen Ablauf des Prozesses. Bisher ist die Version der europäischen Kommission sehr wichtig. Also alles, was in den anderen Gremien dann beschlossen wird, dann ist das nicht ganz so wichtig oder nicht ganz so einflussreich. Ich bin Gott sei Dank gleich verfertigt mit dem Teil. Es gibt auch noch andere relevante Gesetzgebungen in dem Teil, einerseits die E-Commerce-Direktive. Der Teil, der da relevant ist für diesen, in diesem Zusammenhang ist das Plattformen, also Internets-Plattformen oder Hosting-Provider. Also prinzipiell nicht dafür verantwortlich sind, was Nutzerinnen und Nutzer auf diesen Plattformen auch quasi posten. Und das ist sehr wichtig. Das beschützt uns, unsere Privatsphäre, dass das nichts ist, was Provider oder Anbieter von Dienst oder Plattformen suchen müssen. Also, dass die das auch nicht tun müssen und nicht dürfen. Sonst müssten sie sich ja alles anschauen, was wir posten. Aber sie müssten quasi reagieren, wenn sie darauf hingewiesen werden, dass jemand illegalen Inhalt postet. Und dann müssen sie entscheiden, ob das online wird. Und dann gibt es noch die Direktive gegen, also um zur Terrorismusbekämpfung, die ist relativ jung, 2017. Sobald ich weiß, nicht alle Mitgliedstaaten haben das bisher auch wirklich implementiert, also durch umgesetzt, auch in nationales Gesetz. Also das heißt, jetzt haben wir da ein neues Gesetz, das wieder über Kommunikation spricht, was eigentlich schon in dieser Direktive abgesprochen wurde. Aber diese Direktive ist noch gar nicht in allen Mitgliedstaaten umgesetzt. Das ist also auch schon schwieriger und relativ komplex, wie sich das jetzt auswirken wird und warum die Kommission da nicht erwarten will, bis alle Mitgliedstaaten das auch umgesetzt haben, ist für uns unklar. Also, warum will die Europäische Kommission oder die gesamte europäische Gesetzgebung so ein Gesetz überhaupt haben? Also es ist quasi um den Inhalt von Kommunikation geht, die Menschen posten auf diversen Services und Plattformen. Das ist schon ein wichtiger Punkt. Also warum ist das so vermischt mit dem Markt und Harmonisierung des Marktes im Digitalen? Also es gibt ein paar wichtige Nummern. 94% und 89%. Weißt du, weiß jemand von euch, worum es bei diesen Nummern geht? Ja, es geht um Menschen, ja, das ist korrekt. Aber diese Zahlen repräsentieren ein Eurostat-Ergebnis. Und es geht um die Personen. Also 94% sind die Prozentanzahl der Personen, die sagen, dass sie nie terroristischen Inhalt online gesehen haben. Also 94% sagen, haben sie niemals gesehen. Also nur 6% der Menschen, die da mitgemacht haben, sagen, sie haben schon mal terroristischen Inhalt online gesehen. Also das ist wichtig zu sagen, dass sie das sagen, weil das wird nie gecheckt. Das heißt, es gibt überhaupt nur 6%, die sagen, sie hätten das. Die Analogie ist da ja vielleicht was jemanden über, was ein bestimmter Amerikaner über Pornografie gesagt hat. Ich weiß, was es ist, wenn ich sehe. Also das ist relativ schwammig. Also das heißt, 94% sind nicht betroffen davon nach eigener Aussage von terroristischen Inhalten, die sie online gesehen haben. Also eigentlich könnte man sagen, es gibt da größere und wichtigere Fragen, wo die Europäische Union Geld und Energie drauf verbrauchen könnte. 89% sind die Leute zwischen 15 und 24, die gesagt haben, dass sie nicht betroffen sind von was sie als terroristischen Inhalt einstufen werden. Also auch Kinder und Jugendliche haben da wenig Erfahrungen. Es werden sich nicht überflutet mit terroristischen Nachrichten ganz offensichtlich. Aber diese 6% und 11% sind die positive Seite, die angeblich betroffen sein wollen. Das wird halt verwendet von der Kommission als Argument. Und es ist quasi die, dass Leute exponiert werden zum Bildern von gewalttätigen Verbrechen über Social Media, das heißt quasi, dass man dem ausgesetzt wird und solche Bilder einfach sehen muss, wenn sie halt gepostet werden. Und wir wissen, dass die Geschäftsmodelle von solchen Online-Plattformen einfach manchmal gewalttätigen Content höher raten, weil das schauen die Leute halt eher an und deshalb kommt es eher in die Feeds von Leuten oder Vorschläge, die sie sehen wollen und dementsprechend. Also dieser Teil wird eigentlich von dem Gesetz überhaupt nicht berührt, aber relevant ist es, wenn immer wir mit den Repräsentanten und Repräsentanten in der Kommission reden, dann deuten sie schwammig in diese Richtung. Das war zumindest mein Eindruck in eine von diesen Treffen, wo dann gleich gesagt wird, ja, und da auf meinem Telefon, da gibt es, da im Internet, da gibt es Beispiele von Enthauptungen, die man sich anschauen kann. Also das war quasi so die Argumentation. Also vielleicht sind da die Mitglieder der Kommission stärker betroffen als andere. Ich will da absolut keine Witze darüber machen über diese Videos, weil ja, die gibt es und das ist absolut nicht lustig oder so eindeutig nichts, was ich sehen wollen würde. Und das ist extrem gewalttätig, aber trotzdem würde ich sagen, das Problem ist nicht die Existenz des Videos, sondern der Umstand, dass jemand geköpft wurde. Also sollte man eigentlich quasi die Gründe für solche Verhalten auslöschen und bekämpfen und nicht die Videos, weil das ist ja nur Symptomekämpfung. Und weiter ist halt Radikalisierung. Dagegen wird natürlich groß argumentiert, also das ist ein Problem, dass für manche Gruppierungen, die sehr gefährdet sind und marginalisiert sind, ist das sehr wichtig. Und wie man sich quasi Radikalisierung gibt, sind manche Gruppierungen stärker. Und aber auch da sollte man schauen, wie kann man diese Radikalisierung entgegenwirken und wie schaut überhaupt die Beziehung zwischen diesem gewalttätigen Inhalt und Radikalisierung. Das müsste man sich zuerst einmal anschauen. Also da gibt es keine Forschungen dazu, die wir gesehen hätten und auch die Kommission hat da keine Forschungsergebnisse präsentieren können, die eine Korrelation zwischen Radikalisierung und gewalttätigen Bildern online herstellen können. Also wie kommt das jetzt, wie so unterstützt das jetzt diesen Vorschlag? Das haben wir natürlich auch gefragt. Und bei einem Treffen mit Journalistinnen und Journalisten hat die Kommission gesagt, nur wir mussten da halt raten und wir haben die Richtung geraten. Also wir gehen halt davon aus, wir denken, dass es da eine Verbindung gibt, ohne jede wissenschaftliche Unterstützung. Und weiter geht es dann, dass die Europäische Kommission weiter argumentiert über diese Sache, dass als weitere Rationalisierung dafür ist, natürlich terroristische Angriffe, weil die ja passieren. Also sie gehen da sehr schnell davon, dass sie einige dieser Vorkommnisse benennen, dass die vor Kurzem passiert sind oder relativ vor Kurzem. Und dann sagen sie ja, das ist auf jeden Fall, verbinden sie direkt mit, genau, wenn jemand sich in ein Lassogen setzt und in eine Gruppe von Menschen fährt oder an bei einer Schießerei weit mit tut oder quasi Menschen erschießt und das super findet, dann gehen sie sehr schnell dazu über, dass sie sagen, dass das mit diesen Inhalten zu tun hat, die online sind und dass man die deshalb regulieren muss. Und deshalb macht das ja Sinn, dass man sowas reguliert. Das ist auch sehr schlecht dokumentiert. Der Repräsentant oder Repräsentant in der Europäischen Kommission hat auch gesagt, ja, wir wissen, und es ist bewiesen worden in der Untersuchung, dass eine der Personen von einer von diesen Attacken tatsächlich vorher das Internet benutzt hat, bevor das passiert ist. Okay, ja, keine weiteren Kommentare dazu. Okay, es gibt also sehr gute Gründe, um Geld und Zeit mit diesem neuen Gesetzesvorschlag auch zu verwenden. Und ich würde sagen, dass diese Vorschriften oder Gesetze gemacht werden, nicht weil es einen Grund gibt, sondern weil es eine Doktrin, das irgendetwas tun, es gibt. Und das ist, glaube ich, wie dieser Vorschlag entstanden ist. Die Doktrin des Etwas-Tuns, in diesem sonderen Fall, umfasst die auch eine sehr breite und wage Definition. Ich will ja gleich nochmal weiter darüber sprechen. Sie haben fast auch bestimmte Maßnahmen. Wir müssen auch sagen, was getan werden soll, um bestimmte Dinge zu verhindern, damit das Problem gelöst wird. Es gibt drei Maßnahmen. Es gibt Entfernungsverordnungen, proaktive Maßnahmen und Weiterleitungen. Und der dritte Punkt ist, dass eine der erste Dinge über dich auch sprechen möchte. Es ist, dass einerseits Inhalte entfernt werden und dann Untersuchungen stattfinden. Und es kann natürlich sein, dass Inhalte gefunden werden, die ein Straftat dokumentieren. Und was tun wir dann? Ich mach weiter. Ich denke, dass die Definition oder das Hauptprinzip dieses Gesetzesvorstoßes ist, die Kontrolle des Staates über die Kommunikation der Menschen zu normalisieren, wie schon vorhin angesagt. Unter diesem Label von Terrorismus kann man sehr viel verpacken, weil Menschen davor Angst haben. Es gibt auch Beispiele aus anderen Themenbereichen, anderen Gesetzen, die in Brüssel diskutiert wurden, wo alle gerne diskutiert haben, wie viel veröffentlicht wurde und wer wozu Zugang haben sollte. Teil dieser Information ist, wird durch private oder öffentliche, und zum Beispiel Transportunternehmen oder Beförderungsunternehmen haben gesagt, dass sie ihre Information nicht rausgeben können, über zum Beispiel Fahrpläne, wollten ihre Daten nicht rausgeben, die vielleicht für Bürger interessant sein könnten, mit dem Argument, dass das dann von Terroristinnen genutzt werden könnte. Dadurch wird dieser Ansatz normalisiert, dass den Vorschlag, der von der Kommission vorgestellt wurde, anschauen. Terroristische Inhalten sollen also Informationen der folgenden Typen sein. Die Bewerbung, das Anstacheln und die Glorifizierung, ich entschuldige mich für die komischen Formulierung. Es geht um die, das Verüben terroristischer Anschläge, wodurch die Gefahr entsteht, dass solche Taten ausgeführt werden. Das Ermutigen zu solchen Taten, das Promoten solcher Aktivitäten innerhalb einer terroristischen Gruppe oder auch Anweisungen und Methoden, Techniken veröffentlichen, die bei der Durchführung solcher terroristischen Taten helfen können. Die Verbreitung terroristischer Inhalte bedeutet hier, dass diese terroristischen Inhalte dritten zur Verfügung gestellt werden durch die Hosting-Dienste von Service-Providern. Also das Zugänglichmachen für Dritte kann auch zum Beispiel heißen, dass ich meiner Mutter irgendetwas schicke über soziale Medien. Es geht nicht nur darum, dass etwas veröffentlicht wird, sondern das Gesetz hier könnte auch verwendet werden gegen Dienste, die zur privaten Kommunikation verwendet werden. Das ist natürlich ein großes Problem. Das zweite, wo ich euch hinweisen möchte, sind die Teile, die ich hier inkursiv gesetzt habe, wie unklar diese Begriffe sind. Die Bewerbung, Glorifizierung, das kann wirklich beeinflussen, wie wir über bestimmte Dinge reden, ob wir bestimmten politischen Entscheidungen zustimmen oder sie ablehnen. Diese ganzen Begriffe sind sehr unscharf. Was uns nicht klar, was sie genau bedeuten, möchte ich euch ein Beispiel geben, eines des gleichen Inhalts, der in drei verschiedenen Fällen verwendet wird. Zum Beispiel sagen wir hier gibt es eine Gruppe, die ein Video gemacht hat und in diesem Video sagen sie, dass sie sich Terroristen machen, damit es ganz einfach ist. Und die sagen außerdem, dass sie alle möglichen, schlimmen Dinge an bestimmten Orten tun wollen, sodass es eine glaubwürdige Bedrohung gibt. Und sie prallen, damit sie jemanden umgebracht haben und wie stolz sie sind. Und natürlich ermutigen sie auch andere dazu, Ähnliches zu tun. Die drei Fälle werden jetzt in diesem Fall, dass sie dieses Video, also dass die Gruppe das Video auf ihrem YouTube Channel postet. Der andere Fall wäre, dass ein Medium darüber berichtet und vielleicht darauf verlinkt oder Ausschnitt zeigt. Und der dritte Fall wäre, dass es eine andere Gruppe gibt, die verfolgt, was in einem bestimmten Region passiert und Beweise sammelt, damit es leichter ist, solche Leute zu identifizieren und dafür zu sorgen, dass sie für ihre Taten verfolgt werden können. Denkt ihr, dass nach dieser Definition, also eure Meinung nach, ist da jetzt ein Unterschied, gibt es einen Unterschied zwischen diesen verschiedenen Fällen der Verbreitung dieser Inhalte, die Gruppe, die das Video macht, die Aktivisten? Nein, es gibt keinen Unterschied. Das Gesetz definiert überhaupt nicht, dass dieser sogenannte terroristische Inhalt mit einer bestimmten Intention, nämlich der Intention der Glorifizierung oder der Bewerbung gepostet wird. Also es geht nicht um Enhalte, wo völlig klar ist, dass es illegales, zum Beispiel ein Video von jemandem, der jemand umgebracht hat, kann natürlich nicht das gesundere Behaben über das, was wir sehen wollen, was wir nicht sehen wollen. Unterbrüchstich Jürgen hat gesagt, dass die Welt kompliziert ist und wir das Recht haben, alle möglichen Informationen zu sehen, obwohl es vielleicht unangenehm oder schwer zu verarbeiten ist. Aber diese Unterscheine gibt es hier nicht. Es wird nicht erwähnt, dass hier die Intention eine Rolle spielen muss. Und das ist ein großes Problem. Wie ihr sehen könnt, gibt es hier ein Problem mit dieser Erzählung, weil die Mitgliedstaaten und ihre sogenannten kompetenten, also zuständigen Autoritäten und Behörden nicht sagen, was das für ein Content ist. Wir haben so eine Tendenz, von uns selbst zu denken, von uns als Gesellschaften zu sehen, die Rechtsstaatlichkeit respektieren, die Freimeidensäußerung respektieren, Grundrechte respektieren. Aber wir wissen auch, dass es da große Veränderungen gibt, schnelle Veränderungen. Und ich will da ein paar Beispiele zeigen. Ich habe da kein großes Vertrauen in die europäischen Behörden, dass sie da die richtige Entscheidung treffen. Es gibt also diese Kategorie, diese sehr breite Definition von terroristischen Inhalten. Und wie wird es jetzt umgesetzt oder benutzt? Im Prinzip, die ganze Entscheidung macht darüber, was terroristische Inhalte sind, wird an private Akteure outgesourced. Die Plattform wird dadurch zu einer Art Söldnern für die Kommission. Die Kommission sagt, dass es Richtern nicht möglich sein würde, sich die ganzen Inhalte anzuschauen und dann die Entscheidungen zu treffen. Darüber, was sozusagen unter Freimeidensäußerungsfeld und was darüber hinausgeht, weil es andere Leute verletzen könnte oder beweisen für etwas Illegales ist. Also werden die Plattformen die Entscheidungen treffen. Das sind die Service-Provider, die Hosting anbieten. Und man fläst sich auch sehr und da ist sehr viel Wunschdenken dabei, dass sie sozusagen in ihren Nutzungsbedingungen schreiben, dass sie kein terroristischen Inhalte hosten werden. Plattformen wie Facebook oder Twitter oder auch andere und die jetzt beschließen, die beschließen sozusagen selber, wie sie mit diesen Inhalten im Detail umgehen wollen. Also, wer sind jetzt die Plattformen, die solche Nutzungsbedingungen haben sollen? Und zum Beispiel, wie? Also Wikimedia wird sozusagen auch darunter fallen. Das wird nicht nur unsere Arbeit betreffen. Inwiefern wir bestimmte Artikel auf Wikimedia referenzieren können oder verlinken können über beschriebene Gruppen oder politische Situationen und Ereignisse, sondern es wird auch unsere eigene Community betreffen. Und da wird dann weniger Kommunikation stattfinden können, wenn wir sozusagen sehr viel Fokus setzen auf Nutzungsbedingungen. Und es sind tatsächlich größer als unsere Projekte, aber wir wollen auch sicherstellen, dass Inhalte nicht anderswo entfernt werden. Also, es gibt drei Maßnahmen. Entfernungsanweisungen oder Entfernungsverordnungen. Es ist eigentlich relativ klar, und ich verstehe nicht ganz, warum es dazu ein Extra-Gesetz geben muss. Und die Entfernung ist sozusagen immer eine Aufgabe der jeweiligen zuständigen Behörde eines Landes, die dann diese Verordnung an einen Provider schickt und dann ihr eine Stunde Zeit gibt, um die entsprechenden Inhalte zu entfernen. Die sagen jetzt, dass die Plattform sagt, dass die Regel mit der eine Stunde kommt daher, dass die größte Viralität von solchen Inhalten sozusagen bei einer Stunde ungefähr liegt. Und sie sagen nicht so genau, wie sie jetzt auf diese eine Stunde kommen. Das ist eine der Maßnahmen, die vielleicht noch am meisten Sinn machen. Dann haben wir sozusagen diese Referrals, die so ein bisschen die faule Variante von Entfernungsverordnungen sind oder Anweisungen. Man geht also zu der jeweiligen Behörde und dann ist da jemand, der arbeitet und sich die Inhalte anschaut. Und dann sagen die so, ja, ich denke, es könnte gegen die Nutzungsbedingungen dieser Plattform verstoßen. Und dann gibt es aber nicht so eine Anweisung, sondern man schreibt in die Plattform an und sagt, könnte euch das vielleicht mal anschauen. Im Prinzip wollen sie also nicht die Zeit darauf aufwenden, die entsprechende Anweisung zu schreiben, sondern bitten sie einfach, die Plattform einfach mal zu checken, ob man das nicht vielleicht entfernen müsste. Und da geht es um sehr viel Macht über freie Meinungsäußerung. Und die Menschen, die damit beschäftigt sind, haben da sehr wenig Zeit, werden auch nicht prüfen, woher die Informationen kommen werden, vielleicht die ganze Sprache verstehen können, den Kontext nicht überprüfen. Und im Zweifel ist es immer leicht, die Sache einfach runternehmen zu lassen, weil es könnte ja doch problematisch sein. Und dadurch gibt es so ein Graubereich von Informationen, die vielleicht kontrovers genug ist, um da aufzutauchen, aber eigentlich nicht illegal genug um entfernen zu werden. Also es ist die Frage, ob das jetzt rausfliegt oder ob die Empfehlung hier umgesetzt wird. Da gibt es gerade eine Diskussion zwischen verschiedenen Institutionen. Und dadurch... Und die Leute, die sozusagen diese Empfehlung rausgeben, sind auch nicht verantwortlich, weil sie ja nur eine Empfehlung machen. Und dann gibt es auch noch die proaktiven Maßnahmen, die sozusagen zu einer besonders strengen... Beschränkung von Inhalten. So, mit Content Filtering. Content Filtering, also Inhaltsfiltern. Und da entsteht natürlich die Idee, dass Plattformen, die solche Inhaltsfilter benutzen, einen guten Beitrag dazu leisten gegen terroristische Inhalte. Es ist sehr schwer, auf welcher Grundlage oder auf welchen Daten oder Kriterien solche automatischen Verfahren dann funktionieren werden. Wie es also heutzutage so ist. Es ist so, dass jemand privat profite, aber verlustigend, immer gesellschaftlich zu tragen. Und das ist ja auch keine Ausnahme. Als wir mit der Kommission geredet haben und sie gefragt haben, warum das jetzt hier... nicht... das Wahrscheinlich ist, wo es um die Umsetzung geht. Und hier sozusagen die ganze juristische Prüfung nicht gemacht wird, die sonst gemacht wird. Und die Antwort war, dass sozusagen hier diese ganzen Videos, die wo Leute erthauptet werden, die außerhalb Europas gemacht werden, dass es dort keinen sozusagen... dass es außerhalb des eigenen Rechtsbereichs liegt. Und dass es schwierig ist, sozusagen dafür zu sorgen, dass solche Aktivitäten eingestellt werden. Und es ist sehr klar, dass dieses ganze Gesetz eigentlich um die Säuberung des Internets geht und nicht darum wirklich gesellschaftliche Probleme zu lösen, die zu dieser Art von Gewalt führen. Und außerdem, dass Widerspruch recht, wo Nutzern sozusagen die Möglichkeit ergeben wird, zu sagen, nein, das ist mein Inhalt. Der ist nicht terroristisch. Ich will, dass er online bleibt. Und die Bestimmungen dafür sind sehr schlecht. Es ist nicht leicht, da Widerspruch einzulegen. Man kann natürlich immer vor Gericht gehen, aber wir wissen ja, wie viel Spaß das macht und wie oft das passiert. Und das ist vielleicht eigentlich, dass es eigentlich keine wirklich wirksamen Möglichkeiten gibt, da Sicht gegen zu werden. Außerdem sieht es auch gar nicht vor, dass der Benutzer darüber informiert wird. Wegen dieser Darstellung oder Glorifizierung von Terrorismus. Vielleicht erfährt man das gar nicht als Nutzer. Es wird also geheim sein. Was die proaktiven Maßnahmen und die Weiterleitung angeht, da ist die Idee, dass man einfach zur Plattform geht und sich bei denen beschwert. Es geht auch um die Frage, wer ist eigentlich Terrorist? Die Frage sollte man vielleicht beantworten, wenn man ein Gesetz haben will, das in einer sinnvollen Weise mit diesem Themenbereich interagiert. Aber die EU-Kommission gibt auch hier keine besonders gute Antwort. Aber Europol zum Beispiel hat hier ein Bericht geschrieben und es gibt auch ein Blockpost, der darauf basierte zur Bedeutung der Löschung oder Entfernung gewaltfreier terroristische Einhalte. Was sie sagen ist, dass auch Lyrik sehr wichtig ist in Arabischen Welt. Die meisten jihadistischen Führungspersonen wie Osama bin Laden und auch der Sprecher des IS, haben ihre Autorität teilweise aus ihrer Fähigkeit Lyrik zu schreiben bezogen. Und ihr Charisma war damit eng verwoben. Und Europol will das jetzt hier sozusagen verwenden. Es geht auch darum, wenn Terroristen Bilder posten, davon wie sie Spaß haben, wie sie zusammen schwimmen gehen. Außerdem der völlig offene Rassismus dieser Kommunikation macht mich wütend. Es ist einfach eine Schande, dass niemand da keinen Ausschrei gehabt hat. In Spanien gibt es, das ist noch ein anderes Gesetz, aber man kann schon ungefähr einen Eindruck davon bekommen, wie das aussehen wird. Es gibt ein spanisches Gesetz gegen Hate Speech, also gegen Hassreden. Es zeigt diesen Ansatz, dass man erst, dass es sozusagen darum geht, dass man die Bösen verfolgt. Also, da ist der Punkt, wo zwei Personen dann in Don Cristobal quasi als Theaterstück das genau gemacht haben. Da gibt es im Endeffekt überbordene und ungerechte Gewalt und viel schlechten Geschmack. Es ist sehr ernst, aber die zwei Personen da drin haben eine Performance gemacht, in der sie quasi pseudo, also gefälschte terroristische, also einen Flaggen hochhielten, die terroristische Inhalte darstellten, aber als Performance und sind dann aber dafür verklagt worden. Das ist eines, was der Puppenspieler gesagt hat, nachdem wir diese furchtbare Erfahrung gemacht haben, ja, die Anschuldigen wurden dann zerfallen gelassen, aber ich meine, es zeigt trotzdem, die wurden zuerst mal eingesperrt dafür, obwohl es da quasi um ein Theaterstück gibt, die eindeutig nichts mit Gewalt oder Terrorismus zu tun hat. Also, wir wurden angeklagt, Hass zu anzustacheln, was ein schweres Verbrechen ist, also mindestens theoretisch, um Minderheiten zu schützen, aber die Minderheiten in dem Fall, nämlich war die Kirche, die Polizei und das Rechtssystem. Eine andere Sache ist quasi EPK und Github zu Tsunami Demokratik. Da ging es quasi um Tsunamiopfern zu helfen. Das ist auch vom spanischen Gericht von Github genommen worden. Und das ist quasi eine der Anwendungen zu einem Prozess online, das ist quasi und auch das ist quasi eben, weil vorgeworfen wurde, dass terroristische Aktivitäten damit erleichtert würden. Also, warum ist das wichtig und was kommt als Nächstes? Also, wir haben den digitalen Services Act, da wird quasi diese Idee, die ich am Anfang erwähnt habe, wo es darum geht, dass Plattformen nicht per Default oder grundsätzlich dafür verantwortlich sind, was dort gepostet wird und die europäische Kommunion und andere Gruppen in der EU spielen mit der Idee, dass vielleicht sollten Plattformen doch irgendwie dafür verantwortlich sein, weil natürlich, da geht es nicht nur um Social Media, sondern da geht es eigentlich um alle Arten von allen Personen, die irgendeine Art von Service anbieten, der Menschen unterstützt, Inhalte online zu stellen. Und eine dieser Ideen ist, wir wissen nicht, wie die genau aussehen wird, am Anfang des nächsten Jahres soll sie dann da sein. Aber wir glauben, dass die gute Samariterregel wird angewähnt. Die sagt, wenn eine Plattform wirklich diesen extra Weg geht und quasi den Inhalt sich anschaut und Inhalt illegal ist oder schädlich, was auch immer das heißen soll. Wenn die das machen, wenn sie sich dann gut benehmen, diese Plattformen, dann werden sie nicht, dann werden sie nicht belangt werden dafür. Und wenn man ein Geschäft hat, dann kann man sich das nicht leisten, dann nicht mitzumachen bei dieser guten Samariterrolle, sondern man muss mitmachen bei dieser guten Samariterrolle. Also natürlich versucht man dann möglichst gut, Inhalte zu zensieren und Inhalte nicht erscheinen zu lassen, die problematisch sein könnten, weil das das einfach ein, also interessiert sein, das das auch eh noch neutral ist, aber vielleicht hätte es ja irgendwie bleiben können, dann nimmt man das lieber mal runter. Eine andere Versuche in der Hinsicht hat man z.B. in Deutschland gesehen. Da war ein Vorschlag, dass die, das, das Plattformen Daten von Nutzerinnen und Nutzern, wie sogar Passwörter, dass sie das weitergeben müssen wenn ein, wenn quasi eine Untersuchung ansteht und eine andere Idee, die natürlich alles regulieren, alles besser machen wird, ist natürlich encryption, weil Terroristen und Terroristinnen verwenden ja, Verschlüsselung und Verschlüsselung ist böse, deshalb gab es auch einen Vorschlag, z.B. Verschlüsselung komplett zu verbieten. Nach einer dieser terroristischen Attacke kam das als Idee mal auf. Das hört sich jetzt sehr extrem an, aber aus meiner Sicht ist das einfach das nächste, was passieren wird. Also was kann man dagegen machen? Weil das war jetzt alles sehr schwierig, oder es ist alles sehr schwierig, also einerseits diese Verhandlungen gibt es laufen gerade, also es ist wichtig, ihr könnt jetzt mit eurer Regierung reden und das ist sehr wichtig, weil der Vorschlag liegt jetzt dann da und die, die Staaten müssen dann drüber entscheiden, was ist ein Terrorist, und was ist terroristischer Inhan. Und wir wissen, Leute interessieren sich leider nicht dafür, was in der DEU passiert und die, trotzdem werden oft in Entscheidungen der Kommission unterstützt. Und, ja, das ist halt irgendwie relativ schwierig. Sie wollen quasi einerseits ihre, also die Staaten wollen ihre territoriale Integrität intakt halten und deshalb tun sie so, wir interessieren uns eh nicht für die EU, aber dementsprechend, das wäre wichtig, dass ihr jetzt mit euren Staaten redet und ihr könnt es mich nachher gerne ansprechen und dann helfe ich euch da gerne, wie ihr das tun könnt. Die andere Sache ist wesentlich einfacher, die wirklich immer funktioniert und die alle machen können, nämlich, man muss nicht mehr sein und die sollen auch mit mehr Leuten reden. Es gibt zwei Gründe dafür. Einerseits werden die Grundleute davon lernen, die Leute das überhaupt kennen und werden dafür sensibilisiert und andererseits, der auch sehr wichtig ist, dass Leute Angst haben vor Terrorismus und das hilft bei vielen, das hilft Regierungen bei vielen Dingen, Sachen durchzusetzen, die eigentlich nicht gut sind. Aber deshalb muss man sich quasi aufklären, wie das missbraucht wird, diese Angst vor Terrorismus. Die andere Sache, die natürlich noch wichtig ist, ist quasi Aktivisten und Aktivistinnen, die mit marginalisierten Gruppen arbeiten, weil da gibt es viele Beispiele in der Welt und in Europa, wo das problematisch ist, auch in Europa gibt es da Gruppen. So im Sinne von, wie können sie sich auch helfen, diese Gruppen, zum Beispiel eben Journalistinnen, Journalisten und andere Medienorganisationen, weil die, ich hätte gerne einige Fragen dann noch, deshalb werde ich jetzt schnell weitermachen. Also, ja, da können Sie mich erreichen und nach dem Talk. So, Dankeschön. Danke für den Talk, wir haben noch ein paar Zeit für Fragen. Bitte stellt sich zu den Mikrofonen, wenn ihr Fragen habt, bei 1, 2, 3 oder natürlich über die Signaleinschlüsse. Ich will euch nur kurz darin erinnern, eine Frage ist ein Satz und hört mit einem Fragezeichen auf. Es scheint so, als wüssten das nicht alle. Wir fangen an mit Mikrofonnummer 2. Hallo. Also ich hab 2 Torrelays und da geht's und viele von diesen Gesetzenscheinen ja quasi auf zentralisierte Plattformen zu gehen, aber wird das auch solche Plattformen betreffen oder eher nicht? Also, sie tun es und sie tun es nicht. Die Definition kommt auf den Hosting-Provider des Europäischen Gesetzes an. Es ist nicht wichtig, wie groß du bist. Es kommt drauf, mit welcher dritten Partei man die Inhalte teilt. Und wenn man da versucht, schon teilweise so aus, das wäre es eher für die großen Plattformen, aber in der Version der Kommission steht da nichts so drin. Da dürfte es auch um ganz normale Messagingdienste und so was gehen. Okay. Nächste Frage. Ist es auch für die, es ist ein bisschen ähnlich wie die Copyright-Debatte. Da war es, es gab eine ähnliche Debatte darum, okay, Uploadfilter für alle und die Frage war, wie geht sich das mit kleinen Unternehmen aus und solche Dinge. Die Frage ist, dass sie die Copyright-Direktive genommen haben und dadurch irgendwie die, dann haben sie quasi einfach aus den Daten die Filter rausgenommen und haben die einfach bei den terroristischen Inhalten dann wieder eingebracht. Ja, also auch große Anbieter, wie wir es wissen haben, quasi eigentlich gar nicht die Möglichkeit, diese Dinge runterzunehmen, also diesen Inhalte wirklich zu monitorn. Ja. Ich möchte nochmal kurz bitte darauf hin, oder ist das ein Satz? Wir haben eine Frage aus dem Internet. Signal Angel. Die Frage ist, würden dezentrisierte soziale Netzwerke diese Regulierungen im Endeffekt einfach umgehen? Ich bin keine Juristin, aber ich werde eine ähnliche Antwort geben, wie Juristinnen das in dem Fall machen. Es hängt davon ab, aber es kommt darauf an. Also es geht um Kontext, es geht um was passiert, was geteilt wird, wie es geteilt wird. Das ist schwierig, diese Diskussion auch mit im Congress Cup letztes Jahr. Da habe ich zwar keinen Talk gegeben, aber ich war bei einem Talk, wo es genau um die Copyright Direktive ging und viele Leute haben gesagt, ja, also wenn du nicht diese Services nimmst, dann wirst du nicht betroffen sein von diesen, weil man peer-to-peer-Netzwerke hat, dann hat man kein Problem mit diesen Direktiven. Aber das ändert sich, der Europäische Gerecht hat dann quasi eine Entscheidung getroffen über Pirate Bay, und der Entscheidung hat der Gerichtshof gesagt, Pirate Bay selbst hat ja eigentlich keinen Content gehostet, aber der Gerichtshof hat gesagt, das interessiert uns nicht, aber weil was ihr macht, was ihr organisiert ist, diese Informationsteilung, nur weil ihr das jetzt nicht teilt, ist das völlig irrelevant und ihr seid dafür verantwortlich für die Copyright Verletzungen, die auf dieser Plattform sind. Also das ist ein bisschen ein anderer Fall, aber es ist sehr relevant wie die Art, wie die Denken, und wie sie das in anderen Arten von Inhalten überführen. Also der Punkt, dass du jetzt selbst nichts hostest, sondern sie nur miteinander verbindest, ist vielleicht nicht ausreichend, um dich von dieser Regel auszunehmen. Mikrofon Nummer 3 Gibt es in diesen Vorschlägen irgendwelche irgendwelche irgendwelche wenn man jetzt, gibt es da irgendwelche was sind die, was sind die Strafen, wenn man so eine Forderung nicht nachkommt, gibt es da Spezifisches, um sicher zu gehen, also genau, wenn es so eine Anfrage gibt, dass etwas gelöscht werden soll, was sind die Strafen, wenn man dem nicht nachkommt, gibt es da welche. Die Frage ist, also eigentlich beginnt das Problem schon davor, weil dass ihr das wegnehmen müsst, also diese Anordnung, die kommt ja schon von einer Behörde und das kann nicht alle machen und das sagt, das ist der Content, und das soll runtergenommen werden. Die Plattform hat keine Möglichkeit, das quasi wirklich rechtlich dagegen vorzugehen und die eine Möglichkeit, weil sie ja noch eine Stunde Zeit hat, dementsprechend gibt es nur, wenn es irgendwelche ganz speziellen Sachen gibt, wie zum Beispiel einen totalen Stromausfall und drum können sie die Daten jetzt nicht innerhalb von einer Stunde löschen. Die andere Version, die es da noch gibt, ist, wenn quasi diese rechtliche Fehler enthält, die es unmöglich machen. Zum Beispiel, es gibt keine URL oder die URL ist nicht der Existenz, die da drin ist. Und in allen anderen Situationen muss der Content auch wirklich gelöscht werden und weder User-Userin noch die Plattform können da sagen wir werden das erstmal nicht machen, sondern quasi da gibt es keine Möglichkeit. Man kann natürlich das Ganze dann gerichtlich anfächten, aber das werden nicht viele Leute machen und das ist kein sinnvoller Weg, das abzuhandeln. Nächste Frage im Mikrofon Nummer 3. Wie viel Zeit haben wir die Parlamentarierinnen zu kontaktieren und sie darüber zu informieren? Was ist der Worst Case-Time? Okay, das ist eine sehr gute Frage, danke. Das habe ich nämlich vergessen. Das ist ziemlich dringend alles miteinander. Die Kommission wollte, wie immer in solchen Situationen wollte das schon im Ende diesen Jahres schließen, aber das haben sie nicht geschafft, weil es gibt noch keine Einigung bei einigen Problemen im ganzen aber wir schätzen oder wir vermuten, dass das Grundszenario so sein wird März, vielleicht Juni, eventuell aber sogar schneller und so schnell wird das umgesetzt werden. Es wird viele, viele Treffen dafür geben. Das ist ungefähr die Zeit, die ihr habt. Es gibt keine externe Deadline für das. Es ist nur eine Schätzung. Das ist was wir uns erwarten. Eine andere Frage aus dem Internet. Also weiter, aus dem Internet. Das Gesetz nimmt auch, dass man eine psychologische Kriegsführung über solche Kanäle fahren kann. Dieser Inhalt ist dass dieser Inhalt psychologische Kriegsführung ist das in dem Gesetz irgendwie berücksichtigt. Naja, ich weiß nicht. Ich schau mal überlegt mir, wie ich kann das. Also ich glaube, das Gesetz interessiert sich nicht für solche Details. Also es bespricht solche Details nicht. Also wir gehen zurück zur Definition. Es geht da nur um den Umstand, dass der Inhalt so ausschaut, als wäre eher positiv gegenüber terroristischen Inhalt eingestellt. Das ist der Grund, warum man das weghaben will. Aber weitere Details gibt es, also gibt es keine Details. Also ich würde sagen, nein, das Gesetz interessiert sich, also geht da nicht. Eine letzte Frage von Mikrofon Nummer 2. Gab es da irgendwelche Fallstudien von solchen Gesetzen, die da irgendwie erfolgreich waren? Wir haben das in Russland seit zwölf Jahren und es ist absolut nutzlos. Keine von denen, die ich wüsste. Ich glaube, das ist auch eine sehr schwierige Frage überhaupt zu untersuchen, weil wir können nur untersuchen, was wir wissen, was passiert ist. Wir müssen wissen, da gibt es Menschen geben, die über etwas sprechen, die sich über diese Gesetze beschweren oder dass diese Gesetze nicht korrekt umgesetzt werden, dass Inhalte runtergenommen werden, die eindeutig legal sind etc. Und das ist sehr schwer. Ich glaube, dass die größte Frage hier ist, gibt es überhaupt die Forschungen, die sagen, dass etwas nicht funktioniert, die quasi sagen könnten, dass diese Sachen eindeutig nicht funktionieren? Nein. Wie ich schon gesagt habe, die haben überhaupt keine Argumente um ihre Position rüberzubringen. Also quasi, dass dann Forschung dagegen existieren muss, nur damit sie es nicht implementieren, wenn sie keine Argumente dafür haben, ist schon ein bisschen schwierig. Was wir manchmal in Brüssel sagen, ist, dass wir eigentlich hoffen, wenn wir für Menschenrechte kämpfen, dann hoffen wir, dass wir dazu beitragen, dass wir quasi Evidenz, also Belege für etwas bringen können. Also ich finde, Forschungen super und Informationen gut, die quasi Gesetzgeberinnen helfen sogar der Kommission, damit die Leute in der Kommission, die vielleicht dagegen sind, ihre Sachen unterstützen können und die sich solche Sachen wünschen würden, solche untersuchen. Also ich finde das gut, aber es ist einfach eine politische Sache und keine... Zeit ist um. Wenn ihr noch weitere Zeit, dann könnt ihr einfach zur Bühne kommen und dort nochmal fragen. Großen Applaus nochmal. Danke.