 Okay, der folgende Talk heißt Privatisierung der Rechtsdurchsetzung, was der Anti-Terror-Kampf von der Urheber-Rechtsdurchsetzung lernen kann. Unser Sprecher ist Markus Beckedahl, Blogger, Aktivist, Journalist, Gründer der Republikakonferenzen. Er hat den Grimme Online-Preis für nettspolitik.org gewonnen und jetzt komme ich nicht mal wirklich umhin aus anders über ihn zu sagen, bitte begrüßt mit mir einen quasi Landesverräter. Guten Morgen. Jetzt bin ich ein bisschen verwirrt. Mir wurde eben gesagt, ich darf erst anfangen, wenn die Tür da oben wieder aufgeschlossen ist und die ist immer noch nicht aufgeschlossen. Entschuldigung, ja, das ist tatsächlich so, das habe ich mir falsch interpretiert. Das Gute ist, ich kann aber dann einfach noch ein paar andere Regen über dich erzählen. Wie wäre das? Ja, mal erzähl ruhig, weiß ich. Wer von euch war denn auf dem Camp 2015 und hat den Talk von Markus und vom Anderen gesehen, wo Sie am Grunde das Thema Landesverrat und die Ermittlungen, die es darum gab, mal so ein bisschen kurz zusammengefasst haben? Stimmt doch einfach mal, Hände hoch, wer war denn da? Erstaunlich, wie ich auf dem Camp waren. Das hätte ich nicht erwartet. Wer hat den Talk von Andere gestern gesehen? Vorgestern. Entschuldigung. Korrekt. Der Kong ist es immer ein langer Tag. Das sind schon ein paar mehr. Okay. Ja, falls ich wollte, warum es sich losgehen kann, eine Tür ist abgeschlossen, sagen nicht alle Fluchtwege benutzbar sind, kann leider auch der Talk nicht starten. Das ist aber insofern, ich war da tragisch, als das hier nach A, große Pauses und B, der dann folgende Talk ohnehin abgab. Das heißt, da haben wir ganz viel Zeit, sowohl für den Vortrag als auch für Fragen und Antworten im Anschluss. Also eigentlich kein Zeitdruck. Also ich glaube, das ist eine Fake News, weil die andere Person hat mir immer erzählt, wir dürfen nixens zwei Minuten überziehen. Wir müssen ja trotzdem den Saal irgendwann sauber machen, aber so ein bisschen viel ist immer. Ich glaube, das ist nicht so. Wenn tödlich inkorrekt wäre, sonst auch noch da. Die kriegen bestimmt auch eine Tür auf, genau. Ansonsten, wir haben diesen Vordrack mit zweimal Übersetzung. Das hat auf dieser Konferenz für erstaunlich viele Vorträge geklappt. Ich finde da haben sich die Leute, die da hinten in meiner Kabine sitzen, da ist es dunkeler und eng, auch mal Ablaut zu verdienen. So, jetzt Tür ist offen. Ja, danke fürs Kommen. Es ist auch gerade etwas ungewöhnlich. Drei Netzpolitik-Vorträge parallel. Ich wäre auch lieber in den anderen beiden. Aber tippt ihr alles auf Video, habe ich gehört. Hier auch auf Russisch. Später. Ich rede über ein Thema, das eigentlich total trocken ist und niemand interessiert. Leider ist es aus unserer Sicht eines der wichtigsten Themen im Moment, weil worüber ich jetzt rede, da gibt es Parallelen in verschiedenen netzpolitischen Debatten. Privatisierung der Rechtsdurchsetzung beschreibt eigentlich, dass mittlerweile immer mehr klassische Rechtsdurchsetzung nicht mehr auf einem rechtsstaatlichen Wege passiert, sondern durch private Akteure. Und der Staat manchmal auch eine Interesse daran hat, Verantwortlichkeiten abzuschieben, weil man hofft, gewisse Probleme irgendwie dann auch durch andere Akteure lösen lassen zu können. Dass private Rechte privat durchgesetzt werden, ist nicht so ganz neu. Das Presserecht ist so ein klassisches Ding, habe ich mir erklärt lassen von Juristen. Aber auch da geht es vor allen Dingen immer darum, dass ein Gericht zum Schluss oder zwischendurch entscheidet, was jetzt durchgesetzt wird und was nicht. Bei der Privatisierung der Rechtsdurchsetzung entscheiden auf einmal private Akteure wie Plattformen auf Basis ihrer allgemeinen Geschäftsbedingungen, die ihr wahrscheinlich noch nie gelesen habt, was auf dem Plattformen passieren kann und darf und was nicht. Und das ist ein ziemliches Problem. Viele werden jetzt sagen für mich nicht, ich bin nicht bei Facebook, aber viele andere sind auf Facebook zum Beispiel. Und da ist es ein Problem. Es ist auch ein Problem, dass halt quasi mittlerweile ein Großteil des öffentlichen Raumes in Hand von privaten Akteuren ist, vergleichbar mit einem Einkaufszentrum. Also ein Einkaufszentrum ist nicht dasselbe wie ein Marktplatz. Auf dem Marktplatz hat man selbstverständlich Grundrechte, Versammlungsfreiheit und so weiter. Man kann eine recht auf freie Meinungsäußerung ausüben, man kann Demonstrationen anmelden, aber wer von euch hat schon mal eine Demonstration erfolgreich in einem Einkaufszentrum durchgeführt. Und wir haben gerade jetzt das Problem, dass halt diese Privatisierung der Rechtsdurchsetzung, was als Konzept schon ein bisschen älter ist, gerade jetzt vor allen Dingen so dominant wird, weil private Plattformen werden dominant. Auch wenn jetzt wahrscheinlich hier, wie gesagt, ein Teil sofort sagen würde, ich bin nicht auf Facebook, wir müssen damit leben, dass mittlerweile ein Viertel der Bevölkerung in Deutschland sich jeden Tag über Facebook informiert und Facebook eine der Dominanten, wenn nicht sogar die dominanteste, meinungsbildende Plattform mittlerweile geworden ist. Und Facebook ist erst zehn Jahre alt, 1,6 oder 1,8 Milliarden Menschen sollen sich dort international einloggen und Facebook ist nur eines von verschiedenen Plattformen, die halt als private Akteure quasi ja über ihr Hausrecht, über ihre AGBs, die man immer nur einmal im Jahr irgendwie als Veränderung weiterklicken muss, bestimmt, wie wir kommunizieren, wie wir leben und dazu kommt natürlich noch die Technik, die sie uns vorgeben. Weitere Folge effekte Privatisierung öffentlichen Raums ist, dass es natürlich auch Problem darstellt, wenn unsere Gerichte immer mehr überlastet sind, wenn es zu wenig kompetentes Personal gibt, was zum Beispiel IT-Fragestellungen auch bei Gerichten, bei Staatsanwaltschaften irgendwie behandeln kann. Und hätte man alles früher mal sich drum kümmern können, hat man aber nicht getan. Wenn man sich jetzt mal anschaut, wo kommen denn die freiwilligen Kooperationen zwischen privaten Akteuren und Staaten sozusagen her, dann gibt es vor allen Dingen eine Debatte, die in Deutschland vor sieben Jahren sehr präsent war. Das war Zensusola. Ursula von der Leyen hatte die super Idee, Stoppschilder im Internet zu errichten, im Kampf gegen Kinderpornografie. Fünf Provider mit 75 Prozent Marktanteil hatten sich damals zu einer freiwilligen Kooperation mit Ursula von der Leyen zusammengesetzt, sie präsentierten diese Stoppschilder. Sie hatten zugestimmt, sich täglich Filterlisten vom Bundeskriminalamt schicken zu lassen, um über eine DNS-Filterung diese nicht mehr zugänglich machen zu können, stattdessen einen Stoppschild dahin zu hängen. Dazu gehörten Deutsche Telekom, Wodafone Akoa, Alice Hansenett, Kabel Deutschland, Telefoniker O2. Wir sagten, sie installieren da eine Zensurinfrastruktur, die wir nicht mehr demokratisch kontrollieren können. Es gab dann Aufschrei, 2 Prozent für die Piratenpartei, irgendwie zwischendurch, kannst du noch die SPD, dass man möglicherweise ein Problem mit freiwilligen Kooperationen hat. Man brachte das Zugangserschwärmungsgesetz. Es gab eine neue Regierung, die SPD war weg, das Zugangserschwärmungsgesetz war weg und die freiwillige Kooperation war weg, die Piraten dann ein bisschen später weg. Das auf jeden Fall gab es damals eine große Debatte über freiwillige Kooperationen beziehungsweise es gab eine große Debatte, warum sie schlecht sind. Es gab eine große Debatte darüber, dass wir keine Zensurinfrastrukturen solcher Art haben wollen und das war auch gut so. Das Problem ist, wir bekommen sie gerade und kein Interesse jetzt. Es gab zwischen 2009 und jetzt viele Versuche auf internationaler Ebene, besonders in der Urheberrechtsdurchsetzung, Filter einzuführen. Das Urheberrecht ist eine ungeklärte lange Geschichte, voller Komplikation. Seitdem ich Netzpolitik mache, muss ich mich mit dem veralterten Urheberrecht herumschlagen und es wird nicht besser, es wird immer schlimmer. Aber wir hatten auf der einen Seite eines der wenigen Sachen, die in den letzten 15 Jahren reformiert wurde im Urheberrecht, war die Schaffung einer Abmahnindustrie beziehungsweise alle Sachen, damit eine Abmahnindustrie eingeführt werden kann und mehr Reformen sind mir jetzt auch nicht gerade bewusst. Wir hatten um 2012 endlich meine große Debatte um Akta. Akta wurde seit 2008 im Geheimverhandelt, ein Freihandelsabkommen zur Bekämpfung von Piraterie, so wurde es genannt. Wir hatten damals schon kritisiert, dass hier viele Mechanismen einer Privatisierung der Rechtsdurchsetzung in den Texten drinne standen, dass Staaten sich gerne darauf einigen wollten. Internetzugangsanbietern, Internetplattformen zu verpflichten, freiwillig Filter einzuführen, damit halt mal diesem Urheberrechtsproblem eine Lösung gefunden werden kann, dass man es nicht reformieren muss, sondern dass es irgendwie funktioniert, weiter so zu laufen wie bisher. Es gab parallel zu Akta schon auf EU-Ebene Dialoge mit Internetanbietern, Internetplattformen, ein Dialog über Illegales Ab- und Down-Lohn. Das Schluck durch EU-Kommission schon freiwillige Anwendungen von Sperrungen und Filterungen von Pier to Pier Verkehr vor. Die EU-Kommission drängte damals schon ihr Internetdiensteanbieter dazu, ihre allgemeinen Geschäftsbedingungen so abzudecken, dass sie halt unbegrenzte Möglichkeiten hätten, Webseiten zu löschen, Zugang zu Webseiten über Links, die man teilt und so weiter zu löschen. Was? Aber eine Verletzung der EU-Grundrechtskarte darstellt. Also man muss sich das so vorstellen, also wir sind Deutschen, wir kennen das. Wenn die Bundesregierung etwas vorstellt, was gegen das Grundgesetz geht, ist das halt blöd, weil eigentlich der Aufgabe der Bundesregierung ist, das Grundgesetz zu schützen und durchzusetzen. Auf EU-Ebene haben wir das halt auch, dass die EU-Kommission denkt so, EU-Karte, der Grundrechte oder Grundrechte-Karte wäre interessiert. Wir machen einfach was anderes. Man dachte halt auch die ganze Zeit schon, ja, wenn die Provider das freiwillig machen, dann geht das ja, dann kann er keiner klagen. Und das ist halt eines der Probleme, die halt die Privatisierung der Rechtsdurchsetzung mit sich bringt. Es gibt ein anderes Beispiel, also dieser Dialog über illegales up-and-down-Loden scheiterte zum Glück auch. Akta scheiterte zwei, drei Jahre, traute man sich nicht mehr an das Thema ran, zumindest bei der Urheberrechtsdurchsetzung. Aber es lief trotzdem einiges weiter. Google entfernt beispielsweise umgerechnet eine Million links pro Tag die Urheberrechte, Inhaber oder Rechteverwerter automatisiert in Google-Formulare hochladen. Geschätzte 345 Millionen Löschanfragen soll es in 2014 gegeben haben. Google braucht nach eigenen Angaben sechs Stunden, um einen Link zu löschen. Könne ich vorstellen, da findet sicherlich eine große Prüfung statt, ob jede Löschung auch gerechtfertigt ist, wenn eine Rechteinhaber was hochlädt und die Liste abgearbeitet werden können. Die Liste von Kulateralschäden ist lang. Von vielen Githubprojekten bis hin zu lauter legitimen Videos, die auf einmal gelöscht wurden, weil andere meinten, sie wären die Urheber davon. Auch das ist eine Form von Privatisierung der Rechtsdurchsetzung. Also Google macht das, weil Google durch den Digital Millennium Copyright Act, dem DMCA, amerikanischen Copyright Gesetzgebung dazu verpflichtet ist, innerhalb von einem Tag über ein Notice-and-Takedown-Verfahren Sachen zu entfernen. Wenn sie es halt nicht entfernen, dann wird es teuer. Und damit sie halt nicht die Rechnungen bezahlen müssen, die Strafrechnung, entfernen sie lieber zu viel als zu wenig. Das nur mal dazu. Kommen wir jetzt mal zum Terror. Also seit vielen Jahren versucht man, Sensorinfrastrukturen durchzubringen. Kinderpornografie hat zumindest in Deutschland nicht geklappt. Anderen Staaten, leider schon, anderen Staaten der Europäischen Union. Urheberrecht hat nicht geklappt, Akta und so weiter, alles gescheitert. Terror haben sie gerade einen Durchlauf. Um 2011, 2012 gab es ein EU-Projekt namens Clean IT, was damals schon wenige interessiert hat. Man konnte es auch als die dümmste Sammlung an Vorschlägen für Internetregeln der gesamten Geschichte der Menschheit bezeichnen, wie European Digital Rights, das damals gemacht hat. Und ich würde jeden Satz oder diesen Satz auch sofort unterschreiben. Das Problem ist, damals schon kam innerhalb von Clean IT so als halboffizielles EU-Projekt Terrorbekämpfer, also Verfassungsschutz, BKA, Innenministerium aus deutscher Seite und so weiter mit Internetfirmen aus ein paar Staaten der EU zusammen, um gemeinsame Maßnahmen zur Bekämpfung von Terrorismus im Internet zu machen. Dazu gehörten dann auch zu den Vorschlägen, die man dann halt als am Ende dieses IT-Projekts, was eigentlich eine große Laberrunde war, aber man kriegt halt Geld, um sich zu treffen und dann bringt man zum Schluss irgendwie einen Vorderungskatalog raus. Man hat so Vorschläge wie freiwillige Industriestandards für Note is a Takedown, Uploadfilter und ein Alarmknopf fürs Internet. Clean IT war zwar kein Masterplan der EU, aber eine kommende oder eine Blaupause für das kommende EU-Forum Internet, von dem man wahrscheinlich noch nie was gehört hat, was aber jetzt eine große Rolle spielen wird. Das EU-Internet-Forum, zuerst Forum der Gemeinschaft der Internetdienstleister genannt, das war aber ein bisschen zu uncool, also hat man das EU-Internet-Forum abgekürzt, trifft sich seit 2014. Das erste Treffen, was wir so dokumentieren konnten, war ein Treffen am Rande des G6-EU-Innenminister-Treffens Deutschland, Italien, so Frankreich und noch drei andere Plus. Damals war noch dabei USA, Kanada, wir haben nicht ganz verstanden warum, A und Türkei. Damals gab es ein gemeinsames Abendessen am Rande von so einer G6-Plus-1-Plus-1-Plus-1-Sitzung mit Facebook und Co. Um mal so zu klären, wie geht man jetzt so mit Terror im Netz um, vor allem Terrorpropaganda. Sie ist dann, bitte treffen uns jetzt mal ein bisschen formeller. Hier ist halt so beim ersten, so einen Gruppentreffen beim ersten Forum. Leider hat die EU nur so total verpixelte Bilder oder kleine Bilder gemacht, sonst könnte man sie alle schöner sehen. Aber das Ziel dieses Projekt sei es nicht, Freiheit im Internet einzuschränken. Aber andererseits kümmern wir uns um Fragen der Sicherheit und wollen die Nutzung des Internets für terroristische Zwecke beschränken. Das sagt schon alles aus, was so damals das Ziel war. Ein Themen gibt es verschiedene Treffen und es hat sich auch alles so ein bisschen ausgeweitet, um was es da gehen soll. Also am Anfang hieß es die Herausforderung, die aus der Nutzung des Internets durch Terroristen erwachsen, sowie mögliche Antworten und Gegenmaßnahmen. Punkt 1, Werkzeuge und Methoden, um auf terroristische Online-Aktivitäten zu reagieren. Insbesondere konkrete Initiativen zur Entwicklung von Gegenentwürfen, Counter-Narratives. Zweitens freiwillige Maßnahmen und Selbstregulierung, zum Beispiel Kennzeichnung und Berichtsverfahren, Strafverfolgungsmaßnahmen, zum Beispiel Sonderschwerpunkt, Büros, Ansprechstellen, Ermittlungsvorhaben. Was noch ziemlich schnell reinkam, war Krypto-Verschlüsselung, wo man schon mal beim Thema ist Terrorismus, muss man dringend Tübler sprechen. Aber auch damals war es schon so, was man halt sagte so, Terror, was immer Terror ist, da komme ich gleich zu, findet Online-Staat, wir brauchen dagegen Propaganda zu. Ursprünglich von Cecilia Maimström ins Leben gerufen. Cecilia Maimström ist jetzt Handelskommissarin Schweden, war vorher Innenkommissarin der EU bis 2014. Auch bekannt, sie kriegt ihr dann irgendwann den Spitznamen Cecilia von Censor und Cecilia. Also manchmal hat man halt Glück, dass halt Namen so passen. Wir waren auch damals froh, dass Ursula von der Leyen Ursula hieß und ich Brigitte, sonst hätte Cecilia nicht geklappt und so weiter. Cecilia Maimström war schon dafür, so ein Forum der zentralen Akteure der Kommunikationsindustrie ins Leben zu rufen, um halt ja, weil es darum gehen sollte, wie den Nutzern die Meldung von Anstoß erregendem oder potentiell illegale Material erleichtert werden kann. Wie gegen Narrative im Netz geschaffen werden können und wie leicht erreichbare Alternative Botschaften ins Netz gestellt werden können, die zu kritischem Denken anregen. Wir dachten natürlich sofort an Akta, wo dann wir in der erfolgreiche Kampagne gegen Akta führen und die EU-Kommission dann alternative Botschaften ins Netz stellt, um zu kritischen Denken zu kommen. Also im Endeffekt geht es halt auch darum, gegen Propaganda zu machen, die Sicht der EU-Kommission nahezulegen gegen andere, die andere Ansichten haben. Das war 2014, Cecilia Maimström. Mittlerweile ist Herr Aframopoulos Minister für Inneres und Migration, ein Griecher und er ist auch ein sehr großer Freund von Europol. Europol spielt auch wiederum eine große Rolle in diesem ganzen Forum Internet. Europol ist halt die europäische Polizeibehörde sozusagen BKA auf EU-Ebene. Na ja, und Europol hatte dann auch so die lustige Idee, na ja, bisher ging es ja um Terrorpropaganda, wo wir schon mal dabei sind, können wir es auch sofort ausweiten auf die Entfernung solcher Postings, die Migranten und Flüchtlinge anziehen könnten. Removal of Internet Content used by traffickers to attract migrants and refugees. Es gab dann auch sofort drei Stellen beim Innenministerium. Diese sollen eingesetzt werden für die Zerschlagung von Schleppernetzten und die Ermittlung von Internetinhalten mit denen Schlepper, Migranten und Flüchtlinge anlocken, sowie für die Stellung von Anträgen zur Entfernung dieser Inhalt aus dem Netz. Also na, klassisches Muster. Erst mal geht es ganz klar um Terror. Alle haben islamischen Staatenblick. Sobald man sich erst mal darauf geeinigt hat, dass man irgendwie anfängt, in diese Richtung zu gehen, kommt sofort der Nächste sagt, wo wir schon mal dabei sind, hier Fluchthelfer, auch noch sofort erst mal rein. Bei dem Forum Internet, was dann offiziell 2015 gegründet wurde, hatte man dann fünf Internetfirmen eingeladen, wo wir uns immer noch fragen, wie kommt eigentlich AskFM auf die Liste? Man weiß es nicht. Also ich weiß es nicht. Wahrscheinlich haben wir es auch nicht genau drum gekümmert. Anscheinend Firma aus Lettland hat anscheinend 160 Millionen Nutzer. Wer weiß, wie viele davon aktiv sind. Wir haben auch die Verschwörungstheorie, dass sich irgendjemand geirrt hat, weil die Amis haben parallel einen Art Forum Internet ins Leben gerufen und statt AskFM haben sie Apple eingeladen. Glücklicherweise hat sich halt irgendjemand vertanen mit irgendeiner Firma mit A. Wissen wir nicht. Aber als es dann offiziell gegründet wurde, hieß es dann schon, na ja, also drei Sachen. Welche Instrumente zur Bekämpfung terroristischer Propaganda im Internet und in den sozialen Medien können eingesetzt werden? Andere Herausforderungen, die sich im Zusammenhang mit dem Internet stellen, wie zum Beispiel die Bedenken der Strafverfolgungsbehörden in Bezug auf neue Verschlüsselungstechniken sollen thematisiert werden. Und Ziel ist es, Möglichkeiten der praktischen Zusammenarbeit mit Internetdienstleistern zu finden, um diese Herausforderungen zu begegnen. Also Überwachungsschnittstellen. Das Innenministerium erklärt dann auch noch mal auf Anfrage von Abgeordneten. Wir können und wollen nicht grundsätzlich vorschreiben, welche Inhalte bei Internetdiensten gezeigt werden oder und nicht. Blöde Meinungsfreiheit, ne? Aber wir appellieren an die humanitäre Verantwortung, an die ethische Verantwortung bestimmte Inhalte vom Netz zu nehmen, wenn Regierung sie darum bitten. What could possibly go wrong? Man sagt doch gleich, da habe Kinderpornografier das so super funktioniert, warum nicht im Kampf gegen Terrorismus einsetzen. Naja und die Idee ist halt, dass halt Facebook und Co, wie ihr am Anfang schon sagte, über ihre allgemeinen Geschäftsregeln einfach mal definieren, was halt geht, was halt nicht geht und halt einfach mal ja dann anfangen, quasi Richter und Hänker und alles Mögliche zu spielen und möglichst viel zu löschen. Europoi, wie gesagt, kam schon irgendwie dazu, hatte dann auch die tolle Idee einer Meldestelle der EU Internet Referral Unit für unliebsame Internetinhalte. Könnte ich jetzt mal genau überlegen, was ein unliebsame Internetinhalt ist, ja alles immer eine Frage der Perspektive und so weiter aufzubauen und gemeinsam also diese Meldestelle beim Antiterrorzentrum zu bringen. Und diese Meldestelle ist auf einmal dann ein Zentrum für das Sperren und Löschen unliebsaber Internetinhalte geworden, wie man in einem Kommissionsdokument lesen kann. Europol solle die Mitgliedsstaaten bei der Identifizierung und Beseitigung gewalttätiger extremistischer Online-Inhalte unterstützen. Ja und wir haben jetzt eine Situation, da treffen sich halt so einmal alle ein, zwei Monate hinter verschlossenen Türen, diese großen Plattformen mit der EU-Kommission. Es liegen so verschiedene Sachen auf dem Tisch und wir haben das Problem, naja das hat dann mehr oder weniger wahrscheinlich hinter versteckten Türen so eine Art Pferdhandel stattfindet. Wenn das so Horst Trading behind closed doors Pferdhandel, also wenn da halt bei irgendwie so Sachen sind, also wenn ihr die überwachen Schnittstellen nicht haben wollt oder wenn eure Krypto jetzt noch gerade so sicher sein soll, dann müsst ihr uns aber bei anderen Sachen bisschen entgegen kommen und so weiter. Wir versuchen seit einer Zeit lang, wie jetzt schon zehn Minuten noch, nur noch, na gut. Wir versuchen seit langem über das EU-Informationsfreiheitsgesetz Sachen anzufragen dazu. Das hat man abgelehnt mit der Sache, that releasing publicly details about its engagement and cooperation with industry results in these industry representatives potentially becoming subject to threats by terrorists. Die EU-Kommission bezieht sich darauf, weil halt mittlerweile Facebook, Google, YouTube, Twitter, ganz viele IS-Accounts löschen, dass dann auf Twitter irgendwie Mark Zuckerberg Morddrohungen bekommt. Und das ist der Grund, warum wir nicht erfahren dürfen, was beim Forum Internet passiert. Kein Scherz, kann man halt nachlesen. Vor allen Dingen, wir fanden das halt dann nicht so lustig, als dann erklärt wurde, also wir können euch leider nicht sagen, was passiert, wir müssen hier echt um die Sicherheit der Verhandlungspartner uns Sorgen machen. Ja, um das Argument zu unterstützen, Twitter dann halt die EU-Kommission erst mal ausführliche Bilder von sämtlichen Teilnehmern, damit man sehen kann, wie schön sie da gerade am Verhandeln sind. Das sieht noch relativ klein aus, wenn man draufklickt, sieht man das halt ganz groß. Der Omnibutzmann oder die Frau der EU hat da jetzt ein Verfahren eingerichtet bei Kirsten Fiedler von e-trieb.org, die auch bei uns ab und zu mitschreibt, sich da beschwert hat, weil sie meinte, das ist eine große Verarschung und das verletzt ihr Recht auf Informationsfreiheit und der Omnibutzmann ermittelt jetzt. Parallel fing dann in diesem Jahr an, nochmal unser Innenminister Druck zu machen. Das sagt der Morgenmagazin. Wir sind intensiv mit Provider im Gespräch, Anleitung, Bombenbau und kennt man alles noch von Zensosula und so weiter, muss aus dem Netz verschwinden. Aber und dass die Provider immer sagen, Meinungsfreiheit oder eher so. Aber ich halte das nicht für überzeugend. Wir wollen, dass die Provider selbst eine Haftung und Verantwortung dafür übernehmen, wenn Straftaten in ihrem Netz stattfinden. Man kann auch übersetzt sagen, also das, was er da im Morgenmagazin gesagt haben, haben wir dann damals mal übersetzt. Schöne Plattformen haben sie da, wäre doch schade, wenn sie für die Inhalte ihrer Nutzer haften müssten. Und da sind wir wieder bei dem Pferde handeln. Das halt irgendwie Druck aufgebaut wird auf die Plattformen, von wegen so, hey, mach mal, weil sonst machen wir das halt, da gehen wir ans Haftungsprivileg ran, was die Urheberrechtslobby eh schon die ganze Zeit versucht. Da gibt es personelle Überschneidungen, auch im Innenministerium, wer irgendwie von der CDU für Urheberrechtsdurchsetzung ist und jetzt auf einmal Antiterror-Durchsetzung macht, da kriegen sie uns so weiter. Naja, auf jeden Fall ist jetzt eines der Probleme. Das waren alles so gute Argumente, die was gebracht haben, weil seit letzten Monat gibt es auf einmal so genannte Upload-Filter, wir nennen sie Zensurfilter. Die Upload-Filter bei Facebook, Twitter, YouTube und Co. Sind vergleichbar, da bauen auf der Technik von Fotodena, auch Fotodena, so ein Microsoft-Facebook-Projekt, kommt aus der Kinder-Bronographie-Verfolgung. Man kann halt Bilder mit einem Hash-Wert erzeugen und in Datenbacken abgreifen. Naja, und jetzt haben halt die großen Plattformen so eher unbemerkt von der Öffentlichkeit so Upload-Filter schon mal überall installiert und kriegen halt Sperrlisten in einer Zensur-Datenbank und alle Bilder, Videos, die hochgeladen werden, werden halt abgeglichen, ob sie halt in dieser Datenbank drin ist, die halt, naja, von Polizeibehörden bestückt werden. Die Anbieter verpflichten sich dazu, also alles irgendwie in die Datenbank aufzunehmen, alle Inhalte, die höchstwahrscheinlich gegen alle Inhaltsrichtlinien von Facebook, Twitter, YouTube und so weiter verstößen. Wenn man sich diese Inhaltsrichtlinien erwähnt, schaut, diese Community-Standards hat man das Gefühl, da fällt eh schon alles drunter, was es brassieren könnte. Naja, Problem natürlich auch, keiner kontrolliert, was auf diesen Upload-Sensurfilter-Listen drauf ist, keiner kümmert sich so wirklich drum. Okay, das ist halt das eine. Also eigentlich das, was wir damals versucht haben, bei Zensusola zu verhindern auf DnS-Ebene, ist jetzt bei den ganzen Plattformen in diesem Monat installiert worden. Parallel haben wir noch das Problem. Monika Holmeier, CSU-Abgeordnete, Tochter von Franz-Josef Strauß, ist leider zuständig für die Anti-Terror-Richtlinie, eine Richtlinie, die auf EU-Ebene im Schnelldurchgang wegen Terror usw. durchgepeitscht wird, mehrheitlich hinter verstoßenden Türen. Und die hatte dann auch zwischendurch die Idee, Netz-Sensur-Infrastruktur für DnS reinzubringen. Das konnten wir, indem wir halt irgendwie vor Abversionen veröffentlicht und dementsprechend kommentiert hatten, verhindern. Jetzt gibt es da zusätzlich noch Formulierungen drin, das halt Mitgliedstaaten selbst bestimmen können, ob sie Netz-Sensur bringen können. Aber das Hauptproblem oder eines der Hauptproblemen dieser Terror-Richtlinie, die halt auch keiner auf den Schirm hat, die nächsten Monat beschlossen wird und dann umgesetzt werden muss, ist, es gibt da eine Definition, was es Terrorismus. Ihr könnt euch vorstellen, es ist alles halt ein bisschen relativ. Bei uns ist halt der islamische Staat eindeutig Terror, denn China ist halt der Dalai Lama eindeutig Terror, der bei uns aber wiederum Preise bekommt und so weiter und so fort. Das andere Problem ist halt noch, dass halt aus unserer Sicht bestimmte Formen von Zivilen ungehasam oder Aktionen wie hier Besetzung von einem Braunkohle-Lager oder Steinkohle, also ich glaube irgendwie irgendwas mit Kohle halt auch Protest sein, Terror sein könnten. Und dann gibt es auch den Punkt Illegal System Interferience, wo halt Online-Proteste wie seinerzeit die Operation Payback von Anonymous gegen Visa und Mastercard mit DEDOS-Attacken und so weiter, was aus unserer Sicht zumindest, okay, mal das Video war nicht angemeldet, man kann sie als politische Demonstration im Netz betrachten. Hätte man sie angemeldet, hätte man auch bessere Chancen gehabt, damit rechtlich durchzukommen, weil das war eine internationale Sache. Aber dass sowas auf einmal auch schon Terror ist und gegen sowas dann auch diese Uploadfilter, Zensurfilter eingesetzt werden kann. Zusätzlich ist natürlich in dem Dokument, wo es um die Terrordefinition geht, mehrfach von Public Provocation die Rede. Natürlich auch meine Frage ist so, jedes Posting von Fefe, irgendwie eine Public Provocation, und musste man da jetzt mal Terror irgendwie Richtlinie in Kraft bringen? Naja, auf jeden Fall, ich muss ein bisschen beeilen, was halt auch Mitte des Jahres brachte dann mal ein Verhaltenskodex zur Bekämpfung illegaler Hassrede noch gemeinsam auf den Weg. Damals waren auch schon Fake News irgendwie dort thematisiert, dass man halt als Plattform auch gerne mehr Richtung Fake News und Counter-Narratives machen kann. Fake News, gerade ein großes Thema geworden. Wir denken ja immer an Postillon, andere denken an Renate Künast. Das ist halt das eine. Das andere, nochmal das letzte Thema, wo ich jetzt nochmal zurückgehe. Was hat das Ganze mit Urheber rechts zu tun? Naja, also, wir hatten ja unseren besten Mann nach Brüssel geschickt, um das Internet-Problem zu lösen. Günter Oettinger hat sich auch alle Mühe gegeben, mit der Vorlage für die Urheberrechtsreform es zu schaffen. Nach 15 Jahren stillstand ein noch schlechteren Reformentwurf vorzulegen, der halt den aktuellen Status noch schlechter macht, was keiner für möglich hielt. Unter anderem geht es darum, naja, man möchte jetzt alle Plattformen verpflichten und nicht nur die großen, so eine Art Upload-Filter einzurichten, um mal durchzugucken, ob jetzt alles, was hochgeladen wird, auch urheberrechtlich geschützt ist und nicht von jemandem besitzt, also, wo jemand nicht die Rechte dran hat. Man näht das Ganze an der Content-ID an, von YouTube. Naja, das Problem ist, das soll für Video- und Fotoplattformen gelten. Das betrifft aber genauso gut die Wikipedia. Stelle dich mal vor, wie gut die Wikipedia funktioniert, wenn sie darauf verpflichtet wird, bei jedem Upload erst mal zu überprüfen, ob denn jetzt nicht die Urheberrechte von jemandem verletzt werden könnten. What could possibly go wrong? Ja, Götter Odinger ist jetzt schon eine Zeitlage, also, er ist bald weg, sein Entwurf ist ja immer noch da, der wird halt jetzt weiter diskutiert. Wir haben dann währenddessen auch schon die nächsten Sachen. Teaser, das hatten wir zusammen mit Greenpeace gelegt und dafür haben sie freundlicherweise unser Logo auf ein Atomkraftwerk drauf gesprüht, hat man auch nicht jeden Tag. In Teaser gibt es gerade, also, Teaser ist ein Freihandelsabkommen mit 26 Staaten, inklusive EU, da haben die USA kurz vor Schluss den Vorschlag reingebracht, mal interaktive Computerdienste zu definieren. Laut Definitionen ist es also damit alle Plattformgemeinde, auf denen mehrere Nutzer gleichzeitig auf einen Server zugreifen können. Und diese Dienste und ihre Nutzer sollen nicht mehr dafür haften oder sich rechtfertigen müssen, welche Inhalte sie löschen oder blockieren, solange sie sie nicht selbst erzeugt haben. In anderen Worten, man möchte dann sozusagen, wenn das alles dann freiwillige Kooperationen sind und Facebook und Co. dann anfangen, irgendwie all diese freiwilligen Sachen zu löschen, dass sie da auch nicht dafür verantwortlich gemacht werden. Sie müssen dann dafür nicht verantwortlich gemacht werden, wenn sie in der Halte lediglich, für schädlich oder anstößig befinden. Kann ich halt vorstellen, Facebook, wenn die halt nach ihren Moralvorstellungen alles löschen, na ja, kennt man ja, weibliche Brüste verboten, männliche erlaubt und so weiter. Na gut, ich komme zum Ende. Eigentlich sieht alles ziemlich scheiße aus. Eigentlich... Es ist auch so. Wir erwarten im nächsten Jahr bis zu zehn verschiedene EU-Gesetzgebungsprozesse von Überwachungsschnittstellen über die E-Privacy Directive, die Copyright Reform, Plattformregulierung, die viel mehr Aufmerksamkeit brauchen. Wir brauchen auch Culture-Narratives, um in der Sprache von der EU-Kommission zu bleiben, welche Antworten wir haben, wie man auf Uploadfilter verzichten kann. Damals, die Sensor-Debatte, die haben wir gedreht, indem wir in der Löchenschstadt sperren hatten. Wir brauchen solche Antworten auf terroristische Propaganda vom islamischen Staat. Wir sind leider zu wenige, um für alle Probleme in der Welt von Fake News bis sonst, wie irgendwie auch sofort die Lösungen präsentieren zu können. Also wir brauchen eigentlich mehr Menschen, die mitdenken, kritisch mitdenken und sich auch Alternativen überlegen. Solange sagen wir immer, nicht aufgeben, wir haben die große Herausforderung, dass in Zeiten, wo Demokratien, unsere Demokratien immer unstabiler werden, parallel riesige Zensurkontrolle und Überwachungsapparate installiert werden. Und wir sind diejenigen, die wissen, what could possibly go wrong? Dagegen müssen wir ankämpfen. Wir machen das auf Netzpolitik, wenn ihr uns unterstützen wollt. Wir suchen noch frelleistige Spender, gerne mit einer Dauerauftrag. Ja, ich darf nicht weiterreden. Die Türen sind jetzt auch gleich wieder geöffnet. Vielen Dank fürs Zuhören. Fightfire Digital Rights setzt euch ein. Bekehrt andere. Viel Spaß auf dem Kongress noch. Guten Heimfahrt. Vielen Dank, Markus. Wir haben eine Frage aus dem Internet. Single Angel, bitte. Doch keine Frage. Vielen Dank. Gebt Ihnen noch mal einen schönen Applaus für den guten Vortrag.