 Ja, ich darf heute mal wieder, also eigentlich wie immer, ich kann auch nichts anderes außer Chat-Kontrolle übrigens, über die Chat-Kontrolle sprechen und ich habe tatsächlich mal nachgeguckt, es ist genau ein Jahr und ich glaube, ein Tag her, dass ich das erste Mal über die Chat-Kontrolle gesprochen habe, damals im Rahmen vom Netzpolitischen Abend in Berlin und seitdem es auch irgendwie nicht so wirklich viel besser geworden und ich versuche in diesem Talk jetzt mal die Timeline so ein bisschen aufzuribbeln, aber wir fangen erst mal von vorne an. Wenn die Chat-Kontrolle eine Person wäre, dann würde sie wahrscheinlich so aussehen und sich wahrscheinlich genauso verhalten. Es ist tatsächlich so, dass jedes neue Dokument, das wir vom Rat bekommen, sich so anfühlt, wie Dolores Ambridge, die irgendwas Neues an die Wand nagelt. Die Person, die eigentlich die Chat-Kontrolle repräsentiert, ist aber diese nette Dame. Sie trägt übrigens, also das ist wirklich so, ihre Lieblingsfarbe ist Rosa. Ich habe leider kein hochauflösendes Bild von ihr gefunden in dem Rosa Outfit, aber ich glaube, sie kommt Dolores Ambridge relativ nahe und dann gibt es noch eine weitere wichtige Person, die wir alle besonders gerne haben in dieser Diskussion und das ist dieser nette Mann. Der weiß nicht nur nicht, wo sein Auto ist. Ich glaube, er weiß auch nicht so genau, welche Technologie wir brauchen, um solche Überwachungspläne umzusetzen, aber er tut gerne so. Für alle, die noch nichts von der Chat-Kontrolle gehört haben, herzlichen Glückwunsch. Ich hoffe, eurer psychische Zustand ist besser als meiner. Noch mal ganz kurz, worum ging es eigentlich noch mal. Also, die Chat-Kontrolle heißt eigentlich nicht Chat-Kontrolle, in der Brussels-Bubble heißt sie auch gerne CSA-Verordnung und sie wurde aufgesetzt zum Kurzschutz von Kindern, ganz generell, also auch keine Spezifizierung auf online und es geht konkreter drum, Kindesmissbrausdarstellungen im Englischen kurz CSAM zu dedikzieren. Zum einen bekanntes Material, das ist was, was wir schon kennen. Es gibt so eine Abweichung von der E-Privacy-Richtlinie, die das Unternehmen erlaubt, jetzt schon in unverschüssteter Kommunikation zu scannen, dann aber unbekanntes Material mit Machine Learning Magic, wie ich immer so gerne sage, wo keiner so genau weiß, was es wirklich sein soll und dann sogenanntes Grooming. Grooming sind Anwarnungsversuche von Erwachsenen an Kindern, auch mit Machine Learning Magic. Spoiler, all diese Technologien werden zwar gebaut, existieren auf dem Markt, die Fehlerquoten sind aber derartig hoch, dass es eigentlich nicht akzeptabel ist und was man vielleicht wissen sollte ist natürlich, gerade wenn es so um Bilder geht, Familienbilder, zum Beispiel von Kindern, aber auch um Text-Kommunikation ist der Kontext irgendwie immer ganz wichtig und in der Regel wissen wir alle, Computer machen das, was man ihnen sagt, Kontextualisierung schwierig. Warum ist das ein Problem? Es soll dediktiert werden in jeglicher interpersoneller Kommunikation. Interpersonelle Kommunikation kennen wir alle, es ist Messenger, Dienste, E-Mail, alles was man sich so vorstellen kann, irgendwelche Chats und eben auch Ende zu Ende verschüsselte Kommunikation. Wenn man sich das mal anguckt, wie Ende zu Ende verschüsselte Kommunikation normalerweise aussieht, ich habe netterweise von Idri ein Upgrade für meine Folien bekommen inzwischen, ist es so, dass wir hier Teilnehmer A und Teilnehmerin B haben, die kommunizieren miteinander, das ist Ende zu Ende verschlüsselt, da kann zwischen drin niemand reingucken, alles schön. Was echten Kuschers sich jetzt aber vorstellt und die EU-Kommission auch ist sogenanntes Kleinzeit-Scanning, wir haben es alle schon mal gehört und zwar sieht das so aus, unten haben wir noch mal wie es normalerweise aussehen sollte, oben haben wir wie es aussieht, bevor das Ding sozusagen verschlüsselt wird, wird es auf ein Gerät untersucht und dann auch entsprechend, wenn es verdächtig ist, an Ermittlungsbehörden weitergeleitet. Wie es jetzt weitergeht mit Kleinzeit-Scanning später noch mal mehr, vielleicht ein paar ganz grundsätzliche Sachen, wir haben jetzt in der letzten Zeit so dieses Thema ja Chat-Kontrolle kommt nicht, noch mal so historisch gewachsen ist dieser Begriff als Bezeichnung für das gesamte Gesetzespaket, das heißt Chat-Kontrolle heißt nicht nur, dass wir über dieses Thema Kleinzeit-Scanning diskutieren, sondern auch die beliebten Themen, die wir alle schon kennen, nämlich Altersverifikationen, wo man immer noch nicht so genau weiß, wie sie sich das vorstellen und vor allen Dingen auch was das Ziel des Ganzen ist, also ist das Ziel irgendwie Erwachsene von Kindern, Kinderplattformen fernzuhalten, Kinder generell aus dem Internet fernzuhalten, ist bestimmt eine total gute Idee, so bis die 18 sind, die sie nicht reinzulassen und dann auf einmal. Dann natürlich das Thema Uploadfilter und Netzsperren, das ist eines meiner persönlichen Highlights, die EU-Kommission ist der Meinung, dass man URLs sperren kann. Und dass das, Sie haben sich inzwischen zwar eingestanden, dass das technisch eigentlich nicht möglich ist, aber irgendwie hätten Sie es doch ganz gerne, wie wissen wir noch nicht. Ich habe eben schon gesagt, ein Jahr Chat-Kontrolle und ich habe mal versucht, das so ein bisschen aufzuwickeln. Also das Gesetzespaket selber ist veröffentlicht worden am 11. Mai. Wir sind mit einem CCC, mit einer Pressemitteilung ein paar Tage vorher rausgegangen und haben so gesagt, so Leute, das ist irgendwie völlig unverhältnismäßig und lasst da mal die Finger von, also irgendwie das übliche Spiel. Und selbst der Kinderschutzbund hat relativ früh schon gesagt, dass er das für völlig unverhältnismäßig hält und Sie sind auch nach wie vor dabei geblieben. Und wenn wir so einen Blick in den Koalitionsvertrag vom 2021 werfen, dann würde man ja erst mal denken, klare Sache. So was wie das, was in diesem Gesetz steht, lässt der Koalitionsvertrag nicht zu. Und die Bundesregierung war so, ja, Nancy Feser hat dann auch im Mai gesagt, was sehr amüsant ist, jede private Nachricht anlasslos zu kontrollieren, halte ich nicht für vereinbar mit unseren Freiheitsrechten. Nancy Feser hat aber ein bisschen andere Auslegung von, was ist anlasslos, weil das Argument ist natürlich, wir haben ja einen Anlass, wir wollen ja Kindesmissbrauchsdarstellung finden. Und was dann als Nächstes kam, war, dass die Bundesregierung einen sehr ausführlichen Fragenkatalog an die EU-Kommission gestellt hat, die von der Kommission, ich würde sagen, eher mehr schlecht als recht beantwortet wurde. Also, da waren sehr abstruse Antworten teilweise auch. Inklusive, ich weiß gar nicht, ob das ein verweishaftes Risk Assessment war, aber es war so ein Satz wie Verschlüsselung ist eine Technologie und deswegen ist sie auch zur Verwendung möglich, wo man auch so denken kann, so okay, das ist eine interessante Feststellung, kann man so sagen. Hier übrigens, das werdet ihr jetzt gleich bei dieser ganzen Timeline sehen, die ich gebaut hat. Ein großes, großes Dankeschön an Netzpolitik Org für die wirklich sehr engmaschige Berichterstattung. Danke, danke dafür und auch für die freundlichen Leaks. Genau, im August kam dann die FDP-Ministerien mit ihrem Papier um die Ecke und das war eigentlich ein relativ klarer Fall und wir dachten so, okay, das sieht schon mal ganz gut aus, das sind ganz gute rote Linien, da geht auf jeden Fall noch mehr, aber es ist schon mal an Anfang. FESA hat sich nicht gerührt, das BMI hat wahrscheinlich weiter fröhlich erzählt, dass Kleinsetsgending ja gar kein Problem für Ende-zu-Ende-verschüsse die Kommunikation ist und so gegen der Sommer dann irgendwie weiter Sommerloch kann man ja auch schwer was machen. Als nächstes kamen dann die Bundesländer um die Ecke und haben gesagt, naja, also Leute irgendwie so grundrechtlich schwierig, wissen wir jetzt auch nicht so, ob das so die beste Idee ist. Wir dachen wir, okay, auch schon mal was, aber die Bundesregierung hat irgendwie immer noch die Füße stillgehalten. Dann hat der wissenschaftliche Dienst vom Bundestag auch gesagt so, jo, Leute, sehen wir jetzt nicht so, ist schwierig und Ankel Domscheid Berg hat auch ganz richtig damit diese Anforderung verknüpft und gesagt, das muss ganz klar gestoppt werden. In einem kleinen, anderen europäischen Land, das in der Regel deutlich konservativer als Deutschland ist, passierte dann aber das hier. Also die Österreicher haben so gesagt, ja, lassen wir mal lieber sein und das Interessante ist hier vielleicht zu wissen, dass das Parlament bindend abstimmen kann. Das heißt, im Rat darf Österreich sich unter den in diesem Papier niedergelegten Bedingungen nicht für die Chat-Controller einsetzen. Die müssen immer dagegen stimmen. So, bis dahin hatten wir noch nicht so viel davon mitbekommen, was die Bundesregierung eigentlich im Rat so getrieben hat und was für eine Position sie bezogen hat, weil eigentlich gab es ja schon so ein paar Lippenbekenntnisse, wo man hätte denken können, ja, es ist nicht optimal, aber es ist ganz okay und dann haben wir diesen Drahtbericht bekommen. War jetzt auch irgendwie nicht überraschend, aber wir hatten es dann schwarz auf weiß. Im Rat hat die Bundesregierung um eine ständige Konkretisierung gebeten, hat aber keine klare Kante dagegen gezeigt und das war natürlich irgendwie eine ziemlich schwierige Situation und FESA hat es auch irgendwie dann nicht so verstanden. Also wir hatten dann irgendwann Positionspapier, wo relativ deutlich wurde, dass die Position von der Bundesregierung wie vermutet nicht besonders stabil ist und die FDP und die Grünen haben dann halt gesagt, so, das geht gar nicht und was die gemacht haben ist eine, ja, ein Positionspapier auch oder einen Wurf zu einem Artikel 23 Antrag. Nach Artikel 23 Grundgesetz kann das Parlament darüber abstimmen, ähnlich wie in Österreich, wie im Rat sich zu einem bestimmten europäischen Gesetz verhalten werden soll. Allerdings ist es in Deutschland nicht bindend, aber es ist eine extrem wichtiges Symbol und dann gab es diese ominöse Pressekonferenz, in der Nancy Feser dann gesagt hat, naja, also man wolle sich klein Zeit Scanning annähern, es geht aber nicht darum diese Technik auf privaten Endgeräten zu installieren. Also ich weiß nicht, wer sie da gebrieft hat, aber this is not how it works. Und dann war irgendwie erstmal Holland im Not nach dieser Pressekonferenz und dann gab es eine wunderschöne Pressemitteilung, ich glaube die haben gar nicht so viele mitgekriegt, die kamen vom ARD Hauptstadtstudio und dann ist die Frage, auf wen schieben wir das jetzt, weil eigentlich hat die SPD eine andere Meinung zu diesem Thema und dann hieß es, ja, hinter den Kulissen wird auf das Eigenleben in dem zuständigen Fachabteilung des Innenministeriums verwiesen, die halten sich wenig an den aktuellen Kulifizierungsvertrag und mehr an die vorherige Agenda, also es ist nach wie vor ein schwarzes Ministerium in den Fachabteilungen. So, so weit so gut, das war der Dezember und dann hieß es, ja, wir müssen jetzt unsere Position irgendwie revidieren, man muss vielleicht dazu sagen, da verhandelt der Rat, also die Law Enforcement, also die Strafverfolgungsarbeitsgruppe des Rates, verhandelt da jetzt irgendwie schon seit Monaten. Deutschland hat erst eine sehr seltsame Position, die sie jetzt auf einmal zurückziehen und jetzt einigen sie sich und dann haben sie gesagt, ja, wir machen unsere Position neu, wir sehen das ja alles ein, irgendwann im Januar kommt eine neue Position und jetzt mittlerweile April. Im Februar saß auch noch so aus, dass sie gesagt haben, na ja, für eine Verschlüsselung sehen wir ja ein, dass das geschützt werden muss, aber für unverschlüsselte Inhalte hätten wir das schon ganz gerne und ich habe gerade gesagt, wir haben jetzt April, es gab seit Dezember zwei weitere, ich glaube sogar drei, ja, Januar, Februar, März, drei weitere Strafverfolgungsarbeitsgruppen treffen und Deutschland hat immer noch keine Position. Die Ministerien streiten sich ganz offensichtlich immer noch, das Justizministerium, was ein FDP geführtes Ministerium, es hat halt seine roten Linien, damit ist das Innenministerium, man hat natürlich nicht so einverstanden und ja, ich bin sehr gespannt, am 12. April ist die nächste Strafverfolgungsarbeitsgruppe, ob die Deutschen sich bis dahin geeinigt haben oder ob sie weiter Dinge konkretisieren wollen. Das vielleicht einmal so zur deprimierenden Lage in Deutschland, man muss dazu sagen, es ist nicht nur Österreich, die sich vollständig dagegen stellen, es gibt auch andere Länder, wo die Parlamente jetzt langsam hinterherziehen und sagen, wir haben da echt grundrechtliche Bedenken, wir sollten das lieber nicht tun. Und was man vielleicht nicht vergessen darf an der Stelle, Deutschland ist dann doch relativ mächtig, wenn es um den Rat geht. Das soweit so deprimierend und ich glaube, was vielleicht an dieser Stelle auch noch mal spannend ist, es gab eine Anhörung um Digitalausschuss und es waren sich alle Expertinnen einig, dass diese Chat-Kontrolle eine blöde Idee ist. Der Oberstaatsanwalt von Cybercrime NRW hat sogar sehr deutlich gesagt, dass Schreffe Verfolgungsbehörden weder Vorratsdatenspeicherung noch Zugriff auf verschlüsselte Kommunikation brauchen. Ich glaube, das sagt einfach alles zu dieser Thematik, es ist auch sehr schön, dass wir das jetzt auf schwarz auf weiß haben. Und um weiter mit deprimierenden Themen zu machen, lass uns noch mal über EU-Gesetzgebung sprechen. Also Deutschland haben wir jetzt irgendwie so ein bisschen durchgespielt bzw. die schaffen Zeit nicht sich zu einigen und wahrscheinlich kommt da auch nicht so die stabilste Position heraus. An der Stelle sollte man vielleicht noch mal ganz klar sagen, wir könnten noch einen Artikel 23 Antrag bekommen, wenn die SPD das unterstützen würde. Das ist bisher noch nicht passiert. Das wäre auf jeden Fall noch eine sinnvolle Maßnahme, um irgendwie gegen das Innenministerium anzukommen. Jetzt aber zur EU-Gesetzgebung. Denn wir schreiten weiter voran und es ist nur mal ein europäischer Gesetzesvorschlag und um irgendwie zu verstehen, wo wir gerade sind und was wir jetzt noch machen können und welche Möglichkeiten es da noch gibt, sollten wir uns mal angucken, was da eigentlich so los ist. Ich habe ein neues Bild. Es ist ein bisschen übersichtlicher als das, was ich früher immer hatte. Es ist halt so, die Kommission hat das Vorschlagsrecht, die Kommission schlägt was vor und dann werden Berichterstatterinnen und Schattenberichterstatterinnen benannt und die entsprechenden Ausschüsse. Wer das bei der Chefkontrolle ist, kommen wir gleich noch zu. Und dann machen die ihren Report und geben das entsprechend weiter und das wird dann irgendwann auch im EU-Parlament abgestimmt. Und im Rat sieht es ein bisschen anders aus, dass wovon ich jetzt die ganze Zeit gesprochen habe. Der Rat bekommt diesen Vorschlag auch und dann gibt es halt auch dort fachliche Arbeitsgruppen, die da dran arbeiten. Das ist in diesem Fall die Strafverfolgungsarbeitsgruppe und die stimmen das oder einigen sich dann auch entsprechend und dann kommt irgendwann der Trilog, den wir alle kennen und lieben. Bei der Chefkontrolle haben wir diesen Stand hier. Also wir haben vier, beziehungsweise fünf Ausschüsse insgesamt. Die Hauptverantwortung liegt bei Liebe, also Menschenrechte und Justiz. Der Berichterstatter ist von den Konservativen und inzwischen ist es tatsächlich so, dieses Schaubild ist nicht mehr ganz aktuell, normalerweise hat ein Ausschuss die Kompetenz, es können aber auch andere Kompetenzen, andere Ausschüsse Kompetenzen beantragen. Und in diesem Fall, es kommt wieder ein juristischer Term, ist es so, die Chefkontrolle hat eine Rechtsgrundlage und die Rechtsgrundlage ist Artikel 114, this Treaty of functioning of the EU und das regelt Binnenmarkt-Dinge. Wenn man sich das jetzt hier anguckt, kommt man relativ schnell darauf, dass natürlich das Binnenmarkt Komitee da oben, das ist IMCO, relativ schnell gesagt hat, ey Leute, also irgendwie ist das auch unser Thema. Just saying. Und dann ist es halt so, dass Liebe bleibt sozusagen, es hat eine Meinung, also kann zu allem, zu diesem gesamten Gesetzesentwurf was sagen und das IMCO-Komitee hat ein paar Artikel sozusagen bekommen. Und diese Committees geben dann sogenannte Opinions oder häufig werden sie auch Reports genannt ab, was das am Ende des Tages sind, sind Änderungsvorschläge. Also die nehmen sich das Gesetz vor und sagen, okay, das sind diese 20 Sachen, die wir gerne ändern wollen. Das macht der Hauptberichterstatter und dann haben die anderen, also die Schattenberichterstatterinnen, bei Liebe ist es zum Beispiel Patrick Breier, die Möglichkeit auch noch ihre Änderungsanträge abzugeben und dann wird das Ganze in diesen Ausschüssen abgestimmt. Stand jetzt haben wir den Bericht von Kult ist nicht weiter dramatisch, die beziehen sich primär auf Prävention und Weiterbildung, haben das Ding aber nicht weiter auseinandergenommen. Dann haben wir eine erste Draft-Opinion aus dem IMCO-Komitee, die tatsächlich sehr, sehr gut ist. Die haben versucht, dem ganzen Ding so weit es geht, gibt es hier schon Spenden in der ersten Reihe. Das war nett, also der Aufruf kommt später, aber vielleicht kann schon mal jemand mit dem Hut rumgehen. Genau, also der IMCO-Report der erste Draft ist schon da, der ist tatsächlich sehr gut, der hat das ganze Ding so ein bisschen entschärft. Viele haben dann immer gesagt, ja, aber warum spricht sich das IMCO-Komitee denn nicht gegen Netzsperren aus? Ist relativ einfach, das liegt nicht in deren Kompetenzbereich. So, so sieht es aus, der Liebe-Report sollte jetzt auch in den nächsten paar Wochen rauskommen und dann geht sozusagen weiter ins Parlament, nachdem die Ausschüsse es abgestimmt haben und in der Regel folgt das Parlament auch den Empfehlungen der entsprechenden Berichterstatter und jetzt wird es eigentlich wichtig, denn was ist 2024? Anyone? Europawahlen, genau. Bevor wir aber zu den Europawahlen kommen, große Frage, was ist eigentlich im EU-Parlament los? Also dabei lässt es ja relativ viel los, so Korruption, große Geldtaschen, kleine Geldtaschen, aber wer auch irgendwie der neue Shooting-Star ist, ich hatte es gerade anfänglich schon kurz erwähnt, ist dieser Mann hier, beziehungsweise dieser Mann hier, kann man nicht sehen, aber Eschen Kutscher. Eschen Kutscher tut im Moment durchs EU-Parlament und Parlamentarier bekommen auch irgendwie so ein Herzinfarkt gefühlt. Jeder und jede möchte auf jeden Fall ein Foto mit ihm machen und seine technische Expertise wird extrem wertgeschätzt. Jetzt ist natürlich die Frage, wie viel technische Expertise hat ein Mann, der nicht weiß, wo sein Auto ist? Wahrscheinlich nicht so viel und er hat vor zwei Wochen, weil er auf einer Veranstaltung auch im EU-Parlament um mal wieder Werbung zu machen für dieses Gesetz und er hat dann gesagt, ja, die Leute trauen sich ja nicht über dieses Gesetz zu reden, weil sie ja technisch nicht verstehen, was dahinter steht. Er läuft tatsächlich durchs Parlament und erzählt, dass er die Technologie hätte, die all diese Probleme lösen könnte und auch, dass die Fehlerquoten extrem gering sein und dass das sowieso alles gar kein Problem ist. Der Witz dabei ist, wir haben also niemand von uns bis auf jetzt vielleicht so die bekannten Materialen mit Perceptual Hatching erkennen, Geschichten, hat diese Technologie gesehen. Also es gibt eine Website von dem Start-up, was Eschen Kutscher hat, das heißt Safer, aber so richtig mehr als Marketing Material ist da nicht, also es ist ein bisschen fishy. Und dann fängt was an, was noch nicht auch nicht wirklich überraschend ist. Wir kennen das irgendwie alle, es ist entweder Terrorismus oder Kinderschutz und dann wird das Ding weiter ausgeweitet. Und ich glaube, wir können gesellschaftlich gerade beobachten, dass es irgendwie sich in eine sehr seltsame Richtung, gerade im Hinblick auf LGBTQI-Plus Communities entwickelt und in der letzten Woche ist dann das hier passiert. Ich hoffe, der Ton funktioniert jetzt. Gucken wir mal. Es klingt noch nicht gut. Danke. Ah, perfekt. Es gibt noch zwei weitere Wortmeldungen. Annika Brunner und Isabella Adinolfi haben sich zu Wort gemeldet. Es scheint keine weiteren Wortmeldungen zu geben. Annika Brunner, bitte. Vielen Dank. Jedes fünfte Kind ist Opfer von sexuellen Missbrauch. Jedes dritte Kind wird im Internet dazu aufgefordert, sexuelle Handlungen zu begehen. 68 Prozent der behinderten Kinder haben vor dem 18. Lebensjahr bereits sexuellen Missbrauch erlitten. Wir können also nicht behaupten, dass wir den sexuellen Missbrauch vom Kind an wirksam bekämpfen in der Europäischen Union. Wir gehen nun ein auf diese Verordnung und wir müssen uns Gedanken machen über die Motive dieser Verordnung. Denn wir sehen, dass einige Technologie-Unternehmen freiwillig momentan die Möglichkeit haben, sexuelle Missbrauch-Inhalte zu melden. Und wir sehen, dass einige dieser Unternehmen gar keine Verantwortung übernehmen. Jedes dritte Kind unter zwölf Jahren wurde bereits pornographischen Inhalten ausgesetzt und dies zeigt, dass wir die Präventions- und Schutzmechanismen für viele Jahre gestärken müssen. Die Aussetzung von pornographischen Inhalten online und offline kann verheerende Auswirkungen haben für die psychologische Entwicklung von Kindern sowie auch ihre sexuelle Entwicklung. Ich möchte gerne Ihre Aufmerksamkeit auf einige Auswüchse lenken, die als subeteich betrachten sind in diesem Thema. Und zum Beispiel Drag Queens, die suggestive Handlungen begehen vor Kindern oder auch eine Tabelle von Miriam Kahn, ein Paläde Tokyo, also ein Museum in Frankreich, das gerade mit pornographischen Inhalten zu vergleichen ist. Da ist es so, dass ein Kind Filazio Handlungen begeht, Verzeihung, der Beitrag wird unterbrochen. Es tut mir leid, ich muss sie unterbrechen. Dies steht nicht im Zusammenhang mit dem Thema. Das ist nicht das Thema, über das wir hier nun sprechen. Sie haben das Thema vielleicht ... Ja, das ist eine Anhörung im FEMM-Komitee, das ist das Committee für Frauenrechte und ich finde es schon ganz schön krass, dass Drag Queens als ein Problem betitelt werden und das ist einfach ein ähnlicher Zustand, den wir auch in Amerika beobachten und auch irgendwie eine Richtung, in die das Ganze geht, die wirklich arg unangenehm ist. Und das sollte man vielleicht an dieser Stelle sich auch nochmal klarmachen. Content Moderation im Netz ist ziemlich komplex, um es mit Systemabsturz Worten zu sagen. Und deswegen zensieren wir weibliche Niffel und Sex, ich kann den Text auswendig, später mehr. Und das ist halt so, ich sag mal, eine Ansicht von Content-Mederationen, die sehr stark weiß heteronormativ männlich geprägt ist. Denn wer macht diese Regeln für, was wird moderiert und offline genommen? In Zweifel zwei sind es die Policy-Abteilung von Big Tech-Unternehmen, in denen in der Regel irgendwie Elite-Uni mit 30 weiße Männer sitzen. Und dass Parlamentarierinnen das so klar aussprechen, dass dieses Gesetz für solche Sachen genutzt werden soll, ist ziemlich erschreckend, vor allem, wenn man sich überlegt, wie es irgendwie in Polen oder Ungarn um LGBTQI-plus Rechte steht. Der Schritt ist halt nicht so weit zu sagen, erkennt unbekanntes Material, erkennt LGBTQI-plus Material. Und rein technisch gesehen ist auch eine Sache, die wir vielleicht in dieser Debatte auch viel zu wenig beleuchtet haben, ist auch so, dass auch diese Hash-Verfahren fehlerbehaftet sind. Das sind halt keine klassischen kryptografischen Hashes. Das muss man sich halt klar machen, das ist Perceptual Hashing. Das heißt, das erfolgt auch mithilfe von Magic. Und das kann man halt auch entsprechend in die Irre führen, dafür muss man noch nicht mehr Kontrolle über die Datenbank haben. Was tun? Das war jetzt alles sehr deprimierend, aber das ist es leider endlos. Wir sind jetzt an einem Punkt. Wir haben das irgendwie die ganze Zeit, das ganze letzte Jahr immer gesagt, naja, es ist jetzt gerade noch schwierig. Wir können zwar noch so ein paar Demos machen an bestimmten Ansatzpunkten. Die ein oder andere hat auch die Fußballfans gesehen, die sehr aktiv in den Stadien demonstriert haben dagegen. Aber wir kommen jetzt einem Punkt näher, wo wir wirklich mit unseren Abgeordneten in Verbindung treten sollten. Erst mal, wir machen jetzt erst mal Schritt eins. Ich weiß auch einige von euch chiffonieren wahrscheinlich auch nicht so furchtbar gerne, deswegen machen wir jetzt erst mal E-Mail. Es gab eine Petition von E-Tree und ihr könnt sie noch unterschreiben, stopp scanning me, die Webseite und ihr werdet dann in der nächsten Woche eine E-Mail bekommen von E-Tree, die euch sagt, hey, das sind übrigens die deutschen Abgeordneten in den Ausschüssen, die könnt ihr mal kontaktieren. Wir haben auch auf der deutschen Kampagnenseite, wer sie noch nicht kennt, es ist chatkontrolle.eu. Seht ihr auch dieses große Auge mit den Chats drin? Werden wir auch noch mal einen Guide veröffentlichen, wo Textbausteine vorhanden sind, wo auch noch mal die entsprechenden MEPs euch gezeigt werden, die ihr dann kontaktieren könnt und denen freundlich per Mail mal mitteilen könnt, dass das vielleicht eine blöde Idee ist und auch ein bisschen aufzuzeigen, dass es da auch eine gewisse gesellschaftliche Breite gibt. Das wäre so der Schritt Nummer eins und ich habe ja vorhin schon gesagt, 2024 sind Europawahlen, wer von euch hat denn bei den Artikel 13 Sachen irgendwie eine Rolle gespielt? Ich sehe es ein sehr junger Raum. Genau, wir sind die Bots, die eine oder andere erinnert sich vielleicht und dank Epicenterworks bauen wir tatsächlich an einer ziemlich coolen Geschichte und zwar Call U MEP, denn wir werden natürlich in der Zukunft auch weiterhin mit irgendwelchen sehr ärgerlichen Gesetzgebungen zu tun haben und E-Mail ist halt gut und schön, das kann man auch relativ gut filtern. Beim Telefon wird es dann ein bisschen schwieriger, also ich weiß nicht ob Ursula das so lustig findet, aber wir denken, das geht und ihr könnt euch ja mit den E-Mails schon mal warm laufen. Es wird in den nächsten zwei Monaten auch ein Tool geben, das ihr benutzen könnt, um eure Abgeordneten anzurufen. Das ist ziemlich, ziemlich cool. Wir arbeiten da schon relativ lange dran beziehungsweise Epicenterworks arbeitet da sehr lange dran, ich unterstütze von der Fachseite sehr viel und zwar ist es so, dass ihr nicht, das ist nicht einfach nur so ein Telefon oder irgendwas, sondern ihr könnt eure Location angeben und bekommt dann direkt die Abgeordnete oder den Abgeordneten für euren Wahlkreis vorgeschlagen und vor allem bekommt ihr die oder den Abgeordneten vorgeschlagen, der gegebenenfalls noch dagegen stimmen würde, also der so auf der Kippe steht und ihr gegebenenfalls von einer anderen Sache überzeugen könnt und ihr könnt damit mehrere Sachen machen. Entweder habt ihr irgendwie eine Callparty in eurem Hackerspace organisiert, das gab es auch schon in der Vergangenheit und macht das einfach direkt und wählt ihr alle durch, ihr bekommt dann auch noch einen entsprechenden Gesprächsleitfaden, also ihr müsst nicht das Chat-Kontrolle-Handbuch auswendig lernen oder ihr sagt Mittwochs Nachmittag um 16 Uhr habe ich eh immer lange Weile, dann habt ihr auch die Möglichkeit das anzugeben und zu sagen, jeden Mittwoch erkläre ich EU-Politikerinnen, wie Verschlüsselung funktioniert. Das finde ich eine ganz nette Sache, ein besonderes Service des CCCEVs. Genau, das heißt das sind die beiden Sachen, die ihr jetzt aktiv tun könnt, ihr könnt auch noch die Petitionen von eTree unterschreiben, euch auf das Mailing vorbereiten, wir als Chat-Kontrolle-Stoppenbündnis werden auch noch mal entsprechende Informationen rausschicken und dann könnt ihr euch schon mal die Stimmen, vielleicht warm singen, um dann entsprechend die EU-Abgeordneten abzut telefonieren. Das Tool ist übrigens, wird Open Source sein, das heißt wir können das überall wieder benutzen und wir können das auch gegebenenfalls erweitern, wie wir lustig sind, das vielleicht an dieser Stelle noch so ziemlich ernüchternd alles. Genau, das Chat-Kontrolle-Stoppenbündnis, ich vergesse immer schon, wie viele Mitglieder wir mittlerweile haben, es sind glaube ich weit über 100, unter anderem wie übrigens alle Jugendparteien außer der CDU, aber selbst die junge Union hat sich vor ein paar Wochen geäußert und gesagt, dass sie das irgendwie eine Do-W-Idee finden mit der Chat-Kontrolle. Und wir machen natürlich weiter, ich werde weiterhin fröhlich Gesetzestexte lesen und Politikerinnen erklären, dass es eine Do-W-Idee ist. Mittlerweile, ich weiß nicht, ob ihr das mitgekommen habt, teilweise vielleicht nicht, vielleicht wenn ihr die Bundestagsanhörung gehört habt, der Kinderschutzbund ist sehr klar gegen die Chat-Kontrolle, auch in der jetzigen Form, die sind auch der festen Überzeugung und das finde ich super interessant. Also ich kann ja gerne erklären, was das bei Computern kaputt machen würde. Der Kinderschutzbund kann dann auch erklären, was irgendwie Kindern wirklich helfen würde und die haben sehr deutlich gesagt, dass zum einen dieses Ausspielen von Kinderrechte vs. Datenschutz absoluter Bullshit ist, aber auch, dass sie ja überzeugend sind, dass es Maßnahmen gibt, die besser helfen würden und die nicht so inversiv sind. Und dem Ganzen hat sich auch die größte Kinderschutzorganisation aus Österreich angeschlossen, die haben auch ganz klar gesagt, sie sehen das genauso wie ihre Regierung. Sie sind auch der Meinung, dass die Chat-Kontrolle völlig unangemessen ist und dass es da viel, viel bessere Lösungen gibt und wir halt wirklich mal ernsthaft über Bildung, Prävention und ähnliche Dinge sprechen sollten. So sieht es aus, es wird wahrscheinlich, also ich hoffe, dass ich nicht nächstes Jahr hier stehen muss und euch was über zwei Jahre Chat-Kontrolle erzählen muss. Die Wahrscheinlichkeit ist aber relativ hoch, aber dann gibt es ein Congress-Talk. Chat-Kontrolle nur mit Popcorn. Vielleicht wäre das ein Service, vielleicht ein Änderungsantrag, den wir stellen sollten. Genau, aber das war es tatsächlich schon. Ich bin zehn Minuten vor der Zeit, aber ich glaube, das macht nichts. Es war ganz schön viel. Ihr findet uns und ihr findet auch mich sowohl auf der Vogel-Plattform als auch auf der netteren Plattform. Wir erstatten dort fleißig Bericht über die letzten Ständen der Chat-Kontrolle und ich schreibe da auch manchmal die eine oder andere Analyse, wenn wieder irgendein Änderungsantrag oder ein neuer Text vom Rat oder von der Kommission, wie auch immer EU-Policy Texte, die man, wenn man sich Nerven sparen will, nicht lesen möchte. Genau, da bin ich auf jeden Fall unterwegs. Ich mache jetzt nochmal ganz uneigen, nützlich Werbung für ein paar andere Sachen. Also Systemabschutz habe ich ja schon mal abgehakt. Ich bin auf jeden Fall dabei. Eine andere Sache, mit der ich mich im Moment auch relativ viel beschäftige, ist die UN. Also ich sehe schon die ersten Facepalms in der ersten Reihe. Es ist die akkurate Reaktion dazu. Die UN, von der haben wir schon ab und an mal was gehört und man denkt, dass EU-Policy kompliziert und kräftezehrend ist, dann ist UN auf jeden Fall das nächste Level, was man spielen sollte. Ich weiß noch nicht, ob es der End-Boss ist, aber ich werde es auf jeden Fall für euch testen. Und die UN macht im Moment zwei Sachen. Zum einen gibt es das Cybercrime Treaty. Vielleicht habt ihr das schon mal gehört. Hackerparagraf ist schlecht und schlimmer. Da arbeitet Epicenterworks gerade ganz aktiv dran. Da gibt es auch nächste Woche eine Informationsveranstaltung. Also wer da Lust drauf hat und sich depressive News abholen möchte, dem sei das ganz stark ans Herz gelegt. Und das nächste Ding, an das sich die UN jetzt gerade dran macht, ist Internet-Standardisierung. Also sie dachten sich, okay, wir können natürlich Internetregulierung machen und damit so ein bisschen das Internet kaputt machen, aber wir könnten natürlich auch die ganzen Standardisierungsprozesse übernehmen und dann haben wir gewonnen. Das soll in Form von dem sogenannten Global Digital Compact passieren. Der Global Digital Compact ist nicht bindend, aber sozusagen eine, man könnte sagen, Willensbekundung. Und da soll es tatsächlich um Internetregulierung gehen. Der Best Case Outcome ist, dass wir irgendwie mal ein bisschen Schwung in Internet-Standardisierung bringen und auch ein bisschen was gegen Internetfragmentierung tun und vielleicht die Prozesse nochmal wieder ein bisschen in Schwung bringen. Davon ist aber nicht auszugehen. Also am liebsten hätten viele UN-Mitglieder das Ding zentral in einer UN-Irokratie-Body verankert. Ohne nix Multi-Stake-Holder, kein gar nichts, sondern so schön Verhandlungen hinter verschlossenen Türen. Wer also Internet-Standardisierung toll findet, FC zum Einschlafen liest oder ähnliches und Lust hat, sich da auch noch mal mit zu beschäftigen, kann sich gerne bei mir melden. Ich werde dazu eine Stellungnahme schreiben. Ja, das vielleicht noch dazu. Und letzter Werbeblock, den ich gerne übernehme ist, geht nach Systemabsturz nicht nach Hause. Denn es gibt auch noch im Alabama-Kino nachher, habe ich gelernt vorhin beim Hacker Space durch die Wand. All creatures welcome. Ich finde ein ganz wundervoller Film. Ich habe Ihnen sehr viel geguckt in der Pandemie um irgendwie so mein Missing-Congress zu, ja weiß ich auch nicht, Scoping. Genau, das vielleicht noch so zu dem letzten Programmpunkt. Und dann haben wir es auch schon geschafft. Ihr dürft jetzt klatschen. Gibt es Fragen? Ja, das ist eine sehr gute Idee, die ich noch nicht nachgedacht habe. Also die Frage ist, ob wir nicht vielleicht den Bundestag anrufen können, also so call-party-mäßig. Und das ist speziell das PDE. Da du das Tool für alles mögliche benutzen kannst, bestimmt. Allerdings müsste mir dann jemand irgendwie so einen Datensatz liefern, mit den jeweiligen hast du. Perfekt. Gibt es noch weitere Wünsche außer Popcorn? Ja, das ist eine sehr gute Frage. Also die Frage war, wenn es gelingt, die Chat-Kontrolle sozusagen auf eWee zu verhindern, könnte Deutschland das im Alleingang durchsetzen? Ja, natürlich kann Deutschland das machen. Und ich glaube, das ist auch was, worauf wir vorbereitet sein sollten. Selbst wenn wir es irgendwie schaffen, das auf EU-Ebene zu verhindern, Landesmedienschutz und Jugendmedienschutz gesetzt, sagt vielleicht dem einen oder der anderen so DNS-Sperren in NRW, ist ein Thema. Das heißt, es kann natürlich sein, die EU-Kommission hat die Bundesregierung jetzt natürlich so ein bisschen inspiriert, sich jetzt mal zu überlegen, könnten wir nicht einfach in Deutschland irgendwie eigene Altersverifikationen bauen und so und benutzen und enforzen. Das heißt, wir müssen das sehr, sehr genau hingucken, was jetzt auch im Nachhinein zur Chat-Kontrolle passiert, auch auf Bundesebene und ob sie nicht irgendwie durch Jugendmedienschutz oder irgendwelchen Quatschkram oder noch schlimmer, wie in Großbritannien, legal but harmful content, das Ganze auf Bundesebene durch eine Hintertür durchsetzen. Auf jeden Fall. Weitere Fragen. Da ist jemand am Mikro. Wir würden das technisch funktionieren mit diesem Call-Party, dass man die Abgeordneten anruft, muss man der Voice over IP nutzen oder kriegt man eine Nummer angezeichnet und muss selber anrufen, weißt du das? Das ist tatsächlich so, dass du deinen Nummer angibst und dann ruft dich das Calling-Tool an und sagt, hey, ich würde dich jetzt gerne mit dem MEP-Fall binden. Das sind übrigens deine fünf Talking Points. Bitte drücke die 1, also das habe ich mir jetzt ausgedacht, wenn du dieses Gespräch akzeptieren willst. Okay, danke. Ja, es ist nicht, also das können wir nicht machen, Privacy und so, aber es wird nach jedem Gespräch ein Fragebogen geben, den du ausfüllen kannst und sagen kannst, das sind irgendwie die fünf Punkte. Hier habe ich das Gefühl, hat der Abgeordnete ist ja irgendwie falsch abgebogen. Für den Nächsten, der der Anruf holen, doch genau da ab. Das machen wir auf jeden Fall. Ja. Das ist eine sehr gute Frage. Wir haben relativ gute Erfahrungswerte aus der Artikel 23 Debatte. Wir haben das damals halt auch schon gemacht. Es führt dazu, dass teilweise Abgeordnetenbüros lahmgelegt werden, klar. Aber muss man sich vielleicht auch mal vor Augen führen, also es ist ja häufig der Sinn von Protest-Sachen lahm zu legen. So. Ich denke, wenn man ein akkurates Fachgespräch und im Zweifelsverland ist, die auch nicht bei dem MEP, sondern bei dem Mitarbeitenden von den Abgeordneten, wenn man dem wirklich akkurat auch technische Fragen beantworten kann, finden die das im Zweifelsfall hilfreich. Deswegen haben wir auch extra an dieses Tool eingebaut, dass ihr halt Abgeordnete vorgeschlagen bekommt, die halt sich noch nicht entschieden haben beziehungsweise eher in unsere Richtung kippen, um den sozusagen noch mal den letzten Schubster zu geben und aufzuzeigen, hey, hier sind auch irgendwie Bürgerinnen, die sich damit beschäftigen und sich damit auskennen und vor free dir deine technische Expertise mitgeben. Also klar, die Gefahr besteht, aber ich meine, ein Axelfoss, den wirst du halt nicht umstimmen. Das muss man halt auch ganz klar so sagen. Ja. Okay, also die Frage war, ob es Ideen zur biometrischen Authentifizierung gibt. Also ich glaube, gute Gesprächsführung ist im Zweifelsfalle des A und O. Deswegen geben wir auch keine kompletten Gespräche vor, sondern halten nur Stichpunkte und dann kannst du dir halt zusammenbauen, was du sagen willst. Klar, bei E-Mails, deswegen ist es bei E-Mails zum Beispiel auch so, dass wir euch ein Leitfaden geben und sagen, das sind übrigens die Abgeordneten, die ihr anmailsen könnt, damit es nicht alles über ein E-Mail-Server geht, weil sonst filtern die auch ganz schnell raus und deswegen sagen wir auch, okay, wir geben euch Leitfaden und ihr könnt die Texte aber selber schreiben, weil du dadurch natürlich auch irgendwie ein paar Unterschiede siehst und das nicht jeder. Also es gab natürlich auch immer so Mess-Mailings, die wir gemacht haben und das jetzt so ein bisschen zu spezifizieren und auch so ein bisschen aufzusplitten auch nach Ländern. Also daran arbeiten wir schon, aber du kannst das halt nicht machen, also nicht ohne irgendwelche Privacy-Gefährdungen hätte ich fast gesagt, einzugehen. Gibt es noch mehr Fragen? Dann gebe bitte ans Mikro. Nein, er hau raus. Also um die Frage zu wiederholen, die Frage war in den USA gibt es das NICMAC, das ist das Center for Missing and Exploited Children und das ist das Center, was auch tatsächlich für Firmen in der EU derzeit die Bilddatenbank für bekannte Kindesmitbrauchsmaterial zur Verfügung stellt und die Frage war, ob wir etwas genaueres wissen, ob das NICMAC jetzt auf Ideen kommt, da KI irgendwie rein zu gießen, um unbekanntes Material zu dediktieren. An der Stelle muss man sagen, dass NICMAC selber baut die Technologien nicht, also die Stellen diese Datenbank zur Verfügung und es gibt halt FotodNA von Microsoft, das ist halt perceptual hashing, also erkennen von bekannten Materialen und leicht abweichende Materialen und die Technologie selber, die gebaut wird und das ist tatsächlich auch das häufiges Argument von EU Abgeordneten ist, dass sie sagen, ja wir müssen ja Firmenanreize geben, dass sie KI bauen, die unbekanntes Material erkennen kann, das ist so das Argument und eine Sache, die ich jetzt vielleicht ausgelassen habe im Rahmen von dieser Chat-Kontrollengesetzgebung ist auch ein europäisches NICMAC geplant mit einer eigenen Datenbank, das vielleicht noch so am Rande gibt es noch mehr Fragen. Ja, planen wir bundesweite Demos, ja meine Demoabteilung ist leider heute nicht da, dass wir haben ja schon die eine oder andere Protestaktion gemacht und der Lebe Konstantin von Digital Courage und Tom von der DigiGas sind meine Demobeauftragten, ich finde sie ja deutlich besser aus als ich, ich kann nur mit Politikern reden, so Demo Schilder malen ist nicht so in meinem Kompetenzbereich und ja, wir sind dabei, das vorzubereiten, man muss halt immer schauen wann ein sinnvoller Zeitpunkt ist das zu machen und dann auch wie viel wir mobilisieren können, also wenn da halt fünf Verrückte vom BMI rum springen, so wie wir das in den letzten, also das klingt jetzt so negativ aber, so wie wir das letzte Mal gemacht haben entstehen halt coole Demo-Bilder, aber wir müssten natürlich irgendwie so ein Mobilisierungspotenzial haben wie bei Artikel 13 und das gestaltet sich unheimlich schwierig, weil unheimlich viele Organisationen, also zum Beispiel auch Fridays for Futures, da dann doch sehr vorsichtig sind, obwohl sie eigentlich direkt betroffen von diesem Problem wären, die ersten großen Prozeste und das finde ich immer sehr schön, sind jetzt halt irgendwie in der Fußballbundesliga und da müssen wir halt einfach schauen wie wir es ausbauen und wann es sinnvoll ist auf die Straße zu gehen, gibt es noch weitere Fragen? Ja, meins, also die Frage war, ob es Daten über die false positive Meldung gibt, es gibt so ziemlich allen Sachen Daten, also die false positives im Bereich perceptual hashing sind im einstelligen Prozentbereich, die sind relativ gering, dadurch dass es halt um erkennen von bekannten Material geht, die Erkennungsraten für so machine learning magic Geschichten sind eher so, ich glaube Ross Anderson hat das in einer seiner Papers mal gesagt, liegen so zwischen 5 bis 10 Prozent und bei Ruming, also bei Texterkennungen sind sie auch in diesem Bereich, also die gibt es schon sozusagen den aktuellen Stand der Forschung bei solchen Analysen, die man fahren kann. Die EU Kommission bezieht sich da gerne auf Industriezahlen, die auch nicht so richtig falsifizierbar sind, aber also es gibt sie schon und man kann halt schon davon ausgehen, dass du mit Millionen von Falschmeldungen am Tag zu tun hast, dass die nierländischen Strafverfolgungsbehörden sind sogar so weit gegangen, dass sie gesagt haben, wenn das Gesetz jetzt so kommt, dann sind wir nicht mehr arbeitsfähig, weil wir so viel Mist auf dem Tisch haben, dem wir einfach nicht her werden können und das ähnliches hört man auch von deutschen Strafverfolgungsbehörden. Also wir sind jetzt schon komplett überlastet, damit diese Bilder fluten zu reviewen und wenn sie jetzt sozusagen nochmal, weiß ich nicht, das hundertfache davon kriegen würden, dann wären die eigentlich nur noch damit beschäftigt, den ganzen Tag Bilder durch zu gucken und könnten gar keine richtige Strafverfolgungsarbeit mehr machen in dem Bereich. Ja, fünf Minuten. Gibt es noch Fragen? Ja, nein, vielleicht. Ja, wie bitte noch mal? Nein, noch nicht. Ich würde vermuten, dass die Entwicklerinnen von diesem Tool, die da gerade daran arbeiten, das nochmal im Rahmen einer Chaosveranstaltung vielleicht bei der Gulasch-Programmiernacht vorstellen und dann werden sie euch auch entsprechend erzählen, wie sich das technisch mit Partizipationen und so verhält. Das würde ich jetzt aber ungern übernehmen. Okay, dann gehen wir jetzt alle zu Systemabsturz, pünktlich.