 Herzlich willkommen zum Digitalen Salon, The Troll Next Door zum Thema Online-Debattenkulturen. Wir freuen uns, dass ihr hier heute im Stream alle zusammen seid, um mit unseren Gästen zu diskutieren. Für die Begrüßung sind wir heute im Dicksal als Team. Das ist Claudia Haas, die ein Projekt zu jungen digitalen Engagement macht. Ich bin Lorenz Gülderwald Schokalla, Leiter mit meiner Kollegin Anja Adler, die auch heute den Dicksal marxgeblich mit vorbereitet hat, aber leider nicht dabei sein kann. Die Geschäfte des dritten Engagementberichts. An der Stelle erleicht ich mir so ein bisschen Schleichwerbung unter www.tritterengagementbericht.e. Kann man sich die Früchte unserer Arbeit von zwei Jahren runterladen. Und damit spreche ich aber auch schon vielen Dank an die ganzen Gäste und an alle anderen, die heute zum Dicksal beigetragen haben, dazu beitragen, dass wir hier zusammen sein können. Im dritten Engagementbericht ging es darum, für die Bundesregierung zu erforschen, wie sich das Engagement junger Menschen im digitalen Zeitalter-Expezit abbildet. Das ist ein zentrales Feinding des dritten Engagementberichts, dass manches Engagement heute nicht nur digitaler, sondern auch flexibler, projektartiger, netzwerkartiger und auch informeller stattfindet. Ein Beispiel für solches Engagement, das ist die Gegenrede. Daran zeigt sich exemplarisch, dass sich so etwas wie eine digitale Zivilgesellschaft heute herausbildet. Das ist ein zentrales Feinding des dritten Engagementberichts. An dem Beispiel zeigt sich auch, was das Engagementbericht herausgefunden hat, nämlich, dass es sowohl neue Formen gibt, neue Inhalte und Themen, in denen sich Engagement abspielt oder für das sich engagiert wird, aber auch dafür, dass Engagement auf ganz neue Art und Weise organisiert wird. Also, bei diesem Beispiel, die Gegenrede zu bleiben, das ist ein neuer Inhalt, ein neues Thema des Engagement, das nötig wurde, weil es zu neuen unzivilen Kommunikationsformen kam, also die Hasskommentare beispielsweise auf Facebook. Auf der anderen Seite wären Initiativen, wie ich bin hier, die ja heute vertreten sind und die sich eben gegen solche Hasskommentare engagieren, die nutzen Facebook, um sich zu Tausenden sehr lose voneinander zu organisieren, um dann tatsächlich gegen solche Shitstorms auch vorzugeben. Das heißt, es ist auch ein Beispiel dafür, dass sich Engagement heute nicht mehr nur, natürlich auch über Verein und Stiftungen oder solche Organisationsform koordiniert, sondern eben auch im Schwarm oder als großes Netzwerk. Das gilt natürlich leider auch für die Formen von unziviler Kommunikation, also von denjenigen, die tatsächlich solche Hate Speech und Shitstorm-Kampagnen fahren. Auch die sind innovativ und strategisch organisiert. Das zeigen wir zum Beispiel erste Studien von Ich Bin Hier und dem Institut for Strategic Dialogue, das ist meistens eine lautstarke Minderheit ist und man also gar nicht davon sprechen kann, dass sich hier irgendwie ein gesamtgesellschaftlicher Diskurs oder ein Meinungsbild abbildet, sondern dass es tatsächlich kleine Gruppen sind, die da sehr effektiv kampagnen fahren. Ich hoffe, dass wir heute mit unseren Gästen was über dieses Wechselspiel von Formen, neuen Inhalten des Engagements, aber auch neuen Möglichkeiten sich zu organisieren und zu koordinieren werden können. Und das betrifft natürlich jetzt nicht nur ein Beispiel, wie ich bin hier, die relativ jung sind, sondern auch sowas wie Deutschland spricht oder diskutiere mit mir, wo traditionellere oder schon länger bestehende Unternehmen wie Zeit Online neue Räume und Beziehungen ermöglichen oder indem man beispielsweise Plattformen wie eine App bereitstellt dafür. Und damit übergebe ich an Claudia. Ja, nach dieser Lagebeschreibung von Lorenz schießen ja eigentlich zwei große Fragen in den Kopf. Und zwar ist das zum einen, wer trägt eigentlich die Verantwortung für die derzeitige Situation der Debattenkultur im Internet und wer ist dafür verantwortlich, dass sich das in Zukunft ändert. Und wenn wir von dieser Verantwortung sprechen, sehe ich da vier zentrale Akteure, die in diese Debatte maßgeblich involviert sind. Zum einen frage ich mich, inwieweit die Plattformen betreiben die Verantwortung für eine konstruktive Debatte tragen. Es gibt ja zumindest das Netzwerk Durchsetzungsgesetz, nachdem die Plattformen Betreibenden dazu verpflichtet sind, gemeldete Hate Speech oder Falschmeldungen innerhalb von 24 Stunden zu löschen. Ein weiterer Akteur ist der Staat, sollte der vielleicht die bestehenden Gesetze wie das Netz-DG konsequenter durchsetzen oder auch noch weitere erlassen. Oder sind es die von Lorenz angesprochenen, organisierten, zivilgesellschaftlichen Initiativen, wie zum Beispiel ich bin hier, die in der Verantwortung stehen, sich gegen Hassrede einzusetzen und die digitale Zivilgesellschaft zu mobilisieren, um für eine konstruktive Debattenkultur zu sorgen. Auf die Wirksamkeit von organisierter Gegenrede weiß zumindest eine Studie von reconquista Internet aus diesem Jahr hin. Die haben herausgefunden, dass auf Gegenrede häufiger neutrale Kommentare folgen als auf Hassrede und Schlussfolgern daraus, dass Gegenrede effektiver ist, um einen zivilisierten Diskurs herbeizuführen, wenn sie organisiert ist. Immer sind es nicht auch zuletzt jede und jede einzelne von uns, die dafür als Teil der digitalen Zivilgesellschaft verantwortlich sind, im Netz Zivilcourage zu zeigen und uns für die Opfer von Shitstorms einsetzen, ganz egal ob wir die politischen Ansichten mit den Teilen oder nicht und Falschmeldungen und Hate Speech sofort und konsequent zu melden. In diesem Sinne und mit diesen vielen Fragen im Raum freue ich mich auf die heutige Diskussion mit unseren drei Gästen und freue mich auf eure Einblicke. Vielen Dank, euch beiden. Herzlich willkommen auch von meiner Seite. Ich bin Katja Weber. Schön, dass ihr alle da seid und dass ihr uns in eure Wohnungen oder Büros reingucken lässt. Ich hätte euch sehr gerne empfangen hier auf der Terrasse des HEG. Wenn ihr aber sehen würdet, wie grau und ungemütlich es da heute Abend ist, dann seid ihr auch froh, dass ihr nicht noch mal vor die Tür müsst, sondern einfach von zu Hause teilnehmen könnt. Also wir mussten wieder mal komplett ins Netz ausweichen und sehen uns in diesen kleinen Bildchen. Ihr seid aber alle, also nicht nur die Gäste, sondern selbstverständlich auch alle, die uns zuschauen im Stream oder auf AlexTV, wie immer sehr herzlich eingeladen, eure Fragen zu stellen und das zu eurem Forum zu machen. Wenn ihr das gerne auf Twitter oder auf Slidell, wie immer unter dem Hashtag, dicksal, dann trägt Natascha hier vom HEG das dann in die Runde. Wir besprechen über was, wir haben es gerade schon ein bisschen gehört, was irgendwie antiquiert klingt, aber das Leben enorm bereichert. Benimmregeln letztlich, Umgangsformen, Gepflogenheiten, wie wir also miteinander umgehen. Es gibt Erwünschungen, es gibt unerwünschte Verhaltensweisen und dann gibt es auch noch strafrechtlich relevante Drohungen oder Beleidigungen. Und wir wollen uns einzelne Plattformen anschauen, wobei ich schon vorneweg sagen muss angesichts der Fülle, befürchte ich, dass wir da nur so einzelne antippen können und nicht in alles tief reinkommen. Und wir wollen uns die Ursachen anschauen für Hate Speech und natürlich Gegensstrategien, gemeinsam mit drei Gästen, die ich euch vorstellen möchte. Laura Lackers ist da, schönen guten Abend, schön, dass du da bist. Wir haben sie 2018 ihren Master gemacht als Kommunikationswissenschaftlerin über das textuelle Emotionspotenzial populistischer Tweets und die kognitive Emotionalisierung der Rezipienten am Beispiel der AfD. Und Laura gibt Trainings in Sachen Counterspeech an Schulen, was uns heute Abend auch noch interessieren soll. Philipp Feigle ist da, hat Ökonomie und Politikwissenschaft studiert und arbeitet als Journalist für Zeit Online. Und für das Format, das die Zeit seit 2017 veranstaltet, Deutschland spricht, heißt das, ist so eine Art Diskutiertinder, das vorsätzlich Menschen zusammenbringt, die Paar Ship schon mal nicht matchen würde, also eher Gegensätze versucht zusammenzuführen, als Leute, die sagen, sehe ich alles genauso wie du. Niklas Rakowski ist Doktorant der Rechtswissenschaft am Weizenbaum-Institut für die vernetzte Gesellschaft, mit Fokus auf Medien und Internetrecht. Und es war ebenfalls 2017, wenn ich das richtig nachgelesen habe, als er mit ein paar Freundinnen und Freunden die Plattform Diskutier mit mir gegründet hat. Ebenfalls mit dem Ziel, Menschen miteinander ins Gespräch zu bringen, die sich sonst eher nicht austauschen würden. So, nach der Vorstellung euch allen nochmal großes Willkommen. Das habe ich jetzt bei euch beiden Letzt genannten einfach unter den Tisch fallen lassen. Niklas, jetzt sind das zwei ganz ähnliche Prinzipien. Also das, was die Zeit macht und das, was ihr macht, werden dabei wem abgeschaut? Ihr bei der Zeit oder die bei euch? Also ich glaube, das ist tatsächlich ganz spannend, weil es zum gleichen Zeitpunkt gestartet ist. Und ich glaube, es zeigt auch einfach, dass zu dem Zeitpunkt einfach diese Thematik, der Filterbubbles einfach sehr stark in den Medien war. Und bei uns war es tatsächlich so, dass wir alle britisch interessiert, klassisch digital natives sind und trotzdem irgendwie das Gefühl hatten, wir haben nie wirklich eine gute Diskussion im Netz gehabt. Und dann war sozusagen der erste Schritt eigentlich, wir möchten irgendwas Digitales machen, also irgendwas, was Gesprächskultur im Digitalen abbildet. Und genau, dann kam zu diskutieren mit mir und das war tatsächlich auch recht zeitgleich, aber ich glaube, da hat keiner von dem jeweils anderen abgeschaut oder Philipp, das kannst du dazu sagen. Gestehe. Nee, nee, ich glaube, das war tatsächlich, die Genese war auch bei beiden, also ich kenne ja eure Genese und ich kenne unsere und ich schwöre Stein und Bein, das war völlig unabhängig voneinander, aber irgendwann haben wir tatsächlich festgestellt, dass wir so eine ähnliche Idee haben. Wir werden gleich darüber reden, was wir machen, kommt man, glaube ich, relativ schnell auch darauf, dass es nicht ganz das Gleiche ist. Diskutier mit mir, findet ja online statt, sozusagen als Chat. Wie ist das bei euch, Philipp? Seht schon zu, dass die Leute sich zusammen auf eine Parkbank setzen, oder? Also bis zur Corona-Pandemie war das tatsächlich der Fall. Die Idee von Deutschland spricht es tatsächlich, dass die Leute sich digital anmelden, also auf den Websites der Partner oder halt auf den Websites von Zeit Online und dann von einem Algorithmus, mit dem wir zusammengebracht werden, der in der Nähe wohnt, aber politisch anders denkt. Und die Idee ist tatsächlich, dass die Kaffee trinken gehen und da spazieren gehen. Wir sind völlig frei darin, wie sie es machen. Wichtig ist uns aber, dass sie sich halt mal sehen. Und seit der Corona-Pandemie haben wir einen Deutschland-Sprich veranstaltet. Wir machen das ungefähr einmal pro Jahr. Und in diesem Jahr ging es nur um Corona. Es war quasi das diskursivste, uneinigste Setting an Leuten, die da mitgemacht haben. Also die waren alle ganz unterschiedlicher Meinung. Und die haben dann so wie wir heute Videokonferenzen gemacht. Und das hat er erstaunlich gut funktioniert, aber trotzdem nochmal der Unterschied dazu zu diskutieren. Mir ist tatsächlich, Niklas korrigieren mich, ihr macht halt sehr viele Konversationen. Ihr bringt sehr viele Leute zusammen permanent. Bei uns ist halt immer eine Veranstaltung. Und die Leute schauen sich halt in die Augen entweder und sitzen sie halt im Kaffee voreinander oder jetzt halt vor den Bildschirmen. Macht das einen Unterschied, Niklas? Ob die sich in so kleinen Mosaik-Karren sehen oder richtig live, ganz körpermäßig? Also ich glaube auch, es macht einen großen Unterschied. Bei Diskutieren mit mir ist es übrigens so, dass man sieht sich gar nicht. Es ist tatsächlich nur Text. Das ist auch ganz bewusst. Wir wollen tatsächlich auch einen anonymen Raum schaffen. Ein Raum, wo niemand zuschauen kann. Und tatsächlich auch digital. Weil wir halt eben sagen, es gibt ein paar Probleme mit digitalen, auch mit digitalen Diskurs und Dialog. Und da möchten wir ansetzen. Also ganz bewusst ins Digitale gehen. Und eben klar, wenn man dann diesen Raum schafft, dann ist erstmal die Befürchtung, okay, da kann ganz viel schief laufen. Aber es eröffnen natürlich auch ganz viele Möglichkeiten. Also ich sehe nicht, wie die andere Person aussieht. Ich sehe das geschlechtlich. Ich sehe nicht den beruflichen Hintergrund, kann ich nicht direkt ablesen, sondern das ist halt alles erstmal ein Raum, wo ich eine Person gegenüber bin, wo ich keine weiteren Infos zu habe. Und das ist erstmal eine spannende Ausgangssituation. So weit vielleicht erstmal zu euren Versuchen, Diskussionen oder irgendeiner Weise inhaltliche Auseinandersetzung sinnvoll zu gestalten. Laura, du gehst ja zu einem anderen Publikum an Schulen und trainierst da die Schülerinnen und Schüler in Counter Speech. Was ja eine etwas andere Versette dessen ist, die ich mit Philipp und Niklas gerade besprochen habe. Was sind denn bei dir überhaupt die Anwendungsfälle? Welcher Schulleiter, welche Schulleiterin wendet sich an dich und sagt, du musst unbedingt kommen? Was ist dann passiert? Es ist ganz unterschiedlich. Also es können zum einen natürlich Schulen sein, an denen es einen konkreten Bedarf gibt. Dass man eben sagt, es gibt vielleicht vermehrt Vorfälle von Mobbing in Klassen oder eben auch von generell dem Eindruck, dass da in der digitalen Welt passiert zwischen den Schülerinnen und Schülern. In der überwiegenden Zahl sind es aber tatsächlich einfach Schulen, die Interesse haben. Also das können Projektwochen sein, das können auch einfach tatsächlich solche Wander oder Projekttage sein, wo Schulklassenleiterinnen und Klassenleiter sagen, hey, wir würden gerne mal was zum Thema machen. Das kann aber auch Interesse von Seiten der Schülerinnen und Schüler sein. Also ich war vor Anfang des Jahres, im Januar an der Schule an einem Gymnasium hier in Berlin. Da ging es darum, dass eine Klasse einfach eine Instagram AG gründen wollte, wo sie einfach die Schule quasi als solches repräsentieren möchten. Und die Klassenleiterin hat gesagt, ich möchte, dass die gewacknet sind für das, was da auf sie wartet mit ihren 15, 16 Jahren. Und dann bin ich quasi in diese AG rein und habe eben mit denen verschiedene Übungen gemacht. Zum einen, um sie darauf vorzubereiten, was passiert, wenn sie selber Opfer von Hassrede im Netz werden. Aber zum anderen eben auch, um mit ihnen darüber zu sprechen, was kann ich eigentlich machen, wenn ich das beobachte. Wie alt sind die Schülerinnen und Schüler, mit denen du arbeitest? Ich schätze so was wie 8. Klasse aufwärts. Genau, das ist ganz unterschiedlich. Also das Jüngste ist meistens so 7. Klasse. Das ist aber wirklich auch so die Untergrenze, würde ich sagen. Und nach oben hin können das dann Abiturienten sein, Auszubildende. Aber teilweise sind das dann auch sogar schon Leute Anfang 20. Du hast gerade gesagt, die Lehrerin wollte, dass die dann vorbereitet sind und da nicht so im ganz dünnen Hemmende stehen, wenn ihnen da ein starker Wind entgegenkommt. Wie ist das denn? Sind die nicht vielleicht einfach tatsächlich schon vorbereitet durch die Chats und durch die Plattformen, in denen sie drinhängen oder auf denen sie sich bewegen? Das kann man so pauschal tatsächlich gar nicht sagen. Also viele Ja, bei viel ist es wirklich so, dass ich reingehen und überrascht bin, wie viel die schon wissen und wie reflektiert die auch mit vielen Themen umgehen. Aber viele sind eben auch noch relativ unvorbereitet, weil sie vielleicht auch noch gar nicht alt genug sind, um einen Account zu haben oder weil es die Eltern mit gutem Grund bisher noch verhindert haben und die sind dann natürlich neu in der Welt ein Stück weit. Facebook ist ja so bei den 14-Jährigen sowieso gar kein Thema mehr. Also die haben das ganz oft gar nicht mehr. Und selbst wenn sie schon unterwegs sind, gibt es immer noch Dinge, die man ihnen mit an die Hand geben kann, um das Ganze noch ein bisschen sicherer zu gestalten. Das kann zum einen eben, wie gesagt, Counter-Speech sein, das können aber auch rechtliche Aspekte sein oder eben auch Datenschutz. Fast gebe ich von mir selbst eigentlich Preis und was nicht. Niklas, du hattest vorhin schon von Filterblasen gesprochen und das so 2017 rum irgendwie der Gedanke da war, die müsste man ein bisschen zum Platzen bringen oder zumindest öffnen und da andere Luft reinlassen. Ich habe mich gefragt, ist das so oder falls ja, warum war das zu dem Zeitpunkt so? Auch schon in vordigitalen Zeiten konnte ich mich ja entscheiden, lese ich die Jungle World oder lese ich die Zeit. Also schon immer habe ich natürlich mich gerne mit gleichen Unterhalten, die mir bestätigen, ja Katja, das siehst du völlig richtig. Also dieser Begriff Filterbabel erzählt er wirklich oder beschreibt er wirklich was grundsätzlich Neues? Ich glaube, da beschreibst du, da sprichst du einen ganz guten Punkt an, weil klar, es war damals irgendwie so ein großes Passwort und irgendwie eine ganz unterschiedliche Aufladung. Wir hatten persönlich das Gefühl, dass wir nicht mehr nachvollziehen konnten, wie andere Menschen ticken, also die einfach andere Positionen vertreten haben. Klar, das ist Post-Trump, Post-Brexit und man kann sich einfach nicht mehr diese Personen hineinversetzen und fragt sich, hat das irgendwas mit dem Digitalen zu tun? Wissenschaftlich gesehen, empirisch gesehen, die Wissenschaft tut sich sehr, sehr schwer, diese Filterblasen tatsächlich zu identifizieren und als solche auch auszumachen, als empirisches Phänomen. Nichts ja so trotz, das ist natürlich so, also gerade an den Rändern, gerade in Deutschland, nachweisbar, dass sich sozusagen dort bestimmte Kreise immer stärker untereinander nur noch miteinander diskutieren, wo gleichzeitig geht es auch in die Art und Weise, wie man dann miteinander diskutiert. Ich glaube, das hat sich schon verändert. Also ich glaube schon, man wird immer, man wird auch in sozialen Medien natürlich mit ganz unterschiedlichen Meinungen konfrontiert, aber die Art und Weise, wie man dann in dem Dialog tritt, die hat sich geändert. Was beobachtest du da, Laura, wenn du mit, sagen wir, 8-Klässlern, 9-Klässlern, 10-Klässlern arbeitest, sind dann sowas wie Filterbubbles ausgebildet oder würdest du sagen, nö, die sind eigentlich gedanklich und auch, wenn es drum geht, welche Messenger- oder welche Plattformen sie nutzen, noch sehr offen. Ich würde schon sagen, dass die klar in Filterbubbles unterwegs sind. Also zum ersten sind die Social Media Accounts bei den Mädels und Jungs in dem Alter oft noch ein Abbild der Filterblasen, in denen sie sich auch privat bewegen, weil sie eben sehr viel sich auch mit ihren Freunden connecten online. Aber es ist schon auch so, dass man ganz klar in diesen Projekten auch immer wieder raushört, wofür sich die einzelnen interessieren und wem die dann folgen und was sie sich angucken. Und das ist schon meistens recht straight in eine bestimmte Richtung. Das würde ich schon sagen, ja. Und gibt es bestimmte Plattformen, die, wenn du zum Thema Hate Speech und Counter Speech trainiert, die dann immer wieder vorkommen oder geht das quer durch den Gemüsegarten. Jetzt mal hier von Facebook abgesehen, wenn da die Eltern und Großeltern rumhängen, geht man da wahrscheinlich selber eher nicht hin. Also das meiste Interesse haben die Jungs und Mädels in dem Alter tatsächlich an Instagram. Früher war noch Snapchat, glaube ich, hoch im Kurs, aber das ist ja mittlerweile schon wieder so ein bisschen veraltet. Jetzt ist TikTok natürlich ganz vorne mit dabei. Auf Twitter sind die in dem Alter meist noch recht wenig unterwegs. Auch YouTube spielt auf jeden Fall eine große Rolle. Und selbst in dem jungen Alter ist es oft schon so, dass da auffällt, dass gerade YouTube die Plattform ist, die sehr stark Richtung Verschwörungstheorien oft mal abtrüftet. Und Instagram dann eher die Plattform ist, wo es dann oft um optikgebundene Hate Speech geht. Also man merkt schon, dass die auch ein Gefühl dafür haben, was ist wo eigentlich los? Philipp jetzt, vielleicht ist es ja auch wirklich von mir nur die Verlängerung meiner Vorurteile, dass wenn sich bei euch Leute Bewerben für Deutschland spricht, dass ihr überhaupt kein Problem habt, eher mittige Leute zu finden, also die nicht sagen, ich stehe ganz am Rand rechts oder links, sondern ich habe irgendwie einen ganz guten Bildungsabschluss und guck mal prinzipiell nicht Politik vertrossend in die Welt. Und dass ihr weniger Menschen findet, die sagen Angela Merkel ist die Tochter von Hitler und ansonsten ist auch alles schlecht, dass ihr die Leute, die sehr stark polarisierende Thesen vertreten suchen oder rennen die euch die Bude ein? Also zuallererst einmal melden sich natürlich nur Leute an, die auch diskutieren wollen und das ist quasi so eine Selbstselektion, die lässt sich halt nicht vermeiden. Und damit hat man tendenziell die Gesprächsbereiten und tendenziell natürlich auch die weniger radikalen, die ohnehin schon eigentlich kein Interesse an Austausch haben. Das ist, glaube ich, der Grundaufbau des ganzen Programms. Insofern stimmt das. Die These würde sogar sein, dass ich denke, dass wir eher die Ränder der Mitte erwischen, also anstatt wirklich die extremen extremen Ränder. Wobei wir auch in den letzten Jahren durchaus viele AfD-Wähler im Set hatten, also in beträchtlicher Weise, wir haben ja 2018 das mal wissenschaftlich untersuchen und diese Teilnehmer auch gefragt, was sie wählen und da kam durchaus raus. Das ist ein beträchtlicher Anzahl AfD-Wähler darunter war. Das hat uns selber sogar ein bisschen überrascht. Also es ist so gemischt. Es ist vielleicht aber auch für unser Projekt nicht das Allerentscheidendste, jetzt die super extremen zu bekommen, sondern wir suchen Leute, die daran interessiert sind, sich anders denken, sich auszutauschen, die auch offen sind für den Dialog, die bereit sind, sich auch jemanden einzulassen, der komplett anders denkt als sie selbst. Und das ist, glaube ich, auch eines der Erfolgsgeheimnisse dieses Projekts, dass man Leute hat, die diesen Dialog auch wollen und dementsprechend damit zu einer gewissen Haltung dieses Gespräch gehen. Ich glaube, wenn man so ein Projekt irgendwann mal anfängt, hat man ja gewisse Vorstellungen, und so was wandelt sich ja auch über die Zeit. Als wir anfingen, hatten wir tatsächlich das Gefühl, okay, wir müssen jetzt die absoluten extremen Kohle zusammenbringen. Und letztes Jahr war ich bei Peter Coleman in den USA, das ist ein Psychologe, der dort so ein Debattier-Lab hat und der hat sich unser Projekt angeschaut. Er hat gesagt, super, you are growing the middle, ihr arbeitet daran die Mitte stabil zu halten. Ihr kriegt halt die Leute, die halt irgendwie reden wollen, die aber trotzdem im Rahmen dieses Spektrums halt sehr unterschiedlich denken. Und ich glaube, das trifft es eigentlich ganz gut. Und das ist, glaube ich, das, was jetzt auch so der größte Nutzen dieses Projekts ist. Was kriegt ihr denn für Rückmeldung? Also du sagst die Ränder der Mitte. Dann diskutiere ich da beispielsweise mit einer Frau, die findet Trump macht vieles richtig bei der solchen Bekämpfung und die AfD hat auch ganz gute Ideen. Was nimmt die am Ende mit? Was bekommt ihr für ein Feedback und was für ein Feedback bekommt ihr von Leuten, die das wie ich nicht so sehen? Also empfinden die sich dann mehr als Mitte die irgendwie doch zusammengehört? Also das ist interessant, wir kriegen über 5% extrem positives Feedback. Die Leute sind sehr positiv gestimmt nach den Gesprächen und einen Standardfeedback lautet, wir haben uns näher gefühlt, als wir eigentlich dachten. Ich glaube, das hat damit zu tun, dass es grundsätzlich so eine Annahme gibt, dass Leute, die halt in diesem Philipp, jetzt kommen ja nur Artefakte an bei mir von dem, was du sagen wolltest. Ich glaube, ich nutze mal schnell die Gelegenheit, bis sich deine Leitung erholt hat, Natascha reinzuholen. Hier hat sich reingeschaltet, ich vermute mit irgendwelchen Nachfragen oder Anmerkungen der Zuschauerinnen und Zuschauer Natascha. Genau, da kam gerade auch eine Frage an Philipp, aber auch eine an Laura. Also fange ich vielleicht mal, obwohl jetzt bist du wieder da. Ich sage einfach beide und ihr könnt dann schauen, ob es auch Rechtsradikalen oder eben Wissenschaftsleugnen irgendwie Raum zu geben innerhalb der Plattform oder der Aktion und an Laura eine Frage. Und zwar ob du beobachtest, dass Klassen eher insgesamt eine gemeinsame Meinungs- oder Weltsicht bubblebilden oder breiten innerhalb von Klassen starke Meinungen gegeneinander oder passiert das zum Beispiel zwischen Klasse 10a gegen Klasse 10b oder zwischen Schularten. Laura, vielleicht fängst du an mit Philipp hatten wir vorhin. Ich weiß nicht, ob du es mitbekommen hast, Philipp, dein Bild war eingefroren, dein Ton so ziemlich weg. Ja, ich hoffe, es funktioniert wieder. Und Laura, also die Frage an dich vielleicht zunächst. Wie verhält sich das an Schulen? Wo bildet sich da Gemeinschaftsgefühl? Nein, war noch einer der letzten Begriffe, in der ich mich verstanden habe. Und wo sind die Risse oder die Abgrenzung? Das ist eine spannende Frage. Also wenn ich in ein Projekt reingehe, wo es eine freiwillig zusammen kommende Truppe ist, sagen wir beispielsweise in der AG, dann ist die Meinung tatsächlich oft recht ähnlich. Klar gibt es da Nuancen und ich versuche die auch rauszukitzeln. Also ich sage auch immer, wir sind hier in einem Raum, in dem jeder seine Meinung sagen darf, in dem es nicht richtig und falsch gibt, sondern es ist wichtig, dass eben auch so ein Austausch entsteht zwischen den Schülerinnen und Schülern. Aber gerade in Klassen gibt es schon auch mal Reibereien in der Diskussion, dass verschiedene Meinungen da sind. Selten sind die jetzt komplett von ganz links nach ganz rechts, sondern meistens gibt es so ein Mittelstrang und dann ein paar Außenseiter, die es ein bisschen, also die extrem anders sehen und ansonsten sind die recht stark eine Bubble, um das Wort wieder aufzugreifen mit verschiedenen Meinungen, also verschiedene Ansätze, würde ich sagen. Philipp, und die Frage an dich, vielen Dank, die Frage an dich war ja, Diskussionsraum teilen mit Rechtsradikalen ist das eine gute Idee, wobei du uns ja gerade vorher erläutert hast, ich weiß nicht, ob ich dich jetzt falsch paraphrasiere, aber dass du die, die sich da melden nicht unbedingt als rechtsradikale etikettieren würdest, weiß ich nicht, ich will dir nicht vorgreifen. Ja, also rechts, also zum einen ist es ja so, wir, diese Gespräche, die wir initiieren, finden ja erst mal unter Ausschluss der Öffentlichkeit statt. Das heißt, die Leute treffen sich ja zu zweit. Das heißt, das sind der explizit keine Bühnen, die wir da bauen für Gespräche, sondern das sind ein Austausch zwischen zwei Menschen. Mein Eindruck ist, dass wir tenenziell weniger rechtsradikale anziehen, ehrlich gesagt. Also, sondern das wäre, wie ich schon sagte, eher moderate rechtsbereite, anders denkende ins Gespräch bringen. Und deshalb ist es glaube ich, also deshalb ist glaube ich nicht ganz richtig, von der Bühne zu sprechen oder von der Plattform, die wir da bieten, hinzukommen, dass das glaube ich diese Tatsache, dass wir diesen intimen Raum schaffen, da hat Niklas auch gerade eben drüber geredet. Also die Tatsache, dass wir eben nicht, wie auf Facebook oder auf anderen sozialen Netzwerken, sondern auf ein Publikum initiieren. Das hat unglaubliche Vorteile. Und es führt dazu, vielleicht können wir da nachher auch mal drüber reden, weil wir uns ja auch Gedanken darüber machen, wie schaffen wir eigentlich ein Setting für gute Diskussionen. Unser Eindruck ist, dass das eines der, quasi der Key Essentials ist, also der wichtigsten Dinge, dass es halt für ein gutes Gespräch, dass es halt nicht einen Publikum gibt, das auf der einen oder der anderen Seite anfeuert, dazu motiviert, dass man sonst sein Gesicht verliert etc. Niklas nickt so offensiv, dann würden wir den Ball tatsächlich zu dir rüber spielen. Du hattest das vorher auch schon mal gesagt, es ist eins zu eins, es gibt keine Arena, es gibt keinen Publikum. Das heißt, es gibt auch keine Likes oder kein, ich setze mich mit der Person auseinander, die mir dagegen übersteht oder sitzt. Ist das wirklich so eine Grundvoraussetzung für ein sachliches Gespräch? Dass es gar nicht die Möglichkeit gibt, dass sich da Klarköre, Mekara oder Provokateure einschleichen. Ich glaube, man kann es sich ausschließen. Ich glaube, natürlich geht das vereinzelt, also es kommt vereinzelt vor, aber es bietet halt eben keine Enzentives dafür, dass es häufiger passiert. Denn was passiert, wenn ich jetzt da reingehe und irgendwie mein Gegenüber beschimpfe oder irgendwie traurne oder irgendwie ausfällig werde, dann sagt mein Gesprächspartner alles klar, das ist der Gespräch und ich pöbel ins Leere. Und es gibt eben keinen Publikum, das dann sagt like und retreat und ich schere das nochmal. Das Publikum fehlt eben. Genau, da möchte ich das unterstreichen, was Philipp schon gesagt hat. Weil eigentlich ist es ja sehr kontraintuitiv, dass wir sagen, hier anonyme Gespräche online, oh Gott, oh Gott, und dann noch sozusagen politisch anders denkende. Unsere Erfahrung ist aber tatsächlich, wir können nicht in die Gespräche reinschauen, es wurde wie euch geklickt und wie häufig wurden dann quasi der Gesprächspartner gemeldet und das ist erstaunlich wenig. Also bei der Bundestagswahl, bei der Rätsel Bundestagswahl waren es knapp 20.000 Gespräche und mussten drei User bennen von der Seite. Da sind andere Zahlen als bei Facebook natürlich, wir haben auch da wieder die Selfselection, also wir haben die Leute, die gerne ins Gespräch wollen, wir haben die Leute, die diskutieren möchten, aber natürlich, wir haben eben auch kein Publikum und ich glaube, das ist schon ein entscheidender Faktor und das spiegelt sich auch in den, also die Plattformen, die wir haben, wir haben jetzt auch einmal in Schweden, einmal in den Niederlanden, einmal in Ungarn und da sind es genau die gleichen Erfahrungen. Also das ist kein rein deutsches Phänomen. Laura, was sagten uns das jetzt? Die Netzwerkbetreiber müssen genau das abschaffen, was ihre Läden am Laufen hält, die Emotionalisierung, mit der du dich ja auch beschäftigt hast? Okay, da ist eine Frage, die sehr, sehr weit reicht natürlich ein Haufen Aspekte, die dafür sprechen würden, zu sagen, man müsste da vielleicht genauer moderieren, Stichwort eben auch, inwieweit wird eben dann was auch entfernt, wenn es gemeldet wird und so weiter. Ich bin grundsätzlich eigentlich immer ein Finder von, dass es einen sehr offenen Austausch gibt und ich finde auch, dass es in gewissen Maße auch das Potenzial von Social Media ist, dass es die Möglichkeiten gibt, aber der Unterschied ist eben zu diesem eben schon angesprochenen eher geschlossenen Raum, wo ich wirklich Teilnehmer habe, die Interesse haben an einem Gespräch, dass soziale Plattformen halt unheimlich viel Raum für Trolls geben, für Menschen, die einfach sich im Rahmen der Anonymität des Internets irgendwie ausleben können und dafür gefeiert werden und ich würde nicht sagen, dass die Emotionalität eingeschränkt werden muss, sondern ich würde sagen, unsere Gesellschaft muss gestärkt werden, eben mit Counterspeech zu arbeiten und eben unter Umständen auch dagegen vorzugehen, dass das passiert. Allerdings experimentieren ja manche Plattformen tatsächlich schon in diese Richtung, also Likes abzuschaffen, zumindest mal als Testballung zu gucken, welche Stellschrauben sich da drehen ließen. Ist das was, Philipp, wo du sagen würdest, gute Idee oder würdest du sagen, Deutschland spricht und die Herzchen, die ich auf irgendeiner Plattformen zu vergeben habe, die haben gar nichts miteinander zu tun, das sind getrennte Räume und da muss auch nicht das eine mit dem anderen vermengt werden. Ich glaube, das sind einfach grundsätzlich unterschiedliche Prinzipien. Also Facebook ist ja bewusst ein offener Ort, wo viele Menschen zusammen diskutieren können und ich sehe darin auch den Wert, mein Punkt war eher nur, dass wir ja an der Frage basteln, wie schaffen wir eigentlich einen Raum für gute politische Debatte. Das ist ja auch nicht der Haupt, quasi das Hauptziel von Facebook, um es vorsichtig zu formulieren, aber das ist die Frage, die uns halt umtreibt und da ist halt ein Faktor, ein Faktor zu sein, geschützte Räume, 1 zu 1 Situation, das sagt übrigens auch die Forschung, dass das ein sehr entscheidender Faktor ist. Und ich würde gerne noch einen zweiten Punkt nennen und da sehe ich wirklich den Vorteil von Deutschland spricht, sehr stark. Wie gesagt, das was das Netz halt, was im Netz oft passiert ist, wir sehen halt Menschen, wir sehen nicht Menschen, sondern wir sehen Meinungen. Also wir sehen halt Äußerungen, keine Ahnung, wer dahinter steckt, wer das eigentlich sagt, was der sonst noch so denkt. Wir kennen nicht den Hintergrund und da scheint es mir schon zu sein, dass wenn dann Menschen, die andere Menschen kennenlernen und nicht modernen Meinungen, sondern die ganze Person, das ist halt ein Effekt, den wir bei Deutschland spricht, sehr stark sehen, dass die total überrascht sind. Warum sind die überrascht, wie ich, oder komisch in ganz vielen Fragen hätte ich gar nicht gedacht, der genauso wie ich, nur in dieser einen Frage ist der halt diametral anders und so. Und das führt sehr oft dazu, dass zu diesem Effekt, den ich eben beschrieben habe, dass die Leute sich halt näher empfinden, als sie es dann tun, wenn sie schlicht und ergreifend mit einer Meinung konfrontiert sind. Und das ist, glaube ich, auch ein wichtiger Aspekt, wenn wir so über die Frage reden, wie kriegen wir gute Debatten hin, um auch Meinungen und Personen stärker voneinander zu trennen. Das hilft zumindest, in unserer Erfahrung eine Komplexität hinzuzufügen zur Diskussion. Eben weil halt man feststellt, okay, in dieser einen Frage mag der halt so denken, aber in einer anderen Frage sind wir vielleicht einer Meinung, es gibt viel mehr Möglichkeiten, sich anzudocken, gemeinsam Grounds finden in der Diskussion, etc. Und das macht es dann meistens auch einfacher, in den Fragen, wo man in anderer Meinung ist, sich dann vielleicht auf ein Kompromiss zu einigen oder zumindest halt irgendwie besser miteinander klarzukommen. Ich würde aber trotzdem ja nochmal bei diesem Aspekt der Emotionalisierung bleiben, Laura. Du hast dich ja genau damit beschäftigt für deine Masterarbeit. Emotionspotenzial bei Tweets der AfD und auf der anderen Seite die Emotionalisierung, die dadurch bezweckt wird bei dem Publikum. Das ist die Strategie von Populisten zu polarisieren und dadurch zu emotionalisieren. Die Partei will das, ihre Wähler wollen das und der Algorithmus will es auch. Also es ist eigentlich ein perfektes Ökosystem. Da ist alles in göttlicher Harmonie sozusagen. Hast du für deine Masterarbeit herausgefunden, wie sich diese Logik durch Rechen ließe? Ja und nein. Also tatsächlich ist es so, dass ich eben Tweets der AfD analysiert habe. Die halt hauptsächlich, aber eben auch demgegenüber Tweets von anderen Parteien bestellt habe, die eben deutlich sachlicher unterwegs waren. Und einerseits ist es eben so, dass ich natürlich diese Emotionalitäten Stück weit durchbrechen lässt mit Logik, mit sachlichen, guten Gegenargumenten, die halt nicht populistischer Natur sind, sondern einfach informativer Natur. Und auf der anderen Seite ist es aber nun mal einfach auch in der Studie herausgekommen, dass die Userinnen und User einfach auf die AfD Tweets mehr angesprungen sind. Also ich habe die halt anonymisiert präsentiert und selbst dann, wenn die logische Meinung des Users eine andere war, als die im Tweet präsentierte, ist er von der reinen Motivation hier mehr auf diesen Tweet angesprungen als auf einen sachlichen. Das ist leider einfach tatsächlich so. So sind wir gestrickt. Ja, vielleicht. Natascha, ich vermute, es gibt Fragen, oder? Und zwar einmal hate speech auf Plattformen wird ja schon seit einigen Jahren diskutiert, hat sich über die Zeit etwas an diesem Phänomen geändert. Und weil vorhin auch noch mal Tiktok irgendwie kurz angesprochen wurde, was ja auch so das neue Ding ist unter den Jugendlichen können auf einem Spaßkanal wie Tiktok auch politische Diskussionen geführt werden. Ich weiß nicht, also die Tiktok-Frage vermute, ich kann Laura gleich beantworten. Hat sich generell was am Thema verändert oder entwickelt? Ich weiß gar nicht, wer von euch drauf reagieren möchte. Wer sich da befugt fühlt. Philipp fühlt sich befugt. Vielleicht Laura. Laura kann am ersten dazu was sagen, oder? Also ob sich am Phänomen hate speech was verändert oder entwickelt hat, war die eine Frage. Ja und nein. Also ich bin ja erst seit 2 Jahren dabei. Demnach wäre es vielleicht fast besser, wenn noch mal danach jemand darauf eingeht, der es vielleicht schon ein bisschen länger macht. In der Zeit in der ich dabei bin, es gibt natürlich immer kleine Veränderungen. Es gab natürlich eine extreme Veränderung, in der Zeit, als ich angefangen habe, durch die AfD, die eben ein Stück weit den Raum des Sagbaren halt ein bisschen erweitert hat und eben sehr viel gefühlt, sehr viele mehr Möglichkeiten geschaffen hat, um auch am politischen Teil bei Social Media. Dann ist eben Trump, also diese ganze extreme, dieses ganze extreme Aufkommen des Populismus hat natürlich zu einer Veränderung geführt, zu einer Verrohung ein Stück weit würde ich sagen. Aber unter dem Strich habe ich in den letzten 2 Jahren, außer dass sich die Plattform mal verändert oder es nur aus dem gibt, nur bedingt Veränderungen wahrgenommen. Deshalb vielleicht den Ball zu jemanden, der es schon länger macht. Niklas. Ich würde vielleicht da mal anknüpfen bei den Plattform-Netz. Das gibt es im Netz, das hat sich glaube ich in den letzten 2 Jahren jetzt nicht so großartig verändert. Ich glaube, was sich verändert hat, ist die öffentliche Wahrnehmung für das Thema. Also das ist weg des von einem, das ist ein individuelles Problem. Das ist jetzt irgendwie das eine individuelle Person, die von Hates Beach getroffen ist, wenn das sehr schade ist, blöd, da helfen wir, sondern wir verstehen mehr und mehr, dass es einfach ein strukturelles Problem ist. Und das ist tatsächlich eine strukturelle Komponente. Und das müssen wir stärker in den Blick nehmen, glaube ich. Es gibt ganz, ganz viele sehr, sehr wichtige Initiativen. Wir haben, ich bin hier angesprochen, es gibt das Netz, die Vernetzungstelle gegen Hates Beach, es gibt Hate-Aid, die wirklich dieses Thema auf so einer strukturellen Ebene angehen. Und ich glaube, das ist ganz wichtig, weil wir eben aus demokratischer Sicht einfach merken, da werden bestimmte Positionen aus dem Diskurs rausgedrängt. Das mit einer ganz bestimmten Intention. Und ich glaube, dieser Wandel in der Zeit, den beobachte ich zumindest erst so seit drei, vier Jahren. Klingt für mich nach Verhalten am Optimismus, was du schilderst. Ich glaube, das ist der erste Schritt, aber es hat noch, also es kann ja auch nur sein, dass das Phänomen viel stärker gewachsen ist und deshalb auf einmal viel mehr Alarmsignale schrehen. Ich werde es noch nicht so ganz so optimistisch, aber es ist auf jeden Fall ein erster Schritt, dass wir dieses Problem als strukturelles Fahren nehmen. Philipp, stimmst du deinen beiden Vorrednern zu? Ich bin jetzt nicht so der Super-Experte für Hate Speech um ehrlich zu sein, aber ich finde, das ist zumindest der letzte Punkt, dass es eine größere öffentliche Wahrnehmung für das Phänomen gibt. Das scheint mir auch so zu sein. Und das ist ja schon immer so, wenn die öffentliche Wahrnehmung verändert, dann verändert sich die Diskussion und dann irgendwie auch der Umgang mit so einem Phänomen. Insofern glaube ich halt nicht, dass da einen Punkt. Dann gab es noch die Frage, Laura, die politischen Debatten beispielsweise dort führen, werden die geführt von der Zielgruppe, die du in Schulen erreichst? Da würde ich ganz klar sagen, nein. Also meine Erfahrung nach ist es nicht der Ort, an dem das überwiegend passiert ist, es mag Ausnahmen geben. Es gibt auch diverse Formate, zum Beispiel die Tagesschau war sehr aktiv direkt zu Beginn oder generell die ARD auf TikTok. Die haben dadurch natürlich eine Zielgruppe abgeholt, wo es dann auch mal einen Austausch gab unter den Posts, aber unterm Strich ist generell der qualitative Austausch da einfach nicht da. Also da werden Leute getaggt, die das Video unbedingt sehen müssen. Da gibt es mal Lachsmailies, aber der Kommentar-Austausch ist bei TikTok schon auf das absolut wesentliche Begrenzt. Also nein, eher nicht. Okay. Wir stellen euch ja im Vorfeld der Veranstaltung immer ein paar Fragen oder geben Hype-Sätze vor und bitten euch die zu vervollständigen. Und Niklas, Sie haben geschrieben, damit das Netz einen gleichberechtigten Austausch ermöglicht, müssen Plattformen wirksam reguliert und alternative Angebote ausgebaut werden. Claudia und Lorenz haben mir eingangs die Frage gestellt, wer ist denn überhaupt der Akteur bei dem Phänomen über, dass wir reden? Sind das die Plattformbetreiber? Ist es der Staat oder sind es wir respektive Initiativen, wie die, die wir schon haben, die wir vielleicht mal bei der ersten Forderung, die du aufgestellt hast, wirksame Regulierung, wie sieht die aus, so wie sich das die Justizministerin vorstellt, die jetzt das Netzwerk- Durchsetzungsgesetz fortschreiben will, dass beispielsweise Netzwerke verpflichtet werden, die IP-Adressen rauszurücken von Hetzern. Ist das die Regulierung, an die du denkst? Vielleicht ganz kurz einen Punkt vorab. Die Antwort war ein Tick länger, also es war auch noch, sozusagen möchten auch Zivilgesellschaft muss gestärkt werden. Das ist nicht nur auf die, auf die Plattform fokussiert, aber weil wir jetzt gerade bei dem Punkt sind, ich glaube tatsächlich, dass wir gerade in den letzten, auf den letzten zwei Jahren, seit dem Netz-DG, vorher war es eigentlich immer eine Debatte, dass man gesagt hat, Plattform kann man nicht regulieren, das ist irgendwie alles digital, das ist irgendwie alles transnational, da kommen wir nicht ran. Und das Netz-DG hat eine Sache bewirkt, dass man tatsächlich über Plattform- Regulierung mal nachdenken kann. Das ist ja auch eine falsche Inzentivierung setzt, weil es natürlich die Gefahr des Overblockings beinhaltet, aber es zeigt erstmal die Möglichkeit, dass man darüber nachdenken kann, wir haben ja einen öffentlichen Diskursraum, darüber möchten wir auch irgendwie über diese Regeln, die dort diskutiert wird, möchten wir auch als Gemeinschaft entscheiden und nicht als privates Unternehmen. Und ich glaube, das ist erstmal ganz viel wert. Zum konkreten Vorhaben jetzt, also ich sehe das sehr kritisch, ich sehe das sehr schwierig. Ich glaube, wir verlieren da sehr, sehr viel auf der einen Seite, also durch die Anonymität im Netz, das ist ein ganz, ganz hohes Gut. Und ich sehe jetzt auch nicht ganz den Nutzen oder ich, beziehungsweise, ich glaube, es gibt ganz, ganz viele andere Stellschrauben, wo man vorher ansetzen könnte. Beispielsweise, man könnte darüber nachdenken, dass einfach das ist ein stärkeres, stärkere Strafrechtsnorm, der gibt, die nicht sozusagen nur am Netzstege ausgerichtet ist, also an den Strafrechtsnorm, die im Netzstege aufgeführt sind, sondern beispielsweise für Strukturenne und ganz bewusste und koordinierte Angriffe auf eine Person. Man könnte sich das Doxing stärker anschauen, stärker in den Blick nehmen. Auch das Androhen von Straftaten, also bis jetzt beim Netzstege sind es halt irgendwie wirklich nur Strafrechtsnorm, die dann verfolgt werden oder die sozusagen von diesem Netzstege erfasst werden. Es gibt aber ganz, ganz viele Bereiche, die sozusagen vor der Straffältigkeit beginnen, die aber letztendlich genau das gleiche, die gleiche Folge haben, wenn nicht dass Leute aus dem Diskurs gedrängt werden. Ich glaube, das sind Punkte, wo man viel eher ansetzen könnte, als dass man jetzt sagt, irgendwie alle IP-Adressenspeichern rausgeben, Klarnamenpflicht, genau. Ich würde gerne Laura und Philipp euch doch gerne auch fragen, wie seht ihr das mit der Förderung nach staatlicher Regulierung? Was würde euch dazu einfallen, findet ihr es sinnvoll, so wie es Niklas gerade skizziert hat? Danke. Ja, ich würde Niklas tatsächlich zustimmen. Gerade in diesem Punkt, dass es eben sehr viele Nuancen von Problemsituationen gibt, die geschehen, bevor eine Straftat wirklich passiert ist, dass es verschiedene Straftaten gibt, beispielsweise Beleidigungen, die nur von der betroffenen Person angezeigt werden können, und dann gibt es eben Straftaten wie Volksverhetzung, etc. wenn sie online geschehen von jedem angezeigt werden können. Aber es ist eben de facto auch so, dass meiner Meinung nach auf der einen Seite natürlich der Staat in der Verantwortung wäre, damit mit einer Regulierung und damit mit einer besseren Regulierung anzugehen. Ich sehe aber vor allem die Plattformen der Verantwortung. Ganz klar, an erster Stelle müsste für mich die Regulierung auf den entsprechenden sozialen Netzwerken da sein, weil ich mache immer wieder die Erfahrungen, wenn ich Dinge melde, dass da nichts passiert und das ist super frustrierend. Philipp, stimmst du zu? Wie versprichst du? Ich finde, das ist toll zusammengefasst. Ich würde auch Lauras Position stark machen wollen. Also ich würde auch tatsächlich sehe auch die Betreiber der Plattform eher in der Verantwortung und es ist tatsächlich auch, wir reden jetzt schon sehr lange über dieses Thema und seit vielen, vielen Jahren und es ist zum Teil, finde ich, auch geschieht dort, an der Stelle zu wählen. Aber dann, um einfach nochmal eine harte Nuss aus dieser großen Gemengelage rauszugreifen, nehmen wir so ein Dienst wie Telegram. Begreift sich als Messenger. Also das ist, wir sprechen von einem Dienst der Gruppen bis zu 200.000 Mitgliedern ermöglicht, die dann auch nicht untereinander diskutieren, sondern wo One Way reingekippt wird. Also die beispielsweise mit Hetze oder mit Lügen beschickt werden. Es ist also eigentlich de facto ein Publisher. Aber wir haben so viele unterschiedliche Destruktionsmodelle wie eben auch dieses, dass ich mich frage, wie kriegst du das eingefangen, wie kriegst du das unter eine Rechtsprechung, die all diese unterschiedlichen Aspekte und Funktionen einheitlich und gerecht einordnet oder auch sanktioniert. Das ist jetzt natürlich eine Frage an den Juristen, Niklas. Also ich glaube, das ist ein wichtiger Punkt, dass wir es uns erstmal klar machen und das ist glaube ich auch eine Schwäche des Netzeges, dass wir sagen, hier haben wir ein Gesetz, One Size Fits All und da fällt dann irgendwie, Facebook, Twitter fällt runter, TikTok flange nicht oder hat einfach sich nicht dran gehalten. Telegram, meiner Meinung nach auch nicht. Also das heißt diese One Size Fits All-Lösung, die sind für uns erstmal schwierig. Ich glaube auch bei Telegram, du hast gerade vom Publisher gesprochen, da wäre ich auch nicht ganz dabei, weil eben natürlich irgendwie Telegram nicht aussucht, wer jetzt was sagt und auch irgendwie keine Einwirkungsmöglichkeit auf die oder keine Strukturgebene Einwirkungsmöglichkeit hat, aber genau Content-Moderation ist ein Punkt und ich glaube, und das hat Laura gerade angesprochen, wenn wir die häufige Meldung haben oder ein häufiges Anzeigen auch in diesen Gruppen, das irgendwie wirklich krasses Straftaten gelangen werden, Volksverletzungen, Beleidigungen, was auch immer, dann verstehe ich nicht ganz, warum wir dort ein anderes rechtliches Reglement haben, als zum Beispiel im Urheberrecht, wo wir sagen, okay, haben wir ein Urheberrecht, jetzt bitte nimm sie runter, die Plattform und die Plattform dann angehalten ist es runterzunehmen, ohne jetzt direkt über Strafrecht zu reden, sondern tatsächlich die Plattform, Liability, ich glaube da kann man nachsteuern, da kann man auch sagen okay, hier sehen wir das in bestimmtes Schutz gut, nämlich den demokratischen Diskurs in Gefahr, ohne jetzt wirklich, und ich glaube, das ist dann die Kunst, es ist wirklich eine sehr, sehr heikle Angelegenheit, denn diese Gefahr des Overblockings ist einfach genauso stark und genauso gefährlich und genauso großes Problem, aber ich glaube, man sollte tatsächlich da ansetzen und auch einfach Regeln entwickeln und natürlich nicht innerhalb von einem Monat machen, das kann man auch nicht innerhalb von einem halben Jahr machen, aber ich glaube, es ist wichtig, dass dieser Diskurs anfängt und wir sagen, okay, da haben wir einen Schutzgut, das möchten wir schützen und dafür sind wir dann auch irgendwie bereit, bestimmte Blöschmechanismen zu fordern, einzufordern von diesen Plattformen Betreibern. Da du jetzt gerade das Stichwort Moderationen angesprochen hast, würde ich Philipp gerne nochmal fragen, nach dem Satz, den er uns vervollständigt hat, nämlich, wenn uns Hate Speech in den Kommentarspalten auffällt, sollten wir und du hast dann ergänzt transparent und nach Regeln moderieren und einschreiten. Was sind das für Regeln? Ich vermute mal deine Kolleginnen und Kollegen bei ZeitOnline verbringen liebe lange Tage damit zu moderieren. Was sind die Regeln? Ja, also es gibt ja aufs Internet einen der größten Leser-Communities und auch Kommentarspalten in Deutschland und es gibt hunderttausende Kommentare für jeden Monat und es gibt tatsächlich einen strengen Regelwerk, nach dem dort moderiert wird und die Kolleginnen sind, wie du gerade gesagt hast, tatsächlich rund um die Uhr damit beschäftigt, nach diesen Regeln halt zu moderieren und ich glaube, das ist halt, ich hab deshalb so geantwortet, weil ich glaube, dass es ein wichtiger Punkt ist, dass man transparent macht, was halt geht und was nicht geht und dass diese Regeln halt auch kommuniziert werden und damit dann auch am Ende eine Regel was geht nicht und wo würdet ihr sagen, Puh, das ist schon ganz schön an der Schmerzkranz, aber wir lassen das stehen. Ich glaube, das kann man so wahrscheinlich sagen. Also wie gesagt, das ist ein langes Regelwerk, das ich jetzt auch nicht dabei habe, was ich nicht vorlesen kann, aber es gibt sehr viele Kriterien, nach denen die Kolleginnen und Kollegen da arbeiten. Ich denke mal, was man, glaube ich, sagen kann, ist nicht so gruppenbezogen, der feindliche Regeln zum Beispiel oder generell wüste Beleidigung oder so etwas. Das sind halt Dinge, die in der Committee die in der Committee nicht stattfinden sollten und den Diskurs nicht stattfinden sollten. Mir ist halt so, also mein, ich denke gerade halt vor allen Dingen auch sehr stark darüber nach, also wie schaffen wir eigentlich, also die eine Frage ist halt, was machen wir im Einzelfall jedes Mal aufs Neue, wenn halt irgendjemand über die Strenge ist. Die andere Frage ist aber, finde ich, über die denke ich gerade viel nach, wie schaffen wir eigentlich Räume und Strukturen, in denen die Leute halt Anreize haben, das nicht zu tun. Also ich glaube, dass dieser zweite Ansatz, also die Frage wie kann eigentlich so eine Struktur aussehen, auch im Digitalen, deswegen finde ich auch diskutieren mit mir so ein interessantes Beispiel, wie kann Strukturen aussehen, wo die Leute halt überhaupt keine Lust mehr haben, sich so zu verhalten, weil lohnenswerte Frage ist, noch stärker zu diskutieren. Wir denken halt immer darüber nach, wie können wir verhindern, dass die Menschen so furchtbar sich verhalten im Netz. Aber die zweite Frage ist halt mindestens genauso interessant. Noch mal zum Réglement, ich weiß ja nicht, ob das öffentlich zugänglich ist, aber falls ja, wer Supervenus vielleicht nochmal nach der Diskussion an Natasha schicken könnte, dann würden wir das nochmal weiterschubsen. Ich würde das total interessieren, was, wie Profis umgehen. Ist das möglich? Ich kann das fragen, ja klar. Ja super, vielen Dank. Natasha, ich glaube es gibt noch ein paar Fragen, oder? Ja, es gibt noch eine Frage, und zwar zu den Leuten, die Hate Speech eben machen und nicht verhindern, sondern genau wie viel ist eurer Erfahrung nach authentischer Hate Speech von einzelnen, wie viel geht von verdeckten Netzwerken, wie zum Beispiel Reconquista-Germanica oder was. Weiß ich nicht, wer von euch da tiefer reingeschaut hat oder die Studienlage kennt, wie viele Individuen da unterwegs sind, oder inwiefern wir hier über den Schein Riesen sprechen. Keiner eine Ahnung, oder sich da eingelesen. Von Laura sehe ich ganz unten am Bildschirmen Zeigefinger, bitte schön. Also eine Ahnung habe ich, also ich würde jetzt nicht sagen, dass ich eine Person so bin, aber es ist tatsächlich so, dass in den Beispielen, die mir begegnet sind, schon auch zu einem ganz wesentlichen Teil für Individuen mitinvolviert sind. Das sieht man eben auch daran, dass gerade bei Facebook ganz viele Leute mit ihren persönlichen Profilen aktiv sind. Natürlich kann man so ein persönliches Profil auch erstellen, das ist jetzt mal außen vor, aber da sind zum Teil wirklich über Jahre organisch mit den Mitgliedern, die verlinkt sind. Also, wenn das nicht unglaublich gut gemacht ist, dann ist, würde ich ungefähr sagen, mindestens 50% der Profile, die mir über den Weg laufen, Profil, wo ich sagen würde, ja, das ist eine Person, die dahinter steckt und die schämt sich auch nicht dafür, auch ein spannender Punkt, weil sie eben mit ihrem Klarnamen agiert. Also ich habe Natascha's Frage oder die Frage, die sie eben reinerrechte so verstanden, als würde dahinter so die Frageabsicht stecken, dass wir einfach offenbar Menschen mit sehr viel Tagesfreizeit viel Engagement in die entsprechenden Aussagen stecken und uns es vorkommt, als wären es womöglich mehr, als es de facto sind. Ich will es aber auch nicht überinterpretieren. Hat sich Niklas oder Philipp, einer von euch mit der Frage mal beschäftigt, wie das eigentlich zu quantifizieren ist. Also ich glaube, es ist ganz schwer zu quantifizieren, weil wenn ich sagen können, das hier ist der allgemeine 5% nicht jetzt irgendwie Hate Speech davon, die CR-Arten gibt es einfach nicht. Ich glaube aber es ist auch nicht so relevant die Frage, weil wir selbst wenn es nur 0,001% sind, das ganze Online-Diskurs, dann trifft dieser dieses Phänomen marginalisierte Gruppen häufig. Häufig Positionen, die dann einfach aus dem Diskurs gedrängt werden. Und dann kann es teilweise ist es glaube ich orchestriert, auch teilweise ist es einfach dann auch irgendwie ein natürlicher Shitstorm, wo sich Leute aufregen und wer sich so ergibt. Ich glaube, das macht dann aber auch kein Unterschied für die jeweilige Person. Und das sind dann auch in diese spannenden Netzdynamiken. Also dass die das Netzwerkartig agiert wird, dass man gar nicht mehr sagen kann, hier gibt es eine Person, die sagt, jetzt mach mal, sondern dass es einfach Netzwerkartige Sprutführen gibt, in den sich dann sowas entwickelt. Und da eine sagt, der andere knüpft an und der dritte sagt im vierten ist dann auf einmal schon hellspeech und dann geht es von da aus weiter. Und die Relevanz ist dann einfach wirklich für den oder das Outkampf, für die betroffene Person ist die gleiche oder es ist gleiche. Und ich glaube, da müssen wir uns darauf interessieren, wie können wir solche Personen dann schützen, wie können wir dafür sorgen, dass solche Positionen dann einfach nicht aus dem Diskurs verdrängt werden und irgendwie dann eben sich aus dem Netz zurückziehen oder einfach nicht mehr online diskutieren. Weil ich glaube, das wird tatsächlich ein großer Erklärung für alle, die es noch nicht mit bekommen haben. Ich muss ab und zu leider füchterlich husten und mal kurz rausgehen und eine prisefrische Luft einholen. Keine Angst, ich stecke niemanden an, staatlich zertifiziert. Habt dich aber weiter gehört, Niklas, ich wollte euch nur den Anblick ersparen, wie ich hier rumschbaute. Philipp, vielleicht ist das der Moment nochmal den Bogen zurück zu dir zu schlagen. Du hast vorhin gesagt, ihr versucht, oder du denkst darüber nach oder suchst nach diese Ausfälligkeiten, einen Raum online oder analog zu schaffen, indem diese Ausfälligkeiten oder dieser Unflat, diese Anwürfe nicht stattfinden. Vorher hast du gesagt, dafür ausschlaggebend ist eigentlich, was ich noch über die Person weiß, nur diese sehr pointierte politische Bemerkung oder vielleicht noch ein paar andere Attribute. Also je besser ich je näher ich jemanden kenne, weniger entsteht diese Unwucht in der Diskussion. Hast du denn eine Idee für ein Tool, jetzt vielleicht jenseits von Deutschland spricht, dass nach diesen Regeln funktioniert, also wo es nicht nur über den Applaus und über die Lautstärke funktioniert? Also was ich damit eben meinte war halt, dass das quasi, also das Feld, auf dem ich mich gerade auskenne, weil ich jetzt in Zukunft von Deutschland spricht, sehr viel mit Debatten beschäftigt habe und mit der Frage, wie kriegen wir die eigentlich hin? Mein Punkt wäre jetzt zu sagen, lasst uns möglichst viel von dem, was wir jetzt bei Deutschland spricht und anderswo lernen, halt versuchen, irgendwie in andere Räume gerne zu packen, wie auch immer man das machen kann. Ich glaube, was wir gelernt haben, und das ist für mich der wichtigste Punkt ist, dass es halt sehr viel damit zu tun hat, wie man schonen framed, also dass man den Leuten quasi vorher sagt, warum sie das jetzt hier machen. Also, das ist übrigens auch in dieser Psychologe, von dem ich schon sprach, dieser Amerikaner, Peter Coleman, der macht das, hat so ein Debate-Lab in den USA aufgemacht, wo er so quasi Leute in ein Labor steckt und guckt, wann die Diskussion gut laufen und wann schlecht, und das sagt, einer der wichtigsten Faktoren ist framing. Also wenn man den Leuten vorher sagt, hier ist ein politischer Gegner und das Gespräch wird ganz anders ablaufen, als wenn die Leute halt mit einer gewissen Offenheit, mit einer gewissen Bereitschaft auf die Argumente anderer zu hören, irgendwie in diese Diskussion reingehen. Und es sind völlig andere Gespräche, sagt er, und das finde ich hochinteressant und ich finde daraus könnten wir halt in allen Bereichen irgendwie tatsächlich lernen. Und ich denke darüber, deshalb auch gerade nach, weil wir jetzt ja diese Corona-Demonstration in Berlin gesehen haben und wir wieder haben, wo quasi gesellschaftlich auf einem Feld, in dem wir noch gar nicht geübt sind, nämlich jetzt auf diesem Feld, dieser Pandemie plötzlich, ich würde sagen, zwei, drei, vier Gesellschaftssegmenten entstehen, die offensichtlich sich auch nicht mehr verstehen. Also mir geht es so, ich kann nicht verstehen, warum man auf diese Demonstration geht und hab das dringende Bedürfnis mit diesen Leuten mal zu reden, um deren Argumente zu hören. Und meinen Punkt ist halt ein, wie lasst uns, also lasst uns schauen, dass wir möglichst gute Debattenräume schaffen, in denen so was möglich ist, ohne dass halt Hate Speech entsteht und die Leute halt nur noch über einander herfallen und nicht mehr diskutieren können. Laura, bitte. Ich würde in der Stelle gerne einhaken wollen, weil ich einerseits total Philips Meinung bin, also gerade was Framing angeht, es ist ja auch tatsächlich aus sich der Forschung nachgewiesen, dass Framing in jeglicher Kommunikationssituation eine sehr große Rolle spielt, aber ich glaube, dass genau das auch eines der Probleme ist. Wenn man sich mal die Kommentarspalten bei Facebook, bei Twitter, wo auch immer anguckt, gerade unter Zeitungsberichten oder generell unter Medienberichten, dann ist es so, dass ein Großteil der Kommentatoren nur die Überschrift gelesen hat. Das heißt, es gibt eine Schlagzeile, unter der ein bestimmter Bericht gepostet wird und oft, wenn man in den Austausch mit den Leuten geht, dann merkt man, die wissen gar nicht, was im Text steht. Und dann bleibt bei mir die Frage hängen, ob nicht diese Überschriften, diese Artikel, ein Bedien, was wir aktuell haben und wie man da eventuell ansetzen könnte. Von daher finde ich den Gedanken sehr spannend. Glaube, dass es jetzt schon passiert, nur unter Umständen in eine falsche Richtung. So, also ihr habt es gehört, der Kuckuck Mahn zur Eile, wir haben es acht. Ich würde aber gern noch eine Sache zumindest antippen. Niklas, wir hätten jetzt von dir nur eine deiner drei Forderungen bearbeitet bisher, Plattformen regulieren, zivilgesellschaftliche Forderungen. Hast du gesagt, war noch drin? Ich würde aber gern noch kommen auf wir brauchen alternative Angebote. Da sind wir ja jetzt vielleicht auch mit dem, was du Philipp und du Laura gerade sagtest. Was ist denn das, dieses alternative Angebot europäisches Facebook oder eine andere Art Titel zu texten? Also, was ist denn das, das alternative Angebot? Es gibt nicht das eine Angebot, das dann alle Probleme in diesem Diskurs regeln wird. Man muss Philipp angesprochen neue Formate ausprobieren. Sowohl Deutschland spricht als auch Diskriminier ist ja eine one-to-one Communication. Sie haben mal ganz spannend mit neuen Formaten, wo es tatsächlich many-to-many Kommunikation, was sind da Faktoren, wie kann man das ausgestalten, da einfach auch Versuchstabore, einfach vielleicht auch einfach durch staatlich gefördert. Das kann auch sein, einfach neue Räume schaffen. Ich glaube, man wird kein europäisches Facebook aufbauen können. Ich glaube, dafür sind die Plattform-Burgiken einfach zu stark, die Log-In-Effekte zu stark. Ich glaube, der Zug ist abgefahren, da sollten wir uns auch nicht mehr irgendwie groß mit aufhalten. Aber es geht halt auch darum, wie, also auch auf Facebook könnte man jetzt die Priorisierung von Gruppen-Diskussionen oder Gruppen in dem Newsfeed ist das denn tatsächlich so eine sinnvolle Geschichte. Auch da gibt es Kritik, auch da gibt es bestimmte Probleme. Und ich glaube, es ist wichtig, dass wir wirklich nicht an die eine große Lösung denken, wie uns alle retten wird, sondern eben, Claudia hatte das Eingangs erzählt, wer ist verantwortlich, Plattform-Betreiber-Staats, die Gesellschaft, der die Einzelne alle, alle und auf unterschiedlichen Ebenen. Wir haben sozusagen zu schauen, zu experimentieren, was funktioniert, was funktioniert nicht und sozusagen zu gucken. Ich glaube, es gibt 10.000 Millionen kleine Stellschrauben, an denen wir drehen können, die dann in der Summe ganz, ganz viel bewirken. Und jetzt ist es sozusagen so, dass die gerade Plattform-Betreiber einfach sehr stark nach Markt-Burgiken ausgerichtet sind. Vielleicht kann man das punktuell einfach anders ausgestalten. Ich glaube, dann wäre schon ganz viel gewonnen. Habt ihr Ergänzung, Laura, Philipp, wie viele Räumen, die wir brauchen oder Systemen? Ich würde maximum doch ergänzen, dass ein alternativer Raum, der gestärkt werden muss, eben auch ganz klar die face-to-face-Kommunikation ist. Also einfach auch, dass wir alle uns darüber im Klaren sind, wenn wir unsere Mitmenschen darauf aufmerksam machen, dass es online teilweise Nachholbedarf gibt, dann können wir diesen Nachholbedarf unter Umständen ein bisschen nach vorne bringen. Ganz zum Schluss würde ich gerne von euch noch mal so was zusammen sammeln, oder eine Lektüre liste. Ihr habt jetzt alle schon vereinzelte Menschen und Forschung angesprochen, die euch interessiert oder Leute, die sich im weitesten Sinne mit Beratung, mit Hilfsleistung auf dem Gebiet tummeln. Aber vielleicht nennt ihr alle einfach nochmal so mit einem erklärenden Satz hinterher, die, die euch besonders wichtig sind oder wo ihr sagt, da würde sichs lohnen, mal weiterzulesen, weiter zu gucken und drüber nachzudenken. Für mich sind es ganz klar diese Organisationen, die eben auf Facebook unterwegs sind, oder generell bei Social Media wie ich bin hier, aber natürlich gibt es auch aus der Forschung, gerade Kommunikationsforschung, zahlreiche Beispiele. Da will ich jetzt aber nicht ein bestimmtes Nennen, weil ich dann ein nicht faires Gefälle auf tun würde. Ich kann aber gerne was nachreichen. Ja, das wäre super. Niklas, wer fällt dir ein? Was fällt dir ein? Genau, ich kann einfach nur nochmal wiederholen dass wir die Vernetzungstelle gegen Hate Speech wirklich eine super Arbeit leisten und tatsächlich diese, also Vernetzungsleistung machen, aber auch dieses Problem, das fällt total aufrollen und auch im Hate-Aid bin ich ein super Ansatz, der tatsächlich auf ein strukturelles Problem versucht, eine strukturelle Antwort zu geben. Auch sehr innovativ, total spannend. Also ich glaube, die beiden Akteure lohnt es sich im Blick zu haben und auch einfach als Anlaufstellen im Hinterkopf zu haben. Philipp, wer oder was fällt dir ein? Ich beschäftige mich gerade viel mit diesem Polarisierungs-Debatten-Thema und was ich wirklich mit großem Gewinn gelesen habe, ist gerade das neue Buch von Ezra Klein. Der beschreibt, das ist der Gründer von Voxen und USA, der beschreibt, wie die Amerikaner eigentlich in diese extremen Polarisierungen reingeraten sind. Das ist ein super Buch, weil man wie wirklich versteht wie so ein gesellschaftlicher Prozess sich über Jahrzehnte hinweg irgendwie entwickelt kann, wie jetzt die Amerikaner gerade da stehen. Und ich empfehle sehr, das hatte ich schon angesprochen, die Forschung von Peter Coleman zu der Frage, wie gute Debatten gelingen können, was der in New York macht, das ist wirklich sehr interessant. Ihr drei habt herzlichen Dank für eure Zeit heute Abend fürs diskutieren und die Hinweise jetzt zum Schluss und einen im Publikum herzlichen Dank ebenfalls für eure Zeit, für euer Interesse und die Fragen, vielleicht ist uns ja das Wetter holt am 30. September, also Merke im letzten Mittwoch des Monats, da steckt System hinter, vielleicht können wir uns da wieder face-to-face begegnen und ihr genießt den Abend auf der Terrasse des HEG, wir werden sehen. Auf jeden Fall empfehle ich euch, hört euch bis dahin unsere vergangenen Diskussionen an, oder seht sie euch an Mobilität, Ernährung, Sex, Kleidung, Kunst, unsere Themenpalette ist ungefähr so breit wie der digitale Wandel itself. Und da gibt es eine Menge, was sich nach wie vor lohnt, anzuhören, nutzt das aus. Habt vielen Dank euch rein, auch vielen Dank und einen schönen Abend. Bis bald. Tschüss.