 Ihr findet das ja wahrscheinlich alle völlig normal mit großen Datenmengen umzugehen. So Typen wie ich, die herkömmliche Journalisten sind, ich bin im Hauptberuf Hörfung-Journalist, die verzweifeln regelmäßig daran. Also wir haben gelernt, damals Leute zu fragen, die sich mit irgendwas auskennen. Jetzt ist Leute fragen, die sich mit großen Datenmengen auskennen, auch nicht unbedingt zielführend für uns ein. Dafür gibt es aber neuerdings einen relativ frischen Beruf, dieser Beruf nennt sich Datenjournalist. Diese Datenjournalisten sind diese Menschen, die aus aberwitzig großen Datenmengen Zusammenhänge rauspropeln. Und diese Zusammenhänge dann idealerweise auch noch so visualisieren, dass solche Noobs wie ich das dann auch verstehen und hinterher kompetent drüber reden können oder jedenfalls so aussehen können, als würden sie kompetent drüber reden. Und einer, der so Leute wie uns sehr dabei unterstützt, ist Datenjournalist, das nämlich der Michael Kreil und seinen Vortrag seht ihr jetzt. Viel Spaß. Guten Morgen. Ihr habt gut geschlafen? Ich nicht. Erstens halte ich jetzt einen Vortrag für vielen Leuten und zum anderen werde ich mich in einen mit einem Thema beschäftigen, das zu sehr hitzigen Debatten und Shitstorms geführt hat. Und da möchte ich auch nicht im Zentrum sein. Deswegen ist auch meine erste Folie der Disclaimer. Ich würde mich politisch als links einordnen. Ich distanziere mich hiermit ausdrücklich gegen jegliche Formen von Rassismus, Sexismus, Antisemitismus, Fremdfeindlichkeit, Islamfeindlichkeit und allgemein gegen jede Form von Ruben bezogener Menschlichkeit, Menschenfeindlichkeit. Und im Rahmen dieses Vortrags bin ich Wissenschaftler und Beobachter einer hitzigen Gesellschaftsdebatte und sehe mich so mit der Neutralität verpflichtet. Ich möchte die Debatte beobachten und nicht Teil von ihr sein. Es geht also nicht um meine politische Position, sondern um eine Neutratanalyse von Daten. Und dafür habe ich mal 150 Folien vorbereitet. Ich habe den Übersetzungsengeln schon Bier versprochen. Genau, dann lass uns direkt reinschmeißen. Das erste ist die Methodik. Das möchte ich gerne noch mal vorher erzählen, damit die Leute auch wissen, wie es funktioniert. Und mir ist es auch wichtig, dass es reproduzierbar ist. Es gibt eine Twitter-API, in der man Status-Tweets abfragen kann, User abfragen kann, welche Listen veröffentlicht wurden, man kann an das suchen, gucken, welche Follower sie haben und so weiter und so fort. Dann setzt man sich hin und baut sich ein Interface für die API. Wenn man sich ein bisschen Mühe gibt, packt man auch noch ein Cast dazwischen. Das heißt, wenn ich Anfrage an die Twitter-API stecke stelle und eine Anfrage kommt zweimal, dann holt er sie aus der Datenbank und so weiter. Und wenn man sich richtig Mühe gibt und vielleicht auch ein paar Tage oder Wochen investiert, dann skaliert man das in einer Art und Weise, dass man nicht ein Interface hat, sondern ganz viele. Und jedes einzelne davon steht für einen anderen Twitter-Nutzer. Die Idee ist, dass ich nicht als einzelne Nutzerabfrage, sondern ganz viele Nutzer können parallel die Twitter-API abfragen. Oder drüber gibt es so eine Art Load-Balancer, der guckt, wie die Last verteilt wird. Ziel der Aktion ist, die Twitter-API ist nämlich limitiert. Ich kann, wenn ich zum Beispiel wissen möchte, wer wie wem folgt, darf ich pro Minute durchschnittlich nur eine Anfrage stellen. Wenn aber ich von ganz vielen Leuten die Autorisierung habe, in deren Namen Anfragen zu stellen, darf ich entsprechend mehr Anfragen stellen. Das ist so eine Art demokratischer Prozess, finde ich da drin, dass die Ressourcen von Twitter aufgeteilt werden, umso mehr Leute mich bei meiner API-Anfrage unterstützen, umso mehr Anfragen darf ich machen und umso mehr Last darf ich verursachen. Das finde ich sehr sympathisch. Mein Kollege jetzt hat dann mal ein Interface aufgebaut, wo man einen Token spenden kann. Da klickt man da halt drauf und da kriegen wir sozusagen so einen langen Code, der uns dann ermöglicht, zusätzliche Anfragen an die API von Twitter zu stellen. Großes Dank geht hier nochmal an Lockbuch-Netz-Politik, insbesondere Tim und Linus und natürlich an die fast 700 Spender und Spenderinnen, die uns Token zur Verfügung gestellt haben. Das war notwendig, um große Datenmengen aus Twitter rauszuhäumen. Genau, damit kann ich dann sozusagen ... Schon bei mir zu Hause kann ich dann über Kabel Deutschland fast pro Sekunde absetzen, mal zum Vergleich. Wenn ich jetzt zum Beispiel mal die Metadaten aller 330 Millionen Twitter-Accounts abfragen möchte, braucht man etwa vier Tage dafür. Das ist dann noch machbar. Ohne die Token kann es sich um Monate oder sogar um Jahre handeln. Das mal so ein bisschen erklärt technisch, wie das im Hintergrund funktioniert. Im Prinzip auch sehr stark auf Twitter fokussiert die Analysen. Genau, erstes Thema Fake News. Fake News ist ein komplexes Thema. Ich habe jetzt mal eine Grafik übernommen von der Stiftung für neue Verantwortung. Ich finde, die haben da die besten Kategorisierung gemacht, was Fake News sind und was Fake News nicht sind. Auf der linken Seite, was nicht Fake News sind, ist schlechte Politik. Also Fake News als politischer Kampfbegriff. Zum Beispiel Trump gegen die New York Times oder sowas. Aber auch Satire sind keine Fake News schlechter Journalismus. Clickbaiting oder auch Zeitungsenden sollen eigentlich nicht zu Fake News gezählt werden. Fake News seien oder sind gezielte Desinformationen, falsch verstandene Inhalte und manipulierte Inhalte. Also oft sieht man, dass zum Beispiel Bilder beschnitten sind oder retuschiert sind usw. Oder völlig frei erfundene Inhalte. Ich habe leider nur eine Stunde Zeit. Deswegen kann ich mich jetzt nicht mit mehreren Fake News-Wellen auseinandersetzen. Deswegen habe ich eine herausgenommen, was ich mir voll fand. Und zwar die Fake News über eine Reisewarnung nach Schweden, das Auswärtigen Amtes. Hier ist ein Tweet von der AfD Magdeburg, die sagt, das Auswärtige Amt erhöhte Terrorwarnstufe für Schweden. Das hat natürlich nichts mit irgendwas zu tun. Hashtag AfD wählen. Direkt danach, einige Stunden oder Tage später, kam ein Tweet des Auswärtigen Amtes, die dann die Gegendarstellung veröffentlicht haben. Die Reisewarnung für Schweden, Hashtag Fake News. Fast 2000 Tweets wurden zu diesem Thema veröffentlicht. Und die kann ich jetzt nun mit diesem Twitter Framework runterladen, analysieren und mir ein paar Visualisierungen dazu ausdenken. Ich habe mal die eine gemacht. Das ist jetzt ein Zeitstrahl. Auf der X-Achse sieht man die Zeit. Hier geht es vom 2. März bis zum 0 Uhr, bis zum 9. März 0 Uhr. Oben die roten, das sind die Fake News-Verbreiter, unten die Gegendarstellung verbreiten. Auf dem Zeitstrahl sind viel zu klein. Das kann man drauf nicht sehen. Der Zeitpunkt, wann ein Tweet veröffentlicht wurde. Und wenn er retweeted wurde, kriegt er sozusagen einen Bogen zu dem Zeitpunkt, wohin er retweeted wurde. Das hat den Vorteil, dass ich nicht nur sehe, wie viele Tweets veröffentlicht wurden, sondern auch sehen kann, welchen Impact dieser Tweet hat. Wenn er also zum Beispiel veröffentlicht wird und keiner geht damit um, dann ist es nur ein Punkt. Aber wenn es viele Leute retweeten, dann ist es nur ein Punkt. In den ersten Tweet, den ich finden konnte, zu der Fake News, dass es eine Reisewarnung nach Schweden gibt, war es bereits im 28. September veröffentlicht worden, wurde aber nicht beachtet, keine Fafs, keine retweets, obwohl der Account aktuell 481 Follower hat. Im Februar gab es dann nochmal ein Tweet dazu. Der Account hat jetzt aber nur einen Follower, und der Tweet hat keine Retweets. Das heißt, die Themen kamen schon mal vorher hoch, aber sie wurden nicht weitergetragen. Noch ein Beispiel aus dem 1. März 2017. Jetzt gehen wir nochmal rüber zu unserem Zeitstrahl. Da gibt es dann den ersten, der dazu was twittert, ein Screenshot von einem Bord der Reisewarnungen veröffentlicht. Der tweet hat immerhin 6 Retweets und 6 Fafs erreicht und hat damit den ersten kleinen Impact. Dann steigert es sich immer mehr. Dann gibt es die Reisewarnung für Schweden mit 29 Retweets. Der nächste tweet kann ich leider nicht mehr anzeigen, weil der Account inzwischen gesperrt wurde. Das ist auch ein Phänomen, das man immer wieder sieht, dass in diesem Bereich Accounts gesperrt werden von Twitter. Trump hatte recht, aber es gibt Reisewarnung für Schweden heraus. Und verweist auf einem Artikel von zuerst.de. 44 Retweets. Und es steigert sich immer mehr. Da ist noch nicht alles ruhig in Schweden. Holger Ewald. Islam Terror. Dann zum Schluss die AfD Magdeburg, die dann aufspringt und die erste AfD-Hashtag dransetzt. Multikulturell scheint es nicht so richtig zu laufen in Schweden. Man sieht, dass es eine Steigerung gibt von fängt an mit Reisehinweisen und endet mit Islam Terror. Ich springe jetzt mal ganz weit nach vorne zu den Antworten, die jenigen, die dann die Gegendarstellung veröffentlichen. Der Startschuss war das Auswärtige Amt, die in einem, die dann erklären, dass es hier um Fake News handelt und relativ schnell springen dann halt auch die Medien mit auf, die das sozusagen weiter verbreiten. Und zum Schluss sieht man den gesamten Zeitstrahlen noch mal. Und das Interessante ist dabei, dass das Thema gar nicht sozusagen, dass eine Fake News veröffentlicht wird und dann schlägt die total ein und alle sind total empört, sondern man stottert sich so z.B. in die Fake News rein. Also es fängt klein an und es wird weiter überspitzt. Und man hat eher den Eindruck, als ob da rumexperimentiert wird, bis das Netzwerk eine Resonanz hervorruft. Ich würde persönlich behaupten, Fake News sind eigentlich Meme, die sich im Internet verbreiten. Oft haben sie keine singuläre Quelle, sondern sie bilden sich erst im Netzwerk. Oder anders formuliert, das Kernphenomen an Fake News ist nicht deren Existenz, sondern dass sie sie so gut verbreiten können. Also das Problem ist nicht die Quelle, sondern dass sie eine so große Resonanz im Netzwerk findet. Würde man also Fake News Quellen verbieten, würden sie trotzdem weiterhin entstehen im Netzwerk. Und das ist halt wichtig, da Fake News als Meme eine große Reichweite haben, kann man aus ihnen Kapital schlagen. Politisches oder monetäres Kapital. Und da möchte ich mal aus dem amerikanischen Raum, z.B. Breitband News und Trump erwähnen, die monetäres Kapital oder politisches Kapital daraus schlagen. Aber zurück zu Ihnen Reisewarnung. Man kann sie nicht nur im zeitlichen Verlauf sich anschauen, sondern man kann tiefer einsteigen. Man kann halt gucken, welche Accounts haben den Netz, die Gegendarstellung und die Fake News verbreitet und kann gucken, wie die sich gegenseitig folgen. Und daraus baut man dann so ein Netzwerk. Die blauen sind die Gegendarstellungsverbreiter und die roten sind die Fake News Verbreiter. Und die verbreiten, umso näher sie grafisch dargestellt werden, umso folgen die sich. Also sozusagen alle Kugeln stoßen sich ab und die, die sich folgen, ziehen sich an. Und daraus kann man halt solche komplexen Netzwerke grafisch darstellen. Das Interessante ist, dass die Fake News Verbreiter sich in einer Gruppe fast außerhalb befinden und eigentlich nur noch über die Massenmedien verbunden sind mit der Gesellschaft. Man sieht natürlich auch noch Tendenzen, dass viele Fake News Verbreiter dann mit Lügenpresse und so weiter versuchen, sich weiter von diesen, von den Medien zu distanzieren. Aber tatsächlich sind das zwei verschiedene Gruppen, die man hier sehen kann. Und das erste Mal, als ich das Bild gesehen habe, habe ich gedacht, oh, das ist eine Filterblase oder eine Echo-Kammer oder sowas. Das Schöne ist, weil wir mit Twitter-APIs tiefer in die Daten reingucken können, können wir von jedem ein die Timeline rekonstruieren. Also ich habe jetzt mal so schematisch dargestellt, die Gegendarsteller und die Fake News Verbreiter. Und man sieht, dass von den Fake News Verbreitern 89 Prozent die Gegendarstellung mitbekommen haben, aber sie nicht weiter teilen. Und nur 45 Prozent derjenigen, die die Gegendarstellung verbreitet haben, die tatsächlich ursprüngliche Fake News eigentlich mitbekommen. Das Ergebnis daraus ist, es gibt eine Filterblase. Und zwar bekommen wir die Fake News nicht mit. Was ist jetzt eigentlich tatsächlich dieser Impact dieser Gruppe? Und dann habe ich ganz, ganz schweres Geschütz aufgefahren und habe 1,6 Millionen Twitter-Accounts, die angeschrieben haben, dass sie Deutsch sprechen, extrahiert, geguckt, wie die sich gegenseitig folgen. Also ähnlich wie diese Filterblasengrafik. Gerade sieht man hier jetzt das gesamte deutschsprachige Twitter-Netzwerk. Eingefärbt nach Herkunftsland. An sie unten haben wir die Schweiz und da haben wir Österreich. Wenn man ein bisschen klickt, sieht man, wer sich da befindet. Und das Schöne ist, man kann diese, das ist ein Tool, was ich gebastelt habe, man kann das unterschiedlich einfärben. Hier kann man zum Beispiel mal das Alter des Accounts einfärben. Rot sind die Alten, grün sind die erneueren Accounts. Hier oben sind die Jugendlichen. Da ist viel Justin Bieber und YouTube und Let's Play dabei. Hier haben wir eine Blase sich mit Porn beschäftigt. Nicht draufklicken. Hier haben wir eine Gruppe, die sich mit Marketing beschäftigt. So würde ich das mal umschreiben. Größtenteils SEO und keine Ahnung was. Und das sind die Leute, die sich eigentlich mit Politik und Medien beschäftigen und vielleicht auch die, die jetzt hier im Raum auf Twitter sind, wahrscheinlich am meisten mitbekommen. Man kann aber diese, diese Grafik auch anders einfärben. Und zwar kann ich mal einfärben, welche Bundestagsabgeordneten oder Kandidaten von Parteien, wo sich in diesem Netzwerk befinden und entsprechend einfärben. Und man sieht zum Beispiel gelb, FDP, schwarz, rot, grün, blau, rot, grün, befinden sich alle so in einer verteilten Gruppe. Und es gibt eine sehr enge Gruppe aus Leuten, die Mitglieder der AfD sind und auf Twitter aktiv sind. Ich vergrößere das mal so ein bisschen. Das verändere ich mir diese Färbung. Und zwar als erstes die Fake-News-Verbreiter. Der Witz ist, dass es nicht die AfD-Abgeordneten selber sind, die das Fake-News verbreiten. Aber sie befinden sich in einer gleichen Gruppe darin. Man kann auch einfärben nach Alter. Man sieht, dass die Accounts dieser Gruppe eher jung sind, also relativ frisch auf Twitter. Sie haben eine sehr hohe Aktivität. Rot heißt, viele Tweets pro Tag veröffentlicht werden. Und man kann von dieser Gruppe auch schauen, welche typischen Begriffe sie verwenden, um zu vergleichen mit, was das restliche Twitter-Netzwerkbegriffe verwendet. Und die Begriffe, die am häufigsten in dieser Gruppe verwendet werden im Vergleich zu anderen Twitter-Accounts sind Islam, Deutschland, Migranten, Merkel, Maas, Politik, Freiheitskampf, Flüchtlinge, SPD, Netzdurchsetzungsgesetz, NPD, Antifa, Zensur, Pegida, Syrer, Asylbewerber. Man sieht relativ klar, dass diese Gruppe auch eher monothematisch unterwegs ist. Also, was ist das für eine Gruppe? Und ich sehe, wir müssen uns beilen. Sie sind relativ neu auf Twitter. Sie stehen da auf Dena. Sie teilen oft Fake News. Sie sind auf Twitter sehr aktiv. Und sie befassen sich fast monothematisch mit Migrations- und Asylpolitik. Und ich komme auf diese Gruppe wieder zurück, die erste Theorie, die man jetzt reinwerfen würde, das sind Social Bots. Und da es in diesem Vortrag auch darum geht, ist der nächste Block sich mal das Thema Social Bots genauer anzuschauen. So Social Bots wurde in der Menge veröffentlicht, auch in den Medien, warum Meinungsroboter die Gefahr für die Demokratie werden, digitale Dreckschleudern, Angriff der Meinungsroboter. Jeder hat da irgendwie seine Meinung und seine Gefahr davor gebracht. Was sind eigentlich Social Bots? Es gibt aus dem Büro für Technikfolgeabschätzung beim Deutschen Bundestags einen Absatz, den ich mal rausgegriffen habe, Social Bots, die Computerprogramme, die uns irgendwie in den sozialen Medien manipulieren können. Echte Menschen, die mit dem Social Bot kommunizieren, nehmen diese nicht als durch Algorithmen ausgelöste automatische Kommunikation, die das Thema war und sind sich der Malipulation nicht bewusst. Konkret, was diese Social Bots angeblich machen sollen können, sind, sie können im Turing-Test bestehen. Das heißt, normaler, der Idee eines Turing-Tests ist, ich interagiere mit etwas und kann hinterher sagen, ob es ein Mensch oder ein Computer ist und diese Social Bots sollen jetzt magischerweise diesen Turing-Test bestehen können. Und können nicht nur so tun, als wären sie ein Mensch, sondern sie können angeblich sogar noch unsere Meinung beeinflussen. Naja, zumindest hat der Bundestag veröffentlicht, Wirkung von Social Bots ist unter Sachverständigen strittig. Ich habe mal extra das vorgespult, wo Linus Neumann zu sehen ist. Aber da ich hier so ein Framework-Kabel kann ich jetzt ja auch selber mal reinschauen, was sind denn diese Social Bots? Und da kommt man schnell in so ein Toffelskreis. Wenn ich Social Bots auf Twitter finden möchte, dann muss ich sie erst mal suchen und dazu muss ich erst mal wissen, wie sie denn eigentlich aussehen. Und um zu wissen, wie sie aussehen, muss ich sie erst mal analysieren können und dazu brauche ich erst mal welche. Also zu sagen, okay, da gibt es irgendwelche, das bringt nichts. Ich muss entweder eine Gruppe haben, um sie analysieren zu können, damit ich sie einschaffen rauskriegen kann oder andersrum. Und diesen Toffelskreis durchbrechen, gibt unterschiedliche Möglichkeiten. Ich habe mich mal für den folgenden Weg entschlossen. Ich kaufe jetzt einfach mal Social Bots. Kleine Anmerkungen. Moment, Moment. Ich habe mich in dem engeren Sinne, sondern ich habe mir einfach 4.500 Bots gekauft. Ob die jetzt tatsächlich dann auch mit den Leuten sozial interagieren und so weiter, weiß ich ja nicht. Aber im Kern habe ich mir einen Twitter-Account Software Team Berlin geholt, habe keinem gesagt, damit ich also weiß, dass kein realer Mensch diesen Account folgt und habe dann auf Google gesucht bei Twitter Bots. Genau. Und dann gibt es dann 4.500 Follower und davon sind 100% Bots. Das ist nur, um zu gucken, welche Technologien werden dann eingesetzt, welche Bots sind und so weiter. Und zu gucken, sich dann bestimmte Eigenschaften, die ich bei Menschen nicht sehe. Also sozusagen eher eine Trockenübung. Also wieder das große Twitter-Framewerk draufgeworfen und die Metadaten analysiert. Und raus kommen folgende Grafik. Jeder einzelne Punkt ist eines dieser eingekauften Follower. 4.500 Punkte und ich weiß 100% Bots dabei. Und ich versuche die nun zu sortieren nach ihren Eigenschaften. Alles, was eher wie ein Bot aussieht, ist auf der linken Seite. Und alles, was eher wie ein Mensch aussieht, auf der rechten Seite. Ich kann jetzt auf die einzelnen draufklicken. Ich klick jetzt mal auf den ganz linken unteren drauf. Dann habe ich einen ASUS D5B23 und habe unterschiedliche Eigenschaften, die ich vor ihm überprüft habe, wie zum Beispiel, ob er immer noch ein Eck ist, also ob er noch gar kein Avatar-Bild hochgeladen hat, ob er weniger als den Follower hat, wie viel Fafs er hat abgesetzt hat, ob er noch gar keine Beschreibungstext für sich angegeben hat und ob er keine Zeitzone angegeben hat. Also die ganzen Metadaten, die man halt aus Twitter rausbekommt, zu analysieren und zu gucken, ob die sich denn irgendwie strukturieren und gruppieren. Und man sieht auch, ganz links, das sind so ein bisschen die sehr dummen Bots, sind jung und teilweise tun sie auch gar nichts, sondern folgende Leute, dann gibt es so einen großen und breiten Bereich, teilweise sehr realistische Bots dabei, teilweise sind das sogar reale Accounts, die verweist sind, also die seit drei Jahren inaktiv sind und aus irgendeiner Art und Weise aus irgendeinem Grund übernommen wurde. Wahrscheinlich hat sich da einer mal mit Passwort durchprobieren, massenhaft versucht, verweiste Accounts zu übernehmen. Und die dritte, das fand ich mir sehr interessant, das sind Accounts, die teilweise sogar verifizierte Menschen sind. Also ich habe hier zum Beispiel Peggy, die ist Moderatorin aus den Staaten irgendwo, Jeff Zausch ist ein Survival-Spezialist und Chris Glorioso, das sind reale Personen, die mir gefolgt sind, weil ich dafür bezahlt habe, als Bots. Und das fand ich sehr merkwürdig, ich habe versucht mit den Leuten Kontakt aufzunehmen, nicht alle haben mir geantwortet, der Grund dafür ist, dass ihr Account gehi-jackt wurde und sie haben dann eigentlich nur noch DMs von irgendwelchen fremden Accounts bekommen, wir haben auf DMs dann auch gar nicht mehr so richtig reagiert. Ich weiß nicht, ob das im Wege, das passiert ist, ob sie sich dort irgendwie einen Twitter-Service eingetreten haben, der in ihrem Namen postet. Ich weiß es nicht. Laut eigenen Aussagen ging es dann aber weniger um politische Inhalte, sondern Zitat, es war eher Sexscheiße, die dann in ihren Twitter-Timelines veröffentlicht wurde. Was ich aber spannend finde, ist, wenn man so eine CDU-Forderung, Kennzeichnung von Social Bots, was ist denn, wenn der eigene Account übernommen wurde? Ich weiß nicht, ob er das nicht will oder nicht. Eine Fragestellung, die ich dann auch nochmal kurz für den Vortrag hatte, weil die Daten jetzt elf Monate alt sind, welche Accounts gibt es denn heute noch? Und man sieht, grünen die Accounts gibt es heute noch, elf gelb sind die Accounts, die inzwischen Zeit von Twitter gesperrt wurden und rot die Accounts, die von sich aus sich gelöscht haben. Man sieht zumindest, dass da Bewegung von Seiten Twitter passiert. Was man jetzt an diesen Bots auch noch analysieren kann, ist die Follower-Netzwerke, wie die sich an so gegenseitig folgen. Da habe ich mal folgende Grafik gemacht. Das sind also die 4.500 Bots und wem sie folgen und von wem sie gefolgt werden. Rot sind die Bots, 4.500 und blau sind die andere Nutzer, andere Accounts oder so weiter. Kann man auch mal ein bisschen reinzoomen hier. Sieht auch ganz hübsch aus. Fast wie fliegende Spaghetti-Monster, fand ich. Die Blauen, das scheinen mir Jugendliche zu sein, die sich einfach Twitter-Bots oder Follower gekauft haben. Was eigentlich ganz interessant ist, dass ich dann damit eigentlich die Kunden, die an denen misieren kann, wobei man vorsichtig sein muss. Jemanden 10.000 Bots oder Follower künstlich anzuhängen, ist halt relativ einfach zu machen und ist auch gar nicht so teuer. 20.000 Bots gibt es so für 60 Dollar. Wie könnte man Bots noch erkennen? Da gibt es halt so eine Tweet-App-Analyse. Ich weiß nicht, ob ihr euch noch erinnern könnt. Vor einigen Jahren stand unter jedem Tweet noch drunter, mit welcher App man diesen Tweet veröffentlicht hat. Das steht leider jetzt nicht mehr drunter, aber die Daten sind noch in der API drin. So sieht übrigens so eine API-Antwort von Twitter aus. Und da steht unter anderem auf Source drin. Das heißt, mit welchem Service man das veröffentlicht hat. Kann ich mir über die Bots rüber laufen lassen. Twitter für iPhone, Android, Webclient, aber auch Facebook, die automatisch dann den Post als Tweet veröffentlichen und Instagram. Interessant fand ich halt 350 weitere Services. So sehen die aus. Genau, also es ist ein Riesen, dort Püree, Koreanisch, Japanisch, alles dabei. Das war mir auch gar nicht so richtig klar vorher, dass es eigentlich ein riesiges enormes Ökosystem gibt von Skripten, die auf Twitter Sachen veröffentlichen. Und wie gesagt, in meiner Probe sind es allein 350. Um den Leuten auch zu zeigen, was das denn jetzt eigentlich für Services sind, die dahinter stecken, habe ich mal so ein paar rausgegriffen. Hier ist zum Beispiel Feedblitz. Das ist eigentlich ein Bot, der nichts weiter macht, als ein RSS-Feed in Twitter zu posten. Dann haben wir Tweetbot.net. Das ist irgendwie was selber gebastelt ist. Der Twittert aber irgendwie nur Käse. Das hat sich wahrscheinlich einer mal mit ein bisschen rum experimentiert. Es gibt aber auch den Kim Kardashian Hollywood-Service, der dir dann wahrscheinlich die neuen Spielstände veröffentlicht. Sand fand ich auch, es gab neun gelöschte Services, die dann umbenannt wurden in den Rays und den langen Nummer. Ich würde mich mal interessieren, ob die Nummer fortlaufend ist, denn sie ändert mit 5,6 Millionen. Sind das jetzt 5,6 Millionen gelöschte Services? Oder sind insgesamt bei Twitter schon 5,6 Millionen angemeldet worden? Ich weiß es nicht. Aber wir können sagen, dass auf Twitter nicht mehr nur Menschen unterwegs sind, sondern auch Services, die wir nutzen. Bot sind auch nicht nur böse. Ich habe mal ein paar rausgegriffen. Ich weiß nicht, ob jemand die Rathaus-Uhr Neukölln kennt. Ist der Entwickler da? Nein, der das Rathaus-Uhrwerk Neukölln als Service benutzt. Der veröffentlicht sowas wie 8. Bam, bam, bam, bam, bam, bam, bam, bam. Vor kurzem bin ich übrigens auf den Wixar-Bot gestoßen. Wenn man ein Tweet veröffentlicht, wo das Wort Wixar drinnen vorkommt, dann retweetet er ein. Spiegel online Top benutzt den Service If This Then That. 100%, also nicht der normalen Spiegel online, sondern der Spiegel online Top. Und Zeit Online Digital hat auch sich ein Service gebaut. Ich weiß nicht, ob er eingekauft ist oder selber entwickelt ist, aber der ist an- oder registriert als Zeit Online. Zusammenfassend, woran könnte man jetzt nur einen Bots erkennen? Es ist profilvollständig. Es ist ein Avatar-Bild und ein Beschreibungstext dran. Ist da kaum ein Teil eines Netzwerkes. Von welcher App werden die Tweets abgeschickt? Und wie sehen die anderen Metadaten des Accounts aus? Also der Tweets. Interessant sind das aber alles nur Indizienbeweise. Wenn man anfängt, sich tatsächlich mal hinzusetzen und zu gucken, ist nun ein Account ein Bot oder nicht, komme relativ schnell ins Grübeln. Jekliche Bot-Erscheinungen könnte auch gut menschlich erklärt sein und andersherum. Man kann aber auch rangehen, dass man jedes menschliche Verhalten in die Sphäre, das könnte natürlich auch ein hochintelligente KI sein. Auf jeden Fall mit diesem Kenntnisstand sage ich, lass uns jetzt mal Bots finden. Ich habe lange, lange gesucht und ich kürze es mal ab. Ich habe gefunden inaktive Accounts, Service Accounts, Trolle, welche Teenager, Rassisten und Hater und Spam mit links zu YouTube-Pointen und Bitcoin-Shit usw. Aber was ich nicht gefunden habe, ist diese politisch-aktiven Social-Bot-Netzwerke. Dafür gibt es nur zwei Erklärungen. Also entweder die gibt es nicht oder ich bin zu doof. Also fragen wir mal die Profis. Wie machen die das denn? Und einer davon ist zum Beispiel Prof. Dr. Simon Hegelich. Forschungsfeld, Political Data Science, Forschungsmethode, Machine Learning plus X. Ist das ein Felddienst, die mit plus X ist Alkohol? Nein, ich weiß nicht. Der veröffentlichte Studien zum Beispiel für die Konrad-Adenauer-Stiftung mit dem Titel Inversion der Meinungsroboter. Leider wird in dieser Studie die Methodik nicht beschrieben. Hegelich hat selber damals mit Prof. Dietmar Janesco eine Studie veröffentlicht, wo sie tatsächlich ein Bot-Netzwerk gefunden haben in der Ukraine. Was sie dabei identifizieren konnten, ist, dass diese Accounts unter einem Service-Twiefarmen pro russische Meldung veröffentlicht haben. Insgesamt 1.740 Bots haben sie darunter gefunden. Und genau, das ist auf jeden Fall, das kann man, glaube ich, sagen, ein Bot-Netzwerk, was dort in der Ukraine gefunden wurde. Aber wie sieht das eigentlich mit der deutschen Debatte aus? Vielleicht habe ich es auch nicht gefunden, aber ich habe zumindest keine Studie von Prof. Hegelich dazu gefunden mit einer nachprüfbaren Methodik. Was ich aber gefunden habe, ist ein ZDF-Bericht, ZDF Zoom, alles nur Lüge, wie im Netz getäuscht wird. Prof. Simon Hegelich hatte hier die Aufgabe aus Gigabyte-Andaten Social Bots zu suchen. Und er hatte einen möglichen Kandidaten gefunden, und zwar Egon Drombovsky. Der 136 Posts am Tag veröffentlicht mit ganz klarer Tendenz zu Pegida und AfD. Und nun ist natürlich spannend, ist das vielleicht ein gesteuerter Bot? Oder handelt es sich dabei um einen realen Menschen? Und die Redaktion hat ihn einfach mal angeschrieben. Und der potenzielle Social Bot heißt Egon Drombovsky. Er ist 50 Jahre alt, berufsunfähig, Rentner, lebt in Erfurt und war in einem Gemeinderat für die SPD. Und jetzt ist er auf Facebook sehr aktiv, Medienbezeichnet er als Propagandapresse. Und er macht Werbung für die AfD und wird laut eigener Aussage nicht von der AfD oder anderen bezahlt. Er macht das aus eigener Überzeugung. Gut, also der Versuch, die einen Social Bot zu finden, ist bis glückt, wir haben leider nur eine reale Person gefunden. Aber es gibt dann auch andere, die sich damit beschäftigen, beispielsweise botswatch.de, die versuchen parallel zu wichtigen Events in Deutschland zu gucken, wieviel sich auf Twitter nun Social Bots einmischen, veröffentlichen auch das Bot Barometer und so weiter. Und dann gibt es auch einen Link zur Methode, wie sie das machen, und da steht dann drin, Accounts, die durchschnittlich gleich oder mehr als 50 Tweets abgesetzt haben. Hingeseach, naja, Dom Brodski schafft 136 Posts am Tag. Ich hatte, weil wir die Bundestagswahl auch beobachtet haben, mal eine lange Liste von Accounts zusammengestellt, die irgendwie beim Thema Bundestagswahlen mitmischten, und ich habe die auch mal durchgegangen, an welchen Tagen haben die mehr als 50 Tweets abgesetzt. Und diesmal so ein bisschen Zusammenfassung, da haben wir sogar eine CDU, CSU, FDP haben das geschafft, genau. Also 50 Tweets am Tag und schon ist mal ein Social Bot. Mit drunter sind Medien, wie Welt, die schaffen 190 am Tag, Fokus Online 97 am Tag, auch Christopher Lauer 72, Anja Schilderneck von den Bündnis 90 im Grünen, im Berliner Abgeordnetenhaus, schafft fast die Grenze mit 50 Tweets am Tag. Und natürlich auch die Parteien von den Bundestagswahlen, die dann natürlich in den sozialen Netzwerken besonders aktiv sind, schaffen mehr als 50. Und dann noch hipster Aktivisten, AfD-Anhänger, also 50 Tweets am Tag als Kriterium für Social Bots ist wissenschaftlich unseriös. Da frage ich mich natürlich, wie kommen die da drauf? Und davor steht es auch, das sei das Social Bot-Kriterium der Oxford-Universität. Das wäre natürlich spannend. Und habe dann angefangen, die ganzen Studien und wissenschaftlichen Paper dazu durchgelesen, wie deren Methode ist. Und ich habe nur 2 rausgegriffen, weil es wirklich eine Menge ist. Die besonders das deutlich machen. Social Bots bei den US-Wahlen. Das ist ein ein Paper, was veröffentlicht wurde mit dem Titel Bots and Automation over Twitter during US-Election. Und ich spule mal vor, an welcher Stelle sie das definieren. Da muss ich mal kurz sagen, Sie fangen halt an von Social Bots zu reden. Dann heißt es dann irgendwann Social Bot like. Und dann steht dann so was wie Heavy Automated Bots. Und dann steht dann zum Schluss Wie define a high level of Automation as accounts that pose at least 15 times a day using one of the selection-related hashtags. Das heißt also, wäre mehr als 50 Mal am Tag ein bestimmtes Hashtag veröffentlicht wurde als Social Bot. Kategorisiert die Hashtags sind die hier. Der erste Block sind die pro Trump Hashtags. Zweite Block die pro Clinton Hashtags. Und der dritte Block sind Hashtags, die sind generell um die amerikanische Wahl beschäftigen. Aber zu dieser Definition von Social Bots habe ich mal ein paar Fragen. Also erstens, warum sind das 50 und nicht 30 oder 100 Tweets am Tag? Und gilt das denn für alle Länder? Also kann man jetzt dieses Kriterium aus Amerika 1 zu 1 übernehmen für Deutschland? Und was für Accounts sind denn das eigentlich? Ich meine, wenn ich die identifizieren kann, dann kann ich die ja auch mal genauer anschauen. Wie viele Follower haben die? Wie viele Fafs und Tweets haben sie? Vielleicht veröffentlichen sie ja wahnsinnig viele Tweets, aber keiner liest es. Und über welche Services posten sie? Das hatte ich vorhin gezeigt, dass man das nachschauen kann. Und klar kann ich verstehen, dass es halt eine Menge Accounts sind, aber es gibt eine wissenschaftlich statistisch saubere Methode. Man nimmt einfach eine Stichprobe, man wählt einfach mal zufällig 100 aus und guckt sich halt an, was das für Accounts sind und zu gucken, ob sie tatsächlich einen politischen Einfluss haben. Dazu gibt es aber in dieser Studie keine Antwort. Leider kann ich das auch nicht überprüfen, weil die Universität Oxford die Daten dazu nicht veröffentlicht hat. Das liegt teilweise an der Developer-API oder den Guidelines von Twitter. Das liegt aber auch daran, oder da gibt es einen Ausweg daraus. Und zwar kann man nämlich die Liste der Twitter-IDs veröffentlichen, das darf man nämlich und kann sich dann, sozusagen, nachträglich den Tweet nochmal holen und genauer analysieren. Das ist George Washington Universität einer Veröffentlichung 2016 in United States presidential election Tweet-IDs. Da gibt es unter anderem auch eine Liste von Tweets, die den Hashtag Election Day verwendet haben. Das heißt, ich habe jetzt leider nicht die gleiche Datenbasis wie die Universität Oxford. Ich kann aber mir einen kleinen Ausschnitt rausnehmen und zwar mir nur angucken, wer hat am Wahltag mehr als 100-mal eines von diesen Hashtags verwendet plus den Hashtag Election Day. Und diejenigen, die sogar mehr als 100-mal am Wahltag getwittert haben, sind diese 12. Das sind sozusagen die, laut Social-Bots-Kriterien, die am deutlichsten als Social-Bots sich definieren. Und wenn ihr jetzt mal wissen wollt, wer denn jetzt diese Social-Bots wirklich sind, nehmen wir uns mal Zeit und gucken uns jeden einzelnen von diesen 12 an. Das erste ist ein Dream of Dust, der 437 Tweets am Wahltag veröffentlicht hat mit diesen erwähnten Hashtags. Und was er macht, er twittert links zum reddit.com slash r slash theDonald zu diesen einzelnen Kommentaren und er benutzt dabei für if this then that und bot ein klares Ja auf jeden Fall. Was er aber dabei tut, ist bereits veröffentlichte Kommentare im Reddit-Forum einfach nochmal in diesem Account zu spiegeln aus dem Fenster, wenn ich sage, Einfluss kaum. Also völlig kommentarlos, wie gesagt, spiegelt er einfach nur reddit-Kommentare. Der nächste Account, ITX News, twittert Screenshots von Texten völlig abgedrehter Verschwörungsquark. Also da sind Sachen dabei, die Queen wohnen von Hindus vergiftet und also völlig völlig abgedreht und er benutzt für seine Screenshots, die er dann veröffentlicht, immer die aktuellen Verstecks. Er hat vier Follower und er ist ganz klar kein Bot. Der nächste Account er ist Schwamm-Supporter weil er Clinton furchtbar findet er nutzt intensiv Hashtags lebt auf Hawaii, schläft sechs Stunden, macht Mittagspause das sieht man an den Zeiten, weil er twittert und er ist auf jeden Fall kein Bot. Der nächste offensichtlich liebt der Bernie Sanders Hasht Donald Trump die Demokraten, weil sie nämlich Hillary Clinton aufgestellt haben statt Bernie Sanders Bill und Chelsea Clinton und der Hasht Expedia, weil Chelsea Clinton jetzt im Bot sitzt. Aber ein Bot ist er nicht. Der nächste, der sieht mir doch sehr fischig aus ich vermute mal, dass es eine spanischsprachige Click-Farm ist die versucht User auf Werbeseiten zu locken die machen dann Werbungen für was weiß ich, irgendwelche Apps überhaupt gar keine politischen Inhalte denn sie nutzen einfach nur Training Hashtags um sich in politischen Diskussionen dann nochmal ihre Links zu veröffentlichen, haben ein Follower ob es ein Bot ist oder nicht ich sag mal vermutlich nicht da sind halt Tippfehler drin das wäre jetzt ein schlechter programmierter Bot ich könnte gerne als Bot definieren aber Impact hat da keinen jetzt wird es ein bisschen spannender Abe Hurley ist eine Oma aus Brooklyn die ist Künstlerin, malt Bilder, macht Schmuck verkauft sie in einem Shop und hat vor kurzem mit ihm rauchen aufgehört an dem Wahltag hat sie wie wild für Trump getwittert und hat ihn unterstützt und hat versucht Leute zu überzeugen aber ein Bot ist ja auch nicht dann habe ich hier noch den hier der ist aus Tokyo, ich vermute es ist ein Student der twittert auf japanisch und ab dem Moment war ich ein bisschen lost möchte aber ich vermute dass er Toru Hashimoto und Kasumu Ieri hast das eine ist ein Politiker das andere ist ein Internet-Interpreter und der hat an dem Wahlabend auf einen Tweet zu Kasuma gefeuert, muss man sagen und hat einfach die aktuellen Training Hashtags genommen oder war natürlich auch die Election dabei aber ein Bot ist es nicht der nächste, Paolo Paolo kann 13 Tweets in 3 Sekunden schicken er nutzt dafür 3 unbekannte italienische Twitter-Services ist mich kleiner, davon ist auch in der Zwischenzeit gesperrt pro Hillary Tweets werden so gut wie gar nicht gefaft und retweetet, ein Bot ist er auf jeden Fall aber einen Einfluss hat er glaube ich zumindest keinen dann haben wir noch den hier er liebt Jesus, die Familie Trump, Wikileaks, Fox News und Waffen, Hashtabtreibung Feminismus, Hillary Clinton CNN und Obamacare aber ein Bot ist es nicht dann haben wir noch President Trump der ist ein Satire Account teilweise witzig, hat trotzdem nur einen Follower aber ein Bot ist es auch nicht dann haben wir noch Marike sie ist Journalistin aus Südafrika arbeitet für die französische Pressagentur AFP und hat über Election Day Live getwittert an dem Abend und sie ist auch kein Bot ein Don Dr. van Nostrom ich habe leider kein Bild von ihm gefunden aber Elite Baseball, American Football Fox News und Trump ja, Hashtabtreibung und Bill Clinton CNN, Islam, Feministen und Linke und er verfolgte Trumps Sieg Live auf die wie hat sozusagen den Wahltag intensiv verfolgt und begleitet aber ein Bot ist er auch nicht so und das war jetzt der 12. von den 12 fassen wir mal zusammen ich habe mir mal ein kleines Tabelle gemacht Spaltenweise pro Clinton neutral pro Trump und zahlenweise ist es ein Mensch sind wir uns nicht ganz sicher oder ist es ein Social Bot wir haben auf jeden Fall einen Social Bot gefunden der pro Clinton ist und wir haben einen Social Bot gefunden von pro Trump ob es sich tatsächlich um einen Social Bot handelt wäre ich sehr vorsichtig denn sie haben ja keine soziale Interaktion bewiesen sondern alles was sie gemacht haben um alle Links und Nachrichten zu veröffentlichen und hatten auch dabei nicht wirklich einen Impact weil keiner sie retweeted oder gefaft hat eine große Gruppe die wir gefunden haben waren pro Trump Menschen Reale auf der pro Clinton Seite haben wir nur einen Satire Account gefunden unterzwischen im neutralen Bereich einen Bernie Sanders Fan, eine Journalistin einen Japaner und einen Verschwörungstheoretiker und dann haben wir noch hier Anschuhe derjenige der seine Links zu App Werbe Seiten vertreibt wenn ich jetzt mal hervorhebe von den Accounts von denen ich glaube dass sie tatsächlich an einer politischen Diskussion teilgenommen haben sind das die hier und das sind alles Menschen das sind nur die Hälfte aber ja die Studie Bots and Automation over Twitter during US Election müsste eigentlich heißen Highly Active Twitter Users during US Election Social Bots oder was wir als was wir sie bezeichnet haben sind politisch aktive Bürger Hashtag Spam Medien und Journalisten und einige simple Bots zur Vollständigkeit Halber habe ich versucht noch eine Studie zu finden die in einer anderen Methodik verwendet und da gibt es von der University auf South California Social Bots destroyed the 2016 US Presidential Election online Diskussion was sie zur Identifizierung von Social Bots verwenden ist ein Service der nennt sich Bot or Not inzwischen sei unbenannt in Botometer und ich will jetzt nicht so tief einsteigen, da gibt es auch noch mal ein Paper dazu aber was sie im Kern machen ist im Prinzip das was ich am Anfang gemacht habe sie versuchen die ganzen Metadaten rund um einen Account zu kategorisieren und dann kommt da Machine Learning umdrauf und dann wird versucht mit einer Wahrscheinlichkeit abzuschätzen ob nun ein Account, nun ein Bots oder nicht und das ist die Basis dieser Studie ich habe das mal unten ist noch mal der Link dazu falls einer das selber mit spielen möchte vorsichtig man muss dazu sein Twitter Account autorisieren und das ist dann der im Gegensatz zu uns keine Leserechte haben möchte sondern möchte auch Schreibrechte haben für den Fall falls die gehackt werden werdet ihr eins auch irgendwie Sexscheiße Twittern ich habe einfach mal ein paar Accounts reingeworfen um zu gucken wie vertrauenswürdig das ist da habe ich jetzt hier einfach mal ein Erdgeist das Kriterium übrigens der Studie ist 50% alle die unter 50% sind sind Menschen alle die über 50% sind sind Bots gegenübergestellt habe ich noch mal das BMVI Bundesministerium für Dienst- und Verbraucherschutz 55% das BKA ist ein Social Bots und vielleicht liegt das an den deutschen Accounts da die Studie sich hier im Speziellen mit den US-Wahlen beschäftigt haben habe ich da mal stichpromoartig ein paar reingeworfen da haben wir das WhatsApp-Journal LA Times ist ein Bots CNN und Fox News ist ein Bots Will Donald Trump ist ein Bots und der amerikanische Präsident das könnt ihr auch alles selber ausprobieren also wissenschaftlich ist das alles nicht haltbar und wen das jetzt noch nicht überzeugt hegelig erwartet keine große Gefahr durch Social Bots im Wahlkampf Zusammenfassung Social Bots, Filterblasen, Fake News ich versuche mal vorsichtig zu formulieren die Forschung ist noch in den Anfängen die Methodiken sind neu teilweise experimentell wir müssen noch überprüft werden und im Speziellen müssen die wissenschaftlichen Publikation überprüft werden falls einer irgendwie in dem Thema gerade arbeitet den kann ich aus dem Herzen legen das als Bachelor oder Masterarbeit mal ans Herz zu legen diese Studien tatsächlich zu überprüfen was ich bei Social Bots Filterblasen und Fake News gefunden habe sind exemplarisch Egon Dombofsky wir haben in den Diskursen die Leute als Nazis Bildungsfern, sozial abgehängt Mittelschicht mit Verlustängsten und jetzt auch neu als Social Bots bezeichnet aber was sie alle gemeinsam haben sie haben Angst und sind wütend und sie haben Vertrauensverlust in die Institution und was wir beobachten ist dass neue gesellschaftliche Gruppen in die sozialen Netzwerke betreten und sie nutzen ihr Recht mit ihrer Meinungsäußerung und im Zweifel greifen sie auch auf Fake News zurück wenn es ihre Ansichten bestätigt was wir aber beobachten ist, dass die sozialen Netzwerke nicht geeignet sind um gesellschaftliche Lösungen zu entwickeln vielleicht gibt es irgendwann eine technische Lösung, wer weiß vielleicht gehört es aber in Zukunft auch zur Medienkompetenz eine gewisse Debattenkultur zu entwickeln ich weiß es nicht das ist auf jeden Fall ich will jetzt den Begriff Neuland nicht verwenden es ist auf jeden Fall ein neues Forschungsgebiet wir sehen glaube ich, dass hier eine neue Wissenschaft beginnt zu entstehen sie stecken auch in den Kinderschuhen aber sie macht gerade einen fundamentalen Wandel mit von einer ideografischen Wissenschaft also einer reinen Phänomen Beschreibenden wie Sozialwissenschaften Kulturwissenschaften oder Politikwissenschaften hin zu einer nomotätischen Wissenschaft die versucht Regeln zu erkennen Gesetze zu entdecken und Ergebnisse zu entwickeln so wie man das aus den Naturwissenschaften kennt ähnlichen Entwicklungen haben wir auch gesehen die Astrologie, das war die Lehre von den Stern bis dann das Teleskop erfunden wurde und wir nun anfangen konnten Gesetze in der Bewegung von Planeten und Sternen zu entdecken, die reproduzierbar sind und aus der Astrologie wurde dann die Astronomie ich sehe, dass wir in den Debatten die jetzt in den sozialen Netzwerken stattfinden eine neue Wissenschaft haben können die sich mit diesem Thema beschäftigt und ich glaube, dass es nicht nur jetzt möglich ist sozusagen als Teleskop oder Mikroskop für die Gesellschaft so dass es auch notwendig ist und dazu ist viel Forschungsnot nötig und ich animiere jeden, der nicht so richtig weiß aber jetzt in einem geisteswissenschaftlichen Bereich oder im Data Science Bereich arbeiten möchte diese beiden Welten miteinander zu verbinden Bachelor und Master sind glaube ich am arbeiten jetzt prädestiniert um diese wissenschaftlichen Ausarbeiten zu reproduzieren und diese Studien von der Oxford University oder von South California zu reproduzieren und zu validieren und ich würde das gerne unterstützen und ich hoffe die nächsten 2,5 Tage noch Zeit zu finden Teile meines Frameworks und auch der Rohdaten zu veröffentlichen ansonsten bin ich die nächsten 2,5 Tage zu erreichen Decktelefonnummer 360 und Twitter Account etmichael-krel.de ich würde gerne andere Leute die in dem Bereich forschen um zu gucken ob wir zum Thema Social Board nicht mal eine wissenschaftsbasierte Debatte starten können Dankeschön mindestens das will ich nachher nochmal hören jetzt haben wir noch etwas über eine viertel Stunde Zeit für Fragen und Antworten habt ihr Fragen an Michael Kreil positioniert euch bitte an den Mikrofonen ich versuche einigermaßen ausgeglichen auszuwählen falls irgendwo jemand steht steht schon irgendwo jemand ich habe eine Frage bezüglich State Sponsored Propaganda also die sind wirklich Leute die bezahlt werden von Staaten damit die Propaganda betreiben habt ihr auch in der Forschung diesbezüglich was ausgefunden oder habt ihr das überhaupt untersucht wir haben versucht Leute zu finden die an den Bots die in den politischen Diskursen teilnehmen ob sie jetzt tatsächlich dafür bezahlt werden oder nicht ist unmöglich festzustellen wir sehen aber wenn zum Beispiel jemand bei der US-Wahl was postet und dann aber in den nächsten Monaten bis heute noch ein ganz normales Leben in den sozialen Netzwerken führt unparallel dann auch auf Facebook oder sowas, gehen wir eher davon aus dass es sich nicht um den bezahlten Akteuren handelt die große Frage die ich mir eigentlich auch stelle ist dabei was ist der tatsächliche Impact also die Unterstellung mit jemand bezahlt da irgendwie kann ich wirklich auf Twitter durch soziale Interaktion Leute davon überzeugen die politische Richtung zu wechseln das ist eine bisherige Unterstellung die noch nicht überprüft wurde und deswegen bin ich da vorsichtig sowas anzunehmen Mikro 2 vielen Dank für den großartigen Vortrag ich fand das super wichtig anhand von dem kann man eigentlich sehen was ich wirklich am wissenschaftlichen Methodien verändern muss ich habe eine Frage, ich habe mich gerade gefragt ob man wirklich von Fake News sprechen sollte weil offensichtlich spiegeln diese Nachrichten ja nur was die weiteren Retweeter der Nachrichten hören oder sehen oder wissen wollen also was die eigentlich schon denken wird quasi nur gespiegelt und ich habe mich gefragt ob es nicht irreführend ist dieses Wort News ein neues Wort dafür finden müsste auf jeden Fall wir haben auch zum Beispiel gesehen dass bei der US-Wahl relativ viele Fake News aus einer Stadt aus Europa kommt die aber gar keine politischen Agenda haben sondern einfach nur Geld damit verdient haben dass sie ihre Post sich soweit verbreitet haben und damit Klickwerbung Geld gewonnen haben da war überhaupt gar kein politisches Ziel dahinter im Gegenteil laut eigener Aussage haben sie Klinten probiert aber das hat einfach nicht so gut eingeschlagen wie pro Trump-Sache deswegen halte ich auch den Begriff von Fake News da auch richtig nicht mehr für angebracht so aus dem Internet haben wir auch eine Frage ja zuerst auch aus dem IRC großes Lob an den Vortrag es wurde angemerkt ist sehr interessant bei den Hashtag 34 C3 zu analysieren und Trolle aufzudecken Salberichter und AFTEX lässt fragen gibt es schon neue Bots mit Einfluss ist irgendwas über die Interaktion untereinander bekannt gibt es bald BOTWARS Flamebots das sind alles theoretische Konzepte auch wenn man sich die Studien dazu an durchliest das sind alles Konzepte es können irgendwann mal so sein ich stehe auch nicht hier und sage sowas wird nie passieren oder sowas wenn man die Entwicklung mit KI in den nächsten Tagen oder Monaten gibt aber das was wir bisher sehen konnten waren jetzt nicht irgendwelche KI die durchs Internet laufen die 3 Servus ja, wunderbar funktioniert das erste harte Kriterium das mir einfallen würde um BOT Accounts von Menschen Accounts zu trennen wäre die Posting Frequenz und die hat jetzt hier nur einmal Einfluss gefunden woran liegt das? weil sie tatsächlich auch nur einmal auffällig war also die anderen Accounts als ich meine wenn ich jetzt ein Social BOT entwickle dann werde ich jetzt auch schlau zu sagen dann haut er jetzt nicht alle halbe Sekunde ein Tweet raus wenn ich sowas bauen würde aber in diesem Fall ist es tatsächlich nur einmal aufgetreten dass ein BOT den Back hatte das zu tun ist also nicht super, danke und Mikro 1 ja, jetzt geht es ich wollte fragen ob weil du ja gesagt hattest dass bei den Social Bots ja eigentlich sich der Einfluss verliert ob das dann wiederum heißen könnte dass die eigentliche Gefahr von Filterblasen dass kein Meinungsdiskurs entsteht oder dass der halt eingedämmt wird ob das sich dann verliert oder ob du in den Forschungen gesehen hast dass die Gefahr gar nicht so da ist wie sie irgendwie überall propagiert wird also zum einen, ich glaube es gibt so einen Satz den man in den letzten 10 Jahren immer wieder gehört hat das Internet ist nicht an bestimmten Sachen schuld sondern das Internet macht nur einfach Sachen wieder sichtbar und ich glaube, dass es eine Menge Leute gibt die sich gerne an einem politischen Diskurs beteiligen wollen und nicht die Möglichkeit hatten und jetzt nun mit den sozialen Netzen diese Möglichkeit haben und dann als Bots klassifiziert werden Problem ist, dass ich deine Frage vergessen habe ich wollte eigentlich nur wissen die Gefahr, dass man halt sagt der Diskurs ist so ein bisschen eingedämmt weil jeder in seiner eigenen Blase lebt ob sich das nicht dadurch verliert weil er gesagt hat, dass Social Bots sind unwirksam so wirklich ob das nicht dann sich auch so zu sagen auf das andere übertragen lässt für unsere von so normalen Gebrauch genau, also ich kann da abschließende Meinung zu abgeben ich weiß aber, oder man merkt es halt dass die sozialen Netze fast immer nicht dazu geeignet sind sich einen Diskurs zu führen sondern es endet immer ein Fame war sind sozusagen, du bist, sie seid die Böse und wir sind die Guten aber tatsächlich eine Lösung zu entwickeln eignet sich nicht dafür vielleicht ist der Mensch auch nicht dafür gemacht vielleicht haben Netzwerken einen bestimmten Floor, den wir halt noch nicht kennen dafür auch nicht vergessen, das ist eine extrem experimentelle Technologie noch nie gab es einen Netzwerk das weltübergreifend so viele Menschen die Möglichkeit gibt miteinander zu kommunizieren und Diskurs zu führen danke Mikro 4 er ist noch ein Kompliment für diesen super wichtigen und sehr coolen Vortrag meine Frage, du hast es ja als ausschließlich über Twitter gesprochen, habt dir mal Analyse gefahren über andere soziale Netze die ja durchaus auch Beverbreitung haben speziell dazu auch da, nicht nur über die Anzahl der Tweets, sondern auch über den Impact weil die Frage ist ja, die hat das ja mehrfach aufgeworfen was wirkt eigentlich ein Tweet wenn die einveröffentlichen also ein Tweet auf 10.000 Follower könnte möglicherweise wichtiger sein als 10.000 Tweet zu einem Follower genau, da kann man sich halt Metriken überlegen, normalerweise ist es für mich halt ein Ausschlusskriterium wenn ein Tweet nur nicht gefaft wird und nicht retweetet wird ist für mich das ein Ausschlusskriterium was der tatsächlich Impact ist ob es dafür eine Metrik gibt, weiß ich nicht kann man sich überlegen wie gesagt, neue Wissenschaft das andere ist eine andere soziale Netzwerke man sieht das auf YouTube eine Menge passiert ganz viele Leute packen im Wohnzimmer die Kamera aus und teilen ihre politischen Meinung im Wohnzimmer und veröffentlichen das auf YouTube es gibt auch dieses russische Social Network wer ist das? VKan genau, da gibt es VKontakte genau da gibt es auch, kenne ich eine Gruppe die sich damit beschäftigt hat wie das da aussieht weil der große Brocken ist natürlich Facebook Facebook hat zwei Probleme, erstens gibt es eine Menge geschlossener Gruppen, wo viel stattfindet da hab ich mal reingeguckt sind die gleichen Themen, es geht auch um Asiopolitik und so weiter und das andere Problem mit Facebook ist die API ist leider nicht so offen es gibt Schwierigkeiten da große Mengen an Daten rauszuholen ich glaube, dass Facebook in diesem Bereich wahnsinnig viel Datenmaterial hat ich glaube, es gibt ein paar Fragen, die man fragen könnte, aber leider innerhalb eines Konzerns und nicht innerhalb der Forschungsgemeinschaft okay, danke unser Social-Bot hat auch noch eine Frage Miel erst fragen gibt es Studien für das reale Ausmaß und den realen Impact von Fake News in den sozialen Medien und wurden die eventuell zur Legitimation des Netz-DGs herangezogen hab ich akustisch nicht verstanden und wurden die herangezogen zur Legitimisierung des Netz-DGs soweit ich weiß, ist mir keine Studie bekannt aus meiner Erfahrung würde ich sagen Sie haben keinen Einfluss weil sie erstmal nicht Leute überzeugen ich glaube, die Leute kommen schon mit einer Überzeugung in die Netzwerke und werden einfach nur noch weiter zusätzlich bestätigt ich glaube, dass es einen gewissen Impact gibt mit Leuten, die sozusagen latent eine Sorge-Umflüchtlingspolitik haben und dann nur noch in einer Filterblase stecken und nur noch mit Flüchtlingskriminalität bombardiert werden dass sie dazu dann auch neigen, eine Angst gegen beispielsweise Migranten zu entwickeln aber eine Studie dazu ist mir noch nicht bekannt wie das tatsächlich, ob das psychologische Auswirkungen auf die Menschen hat und die zwei ja, hallo, hallo, hallo okay, danke für den Vortrag du hattest am Anfang so eine schöne Karte wo verschiedene Gruppen aus dem Twitter-Netzwerk aufgezeigt wurden da sitzt die AfD und dann kam der Switch und da sind die Fake News wie hast du denn ermittelt, dass diese Tweets Fake News waren also konkret, ich hab mir Fake News ausgesucht und hab geguckt, wer sie auf Twitter teilt also andersrum also ich hab mir sozusagen Geschichten rausgesucht von denen ich weiß, dass es Fake News sind und habe dann beispielsweise Blockpost und so weiter, die es verbreitet haben, gesucht und diese OL, also wer Twittert, Prinzip Fake News und genau, dadurch kann man diese Einförmung zustande Mikro 3 ja, ich hab noch ja, ich hab noch eine Frage zu antworten also quasi, ich hab aufgehört von Journalisten, die sich beschwerd haben wenn sie über ein bestimmtes Thema berichtet haben dass da irgendwelche Bots sie jetzt mit antworten zumüllen oder so was hast du so was beobachten können, wird das irgendwie als Megafon eingesetzt, um dann einfach nochmal ein bisschen mehr Bumps oder Druck zu machen auf solcher Accounts, gibt's da was oder ist das auch eigentlich alles echte Menschen, die wirklich irgendwie wütend sind aber ich kann auch nicht, dass das alles echte Menschen sind also ich kann mit einem Bot, kann ich zum Beispiel immer einen Hashtag unbenutzbar machen ich kann einfach zu einer politischen Debatte einfach einen Hashtag raus suchen und kann es dann mit Bots vollmüllen aber das ist dann eigentlich mehr ein Spam oder den Diskurs zu stören, aber nicht wirklich ein Einfluss zu haben dabei zu den Journalisten ich kenne einige Journalisten, die auf Twitter aktiv sind und dann immer wieder mit großen Anzeiten von Accounts konfrontiert werden ich bin mir da auch nicht sicher ob es tatsächlich sich um Bot-Netzwerke handelt denn es sind immer wieder vereinzte Leute die unterschiedliche Tweets machen es ist ja schon wahnsinnig schwierig was für sich 100.000 künstliche Tweets zu erzeugen mit einer künstlichen Identität die aber unterschiedlich sind das ist schon ein relativ hartes Problem ich weiß nicht ob das bereits gelöst ist aber ich weiß nicht ob es aufgetaucht ist oder nicht oder ob ich nur nicht aufmerksam genug war und zwar geht es um gleichlautende Nachrichten in Tweets zum Beispiel also ich weiß, dass bei Fake News teilweise ganze abseitsweise Texte 1 zu 1 kopiert werden und auch manuell sozusagen trotzdem kommt mir das auch als ein wichtiges Kriterium vor um wie gesagt ein Flussfaktor ist es ein Bot oder nicht festzustellen spielt das in den Studien irgendeine Rolle die du untersucht hast oder für deine Arbeit in den Studien kann ich nicht sagen weil die hatten jetzt immer nur ihre Kriterien mit den Hashtexen und so weiter was in meiner Arbeit aufgefallen ist dass es immer wieder zum einen es gibt natürlich Leute die sagen ich kopiere den Tweet und sage das mein eigenes aber es gibt bestimmte Formulierungen die zu 10.000 identisch auftauchen aber es sind tatsächlich einfach nur Textdatenbanken die da einfach abgespielt werden auch nicht mit politischen Inhalten sondern ich weiß nicht vielleicht sind die Dormint aber keinerlei politische Aktivität zu sehen und die 2 bitte ja hallo vielen Dank für den Vortrag eine Frage zu dem Thema Schweden Reisewarnung was am Anfang kam wie viel Handarbeit war dabei die Tweets rauszufinden die zu dieser Story gehören und wie kannst du dir sicher sein dass du alle gefunden hast ich kann mir nicht sicher sein dass ich alle gefunden habe weil immer wieder Tweets gelöscht werden dass man ein halbes Jahr später anschaut oder wie viele Accounts in Zwischenzeit wieder weg sind ich kann mir nicht sicher sein dass ich alle Tweets gefunden habe natürlich nicht, was man halt machen kann ist sich durchzuhangeln man fängt dann an so was wie mit Schweden Reisewarnung und dann sieht man okay die ersten und da kommen aber noch andere Begriffe zusammen und hier finde ich nochmal ein Link auf ein Blog-Post und dann suche ich mal nach dem und so weiter und so wird die Datenbank immer größer und dann habe ich, glaub ich, 1.800 Tweets oder sowas gefunden mit Fake News und so weiter das ist eigentlich die Methodik das ist eigentlich halbautomatische Handarbeit jetzt aber, Pfefe ich habe eine die 1 ist das bitte also ich habe eine kurze Frage und eine Bitte um weitere Daten erstens würde ich gerne wissen wie du von deinen Rohdaten veröffentlichen kannst und tust und zweitens dein Beispiel am Anfang mit der Twitter Timeline mit 2.000 Leute und das ist eine Größenordnung die man häufiger sieht in diesen Debatten und da frage ich mich immer ich habe mehr ungelesene Mails in meiner inbox wie so interessieren mich 2.000 Leute aber ist das irgendwie wie so ist das jetzt eine relevante Größenordnung kannst du da vielleicht noch was zu sagen okay, das erste war ob ich meine Daten veröffentlichen kann es gibt tatsächlich eine Guideline von Twitter die ist mir nicht erlaubbar beispielsweise von einem bestimmten Account es gibt bestimmte Sachen die man machen darf da würde ich mich halt sonst hätte ich es jetzt einfach mal so rechtsklick veröffentlichen gemacht ich würde das mal noch mal genauer angucken was ich machen darf und so weiter gerade Hydrated Tweets heißt das also es ist eigentlich nicht nur Twitter IDs zu haben sondern wirklich eine große CSV-Datei oder so was die man sich in Excel mal durchklicken kann kann glaube ich bei dem einen oder anderen der da frisch mit dem Thema ist muss ich halt mal gucken in den nächsten Tagen wie weit 2.000 Accounts einen Einfluss haben vielleicht ein bisschen einen vielleicht ein bisschen Kontext geben ist das irgendwie besonders viel oder ist das üblich oder findest du das eine relevante Größe oder ist das wieso müssen wir über 2.000 reden weil mir kommt es intuitiv nicht so viel vor frage ich mich ist das bei 80 Millionen Leuten sind 2.000 Leute nicht so hoch das ist halt auch das ein klassisches wichtiges Argument ich meine erstens ist es nicht alle Leute in sozialen Netzwerken dann sind eine Menge Leute in Facebook es ist nur ein winzig kleiner Teil davon auf Twitter und inwieweit da dann irgendwie 2.000 Leute tatsächlich einen Impact haben auf einen politischen Diskurs in Deutschland da wird dann immer gesagt ja aber auf den in den sozialen Netzwerken sind aber die Aktivisten die Journalisten und so weiter und wenn die beeinflusst mehr tatsächlich halte ich also die Twitter-Diskussion halte ich nicht für gesellschaftlich relevant in Deutschland so eine Frage schaffen wir noch das ist die 4 Hallo erst kurz danke weil dein Projekt mir im Studium mich ziemlich gerettet hat also danke und dann ist mir halt aufgefallen gerade bei diesen Trollarmeen keine Ahnung diese bezahlten ob du mal geguckt hast in den Accounts wie oft sich bestimmte Sachen wiederholen zum Beispiel haben die ja oft dasselbe Profilbild und dann Accounts mit fortlaufenden Nummern wenn der erste gelöscht wird oder gesperrt dieses Phänomen sieht man aber generell das sieht man auch bei wütenden Bürgern die in den sozialen Netzwerken sind dann von beispielsweise Twitter gesperrt werden und dann wieder rauf kommen und dann packen sie sich hinter ihren alten User haben einfach noch eine Zahl hinten dran aber ob die Leute tatsächlich bezahlt werden oder nicht das kriege ich über eine Twitter-API auch nicht raus eigentlich müsste man dann fast wie ein Ethnologe sich mit den Leuten unterhalten und gucken was sie da für eine Agenda haben ich finde das aber gefährlich dann von vornherein zu sagen die sind bezahlt oder sind vom Kreml gesteuert oder sind künstliche Intelligenzen oder keine Ahnung was das muss auf jeden Fall wie eine Debatte sein die auf evidenzbasierter Forschung basiert ja ich hab die auch nur ich bin nicht noch da so zufällig gefunden weil ich das halt gemacht hab damals zur Türkei-Wahl und es halt sehr viele Accounts gab die immer so türkischen Spämen gepostet haben sich dann aber plötzlich in sehr schlechten Deutsch in deutsche Debatten eingemischt hatten dann sollten wir uns auf jeden Fall mal unterhalten ich glaube da können wir uns gegenseitig helfen könnt ihr euch gleich leben der Bühne die Zeit ist nämlich jetzt leider um vielen Dank Michael Kreil da geht mehr