 Willkommen zu der deutschen Übersetzung des Talks, in den Fabriken für Fakten. Wir haben uns in den letzten Jahren in den letzten Jahren ein paar Leute, die sich über die USA und die CCC-Kongress besitzen. Wir haben uns über die USA und die CCC-Kongress besitzt. Wir haben uns über die USA und die CCC-Kongress besitzt. Wir haben uns über die USA und die CCC-Kongress besitzt. Ihr hört den Talk in der deutschen Übersetzung von Oliver, Felix und Florian. Wir freuen uns auf eure Rückmeldungen zu unserer Übersetzung bevor er früh mit dem Hashtag C3T. Liebe Frau Wied земler. Willkommen Svea, Dennis und Philipp für diesen Tag. Ja, willkommen zu unserem Talk in den Fabriken für gefälschte Likes. Ich bin, ja, mein Name ist Philipp. Ich bin ein Internet-Aktivist gegen Disinformation. Ich studiere eine Universität Bamberg. Hallo. Danke, dass ihr für uns zuhört. Ich bin Svea. Ich bin eine investigative Journalist. Ich habe meistens Freelands. Ich habe sich für NDR, ARD und paar öffentliche Grundfug-Anstalten in Deutschland. Ich hatte das Vergnügen mit diesen beiden, was für mich ein journalistisches Projekt war und für sie ein wissenschaftliches Projekt. Hallo, ich bin Dennis. Ich bin ein Doktorant an der Rohr-Universität Bochum und arbeite als Assistent an dem Lehrstuhl für Systemsicherheit. Wir fokussieren uns über Netzwerksicherheit und Internetmessungen. Und ich und Philipp sind hier für den wissenschaftlichen Teil und Svea ist hier für den journalistischen Teil. Hier ist unsere Übersicht für heute. Zuerst reden wir kurz über unsere Motivation, warum wir in diese Fabriken für gefälschte Likes abgestiegen sind. Dann zeigen wir euch, wie wir auf 90.000 Fake Likes-Kampagnen auf einer Crowd-Working-Plattform gekommen sind. Und wir wollen euch zeigen, warum wir glauben, dass es um ein 10 Milliarden registrierte Facebook-Benutzer gibt. Zuerst möchten wir über den Like-Button reden. Der Like-Button ist auf sozialen Medien der letztgültige Maßstab dafür, wie gültig etwas ist, wie populär etwas ist, wie vertrauenswürdig es ist. Es zeigt einen ökonomischen Erfolg von Marken an und es beeinflusst auch den Facebook-Algorithmus. Wie wir jetzt zeigen werden, können diese Likes sehr einfach gefälscht und manipuliert werden. Das Problem ist, viele Benutzer werden trotzdem diese schlechte Informationen auf Facebook über die Popularität auf Facebook ziehen sie vor über gar keine Informationen. Das ist ein ernstes Problem und ist keine wirkliche Lösung dazu. Als Erstes reden wir über diese Fabriken und die Arbeiter, die in diesen Fabriken für gefälschte Likes arbeiten. Es ist wohlgekannt, dass es gefälschte Likes gibt und dass man sie kaufen kann. Man sucht darauf, dass man gefälschte Likes oder gefälschte Kommentare kriegt. Das findet man diese Seiten und es gibt welche sehr billig, sehr teuer. Man kann keinen Unterschied, man kann sie aus verschiedenen Ländern kaufen. Wenn ihr daran denkt, dann könnt ihr vielleicht so etwas denken an jemanden, der in India liegt und wenn ihr denkt, dass Computer oder Maschinen das tun, dass sie alles gefälscht sind und ihr denkt auch, dass sie einfach detektiert werden können und dass sie vielleicht gar kein großes Problem sind. Aber es ist nicht immer so, es kann auch so sein. Ich möchte euch Maria vorstellen, eine Frau in Berlin und Harald, der in der Nähe von München-Gladbach wohnt. Maria ist eine Ruheständlerin, sie war früher Polizeimitarbeit-Polizistin und da Geld immer knapp ist, klickt sie Facebook Likes gegen Geld. Sie kriegt einen zwischen zwei und sechs Cent pro Like. Harald war einmal ein Bäcker, er bekommt jetzt Sozialhilfe und er klickt auch auf Like und kommentiert den ganzen Tag lang. Wir haben sie während unseres Forschungsprojekts getroffen und haben bei Interviews über ihre Likes geführt. Eine Plattform, für die sie arbeiten, nur eine von vielen Plattformen heißt Paid Likes, die sitzt gar nicht weit von hier in Magdeburg und sie bieten an, dass man Geld damit verdienen kann, dass man auf verschiedenen Plattformen Likes verteilt. Und wie man sieht, wenn man mit seinem Facebook-Account diese Seiten einlockt, dann bekommt man hier solche empfohlene Kampagnen, das sind Facebook-Leisten oder Instagram-Pages, und man kann da durchklicken und sie lesen und dann auf dem Likes. Ich habe sie jetzt hier mit diesem blauen Balken überdeckt, aber man kann, es gibt viele verschiedene Firmen, die da sind. Lass mich auch hier ein bisschen mitnehmen auf diese Reise. Das ist Harald, er war okay, dass er mir auch für das Fernsehen bei ihm vorbei kam und wir haben ein langes Interview mit ihm geführt und wir zeigen euch einen kurzen Ausschnitt aus seinem Leben, wie er da sitzt, den Haushalt nachwascht und leigt. Eine Pizzeria, auch bei Instagram, eine Pizzeria aus einem Münchner Raum, der jetzt irgendwo ein Bild macht von seiner neusten Pizza-Kreation. Es ist alles Mögliche. Wir durch ein Garder, ob das Politiker sind oder Hundezüchtervereine oder Karatevereine. Jetzt muss ich lediglich gefällt mir drücken und schon habe ich Geld verdient. Hey, so kann das sein. Du klickst und dann kriegst du Geld verdient. Wie haben wir ihn getroffen und all die anderen? Wir haben einen wissenschaftlichen Zugang dazu. Es war nicht nur wichtig, zu einem oder zwei zu reden, sondern mit vielen zu reden. Also haben wir eine Facebook-Fanpage gemacht, die heißt eine Linie unter eine Linie, weil wir dachten, niemand wird das von alleine liken. Dann haben wir diesen Post gemacht und wir haben die Kamane und dann haben wir 220 Leute. Also Leute, für die wir bezahlt haben, haben wir 220 Likes gekriegt. Dann haben wir sie alle angeschrieben und wir haben an allen versucht, anzurufen und ein paar waren unterwegs oder haben wenig gemacht. Aber viele haben uns Informationen gegeben über ihr Leben als Klickerbeiter. Also Paid Likes sagt, dass sie 30.000 Registritte benutzt haben. Und man denkt immer, sie sind alle mit 10 oder 15 Accounts registriert sind. Nein, die meisten sitzen nicht. Die meisten arbeiten mit ihrem wirklichen Account. Das macht es sehr schwierig, das herauszufinden. Sie scannen sogar ihre Ausweise, damit die Firma weiß, dass sie echt sind. Und dann bekommen sie Geld. Wir haben Männer gefunden, Frauen, Leute, die zu Hause arbeiten, nicht arbeiten, Leute mit geringen Einkommen, Rentner, Leute auf Sozialhilfe. Also alle möglichen Leute, das ist keine Verzerrung. Und die meisten klicken für zwei oder mehr Plattformen. Also ich habe mir keinen getroffen, der nur für eine Plattform klickt. Die meisten haben mehrere Plattformen, wo sie klicken. Und was sie uns gesagt haben, man kann bis zu 15 und 450 Euro im Monat verdienen, wenn man ein Powerklicker ist. Wenn das eine Art Powerklicker ist. Ja, aber das sind nur die Arbeiter. Ihr möcht natürlich fragen, wer sie die Käufer. Also es gibt zwei Vorteile von dieser Kampagne. Ihr erinnert euch an diese Seite. Ihr seht diese Kampagnen, wo man drauf klicken muss, um ein bisschen Geld zu bekommen. Und durch Zufall, mit Glück, haben wir gesehen, wo links unten im Browser steht, der geht auf die Kampagne, zu der man klicken muss. Und die Kampagnen benutzen eine eigene ID. Das ist ein Integer. Und die zählen langsam hoch. Einige von euch, wenn sie hier eine Idee haben, was man damit tun kann. Und damit haben wir einen Crawler gebaut, der sich das angeschaut hat. Und unser Crawler hat die Kampagneindies zwischen 0 und 90.000 angefragt. Warum 90.000? Wir haben als Clickworker uns angemeldet. Wir haben gesehen, dass die höchsten IDs ungefähr 88.000 waren. Also haben wir gedacht, 90.000 ist ein ganz guter Wert. Und wir haben jede Request gecheckt, aber sich auflösen lässt oder nicht. Und wenn er sich auflösen ließ, dann hat die neue URL uns gezeigt, wo man draufklicken sollte. Wir haben uns nicht die Seitenquelltexte gespeichert, sondern wir haben die URLs gespeichert. Und diese Liste war die Basis für weitere Analyse. Und hier seht ihr unsere Liste. Und mit dieser Liste sind Dennis und Philipp zu uns gekommen, haben wir gesagt, was könnt ihr finden? Wir haben AfD gesucht. Das war das erste, was wir gesucht haben. Und natürlich ist AfD auch vertreten. Das ist jetzt nicht so überraschend für einige. Und es ist die AfD Gelsenkirchen. Und dann haben wir die AfD Gelsenkirchen gefragt, habt ihr Likes gekauft? Und dann haben die gesagt, wir wissen nicht, wie wir auf die Liste gekommen sind. Aber wir möchten jetzt nicht ausschließen, dass es anonyme Spenden gab. Aber wir haben nicht nur die AfD gefunden, sondern wir haben alle politischen Parteien gefunden. Vor allem die Lokalen. Wir haben AfD, SPD, die Grünen, die Linke, CDU gehabt. Aber es sind nicht Angela Merkel oder große Seiten gekommen, sondern es sind immer ganz kleine gekommen. Mit ein paar Hundert oder vielleicht sogar Zehntausend Followern gekommen und aus unserer Sicht ist das stimmig. Jemand, der ganz viele Fans hat, der würde sowas nicht kaufen. Und dann haben wir viele von denen gefragt. Und die haben entweder nicht erkehren können oder sie würden nie sowas tun. Die waren überfordert damit, was sie sagen sollen. Aber wir haben halt die Kampagnen gesehen. Wir haben nicht gesehen, wer die Likes gekauft hat. Das hätte jeder machen können. Die Mutter, der Bruder, die Fans. Wir hätten viel Glück gebraucht, jemanden so anzurufen und dann hätte er sagen können, ja, das habe ich gemacht. Einige Politiker haben zugestimmt, dass sie es gemacht haben. Und einer hat das auch öffentlich gemacht und uns ein Interview gegeben. Sie ist eine Regionalpolitikerin aus Niedersachsen. Sie war nicht glücklich mit ihrer Fan-Seite und nach der Wahl war sie nicht so glücklich und da wollte sie sich es aber pushen und wollte mehr kriegen und wollte mehr erreichen. Und er hat so 500 Follower gekauft und wir haben ein Interview mit ihr gemacht. Jetzt zeige ich euch. Wenn man sich jetzt sozusagen diese Likes kauft, würden Sie sagen, das ist Betrug? Ich würde nicht sagen, das ist Betrug. Es ist ein Mittel der Kommunikation. Und wer die Fälschung nicht bemerke, dem mangelt es an Medienkompetenz. Da ist das Thema Medienkompetenz wirklich gefragt. Sich wirklich zu überlegen, kann das denn überhaupt sein? Es ist sozusagen kein Betrug, wenn man Likes kauft. Nochmal, also warum Betrug? Betrug kann es ja nur sein, wenn wir als Gesellschaft sagen, dass das das Maß oder der Maßstab für uns ist, für Beliebtheit. Also ihr habt gesehen, die Antworten sind ziemlich interessant und es war sehr korrigiert von ihr, dass sie sich so geäußert hat. Andere haben sich am Telefon geäußert, aber die wollten sich nicht öffentlich darstellen lassen. Aber die antworten natürlich, dass es kein Betrug ist. Aus rechtlicher Sicht ist es schwer zu zeigen, dass das ein Betrug ist. Es ist eher unethisch. Es ist manipulativ. Wir haben jemanden vom Bundestag von der FDP gefunden, aber der ist weggerannt und wollte keinen Interview. Deswegen konnte ich ihn nicht zeigen. Der war 40-mal in der Liste für verschiedene Posts und Videos und für seinen Instagram. Aber wir haben ihn nicht dokumentieren können. Was haben andere gesagt? Wir haben natürlich die Firmen damit konfrontiert. Wir haben gesagt, wir wollen sowas nicht auf unseren Plattformen. Aber die Firmen sind seit 2012 aktiv. Facebook hat jetzt Paid Likes geblockt. Paid Likes haben wir gefragt in Markterburg. Die haben gesagt, es ist kein Betrug. Die Klicker klicken aus freien Stücken drauf. Paid Likes ist natürlich nur die Spitze vom Eisberg. Wir wollten auch in dieses Konsortium eintauchen, außerhalb von Paid Likes. Also haben wir Analyse gemacht über Account-Kreierung auf Facebook. Was Facebook sagt über die Erstellung von Accounts, ist, dass sie sehr effektiv dabei sind, Fake-Accounts zu detektieren. Sie sagen, sie entfernen jedes Jahr Milliarden von Accounts und dass alle diese Accounts niemals Aktionen ausüben, bevor sie reportiert und entfernt werden. Das heißt, Facebook sagt, sie haben es alles unter Kontrolle. Jedoch gibt es eine ganze Anzahl von Reporten, die anderes nahe legen. Zum Beispiel NATO's Strandcom Task Force hat ein Report ausgegeben, in dem 54.000 Social-Media-Interaktionen fast ohne Probleme kauft wurden mit 300 Euro. Das ist ein relativ geringer Preis. Und wir können uns kaum vorstellen, dass, wenn es so schwierig wäre, diese Interaktion zu kaufen, so viele gekauft werden könnten. 3.530 Kommentare, 25.000 Likes, 20.000 Views und 5.500 Follower. Und was haben die Fake-Likes und die Interaktionen gemeinsam? Die sind beide billig. Es gab auch einen anderen Report von ViceGermany, die sich über interessante Fakten über automatisierte Fake-Accounts konzentriert haben. Sie glauben, dass Leute Hack-Devices, also gehackte Endgeräte benutzen, um dort über Proxies Interaktionen und Likes ablegen. Das heißt, eine interessante Betrachtungsweise wäre, was wenn euer Kühlschrank die Likes auf Facebook gibt. Wir wollten das auch betrachten und wollten einen Schritt weitergehen. Wir wollten herausfinden, wer sind diese Leute? Was tun sie auf Facebook? Wir haben also die Profile dieser Purchased Likes untersucht. Dafür haben wir vier Kommentare unter zuverliegten Posts gesetzt und haben da für diese Post Likes gekauft. Und haben dann die Profile der Likes, die auf diese Posts gesetzt wurden, untersucht. Es war ziemlich billig, diese Likes zu kaufen. Comment Likes sind meistens etwas teurer als normale Likes. Die unteren Angebote haben wir alle auf Google gefunden und haben mit PayPal bezahlt. Wir haben einen ziemlich netten Trick benutzt, um das Alter dieser Fake-Accounts zu bestimmen. Wie Sie hier sehen können, ist die User-ID auf Facebook, die stets inkrementiert wird, die weiter hochgezählt wird. Seit 2009 werden diese IDs immer weiter hochgezählt im Muster 1.000 und dann die inkrementierte Zahl. Und wie Sie sehen können war diese inkrementierte Zahl relativ nah an null heran. Und nun ist sie bereits bei 4 Milliarden. Und innerhalb dieser Zeitperiode können Sie sehen, dass man eine recht gute Fit-Linie durch diese Punkte ziehen kann. Und das Alter von bekannten Daten in diesem Graph entspricht also diese ID relativ gut. Und anhand dieser Regierungslinie haben wir das Alter der Fake-Accounts geschätzt. Man sieht also, dass wir von verschiedenen Services und verschiedenen Diensten unterschiedliche Account-Alter haben. Manche Accounts haben relativ alte Accounts und das wissen wir, wir haben mit den Leuten geredet, mit den Diensten. Like Service A hier benutzt relativ alte und transparente Accounts, während Dienst B relativ neue Accounts verwendet. Wenn man sich diese Accounts also alle anguckt, dann kann man annehmen, dass es alle Bots sein könnten. Beim Dienst C ist es nicht ganz klar, sind diese Konten Bots, sind das Click-Worker, vielleicht ist es eine Mischung von beiden, es ist jedoch eine interessantere Metrik, das Alter der Konten zu benutzen, um einzuschätzen, ob die Konten Bots sind, also automatisierte oder nicht. Im Beispiel für dieses Gartenmöbel, für diese Gartenmöbelfirma, diese Firma war auf der Liste von Paid Likes, also war auf der Liste von Kunden von Paid Likes und sie ist uns aufgefallen, weil sie eine Million Likes auf Facebook besetzt, was relativ un... selten ist für eine Gartenmöbelfirma in Deutschland. Wir haben uns diese Seite angeguckt und haben weitere interessante Dinge festgestellt. Zum Beispiel hat jedes Post der Firma Tausende von Likes bekommen, was auch relativ ungewöhnlich ist, für eine solche Gartenmöbelfirma. Wir haben uns also diese Likes genauer angeschaut und es sieht aus, als kämen diese Likes alle aus Südostasien und sehen auch nicht weiter, sehr authentisch aus. Wir fahren also in der Lage, das Alter dieser Konten einzzuschätzen und fanden, dass diese bzw. die meisten der Konten, die für die Likes benutzt werden, in den letzten drei Jahren erstellt wurden. Also das ist eine Seite, eine Facebook-Seite, wo alles die Anzahl der Menschen, die diese Seite geliked haben und die Kommentare praktisch komplett von Fakebots kreiert wurden. Es ist also erschreckend, dass sowas auf Facebook passieren kann und dass das ein relativ großes Problem auf Facebook ist. Und dieser Laden für Gartenmöbel, die haben offenbar nicht so große Mengen an Geld. Also muss es sehr billig gewesen sein, diese Menge an falschen Accounts zu kaufen und es wirklich erschreckend zu sehen, wie groß die Scala ist, auf der diese Dinge betrieben werden. Okay, haben wir es sagen, was sagt, wenn Facebook sagt, wir haben das unter Kontrolle, dann müssen wir das bezweifeln. Also jetzt können wir in das größere Bild uns einen gucken. Was wir machen werden, ist, wir werden diesen gleichen Graph benutzen, um die Daten, wann die Accounts angelegt wurden, aber auf eine andere Art und Weise. In dieser, die niedrigsten und den höchsten ID von Facebook sehen. Wir wissen, die höchste ID, indem wir einfach einen neuen Account anlegen und wir kennen die niedrigste ID, das ist einfach null. Und wir wissen einfach, dazwischen sind 40 Milliarden Facebook-IDs. Und dann haben wir einfach gedacht, okay, wir machen ein Sample, wir ziehen eine Stichprobe von diesen 40 Milliarden Facebook-IDs und gucken, ob dieser Account existiert. Wir machen das, weil wir offensichtlich keine 40 Milliarden ID testen können, aber wir können eine kleine Stichprobe dieser Accounts, dieser IDs auf Accounts testen und können dann abschätzen, wie viele Accounts es insgesamt auf Facebook gibt. Also, wir haben wiederholt die gleiche Stichprobe von 1 Million zufälliger IDs über ein Jahr regelmäßig abgefragt und wir haben ein größeres Sample von 10 Millionen zufälligen IDs gezogen für genauere Analysen. Ja. Und wir haben da, ja, das haben einige interessante Resultate bis jetzt. Also, wir haben einen neuen Crawler geschrieben, den zweiten, um öffentliche Facebook-Account-Daten zu generieren. Das war nicht so einfach wie im ersten Fall. Das ist klar, es ist nicht überraschend, dass Facebook an ganzen Haufen Maßnahmen benutzt, um automatisches Crawling der Facebook-Seiten zu verhindern, etwa durch mit Captures oder den IPs blockiert. Aber wir konnten das relativ einfach umgehen, indem wir das Tor Anonymitiz-Netzwerk benutzen. Jedes Mal, wenn unsere IP geblockt wurde, dann haben wir einfach eine neue Torverbindung aufgemacht und die IP-Adresse geändert und genauso ähnlich mit dem Captures. Und mit dieser einfachen Methode konnten wir all diese Facebook-Daten, die öffentlichen Facebook-Daten crawlen. Lass uns ein paar Examples gucken. Das erste Example ist facebook.com.slash4. Das ist eine sehr kleine Facebook-ID. Hier werden wir weitergeleitet und gucken uns die Antwort an und finden ein gültiges Account. Weiß jemand, welches Account das ist? Ja, Mark Zuckerberg. Das ist der öffentliche Account von Mark Zuckerberg, Nummer 4 von Facebook. Wie Sie sehen, die anderen IDs sind sehr viel höher, aber er hat die Nummer 4. Das nächste Beispiel ist facebook.com.slash3. In diesem Fall werden wir nicht weitergeleitet. Das heißt, es ist ein ungültiges Account. Und das war relativ einfach zu überprüfen mit einer Google Suche. Das ist ein Test-Account aus dem Anfang von Facebook. Das gibt es nicht, kann man nicht. Mit diesen Beispielen haben wir sehr viel mehr Experimente gemacht. Am Ende konnten wir diesen Baum aufbauen. Das zeigt den grundsätzlichen Zugang von unserem Scraper. Der Computer meint, die Vorträge sollten wir eine Pause machen. Alle machen wieder auf. Im ersten Schritt rufen wir www.facebook.com.slashID ab. Wenn wir weitergeleitet werden, dann gucken wir, ob die Seite eine Account-Seite ist. Wenn es eine Account-Seite ist, dann ist es ein öffentliches Account, wie das Beispiel 4. Und wir konnten die rohen HTTP-Daten speichern. Wenn es keine Account-Daten ist, dann ist es okay. Es ist kein öffentliches Account. Und wir können keine Daten dazu speichern. Wenn wir beim ersten Schritt nicht weitergeleitet werden, dann rufen wir diese zweite URL aus www.facebook.com. Profile.php. Und dann ID gleich FIB mit einem mobilen User-Agent. Wenn wir dann weitergeleitet werden, dann ist es wieder ein nicht-öffentliches Profil. Wir können nichts speichern. Und wenn wir nicht redirekt werden, dann ist es eine ungültige Nummer. Dann ist es meistens ein glössches Account. Das ist der grundsätzliche Aufbau unseres Great-Wars. Und Philipp will diese ein paar interessante Resultate vorstellen. Das Interessante ist, dass eine von vier IDs, diesen Agent ist ein gültigen Account entspricht. Ihr könnt die Mathematik machen. Da sind 40 Milliarden Facebook IDs. Also muss es 10 Milliarden registrierte Benutzer auf Facebook geben. Und das heißt, es gibt mehr registrierte Benutzer in Facebook, als es Menschen auf der Welt gibt. Und das heißt auch, dass es noch schlimmer ist. Nicht jeder auf der Erde hat ein Facebook-Account. Zum Beispiel man braucht ein Smartphone dafür. Und viele Leute haben sowas nicht. Also das ist eine ziemlich hohe Nummer. Und es ist relativ unerwartet. Und im Juli 2019 waren mehr als 10 Milliarden registrierte Facebook-Accounts. Wir haben eine andere Untersuchung gemacht zwischen Oktober 2018 und diesen Monat. Und wir haben gefunden, in dieser Zeit sind 2 Milliarden neue Facebook-Accounts registriert worden. In dem Zeitraum von einem Jahr mehr oder weniger. Und die gleichen Zeit ist die Zahl der monatlich aktiven Benutzer nur 148 Millionen gestiegen. Facebook hat zwischen Oktober 2018 und Juli 2019 150 Millionen Accounts gelöscht. Wir wissen das, weil wir diese gleiche Stichprobe über eine längere Zeit gezogen haben. Und da könnten wir daraus die Veränderung abschätzen, dass diese 150 Millionen Accounts insgesamt gelöscht wurden. Ich habe hier ein paar hübsche Grafiken für euch gemacht. Die älteren Accounts, das waren 150 Millionen, sind seit Oktober 2018 gelöscht worden. Diese Accounts sind älter als letztes Jahr. Und Facebook behauptet, dass seitdem über 7 Milliarden Accounts gelöscht worden sind. Das ist sehr viel mehr als diese alten Accounts, die wir sehen. Deshalb glauben wir, dass Facebook hauptsächlich diese neueren Accounts gelöscht hat. Und selbst wenn ein Account älter ist als ein gewisses Alter, ist es sehr unwahrscheinlich, dass es gelöscht wird. Und ihr könnt auch sehen, die Skalen hier, die natürlich registrierte Benutzer, also nicht das gleiche wie aktive Benutzer, aber ihr könnt sehen, es gibt sehr viel mehr neue Registrierungen von neuen Benutzern, als es neue aktive Benutzer gibt im letzten Jahr. Also was bedeutet das alles? Das heißt, Facebook wird mit falschen Accounts überflutet. Wir wissen nicht genau viel, aber wir wissen nur diese Nummern. Was Facebook uns sagt ist, sie zählen nur und veröffentlichen nur aktive Benutzer. Ja, wie ich gesagt habe, es gibt einen Unterschied zwischen registrierten Benutzern und aktiven Benutzern. Und Facebook berichtet nur über die aktiven Benutzern. Außerdem besagen sie Benutzer registrierenden Accounts, die sie nicht verifizieren oder benutzen sie nicht. Und das kommt wie diese Nummer, so wie diese Zahl so hoch wird. Aber ich glaube, das erklärt nicht wirklich diese so hohen Nummern, beziehungsweise das sind einfach bei einer Größenordnung mehr als alles, was diese Sachen können. Außerdem behaupten sie, dass sie regulär gefälschte Accounts löschen. Aber wir haben gesehen, das sind meistens Accounts, die sofort nach der Anlegung gelöscht werden. Und wenn sie lang genug überleben, dann kommen sie durch. Was heißt das jetzt alles? Ihr habt jetzt die komplette Übersicht bekommen, die ich über mehrere Monate zusammengetragen habe. Das, was für uns eine wichtige Erkenntnis war. Wir haben hier eine kaputte Metrik, diese ganzen Likes und diese Herzchen und die folgenden. Die können so einfach manipuliert werden. Und es ist so schwierig zu sagen, ob die echt oder unrecht sind. Und das öffnet die Möglichkeit von Manipulation. Da kann man Geld verlieren, wenn jemand Geld investiert oder wenn man Werbung schaltet. Und am Schluss geht da das Vertrauen verloren. Wir können diesen Zahlen nicht vertrauen. Die sind so einfach zu manipulieren, warum sollten wir denn trauen? Und das hat für alle sozialen Netzwerke, in denen man drin ist, die Konsequenz, dass man einfach den nicht mehr glaubt. Was sind die Möglichkeiten? Das erste Problem, was wir haben, ist ClickWorker und das zweite sind Fakes. Die ClickWorker sind hyperaktive Benutzer und verkaufen ihre Hyperaktivität. Sociale Netzwerke könnten einfach hergehen und könnten den Wert von Leuten, die halt viel klicken. Man könnte das einfach weniger gewichten. Das ist ein lösbares Problem. Aber die Authentizität ist ein echtes Problem. Wenn man davon gestoppt wird, dass man halt pro Tag mehrere Hundert Kunden klickt, dann macht man einfach mehr Kunden. Und das kann einfach nur durch Authentizität unterbunden werden. Ich muss wissen, dass eine Person einen Konto betreibt und das ist sehr schwierig zu machen. Facebook weiß nicht, wer klickt. Ist das ein Bord oder ein ClickWorker oder ist das ein ClickWorker für zehn Kunden? Wie funktioniert das? Die sozialen Netzwerke können das gar nicht so richtig hinkriegen. Man kann sagen, man soll den Pass einschicken. Aber das ist keine gute Idee, weil keiner seinen Pass an Facebook schicken will. Das ist also ein echt hartes Problem und das muss gelöst werden, wenn wir soziale Medien in sinnvollen Weise benutzen wollen. Das ist etwas, was man tun kann. Was könnt ihr machen? Ihr könnt euer Facebook-Konto löschen. Ihr könnt euer Instagram-Konto löschen. Ihr könnt einfach von dem Zeug fernbleiben. Aber das ist nicht für alle eine Möglichkeit. Also muss man aufmerksam sein. Man muss es weiter erzählen. Und wenn ihr mehr Details habt, dann sind wir sehr offen für eure Zusendung. Und wenn das weiterverfolgt und am Schluss sagen wir noch mal danke an euch alle, dass ihr zugehört habt. Und wir haben das nicht alleine gemacht. Wir sind nicht drei Leute, sondern sehr viele, die hinter uns stehen, die uns in dieser schönen Forschungsarbeit unterstützt haben. Und jetzt sind wir offen für Fragen. Vielen Dank nochmal an Phil und Dennis. Wir haben überall Mikrofone, neun Stück. Wenn sich das Publikum bitte anstellt, um Fragen zu stellen. Erinnert euch, eine Frage ist ein Satz mit einem Fragezeichen dahinter. Hi, ich habe nur eine kurze Frage. Das Konzept eines Dislike, eines gefällt mir nicht knapp ist. Würde das das Problem lösen? Wir haben darüber nachgedacht, dass Facebook den Like-Button insgesamt wegwirft. Das wäre eine bessere Lösung als ein Dislike-Button. Weil das Dislike-Button kann man eben so manipulieren kann oder schlimmer noch. Man kann das Netzwerk so manipulieren, dass es gewinnt Dinge gar nicht zeigt. Das wäre eben, wäre noch schlimmer. Man stellt sich noch auf was Diktatoren damit tun würde. Also ich denke, das Beste wäre, die Like-Counts nicht mehr zu zeigen. Und dass Leute einfach nichts in diese Zahlen investieren. Hallo, also eine Frage, die ich hatte. Wie habt ihr die Kreations, die IDs, dem Alter der Konten zugeordnet? Wir wissen einfach, die Daten, an denen gewinnte Accounts angelegt worden sind. Und dann haben wir einfach zwischen den Daten angelegt worden und den IDs eine Korrelation interpoliert. Ihr seht, diese schwarze Linie hier, das ist einfach unsere Interpolationslinie. Und mit dieser Linie können wir dann einfach die Daten von bestimmten Accounts, deren Anlegedaten wir nicht kennen, geschätzen. Nachfrage, wisst ihr, warum manche Punkte außerhalb dieser Regierungslinie liegen? Es gab eine Frage aus dem Internet. Habt ihr die Resultate an Facebook gemeldet, haben Sie irgendwas getan? Weil diese Forschung relativ neu ist, also haben wir erst vor sehr kurzer Zeit auf Ihnen zugegangen. Und wir haben eine Antwort bekommen, aber wir haben die Antwort schon gezeigt. Sie sagen, okay, nein, Sie zählen und veröffentlichen nur aktive Benutzer. Sie sagen uns nicht, wie viele registrierte Benutzer Sie haben, weil Sie sagen, manchmal legen Leute Accounts an und benutzen sie nicht. Und Sie sagen, dass Sie regelmäßig die gefälschten Accounts löschen. Aber wir hoffen, dass wir in Zukunft mehr mit Ihnen darüber reden können. Als Sie die Käufer dieser Kampagne identifiziert haben, haben Sie Ihre eigenen Kampagnen gefunden? Nein, weil Sie haben im August aufgehört, die Seite zu scrapen. Und das ganze Projekt startet dann damit, dass Sie uns mit dieser Liste gekommen sind und dann bekannt diese ganze journalistische Arbeit. Aber ich glaube, wenn wir es noch mal tun würden, dann würden wir uns dann natürlich drin erfinden. Wir fanden auch, dass da eine andere Zeitschrift war, die einen bezahlten Like-Test gemacht haben und wir haben deren Kampagne getan. Wir haben auch einen anderen Test gemacht und er kriegten wir auch diese ID und es hat damit gearbeitet. Funktioniert, sie in diese URL reinzumachen und dann sind wir auch zu unserer eigenen Seite weitergeleitet worden. Hi, I am Follohan, ein pakistanischer Journalist. Ich möchte zuerst sagen, ihr seid, ihr habt vollkommen recht, dass in Pakistan Leute sitzen, die einfach nur Likes verteilen. Meine Frage ist jedoch, dass Facebook doch ihr eigenes Werbeprogramm hat, dass sie aggressiv pushen. Und in diesem Ad-Programm, diesem Werbeprogramm, wo Likes uns Kommentare und Impressionen gekauft werden können, würdet ihr solche Likes etc., die nicht wirklich fakes sind, auch so betrachten, was ist eurer Ansicht dazu? Nun, wenn man auf Facebook Anzeigen kauft, dann was man eigentlich haben möchte, sind Fans für die eigene Seite, die tatsächlich in der Seite interessiert wird. Das ist, glaube ich, der die Unterschied zwischen den bezahlten Likes, den System, den belagten Likes, die Leute, die Beteil für bezahlt werden, dass sie Dinge liken, die sie halt normalerweise nicht liken würden. Und ich denke, das ist der fundamentale Unterschied zwischen den beiden Programmen. Deshalb glaube ich, das eine ist unethisch und das andere ist nicht so unethisch. Das Problem ist, wenn man solche Click-Worker kauft, dann hat man viele Seite in der Fanpage, die sich überhaupt nicht für dich interessieren, die Interesse verstehen, deine Produkte nicht, die gucken nicht auf deine Partei, und dann sind auch kaufen diese Leute manchmal diesen Ads, und die werden nochmal den Click-Workers gezeigt, und sie gucken nicht darin drauf. Also die verbrennen Geld mit diesem ganzen korrupten System. Hallo, danke, vielen Dank auch für die Arbeit, die in dieses Projekt geflossen ist. Mein Verständnis, Dach, unterminiert eurer Ergebnis das Vertrauen in Facebook generell. Ich würde nun erwarten, dass der Preis von Likes fällt und auch die Bezahlung von Click-Workern fällt. Habt ihr dazu irgendwelche Resultate? Die Arbeit sind vor einer Woche veröffentlicht worden, und was wir bis jetzt als einen Effekt gesehen haben, ist, dass Facebook paid Likes für den Moment ausgeschlossen hat, also eine Plattform ist weg. Aber ich glaube, da sind so viele da draußen. Ich meinte, das Phänomen von bezahlten Likes sind generell, also der Wert eines Likes als Wert von Glaubwürdigkeit. Das fällt. Ja, deshalb kaufen Leute jetzt Instagram Hafts. Also ja, das Likes ist nicht mehr der heiße Scheiß. Und was wir auch gesehen haben in den Daten, dass die Likes für die Fanpages, die gehen deutlich runter, und die Likes für Posts und Kommentare sind deutlich hochgegangen. Also wir sehen, da gibt es Verschiebungen. Und was wir auch sehen, die Facebook Likes gehen seit 2016 ständig runter. Und was deutlich hochgeht, ist YouTube und Instagram. Und heute ist alles über Instagram. Hallo und vielen Dank für diesen faszinierenden Vortrag. Ich habe dieses ganze Thema schon für eine Weile verfolgt. Ich habe mich gewundert, ob ihr auch in die Demografien, im Sinne von sozialer Klasse etc., von Click-Workern, die diese Likes kaufen, sondern auch die Käufer der Likes betrachten. Besonders im Diskurs über das soziale Kapital in den Vereinigten Staaten, Lehrer, Kinder, die Likes kaufen, um beliebter zu scheinen als ihre Freunde oder andere Lehrer. Das wäre ein wirklich faszinierendes Feld, um sich zu betätigen. Es ist es wirklich, und wir waren auch wirklich sehr von dieser Datensatz mit 90.000 Datenpunkten fasziniert. Und was relativ haus ist, wer kauft Likes, wer ist da drin? Und das war machbar, aber um mehr in die Demografie zu kommen, müsste man einfach jede Seite anklicken müssen. Das haben wir nicht gemacht, was wir gemacht haben. Natürlich, wir hatten ein Team mit drei bis zehn Leuten, und wir haben manuell darauf geguckt. Und was wir gesehen haben, dass auf Instagram und YouTube, wir haben einige angerufen, und sie waren wirklich da. Wir haben in der Kinderstimme geantwortet, ja, ich habe Likes gekauft, ganz tofe Idee. Und man sieht wirklich, es geht weg von dieser, von weg von Industrie und Autohersteller und so was, und es geht mehr zu Instagram und zu Leuten, die Influencer sein möchten. Und ich muss zugeben, hier haben wir euch die politische Seite gezeigt, aber die politischen Likes waren ein ganz kleiner Teil in der Zahl. Und die große, große Mehrheit dieses Datensatzes ist über Heiratsplaner, Tätowierstudies und Influencer, Influencer, Influencer, Influencer und YouTuber natürlich. Vielen Dank. Eine Frage aus dem Internet. Glauben Sie, das wird besser oder schlechter, wenn die Leute zu dezentralisierten Plattformen rübergehen? Ich glaube... Wir holen nochmal die Frage, ob das diese Sache schlimmer oder besser wird, wenn Leute zu dezentralisierten Plattformen gehen. Wir können auf die Slidersync, wir könnten überwürden, dezentralisierten Plattformen ein von diesen beiden Punkten ändern könnten. Und ich glaube nicht, weil sie können nicht dieses Interaktionsproblem lösen, dass Leute hyperaktiv werden können. Das ist einfach normal in den sozialen Medien, dass ein kleiner Teil der Benutzer sehr viel aktiver ist als alle anderen. Das hat man auch ohne, dass man sie bezahlen muss. Also, wenn soziale Medien repräsentativ für die Gesellschaft sind, dann hat man das einfach. Und das andere, auch Authentizität in einer dezentralisierten Plattform, kann man mehrere Accounts haben, die von der gleichen Person betrieben werden. Wisst ihr, ob Facebook die gekauften Likes entfernt, wenn sie entdeckt werden? Nein. Wir wissen das nicht. Wir wissen, dass sie Fake-Accounts löschen, aber wir wissen nicht, ob sie auch die Likes löschen. Wir wissen von den Leuten, die wir angesprochen haben, dass sie die Click-Worker nicht gelöscht haben. Ich habe eine Frage in Bezug auf 1 in 4 Facebook-Konten nur aktiv sind. Habt ihr einen Unterschied in Hinsicht auf das Alter der Konten entdeckt? Verändert sich die Rate aktiver Konten mit dem Alter der Konten? Ja, du fragst über die Dichte der Accounts in unseren ID-Nummern. Ja, da gibt es Veränderungen mit der Zeit. Ich glaube, jetzt ist es weniger, als es früher war. Heute sind es weniger als vier. Früher waren es mehr. Ich weiß nicht. Habt ihr aber nichts Besonderes Spezifisches gefunden, dass jetzt 1 in 10 Konten noch wirklich existiert? Es ist nicht so extrem. Ich muss sagen, wir haben das nicht explizit getestet, aber es gab keine besonderen Fälle. Es hat mit der Zeit sich geändert. Früher war es mehr, heute ist es weniger. Was wir getestet haben, ob eine ID tatsächlich zu einem Account korrespondiert und diese Metrik. Und es hat sich ja über die Zeit etwas verändert, aber nicht viel. Ja, danke für den interessanten Vortrag. Am Ende habt ihr Empfehlungen gegeben, wie man diese Metrik reparieren könnte. Und ich denke, es ist immer sehr gut, sehr nett, eine Metrik zu haben. Aber ich möchte die Frage aufwerfen, ob die quantifiziere Messung überhaupt das Richtige ist. Wenn man Möbel von Laden A kaufen möchte oder mit den Möbeln von Laden B vergleichen möchte, sollte man da wirklich auf die Likes zurückgreifen oder sich eher auf qualitative Kriterien konzentrieren. Ohne sich überhaupt auf Bordfirmen zu konzentrieren. Oder sich auf die Polarisierung wie zum Beispiel bei den Trump gefälschen Nachrichten zu konzentrieren. Könntet ihr darüber überhaupt einen Kommentar angeben? Also ich denke, es ist eine gute Idee, die Likes zu verstecken. Aber wir haben zu vielen Click-Workern gesprochen. Sie machen viele Dankwachen. Aber was sie auch machen, ist, sie schreiben Comments oder machen Copy und Paste für Kommentare oder Amazon Reviews. Und ich denke, es ist sehr schwer, sie aus dem System rauszukriegen. Selbst wenn die Likes nicht gezeigt werden und die Kommentare zählen, dann wird ihr Leute haben, die Kommentare in der Comments-Sektion kopieren und einfügen. Die letzten drei Fragen jetzt. Ganz schnell. Danke für die Einsichten. Ich habe eine Frage über die in Ord der Benutzer. Könntet ihr das anhand der Metadaten der Konten verfolgen? Wisst ihr, wo die Follower herkommen? Wir können das nur analysieren, wenn die Benutzer es öffentlich geteilt haben und nicht alle machen das. Ein Namen anzugucken ist häufig eine gute Sache, um zu sehen, wo jemand herkommt. Aber es kommt immer darauf an, was der Benutzer selbst bereit ist, zu teilen. Ist das nicht nur eine westliche Version des chinesischen Social Credit Systems? Wohin soll das führen? Ja, das ist die Distribute dahinter. Nach dieser Forschung ist es für mich, ich habe mein Facebook-Account vor ein oder zwei Jahren gelöscht. Das betrifft mich nicht mehr so viel, aber ich bin auf Instagram geblieben. Und als ich all diese gekauften Likes und Follower und all diese Views auf YouTube gesehen habe, also diese Click-Worker machen auch YouTube-Views. Sie müssen für 40 Sekunden auf dem Video bleiben. Es ist ganz lustig, sie gucken sich dann Techno an oder Rap und dann machen sie irgendwas anderes für 40 Sekunden. Es gibt diese Illusion über diese sozialen Netzwerks-Dinge und ich glaube, verlasst euch auf gar nichts. Wenn ihr den Content mögt, dann lesen euch durch, aber hinterlasst nichts. Das ist meine Forderung aus der Forschung. Vor einigen Tagen hat der Independent berichtet, dass Facebook die Kamera benutzt, wenn man den Newsfeed liest. Kann man das im Kontext von Fake-Accounts, der Detektion davon benutzen? Ich weiß es nicht. Ich denke, dass es in diesem Beispiel war, wahrscheinlich ein Bug. Ich weiß es nicht, aber die Leute, die bei Facebook arbeiten, sind nicht alles Leute, die absichtlich so was programmieren. Sie sagen, das ist so eine Art Bug von einem Update, das sie gemacht haben. Die Frage ist, ob wir Fake-Accounts mit der Kamera erkennen können. Das Problem ist, dass aktuelle Gesichtserkennungstechnologie genug ist, um zu erkennen, dass du eine einzigartige Person gibst. Es gibt so viele Leute auf dem Planeten, es gibt bestimmt eine andere Person, die das gleiche Gesicht hat. Das neue iPhone hat auch eine viel bessere Version von diesen Technologien. Aber auch sie sagen, es gibt eine Wahrscheinlichkeit von eins zu irgendwas, dass es eine andere Person gibt, die da ein Telefon entsperren kann. Insofern glaube ich nicht, dass man damit zeigen kann, dass es genau eine Person ist. Dies war die Übersetzung von Florian, Oliver und Felix. Ihr könnt uns gerne Feedback über Twitter geben unter dem Hashtag C3T oder durch das Mail an hello at c3lingo.org. Vielen Dank.