 Ich helfe gerne auf diesen Chaos-Veranstaltungen und ich rede auch sehr, sehr gerne darüber. Vor ein paar Jahren sagte darauf mal jemand, CCC, das sind doch die guten. Zu solch einer Wahrnehmung tragen auch unsere beiden nächsten Sprecher bei, indem sie mit Journalismus, Engagement und Talks wie dem folgenden Aufklärung betreiben. Bitte begrüßt mit mir die beiden Netzpolitik.org-Redakteure, Konstanze Kurz und Ingo Dachwitz zu ihrem Talk, Micro-Targeting und Manipulation von Cambridge Analytica zur EU-Wahl. Herzlichen Dank. Ein etwas pathetischer Anfang. Guten Morgen. Wir freuen uns, dass ihr schon so zahlreich einer wach seid. Wir haben uns vorgenommen, über den Cambridge Analytica-Skandal zu reden, aber nicht im Kern, sondern ihn nur als Anlass zu nehmen über die Frage der politischen Manipulation des öffentlichen Diskurses und der politischen öffentlichen Meinung zu sprechen. Wir wollen ein bisschen zurückblicken auf das Jahr 2018, wo diese Debatte erstmals aus meiner Sicht auch international geführt wurde. Und wir wollen so ein paar Ideen, die vor allen Dingen aus Brüssel und Strasburg derzeit kommen, denn die anstehende EU-Wahl bringt so ein bisschen politischen Druck auf. Darüber wollen wir sprechen und wir haben natürlich, wie sich gehört, ein paar Forderungen, von denen wir meinen, dass sie sinnvoll wären, um desaster, wie wir sie quasi in der Vergangenheit in den letzten zwei Jahren erlebt haben, möglichst zu verhindern oder zumindest nicht unerkannt zu lassen. Wir erinnern uns daran, der Skandal, über den wir gleich sprechen, der ist ja eigentlich schon mehrere Jahre lang oder jedenfalls liegt einige Jahre zurück und ich glaube, sich Methoden zu überlegen, wie man in Zukunft diese Form der Hinterrücksmanipulation zumindest erkennen kann, scheint wichtig zu sein. Genau. Und wir steigen ein, würde ich mal sagen, mit einer kleinen Begriffserklärung, einfach nochmal zur Fährgegenwärtigung, weil der Cambridge Analytica-Skandal jetzt ja auch schon ein paar Monate herrs und irgendwie dieses Wort Microtargeting schwirrt manchmal so rum im politischen Diskurs. Wir wollen es nochmal kurz klären. Worüber reden wir eigentlich, wenn wir über Microtargeting sprechen? Gemeint ist die gezielte Ansprache von kleinen und Kleinstgruppen bis hin zu wirklich individuellen Größe mit zugeschnittenen Botschaften grundsätzlich eigentlich politischer und kommerzieller Art. Wir wollen uns heute auf den politischen Bereich ein bisschen fokussieren. Die Grundlage, die Basis für diese gezielte Ansprache beim sogenannten Microtargeting sind Datenprofile. Also zum Microtargeting gehören immer zwei Dinge. Es ist nicht nur das Zuschneiden von Botschaften und das Ausdenden von politischen Botschaften, sondern es ist immer auch der davor geschaltete Analyse-Schritt, die Definition von Zielgruppen und Zielen und das eben auf Basis von Datenprofilen, also so zu demografischen Faktoren, lokale Faktoren, also Ortsdaten, ökonomischer Status, Verhaltensdaten, Vorlieben, Eigenschaften und eben auch auf Basis von psychometrischen Analysen. Was genau das ist, werden wir gleich nochmal ein bisschen erklären. Und diese Methode kommt ursprünglich eigentlich aus dem kommerziellen Marketing, ist inzwischen aber weit verbreitet und immer weiter verbreitet auch im politischen Bereich. Und das sagen wir mal vorweg. Uns geht es ja heute hier weder darum, einzelne Akteure jetzt irgendwie zu beleuchten, sondern eher so ein bisschen strukturell auf die Manipulationsmethoden zu schauen, diesen Baukasten, den es gibt. Und wir werden eben auch nicht in erster Linie über Wirkung sprechen, denn empirische Studien dazu, wie genau eigentlich Microtargeting wirkt, sind rar. Und es gibt sehr unterschiedliche und umstrittene Deutungen dieses Phänomenes. Auf jeden Fall können wir schon mal festhalten, es ist sehr kontextabhängig, wie Microtargeting wirkt und hat sehr viel damit zu tun, welche Akteure es einsetzen, für welchen Zwecks sie eingesetzt werden und in welchem Rahmen sie eingesetzt werden. Wenn man es mal ganz praktisch machen will, so geht in der Regel eine gewisse Analyse, diesen Versuch, einen Kampagnen durchzuführen voraus. Ganz praktisch, wenn man sich mal vorstellen will, wir hatten vor drei Tagen hier einen Vortrag über die Polizeigesetze, wenn man also eine politische Partei ist. In diesem Programm, wo man bestimmte technische Überwachungs- und Kontrollbefugnisse und innere Sicherheitsprogrammen an den Mann bringen will, dann lässt man sich eine ordentliche Wähleranalyse machen, die in der Regel eben auch heute eine Datenanalyse ist. Und dann wird einem vielleicht der Analytiker sagen, naja, ab einem bestimmten Alter spricht diese Message besonders an oder aber auch alleinstehende spricht diese Message besonders an und dann nimmt man genau die Daten, die Ingo sagte und versucht, sehr zielgenaue Nachrichten auszuspielen. Ich glaube, soweit es wird auch im Wesentlichen bekannt. Ich glaube, der Punkt, den man hier machen muss, ist die Granularität. Vielleicht noch in Bezug, da werden wir noch ein bisschen genauer drüber sprechen, zu dem, was Friedrich von Privacy International gestern berichtet hat, über die Frage, es wird eben nicht nur die Benutzer dieser Plattformen sind, sondern auch Menschen, die auch kein Account haben bei diesen Werbeplattformen. Das hat sich längst auf die Mobiltelefone kapriziert, dass die Form von sogenannten Cross-Device-Campaigns, also, dass man versucht auf den Zeitpunkt festzustellen, wo derjenige gerade rezeptiv ist, aber da vielleicht gerade nach Tram sitzt und 11 Minuten Zeit hat für bestimmte Messagen. Man sieht einfach, dass es sich so ein bisschen zuzieht, aber im Wesentlichen bleibt der Kern dieser Technik eben wie beschrieben. Im Jahr 2018 begann diese, also, die Fake News-Debatte ist älter, wenn ihr euch erinnert. Aber der Begriff ist so ein bisschen, zumindest aus meiner Sicht, im Laufe des Jahres ersetzt worden, durch falsche Informationen und Desinformationen. Und wir wollen sozusagen in dem ganz kleinen definitorischen Block, den wir hier so haben, ein bisschen über Desinformationen reden. Wir halten den für sehr viel sinnvoller als dem Büro Fake News. Er ist auch älter und hat vor allen Dingen eine politische Komponente, wie viele vielleicht wissen, der noch Russisch hatte in der Schule, gibt ja ein paar hier. Er kommt aus dem russischen Desinformationen und ist eigentlich so ein Begriff aus der politischen Propaganda der Geheimdienste. Denn schon vor der digitalen Welt wurde natürlich dieser Form von Versuchen, die öffentliche Meinung zu beeinflussen, durchgeführt. Das ist ja nicht neu. Man bedient sich nur der Möglichkeiten, die diese Werbeplattform heute bieten. Und ich glaube, das sollte man auch nicht vergessen. Wir haben so ein bisschen Debatte vor allen Dingen um Großbritannien und den Wahlkampf von Donald Trump. Aber diese Vorgehensweisen sind älter, sie sind orientiert an der Bedürfniswirkung in der Werbeindustrie und haben sich sozusagen eigentlich nur spezialisiert auf bestimmte Ziele. Wir wissen darüber eine ganze Menge. Zum einen, weil dieser Donald Trump Wahlkampf und das Referendum in Großbritannien ja links nicht die Ersten waren, sondern auch schon der vergangenen Obama-Wahlkampf hat benutzt, aber sicherlich hat sich es mehr zugespitzt und waren teilweise die Ergebnisse so knapp, dass anders darüber debattiert wurde. Und außerirdische Player haben in diesen Desinformationskampagnen natürlich eine Rolle gespielt und das hatte zugespitzt. Wir wollen gar nicht so sehr darüber reden, wie wirksam, also im Sinne des Ergebnisses diese politischen Kampagnen sind, weil die meisten der Untersuchungen dazu, vor allen Dingen, die wir uns hier beziehen, sozusagen unsere Quellen sind, sind gar nicht so, sie kommen noch gar nicht zu einem Endergebnis. Viele haben vielleicht die Papiere von den US-amerikanischen Behörden gelesen und es gab ja auch eine politische Debatte darum, aber im Ergebnis im Sinne von Gerichtsfest, dass man jemanden oder einer bestimmten Gruppe was nachweisen kann, da haben wir relativ wenig. Auch die Briten sind in Bezug auf das Referendum und die Behörden, die untersuchen und auch der parlamentarische Ausschuss, haben auch immer, sozusagen, seit der Untersuchung fortsetzt, noch nicht zum Endergebnis gelangt, wenn wir also auch 2019 dann erst erfahren. Noch mal ein paar Sätze zur Ausgangslage, wenn wir über die EU-Wahl reden, die im Mai 2019 stattfinden wird. Wie steht es um die politische Öffentlichkeit? In welchem Kontext finden diese Themen statt, über die wir heute sprechen? Zum einen ist da sicherlich zu nennen, dass wir feststellen können, dass die politische Öffentlichkeit nervös gewissermaßen ist. Wir können eine Polarisierung feststellen, gerade in der digitalen Öffentlichkeit und eben auch ein großes Misstrauen gegenüber einerseits etablierten Medien, andererseits aber eigentlich gegenüber allen Nachrichten, die wir im Netz finden können. Also es herrscht eine große Misstrauenskultur. Und der zweite Punkt, den wir vielleicht zur Ausgangslage noch mal sagen können, ist ein struktureller Punkt. Denn wir können ja feststellen, dass die Grafik die digitale Öffentlichkeit, es gibt zwei Firmen, zwei Konzerne, die essentiell sind eigentlich für die Herstellung digitaler Öffentlichkeit und auch politischer Öffentlichkeit im Digitalen. Und die heißen eben Facebook und Google mit ihren sehr unterschiedlichen Diensten. Also um es nur noch mal aufzuzählen. Facebook, Instagram, WhatsApp, das Facebook-Netzwerk, dann das große Werbennetzwerk, Audience-Network, mit dem Facebook eben nicht nur Web-Inhalte, sondern auch auf eigenen Seiten, sondern auch auf anderen Seiten ausbilden. Und natürlich Google mit YouTube, der Google-Suche, Google News, dem Double-Click-Network und auch dem Analytics-Diensten, die sozusagen enorm wichtig und fast dominierend dafür sind, wie digitale Öffentlichkeit hergestellt wird. Und wir können eben sehen, dass diese beiden Dienste kommen mit diesen Tools für Micro-Targeting an Bord. Die Gehörn sind integraler Bestandteil der Art und Weise, wie Facebook und Google digitale Öffentlichkeit herstellen und strukturieren. Einfach, um also ein paar Tools zu nennen. Also da gehören die Insight-Werkzeuge zu. Also diejenigen, die Seiten betreiben oder Kampagnen betreiben, haben eben weitgehende Einblicke in Nutzungs- und Zielgruppenanalysen. Es gibt sehr einfache Zielgruppenbaukästen für das Ad-Targeting, wo man sich wirklich sehr leicht zusammenstellen kann, wie sieht eigentlich, wie soll die Zielgruppe aussehen, die ich ansprechen möchte, welche Region, welches Alter, welche Eigenschaften, welche Interessen, sozusagen kinderleichtes zusammenstellen. Und dann gibt es, was vielleicht auch einige wissen, aber dann doch irgendwie in der öffentlichen Debatte noch nicht weit genug bekannt ist eigentlich, gibt es die Möglichkeit, sowohl bei Facebook als auch bei Google mit der sogenannten Custom-audience-Funktion das werbetreibende Menschen mit dem Targeting erreichen, zu denen sie vorher schon mal Kontakt hatten. Also wer, wenn ich als werbetreibender, sei es nun politischer oder kommerzieller Art, eine Liste mit Kontaktdaten habe, E-Mail-Adressen, Telefonnummern oder ähnliches, dann kann ich diese bei den Diensten hochladen bzw. mit diesen abgleichen und dann genau die Menschen erreichen, die ich erreichen will. Das über diese Custom-audience-Funktion hinaus gibt es eben auch die Lookalike-audience-Funktionen, wo diese Dienste mir nicht nur den Zugang zu den Menschen ermöglichen, deren E-Mail-Adressen nicht ohnehin schon in meiner Kontaktliste ich habe, sondern Menschen, die was deren Eigenschaften und Datenprofile angeht, genauso oder sehr ähnlich sind wie die Menschen, die ich schon in meiner Datenbank gespeichert habe. Also diese Micro-Targeting-Tools sind integraler Bestandteil der Plattform und sind die Bordmittel, ohne die digitale Öffentlichkeit zumindest auf diesem Plattform nicht funktioniert. So haben wir ja diese, zu sagen, die Datenschutzgrundverordnung, die in Kraft getreten ist und die verschiedenen Behörden in Europa, die dafür zuständig sind und insbesondere besonders betroffenen britische ICO, hat sich natürlich mit der Frage beschäftigt, ob diese Tatsache, gerade so ein Beispiel hat eingebrachte, dass man zum Beispiel eine Adress-Liste hat, eine Mail-Liste oder so, ob die nach der neuen Rechtslage überhaupt noch werden dürfen bei den Werbeplattformen. Also da gibt es einen gewissen Streit. Der britische ICO steht zum Beispiel auf dem Standpunkt, dass das so nicht mehr ginge und hat die politischen, sämtliche politischen Parteien in Großbritannien aufwärft, das so nicht fortzusetzen. Aber das wird sicherlich noch weiter dauern, in solche Fälle letztlich vor Gerichten dann. In Deutschland nur, in der Vollständigkeit. Aber in Deutschland gibt es die Debatte auch, dass bayerische Landesamt für Datenschutzaufsicht beispielsweise vertritt die Auffassung und versucht sie im nächsten Jahr verstärkt durchzusetzen, dass es auf diesen Listen nicht mehr möglich ist, um es zu ergänzen. Bei gewissen Daten war das schon vorher nicht erlaubt. Also etwa, wenn es um Ethnien geht oder andere Formen von Direktdiskriminierung. Aber die Antworten, die im Rahmen dieses Cambridge Analytica Skandals, die wir gleich noch mal ein bisschen kommen, aber auch relativ kurz, waren ja im Prinzip interessant, weil die Konzerne mal Antworten gaben mussten und nach Angaben von Facebook. Also das für das Verhalten genau drei wichtige Kriterien ausgewertet werden. Und das sind zum einen Liking, also wo klickt man hin zum Liking? Zum anderen, ob welche Werbung klickt der Accountbesitzer selbst und welche Apps nutzt er? Wenn man sich natürlich mal überlegt, falls hier Menschen dabei sind, die diese Konzerne benutzen, dann kann man natürlich rückschließen auch auf die Kriterien, die sich wegen des Diskriminierungsverbots nicht nutzbar wären, was nicht direkt nutzbar werden. Aber wir wollen jetzt mal noch kurz auf den Skandal kommen, um nochmal eine Erinnerung zu rufen. Es war ja so ein elendet Facebooker. Im Prinzip hatte man ja im Monat zwei verschiedene Arten von kleinen und größeren Skandalen, über die man gesprochen hat. Und viele haben, glaube ich, vergessen, weil die Essenz dieses Cambridge Analytica Skandals eigentlich war warum der international so riesige Wellen geschlagen hat, sodass sich der Konzernchef sowohl in den US-Kongress wie auch ins Europaparlament setzten musste und das britische Parlament und da seine We Get Back To You Reden gehalten hat. Das war ja eigentlich ein relativ einmaliger Vorgang. Genau, in diesem Maße haben wir eben eigentlich noch nie, oder es gab auch Berichte über Cambridge Analytica bereits seit 2015 eigentlich. Also hätten wir auch schon, aber in diesem Maße haben wir noch nie eine öffentliche Debatte eigentlich in diese Methoden des politischen Microtargeting bekommen. Der Skandal um Cambridge Analytica ist natürlich deshalb ein besonderer, weil A. der Facebook-Konzern betroffen ist und dessen besonders laxer bis verantwortungsloser Umgang mit den Daten seiner Nutzerinnen und Nutzer und andererseits eben im Raumstand und inzwischen eben ja auch bestätigt ist durch die Untersuchungsberichte, dass Daten von Facebook-Nutzerinnen und ihr Wissen beispielsweise für das Targeting in Trumps Wahlkampf eingesetzt worden sind. Also um es einmal kurz abzureppen, worum ging es bei Cambridge Analytica ein ehemaliger Forscher oder damals noch Forscher an der Cambridge University, hat sich zusammengetan mit der Firma Cambridge Analytica beziehungsweise SCL, der Mutterfirma von Cambridge Analytica. Cambridge Analytica gibt es ganz interessante Geschichten zu, wie der Name zustande kommt. Es scheinbar vor allen Dingen ein Konstrukt gewesen, damit man dem US-Manipulatur und damals Trump-Berater Steve Bannon gefallen kann. Was haben die gemacht? Sie haben eine eigentlich ursprünglich für wissenschaftliche Zwecke entwickelte und auch genehmigte App eingesetzt zum Sammeln von umfangreichen Daten, Profilinformationen, Like-Informationen von insgesamt 320.000 Menschen, die dafür bezahlt worden sind, so kleinere Click-Worker sozusagen, die für Suscent-Beträge ja eben diese App genutzt haben, eine mit Facebook verbundenen App und haben dort einerseits ein Fragebogen ausgefüllt, der dazu dient, eine Persönlichkeitsanalyse nach dem sogenannten Ocean-Modell, psychologisches Modell, relativ weit verbreitet und etabliert zu machen, dass einem die Einordnung der Persönlichkeit anhand von fünf Charaktereigenschaften ermöglicht. Die haben aber nicht nur diesen Fragebogen ausgefüllt, sondern eben einerseits einen umfangreichen Datensatz bewusst oder unbewusst über Sichtpreis gegeben, aber auch mit Facebook-Daten und eben über insgesamt 87 Millionen Freundinnen und Freunde, mit denen sie auf Facebook verbunden waren. Und Cambridge Analytica, beziehungsweise diese Forschungsfirma des Cambridge-Forschers Alexander Kogen, haben dann diese Persönlichkeitsanalysen von den 320.000 Menschen, die diesen Fragebogen ausgefüllt haben, gemacht und dann anhand der Facebook-Daten-Ähnlichkeiten, nach Datenprofilen Ähnlichkeiten ausgewertet, sodass sie am Ende psychologische Persönlichkeitsprofile von 87 Millionen Menschen hatten, unter anderem 30 Millionen US-Amerikanerinnen und US-Amerikaner. Diese Daten sind an Cambridge Analytica, beziehungsweise SCL, gegangen. Die wiederum haben sie mit ihren umfangreichen eigenen Datenbanken in den USA, haben die politischen Akteure deutlich mehr, laxeren Zugriff auf Datenbanken über Wahlverhalten und registrierte Wählerinnen und Wähler verbunden und diese genutzt, um die Trump-Kampagne in der politischen Kommunikation zu stärken. Wofür haben sie das eingesetzt? Unter anderem haben sie so beschreibt es, der whistleblower Christopher Wiley, eben ganze passende Informationsökosysteme aus Blocks und Webseiten eigentlich aufgesetzt für die Manipulation einzelner beziehungsweise von Gruppen. Je nach Themengebiet haben sie eben einzelne Blocks und Webseiten aufgesetzt, um den Eindruck einer neutralen Öffentlichkeit oder einer neutralen Berichterstattung zu machen und Leute auf bestimmte Themen dann eben anzusprechen, sei es etwa Waffenrecht oder ähnliches oder die Migrationsfrage. Das ist eine besonders politisch umstrittene Frage. Also muss sich Leute eher polarisieren wirkt. Nicht nur das, dann ist es eingesetzt worden für auch das Microtargeting im Haustürwahlkampf, der in den USA eben eine besonders große Rolle spielt. Also bis zu 32 unterschiedliche Gesprächsleitfäden haben die Haustürwahlkämpfer eben bekommen und wussten in etwa okay, wenn ich jetzt an dieser Tür klinge, welchen Leitfaden muss ich jetzt einsetzen. Und was wir online gesehen haben, ist eine gezielte Negativ-Kampagne gegen Hillary Clinton, bei der die Trump-Kampagne oder pro Trump-Kampagne versucht haben, Leute davon zu überzeugen, Donald Trump zu wählen, weil sie wussten, bestimmte Wählergruppen sind überhaupt nicht zu erreichen für diesen Typen, sondern es ging um strategische Demobilisierung der Gegenseite. Also bestimmte Wählergruppen, in denen Hillary Clinton besonders stark ist, oder klassischerweise stark gewesen wäre, Frauen, People of Color und so weiter, sind mit gezielten Negativinformationen beispielsweise auf Facebook versorgt worden, um die Gegenkandidaten zu diskreditieren. Beispielsweise Frauen haben dann sehr viel Wahlwerbung bekommen, die auf den Seitensprungen oder die Untreue von Bildclinten angespielt haben, um das Bild von Hillary Clinton als wackerer Feministin, dass die demokratische Kampagne so ein bisschen versucht hat, zu zeichnen, eben zu schwächen. Nun ist das Negativ-Campaining in den Vereinigten Staaten sehr viel weiterverbreitet als in den typischen europäischen oder gar deutschen Wahlkämpfen. Man hat natürlich eine andere Form von Manipulationsmacht, wenn eben nicht an alle Gerüchte über Fernsehspots läuft, sondern eben typisiert ausgespielt wird. Es gibt kein Endergebnis, inwieweit tatsächlich Wahlergebnis davon beeinflusst war. Es gibt das klare Ergebnis, dass es eine Beeinflussung gab, aber nicht etwa das Ergebnis, dass es kein Präsident Donald Trump gegeben hätte, ohne diese Form der Online-Manipulation. Wer sich ein bisschen auseinandersetzt mit dem US-amerikanischen Wahlsystem, weiß natürlich, dass man an bestimmten Locationen eine Manipulation sehr viel wirksamer durchführen kann, wenn man etwas über die Verteilung sozusagen weiß. Und so hat natürlich auch Location-Data, also die Frage, wo befinden sich Personen, die den möglichst demotivierenden Message zukommen lassen will, damit sie nicht zur Wahl gehen. Das hat natürlich eine größere Rolle gespielt im Vergleich zu dem Obama-Wahlkampf davor, wo er übrigens kaum kritisiert wurde, wo er auf eine sehr enge Zusammenarbeit gehabt hat. Und am Ende sind es etwa 70.000 Stimmen gewesen, die über den Wahlausgang entschieden haben in drei unterschiedlichen Bundesstaaten. Also so knapp ist diese Wahl am Ende ausgegangen. Okay, wir wollen ein bisschen sprechen über noch ein paar Brexatreferenten. Zum einen, weil das Ergebnis auch so furchtbar knapp war, dass die Untersuchungen im britischen Parlament sehr viel öffentlicher sind und genauer sind. Und weil natürlich die Aussagen, die auch nach dem Brexat, nach dem Cambridge Analytica-Skandal, dann dort dem Macht worden nachzulesen. Aber auch, weil das ACO, die britische ganze Fragenkataloge, sowohl an die Konzerne, wie aber auch an die politische Parteien gestellt hat. Und eben versucht hat, auszuwerten, was ist denn eigentlich, was würde eigentlich wirklich getan? Denn man kann aus meiner Sicht zumindest nicht immer nur diese Werbekonzene und Datenfirmen an die Kantaren nehmen, sondern man muss sich natürlich auch fragen, wie sind denn die politischen Parteien, die ja quasi Aufgabe, die Regulation dafür machen, eigentlich selber daran beteiligt? Da ist ja ein ganz klarer Interessenkonflikt. Denn wir reden hier anders als, glaube ich, gerade am Anfang des Jahres, viel so diskutiert wurde. Wir reden ja über ganz klare Machtfragen. Wenn es tatsächlich so sein sollte, das anders als beim US-Wahlkampf, wo, meine Güte, nach vier Jahren wird da jemand neu, die wird und maximal acht Jahre kann Trump der Präsident sein. So ist denke ich mal die Entscheidung, für ein Land aus der EU auszusteigen, sicherlich für mehrere Generationen eine weitreichende Entscheidung. Also von dem Ergebnis finde ich noch schwerwiegender und knapper. Was haben wir gesehen beim Brexit-Refrerendum oder was haben die Untersuchungsberichte herausgefunden? Wir gehen jetzt einfach mal so ein paar Beispiele durch, um einen Blick noch mal ein bisschen zu erweitern. Unter anderem beim Brexit-Refrerendum ist unter anderem zu sehen gewesen, dass die Pro-Brexit-Kampagnen untereinander fleißig Daten ausgetauscht haben, was natürlich nicht dem Datenschutzgrundsatz der Zweckbindung entspricht. Wenn ich als jemand, der sich für das Thema interessiert, einer Kampagne, meine Daten zur Verfügung stelle beispielsweise Kontaktdaten, gehe ich nicht davon aus, dass meine Daten an andere Konzerne oder weitere Kampagnen, die formell unabhängig sind und eigentlich auch nicht zusammenarbeiten dürfen, weitergegeben werden. Was haben Sie noch herausgefunden? Unter anderem gibt es einen britischen Versicherungskonzern, dessen Geschäftsführung eng verbunden ist mit einer der Leaf-Kampagnen oder war mit einer der Leaf-Kampagnen, die unter anderem dann die Kundenlisten dieses Versicherungskonzerns eingesetzt haben, um zielgerichtet Menschen anzurufen und mit Wahlkampfbotschaften pro Leaf zu bombardieren. Typisch kann man noch sagen, es war eine ganz klassische oder mehr ebige Desinformationskampagne. Die Wahrhaftigkeit der Nachrichten, die ausgespielt wurde, war fragwürdig. Das sind aber auch immer noch Gruppen, die daran auswerten. Wir haben aber schon erwähnt die parlamentarische Untersuchung und die Untersuchung des ICO. Es ist sozusagen wie eine Bundesdatenschatzbehörde, vergleichbar kann man sagen in Großbritannien, ist noch immer nicht abgeschlossen. Genau, und an Betracht der Zeit machen wir die folgenden Beispiele, die Sie im Blick so mal ein bisschen weiter mal eher kurz. Aber wir wollen Sie doch zumindest einmal erwähnen, damit uns mal gehört hat. In Irland hat in diesem Jahr ein Referendum über das bis dato sehr straffe und scharfe Abtreibungsrecht stattgefunden, einen hochgradig polarisierten und in der Öffentlichkeit umkämpften Kampagnen. Und unter anderem konnten wir feststellen, dass in diesem politischen Kampf um das Abtreibungsreferendum nicht nur Akteure aus Irland mitgespielt haben, sondern es öffentlich geworden, dass auch religiöse Fundamentalistengruppen aus den USA beispielsweise die irische Bevölkerung mit Microtargeting versucht haben zu erreichen, haben unter anderem sogenannte Aufklärungswebseiten, Facebook-Kampagnen und so weiter aufgesetzt, um vermeintlich Unentschiedene zu erreichen und mit vermeintlichen Fakten eben aufzuklären. Facebook hat, als es öffentlich wurde, dann irgendwann auch unterbunden, dass Akteure oder zumindest versucht zu unterbinden, dass Akteure aus dem Ausland hier mitmischen dürfen. Also typisch ist eben, weil wir da nur festhalten wollen, dass man mit relativ kleinen Summen, also Summen, die für finanzstarke Länder einfach überhaupt keine Rolle spielen, einen hohen Maße einfach nehmen kann auf eine ausländische Referendum oder eine Wahl. Das ist natürlich auch nicht neu, aber ich glaube auf diese heimliche Hinterrücksartweise und möglicherweise unbemerkt von denjenigen, die betroffen sind oder erst später bemerkt, ist natürlich ein insofern neuer Phänomen. Aber es wird sozusagen noch schlimmer, wenn man einen Blick nach Afrika wirft. Genau, in Kenia hat 2017 ein ebenfalls hochgradig polarisierter Wahlkampf, Präsidentschaftswahlkampf zwischen im Wesentlichen zwei Parteien oder Parteiengruppierungen stattgefunden. Und was wir sehen können, ist, dass in Kenia, wie in vielen afrikanischen Staaten, die Datenschutzgesetze natürlich deutlich schwächer sind und die Parteien über ein erhebliches Maß an eigenen Datenbanken verfügen. Gleichzeitig Zugriff auf Wahlregister haben mit Ausweisnummern, Telefonnummern, Namen und biometrischen Angaben von den zum Wahlen registrierten. Und auch dort haben wir ein gezieltes, groß angelegtes Negative-Campaining gesehen, unter anderem durch die Kampagne des damaligen Präsidenten und auch heute oder dann wiedergewählten Präsidenten Uhuru Kenyatta unter Nutzung beispielsweise, der auch in Deutschland und den USA nicht ganz unbekannten Negative-Campaining-Organisation Harris Media aus den USA. Und was wir da gesehen haben in Kenia, ist, dass eine Entwicklung, die wahrscheinlich so ein bisschen vorwegnimmt, was wir auch in europäischen Wahlkämpfen erleben werden, nämlich, dass sich dort sehr viel verlagert hat in Messenger-Gruppen. Und dass dort sozusagen auch das zielgerichtete Werben, vor allen Dingen dann in zugeschnittenen Messenger-Gruppen, WhatsApp-Gruppen, stattgefunden hat. In denen dann eben auch gezielt mobilisiert wurde und Menschen dann einfach, weil ihre Telefonnummern bei den wahlwerbenden Akteuren bekannt waren, hinzugefügt wurden, ohne gefraucht zu werden und dann dort bombardiert wurden mit Nachrichten. Ich denke, wir wissen ja bereits, dass 2019 so ein bisschen über 20 Wahlen in Europa stattfunden und die EU-Wahl, das ist, glaube ich, interessant, auf die neuen Kandidat zu blicken, betrifft aber natürlich nicht nur WhatsApp, sondern da muss man, glaube ich, auch Instagram im Auge behalten. Das ist ein sehr hollown-money-Modell, ganz gut fahren. Man kann also gucken, wo gehen, wo steigen die Zahlen für Advertisement und dann kann man mal ungefähr sehen, wo die nächsten technisch Interessanten für diese Manipolationsfläche ebenfalls benutzen, Plattformen sind. Das hat sich so ein bisschen kapriziert auf Facebook, liegt aber auch daran, dass natürlich die Nutzung in den verschiedenen Kontinenten sehr unterschiedlich ist. In Afrika ist halt Facebook enorm verbreitet, aber auch die Fütternutzung relativ stark. Wir könnten jetzt noch andere Beispiele nennen, die wir jetzt mal weglassen. In Frankreich ist es sehr intensiv debattiert worden, wie an südamerikanischer Fälle. Wir haben Fälle wie in Kenia, also internationale Fälle, wo sozusagen so polarisiert war, dass er zu Gewaltausbrüchen geführt hat, weil wir so in Europa noch nicht gesehen haben. Wir wollen uns aber jetzt nochmal auf den, ein Beispiel in Österreich nochmal stürzen, weil auch so ein typischer Fall ist, wo man, glaube ich, so ein Muster erkennen kann. Das fühlt sich ja immer soweit weg an. Oder kann man sich, für manche jedenfalls, im österreichischen Wahlkampf, Parlamentswahl und Präsidentschaftswahlkampf haben wir unter anderem erleben können, wie ein Berater und Wahlkampfmanager der sozialdemokratischen Partei, Tal Silberstein, so ganz tief in den Methoden Koffer, der Desinformation oder eigentlich der digitalen Manipulation gegriffen hat, Facebook-Seiten, gefägte Facebook-Seiten aufgesetzt, unter anderem die Seite Wir für Sebastian Kurz, also der SPÖ-Wahlkampfmanager oder Wahlkämpfer setzt eine Seite auf Wir für Sebastian Kurz, die so den Anschein vermitteln sollte, dass dahinter eine ÖVP-Kampagne, die Partei von Sebastian Kurz steht. Einerseits um die Kampagne in Konstanze weist auf die Zeit hin. Unter anderem auch um Daten zu sammeln, eine Facebook-Seite mit 15.000 bis 20.000 Followern am Ende gewesen. Unter anderem um wiederum Informationen über ÖVP-Sympathisanten auf Facebook zu bekommen, die dann mit gezielter Negativkampagne erreicht werden können. Die andere Seite, die Wahrheit über Sebastian Kurz, ging dann in die andere Richtung, um einen SPÖ-Schlag zu geben. Es ist natürlich heftig debattiert worden, kann man sich vorstellen, die Opposition und auch im Parlament. Auch hier ist es nicht wirklich im Ergebnis klar, ob diese Formen der versuchten Kampagnen im Ergebnis wirklich den Ziele erreicht haben. Aber ohnehin ist es natürlich in Österreich der Einsatz von Microtageting und auch verdecktem Microtageting deutlich stärker gewesen. Das Silberstein-Beispiel ist jetzt natürlich ein besonders krasses, aber eben auch natürlich die anderen politischen Akteure haben das eingesetzt. Deutschland, das können wir ganz kurz machen, tatsächlich. Wo die Angst war groß, muss man sagen. Weil die Debatte schon losgegangen war, dann gab es noch, wenn ihr euch erinnert, den Bundestagsack. Die Angst war relativ groß, dass man eine Form von Manipulationen oder von außen nicht so richtig beherrschen könnte. Dass die Leaks, die ja auch in den US-Wahlkampf eine große Rolle gespielt haben, der E-Mails, möglicherweise durch den Bundestagsack auch noch eine Rolle spielen. Also, da gab es eine große Angst und Unsicherheit im Bundestag vor der Wahl. Man muss sagen, dass die Parteien außer einer relativ Washi-Selbsterklärung oder Selbstverpflichtung nicht viel dazu beigetragen haben, diese Angst beiseitezuschieben, zumindest nicht, indem sie aufgeklärt haben. Man muss sagen, dass die Parteien in einer längeren Recherche so ein bisschen zu zeigen, welche Methoden setzen eigentlich die Parteien ein. Auch wie viel Geld setzen sie ein für Online-Campaining beispielsweise und für Targeted Advertising. Man muss sagen, wir sind da eigentlich gegen Wände gerannt. Ingo hat die einfach mal gefragt. Wir sind ja nicht nur diejenigen, die die Regulierung entscheiden, sondern auch selber dafür Geld einsetzen. Also hat sich Ingo hingesetzt und hat die alle mal angeschrieben. Wir haben auch wem und mit welchem Ziel ihr versucht, diese Kampagnen zu fahren, die ihr jetzt nicht desinformationen nennen will, sondern erst mal Wahlwerbung. Und die Ergebnisse sind relativ eindeutig, nämlich fast null. Genau, fast null. Die Grünen sind diejenigen, die tatsächlich Aufklärung oder die am offensten waren in der Kommunikation. Die Linken haben auch relativ viel Einblick gegeben und haben relativ offen darüber gesprochen. Aber FDP, AfD, CDU und SPD waren extrem verschlossen darüber und haben eben wenig dazu beigetragen, eigentlich für Aufklärung zu sorgen an der Stelle. Wir wollen es einmal noch mal runterdampfen, weil wir eben gesagt haben, es geht ja eigentlich nicht um die Beispiele und die einzelnen Akteure, sondern es geht um die Methoden. Also worauf, mit welchen Methoden der Manipulation müssen wir denn rechnen? Worauf müssen wir achten oder worauf sollten wir uns einstellen, wenn wir an die Europawahl 2019 denken? Wir haben sie einfach noch mal so ein bisschen versucht aufzuschreiben. Wir haben sie auch noch mal verführen, also die auf individuelle Persönlichkeitsprofilen zugeschnittenen Botschaften. Wir wollen damit nicht unbedingt sagen, dass der einzelne weder jetzt die Aufgabe kriegt. So sind auch unsere Forderungen, die wir gleich bringen wollen, nicht gestaltet. Aber auch diejenigen, die darüber berichten oder die betroffen sind, müssen sich natürlich mit den Methoden der versuchten Manipulation auseinandersetzen. Soll aber natürlich nicht sagen, der einzelne soll darauf achten, sondern wir sind schon dafür, dass wir eine politische Lösung dafür brauchen und auch eine gezielter Informationssammlung. Genau, diese Liste kann helfen. Wir gehen sie jetzt nicht nur mal im Einzelnen durch, würde ich sagen. Lass uns mal kurz gucken auf die Maßnahmen, die in der EU bereits ergriffen wurden, weil natürlich das Thema in der politischen Debatte auch angekommen ist. Also zum einen gibt es seit Dezember also gerade erst einen sogenannten Aktionsplan. Der ist natürlich ein bisschen größer geraten als nur Gegenmaßnahmen für Desinformationskampagnen zu finden. Aber der Aktionsplan ist von der EU-Kommission. Der hat natürlich erst mal überhaupt Maßnahmen ausgerollt und vorgeschlagen, was dabei blieb es dann. Denn es ist ja nicht so, dass die EU-Regulierung, ob es jetzt eine Richtlinie oder Verordnung oder so, wer schnell durchzudrücken sei. Man hat quasi so eine Art Vorschläge unterbreitet und fordert die einzelnen Länder auf, die umzusetzen. Die sind aber größer als nur Desinformationen. Da geht es natürlich auch um IT-Sicherheit, gar keine Frage, weil man aus den vergangenen Desinformationskampagnen natürlich auch schließen kann, dass strategische Hacks mit benutzt werden. Da geht es um die Schaffung von Stellen. Das heißt, man versucht Informationszusammeln, aber auch ganz gezielte Gegenpropaganda zu bezahlen. Das ist gerade aktuell den Briten auf die Nase gefallen. Denn in Großbritannien wird ganz intensiv darüber gestritten, dass eine von der britischen Regierung bezahlte Klitsche gegen den Oppositionschef eine Kampagne fährt. Das heißt, man hat eigentlich Russen gegen Propaganda machen wollen und plötzlich hat man Jeremy Corbyn den Oppositionsführer quasi sein Ziel und hat ihn als Putin Versteher diskreditiert, wo natürlich große Aufregungen im britischen Parlament gab. Also diese Vorhaben, jetzt bauen wir dieselben Strukturen zur Gegenpropaganda, es in mehreren Ländern schon gescheitert und hat im britischen Fall, den ich eben kurz ansprach, kann man auch gerne nachlesen, das ist das Institute of Statecraft. Dann gibt es auch eine parlamentarische Debatte drüber, jetzt im Dezember hat schon Auswirkungen auf andere Länder, und die haben auch gleich noch Spanien getargetet, wo ihnen von der Regierung benannte Geheimdienstchef nicht gepasst hat, da haben sie dieselben Methoden für ein ausländischer Land angewandt. Wir sehen, der Aktionspartner ist erst mal schön gemeint, aber besteht auch aus Methoden, die ausgesprochen fragwürdig sind und es natürlich in keiner Weise binden, sondern ist erst mal ein Vorschlag und wird viele politischen Parteien überhaupt nicht interessieren, weil sie diese Maßnahmen selber nämlich benutzen wollen. Was man aber mal positiv an der Stelle zumindest bei diesem Aktionsplan sagen muss, natürlich die EU-Kommissionen, ja, finde ich schon, die EU hat natürlich wenig, überhaupt wenig Befugnisse in dem Bereich, aber ein erster Schritt natürlich viel zu spät ist, aber überhaupt erst mal ein Monitoring, der sozusagen dieser Manipulationsmethoden und auch des Themas Desinformation zu machen. Bei einem ersten Treffen im Jahr, im Frühjahr 2018, musste die EU eben feststellen, die Wahlbehörden beispielsweise in den Ländern sind vollkommen blank bei diesem Thema. Es findet da einfach nicht statt. Ja, aber teilweise nicht geantwortet, also die hätten so einen Katalog, die haben manchmal gar nicht geantwortet auf die Fragen. Also es ist nicht nur, dass sie nichts hatten, sondern sie haben auch keine Fragen beantwortet oder Maßnahmen angekündigt und muss auch dazu sagen, wir wollen mal auf die Forderung überlegen. Genau, wir nennen noch einmal der Vollständigkeit halber, dass das EU-Parlament auch Forderungen allerdings unverbindliche zu dem Themenkomplex verabschiedelt hat. Die finden sich in unserer Leseliste, aber auf die gehen wir jetzt nicht mehr ein, sondern wir kommen jetzt mal auf unsere Forderung zum Schluss. Also das Erste ist, glaube ich, was müssen wir auch angesichts der doch ziemlich polarisierende Debatte um die Datenschutz-Grundverordnung nochmal feststellen. Diese Form von in Europa harmonisiert im Datenschutz ist ein Manipulationsschutz. Denn wenn die einzelnen Länder in Europa feststellen, dass die Art wie politische Campaigning mit den, sozusagen mit verschiedenen Datenarten über die Werbeplattform durchgeführt wird, jetzt nicht mehr rechtmäßig ist, dann ist das ein strategischer Vorteil in Europa, wo wir so viele Wahlen haben, um zumindest eine Möglichkeit zu haben, aufzudecken, wenn jemand hinten rum manipulieren will mit einer politischen Kampagne. Und so müssen wir, glaube ich, den Datenschutz auch anders sehen als früher. Er ist ein Manipulationsschutz und wird es in Zukunft sogar noch stärker werden. Denn unsere Profile, den ganzen Tracking, das haben wir bei Friederike gestern gelernt, nimmt ihr eine Masse zu, auch dann, wenn wir keine Facebook-Opfer sind, uns da keine Accounts geklickt haben und wer von euch Google-frei ist, sind wahrscheinlich nicht so viele in diesem Raum. Also da hat sich, glaube ich, gerade verschoben in der Wahrnehmung. Und da sollten wir auch darauf bestehen, dass wir diesen Datenschutz so sehen. Das sind natürlich auch noch ein paar konkrete Forderungen, die wir ganz gerne in Europa hätten. Die wir in den letzten zwei Minuten, wir haben das Zeichen bekommen, noch vorgehen, durchgehen. Ein großer Block ist natürlich das Thema Transparenz. Weil wir feststellen können, dass Wahlkampf hat natürlich immer, oder politische Kommunikation, hat natürlich immer was mit Manipulation oder zumindest was mit Überzeugung zu tun. Aber was wir sehen können, ist, dass die digitalen Plattformen mit ihren Tools es eben ermöglichen, dass eine ganz krasse Asymetrie entsteht, zwischen denjenigen, die politische Kommunikation betreiben und manipulieren wollen und denjenigen, die manipuliert werden. Deshalb ist es unbedingt notwendig, für Transparenz zu sorgen. Also beispielsweise, dass politische Werbung entsprechend gekennzeichnet ist. Da, wo sie ausgespielt wird, für alle immer nachvollziehbar mit einer Kennzeichnung oder zumindest der Möglichkeit, sich das anzuschauen. Wer ist jetzt eigentlich die Person, die mich hier erreicht? Wer finanziert diese Anzeige? Dazu würde natürlich auch eine Informationssammlung zählen. Nicht nur so ein Umfang, also ein Transparenzregister, sondern auch, welche Anbieter bieten Dienstleistungen, also auf der Anbieter-Seite an, welche sind das und welche Einzelndienste werden benutzt, mit welchen Geldern. Das gibt es in manchen Ländern, die Briten haben das etwa erhoben. Das ist ganz interessant, weil man auch über die Daten von 2017, 17, 18 sieht, wohin die Gelder verschoben werden und ob zum Beispiel in Teil schon dieses Cross-Devising fällt und bei welchen Konzernen es landet, mit welchen Summen. Wir reden da etwa zuletzt von 3,2 Millionen Pfund, also gar nicht so wenig. Diese Daten gibt es zum Beispiel in Deutschland nicht. Wir wissen nicht die Anbieter-Seite und wir wissen in Deutschland zum Beispiel nicht, wie viel Wofür ausgegeben wird. Sollten wir ändern, würde aber bedeuten, dass man in Deutschland insbesondere das Parteiengesetz ändern muss. Die Transparenz bei der Parteienfinanzierung. Die sind ja okay in Deutschland, aber beziehen sich nicht so sehr darauf, wohin. Und diese ganze Gleichheit zwischen Kandidaten, so wie man es am Fernsehen hat, gleiche Möglichkeiten einräumen, die sind in Deutschland im Rundfunk-Startvertrag geregelt. Der umfasst aber diese Werbekonzerne gar nicht. Diese Gleichheit der Kandidaten, dass sie in gleicher Weise an die Wähler herankommen, ist so nicht gegeben bei diesen Werbeplattformen. Genau. Das Recht ist das eine. Das andere ist aber auch, dass wir als Wählerinnen und Wähler die Parteien in die Pflicht nehmen sollten. Es kann eigentlich nicht sein, dass die nicht darüber Auskunft geben, woher das Geld kommt, aber wie viel Geld sie ausgeben für bestimmte Maßnahmen und nach welchen Kriterien sie welche Gruppen eigentlich ansprechen mit welchen Botschaften. Dass man denen immer hinterherlaufen muss, dass sie proaktiv dazu gebracht werden, Transparenz und Fakten treue voranzubringen. Psychometrisches Profiling im politischen Kontext, ohnehin schwierig. Also... Ja, diese Art von Faltensauswertung, oh, nee. Also, ich hätte nichts dagegen, wenn das vor allen Dingen für den politischen Campaigning aber vor allen Dingen auf bestimmte besonders anfällige Bevölkerungsgruppen, die besonders schutzbedürftig sind, einfach nicht mehr erlaubt wird. Wir bringen zusammen die Manipul... Insgesamt dieses Ökosystem, dieses Informations-Ökosystem, indem die politische Öffentlichkeit heute stattfindet auf den digitalen Plattformen. Wir kommen auf die letzte Frage. Vor allen Dingen Facebook und Google haben, bilden inzwischen, eine Form der Manipulationsindustrie, die nicht durch kleinere Maßnahmen... Sicherlich ist es wichtig, in kleineren Maßnahmen Transparenz und Verantwortlichkeit herzustellen, aber das Grundproblem ist diese dass die Manipuls von vornherein mitliefert und die ein hohes Missbrauchspotenzial haben, die in die Verantwortung genommen und eigentlich überwunden werden muss. Punkt. Im Übrigen... Das ist der nächste Punkt. Wir werden auch nochmal darüber schreiben und über die Forderungen, die wir jetzt nicht so genau beschrieben haben, schriftlich uns sozusagen bei NetzPolitik.org äußern. Dass Facebook und Google zerschlagen werden müssen. Vielen Dank.