 Herzlich Willkommen zum heutigen digitalen Salon, World Wide Web. Ich bin Lisa Gutemuth, ich bin Programmmanagerin bei dem Projekt Ranking Digital Rights und bin Gastforscherin hier am Institut. Der Digitale Salon ist eine Veranstaltung, die zusammen mit der Kooperative Berlin und uns, dem Humboldt-Institut für Internet und Gesellschaft produziert wird. Heute Abend werden wir von den diskutanten verschiedene Perspektiven zum Thema Digitale Colonialismus hören. Was genau man sich darunter vorstellen muss, wie er sich präsentiert und was zu tun ist. In seinen vielen Formen von den Aktivbetriebenen zu den Versteckten in Algorithmen, der erste Schritt ist, seine Existenz in Formen zu erkennen und sich von dort vorzuarbeiten. Eines der öffentlichsten Beispiele digitalen Colonialismus sind Zero Rating Internet Services, wo Firmen wie Facebook in den Wiktungsländern freien Zugang zum Internet anbieten. Diesen allerdings auf ihr eigenes Dienst beschränken mit dem altouristischen Argument, dass ein wenig Internet- oder Informationszugang besser ist als nichts. Was die aber im Austausch bekommen, sind neue User in den wickelnden Märkten, deren erste Erfahrungen mit dem Internet sie von vorherranen bestimmen können und natürlich den Rohstoff, deren Daten. Was für eine Demografie steckt sich hinter diesen Plattformen? Laut ihren jeweiligen Diversity Reports von 2017 erhält man folgende Angaben. 80 Prozent der Google Tag Angestellten sind männlich. Bei Facebook sind es 81 Prozent und bei Twitter 85 Prozent. Wenn es um ethnischen Daten geht, alle drei haben den gleichen Prozentsatz, nur 9 Prozent der Angestellten sind unter repräsentierten Minderheiten. Der Ingenieure, die Infrastruktur, Plattformen und Algorithmen bauen, die unser Beziehung mit Online-Kommunikation und Informationsbescharfung bestimmen, sind hauptsächlich weiße Männer. Das ist nicht übernachgeschirm, es ist strukturell und systemisch und ist eine Erweiterung, wenn nicht eine Verstärkung der Offline-Dominanz von West-Lecht-Merskinen-Wissensystemen und Marksstrukturen. Was lässt sich tun? Ich bitte euch, diese Expertinnen zuzuhören und eine Auge auf den Strukturellen, Kolonialismus und Strich-oder-Verurteile, die hinter euren alltäglichen Plattformen, Geräten und Informationsquellen stecken zu werfen. Vielleicht sind wir im Raum weder die primären Opfer noch die aktive Ursache dieses Phänomins. Allerdings müssen wir Unrecht erkennen können, um den Statusquo zu verbessern. Vielen Dank für die Einführung, die, glaube ich, schon klar macht, dass wir heute, auch wenn wir wieder nur eine Überschrift oben drüber haben, aber mindestens zehn Strenge haben entlang derer wir diskutieren können. Ich bin gespannt, wofür sich hier die Penelisten entscheiden und nicht zuletzt auch ihr, denn ihr könntet da Platz nehmen und mitdiskutieren. Das ist hier ausdrücklich erwünscht. Es gibt keine Bühne, auf die man hochklettern muss, sondern setzt sich einfach dazu. Wir freuen uns, wenn ihr das wahrnimmt und ich freue mich sehr, dass ihr doch sehr zahlreich erschienen seid. Ich weiß nicht, wie es in eurem Bekanntenkreis ist. In meinem Liegen, glaube ich, jetzt 80 Prozent in irgendeinem Erkältungsbad drin. Also schön, dass ihr hergefunden habt. Und die, die uns im Stream sehen, wir Stream auch, die liegen ja vielleicht im Erkältungsbad, denen auch einen schönen guten Abend. Sie können ihre Fragen und Anregungen Twittern, Hashtag Dicksal, wie gehabt. Da schreibt hin, was ihr wissen wollt. Die Bundestagswahl liegt hinter uns drei Tage grad mal, die erste Legislaturperiode mit einer Partei im Bundestag, die sich in weiten Teilen aus Neonazis rekrutiert oder deren Gedankengut nicht gar so abschreckend findet, liegt vor uns. Das heißt, es ist durchaus an der Zeit, das zu bereden, was wir heute Abend bereden wollen. Wir können drüberschreiben Diskriminierung und wie man ihr begegnen kann. Wir könnten aber auch einfach sagen, Gerechtigkeit und Ausgleich. Wir haben im digitalen Salon schon mal über das Netz als Utopia gesprochen. Vielleicht erinnern sich ein paar von euch. Auch das findet ihr noch online. Da ging es so um diese potenzielle Gerechtigkeitsmaschine, die Erwartungen, mit denen viele in diese eingetreten sind und auch dann die Ernüchterung nach der ersten Euphorie mit der Einige der Diskutanten, da auch schon wieder rausgekommen waren. Ich sehe gerade meine Branche. Entschuldigung, das will ich den Leuten, die online zugucken, nicht zumuten, die Rückseite der Katze zu sehen. Also, seither hat sich die Erkenntnis, glaube ich, doch eher verfestigt als aufgelöst, dass wir es da auch mit einer handfesten Ungerechtigkeitsmaschine zu tun haben. Vielleicht sogar, tja, funktioniert sie als solche auch besser. Das werden wir hier diskutieren. Wir reden drüber mit Fachfrauen, die genau das ändern wollen. Und ich stelle sie euch kurz vor. Lena Simon sitzt bei uns, Technikphilosophin und Politologin. Er arbeitet für den Verein Digitalcourage. Die Älteren unter uns erinnern sich vielleicht noch an Föhbut. Das ist aber schon eine einige Zeitgeschichte. Sie heißt seit 2012 oder so, Digitalcourage. Setzen sich insbesondere ein für Datenschutz und für digitale Grundrechte. Ich habe hier vorbereitet, du warst mal Piratin. Ich habe aber gerade im Vorgespräch erfahren, du bist auch noch Piratin. Wir reden da gleich drüber. Sie hält Vorträge, Lena, gibt Schulungen und denkt über Begriffe, wie Technik-Paternalismus nach. Kommen wir vielleicht auch darauf zu sprechen. Josefine Abrakus sitzt neben mir, ist Afrika-Wissenschaftlerin, lehrt an der Alice Salomon Hochschule hier in Berlin und mitunter auch am Zentrum für Geschlechterstudien an der HU, hat das Institut für diskriminierungsfreie Bildung mitgegründet und schult und forscht dort zu den Themen Diversität und Diskriminierung. Da würde ich dich gerne gleich einiges zu fragen. Und sie hat den deutschen Ableger von Black Lives Matter mitorganisiert. Vielleicht seit ihrem Sommer über die eine oder andere Veranstaltung gestolpert, aber du hast den Monat stattfand, da hast du tatkräftig mitorganisiert und eingeladen. Neben mir sitzt Katlin Berger. Ihr könntet also neben Katlin Berger sitzen. Das ist nämlich euer Platz. Katlin Berger ist Politikberaterin mit den schönen Schwerpunktthemen Freiheit und Menschenrechte, also die dünsten Bretter. Er war Referentin an Forschungseinrichtungen. Er spare ich euch jetzt welchem Einzelnen. Eine muss ich aber mal rausstellen. Ich habe mich im Auswertigen Amt im Koordinierungsstab für Cyber-Außenpolitik, von dem ich bis vor ein paar Monaten gar nicht wusste, dass es den gibt. Wenn ihr euch das interessiert, guckt mal auf deutschland.nova. Da gibt es einen Hörsaal, der sich aus einer Veranstaltung genau dieser Abteilung speist. Aktuell bist du für die Mozilla Foundation unterwegs und zwar jetzt kommt es als Global Engagement-Lied. Und ich habe keine Ahnung, was das sein soll. Ist das eine Botschaft darin oder was ist da dein Job? So nennen mich meine Kollegen tatsächlich gerne. Global Engagement-Lied lässt sich tatsächlich einfach nicht übersetzen. Ein Lied steht nur für die Programmleitung. Wir haben ein Programm, das sich Global Engagement nennt. Ziel ist letzten Endes, eine Brücke zu bauen zwischen Public Policy und Advocacy. Was sind die Trends, die es zu digitalen Themen gibt und wie müssen wir aufmerksam sein, dazu in Mozilla zu warnen? Wir haben eine globale Community, aber es ist nicht selbstverständlich, dass wir wissen, was im globalen Raum passiert. Das heißt, mein Job ist hauptsächlich außerhalb der USA und Europa in Süden zu gucken, was passiert eigentlich gerade? Worauf müssen wir achten? Was sind unsere Partner-Dienetzwerke, mit denen wir zusammenarbeiten sollten oder wie können wir die unterstützen, damit sie sichtbarer werden? Und sich für... Na ja, wenn man letzten Endes dann trotzdem in den Vereinten Nationen diejenigen, weil wir eingeladen werden, das ist halt leider so. Wir kommen ja auf die strukturelle Diskriminierung noch zurück. Mozilla hat halt den Vorteil, dass wir recht gut anerkannt sind. Insofern habe ich oft das Glück, dass ich ihn voransprechen darf und dann für Partner mitunter auch. Und das ist dann schon eher so dieser Botschafteren Aspekt. Ich würde gerne nochmal auf deinen anderen Job als Politikberaterin kommen. Wer engagiert dich denn und erbittet sich von die Expertise zu den Themen Freiheit und Menschenrechte? Ich bin bei Mozilla vor Zeit angestellt. Insofern habe ich keine anderen Engagements als Politikberaterin mehr. Ich habe vor meiner Position bei Mozilla ein Programm geleitet, was ich Cyber Capacity Building nannte, wo ich in Indonesien, Kenia und Chile Zivilgesellschaft trainiert habe, wie man sich in Politikentscheidungsgeschäfte Prozesse einbringt und die ein bisschen inklusiver gestaltet, offener, was gerade in diesen Ländern nicht selbstverständlich ist, aber wo ich zumindest Potenzial gesehen habe, das ganze konstruktiver zu gestalten. Ihr Diskrutantin kriegt ja im Vorfeld immer ein Briefing Text. Ich glaube, das ist der, der auch online ist und fängt an mit, das Internet ist weiß, männlich und englischsprachig. Stimmst du dazu? Ich muss leider sagen ja. Ohne Fußnoten oder mit? Es gibt immer Fußnoten, aber tatsächlich in den globalen Fohnen oder die Fohren, die sich als global und international bezeichnen, ist es nach wie vor so, dass man auch als weiße Frau eine Minderheit ist und ich bin dann immer noch weiß. Also ich habe immer noch sehr viele Privilegien, die ich mitbringe und häufig ist es so, man lädt dann halt den globalen Süden ein, aber man hat ihn halt eingeladen. Das heißt nicht, dass man unbedingt mitgestaltet. Das ist tatsächlich immer noch schwierig. Es verändert sich Schritt für Schritt. Es gibt auch immer mehr Konferenzen im globalen Süden, aber grundsätzlich ist es leider oft so, dass Diskussionen dominiert werden und dass man dann das eine Panel hat, wo andere Leute sprechen dürfen. Nun ist ja, wenn wir mal bei geschlechter Diskriminierung bleiben, lässt sich Facebook zwischen 60 Voreinstellungen wählen von Anthrogön bis Zwitter. Und wenn man sich da strukturell benachteiligt. Ich war mir nicht mehr bewusst, dass Facebook so viele Auswahlmöglichkeiten hat. Aber das ist ja eine andere Frage. Oder weniger durft gefragt, woran machst du die diskriminierten Strukturen fest? An den üblichen Netzwerken, die die Einladungslistennetzen an das definieren. Ich glaube, das ist ein Teilproblem. Es ist einfach eine gewisse Diskussionskultur. Man lädt die ein, mit dem man sich wohlfühlt. Man lädt die ein, die halt schon immer da sind. Weil man kann ja nicht, wenn der mich vorher eingeladen hat, den jetzt einfach nicht einladen. Das ist ja nicht nett. Das ist so ein Effekt, der sich quasi potenziert. Dass die Leute gerne die Leute einladen, von denen sie schon eine Vorstellung haben, was gesagt wird, weil man sich damit wohlfühlt. Das heißt nicht, dass das überall passiert. Ich wäre es überhaupt nicht sagen, dass es keine diversen Konferenzen im Internetbereich gibt. Aber es ist zumindest ein Trend, den man nicht komplett ignorieren kann. Josefine, jetzt können sich digital alle, also in Klammern die Netzzugang haben, mit allen anderen in Klammern, mit allen anderen Netzzugang haben Verbünden, Vernetzen oder auch einfach Austauschen informieren. Direkt ohne Vermittlung, ohne Moderation dazwischen, ohne irgendjemand, der da hin und her markelt. Das müsste ja, könnte man vermuten, entgrenzend wirken, empathiefördern zusammenbinden. Total Bullshit und längst überwunden. Oder ist davon was wahr? Naja, ich glaube, es ist eine Mischung aus Ja und Nein. Also ich glaube, diejenigen, die unter Umständen ähnliche Vorstellungen zu ähnlichen Themen haben, finden sich. Und die haben unter Umständen auch Empathie füreinander. Aber ich glaube schon, auch gerade mit Blick auf Widerstand und Rassismus, dass da natürlich vielleicht auch nochmal deutlicher, oder dass die Positionen sich vielleicht einfach nochmal deutlicher abzeichnen. Naja, also wenn ich jetzt zum Beispiel überlege, das ist jetzt zum Beispiel, was mir spontan einfällt, ich bin von der Zeit angefragt worden für ein Interview und habe im Juni dann ein Interview für die Zeit gegeben zum BLM-Monat, den wir ja in Berlin haben, stattfinden lassen. Und dann relativ schnell, ich glaube, innerhalb von einer Stunde gab es 700 Kommentare, von denen ich behaupten würde, dass, ich möchte mich mal weit aus dem Fenster lehnen und sagen, dass 95 Prozent davon Kommentare waren von Leuten, die sich ganz klar rassistisch positionieren und ganz klar auch gegen Strukturen wie Black Lives Matter beispielsweise. Und hast du irgendeine Idee, wir haben natürlich hier schon ganz oft diskutiert über Hate Speech, was du eine Idee oder ein Ansatz mit dem zu begegnen ist, Kommentarspalte schließen, viel stärker bei solchen Themen moderierend eingreifen, wie würdest du genau an den Punkt rangehen? Naja, ich glaube, das hängt ja von mehreren unterschiedlichen Sachen ab, also ich glaube ein wesentlicher Punkt ist, wie sind die unterschiedlichen, zum Beispiel Unternehmen oder Medien ausgestattet mit Blick darauf, haben die Leute, die das moderieren können, wenn nein, Kommentarspalte schließen, da bin ich, glaube ich, ziemlich klar. Ansonsten, und ich glaube, das ist mit das größte Problem und das zeigt sich unter anderem auch auf Facebook ist, dass diejenigen, die so etwas moderieren sollen, in der Regel keinerlei Ausbildung dazu haben, was eigentlich Diskriminierung konkret bedeutet und wie das aussieht und wo das konkrete anfängt und auch aufhört. Und entsprechend schwierig wird das für die dann auch solche Kommentarspalten zum Beispiel zu moderieren, weil sich natürlich bei jedem einzelnen Kommentar und 700 ist nicht so knapp, würde ich sagen, da ist schon einiges an Beschäftigungszeit mit verbunden. Sich jedes Mal die Frage stellt, ist das schon rassistisch oder nicht? Und ich glaube, da ist es ganz wichtig, dass es Menschen gibt, sozusagen, die eine konkrete Ausbildung dazu haben, sodass sich diese Frage nicht jedes Mal stellt. Du schulst ja tatsächlich auch dazu, genau zum Thema Diversität, Diskriminierung. Wo fängt die an, hast du gerade gesagt? Du schulst ja Leute, die dann Kinder schulen. Also wie gehst du vor, womit arbeitest du? Sagen wir, ich bin eine Grundschullehrerin und sage auch, ich würde mich mal so interessieren, wo fangen wir denn an? Also erstmal würde ich behaupten, nicht nur mit Blick auf formale Ausbildung, aber auch mit Blick auf formale Ausbildung, dass erstmal Klassensstufe, Schultyp und auch Fach unabhängig ist. Also es geht wirklich darum, erstmal ein Verständnis dafür zu bekommen, was ist eigentlich eine Diskriminierung von Rassismus und dann zu schauen, was ist eigentlich mein Selbstbild, was ist mein Weltbild, inwiefern sind sozusagen auch meine Denk- und Deutungsmuster durchaus geprägt von rassistischen Machtstrukturen, um da erstmal sozusagen anzusetzen. Und um das mal mit Blick auch auf meine eigene Arbeit zu sagen, wir machen das sehr stark momentan auf der individuellen Ebene fest, weil es auch für Lehrende beispielsweise keinerlei verpflichtende Ausbildung gibt, sich mit Diskriminierungen wie beispielsweise Rassismus zu befassen innerhalb ihrer Ausbildungen. Und was machst du dann? Also ich komme als Grundschullehrerin zu dir. Du hast ja gesagt, fach ist Wurscht, dann hast du mich und machst mit mir was. Oder fragst mich was oder gibst mir was zu lesen, was machst du? Also in der Regel ist es so, ich mag ja den Begriff Workshop sehr gerne, weil ich tatsächlich meistens dafür sorge, dass die Leute selbst sehr viel arbeiten. Ich gebe nicht so super viel vor, ich versuche, ich gebe auch Input, damit wir sozusagen starten auf einem gemeinsamen Verständnis davon, auf eine spezielle Diskriminierung. Aber grundsätzlich gibt es ganz viel unterschiedliche Arbeitsaufgaben, die zum Beispiel mit Selbstreflexion der Reflexion der eigenen Bildungspraxis einhergehen. Und da könnte zum Beispiel so ein typisches Ding sein, so was wie, was ist der Status quo? Also inwiefern bild ich mich zum Beispiel zum Thema Rassismus? Inwiefern sind Auseinandersetzungen und Diskussionen zu diesem Thema auch in meiner Bildungspraxis? Inwiefern haben die Raum? Inwiefern ist das sozusagen Normalität? Was kann ich jetzt tun auf Basis sozusagen dieses Status quo? Weil oft ist es so, dass Lehrende zum Beispiel große Probleme damit haben, solche Fragebögen auszufüllen, weil sie sagen, na ja, ich weiß ja gar nicht, was ich da reinschreiben soll, also es ist kein Problem. In der Regel ist aber auch das schon ein gutes Zeichen. Wenn ich nicht weiß, ob ich mich zum Thema Rassismus bilde, dann würde ich behaupten, es ist relativ klar, dass das eher nicht passiert. Und die Konsequenz daraus ist aus meiner Sicht relativ logisch, ich muss anfangen, mich zu diesen Themen zu bilden. An Schulbücher und so weiter, wie divers und diskriminierungsfrei sind die denn? Also von diskriminierungsfrei kann in dem Zusammenhang, wie in allen anderen Zusammenhängen, nicht gesprochen werden, sondern tatsächlich ist es so. Und das versuchen wir immer wieder deutlich zu machen, auch wenn wir von struktureller Diskriminierung sprechen. Strukturelle Diskriminierung ist auf allen Ebenen des menschlichen Seins relevant. Das heißt, das zieht sich in, um mal so ein ganz privates Beispiel zu nennen, in Dating rein. Und brechend natürlich, hier sehen wir sowas auch in Schul und Lehr- und Lernmaterialien reproduziert. Das heißt, zum Beispiel mit Blick auf das Thema Kolonialismus können wir sehen, dass wir sehr viele koloniale Kontinuitäten auch da sozusagen in der Ausarbeitung von Lehr- und Lernmaterialien finden. Ein typisches Beispiel ist ein Unterrichtsmaterial zum Beispiel zum Thema Kolonialismus aus der Mittelstufe, also Sekundarstufe 1 ungefähr, in der die Frage aufkommt, welche Vor- und Nachteile hatte die Kolonialzeit als Kolonisierter. Und das impliziert ja schon rein sprachlich, es muss Vorteile gegeben haben. Und da haben wir dann so Argumentationen wie, naja, aber in Namibia beispielsweise wurde die Autobahn gebaut. Und um nur um das mal so diese Diskurse dazu zu parallelisieren, das würde in die Richtung gehen, als würden wir sagen, naja, Hitler ist nicht so schlimm gewesen, er hat Autobahn gebaut. Ja, wird ja auch interessant, dass es... Diese Leute gibt es? Dass es das Argument sozusagen parallel gibt. Und da geht es um die Konvention von strukturellem Rassismus an. Du hast gesagt, ja, da wird nicht nur, sag ich mal, von Personen getragen, sondern es impliziert auf allen Ebenen, egal in welchem Bereich du schaust, Bildung, Politik, Dating, war ein Beispiel, das du gebracht hast. Ich würde einfach nur gerne, damit wir vom selben Reden euch beide fragen, geht dir da konform? Habt ihr Ergänzung? Oder sprecht ihr da von anderen Dingen, wenn ihr von strukturellem Rassismus oder struktureller Ungleichheit redet? Ich würde jetzt lügen, wenn ich sage, dass ich zu strukturellem Rassismus arbeite. Ich bin in der Digitalpolitik unterwegs und drehe das immer positiv. Ich rede über Diversität und Pluralismus, aber ich kann jetzt... Es würde definitiv zu weit werden, wenn ich mehr anmaßen würde, strukturellen Rassismus zu definieren. Was sagst du, Lena? Na ja, also es hängt ja immer mit Privilegien zusammen, beziehungsweise mir fehlt immer das Wort für Nichtprivilegien, also Disprivilegien da stoße ich permanent auf Probleme, auf die Leute, die diese Privileg haben, für mich im Traum drüber nachdenken würden, dass es überhaupt Thema sein könnte. Und das ist aber in den gesamten Alltag, dass es überall integriert. Also ich weiß nicht, wir haben hier ja eine Menge weißer Männer aussitzen, hat irgendjemand von denen schon mal drüber nachgedacht, dass es was ausmacht mit einem Menschen, wenn ich keine Kinderbilderbücher finde, in denen ich mich wieder finde, in denen ich mich identifizieren kann. Weil das ist... Weiße Jungs finden das, überall. Ich weiß nicht, wie viele coole, taffe Vorbilder du in deiner Kindheit in schönen Büchern gefunden hast. Da muss man schon Eltern haben, die da explizit nach suchen und explizit versuchen. Aber dann geht man mit anderen Kindern ins Kino und es ist überall so. Das ist nicht irgendwie was, wo man sagen kann, naja, im Beruf und im Dating-Leben, natürlich spielt es da eine Rolle, aber es spielt eben überall eine Rolle und es wird permanent an jeder Stelle reingedrückt. Und das Schlimme ist, dass es sogar an der Stelle relevant ist, an der es jetzt vielleicht gar nicht mit der Diskriminierung oder mit dem Disprivileg zu tun hat, weil man weiß es ja nicht. Ich habe jetzt mich um eine Stelle bewerbe und hätte fast geklappt, aber der Job ging an einen Mann. Ich weiß irgendwie so, um die 70 Prozent könnte das durchaus was mit dem Geschlecht zu tun haben. Es könnten aber auch die 30 Prozent sein. Es könnten immer auch die 30 Prozent sein. Ich habe nie die Sicherheit, ja, das war es jetzt wirklich, sondern es ist so, ja, strukturell ist das schon wahrscheinlich oder ist es schon gut möglich, dass das jetzt mal wieder Diskriminierung war. Aber ich kann meinen Finger nicht drauflegen. Und wenn wir das jetzt nochmal ins Netz wenden und das ins Blick nehmen und auf dein Kerngebiet mündsen, also als Feministin, dann ist es, kann man sagen, das Netz ist frauenfeindlich oder gibt es da auch einen 70-30-Verhältnis? Das Netz ist erstmal überhaupt nicht feindlich oder irgendwas, das Netz ist ein Kommunikationswerkzeug, ein Kommunikationsverstärker und damit verstärkt es das, was wir reingeben. Das wird damit verstärktes uns und unsere Haltung und entsprechend kann es die feministische Bewegung stärken. Es kann die Transbewegung stärken. Es kann ganz viel stärken, aber es zeigt eben auch, es stärkt eben auch die, die früher an den Stammtischen gesessen haben und wo ich mir den komischen Mist nicht reinziehen musste, die heute irgendwie auf Twitter bei Hashtag Hard Aber Fair ihren gesamten Müll abladen. Das krieg ich halt auf einmal auch mit und auch verstärkt. Das heißt, da ist einfach die Frage, wie gehen wir damit um? Wie mit jedem anderen Werkzeug auch. Okay, dann würde ich dich gerne nochmal dezidiert nach der Piratenpartei fragen. 2010 wolltest du einen Frauennetzwerk gründen innerhalb der Berliner Piraten und da gab es ziemlich starken Gegenwind und du wurdest verwahnt wegen parteischängigen Verhaltens. Da wäre dann der Hashtag gewesen, das war ein Häkelgruppe, das war das böse Schimpfwort, was euch angeheftet wurde. Dann hast du versucht, eine Mailingliste zu etablieren für Frauen. Die wurde auch abgelehnt. Unter anderem fand ich sehr interessant auch von Frauen mit der Begründung, dass sei unfair und benachteilige die Männer und es sei nicht transparent, weil ja dieser heilige Kraltransparenz auch von den Piraten getragen wird. Also, die verstehen sich, verstanden sich schon als eine netzpolitische Avongarde, die das jetzt endlich mal richtig geschneit haben mit der Digitalisierung, was die anderen Parteien in dem Verständnis nicht hatten und haben trotzdem diese Denke aus der Steinzeit. Wie geht das zusammen? Hat das irgendjemand außer dir noch problematisiert? Ja, also es gibt ja jetzt mittlerweile bei den Piraten auch, wobei mittlerweile sind einige schon wieder weg. Es gab dann auch viele Feministinnen, die sich durchaus auch ein bisschen durchgesetzt haben. Es war dann ganz witzig, weil viele sich gar nicht mehr daran erinnern konnten. Also ich habe irgendwie so das Feld geplantiert und deswegen nenne ich mich auch gar nicht mehr Piratin. Also ich bin noch mitgelegt, da mache ich keinen Hehl draus, aber ich bin absolut nicht aktiv, weil ich unterstütze diese Idee, gerade die lokalen Gruppen, da passiert doch durchaus noch was, gerade auch zum Thema Datenschutz. Das bedeutet mir was, aber aktiv verring ich mich nicht ein. Also in einer Avongarde selbst erklärt oder auch de facto zementiert gesellschaftliche Machtverhältnisse. Also denkt in einer Hinsicht fortschrittlich und in einer anderen überhaupt nicht verwahrt, denn Status quo, da ist rückschrittlich. Wie passt es zusammen? Na klar, das ist der blinde Fleck, der mir entsteht, dadurch, dass ich mal wieder ein Privileg habe an einer Stelle und einfach mich nicht einfühlen kann oder reinversetzen kann, wie das ist oder wie das sein kann. Also es gibt eben, es gibt die Situationen, die kann man mir erklären. Wenn du mich irgendwie komisch angaffst, dann fühle ich mich unsicher und dann fange ich an zu stottern. Das ist irgendwie nachvollziehbar. Es gibt die, über die man zwar niemals von sich aus nachgedacht hätte, aber die dann doch irgendwie plausibel klingen, wie das Beispiel mit dem Bilderbuch. Und es gibt aber auch die Fälle, da wäre niemand auf die Idee gekommen mir das überhaupt zu erklären und da wäre auch ich niemals, wie hätte ich aus meiner privilegierten Situation darauf kommen können. Also das kann man auch noch nicht mal zum Vorwurf machen. Ich benutze da immer das Beispiel mit dem Linksverkehr im Kopf oder mit dem Linksverkehr in England, in dem ich, dass mir nämlich selber passiert ist. Ich bin nach England gefahren, 14, Schüleraustausch und wie man so mit 14 ist, ich habe einen Vorsicht, da ist Linksverkehr, weiß ich selbst, kein Problem. Auch meine Mutter sagte nochmal, sei vorsichtig beim über die Straße gehen, ja, ja, gesagt und überhaupt erst verstanden, warum ich dabei vorsichtig sein soll, weil mit 14 fährt mir ja kein Auto, warum soll mich das interessieren. Und dann ist eben dieser Effekt, man guckt nach rechts und das Auto kommt von links und ich werde fast überfahren und denke, ach so, deshalb. Das ist der Moment, das kann man mir noch erklären. Aber niemals wäre ich auf die Idee gekommen und niemals wäre irgendjemand anders auf die Idee gekommen, mir zu sagen, übrigens, der Linksverkehr in England wirkt sich auch auf die Rolltreppen aus. Die fahren nämlich auch andersherum und ich laufe permanent falsch um auf die Rolltreppe und frage mich, was ist denn hier los und erst in dem Moment, wo ich kapiert habe, in Deutschland, da wo ich herkomme, da gibt es eine Regel, nämlich, dass die Rolltreppen Rechtsverkehr haben. Es sei denn, es gibt Ausnahmen, wo ich wusste gar nicht, auf wie viel Feld dann du Expertise hast. Es hat mich dann interessiert, aber ich wusste gar nicht, dass es in Deutschland dann eine Regel gibt. Das war für mich einfach so, warum soll ich auf die Idee kommen, diese Frage zu stellen, ob es dann eine Regel gibt. Mir fällt es überhaupt erst auf, in dem Moment, wo ich im anderen Land bin. Aber in das andere Geschlecht kann ich nicht reinschlüpfen. Ich kann auch nicht in eine andere Hautfarbe reinschlüpfen. Und von daher ist das, wenn da kommt, geht es um Deutschland und sagt, bei uns waren aber die Rolltreppen andersrum, weil auch die ihre eigenen, das vielleicht gar nicht wissen. Und da gibt es also eine Menge, ich sage es sind jetzt mal Geheimnisse, die super schwer vermittelbar sind und in die man sich eigentlich, auf die man auch nicht von alleine kommt, wo man auch niemandem einen Vorwurf machen kann, wo man sich einfach bewusst machen muss, ich habe hier einen Privileg und deswegen habe ich blinde Flecken. Und die Piraten haben damals die Piraten gemacht, die sich nicht mehr und kein bisschen drüber nachzudenken, ob sie dadurch blinde Flecken kriegen. Das ist glaube ich ein sehr gutes Beispiel, um zu erklären, wie Erkenntnis funktioniert. Fatalerweise ist es tatsächlich oft so, musste ich auch schon auf der Leben, man muss leider den Scheiß immer selber machen, also Fehler selber machen, blöde Erlebnisse selber haben. Es nutzt mir recht wenig, wenn ich gesagt bekomme, pass auf und das könnte passieren und da ist nur Untiefe und so. Ich muss halt selber erst, ein Beispiel fast vom Linksverkehr überfahren werden. Wie kann man das denn irgendwie standardisieren, also Erlebnisse, solcher Art verschaffen, damit Wissen vermitteln, die diese blinden Flecken schließen, weil das lässt sich auf alle eure Arbeitsbereiche übertragen. Man muss an den Punkt kommen, an dem jemand merkt, ach so ist das, lässt sich da irgendein Verfahren, irgendeine Blaupause draus ableiten. Also an dem Punkt bin ich noch gar nicht. Ich bin erstmal überhaupt an dem Punkt zu sagen, wenn du ein Privileg hast, denk dran, das bedeutet, du bist an der Stelle blind für Probleme oder Anliegen oder Themen, die Leute haben könnten, die dieses Privileg nicht haben. Du bist da blind und du musst an der Stelle einfach viele Fragen stellen. Du musst nachfragen, wie sieht's aus. Und dann musst du dich natürlich auch ein Stück weit darauf verlassen können, dass du nicht nur Kokolores erzählt kriegst, sondern du musst es auch ernst nehmen können und dich darauf auch einlassen. Und dann gibt es Situationen, wo man es vielleicht nicht ganz nachvollziehen kann und trotzdem sagt, okay, aber kann ich eigentlich nicht gut beurteilen. Von daher akzeptiere ich das jetzt erstmal. Und wenn wir alle da wären, wenn wir da an dieser Stelle schon wären, dann wären wir ja schon ein Riesenschwirt weiter. Und dann könnte man die Frage stellen, okay, wie kann man da jetzt noch weiterhelfen. Aber ich glaube, dieses Nachfragen und sich bewusst machen, das kann ich jetzt eigentlich hier gar nicht beurteilen. Ich brauche mal jemanden, der das beurteilen kann. Hier, kann ich dich was fragen. Ich glaube, das ist schon eine ganz wichtige Sache, die viel verinnern würde. Was sagt ihr? Wie kriegt man diesen blinden Fleck als solchen erstmal ins Bewusstsein, was ja eigentlich ein Widerspruch in sich ist? Der Witz ist ja, dass man den nicht bemerkt. Man wird nie alle blinden Flecken in irgendeiner Form erkennen können. Ich weiß auch nicht, ob das nicht... Du hast vollkommen recht. Auf der anderen Seite denke ich mir, wir können auch nicht von jedem erwarten, permanent jeden verdammten Tag nach 5 blinden Flecken zu suchen. Das ist einfach unrealistisch. Ich sehe einfach nicht, dass die Gesellschaft da ist. Ich glaube, ich würde es auf eine Ebene höher bringen, weil wir ja über Diskriminierung und was das Internet in der Form auch dazu beiträgt sprechen. Das Internet ist ja kein Allheimite. Das ist aber auch keine Dystopie, was gesellschaftlich und politisch bereits gegeben ist. Das heißt, wenn wir unsere gesellschaftlichen Strukturen nicht anpassen, dann verändert sich da auch nichts. Und der Punkt, den ich mache, würde von Genderfragen mal abgesehen oder von dem, was wir auf der individuellen Ebene machen. Es wird halt dann kritisch, wenn wir, und das ist vorhin in dem... Lisa hatte das erwähnt, wenn Unternehmen beispielsweise wie Facebook, wie Google und auch andere Infrastrukturanbieten oder Services anbieten, die aber nach ihrem Code of Conduct, in Terms of Services, wie auch immer, die definiert sind, nach bestimmten westlichen Standards in andere Regionen exportieren. Was heißt das? Wie geht man damit um? Das wurde ich dann als strukturelle Diskriminierung, bestimmte gesellschaftliche Verhältnisse, die wir selber noch gar nicht in unserer eigenen Region durchdiskutiert haben. Es ist ja nicht so, als ob die Nutzerbedingungen tatsächlich so akzeptabel für jeden sind oder als ob sich jeder damit wohlfühlt, dass bestimmte Rechtsdurchsetzung privatisiert wird. Und gleichzeitig wird es bereits exportiert in Länder, die vielleicht noch nicht so viel Infrastruktur haben. Gleichzeitig, das ist ein Punkt, den ich vielleicht zu meiner Arbeit machen würde, zu diesem Zero Rating. Wir haben gerade, bei Mozilla, wir hatten ein Studienauftrag gegeben in verschiedenen Regionen. Es ist relativ klar, dass Facebook überhaupt keine neuen Nutzer online bringt mit diesem Service. Sie versuchen es zwar, aber die Daten sagen eigentlich, es kommen keine neuen Nutzer. Im Gegenteil, sie sind viel, viel smarter, als sich Facebook das jemals gedacht hat. Die haben dann einfach fünf Telefone unter gar nicht miteinander verknüpfen. Das heißt, die Profilerstellung von der Facebook dann profitieren würde, auch monetär, nicht mal die erreichen sie in den Gebieten, wo sie momentan ihren Services anbieten. Wo ich nur sagen kann, ironie des Schicksals haben sie vielleicht auch was gelernt, blinder Fleckerhoben. Weil sie haben tatsächlich mit ihrer Privileg vollkommen unterschätzt, dass natürlich die Menschen wahnsinnig intelligent sind. Und nur weil sie das Internet noch nicht haben, natürlich trotzdem das hacken. Das liegt in der Natur der Sache. Die Menschen machen sich immer das zu eigenem, was sie haben. Und das hat nichts mit ein bisschen zu tun, sondern man sucht sich seine Puzzleteile und bastelt sich das. Und da würde ich dann in dem Fall auch sagen, wie ja, bestimmte Echo-Tambors, wie es immer so schön heißt, bestimmte Räume verstärken sich und auch, man sagt ja immer, die, die wenigstens zu sagen haben, haben am meisten Zeit, das auch dann mitzuteilen. Das verstärkt sich im Internet auch gleichzeitig. Hat das Internet genauer auch diesen Effekt, wie man hackt es sich halt so zusammen, wie man es braucht. Und man macht das, womit man was Besseres schaffen kann. Und damit können auch bestimmte Blind-Sports letzten Endes überbrückt werden. Und das sollten wir, glaube ich, auch nicht vergessen. Also wir können nicht jeden einzelnen Menschen überfordern mit Ansprüchen, aber wir können bestimmte Technologien nutzen, um uns zu informieren. Wir müssen nicht permanent Menschen erschrecken auf der Straße, weil wir fragen, ich verstehe es nicht. Wir können halt auch bestimmte andere Mittel und Grenzen damit überschreiten, aber für mich ist dieses Gleichnis deswegen so wichtig, gerade weil das Verständnis für das Unverständnis weckt. Also weil ich von dieser Vorwurfsposition wegkommen möchte, weil ich genau dieses Verständnis für eine 14-Jährige, die ins Ausland fährt, und ich heute im Nachhinein denke, oh, wie süß, aber ich denk eben nicht, oh, ist die blöd, sondern ich hab auch ein Verständnis dafür und ich hab auch ein Verständnis, wenn über diese Bilderbuchsache noch nie in Weißermann mal nachgedacht hat. Weil das, also darum geht es mir vor allen Dingen, dass dieses Vorwurf wegkommt, so dass ich mal wieder zu jemandem sagen kann, du das, was du da gerade gesagt hast, das war rassistisch, ohne dass der gleich hört, du bist Rassist. Weil wir müssen das aussprechen können. Wir müssen aussprechen können, wenn jemand, der das überhaupt nicht wollte und gar nicht so gemeint hat und eigentlich voll der nette Kerl ist, was er dann zum fünften Mal gehört hat und beim sechsten Mal reproduziert, das müssen wir hinweisen können, ohne dass das gleich wie ein persönlicher Angriff wird. Und wir müssen uns auch mit unserem eigenen Rassismus selbstkritisch auseinandersetzen dürfen, ohne dass wir damit gleich in der Ecke gestellt werden, in die wir natürlich alle nicht hinwollen. Es geht vor allen Dingen darum, den Vorwurf rauszunehmen zu sagen, kann nicht nachvollziehen, aber geh verantwortlich damit um. Da wollte ich dir gar nicht widersprechen. Josefine, was würdest du nochmal auch an dich die Frage nach dem Aufspüren und bearbeitenden Blinder flecken? Wie würdest du, ja, was würdest du darauf entgegnen oder würdest du zustimmen? Genau so sollte das sein, auch jetzt nochmal mit dem Zusatz, was Vorwürfe betrifft oder Verurteilungen betrifft. Ich finde es spannend, dass wir in dem Zusammenhang über so genannte blinde Flecken sprechen, weil Diskriminierungskritik hat erstmal sondern das ist zutiefst ableistisch, wenn wir in dem Zusammenhang von blindheit sprechen. Was wäre dein Terminus? Ignoranz. Es geht schlicht und ergreifend um Ignoranz. Letzten Endes geht darum, dass wir alle beschränkte und einfache Perspektiven haben. Wir sozusagen haben eine Perspektive auf die Welt, die sich sehr stark auf uns selbst bezieht, die sich bezieht und speist aus unseren eigenen Erfahrungen. Und das ist für mich erstmal überhaupt nicht problematisch, da würde ich total mitgehen. Ich denke, das Problem besteht nicht darin, dass wir sozusagen beschränkte Wesen sind auf dieser Welt, sondern ich glaube, die Problematik besteht darin, dass wir darüber nicht sprechen können und dass wir das sozusagen nicht offenbar machen können. Ich glaube, darin besteht das größere Problem. Das heißt, so wie du das gerade ansprachst, meintest, naja, du hast Verständnis dafür, wenn Leute sich über Sachen keine Gedanken machen. Ich weiß nicht, ob ich so weit gehen würde, ehrlich gesagt. Ich weiß nicht, ob ich sagen würde, dass ich dafür Verständnis habe, aber die Frage ist doch viel mehr, wie können wir damit umgehen? Es geht aus meiner Sicht darum, sagen zu können, ein Problematisches, ein Rassistisches, ein Abelistisches, ein Sexistisches und so weiter und so fort, ohne sozusagen, dass das auszusprechen, das Problem an sich ist, weil wir so tatsächlich... Ist das jetzt Theorie oder Praxis, wenn du sprichst, geht das, so miteinander zu reden oder geht es nicht? Das heißt, wenn wir die Diskriminierungskritik insgesamt voraussetzungsvoll, wenn wir die Gesellschaft verändern wollen in eine diskriminierungsfreie, dann bedeutet das, dass wir uns selber arbeiten müssen und es bedeutet, dass wir eine Bereitschaft dazu haben müssen, uns auch Sachen über uns selbst anzuhören und dir auch einzugestehen, die wir unter Umständen, die unsere Eitelkeit vielleicht nicht entsprechen. Das funktioniert definitiv, so wie es eine eure Bereitschaft, also hier zum Beispiel Platz zu nehmen oder Fragen zu stellen oder euch zu dem Gesagten zu verhalten und ich muss eine Drohung hinzufügen, ich war im Sommer schon soweit diesen verdammten Lernstuhl abzuschaffen, weil ich dachte, der hält die Leute eher davon ab zu fragen, als ihre Fragen zu stellen oder ihre Meinung kund zu tun. Ihr könntet ihn jetzt retten. Ach, das ist doch super. Vielen Dank. Sehr schön, wenn du dich kurz vorstellst und sagst, wer du bist, aus welchem Zusammenhang du kommst. Ich bin Luis, 18 Jahre alt und ich bin hier, weil mich mein Papa mitgeschleift hat. Dass es gewisse blinde Flecken gibt, ja, das verstehe ich. Wo ich eigentlich ein bisschen Skepsis habe, ist, nehmen wir mal als Beispiel Rotkäppchen. Sie hatte das angesprochen, Kinderbücher, mit denen man sich identifiziert und auch mit Rotkäppchen konnte ich mich gut identifizieren. Weil es ist ein Märchen für Kinder. Und es gibt auch häufig einen gewissen Interpretationsraum bei Geschichten. So, das ist mir wieder eingefallen. Das gab vor kurzem eine Diskussion über eine neue Interpretation von Harry Potter. Und ich frage mal in die Runde welche Hautfarbe hat Hermine? In der neuen Interpretation ist sie schwarz. Das weiß ich. Frank's Frage funktioniert so nicht. Im Buch findet es niemals ganz genau. Das ist nur unsere Interpretation. So, so wollte ich nur dazu sagen. Na ja, aber okay, versuche ich das noch mal furchtbar zu machen für Diskussion. Was heißt das, um Sachen zu vereinfachen, die vielleicht gar nicht so sind, wie sie in unserem Kopf sind. Unsere Mehrheitsmeinung projiziert die ganze Zeit. Auch Ungerechtigkeiten oder vereinfacht simplifiziert. Also, was helft mir? Ja, natürlich. Dafür sind ja auch gewisse Stereotypen da, dass man sich vereinfacht man kann sich ja wenn man in Deutschland unterwegs ist und sich mit verschiedenen Lokaldialekten auseinandersetzen muss sagt man sich okay, die in Sachsen, die können einfach nicht sprechen und dann funktioniert das schon. Hm. Ich hab Bekannte in Sachsen, ich weiß wovon ich rede. Ja, der Finn hat das Mikro im Anschlag. Ich glaube, ich würde da ein paar Gedanken unterscheiden wollen. Also ich konnte mich als Kind durchaus mit Rotkäppchen identifizieren, definitiv. Ich glaube aber, dass es um zwei unterschiedliche Sachen geht. Und zwar einerseits sozusagen kann ich mich mit Kindermärchen identifizieren und aber auch die Frage werde ich und meine Lebensrealität repräsentiert. Das sind aus meiner Sicht zwei unterschiedliche Aspekte, die ich nicht unbedingt zusammen denken würde, weil Repräsentation bedeutet, dass ich zum Beispiel andere schwarze Kinder in Schulbüchern sehe, die eine positive Rolle spielen. Ich kriege sozusagen Angebote dazu, wer ich auch mal sein kann, wenn ich groß bin, wenn ich mir jetzt zum Beispiel vorstelle, ich hätte in meinem Kinderbuch zum Beispiel eine schwarze Bundespräsidentin gesehen, dann ist das sozusagen ein Angebot, wer ich sein kann, wenn ich irgendwann mal groß bin. Und ich glaube, das sind zwei unterschiedliche Aspekte, die ich nicht unbedingt zusammen bringen würde. Und ein anderer Gedanke mit Blick auf die Frage danach, wie Hermine jetzt interpretiert wird. Und tatsächlich Diskriminierung ist normal und Diskriminierung basiert darauf, dass wir Vorstellungen davon haben, was normal ist. Und deswegen ist es gar nicht notwendig, dass wir zum Beispiel in einem Buch wie Harry Potter eine Beschreibung davon haben, wie jemand konkret aussieht, zum Beispiel mit Blick auf Hautfarbe, sondern das können wir selber füllen, weil wir Vorstellungen davon haben, was quasi normal ist. Aber damit können wir natürlich auch falsch liegen. Und genau das ist sozusagen die Frage, was regelmäßig passiert ist. Wenn ich meinen Namen nicht sage am Telefon, dann denken Leute, dass ich weiß bin. Weil nämlich mir unterstellt wird, als schwarze Person, ich kann nicht besonders gut Deutsch sprechen. Und auch da geht es sozusagen um diese Vorstellungen von was ist vermeintlich normal und was ist es eben nicht. Jetzt waren wir tatsächlich vorhin bei dem letzten Rede, oder möchtest du noch etwas erwidern? Ich will überhaupt nicht... Ich warte bis ich was zu sagen. Ich habe gerade von Kathleen schon eigentlich auf der algorithmischen Ebene und auf der Ebene der Unternehmen Ich will mal ein paar Beispiele nennen. Es gibt Software zur Gesichtserkennung. Die nimmt Gesichter schwarzer Menschen nicht wahr. Also sie sieht sie förmlich nicht. Dann las ich jetzt in Vorbereitung auf heute Abend über einen jungen Mann in Neuseeland mit Eltern aus Taiwan. Der konnte seinen Reisepass in Neuseeland nicht online verlängern, sondern in einer asiatischen Augenform gelesen hat als geschlossene Augen. Also die Software sah nicht, dass er die Augen geöffnet hat. Eine Harvard-Professorin Latanya Sweeney heißt sie, hat ihren Namen gegoogelt bzw. ein Journalist war bei ihr und sie wollte einen alten Aufsatz von ihr suchen, googeln ihren Namen und bekamen Angeboten zu gucken, ob sie vorbestraft sei. Worüber sie sich wunderte und es erst nicht glaubte dass sie den Namen schwarz klingt und in der Tat sie hat sich das dann zur Aufgabe gemacht und beforst. In der Tat ist es so, dass Namen, die so klingen als könnte der oder diejenige, der diesen Namen trägt, schwarz sein, werden abgecheckt und geguckt gibt es da irgendein Problem in Sachen Kriminalität, weil diese beiden Aspekte miteinander assoziiert werden. Wenn ihr das hört, wer ist hier rassistisch der Programmierer, da wir in der Tat meistens mit männlichen Programmierern zu tun haben oder sind es die Strukturen in denen der Programmierer lebt, über die wir ja jetzt gesprochen haben. Ihr merkt, ich versuche noch mal von Harry Potter, wo ich das ein sehr geiles Beispiel fand und auch noch nicht kannte, nochmal den Schritt ins Netz wirklich zu machen. Ich wollte dazu kurz was sagen, weil das ist keine Frage, die man direkt mit derjenige Schuld beantworten kann. Grundsätzlich kann man nur sagen, jeder Algorithmus ist nur so clever, wie die Daten, die er vorher bekommen hat zum Training. Das Problem ist natürlich, wenn die Daten, die man ihm füttert, bereits diskriminierend sind, dann wird das natürlich potentiert. Wenn die Daten auf dich zurückgreifen, auf 50 Jahre Geschichte von Diskriminierung zurückgreifen, wird es nicht besser. Und wenn dann quasi dieser Algorithmus in einem weißen Mann, dann programmieren ist ja nichts anderes als eine Sprache. Das Hauptproblem ist, dass die meisten Programmiersprachen verlangen, was es schwierig macht, bereits in der Programmiersprache eine gewisse Diversität herzustellen. Man muss eine bestimmte Ausbildung mitbringen. Das ist bereits ein Kernproblem, wie die bestimmten Strukturen von Software unter anderem hergestellt werden. Gleichzeitig würde ich jetzt in einem Programmierer nicht per se böse Absicht unterstellen. Oft ist tatsächlich das Ziel, etwas leichter zu machen, spielerisch etwas innovativ herzustellen. Das ist nicht per se diskriminierend. Man konnte einfach nicht finden, weil in seinem Bereich die nicht zur Verfügung stehen. Das ist zum Beispiel ein Problem, mit dem ich mich in meinem Job auch beschäftige. Und wir haben unter anderem bei Mozilla gerade ein Projekt, das wir Common Voice nennen. Weil das auch für Sprachalgorithmen ein Problem ist, um auf deine Dialekte zurückzukommen. Wir haben, wenn wir als Deutsche Englisch sprechen, oft das Problem, dass Alexa, Siri etc. uns sowieso nicht verstehen. Also die Sprachforderung, das ist keine Chance. Die reagiert einfach nicht oder erzählt nicht, dass die Sprachdaten das ist. Wir haben versucht, jetzt zu sagen, sie soll Witze erzählen, das war nicht so gut. Aber das Problem, warum das nicht funktioniert ist, weil keine Sprachdaten zur Verfügung stehen, die in irgendeiner Form für die Software-Entwickler bezahlbar sind. Momentan ist alles proprietär fast, was an Sprachdaten da ist. Und dann keine ausreichende Vielfalt, um Trainingsmaterial zu haben, um diesen Algorithmus so anzupassen, dass er tatsächlich lernen kann. Das ist das Problem, wo jeder Sätze vorlesen kann. Man klickt an, dann stehen einzelne Sätze. Jeder, so viel Zeit, wie er hat, kann manchmal auch nur eine Minute sein, liest Sätze mit seinem Dialekt, mit seinem Akzent vor, um diese Datenbasis zu schaffen. Und tatsächlich um sinnvoll Sprachalgorithmen, die inklusiv sind und auch auf Minderheiten eingehen können. Und auf Lispeln, alles, was nicht der Norm des weißen Amerikaners entspricht, ist der Norm, wo Voice Recognition sinnvoll sein kann. Es sind also enorme Projekte, aber man muss quasi erstmal, wie erreicht man dann die ganzen Dialekte? Das ist ein Projekt, was uns über Jahre beschäftigen wird, aber wir wollen sie zumindest auch als Open Source verfügbar machen, damit auch Entwickler, gerade außerhalb der westlichen Welt, nicht enorme Lizenzen zahlen müssen. Das ist momentan der Fall, um Trainingsdaten zu bekommen und neue Algorithmen zu entwickeln. Also die Daten, die dem Programm zugrunde liegen, sind ausschlaggebend und da muss angesetzt werden? Die natürlich, aber auch das Weltbild derer, die das Algorithmus geschrieben haben, aber eben auch eine zu große Algorithmen- Gläubigkeit, sage ich jetzt mal. Ich kann nicht alles mit Algorithmen lösen. Du hast vorhin von Technik-Paternalismus eines meiner Themen gesprochen. Mittlerweile mein Hauptthema, Technik-Paternalismus heißt, die Technik gängelt mich. Die Technik sagt mir, was ich tun soll und das zu meinem eigenen Besten. Und in dem Moment, wo ich nicht mehr die Möglichkeit habe, zu sagen, ja, du dummes Auto, da liegt ein Rucksack, da muss ich niemand anschnallen, hör auf mich an zu piepsen. In dem Moment, wo ich das nicht habe, habe ich Technik-Paternalismus und in dem Moment werde ich dem ausgeliefert. Ich habe Technik ausgeliefert und gar nicht mehr mitdenken brauche und das auch gar nicht trainiere mitzudenken. Je mehr wir uns in diese Welt begeben, desto öfter haben wir das, ja, ich bin gerade aus dem Zug ausgestiegen, aber im Computer ist er nicht drin. Und dann ist das, was der Computer sagt, die Realität. Das ist eben auch das andere Ding. Je mehr wir Algorithmen da übernehmen lassen und wir akzeptieren, dass zum Beispiel Algorithmen entscheiden, ob wir einen Kredit kriegen oder nicht, die nach sonst was, also die meisten Hintergründe, was da durchläuft an Daten, wissen wir gar nicht, aber so was wie meine Nachbarn und wie zuverlässig die waren und Vergangenheit und Familie und also Spienfaktoren rein, wo ich auch gar keinen Einfluss drauf habe. Aber das ist Realität heute und wir akzeptieren das. Das ist ja so Bank und wenn die Berng sagt, mir leid, hier geht nicht, dann akzeptieren wir das. Da hat der Algorithmus irgendwas ausgespuckt, wir hinterfragen nicht, wie rechnet der eigentlich, wir hinterfragen auch ein paar Hinterfragen mittlerweile, wie Google eigentlich auswählt, was eine wichtige Website ist. Das sind ja alles so Situationen, wo sich potenziell Diskriminierung einschleichen kann und das ja auch passiert. Das ist unser Moment, wo wir sagen, da müssen wir verantwortlich mit umgehen, wir können nicht einfach alles an die Algorithmen abschieben und dann sagen, da habe ich jetzt nicht, das hat der Algorithmus rausgegeben, weil es ja auch nicht genau wie der das macht, aber es wird schon stimmen. Sondern da müssen wir auch ansetzen sagen, das ist unsere Verantwortung, verantwortlich ist immer die Person, die das Ding bedient beziehungsweise, wenn die nicht verantwortlich sein will, die das Ding gebaut hat und einfach ein kritischeres Denken anstoßen. Von daher tragen wir da auch schon ein Stück alle mit unseren Anteil an Verantwortung. Das ist das, was ich auch mit digitaler Mündigkeit meine. Wenn ich nachhage, dann werde ich dem eher gerecht. Wie würdest du damit umgehen? Also Kathleen sagt, weißt noch mal hin auf die zugrunde liegende Datenbasis. Lena sagt, ist aber auch unser aller Verantwortung als Konsumentin und Konsumentin. Bedienen wir das Zeug so, wie es das von uns will und geben wir uns mit den Ergebnissen zufrieden. Was würdest du sagen? Wie ist damit umzugehen, wenn, wie in den Beispielen vorhin geschildert, du sagst, Kreditvergabe in den USA gibt es Programme, die beraten Gerichte oder Richter, ob eine Person wohl rückfällig wird, die im Knast sitzt oder ob man sie auf freien Fuß lassen kann. Was würdest du sagen, an welcher Stelle kann man das knacken oder da reingehen? Ich glaube, es braucht einfach ein umfassendes Wissen dazu, wie Diskriminierung funktioniert. Ich würde da vielleicht noch mal kurz einen Punkt machen zu dem, was du gerade meintest. Das ist nicht unbedingt Diskriminierung, weil es keine böse Absicht dem zugrunde liegt, aber Diskriminierung ist völlig unabhängig von Absicht. Es geht schlicht und ergreifend darum, welche Auswirkungen es auf unterschiedliche Gruppen hat. Es geht schlicht und ergreifend darum, wie wir die Daten erheben oder die Fragen, die wir an Daten stellen, wie wir Daten erheben, ja schon nicht frei sind von diesen Selbst- und Weltbildern. Das heißt, die sind immer schon mitgeprägt auch von tatsächlich Diskriminierungsstrukturen. Und deswegen würde ich da nicht die Verantwortung bei der Einzelperson sehen, sondern genau das ist es, wenn ich erkläre, was Diskriminierung bedeutet. Und das ist eben sowohl im individuellen, also sprich die Person, die real dann Daten zusammenfügt, als auch im institutionellen nämlich, welche Fragen stellen wir zum Beispiel, welche Regeln und Maßnahmen gibt es, welche Gesetzesgebungen gibt es in diesem Zusammenhang sozusagen schon entstehen. Das heißt, es ist wirklich ein ja, ein machtvolles System, was sich auf unterschiedlichen Ebenen immer wieder bedingt und gegenseitig beeinflusst. Von daher glaube ich, ist da auch eine Frage von Schuld in Realität nicht hilfreich, sondern es geht tatsächlich um Verantwortung. Schon deshalb glaube ich, weil Schuld zu schnell zu einem schlichten Eingeständnis unter Umständen führt, aber es nicht zwingt, zumindest mit der Frage verbunden ist, wie können wir damit umgehen, wie können wir sozusagen von hier aus uns weiter bewegen? Jetzt ist das was da flähmisch. Ganz kurz dazu was ergänzen. Nein, frag du ganz kurz, und dann würde ich gerne nach Frage noch stellen. Ich glaube, das Problem, was wir jetzt gerade bei Algorithmen haben, ist, dass wir über ganz verschiedene Algorithmen sprechen. Also auf der individuellen Ebene kann man bestimmte Dinge machen, aber es ist ja nicht so, dass alle Daten, die in Algorithmus fließen, und bestimmte Dinge müssen ja da auch noch mit reinfließen. Die haben wir überhaupt noch nicht angesprochen. Was ich auch noch sehr wichtig finde, also wir sollten irgendwo die rechtliche Ebene und der Rahmen, wo bestimmte Grenzen gesetzt werden und was ist ethisch, was ist verantwortungsvoll, das kommt da alles mit rein, das haben wir noch gar nicht wirklich berührt. Mit Blick auf die Urfürchte, wir werden es auch nicht wirklich noch berühren. Ich würde gerne noch mal, Josephine, nachfragen zu dem, was du gerade gesagt hast, also Kleinsbeispiel war, wir brauchen mehr Daten und ihr generiert die per Open Source, weil Leute Lust haben, diese Daten zu liefern und für diesen Zweck mitzuarbeiten, Unternehmen wie Facebook und so werden darauf nicht hoffen können, dass die User nun auch noch damit finanzieren und mit ihren Daten beisteuern, um so einen Zweck zu erreichen. Es gibt die Forderung, softwarekünftig mit so einer Art Bypack-Zettel zu versehen. Also wenn man jetzt halt nicht diese 100.000 von Datensätzen bekommen kann, dann wenigstens zu sagen, okay, dieses Programm wurde geschrieben anhand von Daten, die wir 2015 aus Twitter abgesaugt haben, und zwar waren 70 Prozent der Nutzer weiß, 60 Prozent waren Männer und alle waren so zwischen 35 und 45, um wenigstens im Grunde zu sagen, Vorsicht, dieses Programm enthält Vorurteile. Würdest du sagen, das ist ein sinnvoller Weg, zumindest zu sagen, dass hier ist nicht die reine Mathematik und die ist sauber und völlig unbeeinflusst, sondern ja klar, also das ist ein Programm, das beruht da und darauf, würdest du das gerne auf den Preis Zettel noch mit dran schreiben? Aber ganz kurz, ich würde tatsächlich gerne erst die Antwort hören und dann... Als Person, die selber leidenschaftlich gerne wissenschaftlich arbeitet, finde ich tatsächlich transparentes Umgehen jetzt zu tiefst wichtig, aber auch das ist aus meiner Sicht insofern wieder voraussetzungsvoll, als das es zwar schön ist, dass ich eine Vorstellung davon habe, was für Daten quasi Materialien mir konkret vorliegen und trotzdem würde das aber auch bedeuten, dass die Person, die mit diesen Daten umgeht, immer wieder auch ein Wissen darum haben muss, sozusagen, dass es Machtstrom schön gibt, wie sich die auswirken und was das bedeutet im Umgang mit diesen Daten. Okay, so, Lu, ist da eine Frage? Ja, du hattest es ja angesprochen, dieser By-Pack-Zettel, wenn der Nutzer weiß, auf Grundlage von welchen Nutzern dieses Programm oder dieser Algorithmus geschrieben worden ist, wie muss dann aber die Nutzerdaten dafür erfasst werden? So, es klingt sich, dein Lösungsansatz nicht schon für sich als Datenschutzlerin im Ansatz. Also, der Vorschlag kam ja nicht von mir. Ich finde den interessant, aber der Einwand ist natürlich sehr relevant. Das heißt, man müsste eigentlich bei allen immer abfragen, ist das okay? Aber man kann natürlich Daten auch Personen losgelöst erfassen und jetzt mal zu sagen, das Geschlecht und die Hautfarbe zum Beispiel mitzunennen und das Alter, das muss ja jetzt noch nicht, dann ist ja nichts auf die einzelnen Personen rückführbar. Also, da kann man ja anonymisieren und das ist auf eine Art und Weise möglich, dass es auch mit dem Datenschutz vereinbar ist. Aber es ist eine wichtige Nachfrage und man muss natürlich auch die Leute fragen, ob sie damit einverstanden sind. Ist dann wieder ein weitergehendes Problem, selbst wenn man das Personen losgelöst machen würde, wie geht man dann mit Social-Media-Accounts von Firmen oder ich kann ja auch für meinen imaginären Hund ein Ein Ein Ein Wie du meinst, wie man die verifiziert, dass hinter der Hand eine Person steckt. Beziehungsweise man muss das ja dann ja auch erfassen, so weil mein Hund, das ist ein Dalmatiner, der ist weiß und schwarz. So dass es ich glaube, da kommen ganz viele Dinge durcheinander. Natürlich kannst du das tun, aber die Frage, die gestellt wurde mit diesem By-Pack-Zettel ist doch, wofür brauchst du diese Daten, was für ein Algorithmus trainierst du? Und wenn da draufsteht, dass unser Daten-Sample, wie ich es dann immer so schön heißt, war 35 bis 45, war es männlich, dann haben die Forscher sicherlich vorher die Daten entsprechend wissenschaftlich aufbereitet und haben eine gewisse Vorstellung davon. Das ist das, was es in diesem Bereich darin gibt. Worum es ja eigentlich nur geht, glaube ich in dieser Idee, ich bin mit dieser Idee jetzt nicht irgendwie sonderlich vertraut, ist deutlich zu machen, dass es eine Grenze gibt und dass die Daten limitiert sind und dass sie damit auch zwangsläufig diskriminierend sind, weil sie nicht alles abspannen können und damit gibt es Begrenzung, was dieser Algorithmus leisten kann. Darum geht es letzten Endes. Das heißt nicht, dass wir genau wissen müssen, das ist unwichtig und das interessiert den Algorithmus auch nicht. Wenn sie ihn interessiert, spätestens dann müssen wir mit dem Datenschutz ganz, ganz, ganz akut nachhaken. Aber darum geht es letzten Endes nicht, weil der Algorithmus oder Algorithmen, von denen wir jetzt sprechen, in der Form Versicherung, Kredite, Google Search, die arbeiten mit dermaßen vielen Daten, dass die Wahrscheinlichkeit, dass dein Damatiner darin Auftauch relativ gering ist. Ich würde von euch gerne wissen, weil leider wie immer die Zeit schon alles ist, bevor ich alle Fragen gestellt habe, ob ihr noch welche habt. Ja, eine Handmeldung sehe ich, könnt ihr nochmal bitte energisch euch zwei Super. Wollt ihr euch zu uns setzen? Knackknack. Vielen Dank, Louis. Ich muss sagen, ich hätte das mit 18 nicht gebracht und finde es super. Danke. Mein Name ist Ulrich Teffer. Ich bin ein Bundesministerium und arbeite in einem bedeutenden Bundesministerium in der Nähe und mache dort Datenschutzrecht. Wir fragen oder raten oder sagen Sie uns weg? Bundesistizministerium. Warum nicht? Mein Problem mit Algorithmen, die mir schon häufig begegnen ist, das Verhältnis zwischen Diskriminierung und Rationalität. Algorithmen sind ja nicht irrationale Diskriminierungsinstrumente, sondern die basieren auf Korrelationen in der Regel und wenn die Korrelationen gefunden werden, dann werden die übernommen. Diskriminierung stellt sich niemand. Das ist die eine Frage, die ich habe. Wo kann man aus diesem Dilemma rauskommen? Beispiel ist der Wohnort. Das wurde vorhin genannt, als Beispiel für Diskriminierung. Es ist auch im Bundesstaatenschutzgesetz verboten, das von Scoring allein auf Wohnort stützt. Aber es ist aus der Sicht eines Algorithms programmiert oder der, der ihn nachher bestellt. Das ist meine zweite Frage. Natürlich rational zu sagen, wenn ich einen Kredit vergebe und jemand wohnt in Neukölln, habe ich vielleicht schlechtere Chancen, dass ich das Geld wieder sehe, als wenn der in Zählendorf oder so wohnt. Ist aber diskriminierend. Die andere Frage für mich ist, Algorithmen verkaufen sich dann gut, wenn die Ergebnisse aus Sicht des Verwenders gut sind. Wenn jemand, der mir einen Kredit gibt, für den reicht es, wenn das Rating so ist, dass er seinen Kreditausfallrisiko minimiert, wenn er das ein oder andere Geschäft verliert, weil jemand zu Unrechten schlechten Scorewert macht, ist ihm das egal, solange er nicht merkt, dass er sehr viele Geschäfte verliert. Also die, die Algorithmen kaufen und letztlich bestimmen, was drinnen steht, sind nicht die Betroffenen. Ich als Betroffener, mir kann ein Byte-Pack-Zettel geben, so viele man will. Ich habe nichts davon. Das war's. Okay. Wer möchte Antworten? Ich kann gerne anfangen. Absolut, das sind extrem komplexe Fragen. Und gerade was Algorithmen angeht, sind wir, Deutschland ist da mit einer der Wortführer, ja auch dabei die Frage zu stellen, wie kann man das transparenter machen und wie kann man eingreifen, wenn notwendig. Gerade wenn Entscheidungen getroffen werden, die mit unterstrukturell diskriminieren sind oder aber Konsequenzen haben, wo es war ja nur ein Einzelfall, muss mit geschützt werden. Genau das sind die Fragen. Also geht es darum, dass es eine Verpflichtung geben muss, dass alle Unternehmen, die mit Algorithmen arbeiten, transparent machen müssen, mit welchen Daten sie machen. Muss es die Möglichkeit geben, dass die Regierung beispielsweise überprüfen kann, den Code, wie der Algorithmus gefüttert wird. Wo viele, die mit Deep Learning arbeiten, sagen, das funktioniert nicht, weil Algorithmen einfach viel, viel schneller sich entwickeln. Teilweise, aber es ist auch nicht so, dass Elon Musk mit seinem Wegkriegen den Roboter kriegt, daran glaube ich bis heute nicht, und es wird auch nicht mehr kommen. Aber natürlich entwickelt er sich weiter und ist extrem komplex. Es dauert sehr, sehr lange und mitunter zu lange, um die Diskriminierung in irgendeiner Form sinnvoll einzufangen. Und deswegen ist es gerade diese ganzen Fakten, die es im Datenschutz gibt, warum man das alles nicht darf, die müssen natürlich auch auf Algorithmen angewandt werden. Das Problem ist, dass wir in der Test-and-Trial-Phase sind, aber dass wir in der Test-and-Trial-Phase sind, dass wir im Fall schlafen, auch um Zweifelsfall wieder rückgängig machen können. Und da muss es einfach auch ein gewisser Mut bestehen, zu sagen, wir müssen das verstehen und wir müssen einen Ansatz finden, der sich umsetzen lässt, ohne das Innovationspotenzial komplett zu runterzufahren. Also das ist eine schwierige Balance. Ich habe da keine Antwort, wie genau so muss es laufen, weil tatsächlich jeder ein Problem ist. Wir sind vielleicht International-Modelle. Welche Art von Schiedsgerichten, Ombudseläuten, wie auch immer Vertrauenspersonen, da reingucken dürfen, wie arbeitet der Algorithmus, mal vorausgesetzt, das wäre dann auch tatsächlich nachvollziehbar. Es gibt Versuche, ohne Frage, aber es gibt ja auch Open AI, also Open Artificial Intelligence. Auch solche Gruppen gibt es, die genau versuchen, solche Konzepte zu erstellen. Es gibt auch Gruppen, die sich mit der Frage auseinandersetzen, was ethisch ist, also ethische Regeln für das Programmieren zu erstellen. Aber momentan ist das alles getrieben und nicht, wo man sagen kann, das ist jetzt das internationale Paradebeispiel auf, also jedenfalls ist mir keins bekannt, auf das man verweisen kann. Ich würde vielleicht Ihnen sicherlich bestens bekannt nochmal Ihren Minister, Ihren noch-Minister zitieren. Der fordert ja genau, dass ein digitales Antidiskriminierungsgesetz und vorurteilsfreies programmieren, wobei wir da wieder bei dieser hohen Eifrage sind. Wer fängt an, vorurteilsfrei zu programmieren? Und ab dem Mai nächsten Jahres gibt es eine neue Datenschutzgrundverordnung. Artikel 15 beschreibt das Auskunftsrecht und das sagt, wenn eine Person von der automatisierten Entscheidungsfindung eines Algorithmus betroffen ist, muss der verantwortlich und das ist jetzt das Zitat, aussagekräftige Informationen über die involvierte Logik sowie die tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person zur Verfügung stellen. Was ist das, Herr Hebel? In die Richtung wollte ich zumindest auch hinaus, dass es natürlich der Anwender hat überhaupt kein Interesse daran, dass es diskriminierungsfrei sein soll. Aber wir als Gemeinschaft haben ein Interesse daran und deswegen müssen wir auch als Gemeinschaft politisch an der Stelle uns hinsetzen, genauso wie mich beim Vorstellungsgespräch keiner fragen darf, ob ich schwanger bin oder Kinder kriegen will, weil mich das in eine Vorstellungsgespräche nicht kommen sollte. Genauso dürfen auch Algorithmen nicht einfach sagen, na ja, es sind doch auch viel mehr Schwarze im Gefängnis in Amerika, also werden die schon krimineller sein, weil das dann sowieso noch dazu ein Fehlschluss ist, der wieder auf Rassismus basiert. Aber da muss auf jeden Fall ein gesellschaftlicher Druck hin, dann es muss natürlich, also eigentlich muss das nicht nur offengelegt werden, ob ein Algorithmus rassistisch ist, sondern es muss einfach verboten werden. Das ist natürlich einfacher gesagt, da ist getan und dann ist auch immer die Frage wo ist die Grenze, was darf man, was darf man nicht. Aber die neue Datenschutz-Gundverordnung ist an der Stelle auf jeden Fall mal einen Schritt in die richtige Richtung. Leider machen wir der Weidel an anderen Stellen 5, 6, 7, 8 Schritte in die falsche Richtung. Dass wir uns die Frage stellen, wie ist ein Algorithmus beschaffen, der nicht diskriminiert. Das wäre schon mal eine wichtige Sache die mir schon seit langem am Herzen liegt ist, dass Software halt einfach frei sein sollte und man den Quellcode reinschauen können muss, weil nur dann ist es nicht totalitär. Ich vergleiche das immer gerne mit dem Start, wenn ich nicht ins Gesetz reinschauen kann. Vielleicht verstehe ich es nicht, dann kann ich mir einen Juristen engagieren und sagen, hier interpretiert das mal für mich. Aber ich muss das können, sonst weiß ich ja gar nicht in was vom System ich mich bewege. Und gleiches gilt für mich auch, wenn ich nicht die Möglichkeit habe zu gucken, was macht die eigentlich? Worauf basiert eigentlich diese Entscheidung, die die jetzt hier trifft? Und auch wenn ich selber nicht verstehe, kann ich mir trotzdem meine Anwältin, meine Informatikerin meines Vertrauens nehmen und sagen, schau mal für mich da rein. Und deswegen muss Software frei sein. Das ist ein ganz wichtiger Punkt, das schützt noch nicht vor Diskriminierung, aber wäre erstmal ein Schritt in die richtige Richtung. Okay, da sind wir ja auch wieder, glaube ich, in unserer Gesprächsreihe ist das Utopia, aber da haben wir nämlich genau solche Sachen diskutiert in der alten Seilung. Wie würdest du, Josefine, auf diese Frage antworten, wo kann und muss man da ansetzen? Weil die technische Entwicklung natürlich wie in allen Bereichen da auch der Rechtsprechung und der Rechtschreibung, also der Gesetzesarbeit, davon läuft. Also wie kommst du da rein, genau an diesen Punkt? Zugegebenermaßen gar nicht, weil das überhaupt nicht mein Thema ist, sondern die Fragen, die ich mir stelle mit Blick auf Verwendung von Medien, beispielsweise sozialen Medien, sind einfach völlig andere. Also die Fragen, ich stelle mir viel mehr Fragen zum Thema Zugang. Wie kann etwas zugänglich sein für Personen, die Screenreader zum Beispiel verwenden? Wie kann etwas zugänglich sein für Leute, die taub sind? Welche Leute haben überhaupt Zugang zu Internet, weil ich mich ja viel mehr beschäftige mit Fragen von Widerstand zum Beispiel über soziale Medien? So, dann aber noch mal nachgefragt, wie ist diese diese Kluft aufzuholen zwischen dem Verfertigen von Gesetzen und dieser langsamen Mühle, in der das dann alles umgesetzt wird und aufs Gleis gebracht wird und der technologischen Entwicklung. Wenn wir dann jetzt nochmal wenn ich nochmal zusammenfasse, was ihr drei jetzt gesagt habt, würde ich sagen, das worauf ihr euch einigen könnt ist, es ist ein gigantisches Bildungsprojekt. So, es gibt eine Aktivistin, die sagt Moment der Algorithmic Justice League. Jeder Programmierer muss sich stets fragen, wen er gerade vergisst. Klingt super, ich frag mich aber, wie realistisch ist das? Ja, aber das ist die Frage, die sich Diskriminierungskritik ja grundsätzlich stellt. Wen kann ich alles nicht mitdenken? Und was kann ich dafür tun, um die mitzudenken? Und dann kommen wir tatsächlich in Richtung von Repräsentation, dann kommen wir in Richtung von Diversität und dann kommen wir dazu, dass es Teams sein müssen, die unterschiedliche Perspektiven haben und auch unterschiedliche Erfahrungen mit Blick auf Machtstrukturen. Bündige Antwort, muss ich mal sagen. Es gab noch ein, okay, das war, ging in eine ähnliche Richtung, gibt es weitere Fragen, weil das ist jetzt so was wie Last Call, sonst bleibt sie ungestellt. So jetzt bloß nicht bewegen. Okay, der Herr Vater, bitte schön. Ich greife nochmal das Kinderbuch auf. Ich vereinfache mir viele Sachen, die im Netz passieren, mit dem, wie es war, bevor es das Netz gab oder bevor es digitale Lösungen gab. Weil sich in meisten Fällen herausstellt, dass die digitalen Lösungen nichts anderes waren als was, was früher das Fernsehen oder was auch immer war. Wenn ich das Kinderbuch nehme und was du geschrieben hast, dann sind alle Menschen weiß und die weiße Bundeskanzlerin und ich sehe mich da. Oder Frauen oder schwarze Frauen haben keine Perspektive, die sie sehen können. Wenn ich das vergleiche mit den Algorithmen, die von weißen Männern gemacht werden, ist das nicht das gleiche oder es gibt Sorten einen Unterschied zwischen der digitalen Welt, die ich jetzt mal mit einem Kinderbuch vergleiche, was ein Buch verlagt, hinter dem ein Buch verlagt steht, der von weißen Männern gemacht wird, die dieses Buch herausgeben und das Buch herausstellen, indem ich mich genauso wenig wieder finde. Ist das das Gleiche in Grün oder gibt es da eine, mache ich es mir so einfach? Ob die Strukturen, die in dem einen Beispiel wie in dem anderen greifen, vergleichbar sind, ähnlich sind. Wenn es nicht hinkt, ist es kein Vergleich. Natürlich kann man da jetzt bestimmt an diversen Stellen, je länger man drüber nachdenkt, dass so mehr Stellen werden im Auffallen, aber letztlich ist es wahrscheinlich sogar kein so schlechtes Bild für aus einer diskriminierenden Gesellschaft, entstehen eben auch wieder diskriminierende Produkte und das muss nicht eine böse Absicht sein. Also jemand, der ein Kinderbuch über einen mutigen Jungen schreibt, der sich irgendwie mit einem Drachen anfreundet oder was auch immer, der macht das im besten Sinne und das spricht ja auch gar nichts dagegen. Es wird ja sozusagen im Gesamtkontext dann zu einem Problem. Und von daher, also erstmal fällt mir nichts ein, wo ich laut sagen würde, nein, das sprich dagegen, aber das könnte noch kommen. Also ich habe was, wo ich finde, der Vergleich hinkt, wo im Prinzip der Algorithmus schwerwiegender ist, weil er in zwei für zwei sehr viel deutlichere Konsequenzen auf das Leben von einzelnen Menschen hat. Das Kinderbuch können wir lesen, ich kann aber auch ein anderes lesen, wenn der dann entsprechend diskriminierend mit Daten gearbeitet hat. Insofern ist es ein Ausdruck dessen, was in der Gesellschaft bereits problematisch ist, hat im Zweifelsfall aber sehr viel schwerwiegendere Konsequenzen, weshalb es so extrem wichtig ist. Ich würde jetzt nicht sagen, wir brauchen kein neues Internet-Gesetzbuch, irgendwas, sondern Rechte, die wir bereits haben, müssen genau um Digitalenzeit auch umgesetzt werden. Die Umsetzung ist extrem schwierig, weil bestimmte Dinge einfach wahnsinnig komplex sind. Ich würde sagen, die schwerwiegenden Folgen sind in dem Fall tatsächlich... Das sollte man bei solchen Vergleichen übrigens immer bedenken, wie gesagt, dass Internet verstärkt, Kommunikation verstärkt das, was wir ohnehin schon gesellschaftlich hatten. Das heißt, wenn ich digital und analog vergleiche, meistens ist da ganz der Mensch in der ganzen Geschichte es gleich geblieben. Der hat sich kaum verändert. Wenn man Kant liest, der konnte mal glauben, der hat über Apple geschrieben. Es gibt wirklich Stellen, wo man denkt, der Mensch hat sich nicht viel verändert, aber die Technik verstärkt es. Und von daher sind bei solchen Vergleichen von der Warte immer schwierig, weil es viel größerer Ausmesser haben kann. Das, was du jetzt beschrieben hast, hört sich erst mal an wie, okay, ich kann ein anderes Kinderbuch kaufen, aber im Netz gibt es nur Monopole. Das ist ja kein Problem des Algorithmus, sondern einer Monopole-Bildung. Ja, das ist das, was ich vorhin kurz versucht habe, anzudeutend zu sagen, wir sollten vielleicht auch mal kurz unternehmerische und strukturelle politische Ebene kommen, weil das Problem ist, wenn wir immer vom Individuum ausgehen, dass wir genau diese Strukturen, dass wir momentan sehr stark, gerade im Internetbereich, Monopole haben, die mitunter vielleicht auch mehr Macht haben, als manche Staaten in der Lage sind, einzuschränken, dass es ein Problem ist. Und das gleichzeitig natürlich, der Vorwurf kommt, wenn zum Beispiel die EU sich gegen Google wendet oder gegen Facebook wendet, und es gab mehrere Urteile, dass es dann als Protektionismus gilt, dass die Fragen, die sehr auch emotional geführt werden, aber geführt werden müssen. Und da war jetzt einfach überhaupt gar keine Zeit drüber zu sprechen, aber definitiv sind das Fragen, mit denen wir uns auseinandersetzen müssen. Wir müssen natürlich auch ein Wettbewerb im Netz herstellen. Und im Moment sehe ich so was, was so ein bisschen wie die Imperien, die sich hervorheben, und wir müssen sehr stark Dezentralisierung weiterhin fördern und Offenheit, worauf das zurückgekommen ist. Auch das kann dabei helfen, ich denke, ich kann diese Perspektive nur in Teilen teilen, und zwar deshalb, weil ich nicht behaupten würde, dass die Auswirkungen, und das eine tatsächlich schlimmer sind, als die Auswirkungen, und das andere sind einfach unterschiedliche Auswirkungen. Ich würde die gar nicht direkt gegenüberstellen, weil tatsächlich würde ich sagen, mit Blick zum Beispiel auf den Kinderbuchmarkt, auch da gibt es definitiv Monopole, und es ist kein Zufall, dass viele Gruppen nicht repräsentiert werden. Von daher würde ich mit dieser Aussage von, na ja, dann kaufe ich mir einfach ein anderes Kinderbuch nicht direkt mitgehen. Ich würde gerne zum Schluss ganz simpel euch fragen. Nach allem, was wir gesagt haben, ich hatte ja schon gesagt, es ist so eine Art Matrioshka, man guckt in das eine Püppchen rein, da sind noch tausend andere Probleme drin, und es sind verschiedene Ebenen auf der individuellen Ebene, auf der Ebene der Plattform, auf der Ebene der Programmierer, auf der Ebene der Justiz, und nicht zuletzt auf unserer aller Ebene, nämlich der User und Userinnen und der Konsumentin, und am Ende euch gerne noch fragen wollen, tatsächlich einfach so was dämlich Blödes wie ein Surf-Tipp, guckt euch das mal an. Die Visionärin, die Idee, die Seite, die euch inspiriert, oder das emanzipative Ding im Netz, die App durch die ihr dieses Erlebnis vielleicht hattet mit dem Linksverkehr, das in eurem Hirn nochmal irgendwie was anders vertratet hat. Was wäre das? Wo sollen wir mal hingucken, das Ganze blöde, haben wir uns eine gute Stunde lang angeguckt, jetzt für heute Abend auf dem Nachhauseweg, was gucken wir uns an? Darf auch ein Kinderbuch-Tipp sein, zum Beispiel. Also ich habe tatsächlich gesagt, was könnte das sein, und nach ein paar Sekunden, deswegen kamen die andere so schnell, komme ich darauf zurück, das werden wir im Netz nicht finden. Wir sprechen mit Menschen, sorry, aber so ist es, also ich würde mit Menschen sprechen, mit Menschen, ich weiß ja auch nicht, was in deinem Kopf vorgeht, vielleicht findest du mich scheiße, vielleicht denkst du, ich bin blond und deswegen Nazi oder keine Ahnung was, ja kann ja alles sein, da fängt es ja schon an, aber Menschen, die sich in den Augen gucken, eine kleinere Einheit gibt es nicht, und am Ende sind es... Ich würde es aber tatsächlich gerne etwas höher fahren, alle hier im Raum, also ihr könnt alle gleich gerne miteinander sprechen, dazu ist dieser Abend auch unbedingt da, aber ich würde tatsächlich gerne so hier zack meine... Ich finde es total schwer, weil was streicht man jetzt heraus? Ich darf eine Person sein, ich bin in letzter Zeit sehr bei Pink Stinks und finde die Klasse und kann nur empfehlen den Newsletter zu abonnieren, aber ich wollte auch was anderes hinaus, ich weiß nicht, sie schreibt leider nicht mehr, sie heißt Pavocracy, Cliff Pavocracy ist ein amerikanisches Block, das sich mit dem Zusammentreffen von BDSM der Feminismus auseinandersetzt und Pavocracy also wie Pervert und Democracy Pavocracy.plockspot, ich kann es gar nicht auswendig, aber man findet es in einer Suchmaschine seiner Wahl und was ich ganz toll daran finde ist, es ist nämlich auch für Leute, die mit BDSM nichts zu tun haben, spannend, sie beschäftigt sich ganz viel mit Themen von Konsens, wie gehen wir miteinander um, wie können wir sinnvoll miteinander umgehen und also Konsens ist ihr riesen Thema und ich bin sehr sehr traurig, dass sie nicht mehr schreibt seit einer Weile, aber man kann das ziemlich weit in die Vergangenheit noch lesen, das würde ich empfehlen. Josefine, was wäre dein Tipp zum Gucken lesen? Hmm Tatsächlich bin ich super viel im Internet unterwegs und sobald ich irgendwo bin wo das Internet gerade nicht so super gut funktioniert fühle ich mich als wäre ich Bambi, oder beim Sterbenzuschauen müsste. Aber ich muss kurz überlegen was ich in letzter Zeit richtig gut fand. Ich finde richtig gut von ich glaube es ist BBC3 gibt es auf YouTube so eine Videoserie und da ist es so was wie Sachen, die du Transpersonen schon immer fragen wollte blöde Fragen, die Transpersonen bekommen, blöde Fragen, die schwarze Personen bekommen, die finde ich tatsächlich ganz gut weil ich finde, dass sie gut einen Einblick geben an einerseits was sind Fragen, die vielen Leuten offensichtlich unter den Nägeln brennen und ja und aber trotzdem sozusagen so viele Perspektiven auf Leben gegeben werden, das finde ich persönlich immer super bereichernd weil ich ja natürlich auch nicht in allen Bereichen privilegiert bin. Ich überlege immer noch und bin immer noch total überfordert aber um vielleicht so die Brücke zu schlagen zwischen den Netzwerken hier und einer Plattform die ich aus Jenner Perspektive total toll finde ist speakerin.org weil ich eine super Initiative fand weil gerade auch in der Tech-Welt mit unter wie wir ja wissen bestimmte Diskriminierung vorkommen speakerin.org bringt das tatsächlich, bricht das ein Stück weit auf und man findet unglaublich tolle Frauen da drauf mit wahnsinnig viel Backgrounds, super spannend also manchmal finde ich einfach nur spannend durch die Profile zu scrollen weil es wirklich unglaublich ist, womit Menschen sich so beschäftigen und insofern es ist immer so diese Ansage, keine Maniles mehr und ich finde das ist eine tolle Initiative wo man sehr viel Inspirationen rausholen kann. Vielen Dank für die Tipps und für das Gespräch. Ich bin erfreut dass es tatsächlich in den New Yorks dann doch ziemlich kontrovers war hatte ich vorher in der Tat gar nicht erwartet und danke für die vielen Anregungen und Ideen und für die mitdiskutanten Vater und Sohn und für die aus dem Raum. Dankeschön ihr alle, dass ihr da wart. Jetzt geht es in das Gespräch Mensch zu Mensch. Bis zum nächsten Mal.