 Okay, jetzt ist es also meine große Freude, Toni vorzustellen. Sie redet über das Sozialcreditsystem, was sich für mich so anfühlt wie Black Mirror. Das Black Mirror lebendig wird vielleicht, also ich bin etwas nervös und wirklich neugierig, was wir heute lernen werden. Also bitte gibt einen warmen großen Applaus an Toni. Ja, guten Morgen an alle. Bevor ich in den Talkie präsentiere ich erstmal die chinesischen Übersetzungen für alle, die nicht Englisch reden. Sie hat also die chinesische Übersetzung vorgestellt und einen Applaus gebeten für die beiden Übersetzerinnen in chinesische. Ja, es wird sich gut anders auch in chinesisch zu übersetzen und ich rede also über das Sozialcreditsystem in China. Das Sozialcreditsystem, von dem man ständig in westlichen Medien hört, existiert eigentlich gar nicht. Und der Großteil meines Talks wird darum gehen, was wir alles nicht wissen. Und das ist immer noch eine ganze Stunde wert oder mehr. Und es sind nur noch einige interessante Dinge zu erzählen. Über mich, ich bin Wirtschaftlerin, aber es geht mir nicht nur um Geld. Ich schaue mir die Wirtschaft als Studium der Anreize an. Also was mich wirklich interessiert ist, wie Menschen auf verschiedene Anreize reagieren. Ich glaube nicht, dass Menschen völlig rational agieren, aber ich glaube, dass sie versuchen zu maximieren, was sie für ihr bestes Interesse halten, für ihre Interessen halten. Etwas über mich. Ich habe Mathematik und Wirtschaft und Politik in verschiedenen Städten in der ganzen Welt studiert. Ich habe 19 Monate in China verbracht, zuletzt im Juli auf einer regierungsfinanzierten Stipendienreise. Und das war sehr interessant. Ich habe all diese westlichen Berichte über das Sozialcreditsystem damals gelesen, während ich da war. Und habe dann also versucht, mich zu erkundigen, weil es gibt Universität. Und ich bekam eigentlich nur leere Blickhaltsantwort, was für ein System. Wir haben darüber überhaupt nichts gehört. Das war also eine recht interessante Erfahrung. Weil im Westen, die es als ein riesiges System diskutiert und in China gibt es die Leute, die nicht direkt in Verbindung sind, kennen es nicht. Ich bin interessiert an der Auswirkung von Technik auf die Gesellschaft. Und ich mache auch eine Menge Datenwissenschaften und Maschinen lernen. Und ich fand es also ganz interessant, mir anzuschauen, wie das Sozialcreditsystem auch aus diesem Blickwinkel aussieht. Denn man hört immer, dass es dieses große Dateninitiative ist. Und wenn man sich anschaut, was es eigentlich ist, dann ist gar nichts Maschinenlernen so sehr im Einsatz. Es gibt einen regelbasierten Katalog. So nach, wenn ich das tue, gibt es 50 Punkte. Wenn du das tust, gibt es 50 Punkte. Und dann gibt es eine Menge Teams, die das Verhalten anderer Menschen darüber berichten. Ich war sehr überrascht, nachdem ich die Berichte gelesen hatte in westlichen Medien, ich hielt es für diese große Dystopie auch welch. Und wenn ich dann las, was tatsächlich passiert, dann fand ich große Listen. Falls jemand die Straße überquert bei Rot, dann gibt es 10 Minuspunkte. So etwas in der Art. Also wenn ihr mich kontaktieren wollt, könnt ihr Twitter benutzen, aber auch verschiedene E-Mail-Adressen, entweder meine berufliche oder meine persönliche Adresse. Die seht ihr beide auf den Folien hier. Wenn ihr irgendwelche Ansichten habt oder Interesse habt, dann kann ich euch auch weitere Quellen geben, denn dies ist natürlich nur ein, das kann nur an der Oberfläche kratzen heute. Also die Wahrnehmung des Sozialkreditsystems. Eine der interessanten Dinge, die ich vorher schon angedacht habe, ist im Westen und in China ist die Wahrnehmung völlig verschieden. Im Westen Financial Times.com hat hier diese Grafik. Man sieht diesen großen, überbautenen Menschen, der jeden chinesischen Menschen im Mittelmikroskop anschaut und die sind niedergebeugt, haben all diesen Score, den sie zugewiesen wird. Und es sieht also sehr aus. Und in China, die chinesischen Staatsmedien, da sieht es aus wie, ah, wir können alle in Harmonie leben mit diesem neuen System, wir können uns allen vertrauen. Das Interessante ist, die Chinesen glauben dies tatsächlich zu einem bestimmten Maß, in einem bestimmten Maße. Sie meinen, dass also alles alle aktuellen gesellschaftlichen Probleme durch Technik gelöst werden können. Vertrauen ist tatsächlich eine Seltenheit in China. Und dieses neue System in den Augen der Menschen wird nun mehr Effizienz, mehr Vertrauen hervorrufen. Ein sehr interessantes Zitat von einem westlichen Studenten, der die westliche Perspektive zusammenfasst. Was China hier tut, ist, die Bevölkerung selektiv zu züchten, um gegen die Eigenschaften von kritischem und unabhängigen Gedanken heraus zu züchten. Das meint vielleicht nicht die Absicht. Wahrscheinlich nicht die Hauptabsicht meint, danklenke ich, aber es ist immer noch die Auswirkung, wenn nur brave Leute die Möglichkeit haben, Kinder zu kriegen, von erfolgreichen Kindern gar nicht erst zu reden. Was nämlich passiert ist, dass Kinder keine guten Schulen besuchen können, keine Züge benutzen können, keine Flugzeuge benutzen können, keine guten Hotelzimmer kriegen können. Das Leben ist sehr unbequem und das ist ein Absicht, das ist der Plan. Die chinesische Regierung sagt, dass es ein wenig anders ist. Die Idee soll sein, dass das verhaltene Menschen geändert wird, indem man das Verhalten eng mit ihrem eigenen Schicksal verknüpft. Es gibt also sehr viele Daten, die in dem System generiert werden und das ist nicht der Fall, sondern die Daten, die bereits gesammelt werden, werden zusammengefügt in eine große Datenbank über alle Personen, über die Identifizierungsnummer. Man kriegt in China eine Identifizierungsnummer, sobald man geboren wird, ähnlich zur Sozialfissungsnummer in den USA, in Deutschland gibt es nicht direkt so ein Konzept. Und es war also bisher so, dass diese ID-Nummer nur für die Interaktion mit der Regierung nötig war. Inzwischen braucht man diese ID-Nummer dazu, ein Bankkonto zu eröffnen. Man braucht es dafür, ein Smartphone zu kaufen, ein Handy zu kaufen, auch wenn es prepaid ist, alle möglichen Online-Aktivitäten, die mit dem Handy passieren, sind mit dieser ID dann verknüpft. Was bedeutet, dass man eigentlich nichts anonym tun kann, weil es alles zurückgeht auf diese ID-Nummer. Die Identifizierungsnummer. Es gibt einige Vorgänger, einige davon gehen bis in die 90er, 1990er Jahre zurück und die Idee ist, dass die auch integriert werden in das neue System. Zwei von denen sind Blacklist. Eine davon ist eine Gerichts-Blacklist. Gerichte arbeiten ein wenig anders in China. Sie haben sich eine Verhängung Geldstrafen, aber es gibt auch Entschuldigungen. Wenn man etwas tut gegenüber einer Firma zum Beispiel, wenn eine Firma zum Beispiel gegen Lebensmittelvorschriften verstößt, dann muss man nicht nur eine Strafe zahlen, sondern auch eine öffentliche Entschuldigung in einer Zeitung schreiben, wie man sehr bedauert, dass dies passiert ist, dass das nicht mehr passieren wird und das ist ein moralischer Fehlschlag deinerseits sei als Firma und dass das nicht mehr passieren würde. Wenn nicht, dann geht man auf diese Blacklist. Ebenso, wenn man einen Kredit nicht zurückzahlt in der vorgesehenen Zeit oder die Zahlung aussetzt für drei Monate, dann gibt es eine stultnahe Blacklist. Wieder ist dies verbunden mit der Identifizierungsnummer und dann kann man keine Züge, keine Flugzeuge benutzen. Das Leben wird dann sehr unbequem. Die Kinder können nicht in gute öffentliche Schulen gehen, auch nicht in private Schulen oder Universitäten. All diese Probleme entstehen auf einmal im Leben. Es gibt außerdem eine Firmen-Datenbank, die Credit China heißt und die ist im Wesentlichen ähnlich zu der öffentlichen Schuldner Blacklist, aber es ist ein Kredit-Score für Firmen und es gibt einen Kreditreferenz-Zentrum der Volksbank China. Dies war früher ähnlich wie die Schufa in Deutschland zum Beispiel, weil sie sich auf Individuen bezogen. Eines der großen Probleme China ist, dass es viele Menschen gibt, die nicht Teil des förmlichen Lebens in der Wirtschaft sind. Viele sind migrantenausländische Arbeiter, die bar bezahlt werden, die keine Bank konnten haben, keine Miete zahlen oder öffentliche Dienstleistungen benutzen. Die haben vielleicht ihr Haus selbst gebaut, ohne dass es finanziert werden muss, im Ausland vielleicht. Man kann in China nicht offiziell Eigentümer sein, sondern das Regierung vermietet das offiziell. Also man kann aus dem System herausfallen und die letzten Daten, die ich hatte, waren, dass etwa 10 Prozent der erwachsenen Bevölkerung in China nur im System sind und irgendwelche Kontakte mit Banken haben, nur 10 Prozent, also sehr wenig. Und Leute konnten so keinen Kredit bekommen, weil Banken Kredite nur an Menschen geben, die im System sind oder Menschen, die irgendeine Art von Handhaber haben, mit der sie Geld empfangen können, die Banken, das Geld zurückzahlen können. Die Grundidee ist also, dass die chinesischen Bürgerinnen und Bürgerinnen in vertrauenswürdige und vertrauensverstoßende Menschen eingeteilt werden. Es gibt manchmal zwei verschiedene Probleme, aber in Genere gibt es also diese Unterteilung über eine bestimmte Linie. Es ist gut und darunter ist es schlecht. Nächstes ist ja eine Grafik aus dem Wall Street Journal letztes Jahr, die zeigt einige der Inputs, die in dieses System hineingehen. Und eines der Dinge, die ihr seht, ist, dass die Inputs verrückt wahnsinnig verschieden sind. Es geht um Einkommensteuer, zahlt man die Rechnungen für Gas, Wasser und solche Dienstleistungen. Hat man Respekt gegen den Eltern, wie auch immer das gemessen wird? Habt ihr Vorstrafen, zahlt ihr für öffentliche Nahverkehr oder habt ihr seit ihr beim Schwarzfahrern erwischt worden? Wie ist es mit euren Freunden? Retweetest du oder versuchst du, machst du das entsprechend in WeChat, benutzt du WeChat, um Informationen gegen die kommunistische Partei zu verbreiten, was sie Verlässlichkeiten geben? Es geht nicht darum, ob es faktische Dinge sind, sondern ob es gegen die Partei geht oder nicht. Wo kaufst du, was kaufst du? Wenn du Windeln kaufst, ist es besser, als wenn man Videospiele kauft, für den Score, denn Videospiele offensichtlich sind nicht das Merkmal von sehr verantwortlichen Menschen, aber Windeln. Wenn du Windeln kaufst, dann richtest du dich nach dem gesellschaftlichen Ideal. Dein Score soll jetzt nun also in all diese verschiedenen Kategorien hineingehen. Das soll besseren Zugang zu sozialen Diensten geben, mit einem guten Score, besseren Zugang zu Internetdiensten. Theoretisch ist es also so, dass wenn der Score auf einem bestimmten Punkt zu schlecht wird, kann man WeChat oder Alibaba nicht mehr benutzen. Man kann nicht mehr in ein Regierungsangestellter werden. Man kann nicht mehr Flugzeuge und die Hochgeschwindigkeitszüge benutzen, keinen Pass bekommen und die Versicherungsprämien werden steigen. Die Idee ist, dass es wirklich große überbordene Systeme sein, aber tatsächlich ist es, die benannten Ziele sind, ein Kurzform für einen großen Bereich von Bemühungen, die Marktsicherheit zu verbessern und die öffentliche Sicherheit durch die Gehörung der Integrität und des gemeinsamen gegenseitigen Vertrauens in der Gesellschaft. Also Ressourcenzuweisungen in China ist ein ziemlich großes Problem. Menschen wachsen auf mit der Bewusstheit, dass es 1,3 Milliarden Milliarden Menschen im Land gibt, also es wird immer Knappheiten geben. Menschen wachsen auf mit dieser Idee, dass das Knappheit vorherrscht und die Verteilungsstrategie ist hauptsächlich finanziell basiert heutzutage, aber auch nicht wirklich fair. Es gibt viele Subventionen in der Regierung, sodass also das Angebot nicht unbedingt die Knappheit reflektiert. Theoretisch soll es also so sein, wer zuerst kommt, mal zuerst. Tatsächlich gibt es Menschen, die alle Fahrkarten zum Beispiel für die Hochgeschwindigkeitszüge aufkaufen von Shanghai nach Beijing und sie dann mit Profit verkaufen oder bestimmten Firmen verkaufen, die gute Verbindungen zur Regierung haben. Das scheint sehr unfair zu sein. Und die Idee ist, dieses Ressourcen besser und effizienter zu verteilen. Vertrauen und wahrgenommenes Vertrauen sind sehr gering in China. Wenn man aus Deutschland kommt, dann habt ihr vielleicht gehört, dass es Gangs in China gibt, die zum Beispiel Milchpulver kaufen und in China verkaufen. Das passiert tatsächlich, weil es 2008 einen großen Skandal gab mit gestrecktem Milchpulver. Und wer immer das kaufen kann, sich leisten kann, benutzt nicht mechanisches Milchpulver, weil es das Vertrauen nicht mehr gibt in die chinesischen Firmen. Es gibt die große Absurdität, dass dieses Milchpulver, das aufgekauft wird, oft in China produziert, danach Deutschland explodiert und wieder nach China irre importiert wird. Das Sozialkreditssystem soll nun diejenigen identifizieren, die das Vertrauen verdienen. Und der dritte Punkt ist, die Menschen umzuerziehen nach dem Bild, dass die kommunistische Partei erwartet von den Menschen. Und ein weiterer Weg, um Strafen und Belohnungen zu verteilen, ist das Befühl überwacht zu werden. Wenn man nichts anonym tun kann, wird man sich automatisch im Verhalten anpassen, weil man weiß, man wird ständig beobachtet. Und das ist nun die Art und Weise, wie die große chinesische Firewall in vielen Fällen arbeitet, funktioniert. Viele Menschen, die ich kenne, die etwas gebildet sind, kennen Wege, die Firewall zu umgehen. Aber sie wissen auch, dass sie immer überwacht werden. Und deswegen umgehen sie die Firewall nicht. Diese Selbstsensur funktioniert also auf diesem Wege. Wie ich schon gesagt habe, die Verteilung knapper Ressourcen ist hauptsächlich finanziell oder aber guanchi. Und guanchi ist ein allumfassendes Netzwerk von Verbindungen mit einer klaren Statusherarchie. Wenn ich also in einer Selbstschule bin, dann sind alle, die in derselben Schule waren, in meinem guanchi Netzwerk. Und es gibt diese Idee, dass wir ein System haben, in dem wir alle eine Ingroup sind, in der wir uns gegenseitig vertrauen und in der wir uns Gefälligkeiten leisten und außerhalb dieser Gruppe bekommen mein Vertrauen nicht und bekommen auch keine Gefälligkeiten von mir. In gewisser Weise ist das guanchi System ein Ersatz für formale Institutionen in China. Wenn man zum Beispiel einen Pass haben möchte, kann man natürlich regulär beantragen, das kann dann monatzedauern oder man versucht einen Pass zu kriegen über Beziehungen, der jemanden kennt. Und das kann vielleicht nur zwei Tage dauern. In Deutschland gibt es sehr reguläre, formale, institutionelle Systeme und in China gibt es immer noch dieses soziale Netzwerk. Und viele, besonders junge Leute halten dies für sehr unfair. Die Frage, wo man zur Schule ging, das hat damit zu tun, wo man geboren ist, wer die Eltern sind und all diese Dinge. Noch ein wichtiges Ding, was man verstehen sollte, ist, dass das System über öffentliches Beschämen funktioniert, bloßstellen. Das können wir uns kaum vorstellen in Deutschland. Ich würde mir nicht viel ausmachen, wenn mein Name in einer Zeitung erscheint, als jemand, der zum Beispiel über die Straße beruht gegangen ist und durchdenken, kein Problem, aber in China ist dies tatsächlich eine sehr ernste Geschichte. Also das Gesichtwaren ist eine sehr wichtige Geschichte in China. Als ich dort zur Schule ging, hatten wir diesen Schlafsaal und der war also mebliert, voll mebliert. Und das Personal, das Verantwortung hatte, dachte nun, dass Studierenden sich nicht gut verhalten haben. Was ihr ideal war, das Vorgehen war, dass die Namen und die Vergehen im Fahrstuhl aufgehängt werden sollten, um öffentlich zu beschämen. Also wenn man zum Beispiel jemand gegen einen anderen Geschlechts in den eigenen Raum gebracht hat, dann würde also die Zimmernummer und das Vergehen im Fahrstuhl angeschlagen. Aber dies funktioniert nicht, weil für viele westliche Menschen, wie ist das im Grunde eine Belohnung? Ich versuche, so oft wie möglich dort erscheint, dass es eine Art Ehrenmal für mich und die chinesischen Leute dachten, oh, das ist sehr beschämend, ich verliere mein Gesicht, für Alkoholgeschichte und so, das hat also nicht so richtig funktioniert im internationalen Schlafsaal oder Schlafgebäude. Aber das ist so das Gedankengebäude dahinter. Wie ich gesagt habe, gibt es viele Probleme, bei denen wir nicht wirklich passieren, was passieren wird. Eine der Wege, wie wir verstehen können, was passiert ist, in dem wir uns Pilotprojekte anschauen. Seitdem die kommunistische Partei die Macht ergriffen hat, gab es von der chinesischen Regierung viele politische Experimente. Sie probieren eine Regel aus und wenn sie nicht über das ganze Land an, sondern suchen sich einzelne Städte oder Diskripte aus Bezirke und dann merkt man also, ah, dieses System wird hier ausprobiert und jenes System wird dort ausprobiert. Und das ist genau das, was auch jetzt passiert für das Sozialkreditssystem. Es gibt drei Systeme, die ich mir genau angeschaut habe, etwas genau angeschaut habe für diesen Talk. Es gibt insgesamt 70 von denen ich weiß. Das Swining-System, das ist eine Stadt Swining in China, das Rongcheng-System nach einer anderen Stadt in China benannt und das SESAM-Kreditsystem. Das ist das System der Verkaufsplattform Alibaba, kennt ihr alle. Das chinesische Gegenstück von Amazon sind aber noch größer, haben noch mehr Benutzer und verdienen tatsächlich auch mehr Geld. Sie haben ihr eigenes System und eines der Probleme hier ist, als ich versuchte das zu modellieren, ist es ein sehr, sehr komplexes System ist und kleine Änderungen im Input haben die Ergebnisse erheblich verändert. Wenn Sie ja so ein Tilo-System versuchen, dann gibt es ein paar Versuche und dann suchen Sie sich den Pilot aus, der die besten Ergebnisse hatte und rollen den dann aus auf der ganzen Fläche. Aber wenn es hier so komplexe Probleme gibt, dann ist das vielleicht nicht die beste Strategie. Das Swining-System wird als Vorläufer aller aktuellen Rexistieren-Systeme angesehen. Es hatte einen Fokus auf Bestrafung und es ist ganz interessant, am Beginn der Versuchsperiode wurde ein Katalog von Scores und Folgen publiziert. Hier ein Beispiel, das kommt also wenigstens aus dem Katalog. Wenn man also einen Bankkredit nicht zurückzahlt, gibt es 50 Minuspunkte. Als Startkapital sozusagen gab es 1000 Punkte für alle. Wenn man Kreditkartenzahlungen nicht zahlte, gab es auch 50 Minuspunkte. Bei Steuervermeidung wiederum 50 Minuspunkte. Wenn man gefälschte Waren verkaufte, gab es 35 Minuspunkte. Und das System wurde tatsächlich abgeschafft, ich glaube, 2015 oder 2016, weil die chinesischen staatlichen Medien und auch viele Internet-Influencer sich darüber beschwerten, als ein sehr zentralisiertes System. Alles, was man tut, wird aufgezeichnet zentral. Das gab also einen schlechten Ruf. Aber das Zulingensystem hat tatsächlich die embryonische Form vieler Elemente in den anderen jetzt existierenden Systemen, diese persönlichen Gegenanreize. Aber das Wichtigste ist, dass erweitern von Kreditmechanismen außerhalb des Marktkontexts um sich an Vorschriften zu halten und ähnliche Regeln geht. Was für Deutschsprecher schwierig ist, ist, dass Kredit-Shin-Yung in China Kredit heißt im Sinne eines Leins, aber auch Vertrauen. Das Sozialkreditsystem ist also ein Weg, diese beiden Begriffe des ökonomischen und des Vertrauenskredits in ein großes System zusammenzuführen. Und das Zulingsystem ist wesentlichen gescheitert. Jetzt haben Sie das System angenommen und haben ein neues Ausprobiert, das Rong Cheng System. Hier ist ein Zeitungsartikel zu diesem Thema. Die Leute sind zu diesem System gegangen, weil es von der Regierung besprochen wurde. Es ist sehr schwierig, das als ein einzelnes System anzusehen. Es sind nämlich sehr viele miteinander verbundene Systeme. Es ist ein stattbezogenes System. Da sind dann Sachen drin wie Steuervermeidung. Es sind zwei Regeln gegen Steuerhinterziehung. Aber es gibt auch einen Pluspunkt. Wenn man den älteren Nachbarn hilft, dann geht der Score wieder hoch. Wenn man Bäume pflanzt in seinem Garten, dann geht der Score auch hoch. Je nachdem, wo man arbeitet, wenn man für eine Taxifirma arbeitet, dann hat dieser Taxifirma ein Score-System. Wenn man von den Kunden gelobt wird, dann bekommt man Zusatzpunkte. Wenn man den Verkehrsregel nicht folgt, dann kann der Score wieder runtergehen. Es gibt auf jeder Ebene benannte Leute, die den Score aufschreiben, die die Informationen dann zusammenfassen und zunächst höher an Ebene weiter erreichen, wer was gemacht hat. Es soll eine offizielle Methode geben, um dagegen Beschwerde einzulegen. Aber momentan wird das nicht gemacht. Es ist ein System, wo Daten geteilt werden. Und das, was wir bis jetzt noch nicht gesagt haben, ist, welche Daten geteilt werden. Es werden nur die Prokte weitergereicht. Wenn ich also in einem District bin und Bäume pflanze, kriege das zentrale System die Information, dass ich Bäume gepflanzt habe, oder kriege das zentrale System nur, wie viele Punkte ich gekriegt habe. Und das würde natürlich was sehr unterschiedlichst dafür bedeuten, wie es eingesetzt werden kann. Aber das Endergebnis ist ein zentraler Punktstand. Und da sind also viele verschiedene kleine Systeme, deren Punkte zusammengefasst werden. Die meisten Leute sind zwischen 950 und 1050. Das sind die normalen Leute. Und jeder, der über 1050 ist, ist eine sehr vertrauenswürdige Person. Und jeder unter 950 ist unvertrauenswürdig. Und da kommt dann dazu, also die Leute öffentlich angeprangert werden. Hier sieht man eine Tafel mit den Familien, die die höchsten Scores haben und damit am vertrauenswürdigsten sind. CESAM Credit ist ein bisschen anders. Das ist das einzige System momentan, was Maschinenlearning und künstliche Intelligenz verwendet, um die Ergebnisse zu erzeugen. Die haben Kameras und Computererkennung. Und dann stellen sie zum Beispiel fest, wenn man auf der Straße läuft, online kriegt man eine SMS, dass man auf der Straße läuft und dass mein Score jetzt runtergegangen ist. Wie viel ist dafür abgezogen? Das wird von der Maschine jetzt nicht abgezogen, sondern es wird von Regeln abgezogen. Einmal auf der Straße laufen sind 5 Punkte weniger. CESAM Credit verwendet einen geheimen Algorithmus. Und ich habe mit ein paar Leuten gesprochen, die für Alibaba gearbeitet haben, wo CESAM Credit eingesetzt wird. Die haben im Prinzip Leute in Gruppen eingeteilt, die ähnliches Verhalten haben. Dann haben sie diesen Gruppen Scores gegeben. Dann haben sie Maschinenlernen verwendet, um den Score da auseinanderzuklamüsern und herzustellen, wie zustande gekommen sein könnte. Das System ist abgelehnt worden als ein Credit Score von der Regierung. Also Alibaba will das verwenden, um zu entscheiden, ob sie dir ein Kredit geben oder nicht. Wenn man mit Alipay und bei Alibaba kauft, dann geht der Score hoch. Und wenn man mit Beachat, das ist ein Konkurrenzprodukt, wenn man damit einkauft, geht der Score runter. Das nutzt sehr viele der gleichen Mechanismen wie das offizielle Regierungssystem. Die Scores können zwischen 350 und 850 gehen. Und in Chinesisch gibt es fünf unterschiedliche Levels. Das sind dann unterschiedliche Ausbringungen von Vertrauenswürdigkeit. Wie ich versucht habe, das anzugehen, ist durch ein agentenbasiertes Modell. Das, was mich interessiert, ist, was es für Auswirkungen auf die Gesellschaft hat. Jeder bekommt ein Score. Was bedeutet das für die Gesellschaft? Wenn man jetzt agentenbasierte Modellierung verwendet, funktioniert es ganz gut. Die Agenten sind durch eine begrenzte Rationalität charakterisiert. Die Leute wollen ihren Profit maximieren. Aber die Agents, die haben nicht alle Informationen. Sie haben Probleme, sie haben Dinge zu erinnern. Sie werden häufig nicht die allerbeste Lösung wählen, aber die werden das beste wählen, was sie gerade sehen. Und die begrenzte Rationalität in diesem Modell erlaubt uns, das zu modellieren. Ich habe also den Hang zu einer bestimmten Verhaltensweise aus moderner Forschung genommen. Und das habe ich also hier in das Modell reingetan, wie viele Leute Steuervermeidung betreiben. Ich habe auch gecheckt, dass mein Modell ähnliche Ergebnisse wie das Rong Cheng Modell generiert. Im Mittel sind 85 % von meinen Benutzern sind 10 % nah dran an dem, was das Rong Cheng Modell hat. Ich habe also jetzt hier die Designentscheidungen hier mal aufgelistet. So auf die von dem zentralisierten versus den vielschichtigen und von dem regelbasierten versus das Maschinenleinsystem. In dem zentralisierten sind alle Daten zentral gehalten. Jeder hat die gleichen Chancen für seinen Score. Und wenn ich ein zentralisiertes System habe, dann sind die deutlichen Erwartungen gut ausgeprägt. Aber die Bevölkerung mochte es nicht sehr. Es hat einen zentralen Fehlerpunkt, weil es nicht ganz klar ist, weil es alles damit steht und fällt, wer den Katalog entscheidet. Und es baut auch die Machtstruktur nach. Das heißt, die Macht, um diesen Katalog festzulegen und damit alles zu bewerten, ist zentral. Das funktioniert gut für die, die sowieso Macht haben, weil sie und ihre Familien eine hohe Score haben. Das multi-schichtige, das mehrschichtige System, das ist lokal angepasst, aber es hat viele Fehlerpunkte. Wenn ich in meinem Modell modelliert habe, dass die Lokalen ihre Regeln setzen können, dann haben die angefangen, miteinander in Wettbewerb zu treten. Das heißt also, die Regionen haben sich darum gekloppt, wer die besten Menschen bekommt. Und damit gab es einen Race zu Boden. Das heißt also, die haben ihre Regeln immer weiter untergesetzt. So wie es momentan aufgesetzt ist, gibt es ganz viele Leute, die momentan Daten zur nächsten höherem Ebene berichten. Sie haben mehr über Leute, die sie nicht leiden konnten, berichtet, als über Leute, die sie leiden konnten. Damit sind also diese Bewertungen, diese Vorurteile verstärkt worden. Das regelbasierte System, da haben die Leute mehr ihr Verhalten angepasst. Aber der Score hat nicht mit den wichtigen Charakteristiken zusammengepasst, an die sie sich angepasst haben. Mit dem Maschinenlernensystem in Deutschland kann man die Schufe, da wissen wir auch nicht, wie es funktioniert. Ich weiß nicht genau, was ich machen könnte, um meinen Schufe-Ascore zu verbessern. Mit dem Sesam-Kredit-System ist es ähnlich. Viele Leute wollen ihr Verhalten so anpassen, um im Sesam-System besser werden zu werden. Aber mein Score ist schlechter geworden. Es gibt natürlich auch wieder Vorurteile, die da rein spielen können. Es gibt ein großes Problem damit, dass die Anreize nicht zum Problem passen. Incentive mismatch. Das System von Rong Cheng ist am meisten analysiert worden, weil das viele Awards gewonnen hat und weil jetzt alles in diese Richtung geht. Die haben viele Piloten gemacht, dann haben sie den System Preise gegeben und dann rollen sie landesweit aus. Das heißt, so ganz viele Systeme werden jetzt ganz ähnlich in diesem Rong Cheng-System. Ein Problem, das ich in meiner Simulation gesehen habe, ist, dass es diesen Wettkampf um Menschen gibt, der nach unten alles runterzieht. Wenn man die Firma hat und da zusammen mit den Regierungsbeamten sitzt, dann kann man für das Score-System die Regeln entscheiden. Aber die Scores für meine Mitarbeiter, wenn ich viele Leute mit hohen Scores beschäftige, dann habe ich als Firma auch einen guten Score. Die Regierungen hatten Interesse daran, dass die Scores vergleichbar sind, aber die Firma hatte einen Interesse, dass die eigenen Mitarbeiter sehr hohe Scores haben. Das sind halt unterschiedliche Anreize. So wie das chinesisches System momentan funktioniert, ist, dass es die Vertrauensunwürdigen eher fängt, als dass es vertrauensbildende Dinge hoch einschätzt. Dadurch hat es sehr wenig zu Verhaltensanpassungen geschaffen. Ich habe das zu Nudgingforschung verglichen. Und da gibt es eine Fehlerwahrscheinlichkeit. Ich kann für etwas, was ich getan habe, gefangen werden, aber angezeigt werden. Aber dafür, dass ich mich verbessert habe, das ist schwierig zu sehen. Ich kann Geld spenden und das gibt mir Geld. Und das ist so. Viele von diesen Spendensystemen funktionieren so. Wenn man 50.000 spendet, dann kriegt man 50 Punkte. Und wenn man nochmal 50.000 spendet, dann kriegt man nochmal 50 Punkte. Das heißt, man kann durch sehr große Spenden sich so verhalten, wie man will und trotzdem einen guten Score kriegen. Also einen Ablasshandel. Das Vertrauen in das System kann noch weiter runtergehen, weil die Leute sich nur noch auf den elektronischen Score verlassen. Und das Vertrauen in das Rechtssystem kann auch geschwächt werden. Das Vertrauen ins Rechtssystem ist schon jetzt niedrig. So, jetzt gibt es ein paralleles System. Auf der Straße laufen ist schon vorher falsch gewesen. Und jetzt in diesem parallelen System wird es auch gehandelt. Illegale Aktivität kann häufiger offline passieren. In Ländern, wo wir das gesehen haben, die zum mobilen Bezahlen hingegangen sind, da sieht man weniger Überfälle. Aber man sieht nicht weniger Verbrechen. Man sieht aber neue Arten von Verbrechen. Kreditkarten, Betrug, Telefon, Diebstahl. Und im chinesischen Fall könnte es sein, dass auch so was passiert. Ein weiteres Problem, ein großes Problem ist, dass dieses System Verzerrungen einführt, menschliche und agotische. China ist ein Land mit 55 Minoritäten, Minderheitsgruppen. Und jetzt haben wir also festgestellt, dass das Computer Bilderkennung, dass die schlechter drin ist, Menschen zu unterscheiden in solchen Minderheitengruppen. Es funktioniert schlechter für Frauen. Es funktioniert, weil die Trainingsdaten viel von Männern kommen. In China ist es so, dass diese Trainingsdaten für die Minderheiten sehr schlecht sind. Eine Art, wie man das versuchen könnte, das zu hintergehen, dieses System ist und was in Xinjiang auch schon gemacht wird, ist, wenn es sich um Minderheiten Angehörige gehört, dass die dann halt diskriminiert werden. Wenn man dort aussieht, wie eine Person aus Turkmenistan oder aus der Türkei, dann wird man häufiger angehalten und befragt. Man wird häufiger aufgefordert, das Beiwehr auf sein Telefon zu laden und das neue System könnte helfen. Das System kann die Machtstrukturen reproduzieren, weil wir alle wissen, dass neutrale Technik nicht existiert und das wird immer als neutral angepriesen. Aber die Leute, die momentan an der Macht sind, die entscheiden, was einem Punkte gibt und was einem die Punkte abzieht. Ein weiteres Problem ist, dass das System so aufgesetzt ist, dass es nur mit der ID-Card zusammen funktioniert. Und wenn man keine ID-Card hat, also wenn Leute geboren wurden, während der One Child Policy und nicht registriert waren, auf einmal können sie gar nichts mehr machen, weil sie keine solche ID haben. Sie können kein Telefon mehr bekommen, sie können nichts mehr machen. Ein Teil von der Aktivität mit diesem Social Credit System ist, dass man von Cash weggeht und man soll nur noch elektronisches Geld verwenden. Das System ist zurzeit so aufgesetzt, dass man den Score anderer Menschen prüfen kann. Man kann aber auch sehen, wofür sie Punkte abgeben mussten, vor Loan haben. Man kann also nun tatsächlich bewusst sich entscheiden, gegen Homosexuelle Menschen zu diskriminieren, weil man sieht, dass die ihnen in eine Schwulenbar gegangen sind und solche Geschichten. Ein großes Problem ist die Sicherheit der Daten und die Geschütztheit des Schützen der Daten. Persönliche Daten sind nicht sehr hoch angesehen in China. Wenn Leute gefragt werden, was deine persönlichen Daten sind, was meinst du, dann ist die Antwort auf, was für Daten. Ich habe keine Daten. Und die Art, wie es funktioniert, ist oft so, dass die Identifikationsnummer einer Person recht leicht herauszufinden ist. Man kann Zugang zu vielen persönlichen Daten für ein geringer Gebühr kaufen. Man zahlt etwa 100 Euro und erhält alle Hotelbuchungen des letzten Jahres. Die Information, wer das Zimmer zusammen mit jemandem gebucht hat, wo Leute gelesen sind, Zugbuchungen, alle offiziellen Datenbanken für diese eine Person. Und für etwa 700 weitere Yuan kann man tatsächlich Live-Daten bekommen. Daten, wo die Person oder das Telefon sich gerade befindet. Und in China weiß man, dass die Menschen sich nicht weit weg von ihren Telefonen befinden. Es gab dazu den Experiment von Sub-China, wo Journalisten diese Daten gekauft haben. Diese Dienste werden auf WeChat relativ öffentlich angeboten. Man kann sie einfach kaufen, ziemlich einfach. Und eine weitere Sache, die ich mir angeschaut habe, ist, etwas Interessantes ist, dass diese Vorstellung existiert von Kredit als etwas Zweigeteiltem. Der Vertrauenskredit, aber auch der finanzielle Kredit. Und wie wäre es nun, wenn Kreditinstitutionen dieses zweigeteilte System benutzen, um die Verteilung finanzieller Kredite zu bestimmen? Dann gibt es wahrscheinlich eine reduzierte Asymetrie der Information, weniger Kredite platzen und mehr Kredite können erzeugt werden. Neue Menschen können Kredite bekommen, weniger Schattenbanken. Das ist die Idee. Aber was passiert tatsächlich? Ich werde jetzt nicht darüber sagen, wie ich das Modell aufgesetzt habe, aber das ist was, das Ergebnis. Wenn wir also einen Score haben, der sowohl finanzielle Informationen enthält, aber auch maße des moralischen Wohlverhaltens, dann haben wir gesehen, dass 30 Prozent in meinem Modell der Menschen neue Kredite bekommen, auch außerhalb der Banken. Aber die Koalition mit den Rückzahlungen ist nicht sehr stark. Es gibt also viel Kredite, die die platzen. Es gibt einen Oszellierende, ein Finanzsystem, das also Schwankung unterliegt, sehr krisenanfällig ist. Und man könnte, also diese ganzen Kredite, die die platzen. Und was wir sehen, ist, dass Banken dann weniger Kredite ausgeben, weil sie erleben, dass viele Kredite nicht zurückgezahlt werden. Und dann werden diese Kredite abgeschrieben und die Banken fangen wieder an, mehr Kredite herauszugeben. Also wir haben eine Art Oszellationsschwankung in dem System. Und dies ist sehr krisenanfällig, wenn man eine echte Wirtschaftskrise hat in einer Zeit, in der es viele Kredite gibt, die platzen, dann werden viele Banken tatsächlich auch Bankrott gehen. Und das ist sehr gefährlich für das Finanzsystem der Nation insgesamt, besonders eines wie das in China. Mögliche Korrekturen. Man könnte einen Score erzeugen oder anlegen, der dem Schufascore entspricht, im Wesentlichen, der also nur auf finanziellen Kredite abgestellt ist. Aber dann gibt es, dann gehen viele Anreize, die System zu benutzen, weg. Ein weiteres Phänomen, das wahrscheinlich ist meiner Ansicht, dass es eine Blacklist geben wird für Leute, die Kredite früher nicht zurückgezahlt haben. Also man bekommt einen Kredit sozusagen frei, aber wenn man dann einmal nicht zurückzahlt, wird man keine weiteren Kredite bekommen. Man wird immer noch eben Sozialkreditssystem teilnehmen. Der Score ist immer noch wichtig für all diese anderen Dinge, wird davon geregelt werden. Aber Zugriff zu auf Kredite wird dann, wenn man auf der Blacklist steht, nicht mehr möglich sein. Das ist also etwas, was die chinesische Regierung machen könnte. Aber es ist eine größere Aufwand, dies zu verwalten. Weil man darüber nachdenken muss, dass Leute nicht ewig auf der Blacklist stehen bleiben dürfen, auf der schwarzen Liste. Man kann also irgendwie durch irgendwelche Aktionen, durch die Rückzahlung wieder wegkommen von der schwarzen Liste. Oder kann man irgendwie, wenn man nicht insolvent ist, für eine Weile wieder herunterkommen. Also viele Fragen, die nach meiner Meinung nach von der Regierung in China nicht so richtig durchgedacht worden sind bisher. Es gab diese Pilotstudien, die regionalen Regierungen denken über die viele Dinge nach, aber dokumentieren nicht wirklich, was sie tun. Und wenn Sie also das jetzt im Jahr 2020 über die ganze Nationen ausrollen wollen, gibt es eine ziemlich große Gefahr, dass es unbeabsichtigte Folgen haben wird, die nicht bedacht worden sind und die angeschaut werden müssen dann nach der Einführung. Also ich glaube, dass irgendein System wahrscheinlich kommen wird. Wenn man sich nur anschaut, wie viel Energie dort bereits hineingesteckt worden ist, ist das sehr wahrscheinlich. Drei Würde Gesicht verlieren, wenn sie gar keine Systeme dieser Art einführen würden, denn sie haben schon sehr lange darüber geredet und viel ausprobiert. Oder es wird wahrscheinlich eine Art von dezentralisiertem Datenteilen sein. Als ich meine Simulationen durchgeführt habe, ich werde den Code publizieren, aber ich muss noch ein bisschen, ich habe einige proprietären Daten benutzt für ein Modell und ich brauche noch die Erlaubnis, diese zu publizieren. Wenn ich das tue, werde ich es per Twitter verbreiten und werde es auch auf GitHub bereitstellen, damit ihr alle damit herumspielen könnt, wenn ihr wollt. Einige dieser Implemationsdetails waren sehr relevant für das Ergebnis. Haben wir ein relatives oder ein absolutes Rangsystem? Es gibt Punkte, die für ein relatives Ranking sprechen. Sollen wir einen einzigen Score oder verschiedene Subscores in verschiedenen Feldern aufstellen? Sollen wir automatisches oder menschenbasiertes Verhaltensaufzeichnungen, Verhaltensberichte einführen? Soll man den Score anderer Leute einsehen können? Wenn ich die Ideennummer von jemandem habe, dann kann ich zum Beispiel auch in diese schwarzen Listen schauen und herausfinden, ah, diese Person ist aber eine schwarzen Liste, weil sie eine bestimmte Regierungserge Gerichtsanordnung nicht befolgt hat, zum Beispiel. Es wird also wahrscheinlich etwas in dieser Art sein. Und die Idee ist, dass dieses Sozialkreditsystem nicht nur für Individuen, sondern auch für Firmen und nicht-Regierungsorganisationen funktionieren soll. Und welche Rolle spielen die im System? Ich habe mir das noch nicht genau angeschaut bis jetzt, aber das wird sehr interessant sein. Eine andere Idee, die westliche Menschen oft besprechen ist, sollen Menschen sich gegenseitig auch bewerten. Das ist in China zuzeit nicht der Fall, aber es könnte eingeführt werden. Und zuletzt, wo werden die Daten aggregiert gesammelt? Es geht sehr viel um das Teilen von Daten in China. Also, welche Daten werden geteilt? Sind es Rohdaten, zum Beispiel, die Person A hat etwas getan oder werden die aggregierten Daten nur geteilt? Person A hat einen bestimmten Score bekommen. Aktuell ist es meistens so, dass die Rohdaten geteilt werden, aber das hat auch wieder das Problem der Privatsphäre, das ich angesprochen habe, das Datenschutzproblem. Okay, perfekt. Wir haben zehn Minuten. Vielen Dank für Ihre Aufmerksamkeit. Und wenn ihr Fragen habt oder Bemerkungen, dann könnt ihr im Publikum stellen, könnt aber auch nicht später treffen oder Twitter oder E-Mail verwenden, was auch immer euch interessiert. Vielen Dank. Also, wie Toni gesagt hat, haben wir noch zehn Minuten für Fragen. Wenn ihr Fragen habt, dann geht bitte zu einem Mikrofon. Wenn ihr im Stream seid, dann könnt ihr durch IAC oder Twitter fragen. Vielen Dank für diese Frage. Ich habe zwei unterschiedliche Antworten gesehen. Wenn ich mit der Regierung gesprochen habe, es gibt Leute, die sehr interessiert daran sind, dann haben die geantwortet, es ist ein technisches System, das ist nicht sehr wichtig, das ist eine technische Sache und wir machen das Leben für alle ein bisschen besser und effizienter. Das heißt also, ich erwarte, dass der Score runtergehen würde, mein Score runtergehen würde durch diese Forschung. Ich habe auch mit Leuten in Universitäten gesprochen, die waren an meiner Forschung interessiert. Und viele haben gesagt, dass sie gar nicht wussten, dass es das System gibt. Bevor wir eine Frage vom Signalengel aus dem Internet bekommen, einen bitte an alle Leute, die den Raum verlassen. Bitte geht es sehr leise, so dass wir weitermachen können. Der Signalengel, bitte. Oder der Signalengel. Janix möchte wissen, ist dieser Score tatsächlich, wird er beeinflusst durch die Verbindung zu anderen Menschen mit einem geringen Score? Also gibt es einen Gruppendruck von Menschen mit schlechtem Score sich fernzuhalten? Also der Sesam-Score, der ist durch die Scores der Freunde beeinflusst. Der Rong Cheng ist nicht dadurch beeinflusst, aber es ist in der Planung, dass man durch die Scores von Freunden beeinflusst wird. Und WeChat kann eine ganze Menge machen. Und das ist bis jetzt noch nicht an diesem Sozialkreditssystem angeschlossen. Aber wenn das angeschlossen wird, dann ist es sehr wahrscheinlich, dass das auch im Score sich verscheinend wird. Okay, jetzt zur Mikrofon 3. Ich habe eine Frage. Was für Interaktionen modellierst du? So wie ich meine Modelle gebaut habe, habe ich mehr Ebenenmodelle aufgesetzt. Unten habe ich, die können Kredite aufnehmen und zurückzahlen. Sie können Steuern hinterziehen. Sie können Verkehrsverregeln folgen oder übertreten. Das sind vier Bereiche, die in allen Systemen erwähnt wurden. Und deswegen habe ich mit denen angefangen und habe geschaut, was sehe ich denn da? Ich habe Forschungsergebnisse genutzt, die meine Freunde, meine Freunde haben Fragebogen ausgeschickt und haben gefragt, hat dein Verhalten sich geändert in Abhängigkeit von deinem Score, den du gekommen hast? Ich habe das genutzt und andere Forschungen zu Nudging und Verhaltensanpassung. Wie wahrscheinlich ist es denn, dass die Leute eher Verhalten aufgrund von Scores anpassen? Okay, eine Frage aus dem Internet. Es sind eigentlich zwei Fragen. Wie funktioniert dieses System für Chinesen, die nicht in China wohnen und wie funktioniert es für Betriebe? Momentan funktioniert das System nicht für Leute, die keine Bürger in China sind, die dort nur zur Arbeit sind, weil die keine Social-ID haben. Jeder, der momentan, jeder ist ausgeschlossen, der keine ID hat. Alle Leute, die so eine Nummer haben, sind da mit eingeschlossen. Mikrofon 4. Wir sind einem weiten Weg gekommen. Kannst du uns etwas erzählen über die Dynamik zwischen China? Wie schnell man Kredit wieder neu verdienen kann, wenn man es verloren hat? In dem Säugensystem haben die sehr strikt Zeiten eingehalten. Wenn ich also Steil hinterzogen habe, dann ist es ein Einfluss auf zwei Jahre und dann geht er wieder zurück. Meine Erwartung ist, dass es Fall für Fall entschieden wird. Ich habe in den Säugensystemen ein Policid-Dokument angeschaut, und da stand nicht drin, wie lange das gezählt würde. Bei den Blacklisten habe ich es nicht gesehen. Ich habe gesehen, man bleibt auf einer Blackliste drauf, bis der Grund, warum ich da draufgekommen bin, aufgelöst ist. Ich muss einen Antrag stellen, dass ich von der Blackliste runtergenommen werde. Das funktioniert nicht, dass ich da automatisch wieder runter gehe. Ich muss einen Antrag stellen, Nachweis bringen, und dann kann ich davon, dass es wie eine... Ich wollte mal fragen, ob man jemanden starten selbst aufsuchen kann. Aber wahrscheinlich wird es gehen. Das ist etwas, was sie wirklich wollen. Sie wollen, dass man dieses Kurs nachschauen kann, damit man darauf seine Entscheidung basieren kann, mit wem man sich zusammen tun möchte. Mit wem man Beschäftigungen machen möchte. Gibt es noch eine andere Frage aus dem Internet? Ja, da kommt gleich eine. Die Frage ist, ob das implementiert in der offenen Welt, also die Leute, die auf dem Lauf wohnen? Das wird überhaupt nicht gemacht. Aber der Plan ist, dass es bis 2020 umgesetzt wird. Aber selbst... Aber die ländlichen Bewohner, die Anzahl ländlicher Bewohner wird immer weniger, die nicht online sind. Das ist ein Smartphone. Das Smartphone hängt an diesem Shenfuan Zhang, also mit der sozialen Idee, ID. Das Ziel ist, dass niemand offline ist. Noch mal noch, Microphone 2. Vielen Dank für diesen guten und beängstigen Talk. Er möchte etwas hinzufügen über die deutsche Text-ID, die Versicherungsnummer. Okay, es gibt in Deutschland also eine Versicherungsnummer und damit könnte man theoretisch ein ähnliches System bauen. Jetzt gibt es noch eine Frage über Quan Chi. Was für ein Netzwerk das ist? Ja, Quan Chi ist ein soziales Netzwerk. Aber es ist sehr viel stärker auf Hierarchie basiert als im Westen. Es gibt Leute, die über und unter mir sind. Und auch wenn die Erwartung ist, dass man für Gleiches zurückgibt, ist es doch immer so, dass man von denen, die über einen stehen, weniger bekommt und von denen, die unter einem sind, mehr bekommt.