 Schönen Abend. Herzlich willkommen im Humboldt-Institut für Internet und Gesellschaft. Bei Scormy, maybe. Die meisten haben wahrscheinlich ein bisschen Ohrwohn gehabt heute. Ich jedenfalls. Ich bin sehr gespannt auf das Thema. Beim Social Scoring geht es ja um das Bewerten einer Person durch ein gewisses Punktesystem. Und ich als Juristin muss sagen, das beschäftigt uns vor allem im Hinblick auf die Menschenwürde, weil plötzlich der Mensch benotet wird und zum Objekt einer gewissen Benotung wird. Das führt uns auch zu der Frage der Entscheidungsgrundlage, solcher Entscheidungen, welche Daten werden dafür benutzt, aber auch der Rechtsfolgen und der Anfechtbarkeit, die ja zurzeit noch sehr intransparenz sind. Man spricht auch von einer Blackbox. Und das ist nicht nur in China so, sondern das gibt es auch woanders. Allerdings können wir da schon sehen, welche Folgen so ein System haben kann. Unter anderem ist es ja so, dass wenn man auf der Blacklist landet kein Zugang mehr zu Bahn-Tickets hat, zu Flug-Tickets oder auch das Sparkonto wird gerne mal gesperrt. Also sehr unangenehme Folgen. Ich bin auf jeden Fall gespannt auf die Diskussion und hoffe, freue mich auf weitere Inputs von unseren Gästen. Vielen Dank. Vielen Dank, Amelie. Wenn es etwas gibt, von dem Sie nicht wollen, dass es jemand erfährt, dann sollten Sie es nicht tun, sagt Eric Schmidt. Damals Google Chef 2009 war das. Und damit herzlich willkommen auch von meiner Seite. Mein Name ist Katja Weber. Ich habe das für genügend den digitalen Salon zu moderieren. Wir werden gestreamt. AlexTV ist dabei, Facebook Live, hallo auch in den Stream. Wenn ihr was schreiben wollt, Twitter Hashtag Dicksal, da könntet ihr uns zum Beispiel raten. Vor ein paar Monaten haben wir hier über Science Fiction geredet und festgestellt, dass wir uns aktuell, das war ein bisschen das Fazit der Runde, wohl am liebsten mit dystopischen Geschichten von der Zukunft erzählen lassen. Utopien haben gerade eher weniger Konjunktur. Könnte sein, dachte ich so bei der Vorbereitung, dass es heute Abend wieder so wird. Aber wer weiß, vielleicht reißt ja von euch einer das Steuer rum. Oder aber von euch, wir würden uns wie immer freuen, wenn ihr Lust habt mit zu diskutieren. Ich glaube, es ist sehr wichtig, dass ihr da seid. Das Geld in die üblichen Fischbowlprinzipien. Kommt in den Platz, stellt eure Frage vor euren Aspekt. Oder sagt, Moment, geht noch mal zurück nach eben. Das war spannend, da will ich mehr zu hören. Wer super, wenn reichlich durchgewechselt wird und wir sehr viel von dem, was ihr wissen wollt, hören. Im Übrigen super, dass an so einem Mittwochabend doch so viele Leute Bock haben, viele Leute mit einem Bein im Flur stehen. Vielleicht gibt noch mal jede, jeder ein Handzeichen, der die noch einen Platz rechts oder links zu vergeben hat. Vorhin hatte ich das Gefühl, es gibt doch da und dort noch was. Also ihr könntet euch zum Beispiel dort drüben einfinden, sei denn ihr wollt fluchtbereit in der Tür stehen bleiben. Vielleicht gibt es auch in den Nebenräumen noch ein paar Stühle, weil es vielleicht doch all eine Stunde rumzustehen. Oder ihr seid euch auf den Lernstuhl. Das wäre natürlich dann jetzt so die unsaubere Alternative von mir. Jedenfalls, wenn ihr auf dem Lernstuhl Platz nehmt, sitzt ihr neben Nils Zurafski. In Interviews habe ich gelesen, bist du mal IT-Experte, mal IT-Kriminologe, manchmal auch Konfliktforscher. Dann habe ich mich einfach in die Studienfachkombination gerettet und kann euch sagen, er hat Soziologie, Ethnologie und Geografie studiert und er lehrt am Institut für kriminologische Sozialforschung. Da haben wir dann ja zumindest diese zwei Fachgebiete noch mal benannt. An der Universität Hamburg und ein großes Thema, Schwerpunktthema von Nils Arbeit ist das Thema Überwachung, das uns heute beschäftigen sollen. Nikola Kaiser-Brill ist da. Der beschäftigt sich mit den Themen Informatik und Journalistik oder Journalismus, ist dann konsequenterweise Datenjournalist geworden oder ein Journalist, der sich mit Daten beschäftigt. Er arbeitet unter anderem für Algorithm Watch, eine Organisation, die algorithmische Entscheidungsprozesse. Da können wir vielleicht noch mal ein bisschen näher gleich drauf, was das heißen soll, thematisiert und wissen will, wie kommen denn die Entscheidungen, die dahinten rausfallen, zustande und wie beeinflussen die uns? Kathika Kühnreich ist da, sie ist Synologin und als solcher erforscht sie auch das, was eben schon kurz angesprochen wurde, die chinesischen staatlichen Bewertungssysteme, Social Scoring, Social Credit, sind dann so die Begriffe, die durch die Luft fliegen, aber auch über China hinaus, wie funktioniert so eine Art der Bewertung, welche Folgen hat die, wo findet die Stadt auch bei uns und wie gehen wir damit um? Und vielleicht, Kathika, bleiben wir zumindest zum Auftakt mal in China, es gibt ja chinesische Testregionen oder auch Städte, die dann solche Systeme ausprobieren und ab dem nächsten Jahr 2020 soll das dann China-weit ausgerollt werden. Ich hab zuvor ja wird geguckt, was davon funktioniert, was wollen wir haben, in welcher Weise wollen wir haben. Wir haben eben schon gehört, es gibt Punkte für sozial erwünschte Eigenschaften-Tätigkeit und Punktabzug für Unerwünschte. Vielleicht hast du ein Beispiel, wo du sagst, dass daran versteht man sehr gut, wie Social Scoring, was ja jetzt in unterschiedlichen Prinzipien gerade ausgerollt wird, wie es funktioniert in China. Zum einen gibt es in China verschiedene Systeme, wenn man sich das betrachtet. Es gibt verschiedene für Individuen und es gibt ein System für Firmen. Und das System für Firmen ist schon sehr viel weiter als das für Individuen. Und wenn man sich anguckt, wie die chinesische Regierung das eingeführt hat, schon vor Jahren, wie Testgebiete gemacht wurden, ist es eben eine sehr cleverer Art, damit umzugehen. Und ich sehe es vor allen Dingen als Versuch, soziale Probleme technologisch zu lösen. Hast du ein Beispiel, welches soziale Problem wird wie adressiert? Es gibt soziale Probleme, es wird gesagt, es gibt mangelndes Vertrauen der Bevölkerung gegenüber der Regierung und den Film und auch innerhalb der Bevölkerung. Und das ist sehr wenig, Tendenzen gibt aufeinander zu achten. Und das ist die Regierung damit angegangen. Man kann das natürlich auch umdrehen und sagen, die chinesische Regierung hat vorgegriffen, weil es gab im Online-Bereich zum Beispiel auch sehr viele Bewegungen aus der Bevölkerung, Korruption anzugehen. Wenn zum Beispiel gesagt wurde, dass Politiker ständig Uhren tragen, die sie sich gar nicht leisten können. Danach gab es halt sehr viele Bilder von älteren Männern mit nackten Armen, allerdings mit so einem Bräunungsfehler am Handgelenk. Da konnte man also wieder davon ausgehen, dass das ist. Man kann sich dann auch nicht mehr versuchen, dass Leute gesagt haben, wir finden raus, wer das ist. Und sich, dass sich dann so ein Online-Mob, Recherchemob gegründet hat und die haben das rausgefunden. Korruption ist eine der großen Machtbedrohungen für die chinesische Regierung gewesen. Und gleichzeitig ist das natürlich ein, man könnte schon sagen, holistisches System der Erfassung, was er prohopt wird. Vor allen Dingen, man sieht das auf der einen Seite, die Wirtschaft eingeflochten wird und auf der anderen Seite die Individuen. Natürlich verflächten sich diese Bereiche dann auch wieder ineinander. Aber es ist schon eine neue Dimension der Kontrolle. Aber wenn ich dich richtig verstanden habe, waren diese Recherchemobs vorher sozusagen, sind so wild gewachsen. Jetzt wird das organisiert. Du hast das Stichwort Vertrauen genannt, was eine große Rolle spielt. Wie wird jetzt Vertrauen technologisch organisiert, um zum Beispiel Korruption zu unterbinden? Man kann natürlich, es wird gesagt, dass eben auch öffentliche Stellen bewertet werden, dass auch Amtsträger bewertet werden. Aber es ist zum Beispiel auch im Bereich der Wirtschaft so, dass Unternehmen bewertet werden. Ein ganz großes sozusagen propagandistisches Zugpferd war Lebensmittelsicherheit, da es sehr viele Skandale gegeben hat. Also das, was wir in den letzten Wochen hatten, eben mal sehr viel höherer Zahl. Und das hat eben zu einer großen Verunsicherung der Bevölkerung geführt. Wenn man nicht mehr dem trauen kann, dann hat man ein riesiges Problem. Und jetzt wird eben gesagt, guckt ihr könnt nachbeholziehen, das wird nicht nur die Firma, sondern der ganze Produktionsweg wird bewertet. Da wird das Vertrauen dann in dem Sinne wiederhergestellt. Ich würde noch einen anderen Prozess einführen. Gestern Abend habe ich es heute Journal gesehen und da war ein Beitrag über angehende chinesische Journalisten, die mit einer App Fragen trainieren, die dem Präsidenten wichtig sind. Entweder du gibst die Antwort, die der Präsident von dir hören möchte aber bei einem gewissen Fehlerquotienten fliegst du raus aus der Ausbildung. Eine Frage, die da vorgestellt wurde, lautete, was verlangt Präsident Xi von politischen Kadern? Antwort 1 wäre Wissen. Antwort 2 wäre Loyalität. Was würdet ihr denken? Loyalität ist genau das, was erwünscht ist. Antwort B geht es darum im Großen und Ganzen um Loyalität zu der Idee um die sozialen Medien zu verlesen. Es geht auf alle Fälle darum, dass Xi Jinping hat angefangen, eine ganz neue Dimensionen reinzubringen und auch Social Media zu nutzen und das Internet ganz klar zu nutzen. Damit sein eigenes Bild, seine eigenen Ideen weiterzubringen. Er hat ja auch die Amtszeit verlängert, die sonst gegalten hatte. Es gibt sozusagen die kleine rote App, es gibt nicht mehr das kleine rote Buch, es gibt eine kleine rote App, da kann man auch nachverfolgen, wie viel man daran arbeitet, wann man abricht, ob man sozusagen faul ist oder um 10.00 Uhr sagt, ich gucke jetzt ein Film. Damit kann das gut kontrolliert werden und es gelingt, dank der Digitalisierung in die privatesten Räume reinzubringen. Es gibt kaum noch einen privaten Raum in der Digitalisierung, ob das jetzt anhand von Kameras ist auf der Straße, anhand der Mobile Tracking Device, wo wir uns sehr viele Bewegungen von uns nachvollziehen können. Die unglaublich viele Sensoren haben, die uns jederzeit abhören können, mitfilmen können und wir führen sie sozusagen freiwillig mit uns. Ein chinesischer Sicherheitsbeamter, ein Hochrangiger, hat gesagt, wir können niemanden mehr verlieren. Die Leute tragen ihre Überwachungsberäte gerne mit sich. Ideale Ausgangsvoraussetzungen. Dann würde ich gerne Nicola Dich fragen. Noch mal diesen Begriff Vertrauen aufgreifend. Was ist das Neu-Sprech und heißt eigentlich Kontrolle? Es ist schwer zu sagen. Auf der einen Seite geht es natürlich um Kontrolle. Wenn der Staat versucht, so viel Daten wie möglich über seine Bevölkerung zu bekommen, es dient natürlich eine Kontrollzweck. Aber es gibt auch andere Beispiele von Citizen Scoring, die weniger mit Kontrolle haben und mehr mit der Wirtschaft, zum Beispiel die Schufa in Deutschland. Es gibt auch viele andere Beispiele in Europa auf dem lokalen Niveau, die noch andere Zwecke haben können, zum Beispiel mehr Effizienz in der Behörde reinzubringen. Über die Schufa haben wir hier im digitalen Salon schon gesprochen. Es ist sicherlich auch ein Projekt von Algorithm Watch, über das die eine und der andere schon mal was gelesen hat. Aber was du zuletzt angesprochen hast, auf lokaler Ebene mehr Effizienz reinzubringen, als Berliner Bürgerin jubel ich da natürlich und sag, gib mir die App, da bin ich auch mächtig für. Was passiert da? Es gibt zum Beispiel in der Schweden, in der Stadt Träleburg, 40.000 Einwohner, hat dort die Stadt sich entschieden, alle Sozialleistungen zu automatisieren. Das heißt, wenn man sich bewirbt, um eine Sozialleistung zu bekommen, wird dann die Bewerbung automatisch bewertet. Und um das zu machen, hat die Stadt Zugang zu sechs oder sieben verschiedene Datenbanken, zum Beispiel Arbeitlosengeld, Steuerbehörde und so weiter. Und damit sagt die Stadt, dass sie können eine Entscheidung in eine Minute treffen, statt vorher 15 Minuten. Also sehr viel effizienter. Das einzige Problem ist, wir haben keine Ahnung, ob es tatsächlich funktioniert, weil es gibt dafür keinen Transparenz. Das heißt, mein Antrag auf den Zuschuss zur Miete oder so wird nicht von einem Sachbearbeiter geprüft, mit einer Tabelle oder so, sondern wo werden meine Daten rausgegeben? Hinten fällt ein Ergebnis raus, was dazwischen passiert, wissen wir nicht. Genau. Nils, jetzt kommt ja kaum eine Beschreibung, wenn wir noch mal nach China gehen. Dieses Systems aus, ohne diesen Begriff des großen Bruders. Hier verschmelzen dann Staat und Wirtschaft schon ziemlich weitgehend. Wir, jetzt in deinem Beispiel, Nikola, waren wir eher in einer staatlichen Behörde, aber in dem Horrorszenario ist das ja eine Umgebung, wenn wir miteinander verwachsen sind, finden wir gruselig. Dann verteilen wir Likes und fragen Alexa Sachen, du trägst dein Telefon mit dir, spazieren wir Tracking unsere Fitness oder Menstruation. Wir sammeln natürlich Bonuspunkte bei REWE und so, weil es dann einen Topf genügend haben. Wie weit sind wir denn entfernt von so einer allumfassenden Überwachung, die die Behörde und die Bonuspunkte bei REWE und KDW und sonstwo kombiniert? Ich brauche jemanden, der zusammenführt und also diesen großen Bruder, der wirklich den einen, weiß ich nicht, der zentral sitzt, die Krake und die dann zentral die Gesellschaft steuert. Also es ist ja oft die Vorstellung, da sitzt irgendwie, ob das nun eine Weltverschwörung ist oder so eine zentrale A Circle. Das bräuchte es ja, um das alles zusammenzuführen. Ich bin mir aber ah, unsicher, dass es so viel gibt in einer heutigen Welt, in der auch vieles ja dezentral passiert. Wo aber dieses dezentrale Netz natürlich über uns einliegt. Und ich würde gern noch mal einen Schritt zurückgehen und fragen, ist denn das alles so neu, dass wir uns bewähren? Also wir tun immer so, da kommt was Neues und wir haben Angst und das Internet und das macht irgendwas mit uns. Also wenn wir so eine Gesellschaft allgemein so eine gallertartige Masse wackelt, aber das ist doch nicht wirklich ein gutes Bild. Denn ah, benutzen wir die Technik, also wenn wir schon von Technik reden, dann entwickeln wir uns gemeinsam, weil wir in der Nutzung ja auch die Technik entwickeln und wir und die Technikbedürfnisse, auf Bedürfnisse stößt, die man damit befriedigen kann oder umsetzen kann oder eben auch nicht. Und dann sterben Techniken auch ab. Und dieses ganze Bürokratische, was wir ja beiden, also Effizienz in der Behörde brauchen, Harmonie, hab ich mal irgendwie von China gehört, ist irgendwas, was da eine Rolle spielt. Das ist ja nicht neu, ist ein Bürokratischer Staat und den gibt es so wie wir ihn heute kennen, in seinen Anfängungen vor 250 Jahren. Also mit dem Entstehen, mit der Entwicklung der Industriestaaten, mit einer Vermassung in Städten gibt es sowas wie Bürokratie. Und davor und dann wurde es mich nötig so was zu erschaffen, weil davor war es anders gescored. Also ich geh jetzt einmal zurück zum Mittelalter, nur eine halbe Minute. Wenn man Bäcker war, trug man eine Bäckerzünft. Wenn man Friseur war, war man meistens am Rande der Gesellschaft, wenn man irgendwie mit den menschlichen Überresten zu tun hatte. Haaren und so weiter, Paria. Das heißt, man war gekennzeichnet durch Kleidung, durch Sprache, durch irgendwas. Also eine Bewertung fand doch immer schon statt. Das ist ja nicht so uuh, jetzt haben wir ein Qualitativer Unterschied. Doch, ja, ein Qualitativer Unterschied schon, aber es ist nicht so, dass Bewertungen von Menschen neu sind, weder in der sozialen Interaktion von einzelnen Leuten, noch in der gesellschaftlichen Bewertung von Gruppen und dem Ausschluss oder Einschluss von Gruppen. Mit dem Internet oder der digitalen Vernetzung muss man ja sagen, die über das Internet ermöglicht wurde und dann auch extrem ausgebaut wurde, weil sie offensichtlich auch ein Bedürfnis befriedigte. Wo der kapitalgesteuerte Bedürfnisse waren, aber auch auf Bedürfnisse des Konsumspons allen trifft. Deswegen haben wir die Dinger ja bei uns. Hat es natürlich qualitative Unterschiede, wenn wir jetzt nämlich dann diesen zentralen diesen zentralen Instanz haben kann, die vieles überblicken kann und das bewerten kann. Weil nämlich, ich sage jetzt mal, alles stimmt natürlich nicht ganz. Alles, was wir machen, irgendwie digitalisiert wird und digital vonstatten geht. Also Verwaltung, Anträge, die wir stellen in unser Leben, unser Ausschuss, unsere sozialen Beziehungen. Und dann wird es natürlich kritisch, wenn es keine Auswege mehr gibt, also wenn es nicht verschiedene Bewertungssysteme gibt, die unabhängig voneinander bedient werden können. Sozusagen, dass ich in den Zirkeln mich so bewege und in den Zirkeln so und die voneinander nichts wissen, das ist immer mehr unmöglich. Und diese Zirkel werden immer mehr kurz geschlossen, so dass Dinge, die ich in einer Sphäre tue, in die andere reingehen und die nicht mehr getrennt werden. Das Anfangs-Zitat ist ja von Schmidt, wenn du nicht möchtest, dass jemand, was du das tust, was keiner erfahren soll, dann lass es doch bleiben. Es ist ja Unfug, oder? Also ich mache ganz viele Sachen, von denen ich nicht möchte, dass sie jemand erfährt. Weil, dass wir voll peinlich oder es geht doch nichts an, oder es ist intim oder so. Aber okay, du hast vorhin gesagt und dieses Fern vermischen sich und da gibt es keine Grenzen mehr und das ist der eigentliche Punkt. Es gibt keine zentrale Instanz, die das alles sozusagen in den Aktenordner reinsammelt. Es sind dezentrale Netze, die sich aber an den Rändern oder vielleicht auch in Kerngebieten überlappen. Seht ihr denn, oh, und jetzt wird's wirklich dystopisch, das Bestreben so eine Instanz oder Daten, all Sammelstelle zu schaffen in unserer Gesellschaft oder ist das vielleicht gar nicht nötig, weil die Konsumbedürfnisse und die Verkaufsbedürfnisse auch so wie das im Moment läuft, gut zu bedienen sind. Also bei euch beiden sage ich irgendwie so den Wunsch zu reagieren. Diese Traum von einem zentrale Datenbank mit allem, das ist, das wollen alle Polizeibehörde in Europa. Und einige haben es schon gekauft, insbesondere die Polizei Hessen. Sie haben ein System von Firma Palentir gekauft. Und Palentir verspricht, dass diese Tools alle Daten von allen Quellen irgendwie zusammenbringen können und dann magische Insights geben können. Das heißt, ich gebe da deinen Namen ein und sehe dann sämtliche Infos über deinen beruflichen Werdegang, deine Kontaktdaten, dass du am letzten Mittwoch des Monats Oktober warst du im digitalen Salon, und zwar mit denen und mit denen. Das haben sie für die NSA entwickelt, mit Namen X-Kizcore. Ob das die Polizei Hessen gekauft hat, habe ich keine Ahnung. Und sie versprechen auch, dass durch KI sie werden dann Terroristen nochmal magisch herausfinden können. Und das haben sie in den Erdenemark in Norwegen in Frankreich gekauft. Ich würde schon sagen, dass es eine komplett neue Qualität hat. Zum einen wir keinen Sinn für Daten haben, deswegen vergleiche ich das oft mit der Atomkraft. Es hat unglaublich lange gedauert, bis Menschen verstanden haben, dass Radioaktivität gefährlich ist und dass das Langzeitwirkungen hat, mit der noch so viele Generationen nach uns zu tun haben, die nie von den Baum-Atomkraftwerken abgeschaltet, obwohl wir wissen, dass es tödlich ist. So ist es mit Daten. Auch Daten sterben nicht. Daten bleiben erhalten, wenn nicht was ist. Daten werden dezentral gespeichert. Also jede Google-Anfrage, die ich mache, wird dezentral gespeichert, nicht nur in einem. Daten kann ich nicht einsehen. Und ich weiß nicht, was daraus errechnet wird, anhand welchen Algorithmen. Und dann sind wir beim Problem der Kategorien. Ich weiß gar nicht, in welchen Kategorien ich das handle, wenn ich z.B. von jemandem mal kurz das Handy benutzt hab. Wenn ich mit wem in Kontakt stelle, da sind wir ja auch wieder im Antiterror-Kampf, dass ich z.B. nur weil ich mal jemanden nett weitergehelfen hab, vielleicht gilt die Person als terrorverdächtig. An Gefährd. Schon ist man drin, genau. Dann ist man vielleicht auch Gefährd darin. Das ist ja die Unschuldsvermutung im Zeitpunkt der Digitalisierung, gilt nicht mehr so unbedingt. Und ein Problem ist eben auch bei Daten, dass wir nicht wissen, bei wem die alles landen. Als Beispiel aus Deutschland, hier ist der größte Internetknotenpunkt in Frankfurt. Und alles, was da drüber geht, wird vom BND mit gelesen. Das ist natürlich eigentlich ein bisschen schwierig, weil Frankfurt in Deutschland liegt und der BND darf eigentlich gar nicht in Deutschland. Aber das haben sie tatsächlich hingekriegt, weil Frankfurt jetzt virtuelles Ausland ist. Und Sie lesen das mit und es wurde beim Oberverwaltungsgericht, glaub ich, in Leitzig wurde letztes Jahr bestätigt, dass das legal ist. Und eben auch, was wir beim NSA-Skandal gesehen haben, es ist nicht nur der chinesische Staat der Daten haben will. Und was in zehn Jahren aus diesen Daten errechnet wird, ob das jetzt gut ist, dass wir zusammengesessen haben oder ob eine von uns dafür eine schlechte Bewertung kassiert. Das wissen wir nicht, das können wir nicht machen. Aber wir liefern ja ständig Beweise mit diesen kleinen Wiestern. Das haben wir in der Krif-Daten rausgenommen. Da kursieren ja so die unterschiedlichsten Slogans. Die sind der Rohstoff unserer Zeit, das Öl, das Gold. Es gibt da eine ganze Metaphorik rund um die Daten. Ein nüchterner Datenjournalist, wie würde der das in einen einfachen Hauptsatz packen? Es stimmt, dass Daten sehr nützlich sein können. Es ist, wenn man etwas nicht messt, kann man keinen Kontrolle, man hat keine Ahnung, ob irgendwas größer oder kleiner wird. Daten sind eine Voraussetzung für die Wissenschaft. Aber hier sprechen wir von Noten, von Scores. Das sind so eine Mischung von verschiedenen Daten. Das hat sehr wenig Aussagekraft. Das ist eher eine Illusion von Klarheit. Das wäre viel besser, wenn anstatt Scoring verschiedene konkrete Dimensionen messen würden. Das ist nicht der Fall. Die Beispielen, die wir bei Algorithmodge sehen, haben weniger Messen zu tun als mit Scoring. Wir wissen nicht, wie diese Scores gemacht werden. Bitte, Nils. Du hast ja noch mal gefragt, nach der zentralen Stanz oder dieser Krag. Ich glaube, wenn man darüber nachdenken möchte, muss man sich von einem frei machen. Von Bildern dunkler Diktaturen und Kontrollstaaten. Gerade im deutschen Diskurs, nach zwei deutschen Diktaturen, Stasi, Gestapo, Naziherrschaft etc. durchaus wirkmächtig sind im Denken. Im Denken von Kontrolle und auch die Volkszählung und der Widerstand fußt auf dieser Vergangenheit. Wir müssen uns das vorstellen, dass was Google immer so ein andere vorhaben, als Utopie einer besseren Welt. Deswegen tun die das. Sie glauben natürlich auch ans Kapital, dass wir in ihre Taschen spießen. Aber ich glaube auch, dass was Schmidt und Don't Do Evil und Don't Be Evil, dieser Ursprungsslogan von Google, die glauben da tatsächlich, dass sie eine Utopie schaffen und was gut ist. Eine Art Mischung aus Technoesoterik und besserem Lebenwels oder Evangelismus oder evangelikaler Technoerlösungswelt. Da ist es alles gut und vor diesem Hintergrund schaffen sie diese Welten und beliefern uns damit. Mit dem tollen und schönen. Das ist ja alles total angenehmer und was uns und allen diese Geräte bringen. Und vor diesem Hintergrund müssen wir diese Kontrollen sehen. Ich gehe ein bisschen weg von diesem konkreten. Ich bin nicht wirklich IT-Spezialist, der mit digitaler Kultur, das käme demnäher. Und dann wird das viel, viel angenehmer, also die Welt in dieses eingebettet wird, für uns allen angenehmer und ist gar nicht so rau und kantig und von düsterigen Gestalten mit komischen Zeichen bevölkert, sondern eine ganz angenehme Welt, die aber durchaus sehr totalitär ist und auch Schattenseiten hat und mit diesen Schattenseiten. Was passiert eigentlich, wenn man nicht diese Dystopie oder das gute Leben wer soll das bestimmen? Was ist das? Mitmacht. Diese Schattenseiten gilt es zu beachten und dann wäre nämlich dieses Scoring also natürlich eine effiziente Verwaltung in Trellebox bestimmt toll. Die Frage ist, was passiert dahinter? Was ist die Idee von Effizienz? Effizienz scheint ja ein Wert an sich zu sein, ist aber nur erst mal schneller. Warum ist schneller ein Wert an sich? Du hast es ja gesagt, wenn man die Entscheidungen nicht kennt und so weiter. Und damit muss man sich beschäftigen. Und warum sollen wir in die Annehmlichkeiten dieser Welt wirklich glauben? Es stellt sich natürlich die Frage, wieso ihr die Annehmlichkeit der Rolle der Zuhörerinnen oder des Zuhörers verlassen solltet, eventuell um eure Gedanken mit uns zu teilen. Also noch mal die herzliche Einladung und der Hinweis, hier wäre noch ein Stuhl frei. Also ich versuche auch, das ist auch einfach nochmal bei euch, die ihr da halb auf dem Gang steht. Vielleicht hättet ihr Lust, euch fünf Minuten dazu zuzusetzen, einer von euch. Wir haben hier aufgreifen, was Nils gerade angetippt hat, nämlich das Bundesverfassungsgerichtsurteil von 83. Das leitet sich ab, also in Reaktion auf die Volkszählung aus Artikel 1 des Grundgesetzes. Die Würde des Menschen ist unantastbar und gewährt uns oder spricht uns doch zumindest zu ein Recht auf informationelle Selbstbestimmung. Mit diesem Recht wäre eine Gesellschaftsordnung nicht vereinbar in der Bürger nicht mehr wissen können, welche Gelegenheit über sie weiß. Wer jetzt eine Frage an euch alle drei, ist das längst von der Realität eingeholt und ein Herresideal oder ist das die Welt, in der wir leben? Da es Firmen gibt, von denen wir noch nie gehört haben, die aufgrund von unserem Onlineverhalten Profile bei uns erstellen, von denen wir auch nichts haben, muss man halt sagen, es ist ein wunderschönes Urteil gewesen. Aber leider hat sich in der Politik niemand darum gekümmert, dass man das nicht mehr behalten würde. Ihr stimmt zu, dich sehe ich nicken und dich auch. Kümmern wir uns selbst genug drum. Du hast gerade angesprochen, wie komot das alles ist, wie wir uns reinlegen können ins gemachte Bett. Ich fand das sehr schön, wie Nils das gesagt hat, es ist viel kuscheliger geworden. Es ist eben nicht mehr schwarze Lederuniform. Das ist auch was in China passiert. Es wird viel kuscheliger vermittelt. Es wird Harmonie gesagt und es wird eben gerne gemifiziert. Wir werden halt, das ist ja auch an den Plattformen wie Facebook zum Beispiel, das kritisiere ich sehr hart an denen, dass da so viele Leute arbeiten, die Psychologie studiert haben und eben nicht die Firma, die an das die schöne neue Welt glaubt, sondern die sagt, wie können wir diese ganzen kleinen Laborraten, denn dazu kriegen, unsere Taschen zu füllen. Tinder oder sonstige Dienste, die machen ja nichts umsonst, weil sie wollen, dass sie ein tolles Sexleben haben, sondern es geht denen darum, dass wenn man Leuten Sex verspricht, die so viele Daten freigeben, die würden sie nur nicht mehr mit Facebook sonst teilen. Das ist alles, was wir im digitalen Kapitalismus umsonst kriegen, ist so ähnlich wie in der Metzgerei. Eine Partei kriegt immer alles umsonst, das ist das Schweinchen, das muss keine Miete zahlen, kein Futter, kein Tierarzt und es kriegt sogar noch eine Reise umsonst. Ist nur eine Hinreise aber immerhin. Da wird es aber jetzt doch ein bisschen unkuschelig bei diesem Bild. Und dann werden wir kategoriert, das passiert dann in der Schlachterei und dann werden wir verkauft. Und so ist das, wenn wir denken, dass Tinder irgendwas für uns tut. Eigentlich geben wir da Daten ab, von denen wir überlegen könnten, ob wir wollen, dass das nicht nur die eine Firma hat, die teilt das ja auch wieder ganz schön. Okay, jetzt sind wir natürlich an dem Punkt, da wir uns ich mir eine Schizophrenie attestieren muss. Wir sitzen hier und klagen uns an. Wie krank ist das? Ohne Worte. Ich glaube, das ist die, wenn man so möchte, die digitale oder im Englisch klingt es ein bisschen besser, Digital Condition, aber die Kondition Digitales, in der wir in dieser Gesellschaft verfasst leben. So, das ist schizophrenisch, das weiß ich nicht, aber es regeln unseren Alltag, wir regeln unseren Alltag mit dieser Technologie. Sie hat sich mit uns entwickelt, sie hat Bedürfnisse befriedigt, dass es nachkommt, dass es ein Tinder ist oder andere, aber das sind natürlich, es ist unser Alltag geworden und der Alltag ist ins digitale Gerutsch, ob wir es machen, weil es modern ist, weil es da ist, weil es geht, weil es praktisch oder toll, weiß ich nicht, aber es hat natürlich auch ganz viele Aspekte, die uns selber eine Art von Befriedigungen versprechen. Es ist auch eine Art Distinktionsgewinn, das neue iPhone. Man muss sich das immer so vorstellen dass die digitalen Turbo, könnte man ja sagen, noch mal so viel deutlicher, die Massenproduktion versteht es Individualität zu erzeugen, also ich kaufe mir das iPhone bin deswegen toll oder was auch immer, eine Klamotte oder was auch immer, das tut sie aber mit einer Geschichte, die eine Massenproduktion von Millionen von Geräten, die ihr alle haben könnt, ihr seid alle individual, weil ihr alle das gleiche habt, wie bescheuert ist das denn? Also es verkauft durch Individualität über ein Massenprodukt, das ist der Trick, der funktioniert und darüber sozusagen das Bedürfnis befriedigt das weiterzumachen. Nun ist das natürlich nicht nur ein Telefon, sondern eben eine Datensammelmaschine, aber es ist unser Anschluss an die Welt geworden, das dürfen wir nicht verstehen, es ist nicht nur wir telefonieren und können damit rumlaufen, toll, das was wir früher uns wünscht haben, wenn wir Star Trek geguckt haben. Nein, es ist sozusagen ein Blick in die Welt, unsere Welt wird hier rüber erschlossen, andere Sachen, aber ich spitz es mal zu, unsere Welt erschließt sich über diesen komischen Bildschirm, über diesen kleinen Bildschirm und das ist sozusagen nicht unsere ganze Welt, aber der Zugang ist gesteuert und dann steuert das natürlich die großen Firmen, die alle wollen, dass sie zu ihnen kommen, weil sie Werbeeinkünfte haben unter uns. Okay, also die Diagnose, da scheinen sich alle einig zu sein, wenn wir die Welt empfangen oder unser Fenster zur Welt kommen wir dahinter zurück, üblicherweise ist es ja so, das ist als Trick beschrieben, wenn man einen Trick mal gecheckt hat, funktioniert der nicht mehr. Ich glaube nicht, denn um das, was Nils eingebracht hat, zu ergänzen, es ist ein Problem, dass wir Individualität haben, aber bitte auch immer Identität. Wir leben in einer Gesellschaft, wo es sehr schwierig ist, Identität zu haben. Klar, da hatte ich keine Auswahl, da hatte ich keine Freiheit in der Wahl, da war ich in der Zunft oder eben nicht, da mussten Frauen sogar gucken, wenn sie heiraten, damit sie in der Zunft bleiben konnten. Aber heute haben wir nicht mehr diese Zwangszugehörigkeiten, aber auf der anderen Seite eben eine sehr große, vielleicht überfordernde Freiheit, manchmal wer wir sein können und da tritt halt der digitale Kapitalismus ran und sagt, guck mal hier, das kannst du dir kaufen, das kannst du sein. Und das war es uns und das war es dann auch. Und dann geht es um die Einstellungswelle und was du willst verkauft wird, es ist eine extreme soziale Vereinzelung. Denn wir sind sozial vereinzelt, wer in der Wissenschaft ist in einer Gewerkschaft, wer ist in den ganzen Click-Worker, wer ist da in einer Gesellschaft, wir sind vereinzelt und unsere Stimmen können, deswegen viel schlechter gehört werden. Um noch irgendwie kommunizieren zu können, was du wieder sprechen möchtest. Und gerne stell dich doch erst mal kurz vor, aus welchem Cosmos du zu uns sprichst. Okay, also mein Name ist Roberto Szymonowski. Ich habe in China mal einige Jahre lang Studenten unterrichtet, allerdings in Hongkong, was immer noch ein anderes System ist. Aber dort auch mitgekriegt, dass die sehr froh sind, das war das Sesame-System, das damals aufkam. Die haben also wenig Sorgen damit, also da kann ich ihre Einschätzung teilen, die sehen, dass er die Regelung des Vertrauensproblems, das die Gesellschaft hat. Das ist so ein Kreditvergabesystem. Ja, das ist ja so genauso. Aber auch das Sozialkreditverfahren wird von denen recht gut angenommen, weil die Vorteile eher sehen, als die Nachteile, die wir sehen, weil sie ja auch nicht, wie wir im Individualismus erzogen sind, sondern kollektiv. Und dann ist die Klärung, die das dann für das Kollektiv bringen kann. Also mehr Sicherheit, wichtiger für sie als der Verlust und die Freiheiten. Ich wollte eigentlich herkommen, um Nils zu widersprechen, der ja schon mehrmals versucht hat, das dystopische ins utropische zu bringen oder ins positive zu fassen, indem er einmal sagt, es ist gar nicht so schlimm, was wir da verlieren, weil wir ja gar nicht das verlieren, sondern nur zu etwas zurückkommen, also die Zünfte, auch die IT-Unternehmen, die ja gar nicht so was Schlimmes vorhaben. Was ich auch glaube den habe ich jetzt vergessen, da kommt vielleicht noch zurück. Also zu den, dass die gar nicht so was Schlimmes wollen, das glaube ich auch dem Zuckerberg, aber wir haben ja gesehen, was da aber rauskommt, wenn man sich schnell bewegt und Dinge zerbricht. Da zerbricht man auch schnell mal die Demokratie mit Dingen, die man selber nicht überblickt hat. Deswegen glaube ich nicht, dass das ein gutes Argument ist, dass die ja nur das Beste wollen, auch ein bisschen vermittelt mit Kapitalismus, erst mal als privat kapitalistisches Unternehmen operieren und nicht darüber nachdenken, welche Folgen ihre Handlungen haben, denn das hätte sonst bei Zuckerberg oder bei Facebook schon recht früh dazu führen können, dass sie merken, also schon nach dem Arabischen Frühling, dass das auch von rechter Seite missbraucht werden kann. Wo ist denn da jetzt der Widerspruch? Das blicke ich jetzt nicht, ganz scheint mir gar nicht so. Nils wollte, das klang so ein bisschen, als wäre das keine Gefahr, ohne was Gutes vorhaben. Ich glaube das sogar auch. Ich glaube aber nicht, dass die Kompetent genug sind, das einzusehen, was die Folgen ihres Handelns sind. Das ist ja auch problematisch. Warum sollten Ingenieure das besser wissen als Politologen oder Geisteswissenschaftler? Das Problem ist, dass die sich auch gar nicht die Zeit nehmen können, das herauszufinden. Die müssen ja den Markt da obern. Das ist das Problem, in dem wir sind, dass wir nicht die Zeit haben, die Verantwortung zu entwickeln. Dass wir über die ferneren Folgen unserer Handlungen nachdenken können. Man denke nur an den Slogan der FDP, mit dem den letzten Bundestagswahl-Trump aufgetreten ist. Digital First, Bedenken Second. Das sagt doch alles. Aber ich wollte jetzt zu den Zünften. Das ist vielleicht der bessere Weg, das dystopische ins utopische zu bringen, als Advokat des Teufels natürlich nur. Denn wir sind in der Tat in einer Situation, wo wir keine Identifizierungen mehr haben. Wir sind ein bisschen verloren, metaphysisch, obdachlos. Und da ist das eine natürlich, dass wir, dass uns Konsumgüter angeboten werden, um als Identitätsobjekt. Aber ich glaube, das reicht gar nicht mehr. Und ich glaube, es geht um viel mehr bei dem Social Credit System. Nämlich, dass man wieder in eine strenge Kontrolle kommt, die man bei den Zünften mal hatte, die wir dann verlassen haben. Simmel sagte als Soziologe in 1910 oder so mal, Geheimnis ist eine der besten oder wichtigsten Errungenschaften der bürgerlichen Kultur. Das geben wir gerade auf, dieses Geheimnis. Weil es uns nicht mehr so wichtig ist, wie andererseits integriert zu sein. Und wir sind integriert durch diese ganze Reputationsökonomie, die eben darauf aufsetzt, dass wir bewertet werden, dass wir ständig gescoot werden. Das kennen wir im Westen ja auch aus Airbnb. Jetzt bin ich gespannt auf die Frage oder den Appell, die daraus folgert. Ich wusste nicht, dass ich hier zu einer Frage eingeladen bin. Ich dachte, ich bin zu einem Kommentar eingeladen. Das durchaus auch, aber... Ich will auch gar nicht so lange bleiben. Aber du kannst auch gerne bleiben. Aber vielleicht... Ich habe jetzt gedacht, wo ist da jetzt der Widerspruch? So hattest du dich selber eingeleitet? Oder wo will er hin? Den Widerspruch zu Nils habe ich ja schon deutlich gemahnt. Er hat auch schon genickt. Den anderen... Aber zumindest hat er ihn verstanden, wo der Widerspruch ist. Ob er ihn annimmt, ist ja eine andere Frage. Aber das andere muss ich vielleicht zu Ende führen. Warum Social Credit Systeme vielleicht auch eine Rettung sind im Hinblick auf unsere metaphysische Obdachlosigkeit? Weil wir eben... Weil jede Handlung, die wir dann begehen, wieder Teil einer größeren... Ich sage mal Grand Narration ist, um das philosophisch einzurichten, einer größeren Geschichte, um uns dann wieder wiederfinden. Es macht sozusagen jede Episode unseres Lebens, macht dann wieder einen größeren Sinn über sie selbst hinaus. Das große Beispiel in China ist ja immer, wer bei Rot über die Ampel geht, wird dann sofort auf der anderen Seite schon identifiziert und sieht schon, wie viel Minuspunkte er bekommen hat. So, überlegen wir mal. Wir stehen alle vor der Ampel und wissen jetzt nicht, sollen wir nun rübergehen oder nicht. Es kommt doch kein Auto. Es steht ja nicht mal eine Mutter mit einem jungen Kind da. Dass ich nicht rüber gehe, also dass ich das Richtige mache, setz mir mal voraus, das wäre das Richtige. Ich bin nicht der Meinung, dass das jetzt blinde Gehorsam von Verkehrsregeln das Richtige wäre, wenn keine Gefahr besteht. Aber nehmen wir das mal an. Das hat natürlich diese Frage, mache ich jetzt, soll ich das jetzt machen? Die hat natürlich größeres Gewicht, wenn ich weiß, wenn ich jetzt dagegen handle, kriege ich ab Minuspunkte. Das heißt, in dem ganzen System der Gemification, dass alle meine Handlungen überprüft werden in Verbindung stehen. Und am Ende ist wahrscheinlich gar nicht klar, ob ich nur die Minuspunkte oder die Pluspunkte bekomme wegen der roten Ampel oder weil ich einen Diebstahl begangen habe. Sondern es ist nur eine Zahl da und die ordentlich irgendwo ein gegenüber den anderen. Und diese große Geschichte, dass ich am Ende eine Zahl habe und die möchte möglichst hoch sein, natürlich hoch abschneiden, oben. Die macht mir das Warten an der Ampel leichter. Die macht mir in China dann die Besuche, die 3-mal, 3-mal oder 2-mal Besuche pro Jahr bei den Eltern, die da verlangt werden, einfach all die Dinge, die ich sonst nicht gerne machen würde. Ich möchte doch mir was anderes sagen. Ich würde das gerne aufgreifen. Du hast gesagt, fasse ich jetzt mal ein bisschen blöd zusammen. Erich Kästner, wo bleibt das Positive? Du hast dich jetzt angestrengt, um was Positives zu finden. Könnt ihr euch in irgendeiner Weise anschließen oder vielleicht sagen, was Gutes daraus erwachsen könnte? Weil im Schlechtfinden haben wir uns ja jetzt eine gute halbe Stunde geübt. Ich könnte sagen, dass es auf alle Fälle, es gibt keinen System, in dem es nur negative Sachen gibt. Welche positiven Aspekte siehst du? Die positiven Aspekte sind zum Beispiel für einen Start der Aufstandsbekämpfung betreiben will, weil wir können Aufstandsbekämpfungssysteme heute mit den Interpretationen der Algorithmen, wo drauf ja auch schon sehr intensiv, sind Interpretationen der Wirklichkeit. Es ist nicht eine Abwürdung der Wirklichkeit beziehungsweise das Ergebnis von Algorithmen. Es ist aus der Perspektive der Aufstandsbekämpfung jede Information derartigen Informationen, die wir zum Beispiel über das Browsen einfach im Internet abgeben, sehr wichtig. Das heißt, für einen Start der erhalten bleiben will und eine Partei wie zum Beispiel die chinesische, kommunistische Partei, aber auch westliche Parteien, die sagen, wir wollen uns nicht beteiligen. Wir wollen nicht diese Informationen haben über potenzielle Wählerinnen oder Wähler. Aber was ich noch mit reinbringen wollte, ist, wir bräuchten einen Notfallplan. Diese Systeme sind nicht darauf ausgelegt, dass, wie unser Mitredner schon sagte, es kann sein, dass sie in die falsche Richtung laufen. Sie sind nicht dafür ausgelegt, dass es einen Notfallplan gibt, dass wir aussteigen können und sagen können, okay, diese Sache, die sich 15-jährige Ingenieurs-Anwärterinnen und Anwärter im Silicon Valley mal ausgedacht haben, geht ganz schrecklich in die Hose. Das kann man auch machen, weil mit 17 bis 21, 23 sollte man doch spätestens alle Fehler der Welt machen dürfen. Auch ein weltumgreifendes Facebook-System entwickeln. Aber wir bräuchten ein System, das wir da wieder ausstellen können aus dieser digitalisierten Kontrolle und aus der Macht der Algorithmen, dass das gar nicht so gut läuft mit den Algorithmen. Vielleicht hat Nikola ein Beispiel, wo eine Gemeinde, Behörde oder welche Institution auch immer festgestellt hat, an dem Mist mit unserer Interpretation der Wirklichkeit durch Algorithmen, es hat nicht funktioniert. Wir haben einen Plan B, gibt es da Beispiel aus der Praxis für Exit und jetzt doch wieder anders? Es gibt viele Gemeinde und Firmen, die Dinge probiert haben und die am Ende nicht weitergemacht haben. Und sind dann zurück zur normalen Umlaufmappe oder was tritt dann an die Stelle? Ja, genau. In Dänemark zum Beispiel wollte der Staat eine Punktsysteme für Kinder einführen, um Risikokinder zu finden, vorher, dass sie zu Krimineller werden. Und dafür hatte der Staat geplant, dass wenn ein Kind ein Arzttermin misst zum Beispiel, kriegt er 1000 Punkte. Wenn die Eltern geschilden sind, sind es noch 500 Punkte und so weiter. Aber am Ende wurde der Plan stillgelegt, nur weil es eine Reaktion der Zivilgesellschaft gab. Das heißt, das wurde tatsächlich mal in die Praxis umgesetzt, und dann gab es noch die Zivilgesellschaft. Und dann gab es noch die Zivilgesellschaft. Es wurde nie umgesetzt. Das war nur ein Plan. Das Problem ist, es gibt sehr wenig Berichte zu diesen Experimenten. In Berlin haben wir das gesehen bei der Gesichtserkennung Experiment am Südkreuz. Dort hat die Stadt was versucht. Der Bericht war ziemlich schlecht, wenn man die Analyse von der CCC liest. Und der Stadt geht trotzdem weiter. Aber vielleicht gibt es daher die besseren Programme, beispielsweise bei chinesischen Anbietern zu kaufen, wenn das am Südkreuz nicht so gut geklappt hat mit dem, was wir hatten. Also Huawei kommt immer näher. In Belgrad gibt es inzwischen sehr viele Gesichtserkennungskameras. Und das Schöne war wegen Gesichtserkennung, dass chinesische Firmen so wenig westliche Bilder hatten zum Erkennen. Es hat ja auch schon diese kleinen Unfälle mit Algorithmen gegeben, dass die schwarze Gesichter einfach als Affen bezeichnet haben oder als Gorillas. Und in der chinesischen Sphäre wurde das als Problem gesehen, dass man eben fast nur ostasiatische Gesichter hat. Und dann hat man einfach umsonst natürlich ins Internet gesetzt. Natürlich werden allgemeine Geschäftsbedingungen nicht gelesen. Und ganz viele Leute, vielleicht auch hier im Raum haben gesagt, natürlich kannst du die biometrischen Daten von mir und auch von allen meinen Freundinnen und Freunden nutzen, um sie der chinesischen Gesichtserkennungsforschungsprogramm zuzuführen. Also es ist auch was Positives natürlich, für Sense Time. Das ist das, was ich als Konsum der Überwachung bezeichnen würde. Aber ich würde noch gern ein positives Beispiel nennen. Und die kleine Wiederräder, ja, es ist ein Widerspruch. Aber nur, wenn man, was der Widerspruch ist, ich wollte nur darauf hinweisen, wenn man immer das Bild von, ich sag's jetzt mal, Faschismus sieht als dieser Superkontrolle, dann gucken wir auf die falschen Dinge, die in dieser Überkontrolle der digitalen Unternehmen tatsächlich funktionierten, wie sie funktioniert. Das war eigentlich der einzige Einwand, was Positives. Wir haben Klimawandel und wir müssen irgendwas dagegen tun. Und ich glaube, dass uns digitale Technologien, Algorithmen und die Steuerung, zentrale Steuerung von Städten, von Klima, von Heizung, von unserem Umweltverhalten, Verkehr und so weiter ohne eine Digitalisierung nicht gelingen wird. Das heißt, wenn wir, es gibt ein kleines Sternchen dazu, die Digitalisierung fristierisch will Strom. Aber die Organisation von großen Städten, wie sie zum Beispiel in China, weniger in Deutschland, aber in anderen Metropolen dieser Erde sind Smart Cities und so weiter, dass wir nicht drum herum kommen werden, diese Arten von Steuerung haben zu müssen, um ein besseres Klima, eine bessere effizientere Energieverwendung und so weiter zu garantieren. Und da ist die Digitalisierung durchaus ein Posit, weil offensichtlich sind Menschen so unvernünftig, dass sie das privat und das eigene Antrieb und selbst verantwortet nicht hinbekommen. Also brauchen wir diese Art von Hilfe. Und dazu ist die Digitalisierung Algorithmen wahrscheinlich Teil, Teil einer guten Lösung. Dass wir damit in andere Probleme laufen, die auf die rechtliche Hinsicht in der Kontrolle, in dem, wie wir gewohnt in unser Leben als individualisierte Individuen zu leben und so weiter, ist gar keine Frage, aber als positiver Aspekt wird uns diese Technik helfen müssen. Wenn ich noch was sagen darf, dann verlasse ich auch den Platz, weil ich nicht sicher, was meine Rolle hier ist. Es ist schon angenehm, aber es müssen auch andere die Glegenheit haben, noch was zu sagen. Aber da der Weg, da ich mich einmal auf den Weg gemacht habe, vielleicht noch dazu etwas, indem ich jetzt ganz zustimme, zumal mir jetzt auch wieder eingefallen ist, was vorhin noch da war, wo ich nicht zustimmte. Das war die Aussage, dass wir diese Technologien selber annehmen oder dass sie nicht funktionieren würden, wenn sie nicht auf einem Bedürfnis treffen würden. Und das stimmt auch. Allerdings ist es ein bisschen komplizierter. Man muss ja sehen, wo werden sie zuerst produziert, welches Bedürfnis bedienen sie zuerst und man muss sich fragen, haben wir alle die gleichen Bedürfnisse? Wir leben in unterschiedlichen Kulturen, haben ja auch unterschiedliche Bedürfnisse, was Kommunikation betrifft oder auch was Datenschutz betrifft. Und wir müssen bedenken, dass die Technologien ja momentan, also bisher im Westen produziert wurden, im Silicon Valley Kulturen ausgehen, die dort herrscht und die ist bekannt. Das war vorhin schon angesprochen, nicht von zwei Diktaturen geprägt und deswegen auch nicht so ängstlich, was die Freigabe persönlicher Daten betrifft. Die Frage ist dann, kann sozusagen über die Technik dann diese kulturellen Perspektiven und Werte exportiert werden in die gesamte Welt und kann sich dann der andere Teil der Welt dann noch dagegen wehren oder gibt es dann so etwas wie eine Sachordnung, wie das Soziologen früher mal gesagt haben oder Postulate der Medien, wie das als Medienwissenschaftler McLuhan sagen würde, die dann die Macht haben, sich den ahnungslosen Aufzudrängen oder Sachordnungen, die sich dann durchsetzen, geschichtlich, die durch die Technik, die natürlich einmal geschaffen ist von den Menschen, aber dann der, der dann künftige Generation oder andere Gruppen sich nicht entziehen können. Das ist die spannende Frage und ich denke, dass der Entzug auf der politischen Ebene passieren müsste, wenn er überhaupt funktionieren kann. Und auf der politischen Ebene, das schließt dann den Kreis zur Frage vorhin, was können wir machen. Wir können vielleicht auf bessere Technologien hoffen, dass die Gesichtserkennung betrifft. Das ist natürlich nicht das, was wir wollen. Oder wir können hoffen, dass Stadtpolitiker wie in San Francisco, also in der Nähe des Silicon Valley, dass die Gesichtserkennungssoftware im öffentlichen Raum verbieten, weil sie die individuelle Freiheit oder die Informations- Selbstbestimmung infrage stellt. Also man müsste dann solche Sachen in die Stadtparlamente bringen, in die Kommunen und dann eben auch auf höherer Ebene diskutieren, ob man das will oder nicht, aber es ist offenbar möglich, das zeigt San Francisco, dass man selbst in dieser Stadt, wo ja viele Jünger dieser Technik leben, aber vielleicht auch gerade deswegen, weil die ihnen nun doch schon mehr gemerkt haben, dass man auch in dieser Stadt diese Entwicklung wieder stoppen kann. Lass mich da eine Frage draus machen. Vielen Dank. Seht ihr dieses Bestreben politischerseits auf egal, welcher parlamentarischen Ebene Bezirksverwaltung, bis, sagen wir mal, Bundesregierung oder meinetwegen für uns vielleicht auch relevanter EU? Wohl an. Es gibt, wie du es sagst, es gibt viele Möglichkeiten, um guter Dinge mit Automatisierung, mit Social Technologien zu machen. Das einzige Problem ist, es gibt sehr wenig Beispiele von Projekten, die Umwelt dienen würden oder was war das an deiner anderen Beispiele? Smart City, die Verkehrströme organisiert, die es gibt sehr wenig davon. Es ist eine politische Frage und die Politik zurzeit hat mehr Interesse. Lass mich kurz eine hacken. Weiß gar nicht, ob es so wenige gibt. Das sind teilweise echte Käfer, die eine Nahwärme aufsetzen und sich genossenschaftlich organisieren. Das ist jetzt nicht Berlin oder New York, aber das Dörfchen in Hessen, aus dem ich komme zum Beispiel. Das ist ein Thema, in dem ich meine, das ist ein Thema, wo ich, wenn man angefangen hat, das wahrzunehmen sieht, die machen auch was. Die haben so eine Kleinigkeit und die machen ein Car-Sharing. Da hängen jetzt nicht 10.000 dran, aber mehrere 100 jeweils schon. Wenn du gute Beispiele hast. Ja, okay. Entschuldigung, jetzt bin ich auch wieder ganz neutral. Das ist ein Thema, in dem die Menschen, die ansonsten so ein bisschen abgehängt sind, vom großen Ganzen. Es gibt bestimmt gute kleine Beispiele. Das Problem ist, wenn man an der Bundes- oder Europäische Ebene sieht, sind die Millionen in Kontrolle investiert und nicht in Umweltschutz. Okay, dann musst du jetzt dran puzzeln, und beschreiben oder den Plan entwerfen, wie man das denken oder vielleicht erst mal wissen transferiert. Ich glaube zum einen, dass es eben nicht auf politischer Ebene so gut funktioniert. Wahrscheinlich liegt das daran, dass wir als Gesellschaft wieder sehr schlecht vernetzt sind, während Google und so weiter einen sehr viel größeren Lobby-Einfluss haben. Als wir, und das ist eben, was du gesagt hast, mit diesen gelenkten Städten, die werden im internen Sprech werden die Safe- ist genannt. Weil eben alles kontrolliert ist, weil man weiß, ob du jemanden zu Hause hast, anhand des Stromverhaures verbrauchst bzw. der Luftfeuchtigkeit im Raum. Da kann man dann auch wieder errechnen, was ihr ungefähr gemacht habt. Und das sind Sachen, wir haben vielleicht vergessen, weil wir im Moment noch auf der Sonnenseite der Digitalisierung leben, was das heil ist heißen kann. Aber es kann eben auch heißen, wie in China, dass man die falsche Ethnizität hat, und dass man ganz schnell weg ist. Wir leben nicht in einem Land, wo Kobalt abgebaut wird. Und wir leben nicht in einem Land, wo man sagen kann, ja, wir töten auch aufgrund von Metadaten. Wie es die US-Regierung zugegeben hat, wie sie es in Afghanistan zum Beispiel tut. Wo errechnet wird, okay, das Handy hat wahrscheinlich jemand Drohne drauf. Das sind einfach Sachen, die laufen heute aufgrund von unseren Daten. Und wenn ich sage, das ist cool, das ist das gleiche Bällchen, mit dem ich spiele. Und wieder, wir begeben uns in Systeme von Kontrollen, wo ich als Individuum mich immer schlechter mit Leuten zusammenführen kann und sagen kann, nee, das läuft nicht gut so. Wir feiern jetzt 30 Jahre das Ende der DDR und begeben uns in immer stärkere Systeme von Kontrolle rein. Und zwar lächelnd. Ich würde absolut den beiden Herrn recht geben. Es sind keine Diktaturen mehr, die hart und kantig sind. Die neuen sind kuschelig und eher so ein bisschen klebrig. Die sind eben gamifiziert. Das macht man, es hat sich eben in der Aufstandsbekämpfung gezeigt. Man kriegt Leute viel eher ins Boot, indem man ihnen Kekse gibt als wenn man sie haut. Wenn man sie haut, das mögen Menschen gar nicht so doll. Aber wenn man ihnen Kekse gibt, dann, wenn man ihnen verspricht, irgendwann gibt es einen Mixer, dann geben Leute fast alles frei. Und ich glaube, da müssen wir aufpassen, was für Menschenbilder stehen hinter diesen Entwicklungen. Da steht die Kymarnetik dahinter und die Kekse sind kuschelig. Die sieht uns halt nur als so kleine Responder an. Und da sind wir dann bei Skinner und der Skinnerbox und der Ratte, der man beigebracht hat, für Kekse auf den Knopf zu drücken. Wir hatten hier mal einen Zuschauer. Ich glaube, das war wahrscheinlich relativ kurz nach den Enhüllungen von Edward Snowden. Ich weiß nicht mehr genau, welches Thema jedenfalls ein Zuschauer, der stand bei so einer Debatte auf und sagte, wir sollen mal aufhören mit diesem Privatsphärequatsch. Ich glaube, das ist ein Daumen. Aus dem letzten Jahrhundert ist tot. Und wenn demnächst unser komplettes Dasein so überwacht wird, wie du es jetzt beschrieben hast. Also in meinen Vierwänden und außerhalb. Und ich dafür die Garantie bekomme, dass mir nichts passiert. Bei mir wird nicht eingebrochen. Mir passiert draußen auf der Straße nichts. Der mögliche Mensch, der mich überfällt, der wird schon weggehasht, bevor er überhaupt sozusagen auf die Straße tritt, um mich zu greifen. Bevor er aus der Kita draußen ist. Ich will das nicht mehr wissen, weil ich kriege ein anderes Hohe Scoot, nämlich Sicherheit. Da mache ich gar keine Frage draus, sondern vielleicht hast du eine dazu. Ja, du hast recht. Das Problem oder all diese Diskussionen und auch solche Aussagen kranken daran, dass wir uns nichts anderes vorstellen können als in einer hierarchischen Gesellschaft zu leben. Vielleicht werde ich jetzt mal utopisch oder was auch immer. Privatsphäre ist dann wichtig, dass wir die Gesellschaftsverhältnisse haben, die Hierarchien besitzen, wo eine Führung Erzwingungsstäbe hat, Vulgo-Polizei, um ihre Dinge durchzusetzen. Wenn wir andere Gesellschaftsideen haben, Genossenschaft, klang vorhin schon an, also genossenschaftliche, organisiertere, selbstorganisiertere, politisch anders gesteuerte Konsensmodelle auf kommunaler oder anderer Ebene, dann wird auch ein anderer Schuh daraus, immer zentrale Herrschaft. Und das ist eine Frage, die total soziologisch Macht- und Herrschaftsfragen bedienen. Nur dann, und wenn wir über diesen Modell immer verhaftet sind, im Denken wird das auch nicht anders, dann ist Privatsphäre dringend notwendig und absolut schützenswert, weil es ist eine Herrschaftsabwehr. Nichts anderes, es ist nichts davon, es ist nicht nur darum, dass wir mal allein sind und mal was machen können. Nein, Privatsphäre ist eine Herrschaftsabwehr. Wir können es nur anders denken, wenn wir bereit sind, zu denken bzw. Herrschaftslos zu denken. Nicola, jetzt sind wir ja bei einem ganz großen Ganzen, nämlich, wie wollen wir leben, hat es, glaube ich, du schon mal gesagt, oder der Frage, wie sich Gesellschaft organisiert, sieht sich Algorithm Watch als Teil der Herrschaftsabwehr? Mein Job bei Algorithm Watch ist nur zu berichten. Ich bin Journalist, aber es gibt ein tolleres Team von Policie-Analyst und Sie machen solche Vorschläge. Vielleicht sind Sie gute Gäste für die nächste Edition. Du willst damit nichts zu tun haben? Interpretiere ich das richtig? Nein, ich wollte nur was sagen. Du meintest, es gibt so eine, man könnte mehr Sicherheit haben, wenn man weniger Privatsphäre hätte und das stimmt eigentlich nicht. Es gibt heutzutage genug die zeigen, dass diese Überwachung durch Kamera nichts gegen die Kriminalität macht. Das Einzige, das wirklich gut funktioniert, gegen die Kriminalität ist, mehr Beleuchtung auf der Straße zu bringen. Aber niemand macht das. Deswegen kann man nur sagen, wie du es meintest, das ist nur eine Frage der Herrschaft und der Kontrolle. Okay, da gibt es dann doch die Zustimmung. Wir sind so langsam in den letzten Minuten. Wer noch was Fragen anmerken nachtragen möchte, kommt jetzt. Willkommen. Hallo, ich bin Armin und beschäftige mich hobbymäßig mit Themen des Überwachungskapitalismus. Ich finde es so ein bisschen, eigentlich ist diese Digitalisierung auch eine Geschichte, die eine ganz verflickste Sache ist. Denn sie entspricht ja total unserer Natur. Schon seit mindestens 200 Jahren entwickelt sich ja die ganze Gesellschaft einfach immer nur Richtung Effizienz. Die Welt soll für jeden Einzelnen angenehmer werden und wie kommen wir aus dieser Geschichte überhaupt raus, ohne mit unserer eigenen Persönlichkeit zu brechen? Hast du selber eine Idee oder einen Vorschlag? Ein Vorschlag ist vielleicht, oder eine Idee, dass wir vor allem die Nachteile der Digitalisierung auch sehen können, wenn wir uns andere Staaten ansehen, wo es wirklich richtig geht, weil in China ein anderer Staat fällt mir zum Moment auch nicht ein, wo die Digitalisierung so richtig harte Auswirkungen hat, dass die Leute auch sanktioniert werden. Direkt digital, schon wenn sie barot über die Ampel gehen. Vielleicht fällt jemand anderem noch ein anderes Land ein, wo das jetzt schon so weit geht. Denn dann kann man von hier aus jedenfalls von außen drauf gucken. Wir sind in einem anderen Innen. Wir gucken ja auch nicht von draußen. Wir gucken vielleicht von draußen auf China, aber von innen auf uns. Wir sind ja auch einen gewoben in das beschriebene bei uns eben anders, europäisch oder deutsch geprägte System. Dennoch noch mal die Frage, das klang so an, du hättest eine Idee, wie wir rauskommen, weil ich dachte, jetzt sitzen wir hier und lamentieren und finden es blöd. Und dann gucken wir gleich auf Twitter. Also ich zumindest, was haben denn so die User gemeint zur Runde und bin damit irgendwie ein bisschen unzufrieden. Also hast du eine Idee, wie man rauskommt ins Außen, um dann doch mit drinnen und draußen zu bleiben? Also ich sehe im Gegensatz zu dir vielleicht die Lösung jetzt eigentlich nur auf politischer Ebene und das im Moment leider nicht so richtig in Sicht, aber die Vorteile, die offensichtlichen Vorteile, alles wird schneller, effizienter, angenehmer, billiger oder das allermeiste jedenfalls oberflächlich einfach überwiegen und ganz plakativ findet man einfach keinen wirklichen Nachteil so auf der Oberfläche dieser Überwachung. Das kommt dann vielleicht noch, bis dann noch wirklich feststellen können und richtig in den Vordergrund stellen können, wenn es jemand wirklich missbraucht und das ist glaube ich auch überhaupt nicht erst mal nicht im Interesse von Google Microsoft, Apple und so weiter, das so in den Vordergrund zu stellen oder die werden aufpassen, die werden teufel tun, irgendwelche Nachteile. Ich kann dich da anstellen, um die Pressearbeit zu machen, danach sieht es nicht aus, aber ich hatte das Gefühl Nils und ich habe ihn vielleicht doch entgegnen, wo dieser Kipppunkt nach dem er sucht sein könnte. Willst du? Ich kann die nicht wirklich weiter ausführen. Aber vieles von dem, mit dem wir heute Probleme haben, fußt ja auf dem, was wir Aufklärung nennen. Individualisierung, Fortschrittsglaube, weitergehen. Vielleicht bräuchten wir 200, 300 Jahre nach Usur und Kant eine digitale Aufklärung, ein grundsätzliches Nachdenken darüber. Aber ich schulde, dass ich hier heute habe nicht die Ergebnisse. Der Ausweg wäre ein grundsätzliches Nachdenken darüber, wie das gute Leben, was der Fortschritt ist. Ist es schneller, effizienter oder was ist eigentlich der Fortschritt, den wir leben wollen? Wo sind die Brüche? Eine Aufklärung 2.0, um im Sprech von heute zu bleiben. Bei 2.0 glaube ich, das ist der Fortschritt. Ich würde gerne ein bisschen von dieser Dystopie noch Überlegungen anstellen, wie man in einzelnen Aspekten aufhalten oder sich zumindest positive Gedanken machen kann. Wie man vielleicht politisch regulierend eingreifen kann. Ich glaube, diesen gesamten Prozess, den kann man das schwer aufhalten. Es ist ja auch jetzt so angeklungen. Das ist ja auch die Frage, möchte man das. Offensichtlich gibt es ja einen Bedürfnis, sozusagen. Ich glaube, man kann sich doch viel stärker in einzelnen Anwendungsbeispielen fragen. Welche ethischen Probleme stellen sich hier? Wie kann man darauf reagieren? Es sind doch letztlich konkrete Folgen, erst dann auf Durchanwendungen. Der Satz vieler. Das ist ja auch ein Bedürfnis, der im Endeffekt sagt, Menschen mit dem und dem Score, die bekommen keinen Versicherungsvertrag mehr. Dann sehe ich hier einen handlungsbedarf bei der Politik. Aber das sind einzelne konkrete Fragestellungen, die sich in der realen Welt stellen. Gar nicht so sehr in der digitalen Sphäre aus meiner Sicht. Deswegen bei in der realen Welt werden ja diese Fragen schon durchaus verantwortet. Bei einer Krankenkasse oder zumindest bei einigen Verhalten, deine Autoverseicherung, wenn du messen lässt, mit welchem Tempo du durch die Innenstädte brauchst, kommt dir entgegen. Es hat ja Auswirkungen im Konkreten und wir sagen ja ja, oder setzen das Hickchen bei. Ich bin dabei. Ja, na klar, bloß ich, was ich da sozusagen, wo ich jetzt den Handlungsbedarf sehe, das wäre tatsächlich in diesen konkreten Fällen. Wenn man da sieht, dass Menschen bekommen keine Versicherungsverträge mehr, wenn sie bestimmte Scores nicht aufweisen, beispielsweise dann kann die Politik da ja eingraffen, kann sagen, es gibt eine Versicherungspflicht, das ist ja bei gesetzlicher Krankenversicherung auch der Fall. Und ähnliche Fragestellungen werden sich vielleicht in den nächsten Jahren und Jahrzehnten erst stellen, an die wir jetzt noch gar nicht denken. Das heißt, du teilst, war ja hier doch so eine ziemlich Fertigungswillen in der Hinsicht, da bist du nicht so fatalistisch, sondern sagst, da wird werden diese Themen gesehen, erkannt, bearbeitet. Also ich würde das eben als unsere Aufgabe sehen, sozusagen in der demokratischen Gesellschaft uns dann dafür einzusetzen, dass die richtigen Schlussfolgen getroffen werden. Ich wollte nur sagen, ich sehe das nicht als sowas fatalistisch, sozusagen Social Credit System, ja, regulieren sozusagen insgesamt quasi, dass man da irgendwie eingrafen muss, sondern eher in den konkreten Einzelsitzern, das glaube ich ist auch erfolgsversprechender, aber das war nur so, ja, meinen, vielen Dank. Stimmt ihr zu, wie das sprecht ihr zu diesem Ansatz dann zu gucken, was, wo hat das in der konkreten materiellen Weltauswirkung und dann gehe ich sozusagen von da aus ran ans Problem. Ich glaube, um das auch nochmal aufzunehmen mit der Aufklärung, das war ja auch so ein Problem, dass sich Männer, die sich noch nicht mal selber versorgen konnten, also eine Suppe kochen, sich überlegt haben, wie eine Gesellschaft aussehen soll, um die negativen Seiten zu sehen, weil jetzt Frau muss ich sagen, für die Frauen hatte die Aufklärung erstmal gar nicht so viele hübsche Sachen, also auch daran gibt es Probleme, aber ich würde sagen, ja, wir brauchen eine weltanschauliche Diskussion und was ich öfter höre, ist, wir in Europa sind von europäischen Werten geschützt. Ich weiß nicht, das scheint so eine Art Ganzkörperkondom zu sein, aber wenn man die Leute dann fragt, so was ist denn das, die europäischen Werte, wie kann ich die einsetzen gegen Huawei oder Facebook, dann kommt meistens gar nichts, es gibt übrigens seit über 20 Jahren schon asiatische Werte, die sind auch ganz gut in Asien. Aber wir brauchen wirklich, wir müssen uns überlegen, wie wir leben können und vielleicht sollten wir von dem Punkt aus gehen, an den man so gerne ungerne denkt, besonders in der Digitalisierung, nämlich wie will ich denn mal sterben, wie will ich alt werden? Wir leben in einer Gesellschaft, die ist absolut auf Leistung gepolt. Und auch wenn man sagt, ja, Digitalisierung ist total integrativ, nee, ist das ganz oft nicht. Denn ob eine Gesellschaft integrativ ist oder nicht, entscheidet nicht die Digitalisierung, sondern die Menschen. Und ich glaube, wir müssen lernen, wie wir sterben wollen, wie will ich sterben, will ich dann so einen kleinen Streicheroboter haben oder will ich dann vielleicht anders umgeben sein? Wie will ich, habe ich ein Netzwerk, das mich wirklich versorgt, wenn ich krank bin? Habe ich jemanden, der nach mir guckt, wenn ich eine halbe Jahr nicht arbeiten kann? Und was ist denn, wenn jetzt irgendjemand in meinem Umfeld und ich muss mich ein halbes Jahr um die Person kümmern? Kann ich das? Ich glaube, wir müssen wieder lernen, reale Netzwerke zu finden. Und ich glaube, wir müssen lernen, dass wir uns eben entscheiden müssen, ob wir unsere Zeit in virtuelle Netzwerke, die unsere Daten schlürfen, setzen oder in wirkliche reale Netzwerke in unserer Nachbarschaft. Und ich glaube, wir können, wenn wir den Druck machen, dann bewegt sich auch die Wirtschaft und die Politik. Und da können wir von der Anti-Atom-Bewegung noch sehr viel lernen. Wir sind mehr. Das nenne ich mal die Sache vom Ende her gedacht, im wahrsten Sinne des Wortes. Und würde sagen, dann machen wir hier auch einen Punkt an der Stelle. Herzlichen Dank für eure Diskussion und für eure Beiträge zu dieser verflicksten Sache, um das nochmal aufzugreifen, die wir Digitalisierung nennen und hier jeden Mittwoch, jeden letzten Mittwoch im Monat bearbeiten. Danke euch für die Diskussion. Jetzt ist es kaum zu glauben, aber der nächste digitale Seilung ist dann auch schon der Letzte für dieses Jahr. Rechts ist der Hashtag. Wie gehen einzelne Personen, Institutionen und Unternehmen um mit rechtsextremer Hetze? Das wollen wir diskutieren am 27.11. Und ich bedanke mich bei euch allen fürs Kommen. Kommt gut nach Hause. Danke schön.