 Also, Karl, du hast die Zukunft kaputtgemacht, vom Viewers of Congress und Tribut. Ich war supposed to pick out a few awards or something to actually present what he's done in his life, but I can only say he's one of us. Charles Strauss. Hi, is this on? Ja, hallo, ist das angeschaltet? Ich bin, freu mich sehr, dass ich hier bin. Und ich wollte damit anfangen, dass ich mich für mein fehlendes Deutsch entschuldige. Der Talk wird also in Englisch sein. Guten Morgen. Ich bin Charles Strauss und ich wollte über unsere nahe Zukunft eine Science-Fiction-Geschichte erzählen, denn die Zukunft ist überraschend schwer zu vorherzusagen. Unsere Spezies, Homo sapiens sapiens, ist etwa 350,000 Jahre alt. Das war 300.000 Jahre alt. Wir dachten 200.000 bisher, aber das hat sich verändert durch neue Kenntnisse. Die Zukunft vorher zu sagen war früher sehr einfach. Wenn man einen König oder ein Papst war, würde jeder Tag in 50 Jahren ähnlich aussehen wie in der Vergangenheit. Für 99,9% der Menschen war die Zeit statisch, aber dann änderte es sich. Die Zukunft begann sich schneller und schneller zu verändern. Heutzutage bewegt sich so schnell, dass es fast unmöglich ist, von einem unter auf den nächsten Trends vorher zu sagen. Als Computerwissenschaftler, für mich ist Computerwissenschaft nicht mehr Computer genauso wenig wie Astronomie, sich um große Teleskope dreht. Und dasselbe gilt auch für mein Feld, also Science-Fiction schreiben. Es ist sehr selten das Thema Science-Fiction, die Zukunft fürher zu sagen. Es ist Futurismus und der hat sich sehr, sehr seltsam entwickelt. Wenn ich einen Fictionalswerk in einer Zukunft schreibe, dann gab es früher ein Rezept, den ich folgen konnte. Einfach gesagt, 90% dessen, was in den nächsten Jahrzehnten da sein würde, ist jetzt schon da. Zum Beispiel, Autos haben etwa ein Jahrzehnt Lebensdauer, das heißt, die Autos, die man in 10 Jahren hat, sind zum großen Teil schon vorhanden. Es wird einige neuen Gesichter geben, 10 Jahre und Jünger und einige werden gestorben sein, aber die meisten Menschen werden auch in 10 Jahren noch da sein. Das ist die 90% der Zukunft, das sind die 90% der Zukunft, die jetzt schon da sind. Von diesen existierenden 90% ... von diesen fehlenden 10% sollten weiter 9% weiter einfach vorher sein. Man muss ein bisschen kreativ extrapolieren. Wenn ich vorher sage, mit meinem Futurologistenhut, dass LTE-Mobiltelefone weit verbreitet sein würden und dass wir irgendeiner als Satelliten-Datendienst als Back-up haben gegen Eintreise, dann ist es ... nicht, dass ich vorher sage wie, dass die Luftfahrt sich verändert hat oder dass Nazis die Welt übernehmen. Es gibt ein übriges 1% von dem, was Donald Rumsfeld die Unbekannten und Unbekannten genannt hat. Und tatsächlich ist es so, dass die Luftfahrt sich verlangsamt hat, wie ich eben gesagt habe, und naja, was die Nazis angeht. Vor zehn Jahren würde niemand einen Nazi-Renaissance vorhergesagt haben diesen Jahr. Vor allem mich in Deutschland, denn hier sind ja die Guten, oder? Mein Rezept für die Zukunftsvorhersage in zehn Jahren. 90% ist bereits da, 9% ist noch nicht da, aber vorhergesagt war. Und dieses 1%, aber leider haben sich die Verhältnisse verschoben. Ich würde sagen 80% in etwa hier, 15% noch nicht hier, aber vorhergesagt war. Und dann wahnsinnige 5% sind tatsächlich nicht vorhergesagt bei im Moment. Nun, bevor ich mit diesem Talk voran weiter mache, möchte ich einige Sachen laut sagen, um eine Singularität auszuschließen. Wir werden sich selbstverbessernde künstliche Segenz entwickeln. Und eine ganze Wunschliste von menschlichen Wünschen wird also passieren. Nein, das ist leider nicht so. Transhumanismus sind eine christliche Kätzerei. Viele von euch werden euch mit Designpattern beschäftigen, wo es um Abstraktion und Vereinfachung geht. Wenn ihr euch die Singularität, was künstliche Intelligenz angeht, anschaut und euch die verschiedenen Geschichten in der Geschichte und dann passiert ein Wunder, anschaut, dann wird es relativ klar, dass die Leute hier das Christentum wieder erfunden haben, neu erfunden haben. Die heutigen Transhumanisten haben sich viele Anleihen an der russischen Philosophie von dem Russen Tedorov besorgt, der sich eine Ableitung einer Raketengleichung vorgenommen hat und deswegen ist er in gewisser Weise auch Vater des heutigen Weltraumprogramms. Also, einige Leute, die ihnen vorher nicht kannten, die werden jetzt leider zur KI-Hölle zurückkehren, tut mir leid. Die haben im Wesentlichen die Satan als KI neu entdeckt. Aber wir sollten uns überlegen, dass wenn irgendwas sich bewegt wie in der Ente und quagt wie in der Ente, dann ist es wahrscheinlich auch eine Ente. Und es gibt auch eine ganze Menge Hinweise, dass wenn wir jetzt eine KI entwickeln würden, die wie ein menschliches Hirn funktioniert, dann wäre das eine Entsprechung von einem Menschen, der auf der Couch sitzt und Chips ist. Das würde nicht großartig was helfen. Diese Art von KI ist nicht so sehr wie unsere KI, sondern eher so wie eine Boeing 747 ein Vogel ist. Also, eine Boeing 747 fliegt nicht nur, sondern die würde dann auch überall hinscheißen. Also, ich bin auch einer dieser Atheisten und ich werde jetzt mal versuchen, ein besseres Modell für die Sachen, die jetzt passieren, gerade euch anzubieten. Ein schottischer Schriftsteller sagt, die geheime Waffe von Science Fiction ist die Geschichte. Also, die Geschichte ist die schriftliche Aufzeichnung von Dingen, die die Menschen früher gemacht haben. Und wir, Science Fiction Schreiber, benutzen die Geschichte als großes Spielzeug, mit dem wir eine interessante Geschichte uns überlegen, die zum Beispiel das Ottomanische Reich nacherzählt oder eine vergangene Revolution. Aber Geschichte ist auch so viel mehr, denn es stellt sich raus, dass unsere persönlichen Erinnerungen ganz anders sind. Also, ich bin jetzt 63 und ich kann mich kaum an die 60er oder an die 70er erinnern, obwohl ich da 16 war. Dieses Jahr ist mein Vater gestorben, er war 93 und er kann sich gerade noch so an die 30er erinnern und nur die aus der Generation meines Vaters können sich an die große Depression erinnern und an die globale Finanzkrise. Wir im Westen richten uns da wenig an Geschichten aus, die Leute, die über 90 sind, erzählen. Und wir machen eine große Menge Fehlern, wiederholen wir in dem Moment, wo sie aus der Erinnerung von lebenden Menschen wieder verschwindet. Das heißt, wir wiederholen alle Fehler, etwa alle 70 Jahre. Und es geht jetzt darum, die Geschichte anzuschauen und nach Mustern zu suchen und danach zu sehen, ob die in der Gegenwart wieder passieren. Und eine offensichtliche Abweichung von der Norm der letzten 3.000 Jahre ist sehr offensichtlich. Und das ist die Entwicklung von künstlicher Intelligenz, die irgendwie wann zwischen 53 und 1844 stattgefunden hat. Und heutzutage gibt es große Firmen, die KI entwickeln. Und jetzt, ich brauche erstmal Wasser. Lass uns hier gerade mal Wikipedia zitieren. Wikipedia. Im späten 18. Jahrhundert hat Stuart Kidd ein Buch über, hat eine Gesellschaft definiert, als eine Verbindung von 4 individuellen, die sich zu einem großen Körper zusammengeschlossen haben, mit der Fähigkeit in gewisser Weise als Individuum zu agieren. Die Rechte und politische Dinge wahrnehmen, das war eine Definition aus dem späten 18. Jahrhundert. Das klingt also wie ein Stück Software für euch. 1844 hat die britische Regierung jetzt eine Liste von Firmen gestartet, sodass jeder quasi gegen eine Gebühr eine Firma erzeugen konnte. Und dieses Gesetz wurde später erweitert, damit die Aktieninhaber im Fall eines Geschäftsausfalls weniger Risiko tragen würden. Es gibt eine ganze Menge Dinge, die zwischen dem 16. und dem 21. Jahrhundert passiert, in die die Gesellschaft, in der wir leben, verändert haben. Früher gab es eine Beschränkung von 0,1% Wachstum und dann wurden Krankheiten besiegt und Schwarzpulver erfunden. Ich habe das übersprungen, ich habe auch den Anstieg und auch den Abstieg von Rassismus und ich habe auch den Anstieg von Feminismus übersprungen. Und ich habe auch die Aufklärung und die Revolutionen übersprungen. Und jetzt geht es also um KI, wo wir alle denken, dass wir die irgendwie verstehen und wir müssen verstehen, dass Firmen in gewisser Weise, also im Sinne vor dem Gesetz auch Personen sind. In den 1950er Jahren hatte eine typische Firma eine Lebenserwartung von 70 Jahren, das ist jetzt nur noch 20 Jahre. Und das liegt daran, dass Firmen cannibal sind, die essen sich gegenseitig. Sie sind auch wie Bienen oder Ameisen, sind sie auch Organismen, die in einem, die die zusammenarbeiten. Und jetzt ist es so, dass jeder Mensch nur noch so lange seine Tätigkeit ausführen kann, solange nicht bei einem anderen Menschen ersetzt werden kann. Und in einer gewissen Weise können manche Firmen auch trainiert werden, um den persönlichen Wünschen von ihren CEOs zu entsprechen. Und zuletzt unserer legale Umgebung heutzutage wurde für Geschäftspersonen entworfen, eher als menschliche Personen, bis zu dem Punkt, dass Regierungen heute jetzt Firmen nachbilden in vielen ihrer internen Strukturen. Wir müssen uns also fragen, was möchten eigentlich unsere künstlichen intelligenten Herren erreichen? Edan Musk, den kennt ihr, glaube ich alle, hat eine besessene Angst vor einer bestimmten Gefahr, der künstliche Intelligenz, nämlich den Papierclip Optimera. Das ist ein Kunstgriff für eine künstliche Intelligenz, die ein Ziel verfolgt, zum Beispiel die Anzahl der Papierclubs, die Papierklammern und Universum zu maximieren. Und das kann nun dieses Ziel immer besser verfolgen, hat aber keine Möglichkeit das Ziel zu verändern. Es wird also im Endeffersuchen, alle metallischen Elemente im Sonnensystem in Papierklammern zu verwandeln. Sogar dann, wenn das also offensichtlich nicht dem Wohlbefinden der Menschheit dienst, die diese Intelligenz entwickelt hat. Nun, Tesla, die Firma von Musk, ist kein Papierclip Maximira, sondern ein Batterie Maximira. Ein elektrisches Auto oder Batterie mit Rädern und ansonsten SpaceX ist ein Maximira für Lutzlasten im Orbit. Und SolarCity ist ein Maximira für Photovoltaik und so weiter. Also alle drei von Musks Entwicklungen sind sehr, sehr langsam. Auf einer Architektur basiert die Versucht, die Profite für die Aktieninhaber zu maximieren. Oder wenn sie in dem Prozess den Planeten kochen, Tode kochen. Aber wenn du mit Musk ist, dann ist das wahrscheinlich egal, weil du ja so zum Mars dich zurückziehen willst. Also ich rede hier über Musk und das tue ich eigentlich, weil er jetzt also meinen stärksten Technik-Militär ist. Und ich hätte auch im 2007, hätte ich über Steve Jobs geredet, 97 wäre es Bill Gates. Also Elon nimmt es nicht persönlich. Das Problem ist, dass die Firmen, die also jetzt hier offenen Ziele verfolgen, ob es nun elektrische Autos sind oder Bier oder was auch immer, sie haben auch implizite Ziele, die also der von der Papierklammern maximäre Kasse sind, nämlich Gewinn zu erwirtschaften. Und wenn man Gewinn machen will, dann wird man irgendwann von einem größeren Robti gefressen oder man geht pleite. Das ist also so wichtig für diese Firmen, wie das Atmen für uns ergeteere. Die verfolgen generell das implizite Ziel, nämlich Gewinn mit maximieren, um ihr offensichtliches Ziel, offenes Ziel zu verfolgen. Und manchmal versuchen sie, die regulatorischen Regeln, die Regeln zu verändern, um sich in den Sexistieren, um den Geldfluss zu erhöhen. Schauen wir uns zum Beispiel mal das Auto an. Man kann nicht massen Transport mit der Automobil haben, ohne Tankstellen und Pipelines im Verteilen des Treibstoffs. Dafür brauchen wir dann wiederum Land, von dem das Öl extrahiert wird. Und bevor man es weiß, hat man eine ständige Manipulation, eine Besetzung in Irak und eine Diktatur in Saudi-Arabien. Weiter zu Hause ist es so, dass wir sowas brauchen wie Gesetze, die verhindern, dass wir über die Straßen gehen und uns betrunken fahren. Und das sorgt dafür, dass andere Verkehrsmittel wie beispielsweise Busse oder Trams behindert werden, die also besser funktionieren in Städten mit hoher Populationsdichte. Die Reformen der Eisenbahn im 16. Jahrhundert, zum Beispiel viele kleine Linien sterben lassen. Diese Reformen würden durch die Verkehrsministerien durchgeführt, also durch Politiker, aber der Verkehrsminister Marbles hat tatsächlich ein erhebliches persönliches Erreichtum, hat er zusammen geschafft durch Aktienkäufe in Firmen, die Autobahn gebaut haben. Also die Autoindustrie in Isolation ist nicht ein reiner Papier kann man maximieren. Aber wenn man jetzt zusammen mit der Treibstoffindustrie anschaut, der Straßenbauwirtschaft, der Versicherungswirtschaft und so weiter, wenn man das tut, dann beginnt man nun, die Form eines Papierklammern maximierenden Ökosystems zu sehen. Etwa 1,5 Millionen Menschen sterben jedes Jahr durch die Automobilwirtschaft. Das ist durch Verkehrsunfälle nach der Gesundheitsorganisation, das ist also auf der Größenmarschaft des Ersten Weltkriegs und das fortdauernd. Also die Regulierungen der Automobilheutzutage gehen in erster Linie in Sachen in Richtung Sicherheit und theoretisch auf die Richtung Schadstoffaustürz zu minimieren. Sie sollen so schnell, effizient und bequem sein. Natürlich haben wir noch, können wir den Regulierungen der Gefangeneheit dafür danken. Also zum Beispiel nur so 30 waren Bremsen auf allen vier Rädern verlangt worden und die beste Hoffnung, einen 50 Kilometer Aufprall, einen Kilometer Aufprall zu überleben war, aus dem Auto herausgeworfen zu werden und irgendwo zu landen, ohne den Hals zu brechen. Die Regulierungsbehörden sind die Werkzeuge der Wahl für die heutigen politischen Systeme, um die Papierklippmaximäre vom Armoklauf abzuhalten, aber das Versuch funktioniert leider oft nicht. Ajit Pai, der Kopf der US-Umm. Kommunikationskommission, der gerade abgestimmt hat, entschieden hat, die Netznatalizistik Regeln auszuheben, hat als ein Berater für Warrison Communication gearbeitet, den heutig größten Überbleitzel der Bell-Telefon-Systeme, das Bell-Telefon Monopolis. Warum sollte jemand mit einem transparenten Interesse in einer Technologie, in einer Firma, Technologiefirma, nun Kopf einer Regulierungsbehörde werden, die, naja, wenn man eine komplexe Technologie regulieren möchte dann muss man natürlich die Regulierer, die Reguliererinnen von diesen Leuten auswählen, die diese Technik verstehen. Und leider sind diese Leute eben Insider der Industrie. Ajit Pai, der Chef der Kommunikationskommission, ist natürlich sehr bewusst, wie Warrison reguliert wird und möchte daran etwas ändern, nicht unbedingt in einem öffentlichen Interesse. Wenn reguläre Regulierungsbehörden mit Menschenversetzteilen aus der Industrie, dann arbeiten diese oft zusammen mit ihren früheren Arbeitskollegen, um Profit zu maximieren und erhöhen nicht Barrieren, um neue, invasive Firmen davon abzuhalten, dass sie die Sicherung abbauen, die die Öffentlichkeit schützen sollen. Und eine andere Möglichkeit, wie Dinge schiefgehen können, ist Verzögerungen bei der Regulierung. Also wenn zum Beispiel Technologie sich so schnell verändert, dass es schon lächerlich obsolet ist in dem Moment, wo man sich darum kümmern will. Also, 1993 oder 1996 könnte es eine gute Idee gewesen sein, diese Nachrichten für Cookies auf die Webseiten zu tun. Aber leider gab es die erst 2011, wo das Internet sich schon weiterentwickelt hatte und Tracking schon sehr weit verbreitet war mit Cookies. Tim Berners-Lee hat das 1995 beobachtet, dass fünf Jahre lang, wenn man Änderungen zusammennimmt, dann hat man ein komplett neues System. Also schauen wir zum Beispiel Uber an. Uber wurde von dem Europäischen Gerichtshof als Taxi-Service eingeschätzt, was zweifellos richtig ist. Das Problem ist, dass sich Uber schon weltweit so verbreitet hat, dass, also es wurde vor acht Jahren schon gegründet und ein Taxifahrer kann schon extrem hungrig werden, wenn er acht Jahre lang warten muss, bis ein Gerichtshof eine Entscheidung getroffen hat. Also um das nochmal zusammenzufassen, wir haben Paperclip Maximizer in der Welt und das zweite ist, wir haben Mechanismen, um die Unterkontrolle zu halten, aber die funktionieren nicht so gut gegen künstliche Intelligenzen, die dunklen Künste auch benutzen, also insbesondere Korruption und Bestechung. Und dann ist das Problem, dass es verschiedene Agendas in einem Paperclip Maximizer gibt, das heißt, die sind nicht so naiv. Also ihr offensichtliches Ziel, also Profitmaximierung und Expansion in neue Gebiete und aber eben auch um die Wünsche von, wer auch immer, die gerade die Entscheidung enttrifft. Also wie ist das alles schiefgegangen? Ich denke, dass man mit den aktuellen politischen Umwälzungen am besten verstehen kann, indem man das versteht, als eine Folge der demokratischen Institutionen nach 1917 und die Tatsache, dass diese nun in einem großen Maßstab gefangen genommen worden sind. Wo immer ich hinschaue, sehe ich Wähler, die ärgerlich protestieren. Zum Beispiel Brexit war im Wesentlichen das Ergebnis einer Protestabstimmung gegen das politische Establishment. Die Wahl von Donald Trump genauso mit etwas Rassismus noch als Beilage und die großen politischen Partys werden von Leuten geführt, die mit dem System, wie die das Existet kompatibel sind. Wir Menschen leben in einem System, das von den Wünschenschaften der Maschinen dient im Wesentlichen. Wir sind heute mehr interessiert an Computern und Kommunikationstheologien als in diesem historischem Mist. Hier ist der CCC. Da sind wir mehr interessiert an Computern und Kommunikationstechnik. Wie gesagt, die Geschichte ist eine geheimen Waffe, wenn man weiß, wie man sie benutzen sollte. Wir können daraus auch lernen über moderne künstliche Regenzen und wie sie sich verhalten wird. Die neuen künstlichen Regenzen haben verzerrt worden durch eine füchterlichen und fundamental falsche Designentscheidung im Jahr 1995, die unsere demokratischen Prozesse verschädigt, die unsere Fähigkeiten, die Welt wirklich zu verstehen, behindert und die ärgerlichen Umweltsungen der jetzigen Zeit verursacht haben. Unser Fehler war, dass das Pub, das öffentliche World Wide Web und nicht das, was am Anfang als Regierung finanziert ist, Web entstand als akademisches Web, dass dieses öffentliche Web jetzt durch Geldinteressen finanziert wird und über Werbefinanzierung. Das Werbefinanzierte Internet war nicht unvermeidbar. Wenn man sich daran erinnert, wie es 1994 war, es gab sehr wenige Werbung und es ging auch sehr wenig um Geschäfte. 1995 wurde das Internet öffentlich sehr populär und die Webseiten, die sich auch an Konsumenten richtete, wurden populärer. Also niemand wusste anfangs, wie das bezahlt werden sollte. Die originale, die ursprüngliche Dot-com-Blase, da ging es darum, herauszufinden, wie man das Internet zum ersten Mal monetarisieren könnte. Und die initiale naive Vermutung war, dass die Transaktionskosten, eine TCP-IP-Connection über einen Modem herzustellen, hoch genug war, so dass man sie für Mikrobezahlungen nutzen konnte und Menschen indirekt bezahlen lassen würde. Wie kann man die Aufmerksamkeit der zögerlichen Bevölkerung besser bekommen? Das Problem ist, ein Paperclip-Maximizer zu bezahlen über Augen, in dem man Leute sich was angucken, ist, dass die Leute sich nur bedingt, viele Dinge anschauen können. Es gibt nur 168 Stunden jede Woche, in dem man sich Werbebanner angucken kann. Und die meisten Werbebanner sind auch irrelevant. Und egal, wie oft man mir Hundekuchen anzeigt, ich werde niemals welche kaufen, denn ich bin eine Katzenperson. Ich muss jetzt wirklich noch mal einen Umweg machen auf die schreckliche Bösartigkeit, die Facebook ist. Ja, gut, also jemand hat ja gesagt. Die kurze Zusammenfassung ist, dass Facebook genauso eine Suchmaschine ist wie Google oder Amazon. Facebook ist optimiert auf Gesichter, also Menschen. Facebook weiß wahrscheinlich schon, wo die Menschen leben, was ihre Lieblingsfarbe ist und welche Schuhgröße sie haben. Und sie kennen wahrscheinlich auch den Grund, warum du vor vielen Jahren den Kontakt mit ihnen abgebrochen hast. Selbst wenn du keinen Facebook-Account hast, Facebook hat einen Account über dich, einen kompletten sozialen Grafen mit vielen Verbindungen, die auf dich zeigen und mit deinem Namen markiert sind. Selbst wenn du Facebook nie benutzt hast. Und selbst wenn man Facebook eben nicht benutzt, Facebook ist die Borg der sozialen Medien. Widerstand ist einfach zwecklos. Also Facebook versucht, eure Augen auf Werbung zu lenken, genauso wie auch Twitter und Google. Und um das zu machen, tunen sie ihren Inhalt so, damit das für deine Augen attraktiver scheint. Und bei Attraktiv meine ich nicht gut aussehend. Oder angenehm. Wir Menschen haben einen automatischen Reflex auf Erkrankheitsrelänken, auf Bedrohung und Horror, genauso wie auf angenehmes Stimul-Lanzen. Und die Algorithmen, die herausfinden, was sie uns zeigen sollen, für nur rückesichtig diese Ausrichtung. Man kann also auf eine öffentliche Erhängung im Iran stark reagieren oder an ein paar das sich küsst. Und der Algorithmus wird das tun und wird euch das alles zeigen. Das bringt mich auf einen anderen Standpunkt, nämlich komputerisierte künstliche Intelligenz im Gegensatz zu firmen, künstlichen Intelligenz und Algorithmen, die die Vorurteile und Ansichten der Programmierer reflektieren. Ich habe ein Bericht über WebCams gelesen, die von Menschen mit heller Haut entwickelt worden sind, die jetzt die Papallons bei dunklerer Haut nicht hinkriegen. Aber selbst mit heutigen Deep-Learning-Systemen kann also Vorurteile hineinkriegen, dass sie eine Promiere das nicht wollen. Microsofts erste Ausflug in ein Conversations-Chatbot, zum Beispiel, der durch Maschinen-Lernen getrieben war, TAY wurde sehr schnell offline genommen, denn als 4-Channel-Rated-Strolls entdeckten, haben sie ihn trainiert in Richtung Rassismus, Sexismus. Ich stelle euch mal vor, wie sich das anfühlt. Ihr habt gerade eine AI gestaltet und wolltet die nur anschalten, ausprobieren, ob sie jetzt vielleicht den Turing-Test bestellt und nur um zuzuschauen, dass sie hier direkt zu einem Nazi umtrainiert wird. Und es ist möglicherweise vielleicht sogar nicht möglich, Vorurteile zu identifizieren in einem AI-System. Diese Systeme machen soziale Änderungen schwieriger. Und Angst vor dem Verlust von sozialem Status ist ein sehr wertvolles Tool für Werbefirma. Was passiert, wenn wir soziale Netzwerke haben, die Vorurteile gelernt haben, gegen, sagen wir Frauen oder den Islam oder gegen Melanin? Oder die Learning-Systeme, die von extrem rassistischem Zeug kontaminiert sind oder von deren Propaganda? Und die Learning-Systeme, wie beispielsweise in Facebook, die entscheiden, welche Geschichten sie dir zeigen, damit du möglichst viel Aufmerksamkeit auf die Werbung längst. Naja, es klingt jetzt ein bisschen trist und ungemütlich, aber es stimmt natürlich. Ich schreibe Science-Fiction. Wir haben uns einfach so auch sehr daran gewöhnt über Wissenschaft und Technologie drüber nachzudenken als Dinge, die unser Leben besser machen. Aber eine ganze Menge Technologien haben, wenn man es geschichtlich betrachtet, sind extrem reguliert gewesen oder eben sogar kriminalisiert. Es gab einen guten Grund dafür. Wir haben Blei in Benzin verboten, weil es Leute vergiftet hat. Nervengas und verbleibtes Benzin sind Technologien der 1930er, die wir in den 1930ern von Firmen empfohlen bekommen haben. Halogenhaltige Kühlmittel und nukleare Waffen sind total aus den 40ern und interkontinentale Raketen sind aus den 50ern. Aber ich behaupte, dass im 21. Jahrhundert weiterhin gefährliche neue Technologie entwickelt. Genau wie unsere bisherigen Strategien und eben unsere bisherigen Strategien, um diese Technologien zu regulieren, sind fehlgeschlagen, weil sie zu langsam sind. Also lasst mir ein paar Beispiele geben. Von neuen KI-Anwendungen, die unsere Gesellschaften verändern werden, sogar noch heftiger als die alten langsamen künstlichen Intelligenzen. Das ist keine vollständige Liste. Wir müssen uns eine allgemeine Strategie überlegen, wie wir diese Dinge handhaben können, bevor sie uns handhaben. Wir sind hier Aktivisten. Also wir müssen uns Gedanken darüber machen, was wir als Nächstes machen. Also die erste Technologie, über die ich reden will, ist politische Hacking-Tools, also solche, die den sozialen Grafen benutzen, um Propaganda zu verbreiten. Das ist eine super einfach zu behandeln, das Thema jetzt nach den Überraschungen in 2016 in den Wahlen. Cambridge Analytica hat die Deep Learning-Technologie benutzt, um Facebook und Twitter zu scannen und eben sehr genau solche Wähler zu finden, die für die Wahl besonders relevant über den sozialen Grafen. Diese Werkzeuge, die da entwickelt wurden, für Werbung im Internet, um Produkte zu verkaufen, wurden jetzt zu Waffen im politischen Geschäft. Und auch außerhalb der letzten US-amerikanischen Präsidentenwahl gibt es jetzt immer mehr Hinweise darauf, dass auch das britische Referendum zum Brexit und auch die letzte französische Präsidentenwahl von diesen Maßnahmen betroffen war. Also man hat da tatsächlich erwartet, dass es ein Leak gibt und hat das angekündigt, so dass dann rechtzeitig quasi dieses Leak auch diskreditiert werden konnte, in dem man quasi vorher schon drüber gesprochen hat. Und ich reiß mich jetzt zusammen, ich habe natürlich auch meine politischen Meinungen, aber wenn soziale Medienfirmen sich nicht zusammenreißen und rausfinden, wie sie diese Propaganda, die micro getargetet wird, kontrollieren können, dann werden die demokratischen Wahlen ersetzt werden durch Siege für, wer auch immer in der Lage ist, die meistens in der Lage ist, für die Menschen, die sich in der Lage sind, für die Menschen, die sich in der Lage sind, durch Siege für, wer auch immer in der Lage ist, die meisten Trolls einzukaufen. Und das werden nicht nur Millionäre werden, wie die Kochbrothers oder Robert Mercer, sondern es werden auch immer mehr dann solche die Zero Day Exploits benutzen für Spionage über Spearfishing und verteilte die Nile of Service Angriffe auf Infrastruktur. Früher oder später werden die Propagandabots am Ihnen den globalen Cyber Boar ausführen. Und ich hasse wirklich dieses Cyber-Prefix, denn das heißt normalerweise, dass die Leute, die das benutzen, haben überhaupt keine Ahnung. Und es wurde auch von der originalen Bedeutung aus den 90ern komplett verändert. Also man kann nicht mehr sagen, das ist jetzt das spezielle Ding, über das wir sprechen. Aber ich sollte wieder über meinen Thema sprechen. Die zweite Bedrohung, über die wir regulieren sollten, hat was mit Deep Learning zu tun. Und zwar geht es um von neuralen Netzen, generierte falsche Video, falschen Videos. Also wir kennen natürlich Photoshop bearbeitete Bilder, aber Video künstlich zu erzeugen, das ist ein neuer Level. Das war wirklich schwierig, oder? Nein, das ist nicht mehr wahr. Wir sehen die erste Generation von KI-erzeugten Video-Pornografie, wo die Gesichter von Filmstars, die von anderen Leuten drauf projiziert werden. Also man nimmt da einfach das Gesicht eines Hollywood-Actors und setzt die auf einen Gesicht von jemandem, der ein Porno-Darsteller ist. Also bitte, mach das aus meinem Kopf wieder raus. Und jetzt gibt es auch WaveNet, ein System, um realistisch klingende menschliche Sprache zu erzeugen. Und das ist noch ziemlich geeky, aber es braucht noch ziemlich teure Cloud Computing oder GPUs. Aber in weniger als einem Jahrzehnt wird das in der Öffentlichkeit sein. Und jeder wird ein solches Video erzeugen können. Donald Trump im Weißenhaus. Ich kann nur hoffen, dass irgendwo ein Geek, gleich wie Steve Bannon existiert, mit lauter Server existierte. Das ist alles verhälscht, aber nein. Nun, wir haben bereits gesehen, viele YouTube-Channels, in denen Kinder- und Advertisement-Marken benutzt werden und dann Erbungen dadurch damit hinzugefügt werden. Und viele Kandidaten sind wieder Papierklickmaximärer, die also künstlich-intelligenzgetriebene Werbung machen und die Keywords vermutieren und die einfach existierende populäre Videos draufschlagen und diese Videos neue hochladen. Wenn man neue Netzwerke hinzufügt, um Charakter in andere Filme einzubauen, wird es sehr, sehr seltsam. Es wird immer noch seltsamer, diese Werkzeuge und das politische Spiel mitspielen. Als Primaten, die 300.000 Jahren sich integriert haben, haben wir den Input unserer Augen und Ohren weit weniger kritisch zu beurteilen als Text aus dem Internet. Wir sind also bereits jetzt perfekt nuksanfällig und bald wird es also glaubwürdige Videobeweise geben, weil das kühlgegelt sagt, dass etwa in 2027 die Welt nichts glauben wird, was in einem Video ist, außer es gibt eine kryptografische Signatur, die das mit der Kamera verbinden wird. Also das wird ein wirklich absolutes Chaos sein. Also Papierklickmaximärer, die auf Aufmerksamkeit fokussieren, sind so 20. Jahrhundert. Die neue Generation wird auf unser Nervensystem zählen. Die Verbindustrie kann nur existieren, durch eine Seltsamkeit unseres Nervensystems. Und das ist, wir sind versucht anfällig. Zum Beispiel Tabak, Betten, Heroin, aber wir erkennen das, oder? Naja, es zeigt sich, dass die Feedbacklobs des menschlichen Lebens relativ einfach zum Teil des Spiels werden können. Zum Beispiel Firmen wie SINGA, Farmworld existieren nur dadurch und frei benutzbare sozialen Medienplattformen wie Facebook und Twitter. Einfach, weil sie sucht, dass es eine häufige Interaktion belohnt wird und emotionale Antworten generiert werden, nicht um positive Emotionen. Also Angst und Hass sind genauso gut, wenn es umgeht, Aufmerksamkeit auf sich zu zählen. Smartphone-Sucht ist ein Seiteneffekt davon und die kurzen Interaktionsstöße sorgen dafür, dass wir immer wieder zurückkommen. Ja, ich komme immer wieder zurück auf Deep Learning und dank Deep Learning haben Neurowissenschaftler jetzt ein Prozess von Apps, die süchtig machen, automatisiert. Dopaminlabs ist ein Start-up, das Werkzeuge anbietet, die es Entwicklern einfach macht, jede App süchtig zu machen und auch das Verlangen zu reduzieren, die App zu benutzen, wenn das nicht gemacht werden soll. Und es geht weiter als automatisiertes AB-Testen. Also AB-Testen erlaubt Entwicklern einen binären Suchbaum zu entwickeln zwischen Optionen. Aber echtes Deep Learning, das Sucht maximiert, kann für verschiedene Faktoren gleichzeitig maximieren. Und Neurowissenschaft ist kein Geheimnis und früher oder später wird jemand, der sehr wenig Skrupell hat, sehen, wie weit man das treiben kann. Und lasst mir mal ein sehr spezifisches Szenario geben. Apple hat sehr viel Arbeit investiert, um Echtzeit-Gesichtserkennung in das iPhone X einzubauen. Man kann das nicht mit einem Foto oder einer einfachen Mappe... Du machst das aus, Trixen. Also hier wird sowohl eine Mapping durchgeführt um die Eierkomposition zu erkennen und man kann zudem erkennen, man kann auch die unterlegenden Knochenstruktur erkennen auch durch Make-up oder Narben hindurch. Also das läuft ständig und checkt also möglichst alles, so oft man einen Home-Button klickt. Und das ist dann also ein Sportlaub von der Authentifizierung. Also nicht nur einfach so tut einem, dann passt Wort, sondern das Gerät weiß und ständig, dass du der Benutzer bist. Und wenn jemand das Telefon nun an sich reißt und wegläuft, dann wird das Telefon sehr schnell wissen. Aber das Telefon, das deine Gesichtsausdruck beobachtet und das Ganze mit Abbenutzung korrigiert hat, hat andere Folgen. Das Telefon weiß dann sehr genau, was du machst auf deinem Bildschirm. Es hat vielleicht sogar die Möglichkeit herauszufinden, ob du glücklich oder traurig bist oder einfach nur in Intaktion. Wenn wir das jetzt verbinden mit so Dingen, wie synthetischen Videos, was ich geredet habe, dann ist es also sehr möglich, einen endlos exkalierenden Nutzlast von Videos zu erzeugen. Das könnten Facebook oder Twitter-Nachrichten sein, die darauf optimiert sind, Hass oder Erpörung zu erzeugen oder chronographische Videos, zielen auf irgendwelche Kings von denen, weil ich wusste, dass du sie hastest. Also es zieht auf deinen Nervensystem und du wirst im Geld, du wirst monetarisiert werden. Zuletzt möchte ich auch noch eine Aussicht aufzeigen, die weit darüber hinausgeht über Deep Learning und diese gezielte Propaganda. 2011 hat ein russisches Software-Unternehmen eine iPhone-App entwickelt, die hieß Girls Around Me. Also Mädchen um mich herum. Und die App hat funktioniert, indem sie den Benutzer über GPS lokalisiert hat und dann Foursquare und Facebook nach Leuten durchsucht hat, die mit ganz einfachen Suchanfragen, also zum Beispiel alleinstehende Frauen über Facebook, die hier sich angemeldet haben oder jetzt zusammen hier eingechickt wurden von Freunden in der Nähe, zum Beispiel via Foursquare. Und dann hat die App deren aktuellen Standort angezeigt, zusammen mit ihren sozialen Mediaprofilen. Und wenn das heute gemacht worden würde, dann würde das noch stärker gamifiziert werden. Also wer quasi Erfolg hatte mit einem Highscore und solche Leute markieren, die da eingeschützt werden als jemand, der sich halt leicht ins Bett trinken lassen. Na ja, und die Frage ist jetzt, na gut, kann das weitertreiben? Ist auf deinem sozialen Mediaprofil angezeigt, welche politische Partei du wählen willst? Nein, die Cambridge Analytica können das mit 99,9% Wahrscheinlichkeit rausfinden, indem sie nur deine Tweets und Facebook-Kommentare angucken, die du auch geleicht hast. Und jetzt stellen wir uns eine junge Frau vor in einem Supermarkt, die als Schwanger identifiziert wurde, einfach nur durch ihre Einkaufseinkäufe. Und das ist tatsächlich bei Target passiert, ungefähr 2012, einem amerikanischen Supermarkt. Und jetzt stellen wir uns die Anti-Abtreibungsgegner vor, die eine App haben, die Babies at Risk heißt, also die dazu führt, dass jedes Mal, wenn du in die Nähe einer Abtreibungsklinik gehst, eine Menge von Leuten gegen dich protestieren. Oder man stelle sich vor, dass du ein schwuler Mann bist und es gibt eine God-Hate-Fake-App und die sorgen dafür, dass deine Mitreisenden nur dann über schwule Menschen lästern, wenn sie mindestens in einem Verhältnis von 10 zu 1 mehr sind als die schwulen Menschen. Ja, und jemand arbeitet daraus, jemand, ein Geolokationsbewusster Sozialmediens, Creping Deep Learning Tool, das also ein gamifiziertes Interface benutzt, um ihre Player zu belohnen, Gang violence, Gang Gewalt und so. Und dann in irgendeiner vorgeplanten Stunde schaltet es also genau um und trainierte Leute daraufhin, ihre Ziele als Ungeziefer zu anzusehen und zu schlagen. Und der schlimmste Teil dieses Bilds ist, dass der Entwickler dieser App nicht mal ein Staat ist, der seine Feinde störende, sondern es ist einfach nur ein Papierklammermaximierer, der tut was er tut und du bist das Papier. Willkommen im 21. Jahrhundert. Und, thank you. Thank you. We have a little time for questions. Wir haben ein bisschen Zeit für Fragen. Do you have a microphone? So, you are doing a Q&A. Ja, also es wird jetzt eine Q&A geben, ja. Well, if there are any questions, please come forward to the microphone. Falls es irgendwelche Fragen gibt, die sind 1 bis 4 durchnummeriert. Glaubst du wirklich, dass es so trist und dystopisch ist, wie du es beschreibst? Denn ich denke mir, häufig es kann ja auch fröhlich sein. Und das gibt Wachstum und alles wird schneller in jeder Iteration. Ist das nicht in einer guten Richtung? Basically, I think the problem is dass etwa 3% von uns Psychopathen sind oder Psychopathen, die alles für die another 70% verwerben. Wird es nicht zuverdurbar, wenn wir eine abschreiben können, die all dieses Psychopathen herausfinden und wir könnten die dann töten wie alle anderen? Ja, also wir haben all die Werkzeuge, eine Utopie zu machen, die haben wir heute schon. Eine triste, miserable Zukunft ist nicht unvermeidlich, aber es hängt an uns, diese Weg zu nutzen, um das Schlimme zu verhindern und wir müssen voraussehen, was an schlechten Ergebnissen herausbauen kann und dann Wege finden, um das zu vermeiden. Also ich versuche hier eine Art Weckruf zu machen, um die Leute zu zeigen, wie viel schlimmer die Dinge werden können, was wir tun müssen, um das zu verhindern. Was ich vorher sagte über unsere Regulierungssysteme, die gebrochen sind, das steht. Wie regulieren wir die Deep Learning Technologien? Okay, Mic Number 2. Frage von Mikrofon 2. Hallo. Wenn du über Firmen als künstliche Intelligenzen sprichst, wo siehst du, dass diese Analogie kaputt geht? Also sind das tatsächlich künstliche Intelligenzen oder ist das mehr im übertragenen Sinne? Also fast buchstäblich, wenn ihr den Philosophen aus Chinese Room 1970, in dem er versuchte, zu beweisen, dass KI nicht möglich ist, eine Firma ist sehr viel der Chinese Room Imparentierung einer künstlichen Intelligenz. Menschen in einer Box, die Input in die Box hineintun und daraus daraus bekommen, ist es egal, ob das ein Unterschied ist, ob das ins Software funktioniert oder mit Menschen, die regeln befolgen. Ich sehe nicht so einen großen Unterschied. Man muss eine Firma, sich wenn er sehr abstrakt im Eben anschauen, um sie als KI zu begreifen, aber mehr und mehr Firmen automatisieren ihre internen Prozesse. Man muss das also sehen, als ein fortlaufenden Trend. Und ja, sie haben viele der Charakteristiken auf einer KI. Okay, Mic Number 4. Noch eine Frage von Mikrofon 4. Du hast wahrscheinlich schon mal von Time Well Spent und Design Ethics gehört. Es geht um böse Pattern bei App-Erzeugung und ich wollte wissen, ob du zu dieser Bewegung was weißt. Naja, weißt du, ich kenne Dark Patterns und ich denke, Leute, die das versuchen zu optimieren, ich habe keine Bewegung gegen die Szenen dagegen. Naja, ich bin 53, also ich bin nicht mehr mittendrin. Ich habe seit 50 Jahren kein ernsthaft programmieren mehr gemacht, sehr rostig. Dies ist ein besorgniserregender Trend und Aktivism ist ein guter Anfang. Aufmerksamkeit erzeugen, aufmerksamkeit vor den Gefahren ist ein guter Anfang vor den Gefahren. Es wird es nicht als ein moralisches Anliegen ansehen. Wir müssen Firmen bewerten alles in Hinsicht auf Profit, denn das ist die Äquivalenz des Atems. Sie müssen atmen. Sie haben auf der Regel kein moralisches Rahmen, kein moralischen Rahmen. Menschen brauchen diesen moralischen Rahmen. Selbst wenn es so was einfach ist wie du nicht schlimm ist oder du nicht etwas anderen Menschen an, was schrecklich wäre, wenn es dir angetan würde, die goldenen Regeln. Zusammenarbeit mit Softwareentwicklern zu erinnern, dass sie Menschen sind und dass sie menschlich sein müssen ist ein notwendiger Anfang. Hallo, ich denke, dass viele Leute gerade die hier in dem Raum sitzen, die an Lösungen für Facebook und Dingen, die wirklich sehr angsteinflößend sind, aber ich befürchte, dass wir uns selbst auch irgendwie die Stimme nehmen, wenn wir auf Facebook nicht aktiv sind, weil zum Beispiel dieser Women's March ja hauptsächlich auf Facebook organisiert wurde. Und ich denke, Regulierung ist wichtig, aber wir können es nicht einfach ignorieren, wir können es nicht einfach nicht nutzen. Absolut. Ich habe hier nun... Ich habe das hier sehr ausdrücklich Facebook neben uns für viele Jahre um die marktigen Leute... Die ganzen Marketing-Leute in meiner Umgebung, die Leute sagen, du hast kein Facebook, alle haben das, aber nee. Ich werde Facebook nutzen müssen, denn heutzutage bedeutet Facebook nicht benutzen, dasselbe wie nicht e-mail benutzen. Man schneidet sich nun die Nase ab, tut sich selbst etwas Schlechtes. Also was wir brauchen ist so eine Art effektive Aufsicht für Facebook und die Algorithmen haben... Die Algorithmen, die entscheiden, was für Content ihr sehen wollt, die müssen akuliert werden. Also ich habe darüber geredet, das, was ich über Menschen gesagt habe, das zieht sich auch auf Facebook und Twitter und das, was sie entscheiden, was sie dir anzeigen. Okay. Es tut mir leid, die Leute, die sich jetzt noch an den Mikrofon angestellt haben, wir müssen leider aufhören, wir haben keine Zeit mehr. Und es tut mir auch leid, dass der Talk of English stattgefunden hat, aber das liegt daran, dass der eben Englisch war. Gut, herzlichen Dank.