 Ich beginne jetzt mit meinem Vortrag Overhyped but Real, die soziale und politische Konstruktion von künstlicher Intelligenz. Ich mache das auf ein bisschen nach Oldschool, weil Sie jetzt einen Vortrag mit fünf Thesen, den Send-Out finden Sie auf Ihren Plätzen. Ich werde die Thesen kurz vorlesen und dann auch möglichst kurz kommentieren. Wir machen ja nur sehr kurze Vorträge und danach gibt es hoffentlich noch ein bisschen Zeit für Fragen oder Austausch. Beginnen wir also gleich. Tese eins. Die Debatte um künstliche Intelligenz ist derzeit stark überhitzt. Ein High. Deshalb sind aber weder KI noch die Debatte dazu irrelevant. Und das möchte ich Ihnen kurz erläutern. Alle reden derzeit über künstliche Intelligenz, oder zumindest sehr, sehr viele. Vermutlich haben wir auch eine Reihe von Kolleginnen und Kollegen hier heute viel darüber geredet und insgesamt auf der langen Nacht der Wissenschaften ist es sicher eines der zentralen Themen. Auch in der öffentlichen Debatte, Kommentatoren, Experten, Politiker, Start-ups, Business Investors scheinen uns alle glauben zu machen, dass KI derzeit die Welt revolutioniert. Die Welt rettet, manche sagen auch große Probleme bereitet und so weiter. Und ich möchte diese Debatte ein bisschen, ein bisschen runterholen. Neulich war ich auf einer Konferenz, wo es nur um KI ging und alle haben versucht, ihre KI-Produkte zu verkaufen und da fühlte ich mich ein bisschen wie der Party-Pooper, der sagen musste, künstliche Intelligenz ist gerade sehr overhyped. Kommen wir ein bisschen auf den Teppich. Überall hören wir, AI will fix this, also künstliche Intelligenz wird dieses Problem lösen, sei es Hate Speech, Misinformation, Fake News im Bereich der Kommunikation, selbstverhandene Autos sollen auf irgendeine Art und Weise vielleicht, vielleicht sogar Flugtaxis, die Probleme von Mobilität in unseren Städten und Gesellschaften lösen, scheinbar ist die schwierigste Frage nur noch, welche Personengruppe soll es töten, wenn es gar nicht anders geht? Zu dieser komischen Frage kommen wir später nochmal kurz zurück. In anderen Bereichen geht es aber auch um so Fragen wie autonome Waffensysteme und das mit denen eigentlich ist, wie Krieg sich dann verändert. Aber all diese Dinge zumindest in ihrer öffentlichen Debatte, in vielen Ausführungen, werden nicht so passieren, wie sie diskutiert werden derzeit. Zumindest nicht in einer kurzen Zeitrahmen und nicht in dieser Art und Weise und schon gar nicht notwendiger Weise, einfach nur weil der technische Fortschritt voranschreiten würde. Das ist der Hype. Wir reden immer über die Technik, die scheinbar immer schneller wird, immer besser wird. Aber Künstliche Intelligenz wird uns nicht retten und die gute Nachricht, sie wird uns aber auch nicht unser Ende bereiten. Zumindest nicht in irgendwelche absehbarer Zeit. Deswegen ist dieser Hype aber nicht irrelevant. Es ist nicht alles nur heiße Luft. Er ist enorm relevant. Denn was wir gerade erleben ist, man könnte es nennen, die gesellschaftliche Insuznalisierung einer Welt mit KI oder zumindest mit dem, was unter KI oft diskutiert wird. Automatisierung, Algorithmen, Datafizierung. Natürlich erleben wir auch eine starke technische Entwicklung und die Insuznalisierung von Technologien in ganz vielen verschiedenen Bereichen. Aber es ist nicht die einzige Geschichte, die da gerade passiert. Mit Science-Fiction, politischen Strategien zu KI, Produkten, die ausgedacht werden, Geschichten, die erzählt werden dazu, reden wir gewissermaßen AI, KI in unsere Gesellschaft hinein. Man könnte sagen, die Geister, die wir derzeit rufen, werden vielleicht auch kommen auf die eine oder andere Art und Weise. Dieser Hype so übertrieben er derzeit also ist, so meine These und das glaube ich auch ganz gut zeigen zu können, wird die weitere Entwicklung massiv prägen in den Zielvorstellungen, die wir da drin kommunizieren, in den Konflikten, die wir sehen und haben werden oder auch nicht und natürlich durch die Ressourcen, die wir verteilen, die in die Forschung gehen, die in bestimmte wirtschaftliche Entwicklung gehen. Das ist also die erste These. Die zweite These ist, wir erleben derzeit eine beschleunigte Automatisierung sozialer Verhältnisse. Dabei werden komplexe soziale Phänomene in berechenbare Abläufe übersetzt. Auf diese Art und Weise bauen wir derzeit die Infrastrukturen unserer Gesellschaft um. Intelligenz ist ein Hype, aber es passiert derzeit natürlich auch sehr viel. Es gibt von Algorithm Watch, eine NGO in Berlin, eine sehr schöne Studie, den Atlas der Automatisierung, in denen sie zeigen oder aufzeigen und darstellen 150 verschiedene Systeme, die derzeit in Deutschland eingesetzt werden, sie nennen es Automated Decision Making, also automatisierte Entscheidungssysteme. Viele davon haben nicht den Zauber der KI-Geschichten, die wir derzeit hören, das sind ganz basale Sachen teilweise, irgendwelche Automatisierungsgeschichten, in ganz unterschiedlichen Kontexten unserer Gesellschaft, der Wirtschaft und so weiter, aber sie haben tatsächliche Konsequenzen. Oft sind es ganz einfache Dinge, Algorithmen sind ja sowas wie Rezepte, man nehme dies, man nehme das, man lerne jenes und man mache dieses und jenes damit und dann kommt irgendwas hinaus. Zum Beispiel, vielleicht haben Sie das mitbekommen, die österreichische Arbeitsagentur hat eine Software in Auftrag gegeben, die Beschäftigungsfähigkeit von Arbeitslosen, also herausfinden sollte oder klassifizieren sollte und die Agentur, die es gemacht hat, hat dann gewissermaßen dieses System veröffentlicht oder es wurde veröffentlicht und da konnte man gewissermaßen sehr schön sehen, explizieren die Diskriminierung, die sowieso immer schon passieren und wie sie jetzt in dieses System eingeschrieben werden. Der Faktor 1,5 für Männer, der Faktor 0,8 für Frauen, der Faktor 1,8 für Männer zwischen 29 und 49, eine kleine Revisierung von Faktoren, also 0,7, wenn man Kinder hat, 0,8 wenn man pflegebedürftige Verwandte hat und all diese Dachen werden dann in diese Algorithmen hineingeschrieben. Ganz einfache Dinge und herauskam da gewissermaßen ein Beschäftigungsscore, den einzelne Leute dann bekommen haben und für die Arbeitsagentur, Mitarbeiterinnen und Mitarbeiter ein Indiz dafür sein sollte, quasi wie viel Mühe sie sich geben oder welche, was sie damit, was sie mit diesen Leuten machen sollen. Hinter dem was wir derzeit diskutieren, was KI sein sollte, stecken also ganz verschiedene Sachen, teilweise ganz einfache Sachen. Die Techniker verstehen meistens etwas darunter, was als maschinelles Lernen bezeichnet wird, wo die Rezepte gewissermaßen nicht ganz so einfach sind. Man sagt dieses Kriterium, jenes Kriterium und dann ist es eine Katze oder sowas. Maschinelle Lernsysteme werden trainiert. Man sagt, das ist eine Katze, das ist ein Hund, das ist eine Katze, das ist ein Hund und dadurch versuchen diese Systeme selbst gewissermaßen Schlüsse zu ziehen. Das ist das, was man als maschinelles Lernen bezeichnet. Aber es sind ganz einfache Dinge. Was wir also derzeit erleben, ist in ganz vielen verschiedenen Kontexten passieren teilweise ganz basale Sachen, aber dennoch verändert sich etwas. Es wird automatisiert und diese Sachen sind oft ganz anders, als es in dieser öffentlichen Debatte dargestellt wird, ganz anders als wir uns das vielleicht vorstellen. Zum Beispiel dieser humanoide kleine Roboter da draußen, der nicht funktioniert, genauso wie er nicht, wie der Roboter der Bahn nicht funktioniert, die vor ein paar Tagen ihren tollen neuen Service Roboter vorstellen wollte. Das ist meist ganz andere Sachen. Und ich finde ein ganz schönes Beispiel ist die Spülmaschine. Auch als es eine Spülmaschine noch nicht gab, gab es schon die Vorstellungen von Roboter. Und auch damals hat man sich manchmal vorgestellt, naja, könnte nicht ein Roboter diese lästige Spülerarbeit übernehmen. Und was dabei rauskam bei diesem Nachdenken über, wie könnte man diesen nervigen Vorgang automatisieren, ist die Spülmaschine. Und die ist natürlich etwas ganz ganz anderes als ein Roboter, der genau die gleichen Handbewegungen macht, wie wir und so und dann rüberlegt und so. Das ist von Roboter bis heute, glaube ich, unmöglich. Aber eine Spülmaschine funktioniert relativ gut. Und was ich damit sagen möchte, Automatisierung funktioniert meistens ganz anders, als wir uns das vorstellen. Am Anfang stellen wir uns immer so diese menschlichen Handlungsweisen direkt übersetzt in automatisierte Handlungsweisen vor. In der Übersetzung, in technischer Abläufe, passiert meistens was ganz anderes. Und das ist, glaube ich, wichtig, sich mitzunehmen, weil in dieser Automatisierung sich dann auch was verändert. Mit der Spülmaschine verändert sich auch die Küche. Meine Jungs räumen vielleicht lieber die Spülmaschine aus, als selbst zu spülen. Und damit verändert sich vielleicht ein bisschen was. Oder auch schon sechs jährige können die Spülmaschine ausräumen, aber sie können nicht so gut spülen, zumindest nicht so erfolgreich meistens. Was wir also sehen, ist eine Automatisierung, die eher im Versteckten derzeit stattfindet, in ganz unterschiedlichen Bereichen meistens ganz einfache Dinge. Und damit verschieben sich aber auch Sachen. Und das ist das Interessante. Eine Automatisierung, eine Übersetzung ins Automatisierung ist nicht einfach ein Eins-zu-Eins-Vorgang, sondern es verschieben sich Sachen. Und was sich da verschiebt oder was wir dabei beachten sollten, wenn wir diese Instuzionalisierung derzeit beobachten, sind vor allem, sind zwei Dinge, die ich Ihnen jetzt gewissermaßen mit auf den Weg geben möchte. Und das ist These 3 und These 4. These 3 ist vielleicht, weiß ich nicht, ob Sie ja mit vertraut sind, aber ist vielleicht relativ banal erst mal. Technik ist immer politisch. Sie setzt sie nicht einfach funktional durch, nicht dass irgendwie Beste setzt sich durch, das Technisch Beste, sondern Technik setzt sich sozial durch. Deshalb ist auch der gegenwärtige Stand der Technik und auch der zukünftige, die weitere Entwicklung hochgradig kontingent, würde man sagt man, als heißt sie könnte auch anders sein mit einfachen Worten. Also es ist nicht notwendigerweise so, dass heute die technischen Dinge so sind, wie sie sind. Nehmen wir zum Beispiel die Tastatur und ihr Layout. Sie kommen wahrscheinlich inzwischen, die meisten von uns kommen wahrscheinlich inzwischen gut damit zurecht. Es ist aber zumindest, was die Tippgeschwindigkeit angeht, wie viele Studien sagen, keineswegs, heutzutage die funktionalste Lösung. Es war zu einer bestimmten Zeit eine sehr funktionale Lösung, dass man die Buchstaben, die man nicht häufig miteinander benutzt, sehr weit voneinander entfernt legt, weil die Schreibmaschinenarme sich sonst immer dauernd verhargt hätten, wenn man dauernd nebeneinander die Tasten drückt. Heute wäre es wahrscheinlich sehr viel praktischer, wenn die Buchstaben, die man häufig miteinander benutzt, wenn die nebeneinander lägen, dann könnte man sehr viel schneller tippen. Und das ist ein ganz einfaches Beispiel dafür, wie zum einen gewisse Technologien, Techniken, Handlungsweisen, Artefakte, gewissermaßen den Stempel ihrer Zeit und der sozialen, gesellschaftlichen, politischen, ökonomischen und so weiter Verhältnisse ihrer Zeit tragen und dann teilweise trotzdem weiter andauern und sich nicht verändern. Weil in dem Fall wären gewissermaßen die Wechselkosten sehr hoch für uns alle. Wir müssten uns neue Bewegung antrainieren. Alle müssten gleichzeitig vielleicht auf neue Keyboards umsteigen und so weiter. Ein ganz schönes Beispiel finde ich auch unsere Städte derzeit, zumindest in Berlin. Aus meiner Wahrnehm aber auch in anderen Städten beginnen wir daran darüber nachzudenken, warum sind die Städte eigentlich so gestaltet, wie sie gestaltet sind. Wir beginnen gewissermaßen, die, wie man es jetzt auch nennt, die autogerechte Stadt zu politisieren und sagen, sie könnte doch auch anders sein. Und wie könnte es dann sein? Und das trägt den Stempel an der gewissen Zeit im 20. Jahrhundert. Städte könnten eigentlich auch ganz anders aussehen. Und das ist was ganz Interessantes, weil im Kontext von autonomen Fahrzeugen wird es nochmal sehr relevant. Und man könnte gewissermaßen sagen, ich möchte nicht in der Spülmaschine leben, weil die Wege, die Städte, die autonome Fahrzeuge brauchen werden, um sehr gut und effizient durch die Gegend zu fahren, werden gewiss nicht die Städte sein, indem man schön zu Fuß und einem Fahrradkreuz und quer und ohne Ampeln durch die Gegend fahren kann. Schon heute wissen wir, auf Autobahnen funktionieren diese Fahrzeuge extrem gut, aber in engen, unübersichtlichen Städten, in Vierteln eben sehr, sehr schlecht, weil sie entweder dauernd anhalten müssen, weil vielleicht könnte ja irgendwas im Weg sein oder sie halt sehr schnell umfälle bauen. Das heißt, wenn wir jetzt darüber reden, dauernd Künstliche Intelligenz wird dieses oder jenes lösen, da müssen wir vor allem daran denken, dass die technische Lösung ist ganz oft nur ein ganz kleiner Teil des Problems, was zu lösen ist. Wir müssen uns vor allem darüber verständigen, was ist eigentlich das Problem, wie sollen unsere Städte aussehen, wie wollen wir unser träckiges Geschirr loswerden und wie wollen wir uns durch die Gegend bewegen, zum Beispiel, oder wie wollen wir kommunizieren und wer ist dafür verantwortlich, wenn Hate Speech zirkuliert? Es muss also eher darum gehen, was sind die Probleme und Technik ist Teil dieser Lösung, aber es ist nicht von Anfang an die Lösung. These 4, die höchste Stabilität und Wirkraft haben Technologien genauso wie gesellschaftliche Institutionen, wenn sie unsichtbar bleiben und als selbstverständlich gelten. Man könnte auch antüpfend jetzt an These 3 sagen, Technologien und Institutionen sind besonders wirkräftig oder machtvoll, wenn sie diese Kontingenz verstecken können, wenn wir sie gar nicht mehr hinterfragen, sondern für selbstverständlich halten. Also zum Beispiel die Stadt, würde ich sagen, in den 80er, 90er Jahren, da war es einfach selbstverständlich, dass sie so gestaltet ist mit sehr breiten Straßen, mit aus der Stadt, wo ich herkomme, irgendwie ungefähr so breiten Bürger steigen, dann sind sie unheimlich stabil und wirkräftig, weil wir fangen gar nicht daran, sie zu hinterfragen, Alternativen kommen uns gar nicht in den Kopf, es könnte gar nicht anders sein, darüber fangen wir gar nicht nachzudenken. Und was wir gerade erleben, ist eben, dass bauen all dieser neuen Infrastrukturen, man könnte sagen, die Städte, die wir damals gebaut haben zwischen 1870 und vielleicht 1930 in Deutschland, besonders diese Strukturen, die überlagern wir gerade mit informationellen und Dateninfrastrukturen, die so oder so gestaltet sein könnten. Und ich kann mir gut vorstellen, also wir diskutieren derzeit schon viel darüber und das ist eine sehr gute Sache, aber ich kann mir vorstellen, dass wir in, weiß ich nicht, 20, 30 Jahren werden wir diese Infrastrukturen, die wir gerade bauen, in diesem Bereich Smart Cities und irgendwelche Sensoren, die WIFE heißt, die überall aufgebaut werden, werden wir das zu selbstverständlich halten. Und es könnte so oder so gebaut werden. Und das ist der fünfte Punkt, der gewissermaßen auch optimistische Punkt aus meiner Sicht ist, gesellschaftliche Gestaltung ist möglich und derzeit erzeugt dieser digitale Umbruch genuinen politischen Momente am laufenden Band. Wir haben unheimlich viele konflikte Themen derzeit, die in diesem Zusammenhang von technischer Entwicklung und gesellschaftlicher Entwicklung liegen. Am Anfang habe ich ein paar schon genannt im Bereich von Kommunikationen, diese Themen Hate Speech, Misinformation, Fake News oder auch Urheberrecht. Wer ist denn eigentlich dafür verantwortlich für die Kommunikationen auf diesen Plattformen? Wie soll es gestaltet werden? Sollten die lieber plocken oder eben nicht plocken, die manchen beschweren sich, die plocken zu viel, manche sagen, die plocken viel zu wenig. Was ist mit autonomen Fahrzeugen? Was wollen wir da eigentlich? Was ist eigentlich das Problem des Flugtaxis lösen sollen? Und da gibt es eigentlich, DIPZ hat unheimlich viele Sachen, wo wir uns darüber verständigen, wie wollen wir als Gesellschaft eigentlich leben? Und das ist vielleicht das, was Sie mitnehmen können. Also ich möchte nicht in einer Spülmaschine leben, in dem Sinne, dass wir quasi alles so automatisieren, functionalisieren, dass der datengetriebene Prozess superfunktional funktioniert. Ich glaube, da müssen wir andere Wege finden. Und das ist mein Schluss.