 Nils Janssen freue mich sehr. Er ist wissenschaftlicher Mitarbeiter für Foresight und Participation bei den Ellery Studios in Berlin. Er hat Politikwissenschaft und Zukunftsforschung an der FU Berlin studiert. Ganz bekannt in der Szene, zumindest kenne ich ihn natürlich durch seine Arbeit bei der Denkfabrik des Bundesministeriums für Arbeit und Soziales, BMAS. Er interessiert sich sehr für soziotechnische Systeme. Das heißt, hier ganz genau richtig die kreative Wissensvermittlung. Da freue ich mich auch schon sehr auf einen Erklärbärvortrag. Ich liebe das noch. Und kreative Wissenvermittlung klingt auch total spannend. Und schließlich Science Fiction und soziale Innovationen. Deswegen freue ich mich sehr. Nils. Dankeschön. Ja, erst mal ganz herzlichen Dank an alle, die den Wiki hergefunden haben zu so früher Stunde und alle draußen im Stream. Ich werde heute was zu predictive Policing ein bisschen aus der Perspektive der Zukunftsforschung sagen. Wir sind hier ja eine Archenhalt-Sterrenwarte. Das ist natürlich ein super Einstieg, so ein Fernrohr, das da irgendwie weit in die Weiten rausgeht. Das war ja auch eigentlich früher immer so ein bisschen die Überlegung. So eine Zukunftsforschung, das wird dir immer gerne mit dem Fernrohr dargestellt. Von daher perfekter Ort hier, um damit einzusteigen. Wenn dieser Blick in die Sterne ist ja eigentlich ein Blick in die Vergangenheit, aber das ist eine andere Geschichte. Genau. Und Albert Einstein hat irgendwie auch hier in diesem Saal gesprochen und die Relativitätstheorie erklärt. Also no pressure for me. Also schauen wir mal was daraus wird. Ich fange mal ein bisschen an mit der Zukunftsforschung, weil das eben so ein bisschen ja die Frage ist so, wer hat Schülern der Begriff, ist es irgendwie tatsächlich Wissenschaftler oder ist es eigentlich eine Unfug? Und wenn ich sage, ich bin Zukunftsforscher, dann kommt meistens so eine Reaktion. Aha, du bist der neue Nostradamus oder wo ist denn deine Glaskugel? Also ich habe noch keine, aber ich sehe da drüben beim Fokurschenpendel, nehme ich mir, glaube ich, nachher die mit, dann habe ich wenigstens auch mal eine zu Hause. Dann ist das ja immer Wahrsagerei oder Vorhersagen haben eigentlich schon immer über die Jahrhunderte und Jahrtausende große Traditionen gehabt. Manche Leute gehen noch einen Schritt weiter und sagen so, Kai, die Pythia da, dieses Oracle von Delphi, das ist schon ziemlich nah dran, weil die Pythia, die hing da nicht nur über dieser Felsspalte, wo diese Dämpfe raus kamen und hat dann irgendwie was Tolles erzählt, sondern die hatte ganz, ganz viele Mitarbeiterinnen und Mitarbeiter, die aber nicht bekannt waren, die im Vorfeld gerne mal in den Tavernen unterwegs waren und sich umgehört haben, was ist denn da so los? Und die haben der Pythia dann Informationen zugetragen und die hat dann daraus ihre Weissagung gemacht. Science Fiction ist auch immer ein schöner Einstieg, hatte Stefan ja schon gesagt, dass ich da großer Fan von bin. Das ist ein Bild aus den Storchschokoladenwerken, die haben das ihren Schokoladen beigelegt und haben sich eben die Zukunft vorgestellt im Jahr 2000. Und da wir bei Predictive Folicing sind, konnte ich natürlich nicht umhin dieses wundervolle Bild zu nehmen. Unsere Schutzmänner haben mittlerweile keine Pickelhaube mehr, aber so schöne Flügel haben sie auch nicht. Gut, das ist jetzt dann irgendwie der wissenschaftliche Teil. Ich habe extra mal das etwas komplexere und future-scown genommen, damit wir irgendwie auch so ein bisschen im Kopf morgens früh ein bisschen anstrengen können. Es fängt an in der Vergangenheit, die die Einflüsse aus der Vergangenheit sind natürlich eminent wichtig, um daraus was ableiten zu können. Dann haben wir diesen Strich da in der Mitte, das ist die Gegenwart, diese ganz kleine winzige, diese einzige kleine Punkt, der da ist. Und von der Gegenwart aus, je weiter wir in die Zukunft gehen, desto mehr dehnt sich dieser future-scown aus. Also je größer werden die Möglichkeiten. Und es gibt ebenso was, was halt sehr wahrscheinlich ist, also das Probable, das ist so in der Mitte. Das kann man auch gerne mal so, als Strich dann einmal durchziehen, wir verlängern die Vergangenheit einfach in die Gegenwart, über die Gegenwart in die Zukunft hinein. Dann gibt es das Mögliche, also auch wenn da eine 0,1% Chance ist, dass da irgendwie was passieren könnte, dann ist es trotzdem noch möglich. Und ich habe immer ganz großen Spaß dran, mir so diese Grenzen anzuschauen, zwischen dem Möglichen und dem, was noch irgendwie so ein bisschen jenseitig ist. Das ist vielleicht das heute noch nicht mögliche, aber darum geht es mir eigentlich, wenn ich über Zukunftsforschung rede und da, ja, es gibt so drei große Stränge, wenn man sich mit über Zukunft oder wir sagen gerne, wir reden gerne im Plural über Zukunft unterhält. Das eine ist das prognostische und das ist wahrscheinlich das, was auch aus technischer Sicht irgendwie erst mal so am naheliegendsten ist. Da stellt man die Frage, was wird passieren? Ganz harte Frage, hard science, wir versuchen eine zukünftige Gegenwart zu erkennen. Das zweit ist eher das Explorative, da bewegen wir uns eben schon in diesem Möglichkeitsraum. Da ist die Frage, was könnte denn sein? Was könnte denn passieren, was vielleicht auch nicht, welche unterschiedlichen Möglichkeiten gibt es? Und das dient dann dazu, das große Basswort ist momentan Resilienz, also Resiliente Strategien zu entwickeln, die eben auch funktionieren, je nach dem, was für eine unterschiedliche Zukunft auch eintreten mag. Und das Dritte sind die normativen Zukunfts, da reden wir über Utopien und Dystopien. Das ist immer so ein bisschen schwer auseinander zu halten, das eine Utopie ist das andere Dystopie. Mein Lieblingsbeispiel ist immer die autofreie Stadt. Der eine finde es total super, wenn ich aber Mobilitäts eingeschränkt bin, dann ist es die Hölle für mich. Und genau und dann kann man eben diese Utopien und Dystopien sich nehmen, sich dieses Zukunftsbild nehmen und davon rückschauen und zu sagen, was kann ich denn dazu beitragen, dass diese positive oder negative Zukunft eintritt oder eben auch nicht. Und das ist das, was ich so ein bisschen in der kritischen Zukunftsforschung sehe und da finde ich auch die Verbindung zum FIFF auch super, weil das ist ja eben auch genau das. Das FIFF hat diese Utopie, wir wollen nichts weniger als Frieden. Und zwar komplett. Und das finde ich ein super Ausgangspunkt, also wir haben hier eigentlich eine normative Zukunft, ein normatives, schönes, wünschenswertes Zukunftsbild und mit dem können wir weiterarbeiten. Zukunftsforschung hat dann noch ganz viele Methoden. Ich lieste jetzt nicht alle vor, aber die sind so in diesem Diamond, irgendwie dann ganz schön drin. Und da hat man natürlich bei der Evidenz eben auch die Modellierung und da da sind dann eher so die prognostischen Sachen zu verorten. Und die Kreativität, Science Fiction und so weiter haben wir oben auch gut. Warum Zukunftsforschung und Frieden? Also die Zukunftsforschung hat ja auch eine Geschichte und die hat so ein paar cranky Ankels da drin. Also der eineseits die Rand Corporation ist relativ bekannt geworden. Die waren also als nach dem Krieg so die ersten Großen, die auch die Szenario-Technik mit entwickelt haben. Von nahe sind die, waren die schon sehr einflussreich. Und da gab es aber so ein Hermann Kahn bei denen und er hat die Theorie von Immutally Assured Destruction. Also mit der schönen Abkürzung Mad gehabt. Also wie, der hat ein Buch geschrieben, wie gewinne ich einen Atomarenkrieg? Also der hat sich die Frage gestellt, also jetzt machen wir mal ein bisschen Plan spielen und dann gucken wir mal, wie gewinnen wir denn so einen Atomarenkrieg und dann müssen wir einfach dieses Gleichgewicht so hoch drehen, bis es gar nicht mehr weiter geht. So. Einer der Väter der Zukunftsforschung, aber nicht ganz unproblematisch. Auf der deutschen Seite hatten wir dann so in den 70er und 80er Jahren so eine Zeit, wo eben auch ganz viel Techno, Techno Optimismus auch schon da war. Man kann jetzt, der ist der Computer da, der kann jetzt, wir können jetzt Dinge berechnen, das konnten wir vorher nicht. Und da war die Überlegung, da irgendwann schaffen wir, wir schaffen es mit diesen, mit dieser Technologie, Dinge voraus zu berechnen, soziale Physik. Und da war einer der, ja, einer der prominenten Figuren war der Wolf Häfel. Der ist dann später auch als Vater des schnellen Brüters in Deutschland bekannt geworden. Also auch an der Stelle wieder so eine schwierige Geschichte. Es gibt dann aber auch die positive Seite und eben auch da mit der Bezug zur Friedensbewegung Robert Jung, der sich eben mit einerseits mit Büchern und andererseits mit praktischen Interventionen, der hat die Methode der Zukunftswerkstatt entwickelt. Und der hat, der war ja eben genau auf der Gegenseite, der hat sich extrem klar gegen Atomkraft positioniert. Heller als tausend Sonnen ist von ihm so eins der bekannten Bücher. Also Zukunftsforschung nochmal kurz in Stichworten. Wir reden von gegenwärtigen Zukunften. Also wie können wir uns die Zukunft vorstellen, imaginieren und nicht von, wir wollen nicht eine zukünftige Gegenwart erarbeiten. Wir haben diese vier PS, kann man sich im Führtschutzkorn nochmal sehr schön anschauen. Wissenschaftlichkeit und Transparenz ist, ich rede hier über die wissenschaftliche Zukunftsforschung. Es gibt dann auch so ein Bereich, der eher so ein Ökonomisierter ist. Das Zukunftsinstitut ist ja immer so mein Lieblingsbeispiel. Die machen das sehr gut. Also die verkaufen sehr gut. Wir sprechen und denken in Zukunftsbildern. Inter- und Transdisziplärenerität ist ein Muss. Und genau, Betonung von Kontingenz. Also etwas kann so sein, aber es muss nicht so sein. Und wir können immer was ändern. Wir wollen eben tatsächlich auch Zukunft gestalten. Es gibt dann noch weitere Sachen. Kritische Zukunftsforschung könnte mich gerne nachher zu anstrengen. Aber ich wollte ja auch noch über Predictive Policing reden. So. Predictive Policing, Sie haben viele sicherlich schon mal gehört im Begriff. Was ist das denn? Oh nee, nicht der schon wieder. Also Predictive Policing, wenn man das sagt, dann ist bei ganz vielen Leuten die erste Gedanke Minority Report. Übrigens eine Kurzgeschichte von Philipp Kaledig aus im Jahr 1956. Das ist die Grundlage für den Film, den alle kennen. Predictive Policing ist hier eine wundervolle, quasi selbst erklärende Definition. Also was es so alles ist. Da ist Strategie drin, da ist Technologie drin, kriminologische Theorie, Analyse und das Ganze soll ja auch noch in das praktische Polizieren, also die Polizeiarbeit, die dann im sozialen Raum stattfindet, überführt werden. Ich bin da so ein bisschen, ja, kann man so sehen, es ist aber auch eher so ein bisschen Fase, das Ganze. Ich habe versucht mal so eine Typologie von unterschiedlichen Predictive Policing Systemen zu machen. Ich rede jetzt hier bewusst über Systeme, weil das ist einfach die technologische, ja, das ist die Software. Das sind die Softwareprodukte, die eben da sind. Wir haben drei große Strenge, einmal in der Repeat-Systeme, dann Risk Terrain Modelling und Data Mining, Big Data, Maschinelles Lernen. Die teilen sich alle jeweils in zwei Strenge aus. Es gibt welche, die schauen sich an, was passiert raumzeitlich, also die schauen sich an, die arbeiten mit diesen typischen Risk Maps, die man kennt, oder das ist doch irgendwie eine Karte, die irgendwie in Quadrate eingeteilt ist und die sind dann im Idealfall grün, gelb, rot, vielleicht ist es nochmal ein Orang statt Zwischen. Und es gibt aber auch welche, die sind personenbezogen, die sind in Deutschland nicht verbreitet. Ich habe auch unten mal so ein paar Beispiele, welche Programme, also wer mal ein bisschen danach suchen will, der kann da auch was finden. Das Einzige, was personenbezogen in Deutschland unterwegs ist, ist das RADA-ITE vom Bundeskriminalamt. Das ist ein, ist auch wieder so ein Akronym aus der Hölle. Da geht es um die islamistischen Terroristen. Dass da arbeiten die eben schon. Und wir haben jetzt eben, dass die Nährepeats-Systeme, die beruhen tatsächlich auf einer Theorie und da sind auch die, die Programme sind hardcoded. Also das ist wirklich klassisch als algorithmisches System, das irgendwie einfach fest steht und so programmiert worden ist. Und die Theorie ist eben, die ist vor allem ein Wohnungseinbruchstil nachgewiesen. Dort wo ein Wohnungseinbruchstil von einer organisierten Kriminalität stattgefunden hat, ist die Gefahr hoch, dass im näheren Umfeld ein weiterer Einbruch passiert. Das ist natürlich, wir haben das total super, wir haben eine Datenbasis, die sehr genau ist, weil wenn ein Wohnungseinbruch passiert, rufe ich die Polizei, weil sonst zahlt meine Versicherung nicht. Also wir haben hier ein wirklich sehr gut ausgeleuchtetes Helfeld und es ist kaum Dunkelfeld. Es ist natürlich für solche Sachen gut. Bei anderen Straftaten sieht das dann sicherlich auch schon mal wieder ganz anders aus. Genau und es werden eben ausschließlich Daten aus dem Polizeibestand genutzt. Also das, was die Polizei erhoben hat, welche Werkzeuge sind für den Einbruch verwendet worden, wann ist die vermutlich Tatzeit etc. Die zweiten Systeme nehmen da einfach schon ein bisschen mehr dazu, nämlich auch die zum Beispiel die raumbezogenen Daten. Also was sind da für Geschäfte drin? Wie ist das der Abstand bei der Straßenlatern? Da kann man ganz, ganz viele unterschiedliche Dinge noch mit dazu nehmen, um einfach nochmal ein bisschen weiter zu gehen. Und das wird dann eben mit Algorithmen beworfen, die dann teilweise auch so ein bisschen obskurer Herkunft sind. Da ist auch ganz viel so ein bisschen so das behavioristische, der behavioristische Hintergrund bei den Leuten, die das entwickeln drin, so und die sagen, naja, irgendwann haben wir genug Daten, um den Menschen um vorher zu sagen, was die Menschen machen. Und diese Algorithmen, die da genutzt werden, kommen teilweise aus der Erdbebenforschung. Also ein Algorithmus wird für ein System genutzt, dass die Nachbäben von Erdbeben modelliert und vorher sagt. Und was mit einem Erdbeben funktioniert, das kann ich auch einfach mal eben auch schnell auf Kriminalität werfen, ist ja eigentlich quasi dasselbe. Also kann man sich auch sehr, kann man sehr kritisch sehen. Und das Dritte ist, sind eben die Sachen, die wurde dann tatsächlich gesagt, lasst uns einfach mal alle Daten auf einen großen Haufen werfen. Wir bewerfen das dann mit einer KI, die wird schon irgendeinen Muster rausfinden und dann werden wir auch irgendwas, da werden wir dann auch das rausfinden, was wir jetzt kriminalologisch belegt noch nicht wissen, weil dann haben wir irgendwie, ja, das, der Tech will save us. Ihr seht schon, ich bin da so ein bisschen vorsichtig oder kritisch bei der ganzen Geschichte. Predictive Policing ist aber mehr als die technischen Systeme, sondern Predictive Policing ist ja eingebunden in soziales Handeln. Also das wurde dann auch mal versucht von der RAN Corporation jetzt in 2013 war das, haben die das mal untersucht und haben versucht mal zu zeigen, so wie ist denn dieser der Ablauf der Polizeiarbeit? Im oberen Teil haben wir eben so die Analyse bzw. wir werden erst mal die Daten gesammelt, dann kommt die Analyse, dann wird das in polizeiliche Operationen überführt, was auch immer das sein mag, die sind unten ein bisschen ausdifferenziert und dann reagiert aber auch dummerweise die Kriminalität da drauf. Und dann geht der ganze Spaß wieder von vorn los. Also das ist schon mal so ein erster ganz guter Ansatz um zu sagen, ja da kommen wir der Sache näher, also da sehen wir auch einfach, da sind auch vielleicht, ja es ist eben nicht nur ein Computerprogramm, das irgendwie was, also das Computerprogramm macht ja am Ende erst mal nichts. Genau, es gibt also ein paar Mythen und Fallstricke, Computer kennt die Zukunft, ist klar, der macht das alles alleine, hat ihm schon gesagt, ich muss das einfach mit viel Rechenleistung und mit komplexen Modellen bewerfen, dann wird das schon irgendwann was rauskommen und eben auch der Mythos, dass eben so eine gute Vorhersage und das möchte ich hier in Anführungszeichen setzen, auch zu guten Ergebnissen wird. Es gibt nämlich auch so, im Deutschen kann man den Unterschied sehr schön machen, eben zwischen vorhersagender Polizeiarbeit und vorhersage basierter Polizeiarbeit. Und dann kommen wir nämlich auch wieder, das sollten wir uns merken, kommen wir gleich noch mal dazu. Es gibt dann auch so ein paar Fallstricke, dass man eben tatsächlich den Fokus auf diese Vorhersage und die Güte legt und eben nicht schaut, was ist denn, gibt es denn tatsächlich einen strategischen Nutzen für die Polizeiarbeit? Die Daten sind teilweise eben auch von schwieriger Qualität und Provenienz, da muss man eben auch mal vorsichtig sein. Die Faktoren für die Verhersage werden von den Personen, die nachher damit arbeiten, müssen nicht verstanden. Auch so ein großes Problem, zu dem wir gleich noch kommen und Bewertung und Nevaluation wird unterschätzt. Also das sieht man auch daran, dass gesagt wird, das funktioniert schon und die wissenschaftliche Begleitforschung bei so Predictive, Einführung von Predictive Policing ist, sagen wir mal, ausbauffähig. Genau und Bürgerrechte und Privatsphäre werden missachtet, das können wir vielleicht auch gleich kommen wir auch noch zu. Es ist aber noch eine kleine Kritik der Kritik von meiner Seite aus. Wir fokussieren uns, wenn wir über Predictive Policing reden, ganz, ganz häufig wirklich auf diese technische Seite und gucken, was ist klar, das ist wichtig, Transparenz, Datenqualität, bei es ist Datenschutz und Grundrechte, aber es gibt noch weiten, eben noch die soziale Dimension und die wird häufig so ein bisschen ausgeblendet, das finde ich ein bisschen schade. Und dann gibt es noch die Gefahr, dass man sich eben die Argumentation der Herstellerinnen und Hersteller damit aneignet, weil die sagen, ja wir können doch aber und dann versucht man dagegen zu argumentieren und zu zeigen, dass sie eben nicht können. So und dann macht man, ist man da in so einem Ping-Pong-Spiel gefangen und ja, ich weiß nicht, ob man da immer glücklich wird. Genau und dieses Zusammenspiel von Mensch und Maschine, das ist in der Begleitforschung wirklich fast nicht existent. Es gibt das in Nord, das von RAND ist schon quasi so, wie das am umfangreichsten passiert ist. Es gibt aus dem deutschen Raum in Baden-Württemberg gab es eine Begleitforschung, der wird es mal kurz erwähnt, aber auch nicht weiter ausgeführt. So und dann haben wir eben die sozialen Kulturellen und gesellschaftlichen Faktoren, die auf die ich jetzt eben da noch ein bisschen stärker eingehen will und die eben diese Einbindung in das soziotechnische System. Technologie funktioniert nicht alleine, losgelöst von Menschen. Der Mensch macht Technologie und dieses Wechselspiel, das ist das Interessante. Und ich komme immer gerne mit Cranesburg's First Law on Technology. Technology is neither good nor bad nor is it neutral. Das fasst eigentlich das soziotechnischen System wunderbar zusammen. Also ich kann einen Hammer dazu nehmen, um einen Nagel in die Wand zu werfen, zu schlagen. Ich kann den Hammer nehmen um eine Scheibe einzuwerfen oder um im schlimmsten freien Kopf einzuschlagen. Also die Technologie ist dieselbe, aber sie wird halt eben unterschiedlich angewendet. Und da haben wir, da kommen wir dann auch zu den Dual-Use oder Multiple-Use Technologien und das Maschinelles Lernen sicherlich eine davon. Jetzt habe ich nochmal dieses Predictive Policing den Prozess nochmal aufgeworfen und möchte ihn jetzt nochmal ergänzen. Also einerseits ist die Frage, wer entwickelt denn diese Dinger? Und wer entwickelt ein Predictive Policing Software? Und das sind zu einer ganz, ganz großen Zahl, sind das privatwirtschaftliche organisierte Unternehmen. Es gibt auch vereinzelte Entwicklungen von den Sicherheitsbehörden, aber das ist eher selten. Also haben wir da schon mal Leute, die eben auch ein gewisses Interesse haben, diese Technologie zu verkaufen und das machen die auch ganz erfolgreich. So, dann die Frage die Implementierung, wann passiert denn sowas? Wann werden solche Systeme denn tatsächlich von Sicherheitsbehörden gekauft und eingesetzt? Im deutschen Raum haben wir das 2009 sehr gesehen. Die Älteren erinnern sich, es war EU aus der Weiterung und dann ist die Zahl der Wohnungseinbruchstiebstände in der Statistik sehr stark angestiegen. Und das war der politische, das hat den, das eine Fache gemacht für Sicherheitsbehörden zu argumentieren. Wir nehmen jetzt den ganzen Batzen Geld in die Hand, um so ein System einzuführen, um eben diesem Anstieg an Wohnungseinbruchstiebstellen zu begegnen. Und da wurde sich natürlich noch, auch noch an, weil wir gesehen haben, es gibt die Open Year Repeat Theory Spezialisierten, das spielte dann alles zusammen. Also auch da haben wir eben den Effekt gesehen, es gibt so ein Window of Opportunity, die richtigen Leute an die richtigen Stellen, die richtigen Leute, die irgendwie da gerade mal an der Tür klopfen und dann werden solche Systeme eben auch eingeführt. Die umweltbezogenen Einflüsse sind hier bei diesem Cycle irgendwie nicht, nicht mit drin. Criminal Response, also es reagiert nur das kriminelle System darauf. Aber was passiert denn sonst? Also die Wohnungseinbruchstiebstelle haben nach 2009 dann wieder deutlich abgenommen. Jetzt kann man sagen, ja natürlich, das liegt nun daran, weil wir Predictive Policing Systeme genutzt haben. Man kann aber auch sagen, vielleicht gibt es dann doch irgendwie noch andere Einflüsse sozialer Art, die eben dazu geführt haben, dass, was, das ist wieder zurückgegangen ist. Und da muss man ist natürlich ein bisschen schwierig, weil das ist so das Präventionsparadox von, damit argumentieren ja auch immer. Wir kennen das jetzt gerade aus der Covid-Pandemie. Man kann nicht messen, was man verhindert hat. So. Und das ist bei der, wenn man eben so schaut, so ja, sind denn die solche Systeme wirksam? Genau. Das ist dann schwer zu sagen. So. Aber gerade auch so dieses, was ist denn, also wie bewegt sich denn oder wie ist denn so ein Sicherheitsapparat eben mit der sonstigen Gesellschaft verknüpft? Das blendet man eben gerne schnell mal aus. Naja, und dann eben auch überhaupt mal in diesem Prozess. Was ist denn ein Prozess, der maschinell bearbeitet wird? Der Teil maschinell bearbeitet wird? Und was ist so, wo es, welcher Prozess wird allein von Menschen bearbeitet? Genau. Und dann gibt es eben die Gefahr, dass Predictive Policing einen präemptiven Charakter hat. Das heißt, Prävention wäre ja das, wir versuchen möglichst, mit auf einem möglichst geringen Interventionslevel, Dinge zu verändern, um eben eine nicht wünschenswerte Zukunft zu verhindern. Die Prävention sagt, wenn wir jetzt nicht, wenn wir jetzt nicht handeln, wenn wir jetzt nicht schon vorher aller Minority Report tätig werden, dann wird was Schreckliches passieren. Und diese, dieses Präemptionsding hat, ist auch als Busch-Doktrin bekannt. Ihr habt George Busch, der Jüngere, genutzt, um den Irak Krieg zu, den zweiten Irak Krieg zu rechtfertigen. Es wurde eben gesagt, guckt mal, wenn wir jetzt nicht einsteigen, dann haben die Massenvernichtungswaffen. Wir müssen jetzt den Militärschlag machen, wir müssen die angreifen, obwohl noch nichts passiert ist, um Schlimmeres zu verhindern. Und diese Logik der Präemption, die halte ich für extrem gefährlich, gerade im Zusammenspiel mit dem Einsatz von predictive policing System, weil sie nämlich häufig wird, den Personen, die damit arbeiten, ja die Fiktion wird für die Fiktion geschaffen, dass die Software schon irgendetwas wirklich, wirklich vorhersagen kann. Und ja, also, genau, was macht das denn eben mit den Polizisten und Polizisten? Also links sieht man die Zukunftsforschung, rechts die Polizei. Der Wunsch, der der Sicherheitsbehörden nach Kontrolle der Zukunft oder Bewirtschaftung der Zukunft vor die Lage kommen, ist ja immer der Begriff. Die wollen eigentlich schon da sein, bevor der Verbrecher dann kommt. Es gibt lustige Werbevideos zu predictive policing System, die genau mit diesem Bild spielen, von IBM. Also findet man bei YouTube. Die Hierarchien sind natürlich ganz unterschiedlich betroffen. Wenn ich irgendwie als beim LKA, irgendwie in einer Einheitssitze, die mit der Analyse von Daten beschäftigt ist, dann habe ich einen anderen, dann betrifft mich das anders, als wenn ich als Streifenpolizist im täglichen Einsatz bin und dann irgendwelche Eraufträge bekommen in irgendwelchen Gebieten vielleicht verstärkt Streife zu fahren. Es ist insgesamt sehr unklar, wie die Mitarbeitenden der Sicherheitsbehörden in diese ganzen Prozesse mit eingebunden werden und in wiefern sie an den System geschult werden. Natürlich wird es Leute geben, die irgendwie, dass deine Schulung erhalten, wie sie mit dem System umgehen, aber wie prozessiert der Mensch dann nachher die Daten, die die Technik geliefert hat, dann weiter. Also das ist da, und was macht das eben auch, wie wird das dann auch weiter vermittelt an diejenigen, die dann tatsächlich polizieren, also den tatsächlichen Prozess im sozialen Raum, der Kontakt mit der Bevölkerung damit dann umgehen. Also wenn ich jetzt so eine Riskmap kriege und die ist irgendwie in einem grünen Gelbrot-Schema drin, was macht das mit der Person? Also das ist wirklich extrem schlecht erforscht. Es ist natürlich auch schwierig zu erforschen, also ob da irgendwelche Chilling-Effekte da sind. Also der Computer hat ja schon so und so oft recht gehabt, dann wird er jetzt auch recht haben. Und eben diese Faktizitätsfiktion, die ist schwierig und da muss man, glaube ich, auch sehr selbstkritisch umgehen und müssen wir uns selbst mal an die Nase fassen. Wir glauben den Computer ja auch schon ganz schön viel, ganz schön oft was. Und eben die Frage dieser Möglichkeitenraum, also das was ist, was ist überhaupt möglich? Was ist possible versus die Präemption, dass ich eben sage, okay, das ist die Dystopie und die muss ich jetzt verhindern. Also eigentlich arbeiten die schon mit normativen Zukunftsbildern schon. Er versucht, das mal für meine Masterarbeit irgendwie, da ist wieder der Futures-Con, die ist mal ein bisschen einfacher, das nochmal irgendwie grafisch darzustellen, die Nierig-Peach-Hypothese, die verlängert einfach die Vergangenheit in die Zukunft sehr strikt. Die Modellierung, die geht schon mit schon, schon von unterschiedlichen möglichen Zukunften aus, hängt dann aber ein Prozentzahl hinten dran. Und dann wissen wir ja auch alle, dass, dass wir nicht immer super gut da drin sind mit Prozentzahlen umzugehen. Und ja, das Data-Meinung, das versucht eben, Korrelationen herzustellen und ein Prognostizie oder nimmt eine, geht aus der Zukunft, ja, baut eine Zukunft, modelliert eine Zukunft und sagt dann, okay, um das zu verhindern, müssen wir jetzt tätig werden. Und das ist eben dieser prämtive Charakter. Wo versuchen wir mal ein Fazit? Ich glaube, ich bin sogar vor der Zeit sehr schrecklich, vielleicht redig zu schnell. So, Predictive Policing, was sollte man beachten? Also prinzipiell gibt es natürlich die Möglichkeit, Polizeiarbeit, Sicherheitsbehörden technisch auch, also mit technischen Systemen zu unterstützen deren Arbeit. Das sollte dann im Idealfall irgendwie in einem offenen Prozess sein, User-Centric wieder so schön heißt. Ich habe jetzt letztens in einem Paper gelesen, das User-Centric heißt, dass es einfach nur eine schöne Frontend hat und damit irgendwie die Usability gut ist. Da habt wohl jemand, was nicht so ganz verstanden. Die Hypothesenbildung kann natürlich unterstützt werden. Also wenn ich eben solche Modellierungen habe, dann kann ich sagen, okay, das sind Möglichkeiten, die sich da ausbilden könnten. Ich muss mir aber bewusst sein, dass es eine Hypothese ist. So, und dann kann ich eben losgehen und sagen, okay, gucken wir mal, wie wir damit umgehen und ob sich diese Hypothese bestätigt oder ob sie falsifiziert wird. Genau, die aktuellen Systeme sind eben oft von diesen Privatwirtschaften nicht unternehmen sind. Und es ist ja eigentlich gerade bei diesen Machine-Learning-Geschichten ist ja, ist es noch ein ganz, ganz besonderer Aspekt. Und zwar sind die die Grundlage dafür, dass man das überhaupt gesagt hat, ja, lasst uns das doch mal auf Polizeiarbeit anwenden. Wir haben gesehen, wir können ganz, ganz viele andere Dinge vorher sagen. Also die Nachbäben können wir vorher sagen. Wir können vorher sagen, was die Leute als nächstes irgendwie bei Amazon kaufen. Und da ist eine Technologie gerade bei den Data-Mining getriebenen Systemen aus der Privatwirtschaft in die Sicherheitsbehörden gewandert. Und das ist eigentlich sehr ungewöhnlich, weil normalerweise geht es den Weg andersrum. Wir haben die DARPA, die irgendwie schön was entwickelt, ob das GPS ist, Touchscreens, etc. Und dann wandert das von der militärischen Nutzung oder der Nutzung durch die Sicherheitsbehörden eigentlich in die zivile Nutzung rüber. Und hier haben wir den Weg genau andersrum. Ja, und dann ist eben die Sache, dass diese Systeme in ihrer oder in zumindest in der Kommunikation nach außen oder wie sie dargestellt werden, eigentlich nicht darauf zielen die Polizei bei der Strategie Entwicklung zu unterstützen, sondern eigentlich schon direkt auf das konkrete Polizieren zielen, also auf den konkreten Einsatz der Beamtinnen und Beamten im sozialen Raum. Und das ist natürlich auch noch mal. Ja, da bin ich irgendwie demstich sehr kritisch gegenüber. Der Einbezug der Akteurinnen und Akteure bei der Entwicklung und Implementierung, die nachher damit zu tun haben, im Zweifelsfall auch die Zivilgesellschaft, weil die wird ja eben auch betroffen, ist äußerst mangelhaft. Auch hier wieder das Problem, dass wir eben privatwirtschaftliche Akteure haben, die natürlich auch kein großes Interesse haben, da sehr transparent zu sein, was da jetzt tatsächlich, wie Hans Schlepp so schön sagt, under the hood ist, also was da unter der Haube bei den Systemen ist. Und das ist gerade in einem Zusammenspiel in einem Bereich, wo wir das staatliche Gewaltmonopol haben, wenn wir wieder ans zivilisatorische Hexagon denken, was wir jetzt ja auch schon hatten in einem Talk, da kriege ich Bauchschmerzen und zwar ganz Arge, weil da quasi staatliche, also private Unternehmen, quasi staatliche Aufgaben mit ja, mitbestimmen und Präemption verhindern, wären ja auch ganz wichtig. Genau, nochmal die Zusammenfassung, wir haben hier den Bereich, das Ziel ist ja eigentlich, der Polizeiaßarbeit den inneren Frieden zu gewährleisten. Die Frage stelle sich natürlich, welcher Friedensbegriff wird genutzt. Wir hatten es auch beim zivilisatorischen Hexagon in der Diskussion auch die Frage der Effektkontrolle spielt da ja auch eine Rolle, die ist mir dann im Nachgang nochmal so aufgefallen, so was, wenn ich weiß, dass solche Systeme eingesetzt werden, insbesondere dann auch noch personenbezogene Systeme, wie es zum Beispiel das Strategic Subject List in Chicago ist, dass da werden Leute auf eine Liste gesetzt, weil sie als Gefährder eingestuft werden. Das Problem ist, man kommt von dieser Liste und nicht wieder runter. Und es ist also vollkommen opark, wie die Leute auf diese Liste kommen. Und das sind einfach mal ganz, ganz harte Grundrechtseingriffe und eben auch die Frage, wie wird dann eben das Verhalten dieser Person dann dadurch verändert, dass eben solche Systeme eingesetzt werden. Insbesondere wenn die dann eben offen eingesetzt werden, sind es eben nicht nur unterstützende Systeme für die Polizeiarbeit, sondern können eben auch als Kontroll oder Disziplinierungssysteme verstanden werden. Ja, was ich eben schon sagte, dass die Übernahme oder diese Beeinflussung quasi staatlicher Aufgaben durch private Akteure ist ein ganz, ganz schwieriges Feld. Und wenn das eben schon innerhalb der einer Gesellschaft passiert, ist das natürlich dann im Verhältnis, wenn man das dann größer denkt, wiederum im größeren Friedenskontext nach außen, ist auch sehr schwierig. Die Modellität der Systeme ist eben sehr unklar. Also was ich gezeigt hatte von der Zukunftsforschung her, welchen Strangen bedienen wir denn jetzt gerade? Sind wir gerade in der Prognostik? Sind wir gerade in der Exploration? Oder sind wir eben mit normativen Zukunftsbilder unterwegs? Na ja, und die Gefahr der Präemption heißt ja auch, wenn ich sage, das wird ganz definitiv passieren, dann verenke ich den, den Möglichkeitenraum der Zukunft. Also es wird, das, die Möglichkeit, die Zukunft selbst zu gestalten, wird eingeengt und zwar durch oparke Systeme. Ich weiß nicht, ob man das so will. Wo bleibt das positive? Ich wollte auf nur positive Noten und nicht die Leute deprimiert rauslassen. Melvin Crensberg, den kann man sich immer wieder sehr gut als, als, als Vorbild nehmen und mit, mit seinem First Law on Technology und eben sich auch bei der eigenen Arbeit immer wieder denken, Informatikerinnen und Informatiker, so was, was, was sind denn irgendwie die Möglichkeiten? Wie kann meine Technologie oder das, was ich da entwickeln, im positiven wie auch im negativen angesetzt werden? Und ich glaube, da haben wir heute im Laufe des Tages auch noch ein Talk dazu, wo es dann eben um die Technik-Volgenabschätzung geht. Also es ist möglich und es nimmt, es wird, wird immer stärker. Also es nimmt zu. Wunderbares Buch von Eva Horn, die Zukunft als Katastrophe. Sie hat auch ein ganz tolles Übergeheimnienste geschrieben. Literaturwissenschaftlerin Eich. Also die Zukunft muss nicht zu, muss nicht zwangsläufig in der Katastrophe enden. Wir haben selbst die Möglichkeit, die Zukunft zu gestalten. Eben von diesem normativen Begriff aus Frieden jetzt hier und überall. Dazu was zu tun. Und ich glaube, das ist ja da. Das sollte man nie vergessen, dass, dass die Zukunft nicht einem einfach passiert und auf einem über einen Herfeld, sondern dass man selbst was tun kann. Und selbst unter den Polizeibehörden fangen Sie jetzt an, tatsächlich so Szenario Studien zu machen und die Methoden der Zukunftsforschung für ihre Strategie Entwicklung zu nutzen und eben also zu sagen auch so, also wir müssen eben mit dieser Kontingenz eben arbeiten und mit dieser mit den Ambiguitäten und mit den Unsicherheiten und dann nennen wir es alles WUKA und das ist schön. Aber also das, dass die eben auch schon gesehen haben, das ist also ein reiner Techno fix wird es dann halt doch nicht sein. Damit sage ich, danke schön. Perfektes Timing seh ich gerade. Ja, ich sehe hier auch schon Fragen. Ich habe leider jetzt nicht drauf aufgepasst. Wer zuerst, das heißt, ich gehe einfach so durch. Hallo, Tiariebe. Ich halte nachher den Vortrag über Dualios und technikvolle Abschätzung. Deswegen fand ich das jetzt auch sehr interessant. Und was mich interessieren würde ist, welche Rolle könnte denn bei der Entwicklung von predictive Policing Systemen so partizipative Design und Begleitforschung spielen? Also, ich denke, ich stelle mir vor, diese Systeme haben natürlich einen Einfluss auf die Interaktion von Behörden mit Bürgerinnen. Deswegen ist der Technikeinsatz auch besonders, also muss besonders legitimiert werden. Auch da muss auch in der Bevölkerung eine Akzeptanz für da sein. Und nun hast du gesagt, dass auf der einen Seite natürlich diese Unternehmen, die diese Technik produzieren, eher geheim, also eher sozusagen die Dinge nicht so veröffentlichen. Da fehlt die Transparenz fehlt. Aber gleichzeitig kenne ich aus meiner Erfahrung auch, dass auch Sicherheitsbehörden nicht gerne über die Technik sprechen, die sie verwenden. Gleichzeitig wäre das aber sehr notwendig, denke ich. Und vielleicht also, was mich interessieren würde, gibt es da schon so partizipative Ansätze, dass man eben mit der Bevölkerung solche Technologien entwickelt und evaluiert? Oder ist das noch in den Sternen? Danke für die Frage. Erst ich bin auch sehr gespannt auf deinen Vortrag nachher. Also, mir ist es nicht, mir ist es nicht bekannt, dass es tatsächlich schon so partizipative Technikentwicklung gibt. Es ist jetzt auch so, dass das Thema natürlich auch so gerade so ein bisschen aus dem aus dem Sichtfeld so verschwunden ist. Also predictive policing war eine ganze Zeit lang, ich würde mal sagen, so vor fünf, fünf Jahren war das noch noch deutlich stärker und einige Systeme sind auch wieder wiederum eingestampft oder abgeschafft worden. Also, ich fände es sehr wünschenswert, das so zu machen, weil das gerade ist ein hochsensibler Bereich der inneren Sicherheit und der betrifft uns wirklich alle. Und dann mit unklaren mit Systemen zu arbeiten, die wo unklar ist, was wird da gemacht, welche Daten werden genutzt? Auch die Datenqualität, auch das sind natürlich wichtige Fragen. Ich wollte das gar nicht kleinreden auch, sondern da sind eben wichtige Ansätze auch mit drin. Aber es wäre wirklich sehr wünschenswert, wenn beim bei der Entwicklung solcher solcher Systeme dann eben auch möglichst viele Stakeholderinnen und Stakeholder dann eben auch eingebunden werden. Aber bisher ist das noch nicht sichtbar. Ich weiß nicht, ob ich das übersehen habe, aber ich sehe die Gefahr der selbst erfüllenden Prophezeiung in mehreren Spielarten dort. Aktive Spielart. Ich habe so eine Technik, die lade ich von vornherein mit hohen Erwartungen auf, statt des sie mit Ressourcen aus. Wenn dann die gewünschten Erfolge nicht kommen, dann dreh ich bei der Darstellung an den Daten. Also typischerweise, es gibt Kriminalstatistiken und da kann ich was an den Kategorien machen. Und dann wird das entweder nicht mehr vergleichbar, sodass ich was reininterpretieren kann oder ich veränder sogar die Belegung der einzelnen Begriffe mit neuen Inhalten und verfälsche damit eigentlich das, was ich darstelle. Dann gibt es noch die passiven Varianten. Eine davon ich kriminalisiere eine bestimmte Gruppe von Menschen und dränge die damit in die Kriminalisierung rein. Weil ich denen zum Beispiel ein so schlechtes Image verschaffe, dass sie gar keine legalen Beschäftigungsmöglichkeiten mehr haben und damit sozusagen so ins Graufeld erst mal abwandern oder ich habe Personen, die so latent sind, also die können sich praktisch entscheiden, will ich was ehrlich machen oder will ich tatsächlich kriminell werden. Und dadurch, dass man in dieses Image anhängt, werden die Zornig und sagen, ja, dann mache ich es halt so, wenn ich das war ja die Frage. Ja, also ich habe das, es stimmt, gute Ergänzungen. Ich muss ein bisschen auf die Zeit achten. Man kann ja länger drüber sprechen und ja, diese selbst erfüllenden Profiziellen, das ist ja eben das, was ich versucht habe anzudeuten. Ich kann es nicht belegen. Das ist eine, also ich habe es das Chilling Effekte genannt. Das ist eben die bei den, bei den, ich habe das immer auf Seiten der Polizeibeamten und Polizeibeamten gesehen, so, wenn ich eben so was bekomme, wo eine Software mir was ausgesprochen hat, dann ist die Gefahr, dass ich das einfach unhinterfragt übernehme. Und dann wird das eben auch zur selbst erfüllenden Prophezeiung. Stichwort Overpolicing ist dann eben die Folge davon, dass sich eben bestimmte Personengruppen oder bestimmte Stadtteile eben verstärkt und mit einem noch wacheren Auge dadurch fahre. Und dann sehe ich natürlich mehr und dann reproduziert sich das Ganze. Das ist aber auch wieder so eine Sache, die viel auf der technischen Ebene diskutiert werden kann. Und mir ging es tatsächlich so ein bisschen, um noch mal rauszuarbeiten, wie das Zusammenspiel im soziotechnischen Raum eben dann, dann eben ist also gerade innerhalb dieses, dieses Systems, also wo ist der Zusammenhang zwischen dem System und den Menschen, die dann damit umgehen, dieses Produzieren, die dann und den der nächste Schritt wäre eben, wo ist das mit den Menschen, die betroffen sind? Ja, dann vielleicht doch eine letzte doch noch eine kurze Nachfrage mal gucken. Gut, also ich würde noch ein Schritt weitergehen, müsste es nicht eigentlich eine aktive Arbeit daran geben, dass man Systeme verbietet, bei der Polizei einzusetzen, die nicht transparent sind. Also wirklich knallhart sagt, OK, entweder macht ihr das jetzt transparent, legt die Algorithmen offen, legt die Datenquellen offen oder ihr werdet einfach nicht eingesetzt. Bei Partizipationen klingt immer so, ich sage mal ein bisschen, bisschen niedlich. Da können Leute mal ein bisschen reinschauen. Nee, Systeme dürfen nicht in die Polizei rein, wenn sie nicht vorher transparent sind. Ja, würde ich persönlich direkt unterstützen. Und ja, also definitiv eine Forderung, die man, die man machen sollte. So. Ja, dann haben wir hier doch noch eine letzte letzte Frage. Vielen Dank. OK, erst mal vielen Dank. Ich glaube, aber das hat es vielleicht mit der Zukunftsforschung zu tun, das weiß ich nicht, weil du hast vorhin mal gesagt, es würde wenig auf die gesellschaftlichen Aspekte vom predictive Policing geguckt. Ich kenne einen Berg von Forschung aus den Science and Technology Studies, aus den Critical Data Studies, schon sehr früh in den 2010er Jahren. Marieke de Goege, Louis Amour, Claudia Aradau und aus der Techniksozologie auch die Arbeiten von Jens Helterlein und Simon Eckbert, also die ganz viele davon adressiert haben. Ich sage das deshalb, weil ich mich frage, und das habe ich mich auf der Konferenz immer wieder mal gefragt, wie die Diskurse der Sozialwissenschaften und Kulturwissenschaften auf der einen Seite und die der kritischen Informatik auf der anderen Seite vernetzt sind. Also, so wie mir dann auch gesagt würde, warum hast du das nicht auf der Fifth Liste gepostet? Würde ich mir manchmal wünschen, postet doch mal auch mal was auf den STS-Listen, weil es wäre total wichtig, dass diese Menschen mehr miteinander reden. Das ist das eine. Und das andere, woran ich dauernd denke, wo es war, Richard Grussin, der, glaube ich, schon 2005 im Buch Premediation geschrieben hat. Und ich finde, da kommen nochmal so ein ganz anderer Aspekt rein, weil da müssen wir auch unsere eigene Forschung als performativen Effekt denken. Das heißt, während wir uns mit den Zukunftsaussagen von anderen und wie die konstruiert werden, machen wir ja gleichzeitig auch Zukunftsaussagen. Und in dem Fall, was du ja auch angesprochen hast, mit dem Irakrieg wurde das, das ist jetzt nicht in unserer Forschung das Problem, instrumentell genutzt, wie man auch Atmosphären schaffen kann, das zum Beispiel im Fernsehen der Generäle über dem Irakrieg. Und jetzt könnte man lange da auch über die, über den Kreinekrieg sprechen. Also wie über Premediation auch bestimmte gesellschaftliche Zusammenhänge, aber auch Technologien durchgesetzt werden. Vielleicht noch ganz kurz zur Erklärung. Super Hinweis, STS, ganz großartig, Simon Eckbert, habe ich auch ganz viel zitiert. Ich hatte mich jetzt konkret auf Predictive Policing bezogen, also dass eben da eben diese, diese, diese soziotechnische Einbindung eben noch nicht so gut beleuchtet wird, wie das wünschenswert wäre. So, in anderen, in anderen Bereichen gibt es das schon deutlich mehr. Aber an der Stelle habe ich dann auch so ein bisschen gefühlt so einen, so einen blinden Fleck gesehen. Aber Vernetzung ist immer super und STS bin ich großer Fan von. Genau, Vernetzung super. Ich habe gesehen, dass da noch ein paar Meldungen sind. Wir haben unglücklicherweise keine Umbauzeit hier eingeplant. Deswegen muss das der Rest auf die Kaffeepause verschoben werden. Noch mal vielen Dank, Nils Jansen. Dankeschön.