 Ja, meine Damen und Herren, ich grüße Sie. Mein Name ist Christian Jefferl, ich bin Post-Talk hier am Humboldt-Institut für Internet und Gesellschaft. Und will Ihnen heute etwas aus meiner Forschung erzählen, die sich sehr viel mit künstlicher Intelligenz und Automation in der öffentlichen Verwaltung auseinandersetzt. Und ich habe Ihnen hier sozusagen ein Ausgangsbild angeworfen, eine kleine Grafik, die die Hälfte als Mensch und die Hälfte als Maschine zeigt. Und das ist tatsächlich ein Effekt, den wir heute in der Verwaltung sehen. Automation und automatische Entscheidungen, aber auch andere Formen von automatisierten Systemen spielen eine immer wichtigere Rolle. Es gibt immer mehr und sie spielen eine immer wichtigere Rolle. Und welche Rolle sie spielen, das kann aber ganz unterschiedlich sein. Deswegen mein Titel, Helferin oder Killerin, künstliche Intelligenz gemeinsam gut gestalten. Es ist eine Aufgabe heute in der öffentlichen Verwaltung tatsächlich, sich diese Systeme anzuschauen. Lassen Sie mich einen kurzen Überblick geben, was wir heute machen. Ich erlaube mir, mich kurz vorzustellen, Ihnen ein bisschen was aus meiner Arbeit zu zeigen, die sich eben sehr stark damit beschäftigt. Wie künstliche Intelligenz sich auf die Gesellschaft auswirkt. Und wie die zukünftige Aufteilung zwischen Mensch und Maschine aussieht. Und als ich das mit einem Fotografen besprochen habe von der Berliner Zeitung, hat er eben dieses Foto gemacht, nicht. Also irgendwie Mensch, Maschine, Knöpfe, das war seine Assoziation. Und das andere, was mir eben sehr wichtig ist und das werden wir heute, werde ich heute auch mit Ihnen versuchen, ist, das nicht nur als ein externes Phänomen zu betrachten, sondern partizipativ mitzugestalten, gerade wenn es um die öffentliche Verwaltung geht. Also Bürgerämter, die Finanzämter, ich werde Ihnen später noch einige Beispiele nennen, wo das angewandt wird. Dann geht es eben darum, dass die Öffentlichkeit da auch mitmacht. Und Sie sehen hier ein Foto, wo ich eben das Mikrofon abgegeben habe, an jemand anders. Beim IT-Planungsrat, da treffen sich eben die Spitzen von Bund und Ländern. Und da habe ich ein Workshop geleitet, wo es eben auch um Diskussion und gemeinsame Gestaltung ging. Das also zwei kleine Ausschnitte meiner Arbeit. Grundsätzlich kann man sagen, dass diese Systeme der Automatisierungen ganz unterschiedlichen Kontexten angewandt werden in der öffentlichen Verwaltung. Und ich habe Ihnen jetzt mal zum Ausgang zwei wirklich weitausseinander liegende Beispiele mitgebracht. Das eine ist das Bild eines Killer-Roboters. Man nennt das lethal automated weapon systems. Also tödliche automatisierte Waffensysteme. Und viele Staaten in der Welt versuchen solche Systeme zu entwickeln. Andere versuchen diese zu bannen. Also einen internationalen Vertrag zu schließen, die diese Systeme verbietet. Das ist sozusagen ein Extrembeispiel, das andere Extrembeispiel aus Uganda, wo die Regierung durch künstliche Intelligenz das Land überhaupt regierbar macht. Dort gibt es nämlich viele kleine Radiostationen, in denen lokale wichtige Themen besprochen werden. Und durch künstliche Intelligenz kann das, was dort gesprochen wird, automatisch digitalisiert werden und der Regierung zugespielt werden. Und die weiß dort überhaupt, wenn es auf diese Weise, wenn es zu Naturkatastrophen Epidemien, Krankheiten gibt, wird das Land eben durch KI überhaupt regierbar. Also hier die Extrembeispiele auf der einen Seite ein System zum Auswerten von kleinen lokalen Radiostationen aus humanitären Gründen und auf der anderen Seite der Killer-Roboter. Aber wie gesagt, zuerst eine ganz, ganz kurze Einführung künstlicher Intelligenz und die Verwaltung nur wenige Schlaglichte. Die Idee von künstlicher Intelligenz reicht schon sehr weit zurück. Homer und in griechischen Sagen hatte man solche Fantasien, dass das technisch und mathematisch aber entwickelt wurde, hat in den 1940er Jahren begonnen und er hat sich immer weiter, immer weiter fortgesetzt. Es gibt ganz verschiedene Technologien, die wir als künstlich Intelligenz bezeichnen können. Wenn man das ganz allgemein beschreiben möchte, was KI kann, dann würde man sagen, selbstständig effizient Probleme lösen. Das ist eine Definition von Klaus Meinzer, selbstständig effizient Probleme lösen. Wenn Sie sich weiter interessieren dafür, würden Sie suchen nach künstlichen neuronalen Netzen. Das ist eine Technologie, da können Sie auch bei dieser langen Nacht einiges darüber erfahren. Das ist eine Technologie, die eben in den letzten Jahren dazu führte, dass KI einen großen Auftrieb hatte, insbesondere auch in der öffentlichen Verwaltung, wo es Smart Cities gibt, wie dieses Bild zeigt, wo sich der russische Präsident Vladimir Putin auf einer Kinderkonferenz äußerte, dass KI die Zukunft sei und wer das Land, das KI beherrschen würde, würde auch die Welt beherrschen, während in Deutschland eine Ethikkommission zum Autonomen fahren, also ganz praktische Leitlinien eröffnet. Alle diese Beispiele haben etwas mit der Verwaltung zu tun und ich will Ihnen jetzt auch noch erzählen, dass es in der Verwaltung viel mehr Beispiele gibt, als man eigentlich denkt. Sie werden dieses Jahr, glaube ich, zum ersten Mal, wenn Sie eine Steuererklärung machen, nicht Ihre Belege einreichen müssen, die müssen Sie zu Hause vorhalten und dann gibt es ein Risikomanagement-System, das sucht unter uns allen, die Ihre Steuererklärung ausgeben, diejenigen aus, die die Belege dann einreichen müssen, weil sie eben ein besonderes Risiko darstellen, das kann unterschiedliche Gründe haben und das ist auch zum Beispiel ein automatisiertes System, das wirklich uns jetzt flächendeckend betrifft. Was besonders ist bei der öffentlichen Verwaltung, ist, dass Sie, wenn Sie hier mit KI konfrontiert sind und automatischen Systemen, dass Sie dann natürlich keine Wahlfreiheit haben wie in anderen Bereichen, nicht wo Sie sagen können, ob Sie jetzt hier so ein Smartphone haben mit einem persönlichen Assistenten oder nicht, ob Sie den einschalten oder nicht, ist oft Ihre freie Wahl. Während in dem Fall der Steuer zum Beispiel sind Sie diesem System unterworfen und deswegen auf der anderen Seite muss die Verwaltung aber auch rechtsstaatliche Kriterien, also gewisse rechtliche, rechtliche, ganz grundlegende Grundsätze beachten und vor allem Ihre Grundrechte als Bürger Deutschlands und dazu auch zu den rechtsstaatlichen Kriterien gehört, dass Sie in solche Entscheidungen mit einbezogen werden, natürlich durch Abstimmungen und Wahlen, aber auch durch partizipative Prozesse auf der lokalen Ebene. Die kennen Sie gut, wenn es um so Dinge wie Baurecht geht, nicht? Da werden manchmal Pläne ausgelegt, man kann sich dazu äußern. Weniger bekannt sind dann technische partizipative Prozesse. Ich möchte gerne mit Ihnen sozusagen einen ganz kleinen Kern eines technischen partizipativen Prozesses nachspielen, indem wir uns eben mit diesem Spielbot oder nicht spielerisch einer gemeinsamen Entscheidung nähern. Ich werde versuchen, Ihnen etwas, eine Anwendung vorzustellen, die es tatsächlich schon gibt heute und würde dann Fragen in die Gruppe stellen, was Sie davon halten, Vorteile, Nachteile. Sie können auch Fragen stellen, wenn Sie noch weitere Erläuterungen wissen möchten und können aber auch Argumente bringen und auf diese Anwendung reagieren. Und im dritten Teil würden wir dann einfach eine kurze Abstimmung, einen kurzen Meinungstest machen, um zu wissen, würden Sie das akzeptieren als Bürger diese Anwendung oder nicht. Dann heißt es sozusagen, what or not. Und wenn Sie das jetzt ungefähr verstanden haben und bis hierher keine Fragen auftauchen, das ist nicht der Fall, das ist gut, dann haben wir viel Zeit noch für die eigentlichen Anwendungen und ich habe mich immerhin klar ausgedrückt, würde ich gleich in die erste Anwendung springen. Das ist, wenn Sie in Mannheim kürzlich waren, wurde dort sehr intensiv diskutiert, auch in den lokalen Medien der sogenannte Mannheimer Weg 2.0. Das ist eine Software, die auf Kameras aufgesetzt wird. Diese werden zu intelligenten Kameras, die nicht wie nicht nur Menschen erkennen können anhand vom biometrischen Merkmalen, das wurde ja kürzlich in Berlin am Südkreuz getestet, diese biometrische Erkennung. Der Mannheimer Weg 2.0 kann sogar erkennen soziale Situationen im öffentlichen Raum. Wenn jemand schlägt, wenn jemand fällt, wenn jemand versucht, einen Diebstahl, jemanden was aus der Tasche zu nehmen, dann kann das das System erkennen und das möchte ich Ihnen einmal kurz vorstellen, wie das ein anderer kommerzieller Hersteller tatsächlich auch macht. So ist dann diese Kameraauswertung. Hier sehen Sie oben links dann immer, was das System sagt, zum Beispiel die Personen kämpfen. Jetzt laufen Sie, passiert noch nichts. Und schon jetzt erkennt das System schnelles Rennen und tatsächlich eine Auseinandersetzung. Genauso hier, Running und dann Chasing, also Verfolgen. Genauso hier schlägt es an, da gibt es schon einen Alarm. Dagegen sagt es hier einfach nur, dass jemand schnell rennt und danach ein zweiter auch schnell rennt. Also Sie sehen, das ist ein Anbieter, das Gute ist, dass das eben frei im Internet verfügbar ist. Deswegen habe ich Ihnen das jetzt gezeigt, aber ganz ähnlich wird das beim Mannheimer Weg auch sein. Das dient eben dazu, dass die sagen, bestimmte Ecken in Mannheim können sich schwer überwachen und weil es zu wenige Polizisten gibt, deswegen werden diese Kameras installiert und wenn was passiert, bekommt die Zentrale eben einen Alarm. Was würden wir jetzt sagen, was wäre, wenn das in Berlin passieren würde? Versetzen Sie sich rein, denken Sie sich vielleicht eine Ecke, wo es vielleicht schon eine Kamera gibt im öffentlichen Raum. Deswegen würde ich Sie jetzt um Ihr Votum bitten, Bot or Not. Das Gelbe heißt Nein und das Weiße heißt Ja. Also überlegen Sie sich kurz und sagen Sie, wollen Sie das System Nein oder Ja? Nein, jetzt nein. Eins, zwei, drei, vier, fünf, sechs, sieben, acht, neun, zehn. Also wir haben zehn Nein-Stimmen, oder? 11, eins, zwei, drei, vier, fünf, sechs, sieben, acht Ja-Stimmen. Okay, 11 Nein-Stimmen, acht Ja-Stimmen. Also ein enges Ergebnis eigentlich wie unsere Diskussion ganz eng. Ich wollte Ihnen am Anfang eben besonders ein eindrucksvolles Beispiel zeigen, die zu den anderen Beispielen bin ich gar nicht gekommen. Damit habe ich aber auch gerechnet, es gibt noch viel mehr wie zum Beispiel kleine Chatbots, die Sie von Ihrem Handy benutzen können, um Verwaltungstienstleistungen in Anspruch zu nehmen oder Formulare auszufüllen. Also ich will Ihnen nur noch kurz, bevor ich das beende sagen, es gibt eben ganz unterschiedliche Systeme und nicht alle sind so dramatisch wie das erste, aber ich fand die Diskussion sehr spannend und darf mich herzlich bei Ihnen dafür bedanken.