 So, es geht jetzt mit Englisch weiter und wenn ihr meine Stimme hört, seid ihr in der deutschen Übersetze drin. Also der nächste Talk stellt also Fragen, ob Algorithmen und das Problem mit dem Klimawandel lösen können. Also Jens Olig von Algorithmen Watch und Frieda Rucke vom Institut für Ökologische Wirtschaftsforschung werden euch über das Problem reden und ich freue mich darauf, diesen Talk vorbezukönnen. Hallo, guten Morgen. Ich hoffe, ich bin gut verständlich und vielen Dank, dass ihr uns hier habt. Also wir werden jetzt über unser Projekt namens Rostain Riem den einen nachhaltigen Index für künstliche Intelligent und wir sind sehr aufgeregt, denn es ist jetzt das erste Mal, dass wir hier einen großen Publikum vorstellen können und wir denken, es ist eine gute Möglichkeit, das einzuführen. Wer sind wir? Wie unser Heralt bereits erwähnt hat, kurze Einführung vor Vorstellung. Es gibt hier zwei Organisationen, die hier teilnehmen und eine Dritte, die stellt sich hier nicht vor. Das ist zum einen das Institut für Ökologische Wirtschaftsforschung und es gibt Algorithm in Berlin und es gibt auch die TU Berlin hier oder das Institut für verteilte künstliche Intelligenz und wir betreiben dieses Projekt namens Rostain. In dem wollen wir herausfinden, innerhalb der nächsten drei Jahre, wie wir messen können und Indizieren können, also einstufen können, Kriterien zur Nachhaltigkeit von Algorithmen. Es gibt da gleicherweise finanzielle Unterstützung des Umweltministeriums, dass das uns da finanziert und das wiederum basiert auf einer Resolution des deutschen Parlaments. Also wenn wir über nachhaltige künstliche Intelligenz sprechen, gibt es ein paar Fragen. Einige gab es schon in der Einführung. Erste ist, kann künstliche Intelligenz den Themawandel aufhalten? Und es gibt ja wohl nicht, es gibt keine magische Lösung für all das. Aber es ist auch klar, dass umso mehr Daten und umso besser Daten wir haben, umso besser können wir informierte Entscheidungen treffen. Und wir schauen jetzt also dahin, wo künstliche Intelligenz AI uns helfen kann, Nachhaltigkeit zu erreichen. Die andere Frage ist, in welche Auswirkungen hat künstliche Intelligenz denn auf Nachhaltigkeit? Es wird momentan sehr viel über den Energieverbrauch, den Stromverbrauch von AI geredet. Wie viel verbrauchen Rechenzentrum bereits? Und da haben wir bereits, es gibt da bereits ein paar Zahlen, die in diesem Kontext bereits rumschwirren. Und Friederike wird paar Worte dazu sagen später. Also es gibt beispielsweise Zahlen, Vergleichswerte, die sagen, dieser oder jeder Algorithmus braucht so viel Energie wie so und so viele Autos. Ist das alles? Können wir das alles in konkrete Zahlen gießen? Das werden wir uns danach noch anschauen, aber Nachhaltigkeit geht auch weiter als das. Also es geht nicht nur darum, los etwas zu tun, was einfach nur gut für die Umwelt ist, sondern Nachhaltigkeit bedeutet auch, in einer Welt zu leben, in der es sich lohnt zu leben. Und viele magische künstliche Intelligenz Lösungen, wenn man sich die mal was anguckt, dann stellt man fest, dass der Kaiser ja gar keine Kleider an hat. Und das hinter der ganzen künstlichen Intelligenz in Wirklichkeit einfach nur sehr schlechte Arbeitsbedingungen stecken, ein prekarem Verhältnis. Und diese Leute in vielen Fällen, die dahinter stecken, die bezeichnen wir auch als Click-Worker. Beispielsweise hinter den ganzen, die eure intelligenten Lautsprecher, Smart Speakers zu Hause bei euch treffen. Da steckt in vielen Fällen nicht los, einfach nur künstliche Intelligenz, nur Algorithmen hinter, sondern auch die Arbeit von vielen, vielen Menschen, die da Fragen beantwortet haben, Daten geliefert haben. Das heißt, alles in allem wird die Frage nach Nachhaltigkeit von künstlichen Intelligenz viel, viel größer, als einfach nur die Frage nach den direkten Auswirkungen auf die Umwelt. Die Frage ist also eine echte Frage. Und wenn man sich anguckt, wo künstliche Intelligenz praktisch einfach auf jeden Tag hat, dann stellen sich natürlich auch Fragen, wie sie jetzt mit vorurteilsbehafteter künstlichen Intelligenz aussehen. Künstliche Intelligenz aus racial bias, also eine rassistische Voreingenommenheit der Systeme. Wie ist es mit einem geschlechter Rollen, die künstliche Intelligenz häufig reproduziert? Und die Frage ist, ist das wirklich eine Welt, in der wir leben können, wo künstliche Intelligenzen das ganze replizieren? Und ich denke nicht, also alles in allem ist künstliche Intelligenz ein sehr, sehr großes Wort. Und es wird oft in Kontexten verwendet, wo es so aussieht, als würden die Leute, die darüber reden, nicht wirklich wissen, worüber sie da gerade reden. Und oft trifft es der Begriff Algorithmus deutlich besser. Und in unserem Gruppe namens Algorithm Watch reflektiert das. Wir sind also praktisch interessiert in automatisierten Entscheidungssystemen, und welchen Einfluss die auf die Gesellschaft haben. Das kann jetzt Maschinenlearning beinhalten, maschinelles Lernen, das kann künstliche Intelligenz beinhalten, muss aber nicht. Also automatisierte Entscheidungen haben einen Einfluss auf die Gesellschaft, und wir interessieren uns, wie dieser aussieht. Und insbesondere im Hinblick auf Nachhaltigkeit. Also was bedeutet Nachhaltigkeit hier? Das ist ein ziemlich altes, großes Konzept in Summe älter als 100 Jahre. Und lustigerweise kommt es sogar aus Deutschland. Mittlerweile sieht man es praktisch überall. Aber ganz zu Anfang hat es nur eine sehr kleine, eine sehr klare Sache bezeichnet. Es kommt aus dem Bereich der Waldwirtschaft. Man sollte der Waldwirtschaft nicht mehr vorbefallen, als man wird dann nach Neufland. Und im 2015 haben die Vereinen Nationen die Sustainable Development Goals, STGs, also nachhaltige Entwicklungsziele gesetzt, die als Ziel haben, die Welt lebenswerter zu machen. Wir wollen also in Summe keine Armut in der Welt haben. Wir wollen keinerlei Hunger haben in dieser Welt. Und natürlich, und es gibt da viele, viele Dinge, die da rein spielen. Leben auf Land, Leben auf Unterwasser, im Wasser. Und es geht darum, ein Lebenswert, ein Lebenswert planiert zu schaffen. Und zumindest einige dieser Ziele hier müssen dafür berichtet werden. Und ein Lebenswetter-Planet wird, danach sieht es aus, künstliche Intelligenz und automatisierte Entscheidungsfindungen halten. Also schauen wir das an. Und all das wird zusammengebracht bei hier. Es gibt Fragen, es gibt ökologische Fragen. Also lasst uns den Planeten nicht abrennen. Wenn wir daran scheitern, damit scheitern, dann ist der Rest auch schon wieder egal. Dann haben wir halt kein Planeten mehr, auf dem wir die ganzen anderen Schritte durchführen könnten. Wir möchten aber auch das Lebenswert machen für alle Menschen. Und wenn wir, also wir hätten was ökologisch ist, aber bedeuten würde, dass viele Menschen in prekären Arbeitsbedingungen arbeiten müssen, dann kann das auch nicht unser Ziel sein. Das wollen wir so als Gesellschaft nicht haben. Also das Ziel ist also, die vollen Möglichkeiten jedes Menschen tatsächlich auszuschätzen. Und in Summe. Wenn aber alles das Ganze dann die Wirtschaft zusammenrechen lässt, dann werden wir also eine ökologische Gesellschaft hätten, eine sozial gerechte Welt, aber keinerlei Wirtschaft mehr. Und wir in Summe mehr und mehr Armut haben, dann wird das auch so nicht funktionieren. Das heißt, all das ist verbinden. Thank you very much, Jens. And good morning. Vielen Dank. Und good morning. Von meiner Seite. Die Frage ist also, wie gehen wir mit diesem Ziel, den Konflikt hinum? Wie kann etwas umweltfreundlich sein und trotzdem für alle Gruppen funktionieren, obwohl es dann teuer ist? Und wir wollen, also im ökologischen, sozialen und umweltfreundlichen Fall ab. Wir wollen zu einer Festive kommen, die eine Priorisierung erlaubt. Die Antwort darauf ist, sind die Neste des Dependencies. Unsere planetären Grenzen bestimmen unser Überleben. Und wie Jens bereits gesagt hat, es gibt viele Koabhängigkeiten der verschiedenen Themen. All diese Neste Dependencies, dieses Modell, das berücksichtigt den Werten der Umwelt und prioritisiert auch die Gesundheit unserer Erde auf der nächsten Folie. Aber worüber reden wir eigentlich, wenn wir künstliche Intelligenz zu Nachhaltigkeit kombinieren? Es gibt zwei Perspektiven darauf. Auf der einen Seite, was wirklich die Hauptmotivation von diesem Projekt war, ist die Frage, wie können wir alle künstlichen Intelligenzen, die existieren, wie können wir die von einer Nachhaltigkeitsperspektive aussehen? Mit einer künstlichen Intelligenz, wie Jens bereits gesagt hat, beziehen wir uns vor allem auf Machine Learning, auf eine bestimmte Art von schwachen künstlichen Intelligenzen, weil nicht alles künstliche Intelligenz ist. Manchmal nennt es sich künstliche Intelligenz, aber es ist eigentlich nicht. Und konkret beziehen wir uns auf Deep Learning und neue Netzwerke. Ich werde das jetzt in diesem Moment einfach mal dabei belassen. Aber was ist das Ziel unseres Projekts? Wir möchten einen Framework entwickeln, wo wir die Folgen von künstlicher Intelligenz absehen können. Und vor allem im Bereich soziale, ökologische und gesellschaftliche Risiken betrachten. Wir wollen so einen holistischen Ansatz finden, wie wir künstliche Intelligenz beobachten. Und wir wollen zeigen, an welchen Schrauben man drehen kann, um Dinge mehr nachhaltig zu machen. Das ist eine Perspektive. Wir nennen Sustainable Eye, also nachhaltige künstliche Intelligenz. Eine andere Perspektive, die wir aktuell beobachten und die Jens auch bereits genannt hat, ist die Frage mit künstlicher Intelligenz für Nachhaltigkeit. Wie man künstliche Intelligenz nutzen kann, um die Nachhaltigkeitsziele, um die Klima-Themen, soziale Ziele. Manchmal nennt sich das AI for Good, also künstliche Intelligenz fürs Gute. Es ist eine bisschen eine andere Frage. Diese Anwendungen sind nur ein ganz kleiner Teil von künstlicher Intelligenz, wie sie angewendet wird. Wir möchten diese beiden Perspektiven integrieren. Der erste Ziel ist, dass wir Nachhaltigkeitskriterien entwickeln für alle künstlichen Intelligenzen oder zumindest ein bisschen näher zum Ziel bringen, um bestimmte Kriterien zu entwickeln. Auf der anderen Seite möchten wir gerne drei Case-Studies zeigen in Bereichen, die aktuell eine hohe Relevanz haben für die Nachhaltigkeit, Energie, Mobilität. Und dann haben wir noch ein weiteres gewählt, Online-Shopping, weil da wirklich die Folgen sehr, sehr groß sind. Man kann wirklich gut künstliche Intelligenzen in diesem Bereich nutzen. In diesen Case-Studies werden wir untersuchen, was wir von künstlichen Intelligenzen halten können, wie wir sie benutzen können für diese Ziele und wie wir die Nachhaltigkeitsziele erreichen können. Das Ergebnis dieser Kriterien und dieser Nachverfolgung und diesen Case-Studies wird in Nachhaltigkeits-AI-Themen integriert. Wenn unser Projekt gut läuft, dann können wir tatsächlich auch ein Index entwickeln. Der zeigt, wie bestimmte künstliche Intelligenzen genutzt werden können in Nachhaltigkeitsbereichen. Und vielleicht kann das auch gezeigt werden auf einer Website, wie einem Dashboard, einer App. Und wir wollen auch Empfehlungen an die Politik geben, wie künstliche Intelligenz genutzt werden kann, auch wie das in der Gesellschaft angewendet werden kann, wie man die Gesellschaft auch bilden kann in dem Bereich und wie man Organisationen fördern kann, die solche Systeme bauen. Es ist vielleicht ein bisschen klein, aber es ist auch nicht ganz so wichtig. Unser erster Talk in diesem Bereich war, wie können wir eine Struktur finden aus diesem ganzen Universum aus Folgen, wie man sich so vorstellen kann. Die erste Antwort, die wir gefunden haben, zeigt halt drei verschiedene Levels, also zwei verschiedene Bereichen, die wir wichtig sehen für diese Frage, wie wir sie beantworten können, wie wir das messen können, wenn wir auf den Einfluss gucken, was das Ganze hat. Das erste ist der Algorithmus selbst. Wir nennen es algorithmisches System, nicht den Algorithmus selbst. Es ist nicht so, wie der Algorithmus nur designt ist, sondern wir werden die Daten genutzt. Was für Art von Daten werden benutzt, was ist der Nutzen dieser Funktion? Das ist eine wirklich wichtige Frage. Das ist sozusagen der Kern des Ganzen, wenn es um künstliche Intelligenz geht und dann haben wir das Anwendungslevel, in welchem Bereich wird die künstliche Intelligenz genutzt und welche negativen Folgen hat das auf soziale, ökonomische und wirtschaftliche Bereiche. Was sind so die Effekte in diesen Bereichen? Ihr könnt euch zum Beispiel vorstellen, wenn man künstliche Intelligenz in medizinischen Bereichen nutzen, man kann es aber beispielsweise auch für die Auswahl von Jobkandidaten nutzen. Das ist auch bezogen auf diese Bereichen. Es kann auch sehr unterschiedlich sein, deshalb haben wir das erwähnt. Das ist wirklich eine wichtige Frage. Und dann gibt es noch das dritte Level. Das ist eine sehr, sehr große Frage. Dieses gesellschaftliche Level, was hat diese künstliche Intelligenz für den Einfluss auf die Gesellschaft und auf unsere gesellschaftlichen Ziele? Darauf bezogen auch auf diese Frage, gibt es die Frage, kann es uns helfen, Strukturen zu ändern, Gewohnheiten zu ändern, was nachhaltige Entwicklung angeht, wie kann diese künstliche Intelligenz helfen, dass die Frage, wie kann man das am besten auf dieses Level anwenden? Das ist ein wichtiges Thema. Wie kann man Algorithmen designen, um das besser darzustellen? Unser erster Schritt war, verschiedene Literatur zusammenzusuchen, was das Thema angeht und auch schon mal so ein paar Kriterien auszuformen. Und wir haben versucht, herauszufinden, was die bestehende Literatur angeht. Und wir haben auch neue Kriterien entwickelt, vor allem im Bereich der Wirtschaft, in der sozialen Bereich, haben wir die folgenden Kriterien ausgeformt. Es ist transparent, es ist wichtig, fern ist es wichtig. Wir wollen verhindern, dass schlimme Dinge passieren. Es soll nicht diskriminierend sein. Es muss auch den Datenschutz sicherstellen. Es muss auch die menschliche Autonomie wirklich sichern. Und die Freiheit der Menschen. Und es muss eben auch robust und korrekt sein. Und aktuell versuchen wir Indikatoren zu finden dafür für diese Kriterien. Und auch auf der Basis von, wie können wir an solche Systeme herangehen, beispielsweise gab es da irgendwelche Tests mit der künstlichen Intelligenz in diesen Bezügen. Und dann gibt es die wirtschaftliche Dimension. In unserer Perspektive ist es so das Schwierigste eigentlich, die schwierigste Dimension von den Kriterien. Denn es geht auf verschiedene Levels der Gesellschaft. In unserer Perspektive haben wir die Kriterien zusammengesucht, die erreichbar sind. Da geht es um Steuern. Es ist zeitige Organisationen steuern. Wie sammelt sie Daten? Aber auch so Themen wie Marktmacht und Antikorruption und Privatsphäre, die Verteilung der Bezahlungen und die Arbeitsbedingungen. Und diese Bereiche sind sehr wichtig und auch so einen gewissen Überblick zu haben, welchen Einfluss die auf den Markt haben. Und auch hier muss man immer auf die Genauigkeit des Systems gucken. Es gibt auch eine große Diskussion über die Umwelteinflüsse von künstlicher Intelligenz. Es geht vor allem um den Energieverbrauch, um die CO2-Emissionen, um den Umwelteinfluss auf den Konsum. Es geht es beispielsweise auch um Müll und Recycling. Brauchen wir noch mehr Geräte, noch mehr Sensoren, um all diese künstliche Intelligenz zu nutzen und macht unser Leben wirklich nachhaltiger. Und rettet es wirklich die Umwelt in dem Zusammenhang. Momentan denken wir vor allem darüber nach, wie wir unterscheiden können zwischen den verschiedenen Leveln von künstlicher Intelligenz. Da können verschiedene Folgen daraus entstehen. Manche werden wissen, wie Jens bereits gesagt hat am Anfang, da gibt es eine Studie von Emma Strubel und ihren Kollegen. Und es wird offiziell so dargestellt. Da geht es darum, dass eine Erklärung zum Stromverbrauch ist. Es ist eine sehr hohe Nummer entstanden. Und da geht es um neuronale Netzwerksuche. Es ist nicht das Gleiche, wie wenn man ein übliches Modell trainiert. Manche Leute machen das wirklich nur zur Forschung. Es kostet irgendwie Millionen Dollar. Und keine normale Organisatoren würde das machen, um ein Modell zu trainieren oder um mir zu zeigen, welche Jeans ich tragen kann, während ich diese gerade gekauft habe. Oder Empfehlungssysteme beispielsweise. Wir müssen ein bisschen genauer gucken, wie können wir die Folgen von künstlicher Intelligenz abbilden und wie wir unterscheiden können zwischen den drei Levels. Das eine ist die Netzwerkoptimierung. Da geht es um die Forschung hauptsächlich. Und dann haben wir das Training von den künstlichen Intelligenz-Netzwerken. Und dann haben wir noch den Interferenzprozess. Wie macht die künstliche Intelligenz-Entscheidungen? Wir denken vor allem, wenn es um die Umwelt folgen geht, da müssen wir unterscheiden zwischen drei verschiedenen Stufen. Und mit unserem Projekt möchten wir diese Blackbox etwas öffnen und bewusst sein schaffen unter allen Akteuren und auch, was die Risiken angeht, wollen wir aufklären. Und wir wollen halt, wie können wir Dinge optimieren, egal, wie komplex diese Algorithmen sind. Und was können wir tun, um zu verhindern, dass diese Risiken passieren und wie können wir künstliche Intelligenz optimieren? Danke. Okay, wir haben hier gerade recht wenig Audio. Ich hoffe, das kommt jetzt gleich an. Okay, okay, sorry. Okay, okay, Entschuldigung. Vielen Dank für den sehr interessanten Vortrag. Also ich denke, wir haben, wir wissen jetzt viel besser, dass die Welt sehr komplex ist. Und ich glaube, die Forschung ist sehr wichtig für uns, für die Gesellschaft. Aber für mich, wenn ich eure Vortrag zuhöre und das dürfte die erste Frage für uns sein, während die Leute noch das Pad ausfüllen, was ein paar Plan verlenkt ist, und dass ihr eure Fragen auch dort stellen könnt. Also für mich war es so, wo ich den komplexen Dingen zugehört habe, die Frage, was kann ich tun? Was kann ich als einzelne Person tun? Wenn man sich eure Forschung anguckt. Also alles in allem, wo wir etwas haben, dass sich als interessierte Person helfen wird, diese Situation besser zu verstehen. Wir haben angefangen mit einem sehr ambitionierten Ziel um ehrlich zu sein. Friederike hat gesagt, letztendlich wird dann vielleicht eine Webseite sein oder eine App, mit der man ein paar einfach zu verstehen Zahlen drinstehen. Aber das ist ein mögliches Resultat unserer Arbeit. Aber in jedem Fall werden wir da mehr Einblick bekommen. Wir werden hoffentlich Informationen für den Gesetzgeber haben und für Regulierer haben, dass die entsprechende Entscheidungen Informationsbasierungen treffen können, aber eben auch Informationen für die Hacker Community, was sie nutzen können, wenn sie ihre Systeme bauen. Das heißt, es wird etwas rauskommen, wenn ihr also Algorithmen entwickelt, Entscheidungssystemen entwickelt und euch die Welt, die Gesellschaft, die Umwelt am Herzen liegt, dass ihr dann auch basiert auf diese Informationen, die richtige Entscheidungen treffen könnt. Danke, dass ihr damit anfängt. Das wäre meine zweite Frage. Ist das das erste Mal, dass Leute über das Problem nachdenken? Seid ihr die Ersten, die darüber nachdenken? Die oder die in den Bereich Forschung machen? Oder gibt es da eine Grundlage, auf den ihr arbeiten könnt? Die in der Praxis auch tatsächlich benutzt wird in Algorithmen. Also es gibt Forschung über die ganze Sache, aber es ist jetzt noch nicht von der Nachhaltigkeitsperspektive, wo es ziemlich viele Diskussionen gibt, ziemlich große Diskussionen. Es gibt sehr viele Diskussionen über die Auswirkungen über die Gesellschaft. Es gibt Diskussionen über die Auswirkungen auf die Umwelt, wie Energie und der gleichen CO2-Emission. Es gibt auch über die ökonomische Dimension, die allerdings als nicht damit verbunden betrachtet wird bisher. Aber ich denke, die Perspektive, wo man all das zusammenbringt unter dem Level Nachhaltigkeit, ist jetzt noch nicht so weit entwickelt. Und die andere Frage ist, was können wir in der Wirklichkeit machen können? Ich denke, noch nicht viel. Die Frage, die du gestellt hast, ist, was kann ich als Individuum tun? Was kann ich als eine Person tun? Und das Problem ist, dass als Individuum weißt du noch nicht mal unbedingt immer, ob du in einem KI-basierten System interagierst. Das ist Teil des Problems. Ich meine, du kannst natürlich Software ähnlich wie Adblocker benutzen, aber weil wir wissen, dass AI sehr häufig im Bereich der Wärme verwendet wird. Aber auf dir weiß ich, kann man auch die CPU-Laster runterbringen. Aus meiner persönlichen Sicht würde ich mich freuen, mehr Transparenz zu haben in diesem Bereich. Und eure Forschung könnte dafür auch mehr Transparenz bringen für die und individuellen Nutzer, um das eigene Verhalten entsprechend anzupassen, wenn man da interessiert ist. Und euer Vortrag war so komplex und overwhelming. Es kommen nicht viele Fragen rein. Vielleicht sind alle noch beim Frühstücken. Aber ihr habt eure Kontaktdaten auf der Seite. Lass mich nachgucken. Es gibt die Folien. Auf den Folien gibt es die Kontaktinformation. Ich werde zumindest etwas hochladen mit den Kontaktinformationen, Kontaktaddressen für uns. Ich denke, das wäre eine großartige Sache, sodass die Leute drüber nachdenken können und später euch kontaktieren können in diesem Bereich. Es gibt sehr viele cleverere und smarte Leute hier. Ich denke, dass viele von denen mit Ideen oder neuen Fragen anderen Fragen aufkommen können. Also frag die Fragen später, schickt E-Mails. Vielen Dank für euch für diesen sehr wichtigen Input. Ich freue mich auf eure Forschungsergebnisse. Letzte Frage. Wie lange wird eure Forschung dauern? Wann wird die Forschung beendet sein? Wir werden veröffentlichen über den verlauftes Projekt. Aber die Finanzierung logiert über drei Jahre. Ich denke, das erste nachhaltigkeitsreport wird vermutlich im Februar 2022 rauskommen. Wir haben natürlich auch kleinere Veranstaltungen. Wir freuen uns darauf. Wir hoffen, dass ihr noch einmal hier sein werdet. Vielen Dank.