 Guten Morgen Datenspuren. Es ist jetzt 11 Uhr, das ist natürlich für ein Hacker eine unmenschliche Zeit. Wir müssen uns alle irgendwie darauf einstellen, dass jetzt schon Dinge passieren. Ich sehe hier im Saal gibt es schon diverse Leute, die die schönen geistigen Getränke angebrochen haben, sei es die Koffienhaltigen, sei es auch die Alkoholhaltigen. Denn jetzt ist natürlich Zeit für den technikphilosophischen Frühshoppen. Dazu begrüße ich unseren alten Bekannten Ayubo. Wie oft war es jetzt schon auf den Datenspuren? Ich habe mich damit angeholt. Auf den Datenspuren weiß ich gar nicht mehr. Ich glaube, es war so 2010 oder 11 oder so, was war ich zum ersten Mal hier. Und die Tradition der technikphilosophischen Veranstaltung gibt es mittlerweile auch seit 2016, wenn ich das richtig zurückrechne. Wir hatten hier schon chinesische Zimmer und Vorträge von Dr. Paul, der aus Rom grüßen lässt. Und ich bin ganz froh, dass diese Tradition jetzt auch weitergeführt werden kann. Heute mal mit Frühshoppen, daher im Hacker-Morgen-Grauen. Wir diskriminieren ja niemanden wegen ihrer Zeitzonenpräferenz. Aber es ist ja auch rund um die Welt per Streaming.media.cc.de dafür gesorgt, dass wir zu sehr haben an den neuartigen Empfangsgeräten. Einen guten Morgen, guten Abend, gute Nacht also in die Welt, je nachdem, von wo aus ihr uns gerade zugeschaltet sei, aus dem Kulturhaus des Zentralwerkes in Dresden. Ich sehe, du machst meinen Job besser als ich, deswegen werde ich einfach das Mikrofon abgeben und ich meld mich dann wieder, wenn der Vortrag vorbei ist. Alles klar. So, ich muss und möchte gerne auf jeden Fall erst mal unseren Gast vorstellen, nämlich Bernhard, Bernhard Irregank. Hallo Bernhard, sprich mal in deinem Mikrofon. Hallo. Jawoll, sehr gut. Das funktioniert prima. Mit verstärkter Stimme. Bernhard, du bist Professor Emeritus für unter anderem Technikphilosophie und promovierter Theologe und noch ganz viel anderes. Ich bin auch promovierter und habilitierter Philosophie. Das außerdem, also in einem eigentlichen Theologiewand 10 Jahre in der angewandten Ethik, weil die konnte man damals in der Philosophie nicht machen. Das war dort nur Metaethik also auf höchster Ebene, aber ohne praktische Relevanz und in den nachtziger Jahren wurde die Frage nach Anwendung der Ethik immer dringender, vor allen Dingen im Bereich der Forschungstheedek und deswegen bin ich mal für zehn Jahre lang, hab ich die Fakultät gewechselt, bin aber dann wieder zurückgekehrt, weil eine dauernde Existenz in der Theologischen Fakultät als Professor wollten sie mich nicht. Ja, das hat ja unser einer immer mal so Ansicht, dass wir zwar unseren Zeiten voraus zu sein glauben, aber andere dann auch glauben, dass wir deswegen nicht zukunftskompatibel sein. Jedenfalls hast du über deine Doktoranden zum Chaos gefunden und wir sind auch gemeinsame Mitglieder des lokalen Technik Philosophischen Vereins Netviltech. So haben wir uns kennengelernt und für dich ist das nicht jene Premiere auf den Datenspuren und deine erste Veranstaltung beim Chaos Computer Club, oder? Außer dem Podcast mit dir hat sonst noch keinen Kontakt mit dem Chaos Computer Club, höchstens indirekt, da ich mit Andreas Pfitzmann in dem ersten Jahrzehntes Jahrhundert zusammengearbeitet habe, zum Beispiel in der Beratung der EU-Fides über Privatheit und Datenschutz im Internet. Du bist ein hervorragender Gast und plackst hier meinen eigenen Podcast damals, T.M., einmal sei es gesagt, da gibt es auch eine frische, etwas längere Folge von uns beiden, wo wir uns über Cyberphilosophie unterhalten und was die Hacker und die Tüftler damit zu tun haben könnten, zum Nachhören in diesem Internet jederzeit empfohlen. So, ich begrüße aber auch neben den Zuhörern im Zusehern im Stream und den späteren Nachhörern auf unserer Plattform, media.cc.de, auch das Auditorium hier im Kulturhaus des Zentralwerkes. Auditorium macht euch mal bemerkbar. Sehr gut damit der Soundcheck für die Technik auch funktioniert hat. Ja, es heißt hier Frühshoppen, also die Bar ist eröffnet und einige haben sich ja auch schon versorgt, nicht wahr? Es soll also konsumiert werden und zwar in einem lockeren Rahmen und auch gerne mit Beteiligung des Publikums so. Ihr wollt nicht nur als Fragesteller, sondern wenn ihr wollt auch auf dem philosophischen Sofa mit Platz dafür. Ich mache mal eine kleine Einleitung, als ich neulich daheim bei Bernhard den Podcast aufgenommen habe und vorher sein neues Buch gelesen hatte. Und dann dachte ich so, das ist ja tatsächlich mal eine Würdigung von uns Hackern, denn immerhin geht es hier um die Cyberphilosophie, das Designkonzept der Tüftler und reflektierten Praktiker. Und ich würde sagen Tüftler und reflektierte Praktiker, das sind ja wir. Und ich habe überlegt, welche Einleitung sein könnte und ich leite mal genauso ein wie damals im Podcast. Ich beschäftige mich gerade zusammen mit einigen anderen Mitstreitern mit der sogenannten Softwarekrise, verweise auch da auf die einschlägigen Werke auf media.ccc.de und äußerte diesbezüglich die Befürchtung, die Hypothese, dass irgendwann alle Probleme der sogenannten künstlichen Intelligenz, wie wir Hackersie so erleben, auf die Entwicklung von Software geworfen werden könnten und tat das mit einem durchaus kritischen und sorgenvollen Unterton. Und ich war einigermaßen überrascht, Bernhard, als du mir dann eine gar nicht so negative Sicht zurückspiegelt ist und sagtest, naja, man könne möglicherweise von künstlicher Intelligenz oder artificieller Intelligenz, müsste man ja ich besser sagen, erstellte Software durchaus irgendwie überprüfen und legitimieren. Das wäre vielleicht ein Einstieg. Könntest du deine Gedanken dazu nochmal irgendwie einführen? Ja, da ich Technikphilosoph war und mich daher mit der Wissenschaftstheorie der Technik genauso beschäftigt habe, mit der Wissenschaftstheorie überhaupt, habe ich ein etwas anderes Bild auf Algorithmen als die meisten meiner Kollegen, die das Ganze von der Logik her aufbauen wollen und dann nach diesen Gesetzen künstliche Intelligenz verstehen wollen. Ich bin davon überzeugt, dass man die Methodologie, die mit deep learning und den neuronalen Netzen verbunden ist mit dieser alten traditionellen Wissenschaftstheorie ja nicht erfassen kann, sondern eher mit einer technikwissenschaftlichen Theorie, die bisher sozusagen jedenfalls in den letzten 500 Jahren nicht im Vordergrund gestanden hat wo der Rationalismus und die Logik im Vordergrund gestanden sind, sondern aus der Tradition heraus haben wir Technikbetrieben, gebaut Architektur, aus dem Umgangswissen heraus, aus dem, was Michael Poliani implizites Wissen genannt hat, dass man durch Erfahrung lernt und eben auch auf diese Art und Weise weitergibt und dass man nicht alles aus den Büchern lernen kann und vor allen Dingen auch, von dem man nicht in der Lage ist, alles zu versprachlichen, weil dieses Wissen aus dem Handeln kommt und nicht nur aus der Theorie, das man eben ablesen kann. Daher meine ich, dass die Tüfter und reflektierten Praktiker, die heute sozusagen wieder entstehen, in einer viel längeren Tradition stehen als die technikwissenschaftliche Tradition, die sich seit Descartes und Hops in der Neuzeit auf theoretisch logischer Basis entwickelt hat. Wir haben also heute, meine ich jedenfalls, eine neue reflektierte Praxis mit neuen Tools, Computer, Algorithmen und so weiter, also Spielzeugen, wenn man das ordnen will, mit dem man mehr versuchen kann, also experimenteller umgehen kann, als mit den herkömmlichen sozusagen Methoden der Theorie-Entwicklung in der Wissenschaft, durch die theoretischer Fortschritt generiert werden kann und auch beurteilt werden kann. Klassisch versuchen wir eben durch Kausalitätsbeweise auch Prognosen zu legitimieren, aber die algorithmische Zugangsweise erlaubt andere Methoden der Prediction, als die nach dem klassischen Wissenschaftsverständnis. Insofern denke ich, dass wir, wenn wir uns auf eine Wissenschaftsphilosophie technologisierter Art des 21. Jahrhunderts einlassen wollen, auch unsere Wissenschaftstheorie in einigen Punkten zumindest modifizieren müssen, vielleicht sogar etwas radikaler umdenken müssen, als wir das heute noch abschätzen können. Es ist ein Versuch, auf den ich mich einlassen möchte. Die meisten meiner Kollegen allerdings beschäftigen sich nicht mit den wissenschaftstheoretischen Fragen der künstlichen Intelligenz, sondern mit den medialen Konsequenzen und sehen darin nur ein Medium. Mir geht es im klassischen philosophischen Sinn auch um theoretische Aspekte der künstlichen Intelligenz und für mich ist künstliche Intelligenz ein Spiegel unserer menschlichen Intelligenz, in der wir unsere eigene Intelligenz hoffentlich in Zukunft besser kennenlernen werden und auch steigert werden können durch den Umgang mit diesen neuen Tools oder Werkzeugen, die über die klassischen Artefakte der Technik hinausgehen, weil sie ganz stark im mentalen Bereich liegen und nicht mehr nur in dem materiellen Artefaktbereich, den wir bislang überwiegen können. Ja, da sieht man zu welchem Zweck Technikphilosophie der Informatik und auch dem Hackertum dienen kann. Wir sind ja alle in den letzten Jahren je nach Tätigkeitsfeld mehr oder weniger Mitleidende des ganzen KI oder AI-Paradigmas geworden. Ich prägte schon relativ früh mal so in Hackerkreisen auf Deutsch den Begriff der künstlichen Minderintelligenz. Das ist ja auch schon ein sprachliches Problem. Künstlich ist ja nicht dasselbe wie Artificial und man könnte vielleicht auch nach dem, was man so in KI in der freien Wildbahn da draußen sieht, wie auch immer sie nun technisch aufgebaut sein mag, so den Versuch einer Intelligenzsimulation oder Intelligenzillusion möglicherweise sehen und gerade unser einer der die technischen Grundlagen dazu daneben legt, stellt fest, das passt überhaupt nicht zusammen und ich glaube die meisten von uns im Moment geprägt davon sich ja die absurdesten und zum Teil auch hässlichsten Fehlfunktionen von Intelligenzsimulationen und vorgespiegelten Intelligenzen, die dann möglicherweise Entscheidungen über unser Leben treffen vorzustellen. Und das steht ja auch in der gewissen Tradition beim Hacken. Also angefangen vom Überwachungsstaat, vom Computerstaat und Computer, die in all ihrer existenziellen Dummheit anfangen unser Leben zu beeinflussen und diktatorisch möglicherweise zu bestimmen. Das war ja von Anfang an eine Besorgnis und ist ja auch einer der Hauptäste oder Wurzeln eigentlich der Hackerbewegung in der westlichen Welt. Daher auch der Skeptizismus hinsichtlich der Frage, was passiert denn, wenn Maschinen Maschinen programmieren und ist mit KI erstellter Code irgendwie überprüfbar, legitimierbar, darf man dem womöglich Entscheidungen anvertrauen, darüber ob wir einen Personalausweis oder einen Kredit bekommen. Das wird mit Besorgnis im Moment bei uns diskutiert, auch deswegen, weil wir halt sehen wie furchtbar schlecht und auch am Anfang befindlich die technischen Implementationen sind. Und da wird es wertvoll, da sagen uns nun die Philosophen auch ohne die exakte technische Kenntnis der aktuellen KI-Algorithmen und so weiter, da sagen die ihm, schauen wir doch mal, ob unsere Wissenschaft, wie wir sie bisher betrieben haben, eigentlich geeignet ist, das Problem genügend zu beschreiben oder ob wir nicht möglicherweise unsere Wissenschaftsideale ein bisschen anpassen müssen, um irgendwie von künstlicher Intelligenz erstellter Software und ihrer Tätigkeit einen Wert und eine Legitimität zumessen zu können. Und da geht es halt nicht mehr nur um Software-Engineering, wie wir es so die letzten Jahrzehnte gelernt haben, sondern eben tatsächlich um die Zumessung und das Erlebnis von so was wie, ja, großes Wort, so was wie Bewusstsein. Wie steht denn das damit im Zusammenhang? Lass es einfach an am besten. Danke. Mit dem Bewusstsein ist eine sehr, sehr schwierige Frage. Und ich war ja auch zwischen 2018 und 2021 beim BNBF in einem Projekt, in dem ich die Ehrerate über die Theorie von künstlicher Intelligenz und virtueller Realität nachdenken zu dürfen. Also eigentlich was ganz Untypisches für die angewandte Orientierung sonst. Und da war auch eine Gruppe, die sich mit anwachsenden Bewusstsein bei Maschinen beschäftigt hatte. Und das ist bei Philosophen natürlich schon sehr infrage gestellt. Und ich teile die Bedenken auch. Es hängt aber damit zusammen, dass das Bewusstsein sozusagen der zentrale, so sagen wir mal, methodische Ansatzpunkt war, um Geist zu verstehen, das Mentale zu verstehen in den letzten 500 Jahren. Und insofern ist das Bewusstsein stark überbetont worden, auch in meiner eigenen Disziplin der Phänomenologie. Ging das zunächst immer alles von Bewusstsein aus, während sozusagen mein eigener Ansatz von der Biologie herkommt und zwar von der Evolutionsbiologie, genauer gesagt der Evolution des Kognitiven und des Kommunikativen. Und ich daher ein etwas realistisches Bild habe und mich auch das interessiert, sozusagen, woraus das Bewusstsein entstanden ist. Ich nehme das nicht an, dass es vom Himmel gefallen ist, sondern dass es sich aus Vorbewussten, Unbewussten und so weiter, mit pre-symbolischen und anderen kognitiven Fähigkeiten der Linie der Evolution entwickelt hat. Denn seit etwa 45 Millionen Jahren entwickelt sich das Neuronale als Basis für das Mentale und auch für das Bewusstsein. Und ich gehe davon aus, dass die Natur in der Lage war, Bewusstsein zu entwickeln, weiß aber nicht, ob Silikon und seine Organisation in der Lage ist, etwas Vergleichbares hervorzubringen. Und von daher habe ich sehr starke Zweifel an dem und die Gruppe konnte mir die Zweifel nicht austreiben. Ich habe extra darauf bestanden, dass diese Gruppe sozusagen sich konstituieren und arbeiten darf. Aber wie gesagt, meine These würde bisher immer noch lauten, dass so etwas wie Bewusstsein eigentlich nur lebende Systeme erzeugen können, die anders organisiert sind als physikalische Systeme und von daher für mich bewusst sein ein Phänomen ist, dass Maschinen nicht simulieren können. Sie können, sozusagen, Modelle ihrer selbst entwickeln. Aber das ist für mich kein Equivalent für ein Bewusstsein, dass sich vielleicht sogar in Vorstufen bei Tieren oder in einiger Sicherheit als Vorstufen bei Tieren entwickelt hat. Also von daher glaube ich, dass Bewusstsein nicht das entscheidende Kriterium sein kann für die Bewertung dessen, was im 21. Jahrhundert Grundlage einer Philosophie des mentalen oder des geistigen sein wird. Okay, also Bewusstsein sozusagen nicht überbewerten, denn das ist ja die Frage des Technikers, der etwas erschafft, was, wie du richtig sagst, Modelle seiner selbst und Modelle von Welt entwickelt und weiterentwickelt. Und es gibt ja auch in der Literatur, nicht so sehr der Philosophischen, aber der schönen Literatur genügend Beispiele von Menschen, die in eine Situation gebracht werden, in der sie glauben, in einer technischen Repräsentation Bewusstsein zu erleben. Wir kennen alle diese Filme und Vorlagen, ich zitiere sie hier mal nicht, aber das ist ja gerade in den letzten Jahrzehnten ganz stark gewesen und hat auch großen kulturellen Einfluss. Bevor wir ein bisschen das Publikum einbeziehen, da nochmal so eine Nachfrage. Es gibt unter denjenigen, die sich mit KI beschäftigen, so eine Fraktion, die sehr einfach dargestellt sagt, naja, wir sind ja bei Weipen noch nicht so weit ein Computer zu bauen, der so viele Neuronen abbilden kann, wie unser Hirn mutmaßlich hat. Und wenn wir das tatsächlich irgendwann mal schaffen, womöglich mit den sogenannten Quantencomputern, dann könnte es ja sein, dass wir eines Tages unseren Computer einschalten und plötzlich zeigt er so etwas wie Symptome von Bewusstsein. Hältst du das für einen nennenswerten Weg, über den es sich lohnt nachzudenken? Ja, also für mich ist es keine Frage der Quantität, sondern der Organisation der zugrunde liegenden Materie und Gehirne und Computer sind für mich grundsätzlich unterschieden, weil Gehirne eine eigene Struktur haben, die nach eigenen Organisationsgesetzen aufgebaut werden. Wir haben hier das epigenetische System, das die Gehirnzellen und die neuronalen Zellen aufbaut. Steuert weiterentwickelt also ein Gehirnzinsystem, das sich als materiales System weiterentwickelt unter den Bedingungen der eigenen Organisationsprinzipen, man nennt es Constraints, in der Evolutionsbiologie und externen Bedingungen, das ist die klassische Anpassungstheorie von Darwin, die sozusagen der materialen Struktur des Gehirns und ihrer Vernetzung selbst eine absolut dynamische Konzeption zugrunde legen, die man nach meinem dafür halt jedenfalls mit den mir bekannten Strukturen nicht simulieren und nicht abbilden kann. Es ist eine Konsequenz der funktionalistischen ingenieursmäßigen Betrachtung, dass man sozusagen nur den Output betrachtet unter bestimmten ingenieurswissenschaftlichen Gesichtspunkten und dann meint, wenn der selber Funktion, der selber Output erzeugt wird mit unterschiedlichen Mitteln, sei das dasselbe, aber wie gesagt, als Philosoph kann ich diese Argumentation nicht folgen, denn die Art und Weise, wie etwas organisiert ist, auch in der Struktur der Materie, ist für mich von Relevanz für das, was dort funktioniert. Aber darüber können wir ja im Einzelnen diskutieren, das ist einer der Punkte, die mich besonders interessieren im Rahmen auch die Bemühungen von der Evolutionstheorie und damit habe ich schon etwas gesagt, dass ich also seit etwa 50 Jahren mich mit evolutionärer Kettenstheorie beschäftige und seit 35 Jahren dann auch mit künstlicher Intelligenz. Also ich sehe künstliche Intelligenz immer auch aus einem biologischen Kontext heraus und nicht umgekehrt wie die meisten Vertreter auch von Silicon Valley, die aus der Perspektive von künstlicher Intelligenz die Evolution betrachten, obwohl ich auch sehe, dass beide Richtungen sich seit etwa 50 Jahren gemeinsam entwickeln, die Modellierung von Evolution hat sich weitgehend auch ausgewirkt auf die Theorie der neuronalen Netzen und der Selbstorganisation des Gehirns. Also das ist für mich ein spannendes Feld. Aber so einfache Gleichungen wie funktionale Äquivalente seien schon alles in der Bewertung von Evolution, kann ich nicht teilen. Ja, dann sind wir schon dabei, das liebe Publikum sowohl über dieses Internet zu Hause an den neuartigen Endgeräten wie auch hier im Saal mal einzubeziehen. Das war schon mal ein hoffentlich einigermaßen gelungener Einblick, wozu und zu welchem Endzweck betreibt man eigentlich Technik, Philosophie und welchen Nutzen hat das für uns Hacker und Leute, die sich mit Hard-on-Software beschäftigen. Ich zitiere aus deinem jüngsten Buch einfach mal den Satz, was Informatiker ein Modell für eine gute Entscheidung nennen würde, die Philosophie als moral bezeichnen. Das ist wahrscheinlich so das allgemeinste, was man zu dem Verhältnis sagen kann. Und damit wollen wir das mal thematisch auch hier so ein bisschen öffnen. Sind ja doch ein paar Interessierte zu dieser nachtschlafenden Zeit ins Zentralwerk gekommen, noch dazu in Abwesenheit jeden Tageslichts, aber das sind ja auch die Hauptfeinde des Hackers, nicht wahr? Frische Luft, Tageslicht und koffeinfreie Getränke. Das ist ja weitgehend ausgeschaltet. Ja, insoweit mal, wenn ihr, wenn Sie gerne möchten, wenn ihr gerne wollt, zeigt mal auf, diese Mikrofone sind ja mobil und auch wer gerne in das Chaos-Fernsehen möchte, einen Platz auf dem berühmten Sofa, möchte jemand mit uns ein bisschen philosophieren und vielleicht mal die Frage stellen, warum das alles? Also, man muss hier kein WSKI-Experte sein, sondern man kann ja auch mal fragen, was macht ihr da eigentlich den ganzen Tag und warum und ja, da gibt es jemanden. Magst du nach vorne kommen oder okay? Ich habe nur eine kurze Frage, vielleicht bin ich da auch ein bisschen naiv, aber mich würde mal interessieren, was dein Verständnis von bewusst sein ist, Bernhard. Das wurde jetzt hier mehrfach genannt und das sind die Begriffsschärfungen. Wobei, ich glaube, das ist ein schwieriges Thema, aber mich würde vor allem dein persönliches Verständnis interessieren. Ja, bewusst sein kann man sehr unterschiedlich definieren. Es ist zunächst mal der Begriff Konsciencia, das Mitwissen, aber auch ein anderer Begriff für das Gewissen, zum Beispiel Augustinos. Ein Zugang eben, der nicht nur den theoretischen Teil des Wissens betrachtet, sondern auch das Wissen eigentlich nur aktiv gewonnen werden kann und Wissen also eben nicht vom Himmelfeld, sondern erarbeitet, erfahren, verarbeitet werden, wenn man das mit Informationsverarbeitung modellieren will. Das ist eine der Möglichkeiten, aber es gibt verschiedene Arten der Wahrnehmung und wie die Wahrnehmung im Gehirn verarbeitet wird. All dies kann empirisch überprüfen und dann gibt es eben die erste Definition, dass Bewusstsein aus dem Selbstgefühl entsteht. Dieses Selbstgefühl beruht auf Informationen, die wir über unseren eigenen Körper bekommen. Zunächst aus dem polyvagalen System, also vorbewusst, aber steuert unsere gesamten Körperfunktionen bis hin zu eben das, was wir als willentliche und dann mit dann auch bewusste Steuerung des eigenen Körpers bewohnen. Oder auch, wenn wir es noch willkürliche, um es noch deutlicher zu machen, dass das nicht von selbst passiert, wie viele andere der Mitteilungen, die wir bekommen, sondern dass wir auch steuern, in unsere Körpervollzüge eingreifen können und viele Philosophen sagen, dass das damit zusammenhängt, dass wir auch ein Bewusstsein der Zukunft haben. Und das, was uns vermutlich von vielen anderen Lebewesen unterscheidet, die damit also auch eine größere Freiheit haben von dem, was sie an Selbstgefühlen sonst bestimmt. Damit kann man von anwachsenen Graden von Bewusstsein, aber auch von Freiheit, bei Lebewesen sprechen, ob dasselbe jetzt bei Maschinen auch zumindest simuliert werden kann. Ich denke, wenn, dann sind wir jedenfalls jetzt noch nicht so weit. Nachfragen, bist du zufrieden, oder? Dankeschön. Also nach der Begriffsdefinition oder dieser Beschreibung fällt es mir jetzt umso schwerer, irgendwie der künstlichen Intelligenz, die durch neuronale Netze geschaffen wird. Das Bewusstsein nicht zuzuschreiben, weil die Faktoren, die du genannt hast, das Lernen aus Daten erarbeiten, die Wahrnehmungen über zum Beispiel visuellen Input, das Bilden eines Modells der Welt und das Handeln auf Basis dieses Modells als willentliche Entscheidung, sind exakt die Faktoren, die neuronale Netze ausmachen und die Entscheidungen, die sie treffen. Also wo der Wille bei neuronalen Netzen auftaucht, ist mir nicht klar. Tut mir leid. Also der Wille oder das Bewusstsein wird in der Philosophie handlungstheoretisch durch Kontextualisierung erklärt. Das heißt, dass Bezüge hergestellt werden müssen, die über das, was wir über die Sinne wahrnehmen, herausgeht, eben durch das in Einstellen unserer Erfahrung in Möglichkeitenräume, die wir eben mental oder denkig erfassen. Diese Mentalität sind aber jetzt keine realen Prozesse, wie sie in Maschinen ablaufen, sondern Prozesse, die wir sozusagen in der Form beschreiben, dass eben Kontextualisierung in mentaler Art und Weise geschieht. Und diese hängt damit zusammen, dass wir nicht nur kognitive Prozesse haben, sondern in dem Fall dann auch argumentativ mitteilen müssen, was wir denken. Und von daher eben, ich weiß nicht, was die Äquivalent bei der Künstlerintelligenz dafür sein soll. Vielleicht, wenn ich das mal in mich greifen kann, um dann einen Punkt einzubringen, den ich gerade schon hatte, du hattest ja gesagt, dass ja bewusst an sich ein biologisches System, ja, wenn ich das jetzt aus der evolutionsbiologischen Perspektive betrachte, das hat sich ja als irgendwie durch den Evolutionsdruck entwickelt. Und dabei ist man dann auch so aufgefallen, dass ja der einzelne Techniker, die künstliche Intelligenz halt vielleicht mit diesen Ziel entwickelt, künstliche Intelligenz zu haben, aber dass die Technologie sich in die Richtung weiterentwickelt, ist ja auch ein Evolutionsprozess. Also quasi eine Fitnessfunktion, die sich durch die Marktkräfte ausdrückt, dass sich halt bestimmte Technologien durchsetzen, weil sie Gewinne versprechen und dementsprechend halt auch eine Art von Evolution stattfindet. Oder vielleicht wirst du das auch anders sehen, aber das war so die Perspektive, die ich da gedacht hatte. Und dann wäre ja quasi die Frage, gibt es eine Fitnessfunktion im Rahmen dieses Marktgeschehens, die dazu führen könnte, dass ein System mit Bewusstsein vorteilhaft wäre. Das wäre dann die Frage, die mir so in den Sinn kommt dabei. Gut, aber künstliche Intelligenz ist eine Modellwelt. Dort spielt sich alles im Bereich von Modellen ab und dort wird, wenn dann mentales modelliert, aber es ist etwas anderes, den biologischen Vollzug des mentalen, die Philosophie nennt das den seinsmäßigen Vollzug des mentalen, das, was Descartes meint, Cogito, ich vollziehe, denken als Prozess und zwar als realen Prozess und nicht als modellierten Prozess, wie es im Ramp von neuronalen Netzen oder solchen Algorithmen der Fall ist. Also der Unterschied ist, dass lebende Wesen sozusagen Mentalität vollziehen und nicht nur modellieren, im Unterschied zu Algorithmen, die dies modellieren, als Rechnungen und zwar in symbolischer Form. Dass das Problem Menschen oder andere Lebewesen können das auch in vorbewusster Form vollziehen während Maschinen, das nur über die mathematischen Symbole, die im algorithmischen Verfahren verwendet werden, simulieren können. Während der Menschen der Lage ist, auch den vorsymbolischen Bereich noch mit zu vollziehen, obwohl das Mentale im Menschen ihn auch, in die, sagen wir dazu zwingt, auch dieses Vorbewusste in Symbolen zu formulieren. Weil wir, wie die künstliche Intelligenz symbolisch denken, aber diese symbolische Denken in einer anderen Art und Weise vollziehen, als es die Maschine vollziehen kann. Das liegt daran, dass eben einmal organische Systeme zugrunde liegen und das andere Mal eine Maschine, ein technischer Apparat, dass künstliche Intelligenz, künstliche Intelligenz bleibt, was sehr interessant ist, weil wir damit ein anderes unserer Selbst haben, woran wir uns dann auch reflektieren können. Das ist für mich der interessanteste Aspekt an der künstlichen Intelligenz. Ja, machen wir erst mal das. Genau, also danke schon mal. Und wir sprechen jetzt gerade ganz viel über KI und da wäre meine kurze Frage, was ist auch, also wir müssten auch erstmal definieren, was ist denn eigentlich das Ziel der KI und wie weit darf dieses Ziel eigentlich gehen von künstlicher Intelligenz und ist das Ziel von künstlicher Intelligenz wirklich und darf das auch so sein, dass sie möglichst, also ist das Ziel wirklich, dass sie den Menschen ähnlich wird und wo sind da die Grenzen, das wäre meine Frage. Die Frage habe ich ja jetzt schon beantwortet. Ich glaube, dass die KI nie Menschen ähnlich werden kann, wenn man den Vollzug des Menschseins, also die existenzielle Dimension des Menschseins mit berücksichtigt. Sie kann menschliche Intelligenz sicher in einigen Facetten modellieren der Mensch hat, wenn man so wie eine natürliche Variante dieser künstlichen Intelligenz, deswegen konnte der Mensch auch künstliche Intelligenz entwickeln. Ja, das dürfen wir ja nicht vergessen, dass künstliche Intelligenz Menschen gemacht ist und der Ursprung der künstlichen Intelligenz nicht irgendwas Künstliches an sich ist, sondern der Mensch, der dieses entworfen hat, designt hat und nach wie vor immer designt, auch durch die Software, die dort läuft, also im Endeffekt haben wir sehr viel menschliche Intelligenz, die heute als künstliche Intelligenz verkauft wird. Wenn man es mal kritisch sehen will. Ich glaube, das ist ein ganz spannender Punkt. Es gibt eine ganze Reihe von Sachen, die in der letzten Zeit passiert sind. Das letzte große Ding war dieser Google-Engineur, der meinte, ja, das Ding, was ich hier gebaut habe, das hat jetzt Bewusstsein entwickelt. Und eine ganz wichtige Frage dabei ist, wie kann man das überhaupt feststellen? Also an welchen Kriterien kann man das festmachen? Vielleicht als kleiner Ergänzung. Die Biologen haben einen ganz einfachen Trick, wie sie feststellen können, ob Tiere sich ihrer selbst bewusst werden können, indem sie denen zum Beispiel einen Punkt ins Gesicht malen, den sie normalerweise nicht sehen können. Und wenn sie sich im Spiegel erkennen und diesen Punkt weg putzen, dann ist klar, dass sie erkennen, dass das Spiegelbild sie selbst sind. Und das ist, vielleicht klingt das total banal, aber die meisten Tiere können das nicht. Die sehen ein anderes Tier im Spiegel und erkennen nicht sich selbst. Und so eine Frage wäre, eine KI, irgendein System, wie kann man denn dessen Selbstbewusstheit überhaupt prüfen? Also woran könnte man das überhaupt festmachen? Also ich sehe kein solches Kriterium bei der KI. Sie dürfen das mir gerne nennen. Ansonsten könnt ihr euch dieses Mikrofon rüberreichen, wenn ihr, wenn Ayubhura sagen will, das will ich nicht. Ich würde sonst noch mal zur Metaebene gehen und fragen. In der Technik oder in dieser Umgebung, in der wir sind, ist ja oft so der Punkt, der vorhin auch schon mal angesprochen wurde, wer gestaltet, der entwickelt weiter. Und es geht immer in die Richtung von dem, was gerade getan wird. Was kann denn in dem Zusammenhang die Technikphilosophie leisten und was will sie leisten? Anschauen, Feedbacks geben oder was ist da der Sinn? Es geht ja nicht nur um KI, sondern KI ist ein Teil eines Forschungsprozesses und die gesamte Wissenschaftsentwicklung in den letzten 50, 60 Jahren hat sich durch den Computer und die Verbindung des Computers als neues, wissenschaftliches Tool verändert und wird sich weiter verändern. Und es ist sehr furchtbar geworden, gerade auf dem Gebiet, auf dem ich sozusagen noch länger arbeite, also auf dem der KI, eben der Evolution des Kognitiven. Und in diesem Zusammenhang sind faszinierende Dinge geschehen. Wir können heute genomische und epigenomische Entwicklungen im Computer modellieren, was wir nie berechnen konnten. Ich habe angefangen in der Biologie, in einem Faltensbiologischen Institut, während ich noch Student war, haben wir populationsgenetische Modelle durchgerechnet. Und der arme Kerl, ein Freund von mir, hat ein halbes Semester dafür gebraucht, um eben diese Berechnung der Verbreitung bestimmter Gene in der Population von Hand zu berechnen. Das könnte wir heute ganz leicht und schnell machen. Wir können die Faltung der Eiweiße modellieren, vorher sagen, mit diesen Modellen. Sie sind extrem interessante wissenschaftliche Tools in allen Gebieten, wo es um Komplexität geht, also Ökologie, Evolutionsforschung, Klimaforschung, all das, was uns besonders sind, aber auch Technikentwicklung oder gesellschaftliche Entwicklung sind solche komplexe Systeme. Und da sind diese neuen Instrumente der Modellierung auf mathematischer Basis hervorragend geeignet und viel besser geeignet als alles, was wir noch vor 30 Jahren hatten. Und da sehe ich die großen Fortschere, wo uns künstliche Intelligenz viel mehr helfen kann. Bisher haben wir es halt hauptsächlich dazu benutzt, um ökonomische andere Leute damit mehr oder weniger auszubeuten. Das ist die ökonomische Situation. Aber die Welt kenne ich nicht, die mag ich auch nicht. Ich bin Wissenschaftler und für mich ist KI ein Mittelwissenschaft extrem voranzutreiben. Und ich hoffe, dass die Wissenschaft dann schneller ist als die Ökonomie, wenn es um die Lösung von Menschheitsfragen geht, indem wir eben diese Weltmodelle ist, ja auch eine der Ursprungsorte, Weltmodelle in den 60er Jahren in den USA oder der Bericht an den Clapper Forum und Global 2000, die auch solchen Weltmodellen beruht haben, um eben in der Wissenschaft sozusagen technisch ökonomische Entwicklungsfahrte dann zu begleiten zu können. Sie sind ein Mittel, den man in der Innovationsforschung einsetzen kann und so weiter. Also von daher ist es die Aufgabe der Technikphilosophie, eine solche Theorie zu entwickeln. Ich habe auch eine solche Theorie der technisch ökonomischen Entwicklung mit kultureller und gesellschaftlicher Einbettung entwickelt. Also für mich sind ethische Fragen jetzt nicht eine Frage, die man wie bekannt nach einem Prinzipinsystem beurteilen kann, sondern die moralische oder reflektiert moralische Beurteilung. Der technischen Entwicklung muss sich aus der Analyse der technischen Entwicklung selbst herausgeben und umgekehrt. Das ist ein Wechselverhältnis und nicht ein einseitiges Verhältnis. Also die Ethik soll nicht die technische Entwicklung dominieren, sondern in dem Sinne reflexiv begleiten und vor allen Dingen natürlich auch mögliche Folgen abschätzen, also Prediktion einsetzen, um Beurteilungskriterien für die technische Entwicklung zu gewinnen. Und da unterscheidet sich das zum Beispiel nicht von der Gentechnik, wie andere umstrittene Technologien. Und das große Problem ist halt, dass die Wissenschaft leider nicht so eindeutig ist, wie die meisten glauben, sondern in vielen Punkten sehr unterschiedliche Aussagen möglich sind. Also als Wissenschaftstheoretiker bin ich skeptiker. Und das ist eine der wichtigsten Aufgaben. Die meisten glauben viel zu viel zu wissen, und tatsächlich wissen wir immer noch viel zu wenig. Aber KI ist eine Möglichkeit, mehr Wissen zu gewinnen, Vorurteile abzubauen. Und in dem Sinne sollten sie eingesetzt werden. Sie werden aber de facto mehr auf der anderen ökonomischen Ebene eingesetzt. Und da hat ja die Digitalisierung in den letzten 30 Jahren tatsächlich die Uwe-Situation dramatisch verschlechtert. Ja, da möchte ich mich auch nochmal einschalten, hinsichtlich der Frage, warum interessieren sich die Hacker für die Technikphilosofen und umgekehrt? Es schien ja hier schon immer wieder mal durch in der letzten halben Stunde, weil wir möglicherweise an unseren Wissenschaftsidealen arbeiten müssen. Und der Hacker ist ja jemand, der nicht wusste, dass es nach der gültigen wissenschaftlichen Theorie und dem Stand der Wissenschaft das etwas nicht funktioniert hat. Und da hat das dann einfach gemacht. Und deswegen fand ich es auch nicht nur eine Ehre, sondern durchaus auch nützlich, als die Technikphilosofen auf mich zugekommen sind und gesagt haben, ja, mach doch mal bei uns mit und gib mal die Hackerperspektive auf Dinge. Ich habe eben das schöne kurze Zitat aus deinem neuesten Buch vorgelesen, dass also ein Modell zur Gewinnung guter Entscheidungen in der Philosophie so was wie die Moral wäre. Und mir fiel sofort die Hackeretik ein, wie sie nach den Grundsätzen des Chaoscomputer Clubs ja nun auch seit mittlerweile ja 40 Jahre sind, wenn nun auch schon alt sich entwickelt hat. Also mein Lieblingsgrundsatz ist natürlich, man kann mit Computern, Kunst und Schönheit erschaffen. An die Intelligenz dachten damals noch nicht ganz so viele. Der Zugang zu Computern und zu Informationen sollte frei und gleich und ich darf als Ökonom hinzufügen auch kostenneutral sein und viele Dinge mehr. Misstraue, Autoritäten, Beurteile, ein Hacker, vor allem nach dem, was er tut und so weiter. Das sind ja auch ethische Grundsätze ohne, dass die Autoren sich zumindest explizit nun den Backlock von mehreren hundert Jahren Ethikentwicklung irgendwie vorher in die inneren Hirnwindung getan hätten. Und da glaube ich steckt eine ganze Menge Potenzial. Ich habe eingeführt und angefangen, mit denen in unseren Kreisen weitverbreiteten Besorgnissen hinsichtlich des Missbrauchs oder des falschen Gebrauchs sogenannte künstlicher Intelligenzen, was immer sie sein und wie wir es in der Praxis erleben und die Philosophen beantworten uns. Sie kann in der Tat sehr, sehr nützlich sein, wenn wir sie in den richtigen Rahmen stellen. Und sie kann zwar nach jetzigen Wissen stand, ein Genu ihnes Bewusstsein nicht erlangen, wohl aber ein sehr gutes Modell davon. Wie gut das müssen wir noch sehen. Das heißt also, die Philosophen ermutigen uns, nicht etwas zu sagen, so wie zu Anfang, ich in Deutschland so zu Anfang des Hackertums, da war das ja auch in politischen Kreisen ganz schwierig. Also wenn sich so Hacker und Computerbesitzer bei irgendwelchen Versammlungen trafen, dann war das so Psst, das war dann so Computer Software und dann wurden so Disketten irgendwie mal so ausgetauscht. Aber niemand durfte unter den politisch engagierten Wissen, dass man irgendwie ein Computer hat, weil das war ja das Böse-TM, das Computerstart der droht ja, und da muss man ja was gegenmachen. Das ist ja unsere Haltung im Prinzip nicht. Wir wollen ja aufmachen, nachgucken, wie geht das, wollen da irgendwie dabei sein, uns wollen es möglichst zerstörungsfrei und unbemerkt wiederzumachen und nicht in anderer Leute Daten müllen. Und vielleicht könnten wir so mit dem Hacker-Epoach ja auch mit der ganzen KI- und Umgebungsdiskussion umgehen und mal gucken, ob wir nicht tatsächlich die Software-Krise und andere Krisen mit nach heutiger gültiger Ingenieurwissenschaft ungültigen Methoden weiterzubringen und lösen helfen. Das könnte ja tatsächlich sein. Und damit, finde ich, sollten wir auch mal für die letzte halbe Stunde so vielleicht das KI-Thema mal so ein bisschen verlassen und zu gucken, was können denn so die Hacker- und die Technik-Philosofen noch so alles zusammenanzetteln. Gibt es da irgendwie Ideen, Beiträge, macht jemand was, was mit Philosophie zu tun haben könnte, möchte davon berichten? Ich schaue dir in das etwas abgedunkelte Publikum. Wenn ja, dann gibt es hier ein Mikrofon für euch. Soll aber kein KI-Verbot sein. Also, wenn es da noch Nachfragen gibt, dann immer gerne, überhaupt keine Frage. Also, ich überlege mir ja schon so, vor dem Beginn meiner letzten Lebensphase, ob ich so in meinem heimführenden Hacker irgendwann von selbst gebauten Automaten umgeben sein möchte oder lieber von irgendwelchen humanoiden Rest-Existenzen. Ich weiß es noch nicht so richtig. Warum nicht beides? Ja, möglicherweise. Ja, genau. Vielleicht vergisst man irgendwann, wie diese Automaten zustande gekommen sind und kann ihnen dann doch irgendwas abgewinnen. Das ist natürlich möglich. Ja, wollen wir ein bisschen philosophieren und trinken? Prost übrigens, das ist ja ein Frühshopper. Da hinten gibt es Sekt übrigens für die, die möchten, also, der ist als Kreativitätsbeschleuniger, ja, durchaus zu haben. Da möchte ich jemanden Mikrofon haben. Kannst du es mal? Ich wollte vielleicht mal so als Impuls darauf antworten. Ich glaube, diese Veranstaltungen, die der Chaos Computer Club organisiert, sei es die große einmal im Jahr oder diese kleinen hier, sind glaube ich so Räume, wo man so Utopien probieren kann und man probieren kann, wie man Dinge weiterentwickelt und wenn man da reinkommt und gerade wenn man zum ersten Mal reinkommt, ist man sehr geflasht und so. Das ist der Kopf in Bewegung, was dann ja Impulse setzt. Schönes Erlebnis. Gingen wir genauso, seit ich, ich weiß nicht, 1985, den zweiten Kongressbetrat oder sowas ähnliches und dann nach langer geografisch gehandicapter Pause dann wieder Kontakt zum Chaos sucht von dem Vierteljahrhundert oder so, das stimmt natürlich. Schaffen von Räumen, die anders sind als die Welt da draußen und wo man einfach mal so als Hecker sagt, ich weiß ja gar nicht, dass irgendwas nicht funktioniert und einfach mal Macht. Und wer Macht hat recht, das sind bestimmt auch wichtige Erlebnisse und Möglichkeiten, Räume, die wir eröffnen sollen. Das versuchen wir auch in unseren Heckspaces, wie etwa hier in Dresden im Zentralwerk, ja auch zu tun und an so vielen anderen Orten. Ich war gestern bei der Versammlung der Vertreter der lokalen Heckspaces, in denen sich der Chaos Computer Club repräsentiert fühlt und das werden ja Gott sei Dank immer mehr. Gestern wurden es wieder zwei mehr, die sich also dem Club angeschlossen haben. Also es passiert tatsächlich was und alle machen solche Veranstaltungen. Also wenn man auf ccc.de so die Terminübersicht sich ansieht, dann kann man da sehr, sehr gute Hoffnung sein. Aber wir sind ja hier beim technikphilosophischen Frühshoppen und wie das in so Frühshoppen so ist, so relaxed und durchaus auch meinungsstark, dürfen wir mal sagen, was uns interessiert und beglückt oder auch betrübt oder besorgt macht. Also wenn es ja auch jemanden von euch hier im Publikum gibt oder vielleicht im Internet, ich weiß ja, ob wir einen Rückkanal haben von den Leuten da draußen, nee, da ist im Moment nichts, der Technik schüttelt den Kopf, also müssen wir uns hier lokal selbst helfen. Wenn es da was gibt. Ja, dann würde ich mal reinspringen. Was ich ja bei KI, da bleibe ich hier stehen, damit es auch in der Kamera ist, ne, genau, was ich ja bei KI sehe im Prinzip ist immer nur die Repetition von bestehenden Systemen, weil es ja, ja wie es halt gerade funktioniert, Maschine des Lernen nimmt halt irgendwie Trainingsdaten rein, dann hast du dann sowas wie so eine VersicherungsKI, die irgendwie Tausende von Fällen nimmt, die ein Sachbearbeiter von Hand gemacht hat, lernt dann daraus, wie die Dinge zu machen sind und reproduziert dann all diese Probleme, die das bestehende, der bestehende Prozess hat, dass dann bestimmte Diskriminierung stattfinden und dergleichen, wie ist denn überhaupt eine Perspektive, wie sowas mit ja vielleicht mehr KI oder mit weniger KI oder wie auch immer korrigiert werden könnte, denn das ist ja so ein bisschen der Anspruch, dass wir mit Computern, wie wir uns eine bessere Welt bauen, aber wie soll das funktionieren, wenn die Computer offenbar nur dafür genutzt werden, die bestehende Welt noch effizienter zu modellieren? Also um mal ein bisschen, auch wenn es offenbar sehr viel Interesse daran gibt, vom KI-Thema ein bisschen weg zu anderen nützlichen Gedanken der Technik für so hinzuführen. Was du da ansprichst, ist ja auch eine Dimension der Frage der Mensch-Maschine-Interaktion und der Schnittstellen-Technik. Also es wäre ja schon viel, oder mal so gesagt, die letzten Jahrzehnte haben wir damit verbracht, immer mehr Menschen da draußen den Computer zu bringen und zu sagen, hier, das wird dir helfen, besser zu leben. Nimm den Computer, benutze ihn. Und dann haben wir teilweise durch Versuch und Irrtum, teilweise durch Forschung, teilweise durch ökonomische Antriebe dafür gesorgt, dass wir jetzt also fast alle so ein Computer in der Hand haben, mit einer einigermaßen brauchbaren Schnittstelle für die einen mehr, die anderen weniger. Und wir als Hacker verzweifeln wir oder wir amüsieren uns am Technikgebrauch unserer Mitmenschen da draußen. Man ist ja dann auch die Frage, ist jetzt unsere Hauptaufgabe, den Menschen den besseren Gebrauch des Computers zu leeren oder sollen wir dem Computer den besseren Gebrauch mit Menschen leeren und was kommt eigentlich zuerst? Und ist die Schnittstelle das einzig wichtige oder was wäre noch dabei zu beachten? Das sind auch so Dinge, die hier eine Rolle spielen. Hat jemanden allerneueste Schnittstellen, Erlebnis, Mensch und Technik, zwei Welten prallen ab? Nein, doch, möchte jemand was erzählen? Okay, keine akuten. Die Hacker haben ja sonst immer so Storys drauf, was letztes gerade wieder fürchterlich schiefgegangen ist. Aber gut, im Moment gerade mal nicht. Naja, die Technikphilosophie könnte möglicherweise auch den Sicherheitsforschern, TM, irgendwie nützlich sein. Ich sprach neunlich mit jemanden von der AG-Kritis, die ja in Clubkreisen entstanden ist. Das sind also Menschen, die sich sozusagen Hacker induziert mit kritischer Infrastruktur und ihrer Bewahrung und Verteidigung und Resilientmachung beschäftigen. Und natürlich gibt es, wie überall dort auch, was wieder bei der CAE natürlich Menschen, die sagen, mit verstärkenem Einsatz von Computern wird das alles in Ordnung kommen. Dabei machen diese Computern natürlich noch mehr Probleme, also nur mal so als Stichwort. Wir denken alle gerade darüber nach, was das Stromnetz wohl im Winter tun wird, wenn hunderttausende von Deutschen ihre gerade gekauften Heizlüfter in Betrieb nehmen. Und der Hacker-Approach wäre, es passiert dann unangenehmes, wenn sie anfangen würden, dieses gleichmäßig oder schwingungsgerichtet oder in gleichmäßigen Zeitabständen zu tun. In anderen Worten, die Gefahr besteht nicht in erster Linie in hunderttausende von Heizlüftern. Sie bestünde in hunderttausenden von IoT-Geräten, die eine Last von drei Kilowatt haben und die auf die Millisekunde genau ein- und ausgeschaltet werden. Dann wird es interessant. Und der Blackout rückt ein ganzes Stück näher. Also so viel zum Thema Schnittstellen. Wollen wir mal sehen, was diesen Winter dabei herauskommt. Ja, was machen Technikphilosofen noch so? Also Technikphilosophie-Gesellschaft, das sind ja auch Untertitel von den Chaoskreisen, bekannten Podcasts. Natürlich versuchen wir auch die Auswirkungen des Computers auf die Gesellschaft zu modellieren, möglicherweise vorherzusagen, auf jeden Fall aber zu beeinflussen und diese Beeinflussungen wiederum in der zweiten Ableitung zu beeinflussen, in denen wir Mittel und Informationen dafür zur Verfügung stellen. Typische Beische dafür waren in der Vergangenheit sowas wie Volkszählung, Zensus, Rasterfahndung oder heutzutage Chat-Kontrolle nicht wahr. Also der Kampf gegen die verschlüsselten Messenger auf unseren Smartphones und sowas. Das ist so die politische Dimension, wo wir auch von der Technikphilosophie eine Menge lernen können. Da kommt eine Rückfrage. Ich würde noch meine Frage, die von der KI-Wegler leitet. Ich bin Maschinenbauingenieur und ich entwickle im wissentlichen Hardware und ich beobachte ganz viel in meiner Entwicklung, das, was ich entwickle, und schaue da immer mal auf Softwareentwicklung, so von der Seite, und sehe, dass da sehr viel Agil passiert und über Feedback-Loops ganz schnell entwickelt wird. Deswegen ist meine Beobachtung, dass sich die Entwicklungsgeschwindigkeit von Software- und Hardware auseinanderentwickelt. Also Software viel schneller entwickelt werden kann, immer angepasst und so. Hardware immer ein bisschen, der herhängt schon alleine deswegen, weil der Feedback-Loop immer nur sehr langsam sein kann. Man immer erst bauen muss, bis man dann wieder sich verbessern kann und dann ist es alles sehr langsam. Der 3D-Drucker hat einmal eine Zeit lang eine Hoffnung gemacht, aber ich glaube, die ist so ein bisschen verflogen, weil es dann doch nicht so skalierte, wie man das dachte. Wie ist so die, also kann man das irgendwie technikphilosophisch betrachten, macht das irgendwie Sinn, in die Richtung sich zu unterhalten? Ja, das hat gewisse Ähnlichkeiten mit der natürlichen Evolution. Menschliche Gerne entwickeln sich auch nicht so schnell, wie das, was man mit Menschlichen Gernen denken und entwickeln kann. Von daher sehe ich parallel dazu, was mich in gewisser Weise auch etwas beruhigt. Und meine These ja eigentlich unterstützt, dass es sehr gut ist, dass wir hier 2 Systeme haben, die nicht identisch werden sind und nicht identisch sind, sondern in einer furchtbaren Spannung sind. Sie nennen das Wechselbegründung. Früher dachten alle auch die Philosophen, alles muss also rein im Prinzip abgeleitet werden. Diese Art der Begründung führt in viele Zirkel und Paradoxien und hat skeptische Denken befördert. Damit meine eigene Position, die ich seit über 40 Jahren entwickelte, befördert. Und von daher suche ich nach anderen Möglichkeiten, wie man Entwicklung beurteilen kann. Und das sind Fragen der Kontextualisierung und dann natürlich auch die Perspektiven. Auch der Denkstil, mit dem wir Horizonte entwickeln, miteinander ins Gespräch zu bringen. Alternativen und Möglichkeiten ins Gespräch zu bringen. Also das mentale, nicht als Epifenomen von Kognitionen oder so etwas zu betrachten, sondern als explosionsartige, neu kreative Möglichkeiten mit der Umwelt umzugehen, die viel besser sind als das, was wir durch einfache Sandwerke dieses Lernen dann bekommen, weil das zeitraubend ist. Also wir haben jetzt, wir sind dabei, eine mentale Technologie zu entwickeln. Und wie ich das sage, damit stoße ich bei Mathematikern immer auf großes Skepsis, der Mathematik eine kognitive Dimension zu geben. Damit muss man aber natürlich dann mit Mathematik auch anders umgehen als bisher und nicht versuchen, immer nur auf die axiomatische Begründung zu sehen, sondern die dynamische Weiterentwicklung mathematischer Systeme, damit sie besser sozusagen auf die Probleme, auf die sie angewendet werden sollen, auch anwendbar sind. Das heißt also auch da würde ich umdenken, fordern, wie es sich aus der Wissenschafts- und Technologieentwicklung des 20. Jahrhunderts heraus, seit etwa der Mitte des letzten Jahrhunderts, ergeben hat. Ich glaube, dass dieses Jahrzehnt, in dem wir stecken, sehr viele Fortschritte bringen kann in Richtung einer solchen dynamischen Beschleunigung. Und wie gesagt, deswegen habe ich auch jetzt nicht so viel Vertrauen in die Rechnerkapazitäten und die Ausweitung dorthin, sondern ich glaube, dass es entscheidend schon ist, was man darauf dann modellieren kann. Und wir haben mit der algorithmisch-matematischen Form der Modellbildung eine zusätzliche Modellbildung, die zu bisherigen an der Wahrnehmung orientierten und an der Sprache orientierten hinausgehen. Und deswegen glaube ich, dass wir auch viel mehr Probleme lösen können, vor allen Dingen, wenn wir nicht alles nur auf den Algorithmik-Törn verlegen, sondern die anderen beiden Dimensionen, in denen der Mensch immer noch denkt, mit berücksichtigen, ja, die Daten, die Wahrnehmung, die die Daten bringen und dann natürlich auch die Sprache. Die Sprache fixiert eher sozusagen begrifflich, während der Algorithmik-Törn prozesshaft denkt. Und das ist neue Denkstile. Damit ändert sich auch die Wissenschaft. Und das ist für mich sozusagen das ganz Faszinierende der letzten 40, 50 Jahre, die ich zum großen Teil begleiten dürfte und immer an Punkten war, wo ich die gemerkt habe, vielleicht früher auch als andere, was laufen kann. Ja, und insofern, die meisten meiner Kollegen in Deutschland waren ja als Technikphilosophen-Technik-Kritiker. Ich habe mich so nicht verstanden. Ich komme auch nicht aus der deutschen Technikphilosophie, sondern eher ein bisschen mehr aus der amerikanischen, nicht ganz silikeren Welle, aber ein bisschen was. Im Endeffekt war ich also auch kein 68er, sondern die direkte Generation danach, die eben aus dem Hipitum sich verstanden hat und alles, was dort war. Bewusstseinserweiterung, Weißer-Dipp-Ost und all diese Dinge, ist ein anderer Denkstil gewesen. Wir waren jetzt der Technik nicht so abgenallt. Ich bin allerdings nicht so wie in Silikeren Welle und einige dieser Vertreter, bis in den Transhumanismus gehen. Aber ich weiß, dass der menschliche Gattung und der menschliche Geistig weiterentwickeln könnte ist das Gesetz der Evolution. Und wir sind nur ein vorläufiges Ende der 540 Millionen Jahre Entwicklung von neuronalen Zellen und ihrer Verbindung. Also besteht noch Hoffnung. Mir fiel dabei ein, wo du diese mangelnde Synkronicität von real weltlicher und virtuellen Welten ansprichst. Also einmal kommt mir wieder mein aktuelles Denkthema-Software-Krise in Erinnerung, wo es ja auch immer darum ging, dass mal die Hardware und mal die Software schneller besser wurde und man daraus Krisensymptome ableitete, im Grunde genommen bis heute. Und an den Auswirkungen der Achsoagilen immer schnelleren Software-Entwicklungen leiden ja viele von uns bis heute uns sehr verstärkt. Und wir kritisieren das auch ganz, ganz stark. Aber was die Beschleunigung der Hardware-Seite angeht, nun ja, wie sonst auch, Virtualisierung ist das Thema. In dem vorhin schon genannten Podcast-Reihe habe ich nicht nur mit Bernhard gerade eine Sendung gemacht, sondern auch kurz vor Corona habe ich hier in Dresdmann eine Vorlesung gehalten über Idee und Geschichte der virtuellen Realität, die ist da verpodcastet. Und ich glaube, diese ganzen Probleme und die Technikphilosophie, die da dran hängt an der ganzen VR-Geschichte, die wird wesentlich darauf angewendet werden müssen, was du gerade beschreibst, dass nämlich die Hardware-Entwickler mit den Software-Entwicklern gerade das Gefühl haben, nicht so richtig mitzukommen. Also wahrscheinlich wird es eine neue Generation der ganzen Computer-Aided-Design folgenden Dinge geben, also Virtualisierung möglicherweise so ein Maschinenmetaverse, irgendwie, wo man dann immer aufpassen muss, ob das, was in einer virtuellen Welt funktioniert, auch in der Realen funktioniert, denn die Versuchung ist natürlich groß. In so ein Metaverse kann ich ja mal so die Newton-Gesetze so ein bisschen tweaken und Maschinen bauen, die sonst leider oder zum Glück noch nicht gibt. Da gibt es auch eine Rückfrage, oder? Also ja, das wird ja schon gemacht. Man hat ja mit FEM und so Strukturanalysen, die Möglichkeit, Festigkeiten zum Beispiel, ganz deutlich zu brechnen, oder auch dann eben über so lernende Algorithmen Sachen dann zu verstärken und zu verdünnen und das dann so, da gibt es Ansätze, aber in Wirklichkeit ist es ja so, dass wenn ich jetzt was dann baue und dann das nutze, dann noch ganz viele andere Dimensionen dazukommen, dieser Nutzung, Geräte, Machen, Geräusche, dann fassen sich schön oder nicht schön an, ganz viele Arten von Dimensionen, an die man gar nicht alle gleich denken kann und die alle zu modellieren, wird, glaube ich, schwierig. Ja genau, modellieren ist immer schwierig. Modelle haben was mit Annahmen über Realität und das Verhältnis zum Modell zu tun. Sie haben was mit Symbolgebung, wir hatten es eben bei der Mathematik, das ist ja auch eine Art von Komplexitätsreduktion, dass ich in meinem Bewusstsein Symbole schaffe, das ist ja dann auch schon ein Weg dahin und da kommen auch die Philosophen zum Tragen, die Kognitionsphilosophen auf jeden Fall, also mit so was beschäftigen wir uns und das ist eine sehr schöne Verbindung zur Praxis. Also zu diesem Zweck und Endzweck ist Technikphilosophie auch da, nicht wahr, auch in der IT und dem, was die IT ermöglichen soll. Wir beschäftigen uns eben auch mit so Fragen, wie bilde ich technische Realität virtuell in Computern ab und was gilt es dabei zu beachten. Vielen Dank für diesen Input, da haben wir irgendwie auch mal ein neuzart praktisch relevantes Aspekt von Technikphilosophie in unseren Kreisen beleuchtet. Ja, wir haben noch so zehn Minuten Zeit bevor die strenge Streaming-Regie den Stream wieder mit Pausenmusik unterlegt. Wir haben hier ein Frühshop, also es darf weiter getrunken werden, es gibt weiterhin Sekt dahinten und so. Machen wir auch hier mal einen Punkt, haben wir noch Themen, gibt es noch irgendwie ganz andere Fragen? Gedanken, ah, da gibt es was. Als Bernhard eben die Denkstile erwähnte, ist mir da was aufgefallen, was auf deine Frage von vorhin passen könnte, was die Technikphilosophen von Hackern wissen wollen, so ungefähr, also daher kommt das ja auch unsere Verbindung. Wir sind ja gemeinsam Mitglieder in diesem lustigen Technikphilosophieverein und ich kann mich auch noch erinnern, dass wir das tatsächlich forciert haben mit dem Chaos in Verbindung zu kommen, weil ich vermute, dass da Denkstile unterwegs sind. Unter Umständen auch verpackte Umgangswissen, was unter Umständen vielleicht gar nicht ausgedrückt wird, bisher, das weiß ich nicht so genau, da sind wir halt gerade auch so ein bisschen am Gucken, was man da bei euch so ein bisschen abgreifen kann. Im Sinne von Denkstile, das passt unter Umständen auch mit dem Schnittstellen-Thema zusammen, denn da hast du vorhin irgendwie also die Wichtigkeit von Schnittstellen in Frage gestellt, ah Jovo. Und da frag ich mich, warum? Warum du die Wichtigkeit von Schnittstellen vorhin mal so, wie du das halt so machst, zur Seite gelegt hast? Da würde ich noch mal ran wollen. Okay, das war eine Frage an mich, aber ich nehme an, unser Senior wird da auch gleich was zu sagen haben und der Stellvertreter unseres Hausphilosophen ist auch eingetroffen, ganz hervorragend. Also, habe ich irgendwie so gemacht, als ich über Schnittstellen sprach? Nein, keineswegs, das ist eine hochgradig philosophische Frage. Zum Beispiel, wie viel Alphabetisierung oder auch wie viel, wie so schön heißt Code Literacy, habe ich denn vorauszusetzen, wenn ich meinen Mitmenschen den besseren Umgang mit dem Computer nahe bringe. Das ist ja auch in unseren Kreisen so. Wir sind alle an die endlosen Kriege, auf welcher Konsole, welcher Editor der Richtige sei, irgendwie Emacs versus Wim, und so weiter und so fort. Wie viel Kommando-Zeile darf sein? Inwieweit engen mich grafische Benutzeroberflächen ein? Ist der Apple eigentlich ein Dovencomputer oder ist der genial? All solche Fragen sind also hochgradig, politisch und auch tatsächlich realwirtschaftlich relevant. Wir sprechen nicht zuletzt in der IT-Sicherheit über die Auswirkungen von Monokulturen. Ich meine, wenn ich irgendwie eine mehr oder weniger gut gewartet Microsoft-Landschaft betreibe mit Active Directory, dann darf ich mich halt nicht wundern, dass wenn jemand zu diesem Zugang erhält, ganze Landstriche ohne IT-Dienstleistung sind, wie neulich erlebt. Also das ist nicht nur politisch, sondern das ist auch philosophisch und in höchstmaße relevant. Und wenn ich da eine abwertende Handbewegung habe, dann ist das nicht im moralischen oder geausamoralischen Sinne zu verstehen, sondern vielleicht dahin gehen, dass ich sage, ja okay, die Diskussion hatten wir schon, aber es ist völlig richtig, wir müssen die auf jeden Fall weiter vermitteln. Und eine der Aufgaben der Technikphilosophie und der Hacker, gerade im Bereich der sogenannten IT-Sicherheit, ist natürlich, den Menschen da draußen zu vermitteln, wie man die Dämonen wieder einfängt, die wir ihnen gebracht haben mit dem Gebrauch des Computers. Nach dem Motto, Computer lösen Probleme, die wir ohne sie nicht gehabt hätten, das ist zwar nicht ganz richtig, aber eben leider auch nicht ganz falsch. Und wenn wir also im nächsten Jahr auf dem Gebiet von Landkreisen kämpfen, möglicherweise die, gerade mal monatelang, ohne Computer auskommen mussten, dann kann man die Menschen ja mal fragen, wie das denn so ist. Und ob das Leben jetzt eigentlich besser oder schlechter geworden ist, das könnte man ja auch mal in einem Krankenhaus fragen, wo irgendwie dank uralter Embedded Systems und sonstigen Automaten plötzlich mal der Krankenhausbetrieb nicht mehr so richtig weitergeht. Das sind also ethische Fragen, wie also dann auch wieder die Philosophie in höchstem Maße betreffen. Ja, und die besseren Schnittstellen, ich erinnere mich noch an einen Vortrag von dir vor ein paar Jahren auf dieser Veranstaltung, wie Menschen und Roboter, wie die Mitarbeiter in der Chipfabrik, immer so um die Roboter herum tanzen, die da so zwischen ihnen herumfuhren und Rücksicht auf den Kollegen Roboter nahmen und Roboter irgendwie teilhalten. Also da geht's mit Sicherheit auch weiter. Ich hab mich ja gewundert, dass Corona und so nicht viel mehr so diese Diskussion über den Umgang mit ja, mit Apparaturen befördert hat, die man irgendwie vermenschlichen kann und den man irgendwie menschliche Zustände zutrauen oder zuschreiben kann. Das spielt bestimmt auch bald noch eine ganz große Rolle, glaube ich, denn irgendwie hat das das ja auch, haben das die letzten zwei Jahre ja auch so ein bisschen gezeigt ist. Man braucht manchmal Krisen, damit sich technisch Dinge ändern und die ganze Frage von Distanz und Nähe ist auch etwas, was wir ganz aktuell technisch-philosophisch also zu bearbeiten versuchen. Wir werden halt nicht mehr ganz auf den physischen Nahheitsgrad zurückfallen, gerade in unserer Arbeitswelt, den wir vorher gehabt haben, sondern es wird sich irgendwas Hybrides, irgendwas Neues entwickeln und da sind wir noch ganz am Anfang mit den Ärzten, die Vor- und Nachteile kennen und schätzen oder ablehnen. Also das ist auf jeden Fall auch Technik für die Philosophie und wir haben da auch so eine Arbeitsgruppe, die heißt Transcodec, beschäftigt sich mit so was. Also wenn man auf netfiltec.org ist es, glaube ich, mal nachschaut, dann kann man sehen, was die Technifilosofen bei uns hier so machen und das ist ein Thema. Vielen Dank für den Input. Wir haben noch bis zum Stream, wir haben noch fünf Minuten für das Stream-Regier, glaube ich. Fünf Minuten haben wir noch. Also ein Thema könnten wir noch, gibt es noch Wünsche, Inputs, Fragen, Anforderungen, da ist noch was. Ich habe letztens diese Utopie oder Dystopie von Marco Wöckling gelesen, im zweiten Teil, Qualityland und das sind viele von den Themen aufgekommen, so wie gehen wir mit KI um, sehen wir, hat KI bewusst sein das bekannt? Wie reflektiert ihr das? Ist es eine Bereicherung oder ist das eine Ablenkung? Ja, wie das mit der Literatur immer ist, ich sprach vorhin davon. Es gibt ja einschlägig bekannte Filme, sowas wie Blade Runner, Matrix oder sowas, die also durchaus auch in der Philosophie rezipiert wurden und als kulturelles Phänomen begriffen. Und diese Romane, da gibt es auch einige von 1984 George Orwell angefangen und da gab es da ja eine ganze Menge. Das ist natürlich ein künstlerisch-statirischer Umgang, ich erinnere mich noch an Marco Wöckling's Geschichte von dem Herren oder damenlosen autonomen Fahrzeug, was sich seiner selbst bewusst geworden ist, aber dafür den Kontakt zu seiner Zentrale verloren hat und nun also hinkünftig als freies autonomes Subjekt durch die Stadt fährt. Wenn man es gefunden hat, dann kann man es irgendwie benutzen, um die Realität und die Realität der Anonymen-Transports in dieser Welt irgendwie. Also künstlerischer Umgang, man kann mit Computern Kunst und Schönheit schaffen, ist Teil der Heckeretik und auf jeden Fall auch Teil der Philosophie würde ich meinen. Und die Auswirkungen von Kunst und von irrealem künstlerischen Vorstellungen von Welt und Zukunft spielt auf jeden Fall eine ganz große Rolle. Bernard Feldtier, ein einflussreicher Film oder Romanein, der die Technifilosophie hat? Na ja, wenn sicher, die Romane von Stude Bern und Lemm und so weiter, also von daher Science Fiction hat mich schon immer interessiert und jede Frage. Als ich Kind war, hab ich für Entdeckungsfahrten interessiert, in Neue Kontinente und in der Zwischenzeit ist das ja die Raumfahrt, die diese Dinge entwickelt und künstliche Intelligenz und auch wenn man so wie Evolutionsbiologie in die Zukunft gedacht neue Städte zu designen auf der Erde die sozusagen umweltneutral sind und solche auf anderen Planeten zu bauen hat ja was Gemeinsames. Wobei man dann ein bisschen skeptisch wird über die Raumfahrtprogramme die da hinten steht. Also erfolgreich sind die Modelle ja nicht. Warten wir es ab, also die Fahrt ist natürlich auch in Heckerkreisen wie man schon an unseren kabalistischen Objekten hier sehen kann, eine ganz ganz wichtige eine ganz ganz wichtige Einrichtung. Damit sind wir so langsam am Ende vom Stream, 12.15 Uhr bevor da wieder Pausenmusik entsteht will die Regie was sagen? Ich will vielleicht noch in die Frage nehmen zum Ende. So ich habe hier bei mir. Wir als Techniker sind es ja gewohnt, dass wir einen großen Einfluss auf die Welt haben können. Wir bauen die Zukunft, wir bauen die Welt von morgen, wir bauen auch das Desaster, von heute war das eine andere Sache. Wenn man Machtstrukturen sich anguckt ist auch klar, dass die irgendwie einen Einfluss drauf haben. Also halt wer irgendwie das Geld allokiert indem die Techniker dann Dinge bauen, dass es auch klar, dass der einen Einfluss drauf hat, wie die Welt von morgen aussieht. Könnt ihr uns mal explizieren, wie die Technikphilosophie einen Einfluss auf die Welt von morgen hat. Was sind konkrete Effekte, die durch technikphilosophische Diskussionen bewirkt wurden? So vielleicht als ketzerische Frage. Okay Berner, das ist dein Schlusswort. Danke. Also im Endeffekt gibt es einen gesellschaftlichen Rahmen auch einen politischen Rahmen, der umgesetzt werden muss, durch die Technikgestaltung erfolgt. Und wenn ich meinen Leben zurückschau, durch Beratung von politischen Institutionen, wie der EU, Deutsche Bischofskonferenz und Forschungsministerium insgesamt alles in ehrenamtlicher Arbeit. Übrigens haben wir Gesetzgebungsverfahren beeinflusst die ethischen Rahmenbedingungen bei der Gesetzgebung beeinflusst und so weiter. Also die Steuerungsfunktion über diesem kulturellen Bereich in der Gesellschaft ist nicht zu unterschätzen. Und dass wir in Europa die besten Datenschutzgesetze haben hängt schon mit der Ethik und den Philosophen, die wir schon mitgearbeitet haben zusammen. Sehr gut. Dann vielen Dank, Ajo. Vielen Dank, Bernhard.