 Also, wir sind ja im Kongress, wir sprechen nicht nur über Technologie, wir sprechen auch über soziale und ethische Verantwortung, über wie wir die Welt zum Bessern verändern können. Das gute Technologie-Kollektiv unterstützt Ingenieure mit einem Leitfaden für ethisch richtiges Handeln, dass man ethische und soziale Auswirkungen von Technologie berücksichtigt beim Design bei der Ingenieuresarbeit. Janik erzählt euch jetzt mehr dazu. Jan, Beritai. Bitte heißt ihn mit einem Applaus willkommen. Hallo, danke für die Einführung. Bevor wir anfangen, zeigt mir eure Hände. Arbeitet ihr im Techsektor als Designer, Ingenieure, Produktmanager und so weiter. Okay, das sind 95% der Leute, die da sind. Also, heute beantworte ich die Frage, was ist gute Technologie und wie können wir bessere Technologie bauen? Also, erst mal kurz was zu mich. Ich bin Jan, ich bin französisch-deutsch, ich bin Hacker, Unternehmer, Co-Founder einer Start-ups in Berlin. Ich gehöre auch mit den Gründern von Good Technology-Kollektiv. Also, das gibt es etwa seit einem Jahr. Ja, mehr als ein Jahr mittlerweile. Es ist mit vielen verschiedenen Leuten, die Expertise aus verschiedenen Bereichen einbringen. Also, wir haben drei Ziele. Wir wollen die Bevölkerung bilden. Wir wollen Ingenieure ausbilden, wie man bessere Technologie bauen kann. Und das ist jetzt ein Fernziel. Wir wollen uns in den Gesetzgebungsprozess einbringen. Das hier haben wir erreicht bis jetzt. Wir haben 27 Mitglieder, wir haben 20 Medienpartnerschaften. Wir haben den Teil der öffentliche Bildung, das haben wir mit 15 Events gemacht in 2018. Und wir veröffentlichen jetzt einen Standard. Also, das ist mehr oder weniger heute sogar. Ja, und wenn ihr hören wollt, was wir so machen, dann meldet euch auf dem Newsletter hier an. Wie gesagt, das Expert-Council ist sehr vielfältig. Wir haben Leute aus dem akademischen Umfeld, aus Regierungen, Philosophen, Technokarten und so weiter. Also, der Grund dafür ist, also vor einem Jahr haben wir gemerkt, dass in unserem Umfeld, also als Technologiehersteller, haben wir viele über die Stimmen aus unserem Bereich gesprochen. Aber es gibt kein Gremium, dass das irgendwie alles so ein bisschen zusammenfasst und Konsens schafft. Also, wir hatten einige schlimme Entwicklungen in den letzten Jahren. Also, zum Beispiel der Einfluss von Filterbubbles hat man vor fünf Jahren schon darüber gesprochen. Aber ich meine, jetzt entscheiden diese Mechanismen über den Ausgang von Abstimmung. Also, Leute werden radikalisiert, die Gesellschaft wird polarisiert, weil manchmal die Meinung von anderen hört. Also, solche Situationen kennt man eigentlich nur aus Science-Fiction oder dass Regierungen so übergreifend versuchen, künstliche Intelligenz zu verwenden, um zu entscheiden, wer ins Gefängnis kommt oder nicht. Es gibt mehr Machine Learning, mehr Big Data. Das sind alle Aspekte unseres Lebens eingreift. Also, von E-Commerce über Banking bis so eine Navigation geht durch diese Schnittstellen, die uns diese Daten präsentieren. Und gleichzeitig gibt es sehr, sehr positive Entwicklungen, wie zum Beispiel das hier Weltraumfahrt. Endlich passiert etwas. Es gibt große Fortschritte in der Medizin. Autos werden sicherer und erneuerbare Energiequellen werden erschlossen. Also, wie kann es sein, dass das gute und schlechte Anwendung von Technologie beide so vermehrt auftauchen und ja, halt diese beiden Extrempole so immer mehr vertreten sind. Und vielleicht ist der Grund einfach, dass alles so kompliziert ist. Also, die Menge Daten, die verfügbar sind, verdoppelt sich alle paar Jahre. Menschen können das gar nicht mehr verarbeiten. Also, bauen wir kompliziertere Algorithmen, um das zu verarbeiten. Und niemand versteht das mehr ganz. Niemand hat mehr da den Durchblick. Und das ist eine Konsequenz davon. Also, das ist etwa zwei Jahre her. Google hat alle Bilder durchgeschaut, die er hochgeladen habt und hat dann erkannt, was auf diesen Bildern sind. Also, eine ganz coole Technologie. Und die haben das mit ihrer Userbase bereikestellt, bis dann niemand gemerkt hat, dass Fotos von Schwarzen Leuten dann immer als Gorilla erkannt wurden. Da gab es natürlich einen großen Shitstorm. Aber ich meine, in zwei Jahren jetzt haben sie es immer noch nicht geschafft, das zu reparieren. Und ich meine, also, die Lösungen, die sie jetzt haben, waren einfach zu verhindern, dass Affen generell erkannt werden. Aber wenn nicht mal Google so ein Problem lösen kann, was heißt denn das? Und dann hat man natürlich auch beabsichtigte Konsequenzen aus Technologie. Ein anderes Beispiel hier, Grayball, weiß nicht, ob jemand davon gehört hat. Also, Uber wollte wirklich in vielen Ländern Gesetze ändern, um ihre Dienstleistung global auszurollen, überall verfügbar zu machen, also anpassen von Taxiregulierung und der Umgang mit Taxifahren. Und was sie halt gemerkt haben, war, dass sie wollten nicht wirklich, dass Leute untersuchen, was die tun. Also haben die so ein riesiges Gebilde gebaut, Daten aufzubewahren, Social Media Profiles zu sammeln, rauszufinden, ob man für eine Regierung arbeitet oder so. Und dann, diesen Leuten wurde einfach nie ein Fahrzeug angezeigt, wenn man auf Uber gesucht hat. Also das war ganz offensichtlich Absicht. Also das war einfach ein Puzzlestein in ihrer Lobbyarbeit, um Leute dazu zu bringen, Gesetze zu ändern in Bezug auf Taxis. Ja. Und was mich hier stört und beunruhigt, ob jetzt das Absicht war oder nicht, ist, es wird eigentlich immer schlimmer. Je mehr Systeme wir zusammenhängen, desto schlimmer können diese Konsequenzen werden. Also das hier ist ein Screenshot, den ich gemacht habe von Google Maps. Man sieht hier gewisse Orte, die so hier hervorgehoben sind. Und ich weiß nicht, ob ihr das wisst, aber diese Orte, die hervorgehoben werden, sind verschieden für verschiedene Leute. Also ich habe heute noch mal nachgeschaut und es wurde mir anders angezeigt als hier. Also Google filtert ganz stark und hebt bestimmte Dinge hervor. Also ja, wie man hier sieht, jetzt vielleicht, wenn man einfach die Karte anschaut, ist das nicht ganz offensichtlich. Das passiert. Aber das ist jetzt vielleicht nicht so ein großes Problem. Aber die gleiche Firma Google, zusammen mit Waymo, entwickelt auch das hier. Die haben sie jetzt gerade im Testbetrieb. Also selbstfahrende Autos. Ist noch ein paar Jahre weit weg, davon wirklich Realität zu werden. Aber ja, die üben halt damit. Und in bestimmten Städten sind jetzt selbstfahrende Autos im Umlauf. Also denkt euch, dass man jetzt fünf Jahre in die Zukunft und in fünf Jahren hat man vielleicht auch kein eigenes Auto mehr und man nimmt dann ein Auto von Google. Und das fragt einen, wo will man hin? Wo willst du hin? Fragt einen, wann das Auto? Willst du ins Büro oder willst du zu deinem Lieblingsasiatischen Restaurant, wie gerade auf der Karte gesehen? Also wenn es war tatsächlich nicht mein Lieblings, es war einfach das erste, zu dem ich gegangen bin und Google hat das angenommen. Vielleicht will ich zu einem anderen oder ja, vielleicht nicht McDonald's, weil da gehe ich nicht hin und da gibt es noch weitere Resultate und das fünfte ist dann vielleicht eine Werbung. Und ihr sagt mir jetzt vielleicht ja, das ist doch sicher noch okay. Also ich meine, man kann ja immer noch sagen, ich will nicht diese fünf Optionen, zeig mir einfach die Karte. Aber jetzt und obwohl ihr jetzt eine Karte seht, seht ihr nicht alle Optionen, die die Karte oder die Karten-Daten bereithalten. Wenn wir das Auto betrachten, das Ebenbild der Beweglichkeit der Freiheit, dann wird auf einmal dieses Auto eure Sicht der Welt verkleinern, abfiltern und die KI und Algorithmen, deren Algorithmen hinter der Erzeugung dieser Daten stehen, werden diese Daten filtern basierend auf dem Import von anderen Menschen und niemand wird mehr sagen können, warum die Karte so ausschaut, wie sie ausschaut und all das passiert, ohne dass es richtig offensichtlich ist, niemanden. Also eine Technologie, die wie eine Black Box funktioniert. Das ist keine Zukunft, die ich will. Wenn ihr diese Zukunft verhindern wollt, dann müsst ihr euch eine ganz einfache Frage stellen und diese Frage lautet, wer designet diese Produkte und wie lautet die Antwort darauf? Antwort aus dem Publikum, wir machen das und ja, tatsächlich wir designen diese Produkte, wir als Ingenieure bauen diese Produkte und wir sind häufig auch von Ingenieur mäßigen Zielen getrieben, das Produkt so gut wie möglich zu machen, so gut wie wir es können. Zur selben Zeit arbeiten wir aber ständig an Dingen, die an den Grenzen des Machbaren sich befinden und wenn wir an den Grenzen des Machbaren arbeiten, gerät leicht in Vergessenheit, was zu etablierten Produkten die Gesellschaft bereits an Normen und Werten bereithält und wenn die Gesellschaft dann schließlich eine Antwort auf diese Fragen hat, dann sind wir schon wieder weiter. Mittlerweile sind die technischen Systeme so mächtig geworden, so verbunden, dass wir vielleicht einmal tief durchschnaufen sollten und nicht nur an das zu lösende technische Problem schauen, sondern auch auf die Werte und Normen unserer Gesellschaft und um das zu hin, müssen wir auch weitere Fragen zu stellen. Die zweite Frage wäre dann, was ist gute Technologie? Das ist zufälligerweise auch der Titel meines Vortrags, dafür habe ich leider keine Antwort, aber ein Vorschlag, was ich gerne vorschlagen würde, ist, dass wir einen Leitfaden veröffentlichen der Firmen hilft, gute Produkte zu bauen, die einen wertvollen Beitrag zu unserer Gesellschaft leisten. Damit haben wir uns im vergangenen Jahr beschäftigt und während dieser Zeit sind wir zur Einsicht gekommen, dass wenn man es wirklich verwendbar machen will, dann müssen wir es einfach machen. Was ist uns wichtig? Wenn du als Ingenieur, als Organisation diesen Standard verwenden möchtest, dann empfehlen wir vier Phasen und heute haben wir meistens folgenden Entwicklungszyklus, wir bauen was und irgendwann, wenn wir fertig sind, fragen wir mal die Rechtsabteilung, können wir das so unter die Leute bringen? Die sagen, ja. Um das noch mal globaler anzuschauen, haben wir vier wichtige Phasen der Produktentwicklung identifiziert. Die erste Phase hier ist Empowerment. Ein Produkt sollte seine Benutzer befähigen, Probleme zu lösen, es sollte aber auch ihre Mitverantwortung stärken. Menschen haben begrenzte Kapazität, um Entscheidungen zu treffen. Wenn wir die Entscheidungen zu sehr an Maschinen delegieren, dann haben wir das Problem, dass wir irgendwann nur noch den Algorithmus entscheiden lassen. Wenn wir am Schluss die Übertragung der Verantwortung an dem Nutzer so weit möglich die Berücksichtigung seiner individuellen Wahl wollen, meine User, das Produkt verwenden, spüren sie wirklich einen Vorteil, wenn sie das Produkt verwenden. Die Frage darf also nicht nur lauten, profitiere ich als Firma, profitiert meine Firma vom Einsatz dieses Produktes. Hilft dieses Produkt, den Menschen besser zu werden als Person, als Mitglied der Gesellschaft? Und wenn dein Produkt keines dieser Probleme löst, dann solltest du dir wirklich überlegen, inwieweit die Entwicklung tatsächlich zurechtfertigen ist. Unser zweiter Punkt ist, dass unsere Produkte auch Probleme lösen sollen. Mein Lieblingsbeispiel da ist die Smartic-Lüberne Phillips als Beispiel. Da scheint es eine gewisse Mode zu geben, die in so funktioniert nimm ein Produkt, baue ein Wireless Chip dran, machen Etikett dran smart und verdienen viel Geld. Wir verändern nicht das ursprüngliche Produkt, auch eine Waschmaschine mit Wi-Fi bleibt eine Waschmaschine und deswegen denken wir, dass wir tatsächlich über den Zweck des Produktes nachdenken sollten. Das Produkt sollte intelligent helfen und nicht einfach nur smart nach dem Modellabel gelebt sein. Und die Philosophie des Intelligent by Design ist, dass wir zuerst über den Kernen des Produktes, den Zweck des Produktes nachdenken und dass wir nicht einfach der Waschmaschine eine Wi-Fi-Antenne dranschrauben, sondern dass wir uns überlegen, wie wir eine bessere Waschmaschine bauen. Und bei jedem Schritt der Produktentwicklung drüber nachdenken, bauen wir jetzt wirklich eine bessere Waschmaschine oder folgen wir einer Mode. Ein Beispiel dafür ist die Armachbanduhr, die vor langer, langer Zeit erfunden wurde, aber als sie erfunden wurde, war sie eine natürliche Erweiterung deiner Wahrnehmung. Du spürst die Uhr nicht wirklich, du kannst immer auf die Uhr schauen und die Uhr verbessert auch deine Effektivität als soziales Wesen. Du kannst auf die Uhr schauen, du weißt wie viel Uhr es ist. Wenn ich zu Menschen rede, dann mach du mal. Also, Leute, Engineur reden mit mir über ein Problem, das sie gelöst haben, aber dann frage ich, wer ist der Kunde? Und das können sie mir nicht sagen. Also, ich meine, kann ich irgendwie mehr Out-of-the-Box-Thinking haben, Schritt zurückmachen, überlegt ja, was bringt das überhaupt? Wo wollen wir hin mit dieser Technologie in den nächsten Jahren? So, also, das nächste Punkt ist so Einfluss auf die Gesellschaft. Also, da hab ich schon ein bisschen drüber gesprochen mit negativen Konsequenzen. Also, viele Leute merken das zwar nicht, aber wenn man in einem kleinen Start-up ist und an irgendwie Technologie-Robotern baut oder was auch immer, dann, was auch immer man baut, wird vielleicht von 100 Millionen Leuten gebraucht in den nächsten fünf Jahren. Das passiert nämlich oft so. Also, man muss sich von Anfang an überlegen, was ist, wenn jetzt das zum Beispiel von einer Milliarde Leute verwendet wird, hat denn das irgendwie weitreichende Konsequenzen, weil auf dieser Größenordnung hat man ganz andere Dinge, die passieren. Oder nehmen wir irgendwie menschliche Schwächen, nutzen wir diese aus. Also, viele Produkte heutzutage versuchen, dein Gehirn zu hacken, also sie verstehen, wie Engagement funktioniert oder Sucht. Also, zum Beispiel soziale Netzwerke haben extrem starken Fokus im Engineering um irgendeine Zahl von 0,1 auf 0,2 Prozent zu bringen, was zu optimieren, das kann man mit AB-Tests machen. Also, da kann man ständig immer verbessern und naja, so werden die Leute halt abhängig von sozialen Netzwerken. Also, Apple hat jetzt Screen Time implementiert und ein Apple Produkt sagt jetzt, wie viel Zeit du am Bildschirm verbringst. Also, alles, das irgendwie AI oder Machine Learning drinsteckt, muss man wirklich die Datasets genau anschauen, weil es ist sehr einfach, irgendwelche Tendenzen oder Vorurteile da drin zu haben oder Diskriminierung. Also, wenn wir jetzt Mitglieder in unserer Gesellschaft haben, die mehr oder weniger Glück haben, die durchs Raster fallen, die ja können denn vielleicht irgendwie, was weiß ich, nicht mehr überbrauchen oder halt irgendwie Finanztransaktionen ausführen oder so. Also, was ich am Anfang schon gesagt habe. Also, schaut nicht nur euer Produkt an, sondern auch, was die anderen machen und ob es irgendwie bestimmte Kombinationen von Technologien gibt, die noch weitere Effekte hat. Also, versuch mal nachzudenken, was ist das Schlimmste, was passieren könnte und naja, wenn euch nicht Schlimmes da einfällt, dann ist es wahrscheinlich okay. So, dann geht es um Nachhaltigkeit. Also, Nachhaltigkeit muss heute im Designprozess berücksichtigt werden. Also, erste Frage ist, verkürzen wir die Lebensdauer eines Produktes künstlich? Also, ich meine, ja, wenn wir etwas bauen, dass Leute nur ein Jahr benutzen wollen und das wegwerfen, kann man vielleicht irgendwie ein Produkt so bauen, dass es irgendwie weiter funktioniert, wenn es ein Internetdienst dahinter braucht. Also, vielleicht ein Stand-alone-Mode wäre das sinnvoll. Oder was haben wir hier noch? Cryptocurrencies, also Crypto-Währungen, die so viel Strom verbrauchen wie ganze Länder mittlerweile. Also, ich meine, da gibt es vielleicht eine Lösung, die nicht so einen krassen ökologischen Fußabdruck hat. Also, ich meine, wir wissen jetzt vielleicht nicht genau wie, aber oft reichen kleine Veränderungen, um so was zu machen. Und dann fragt euch noch, mit welchen anderen Diensten arbeitet ihr zusammen? Also, wenn ihr zum Beispiel in Europa seid, arbeitet mit Lieferanten aus Europa zusammen, weil die ihre Arbeitnehmer ständig behandeln. Und ich meine, bei Hardware spezifisch, ich meine, meiner Firma benutzen mir auch Hardware, wo alle das letzte kleine Cent versuchen, bei der Herstellung einzusparen. Und der Unterschied zwischen irgendwie ganz billig und brauchbar ist irgendwie ein Sandbruchteil. Und das verändert an der Marge nicht viel. Aber ich meine, eben vielleicht können sich ja entscheiden, nicht den Sandbruchteil zu einzusparen, auch insbesondere, wenn es die Produktqualität so stark beeinträchtigt. Also, das sind so meine vier Hauptpunkte. Dann haben wir jetzt noch zwei zusätzliche Checklisten. Erstens, Daten sammeln. Also, insbesondere im IoT-Bereich gibt es viele Produkte, die so viele Daten wie möglich sammeln. Und das müssen wir wirklich eher als Nachteil sehen, als Risiko. Also, ich denke, wenn wir eine Anwendung bauen, sollten wir uns erst festlegen, was benötigen wir an Daten und dann vielleicht wirklich erst später anfangen, mehr zu sammeln. Also, ich meine, eben diese IoT, die weiß, die sind ja immer an und ohne Aufsicht sozusagen. Das habe ich ja auch schon gesagt. Also, viele Leute sind so fasziniert von der Menge Daten, die es gibt und versuchen so viel wie möglich zu sammeln. Aber oft kann man eigentlich genau die gleiche Anwendung bauen, mit einem Bruchteil der Datenmenge. Und oft macht das dein Produkt auch effizienter. Okay, dann, wie sensibel sind die Daten? Also, ich meine, vielleicht sowas wie die Temperatur in diesem Gebäude ist was anderes als euer Bewegungsprofil. Und wenn es halt irgendwie sehr schützenswerte Daten sind, müssen wir uns genau überlegen, ob wir die überhaupt sammeln wollen. Dann können wir noch dazu wissen, die Leute, dass wir diese Daten sammeln. Also, ich schaue jetzt insbesondere auf Facebook und Google. Also, ich meine, das Einverständnis da ist ja nicht so sehr explizit. Also, ich meine, klar eigentlich steht das da in der Datenschutzbestimmung, aber für normale Nutzer ist da nicht wirklich konkret klar, wann, was da gesammelt wird. Und dann zuletzt benutzen die Designer Dark Patterns, um Leute dazu zu bringen, Daten zu teilen. Also, ich habe ein Beispiel, das hat mir gestern jemand erzählt, über Venmo. Das ist so ein amerikanisches System, um Geld zu überweisen per Smartphone. Und standardmäßig sind alle Transaktionen öffentlich. Also, es gibt da 200 Millionen Transaktionen, die öffentlich sind, inklusive die Beschreibung der Transaktionen. Also, inklusive Dinge, die vielleicht nicht ganz so legal sind, das dann zum Teil offensichtlich war. Aber wenn man das App braucht, dann war das einfach nicht klar, dass das so läuft. Der weitere Punkt ist, dass wir die Endbenutzer tatsächlich Schulen unterziehen müssen, wie sie das Produkt benutzen. Natürlich können wir nicht immer die perfekte Dokumentationen haben. Aber heutzutage sind die meisten Anwendungen, die meisten Apps, die Endbenutzer in Blackboard und viele Firmen bieten ihre Produkte als den magischen Problemlöser an. Und dann schaust du auf die App an, die Anwendung, und du fängst gar nicht an, zu versuchen, sie zu verstehen. Heute ist es ja noch nicht mal mehr so, dass ich wie in den Tagen des PCs die Maschine aufschraube, mir die Komponenten anschaue, weil alles auf dem Tablet, auf dem Smartphone läuft. Und damit kommen wir auch zurück auf die Frage der Empowerments, der Befähigung der User, der Einbeziehung der User. Manchmal ist es eine gute Sache, aber die Prüffrage hier muss sein, ist das dem Benutzer klare mitgeteilt. Kann der Benutzer nachvollziehen, warum diese Entscheidung getroffen wurde? Kann er sehen, dass diese Entscheidung getroffen wurde? Und in diesem Fall ist es so, dass man denkt, Google denkt sich, wir haben die perfekte Antwort auf deine Frage, und wir machen das jetzt einfach mal so. Das ist allerdings schon eine Frage der Produktvermarktung, wie es tatsächlich dem Benutzer mitgeteilt wird. Und wenn wir die Beistriele von Siri, Alexa, Google, Homan schon, dass die vermarktet werden als persönliche Assistenten, als Diener, aber in Wirklichkeit sind die Geräte relativ simpel. Das ist natürlich gefährlich, und das sollten wir verhindern. Weil wenn wir Kinder gegenüber diesen Geräten sehen, die diese vermenschlichten Geräte nun als Gesprächspartner ernst nehmen und dort auch Empfehlungen von ihnen bekommen, das ist gefährlich. Hier sind nochmal zusammengefasst die Bereiche, die ich gerührt habe. Heute haben wir den Standard veröffentlicht als ersten Entwurf, und der ist aufgeteilt in eine Einleitung, dann in die Punkte, die ich gerade erklärt habe und die Erklärung zum Produktentwicklungszyklus, und wie ich würde euch bitten, schaut euch unsere Veröffentlichung an, tragt dazu bei, schickt uns eure Kommentare, und wir hoffen, dass in der Zukunft die Firmen das tatsächliche Produktentwicklungszyklus einsetzen können. Trotzdem wir diesen Standard jetzt veröffentlicht haben, ihn zu haben und ihn tatsächlich einzusetzen, das sind zwei Sachen, und diesen Standard umzusetzen entbindet euch nicht von eurer persönlichen Verantwortung. Wenn ich mich heute hinstelle und als Bauingenieur eine Brücke baue, dann bin ich dafür verantwortlich, und ich glaube, dass wir gleichermaßen die Verantwortung akzeptieren müssen, dass wenn wir Dinge bauen, wir die Verantwortung dafür tragen, bevor wir jetzt zu den Fragen kommen, würde ich gern noch ein Zitat einbringen, das ist Shamas Balapitia, der früher in der Geschäftsführung von Facebook war, und der sagte während einer Konferenz, ich fühle mich ziemlich schuldig, weil irgendwo im Reptilienteil meines Geringes wusste ich, dass etwas Schlimmes passieren hätte können, aber ich denke nicht, dass wir auf diese Weise ticken, und mittlerweile sind wir an einem Punkt, wo wir Werkzeuge erschaffen haben, die uns als Gesellschaft tief halten können, und ich hoffe, dass ihr mit euren Produkten das klar macht. Das ist eine Sache, die ihr nach Hause nehmen solltet. Was ist gute Technologie? Was bedeutet das für euch persönlich? Was bedeutet das für Produkte? Was bedeutet das für eure Firma, für eure Organisation? Vielen Dank. Thank you. Jan Leretail, do we have questions in the room? Danke, Jan Leretail. Da haben wir Fragen im Raum, die Mikrofone sind offen. Please speak loud into the microphone as the people in the stream want to hear you as well. I think microphone number one was the fastest, so please. Thank you for your talk. So, danke für deinen Talk. Ein kurzer Kommentar erstmal und dann eine Frage. Also was du dazu erst gesagt hast, dass man User eine Option geben soll, größere Kontrolle über das Interface zu haben, also wenn man anschaut, User wollen das eigentlich nicht. Also wenn Nutzer online Web-Tools brauchen, nur fünf Prozent der Leute brauchen überhaupt irgendwelche Einstellmöglichkeiten. Also Firmen entfernen diese Knöpfe, weil es einfach nicht effizient ist, das einzubauen. Und was ich dich fragen wollte, was all diese Grundregeln, die du hier vorgestellt hast, klingen eigentlich umfassend und gut. Also ich denke, wir können das als Entwickler akzeptieren. Aber wie verkauft man das einer Firma? Also ich meine, wie können wir das umsetzen? Also als Individuen geht das ja. Aber ich meine, eine Firma, die ja nicht profitorientiert ist, wie überzeugt man diese Werte zu verinnerlichen? Vielleicht nehme ich mal zum ersten Teil deiner Fragestellung. Ja, Firmen haben Wahlfreiheit entfernt, weil sie festgestellt haben, dass Benutzer das gar nicht wollen. Die Applikationen durchlaufen langweilige Zyklen der Produktinnovation und folgen normalerweise KPI's. Die Firmen definieren wie zum Beispiel erhöhtes Engagement und unsere Grundannahme ist, dass die KPI's heute falsch definiert sind. Und aus diesem Grund ist UX und UX-Research mittlerweile so wichtig geworden. Zum zweiten Teil einer Frage. Ich finde das ziemlich interessant. Ich finde das speziell interessant, warum Google das so implementiert, auch wenn es etwas ihrem Business-Modell zugegenläuft. Meine Hypothese ist, dass Mitarbeiter auf der Leitungsebene in der Geschäftsführung sehr genau wissen, was der mögliche Impact solcher Entscheidungen sein kann. Und deswegen glaube ich, dass am Schluss, wenn genügend Leute danach fragen, dann wird das auch passieren. Speziell im Bereich der Technologie sind wir ja relativ flexibel. Und es ist durchaus möglich. Wenn ich mehr Facebook anschaue, dann denke ich, dass sie einfach zu weit gegangen sind. Sie überlegen sich immer neue Anreize, ihre Werkzeuge zu benutzen. Und sie sind zur führenden Plattform im Bereich der sozialen Medien geworden. Für das Produkt selber glaube ich, dass wenn ihr auf die langfristige Wirkung schaut, wird es für das Produkt nicht gut sein. Und deswegen ist es wichtig, die richtigen KPIs anzuschauen. Yes, Ploy asks a question that goes into a similar direction. In vergangenen Monaten hat wir einige Berichte über wichtige Leute, die bei sozialen Medien arbeiten, dass sie ihren Kindern verbieten, die ihre Produkte, die sie in der Firma machen, zu benutzen. Also, diese Leute wissen, dass die Produkte, die sie bauen, abhängig machen, ist etwas überflüssig, weil große Firmen das Gegenteil von deinem Ziel absichtlich machen. Da, glaube ich, müssen wir die Grenze ziehen zwischen Absicht und Fahrlässigkeit. Wir haben das Problem, dass die Regelung durch Gesetze und den Entwicklungen immer hinterherhinkt und unser Ziel ist es, ans Gute im Menschen zu appellieren. Du hast jetzt das natürlich ein guter Punkt, die Endbenutzer mehr zu Schulen zu erziehen. Und wir denken, das sollte Teil der Produktentwicklung sein, genauso wie es Teil der Produktentwicklung ist, zu dokumentieren, wie das Produkt benutzt wird. Wir sehen uns einer solchen Geschwindigkeit in letzter Zeit gegenüber, dass die Leute auch nicht mehr hinterherkommen. Und wir denken, das ist eine Verantwortung, die alle trifft, nicht nur uns im Technologiesektor. Und deswegen versuchen wir auch, uns breit aufzustellen und gemeinsam mit Medienpartnerschaften und Veröffentlichungen für diese Erziehung, Schulung, Veröffentlichung zu sorgen. Und speziell fällt uns auf, dass zum Beispiel Kinder gegenüber diesen Smartassistenten häufig hilflos sind und sie sehr ernst nehmen, so dass also Ziel unserer Schulung, unserer Erziehung sein muss, zu erklären, wie Filterprozesse, Filterblasen funktionieren, wie diese Maschinen funktionieren. Und je früher Menschen das lernen, desto mehr werden sie auch darüber lernen. Danke für deinen Input. Also du hast zwar diese Regeln und ihre Bedeutung vorgestellt. Ich meine, aber die, die genau Auswahl scheint mir irgendwie so ein bisschen willkürlich. Also als eine Person, die das hier umsetzen möchte, würde ich gerne so ein bisschen den Hintergrund hören, also wieso genau jetzt diese Regeln so zusammengestellt wurden. Also ich wollte wissen, habt ihr da historische Beispiele angeschaut? War das so eine Gruppendiskussion? Oder habt ihr euch einfach was aus dem Ärmel geschüttelt? Also meine Frage ist, was hat euch beeinflusst bei der Zusammenstellung von genau diesen Regeln? Das ist natürlich eine ziemlich komplizierte Frage. Wie genau sind wir zu dieser Zusammenstellung der Regeln gelangt? Was gute Technologie sein sollte? Lass mich zuerst erklären, was wir nicht wollten. Wir wollten kein Regelwerk erstellen, dass klar sagt, tut das nicht. Wir hatten uns noch nicht einmal in unserer Runde im GTC darüber einigen können. Deswegen haben wir uns über konkrete Problemstellungen unterhalten, die wir in echten Produkten mit unseren Ingenieerkollegen wahrgenommen haben, Probleme mit der öffentlichen Wahrnehmung, Probleme im Verhältnis mit Behörden, Probleme der Technikfolgenabschätzung. Und wir haben daraus eine ziemlich lange Liste erstellt, die wir anschließend Bereichen zugeordnet haben. Und natürlich haben wir verschiedene Sachen, dann fallen lassen. Aber basierend auf diesen Bereichen, die wir zugeordnet haben, haben wir versucht, euch ein Werkzeug an die Hand zu geben, euch als Ingenieuren, als Designern, um eure Produkte besser beurteilen zu können. Hallo, ich wollte wissen, habt ihr Schnittstellen zu anderen Standardisierungsgremien? Also ich... klingt so, als sei die nicht wirklich sehr aktiv außerhalb von Europa. Also habt ihr irgendwie mit Asien was zu tun, zum Beispiel? Nein, in diesem Augenblick ist unsere Initiative hauptsächlich auf Europa konzentriert. Wir sind im Gespräch mit anderen Organisationen die ähnliche Fragestellungen bearbeiten, wir tauschen Ideen aus, aber wir mussten irgendwo anfangen und haben uns gedacht, dass Europa ein ziemlich guter Platz ist, um damit anzufangen. Und wenn wir das mit anderen Plätzen der Erde vergleichen, wie zum Beispiel Asien, sehen wir uns ganz anderen Stimmungen der dortigen Gesellschaft gegenüber, was zum Beispiel Privatsphäre betrifft. Und deswegen haben wir uns gedacht, dass Europa ein guter Punkt ist, um diese Diskussion in Gang zu bringen und auch um diese Ideen der Technikfolgenabschätzung vorwärtszubringen. Wir wollen aber trotzdem... Hallo, kurze Frage. Ich konnte keinen Spendenknopf finden auf deiner Webseite. Also, akzeptiert ihr Spenden, ist Geld ein Problem? Braucht ihr das? Klar brauchen wir Geld. Aber es ist kompliziert. Wir wollen so unabhängig wie möglich bleiben. Deswegen nehmen wir kein Projekt bezogenen Spenden entgegen. Was wir entgegennehmen, ist, dass wir Sponsoringen für Veranstaltungen, durchführen entgegennehmen. Aber das hängt vom Event ab. Wenn du Veranstaltungen von uns Sponsoren willst, dann bitte wendet dich an uns. Wir haben aber noch keinen regulären Mechanismus, um das zu steuern. Ihr könnt ja vielleicht auf Patreon was machen. Es ist eigentlich nicht so leicht, dass es relativ schwierig nicht in die Falltöchen zu tappen, in die andere Organisationen in vergleichbarer Situationen schon gefallen sind. Deswegen wollten wir das vermeiden. Hi, ich habe mich gerade gefragt, wie die Beziehung zwischen den 1. und 2. Punkt-Aurach-Checkliste zusammenbringt. Das ist ein bisschen kontradiktorisch. Der 1. und 2. Punkt-Aurach-Checkliste ist ein bisschen kontradiktorisch. Das ist ein bisschen kontradiktorisch. Das ist schon ein bisschen kontradiktorisch. Das ist schon ein bisschen kontradiktorisch. Wir sind keine Glutiten. Natürlich ist die Idee, was an Technologie heute existiert und unsere Empfehlung ist diesen Standard anzuwenden und bei weiterer Produktentwicklung zurückzuschauen auf die Antworten, die man gegeben hat, als man zum ersten Mal die Fragen unseres Standards unserer Richtlinie beantwortet hat. Mikrofon 2. Danke für den Tag. Also nochmal zurückkommen auf eine frühere Frage. Also ich finde es eine gute Option, aber ich denke es könnte vielleicht, wenn etwas die einzige Option ist, kann es schnell überflüssig werden. Also ich meine, die Frage jetzt? Also es kann sein, dass es in Europa im Moment funktioniert, aber wenn Europa nicht den gleichen ökonomischen Einfluss hat und nicht mit China mithalten kann oder USA und Silicon Valley, also wird Europa wirklich noch relevant bleiben in Zukunft, wenn die ökonomischen Käfte sich verschieben zwischen den Großmächtern? Ja, wir müssen ja irgendwo anfangen. Natürlich könnten wir uns hinstellen und sagen, ja gut, jetzt warten wir noch ein bisschen und irgendwann werden wir an der Singularität angekommen sein und dann brauchen wir nichts mehr machen. Und gleichzeitig ist es aber so, dass wir an den kleinen Dingen anfangen müssen. Und wir müssen irgendwo anfangen und dafür, dass wir jetzt ein Jahr lang uns damit beschäftigt haben, finde ich, haben wir schon einiges erreicht. Wir sind absolut bereit, das weltweit anzuwenden. Und wir möchten absolut das zu einer weltweiten Veranstaltung machen. Und das auch in anderen Ländern, bei anderen Veranstaltungen, vorstellen, steht absolut in unseren Plänen. Mikrofon Nummer eins. Ja, etwas, was ich noch nicht gefunden habe, ist, wie diese generellen Rechtlinien über die Gesellschaft, wie das, oder wie zum Beispiel so, eine Verfassung, habt ihr euch überlegt, dass ihr vielleicht einfach euch nicht klar genug ausgedrückt habt oder habt ihr das irgendwie so von unten hoch entwickelt? Da hast du natürlich ziemlich recht. Wir haben den Prozess entwickelt und wir haben Fragen definiert, die man sich stolten sollte. Was wir nicht machen, ist, dass wir Antworten auf diese Fragen gegeben haben, weil die von Gesellschaft zu Gesellschaft, von Land zu Land, sich auch ändern. Unterschiedliche Firmen haben auch unterschiedliche Eigenschaften, unterschiedliche Firmenkulturen. Und wenn wir diese Antworten geben würden, dann würden wir schon vorwegnehmen, die Talsache, dass verschiedene Firmen dieselbe Antwort geben müssten. Und wir als Good Technology Collective geben nicht die Antworten, wir definieren nicht, wie die Antwort lauten muss, sondern wir wollen, dass andere sich diese Frage stellen und die Antworten sich selbst geben. Thank you. Number two. Hallo, Mikrofon Nummer zwei. Danke für deinen Talk. Also als Ingenieur wollen wir immer, dass die Nutzer mehr Zeit mit unserem Produkt verbringen. Und ich rede jetzt mal über mobile Games. Wir schaffen eine Welt, in der Leute unser Produkt lieben. Also wir wollen, dass User mehr Zeit in unserer Games verbringen, um mehr Geld ausgeben da. Aber wenn User in unserem Game Zeit verbringen, dann können sie ja irgendwie etwas verlieren. Also wie findet man irgendwie da so die Balance? Das ist auch eine ziemlich schwierige Frage. Die Frage bezog sich ganz speziell auf das Spielen, auf Mobilgeräten. Wo liegt die Balance zwischen dem hohen Engagement der User und der Schwelle zur Sucht in der Verwendung dieses Spiel? Meine Antwort auf diese Frage ist, das hängt von der Absicht ab, vom Wollen. Wenn du als Firma deinen Produktdesign darauf ausrichtest, wie das menschliche Gehirn funktioniert und das in dein Produkt einbaust, dann das Spiel rein auf Glück basieren lässt, dann kann es leicht sein, dass du die Linie zur Suchterzeugung überschreitest. Wenn ich Facebook anschaue, dann bin ich der Meinung, dass Sie diese Linie schon überschritten haben. Und wenn du dir anschaust, warum ich meine, dass Sie diese Linie überschrieben haben, dann geht es wirklich nur darum, die zu definieren, in welchen Bereichen Sie diese Belohnungsmechanismen eingebaut haben. Okay, noch mal eine Frage aus dem Internet, noch mal von Ploy, also über praktische Anwendung. Setzst du diese Leitfaden in deiner Firma ein? Du bist ja Unternehmer. Gute Frage, ja, werden wir tun? Wir haben es gerade erst veröffentlicht und es war ziemlich viel Arbeit, diesen Entwurf zu veröffentlichen und wir werden einer der Early Adopters für diesen Standard sein. Okay, herzlich Dank, Jan. Leute hier, bitte einen Applaus.