 Hallo und herzlich willkommen vom K.O.S.Troller Studio! Ich bin heute in Gespräch mit Gloria Höckner. Gloria ist Performerin und Choreografin und arbeitet in Berlin und Hamburg. Und wir werden heute vor allem über ihr Projekt Sentimental BITS sprechen. Und davor schauen wir uns jetzt erstmal ein Video an, das in Kooperation mit Pedro González entstanden ist. Wir wissen alle, dass Maschinen- und Deep-Learning in Partikulär ist sehr, sehr data-hungry. Auf Affectiva haben wir die Welt's größte Emotionen-Data-Repository gebaut. Wir haben data von über 7,6 Millionen Faces in 87 Ländern um die Welt, die über 5 Billionen Faschelframes, die wir nutzen können, zu trainieren und zu validieren, unsere Algorithmen. Was ist, wenn dein Bristwatch treibt, dein Mut, oder deine Fahrt-Sense, dass du müde bist? Oder vielleicht, dass dein Frisch weiß, dass du stresst bist, so dass es Autoloks zu verabschieden ist? Ich würde das gerne sagen. Ich denke, in fünf Jahren auf die Linie, alle unsere Devices werden eine Emotionschip haben. Und wir werden nicht erinnern, was es so war, wenn wir nicht nur auf unsere Devices waren, und unsere Devices würden sagen, hm, du hattest das nicht, oder? Der Fall ist, dass es so viele Applikationen gibt für diese Technologie. Mein Team und ich haben es realisiert, dass wir sie nicht alle selbst bauen können. Wir haben diese Technologie erfüllt, sodass andere Entwickler die Bildung und die Kreativität haben können. Wir haben erkannt, dass es potenzielle Risiken gibt und potenzielle Abuse gibt. Aber persönlich, mit so vielen Jahren, ich glaube, dass die Menschen, die Emotionen, Intelligen und Technologie, die Potential für Missuse aussehen. Ja, da sind wir wieder zurück. Das war das Video von Gloria und Pedro. Und genau, Gloria, an dich die Frage, magst du ein bisschen was über Sentimental Bits über dieses Projekt erzählen, damit die Zuschauer an den Bildschirm eine Ahnung haben, worum es geht und was in dem Video passiert? Ja. Das Projekt ist ein künstlerisches Recherche-Projekt. Ich bin Choreografin. Darum war Ausgang der Körper und das Verhältnis des Körpers zu Überwachungstechnologie und Digitalisierung. Und so ein bisschen die Frage, wem gehören unsere Daten, die von uns produziert werden und was passiert damit und was gehört das, also was alles wird zu Daten gemacht, so. Und VOROS waren Emotionen und Emotions-Tracking, weil das so ein relativ neues Feld ist, das Effektiv Computing heißt und mich fasziniert hat, weil es da, genau, weil es da plötzlich so ein Begriff von Emotionen gibt, der in anderen Bereichen noch gar nicht so geklärt ist, würde ich sagen. Also hier sieht man auch schon, dass es so ganz gewisse Emotionen gibt, die getrackt werden. Und das sind so die Basis-Emotionen, von denen sehr viele von so Emotions-Tracking-Software ausgehen. Und genau in dem Projekt haben wir uns einerseits damit beschäftigt, was für Nutzungsweisen es gibt von Emotions-Tracking, also wo wird das eingesetzt? Also es ist ganz oft, also einerseits Überwachungstechnologie, zum Beispiel Indizernachternanschlägen, wird es jetzt auch in öffentlichen Verkehrsmitteln eingesetzt, um Gefährdarinnern zu erkennen oder es gibt Pilotprojekte an Grenzen, wo man dann so einen abartagigen Übersteher und nicht mehr einen echten Grenzpolizisten, der eben auch so verschiedene Sachen trakt wie Gesichtszüge, also aus dem Gesicht ist sehr oft Teil von Emotions-Tracking, aber auch Stimme und Körpertemperatur. Und wenn man dann vor diesen abartagigen Grenzpolizisten, wie bei einem Lügen-Tetector-Test, sozusagen abnormale anzeichen, körperlich anzeichen, hat, dann wird man nochmal genauer untersucht. Genau, und das hat mich oder uns in dem Projekt sehr viel beschäftigt. Ab einem gewissen Punkt kam dann auch Lois Bartel dazu, das ist eine Performance-Künstlerin, die sich so, ja, die auch nochmal so ein eigenes Interesse, nämlich Sexualität und Digitalität mit eingebracht hat. Und ja, dieser Bereich, genau, also es kreist sehr viel um diese Frage, was für Modelle liegen hinter diesen Tracking, also was für Modelle fließen in Computing ein und wo werden die benutzt und ist das etwas, dass wir verstehen können, dass wir uns aneignen können und gibt es irgendwie Methoden, wie wir unsere eigenen Daten, wie wir über unsere eigenen Daten verfügen können und vielleicht sogar selbst entscheiden können, was von uns preisgegeben wird und wer das speichert und analysiert und benutzt so. Ja, eine sehr spannende Frage und ich finde es toll, dass du im Rahmen des Chaos-Computer-Club-Remote-Kongress dabei bist, um darüber zu erzählen, auch vor allen Dingen mit einem künstlerischen Blick darauf. Und wir sind jetzt ja auch gerade getracked von verschiedenen Face-Tracking-Software, genau, vielleicht kannst du nochmal genauer darauf eingehen, welche Face-Tracking-Software ihr verwendet habt in dem Projekt, also man sieht das ja auch in dem Video, diese Punkte, die dann auf dem Gesicht erscheinen und dann werden Emojis und Emoptionen angezeigt, bis zum Beispiel die ganze Zeit gerade ein Mann, wenn ich das richtig sehe. Und da lächelt sie, lacht sie, das zeigt ihr emoticorrekt an. Joy. Joy and surprise. Joy and surprise, fantastic. Warum? Genau, also wie ihr euch da für eine Software enttieten habt und wie euer Verhältnis dann auch dazu ist oder war. Ja, ich habe mich eigentlich aufgrund von so einer Vorrecherche, die ich vor dem eigentliche Recherche-Projekt schon gemacht habe, viel mit affektiver Auseinandergesetzt, das ist diese Firma, die auch in dem Video, das wir gerade gesehen haben, vorkommt. Und die sind spannend, weil die von sich claimen, den größten Datensatz an Emotionen zu haben und eben so eine Emotions... Und du warst gerade kurz wütend, ich habe es genau gesehen. Mach mich richtig wütend. Story. Genau, die claimen von sich den größten Datensatz an Emotionen zu haben und eben eine künstliche Emotionsintelligenz bieten die an aufgrund von Face-Tracking. Und das ist auch genau diese, also da gibt es so ein öffentliches Tool, das man sich runterladen kann, das habe ich gemacht und damit werde ich gerade getrackt. Also das ist von affektiver gerade und genau, on FaceOSC, das, was du da trägst sozusagen, das ist so ein Face-Tracker, den wir ausprobiert haben, weil man den kombinieren kann. Also man kann den kombinieren mit einer anderen Software und der dann lernen, dass gewisse Gesichtsausdrücke zum Beispiel gekoppelt sind mit Musik oder Klängen. Und da war der Ansatz quasi ausgehend von diesen Signifiers, die man hier bei mir sieht, also Engage, Joy, Sadness, Discuss, Surprise 4, die zu vertonen und den klaren Klang-Signale zuzuweisen, um dann zu gucken, okay, wie klingt und da sieht der Bereich aus, der dazwischen liegt, so. Das passiert mir auch an dem Video, das wird dort gezeigt, dass dann gewisse Impulse, gewisse Klänge auslösen. Also in dem Video haben wir eigentlich vor allem mit so damit gearbeitet unsere digitalen Repräsentationen, also Videos von unseren Gesichtern zu verglitschen, um dann nicht mehr so gut zuordnbar zu sein. Wie habt ihr das gemacht? Habt ihr da irgendwelche Filter und Effekte drauf gelegt und das dann durch die Face Tracking Software gejagt? Ja, so ungefähr, genau. Und man sieht das dann ja, dass die Gesichter total verzerrt und breit gezogen sind und entfremdet wirken. Und man sieht dann auch, wie schnell eine Face Tracking Software eigentlich auch aus dem Rudergerät und gar nicht mehr funktioniert oder zuordnbar ist oder wie leicht es eigentlich ist, sie sozusagen zu hacken, wenn man so möchte. Ja, wobei ich glaube, das liegt vielleicht auch an den Tools, die uns zur Verfügung stehen, weil die, also eine so Maschinen-Learning basiert, ist vor allem dann gut, wenn es Unmengen an Daten verarbeiten kann und ich glaube, da gibt es mittlerweile schon sehr, sehr gute Tools, die allerdings eher Firmen besitzen, die auch richtig viel Geld haben, um so eine Infrastruktur überhaupt darstellen zu können. Und das, was dann so online zugänglich ist, das ist so ein bisschen, das funktioniert, aber jetzt nicht mega gut. Ja, und das, was ihr dann gemacht habt im Prinzip, ist, dass ihr vor dieser Kamera gesessen habt und ihr habt dann ausprobiert, wo sind die Grenzen, wo fängt es an, rumzuspinnen. Aber es funktioniert ja tatsächlich auch relativ gut, oder? Wie ist so deine Meinung dazu, nachdem du dich damit viel beschäftigt hast? Ja, ich bin eigentlich ziemlich enttäuscht, muss ich sagen, von diesen Tools. Ja, okay, du bist als Mann angezeigt. Aber ich meine, also es ist auch krass, dass es so ein, also das hier zum Beispiel ist ein binäres System. Es gibt Mann und Frau und innerhalb dieses binäres Systems kann ich erkannt werden. Wenn ich mich dann überhaupt nicht identifiziere und quasi eine Identität zwischen diesen Code-Besitze, kann die gar nicht erfasst werden. Und ich glaube, das ist so, egal wie gut die jetzt wirklich funktionieren, das ist eigentlich so meine größte Enttäuschung von diesen Tools, dass die vermeintlich neutral, also dass diese vermeintlich neutrale Technologie eigentlich auch einerseits gebiased ist natürlich durch die Daten, die da drin sind und andererseits aber auch durch ein gesellschaftliches Coding-System sozusagen, dass man nicht umgehen kann, oder dass da erneut eingeschrieben ist. Und wenn dann solche Tools benutzt werden, um auf Menschen zu gucken, wird das sozusagen doppelt oder erneut in die Wahrnehmung der Menschen eingeschrieben. Ja, das ist, glaube ich, auch so mein künstlerischer Ansatzpunkt, zu sagen, ah ja, okay, wenn diese Systeme quasi so simpel funktionieren oder auf Modellen, auf Gesellschaftsmodellen auch basieren, die ich zum Beispiel unterwandern möchte, dann wäre es auch interessant zu sagen, okay, der Körper kann die auch irritieren, indem er sich einfach nicht so verhält oder abseits dieses Codes bewegt. Und genau da ist der Begriff Glitch relativ wichtig geworden in der Recherche und in der Arbeit, die daraus entstehen wird. Und die Idee ist eben einerseits, den Körper zu benutzen, um in Software-Systeme ein Glitcher sofort zu bringen. Und andererseits auch die Idee, dass der Körper selber Glitch in kanningen Sinne von innerhalb von so einem benähernden System, das auf ihn guckt, quasi fehlerhaft funktioniert oder nicht fehlerhaft, sondern also in diesem Sinne wäre dann der Glitch oder das, was vermeintlich fehlerhaft ist, eigentlich das, was man sucht so und was so neue Formen des Körpers und des Daseins sein könnten. Ja, der Begriff Glitch ist ja auch schon länger in der Kunst Glitch Art, die ganzen, auch in der Musik, wo man dann irgendwelche digitalen Störungssignale drin hat und die dann aber wiederum als Ästhetik verwendet werden, als etwas Neues empfunden werden, was interessant ist. Und ich finde es super spannend, dass sie das in diesem Kontext auch auf den Körper bezieht. Wie ist da für dich das Verhältnis von Körper und Daten? Also du arbeitest ja ganz viel mit dem Körper als Performerin und Kulturgrafin. Was hast du da für dich in dieser Arbeit rausgefunden? Also einerseits finde ich total spannend, von zum Beispiel so einer neuen Wahrnehmungsweise ausgehend neue Körperlichkeiten zu erzeugen. Also auch da ist der Begriff Glitchilfreich, weil er so ein bisschen den Rand oder die Grenzen von einem System aufzeigen kann. Wie wird dir gerade? Und das sind eigentlich total spannende Momente, wenn man es merkt, okay, da hört es jetzt auf zu funktionieren, aber dann weiß man auch, was noch funktioniert. Und zum Beispiel finde ich es auch total spannend, ja quasi zusammen mit so einem System herauszufinden, ah, okay, ab wann, keine Ahnung, ab wann wird eine neue Körperlichkeit produziert, die nicht mehr so klar klassifizierbar ist und die aber auf der anderen Seite trotzdem total spannend ist und was aussagt und vielleicht sogar eine Emotionalität oder etwas Effekte anregt, die jetzt nicht eindeutig klassifizierbar sind. Ja, also das ist ja auch fast primitiv, wenn ich mir jetzt angucke, bei dir sind irgendwie sechs Kategorien, die angezeigt werden, Anger, Joy, Sadness, Disgust, Surprise und Fear, wobei dann geht man auch von Grundemotion aus und der Mensch ist ja viel komplexer und da sind so viele Nuancen, die wir in unserem Gesicht in unserer Stimme in allem haben und diese Software kann gar nicht uns so lesen, wie wir in unserer Komplexität sind. Wird man da eigentlich irgendwann paranoid, wenn man die ganze Zeit vor so einer Kamera ist und merkt, okay, meine Gefühle werden jetzt getrackt, geht man da mit einem anderen Blick durch die Gegend danach nach so einem Projekt? Ah, bist du gerade traurig, weil du... Zeig ich mal. Na, jetzt checkt das nicht so. Aber wenn man simuliert, dass man weint, dann... Also paranoid bin ich jetzt nicht geworden, aber ich finde es auf jeden Fall wichtig, einen Bewusstsein dafür zu haben, was mit Daten so gemacht wird und dass die quasi auf uns zurückfallen wieder, diese Erhebungen. Ja, also im Sinne von zum Beispiel, dass dann das Werbung immer mehr personalisiert wird und man sich irgendwann in einer quasi Feedback-Schleife mit seinen eigenen Dürfnissen befindet und eigentlich gar nicht mehr was Neues erfährt. Wir sind ja zur Glück in einem Land, wo Datenschutz im Vergleich zu anderen Ländern noch eher strenger betrachtet wird, obwohl da natürlich super viel auch schiefläuft und nicht okay ist. Deswegen ist ja die akute Bedrohung für Deutschland weniger groß als jetzt in Ländern wie China, wo sowas ja auch schon passiert, Gesichtstracking. Ja, na ja, also in Berlin zum Beispiel, Südkreuz gibt es auch schon einen Face-Tracking-System, das eigentlich alle Leute, die da vorbeilaufen, abgleichen mit Fotos von Leuten, die gesucht werden. Und da gab es auch schon, also in solch innerhalb solcher Systeme gibt es auch quasi wie so etwas wie Miss-Us oder auf jeden Fall Fehlbenutzung, weil dann Polizeibeamtinnen aus Mangel an den Passenden, also die haben dann kein gutes Bildmaterial gehabt und einfach wiedergenommen von Leuten, die denen ähnlich sind, von VIPs oder so und die in das System eingespeist. So kann halt, also... Ja, ich wollte das nicht relativ hier und ich finde es total gut, dass ihr euch damit auseinandersetzt. Und genau, da hat man dann ja schon so einen Impuls zu sagen, okay, ich möchte das nicht, ich möchte darüber bestimmen können, wer jetzt mich analysiert und dass man sich eben maskiert und sein Gesicht entfremdet, verfremdet. Genau. Ihr könnt das auch mal ausprobieren, wenn du möchtest. Da wollte ich grad mal fragen, wie, du bist ja jetzt Expertin, wie kann ich quasi dieses Tracking von Sonnenbrille, das hat man nicht so gut geklappt, ich probiere noch mal eine andere. Da kann man so ein bisschen die Form auf jeden Fall, ja, die Augen sind schon... Ja, also ich mein, Expertin bin ich nicht, ich hab mich damit ein bisschen fast so. Aber ich glaube, ich würde auch sehr dafür plädieren, einen... Ja, oder ich... Dieses Projekt ist für mich persönlich so ein bisschen eine Möglichkeit, mich dem diesem großen Thema zu nähern und mir das anzueignen und nicht davor zurückzuschrecken, weil es quasi so groß ist und ich das nicht studiert hab oder so, sondern keine Ahnung, mich mit Softwareprogramm auseinandersetzen und ausprobieren, was die irritieren könnte, so. Also ich sehe zum Beispiel, wenn ich hier die Augenpartie kann ich es ein bisschen nach oben und unten ziehen und es verwirrt auf jeden Fall schon mal ganz schön mit der Breite des Gesichtes, also fällt dauernd aus und kommt wieder rein. Ah... Also was auf jeden Fall gut helfen soll ist, geometrische Formen auf sein Gesicht zu malen um zum Beispiel damit das es nämlich erkennen kann, wo hören die Bangenknochen auf, wie weit reichen die Augen, wo sind Augen? Ich kann mal probieren, hier so ein Augenshape zu malen. Was passiert, wenn ich licht? Ah ja, Licht ist auch natürlich nicht so gut. Sieht fantastisch aus. Oh ja, krass. Er kennt deine Augen immer noch. Oh, jetzt bist du im Knutschmodus. Ja, es gibt auch natürlich ganz andere Ansätze mit und Überwachung umzugehen. Es gibt zum Beispiel eine Performance von Lauren McAfee die hat das Gegenteil gemacht. Da ging es mehr um dieses Thema und das Phänomen Follower dass man im Prinzip digital einem Menschen folgen kann und sie hat dann eine Performance gemacht indem sie, ich glaube 24 oder 48 Stunden von einer Kamera gefilmt wurde und man konnte ihr folgen und wirklich vom Klo gar bis ins Bett nach stalken. Und das finde ich auch ein interessantes anderen Ansatz, den man haben kann. Also sich da kompletten Überwachung ausliefern gegenüber anderen Menschen. Aber ihr habt ja jetzt ja einen ganz spielerischen Zugang und warum habt ihr diese Art des Zugangs gewählt und warum ist es vielleicht auch so wichtig? Also ich finde ich finde es wichtig dass man gar nicht so einfach sich auf beides konzentriert. Ja, vielleicht mal. Also für mich ist ein spielerischer Zugang quasi auch einer indem man diese Tools als kreative Tools benutzen kann. Zum Beispiel dieses FaceOSC Face Tracking, das du benutzt. Damit kann man eigentlich total kreativ umgehen und auch was produzieren. Das ist ja nicht ein reines Überwachungs- sowieso. Es gibt sozusagen diese technologischen Möglichkeiten Gesichter zu erkennen und zu speichern. Und das bedeutet ja nicht dass diese Möglichkeit per See schon schlecht ist. Aber es geht eher darum, wann wird es ein Problem so? Ab wann möchte man das eigentlich nicht mehr? Und also zum Beispiel diese Firma Affektiver die wir gesehen haben und von der ich gerade getrackt werde auch hier deren ganzes Modell basiert auf einem psychologischen Modell dass eben davon ausgeht das Emotionen das was innerhalb des Körpers liegt über die Oberfläche des Körpers oder den Ausdruck des Körpers erkenntlich sind. Also dass man den Ausdruck dass man von dem Ausdruck des Körpers auf das Inneren des Menschen stießen kann. Und das gibt aber relativ viele Kritiker in die sagen okay dieses Emotionsmodell dass da benutzt wird von Paul Eggmann war das damals ausreichend. Kontext zum Beispiel wird nicht ausreichend genug einbezogen aber vor allem kann der körperliche Ausdruck für ganz viele Dinge stehen. Also wenn ich so mache kann es sein dass ich gerade Unterlappsschmerzen habe es kann aber auch sein dass ich von was angeekelt bin oder also es kann sehr sehr viele Ursachen haben und es kann natürlich auch performen und du kannst auch performen also ich gehe durch die Überwachungskamera und lächeln mir einen ab und bin superfröhlich und dann schmeiß ich die Bombe irgendwo hin so ganz plakativ formuliert oder ziehe mir eine Maske auf also wie effektiv ist es dann eigentlich diese ganze Ausrettung der Daten sehr fragwürdig auf jeden Fall euer Ansatz ist ja ein sehr kritischer und trotzdem sucht ihr einen spielerischen Umgang damit ihr ja auch erstmal einen positiven Zugang schafft beziehungsweise überhaupt erstmal eine Auseinandersetzung also mir macht das gerade super viel Spaß aber ich krieg es nicht so richtig hin den auf den eine Saure zu mapen was passiert bei dir du siehst auf jeden Fall lustig aus jetzt hast du eine Brille auf ja ich werde noch immer erkannt aber nicht mehr so gut ich versuch nochmal hier ich habe hier so eine Suppenkelle was gut hilft ist so was wie die Augen zu verdecken Suppenkelle funktioniert auch super da geht gar nichts mehr also Leute immer mit der Suppenkelle vor die Tür das ist ja nicht geface tracked also eigentlich muss man diese Punkte die benutzt werden um das Gesicht zu erkennen die muss man irritieren oder ablenken genau also hier mit zwei Bellen funktioniert das schon mal super jetzt hat da wieder mein Gesicht ich habe jetzt hier noch so eine Augenklappe wir gucken was dann passiert oh, die ist ein bisschen zu groß also mit einer Augenklappe funktioniert aber auch schon teilweise es gibt ein künstlerisches Projekt das sich schon ganz viel damit auseinandergesetzt hat was für Gesichtsbemaltungen gegen face tracking helfen kann sie wie Dazzle heißt dieses Projekt von Adam Poweray und der hat das relativ der hat sich sehr viel damit beschäftigt und tatsächlich so Shapes gefunden die die helfen einen unsichtbar zu machen für Überwachungstechnologie Überwachungskameras allerdings das ist so ungefähr zehn Jahre alt dieses Projekt das heißt mittlerweile werden ganz andere Technologien benutzt und das ist vielleicht auch ein um noch mal anzuschließen eine Frage vorhin dieser spielerische Ansatz schließt mit an, dass ich es eigentlich auch ganz gut finde weiter zu suchen und sich so ein bisschen spielerisch damit zu befassen ah ja okay was ist denn jetzt was hilft denn jetzt weil man ja weil natürlich neue Technologien sich mega schnell weiterentwickeln und und ich ich sonst sehr schnell vor diesem Ding stehe okay ja kann ich nicht durchschauen also entwickelt sich so schnell dass ich da gar nicht hinterherkomme aber eigentlich kann man in so einem permanenten experimentieren und mitwachsen sein also das passiert ja auch zum Beispiel wie wir Social Media benutzen oder so dass der Mensch und der menschliche Körper die Ausdrucksweisen sich total schnell also eigentlich total schnell digitale und technologische Entwicklungen verkörpern und sich dadurch auch erweitern lassen und das kann aber das kann genauso gut in quasi so einem emanzipatorischen Moment der Aneignung von Überwachungstechnologien sein dass man sagt okay ich will eigentlich irgendwie dranbleiben und weiter mitverkörpern wie ich mich für Bewachung schütze ja ich glaube das ist ein super gutes Schlusswort denn wir sind leider am Ende unserer Interviewzeit angelangt ja vielen vielen Dank Gloria dass du mit uns darüber gesprochen hast ein super spannendes Thema und auch wichtig und ja ich hoffe dass wir dranbleiben und immer wieder neue schöne face tracking gegen die Maskierungstechniken entwerfen können also ich finde wir sind auf jeden Fall super gewappt mit dem letzten Tag vielen vielen Dank nochmal und das war es so weit von hier aus dem Chaos Controller Studio im Gespräch mit Gloria Höckner