 Herzlich willkommen zum Digitalen Salon am Humboldt-Institut für Internet und Gesellschaft. Schön, dass Sie alle hier sind oder schön, dass Sie uns alle zuschauen. Mein Name ist Theresa Züger und ich darf ein paar einleitende Worte zu diesem Abend mit dem Titel Frozen Eye des Digitalen Salons sprechen. Und ich habe mir im Vorgang des Abends mal so überlegt, wie lange ist eigentlich Snowden her? Wer von Ihnen weiß das aus dem Kopf? Das ist jetzt zehn Jahre her. Im Sommer 2013 gab es die Snowdenenthüllung und ich weiß noch, damals haben wir davon gesprochen, dass es quasi die Zeitrechnung vor- und nach Snowden ist. Also damals war das eine gefühlte Zeitenwende mit dem Wissen über Überwachung, was plötzlich dann zugänglich war. Und was ist in diesen zehn Jahren alles passiert? Was hat sich alles in dieser Debatte verändert? Tja, also ich glaube, das ist eine Frage, die wir heute Abend vielleicht auch beleuchten können, weil man muss sich fragen, der Aufschrei über die Überwachung, den wir damals gehört haben, den spürte zumindest ich in der Gesellschaft heute so nicht mehr. Und wir müssen uns vielleicht fragen, warum ist das so? Hat sich wirklich die Situation verändert? Nicht, dass ich wüsste, die Rechtslage hat sich auch nicht verändert. Gibt es vielleicht eine Risikonation zum Thema Überwachung? Ist vielleicht auch eine Frage, die uns heute Abend beschäftigen könnte? Oder gibt es eine Wissenslücke in der Gesellschaft, sich klar zu werden, in welchen Räumen, welche Art der Überwachung stattfindet und was diese gesellschaftlich bedeutet? Und genau deswegen stehe ich auch heute Abend hier und darf ein paar einleitende Worte sprechen, weil wir uns mit dem Thema Gesichtserkennung auch in einem anderen Projekt beschäftigt haben, auf das ich kurz hinweisen darf. Es ging nämlich um ein Projekt, wo wir unter dem Titel KI menschlich erklärt, verschiedene KI Technologien gemeinsam mit Bürgerinnen und Bürgern erklärbar machen wollten und gemeinsam geschaut haben, was sind denn eigentlich die Fragen, die Bürgerinnen interessieren und mit welchen Methoden sollte man die erklären. Und eines der Dinge, was dabei herausgekommen ist, ist ein Online-Experiment, bei dem man KI Facial Recognition und Facial Detection, was da der Unterschied ist, werden sie dann dort erfahren, selbst testen kann und mehr darüber erfahren kann, wie diese Systeme technisch funktionieren. Und wir hoffen, dass der heutige Abend sie auf diese Erklärungen nochmal besonders neugierig macht. Sie dürfen die dann danach hier auf der Terrasse auch direkt ausprobieren und in den nächsten Tagen wird das System auch online zur Verfügung stehen. Genau, und ich hoffe, dass uns quasi der heutige Abend einfach nochmal einen Anstoß gibt, dieses Thema neu aufzuarbeiten, weiter darüber nachzudenken, weil, ja, Snowden sind zehn Jahre her, aber so wahnsinnig viel hat sich vielleicht in der Debatte dazu gar nicht verändert. Großes Fragezeichen, ich bin gespannt auf die Antworten unserer Gäste und gebe jetzt ab an die Moderatorin. Dankeschön. Vielen Dank an Theresa Züger. Ich habe jetzt ganzartig alle Fragen, die du hast mitgeschrieben, damit wir die dann hier auch natürlich besprechen. Snowden, das habe ich bisher gar nicht auf dem Schirm, aber natürlich, zehn Jahre können wir mal darüber reden. Also, vielen Dank für die einen führenden Worte und damit legen wir los heute Abend hier im Humboldt-Institut für Internet und Gesellschaft. Mein Name ist Nancy Fischer. Ich versuche, dieses große Thema mit den Gästen heute so ein bisschen in diese 50 Minuten ungefähr rein zu quetschen. Am Ende natürlich auch noch Zeit für eure Fragen, sei es jetzt quasi per Ex, per Twitter, wie ich ja immer wieder lernen muss, oder eben hier direkt im Raum. Es gibt wahrscheinlich eine Menge Fragen. Es gab ja im Vorfeld einen kleinen Workshop dazu. Vielleicht ist da schon das eine oder andere im Kopf zum Thema Gesichtserkennung, was euch interessiert. Genau. Also, ich bin sehr neugierig, was wir hier besprechen wollen. Denn das Thema Gesichtserkennung, denke ich mal, ist eines, was uns alle entweder jetzt schon im Alltag hier und da immer wieder begegnet oder in der Zukunft vermutlich eher mehr als weniger begegnen wird. Und deshalb ist das der digitale Salon zu Frozen Eye, der Zukunft der Gesichtserkennung. Und ja, das Ganze nicht nur einfach auf unseren Handys oder im Privaten, sondern vor allem im öffentlichen Raum wollen wir das besprechen. Und der öffentliche Raum ist tatsächlich riesig. Also, es ist der Bahnsteig, wo wir auf unseren Zug warten, ist es der Eingangsbereich von der Veranstaltungslocation, wie dieser hier oder in einem Konzertsaal, wo wir ein Konzert besuchen wollen oder vielleicht das Stadion in Paris, wo ich dem kommenden Jahr mir die olympischen Spiele anschauen möchte und dann gefilmt werden könnte. Wer in China lebt, für den ist es vielleicht der eigene Hausflur, wenn man die Tür öffnet und da schon direkt erkannt wird oder die Kantine, wo ich mein Essen mit meinem eigenen Gesicht bezahlen kann. Also alles potenzielle Orte, wo Gesichtserkennung stattfindet oder stattfinden könnte in Zukunft. Und genau, wir wollen uns anschauen, wo wir da gerade hier in Deutschland stehen, das vielleicht am Anfang und uns dann so langsam raussoomen in den nächsten Minuten, wie die EU das ganze Thema gerade regulieren will und wie es eben auch weltweit aussieht. Denn das ganze Thema kann man gut finden, Stichwort Sicherheit, kann man nicht so gut finden, Stichwort Zu wenig Freiheit und wir müssen in jedem Fall drüber reden, was da gerade passiert. Und das tun wir mit den folgenden Gästen. Bei uns ist ein Mann, dessen Hauptjob eigentlich die Einhaltung vom Datenschutz ist, Prof. Ulrich Kälber, Diplominformatiker seit 4,5 Jahren der Bundesbeauftragte für Datenschutz und Informationsfreiheit der Bundesregierung. Er war vorher fast 20 Jahre SPD Bundestagsabgeordneter für Bonn und in der Zeit auch ein paar Jahre parlamentarischer Staatssekretär im Bundesjustizministerium. Hallo Ulrich Kälber, herzlich willkommen. Gleich so überlegt, du hättest dich ja wahrscheinlich in deinem Alltag sehr viel unter Überwachungskameras auffallen, fallen die dir eigentlich noch auf? Ich glaube auch nicht immer, aber dann, wenn sie mir auffallen, das ist auch noch eine Behörde unter meiner Kontrolle, ist dann schau ich hin, ob deswegen das richtig deklariert hat. Ah, und wenn nicht, gibt es eine Rüge. Dann gibt es eine E-Mail an das Referat und die melden Sie. Okay, sehr konsequent. Bei uns ist auch Pia Sombetski, Policy and Advocacy Managerin bei Algorithm Watch, eine Menschenrechtsorganisation mit Sitz hier in Berlin und auch in Zürich. Und Pia geht es darum, ADM-Systeme im öffentlichen Sektor zu regulieren. ADM, im Prinzip eigentlich ein anderes Wort für KI, oder Pia? Kannst du uns einmal kurz erklären, was da der Unterschied ist? Für alle, die das noch nicht wussten, so wie ich auch im Vorfeld? Ja, das ist ein bisschen dieser Rückenbegriff zwischen KI und irgendwie allem anderen, was so dazwischenfällt, was mit automatisierten Entscheidungen zu tun hat, sozusagen. Also ADM heißt Automated Decision Making aus dem Englischen. Und wir versuchen häufiger eher mit diesem Begriff zu arbeiten in den Kontexten, in denen es sozusagen mehr Sinn macht, irgendwie von der Funktion zu sprechen. Also dass eben automatische Entscheidungen getroffen oder vorbereitet werden. KI ist halt so ein bisschen ein Fantasiebegriff, dem man jetzt aber nicht so richtig aus dem Weg gehen kann, auch wir nicht so richtig. Also in Debatten auf Panels werden wir ihn natürlich auch irgendwie benutzen. Aber es ist immer noch so ein Hilfsbegriff, der eigentlich ja nicht unbedingt umschreibt, um was es geht. Danke. Erich Tuchtfeld ist hier Rechtswissenschaftler, Co-Vorsitzender von D64. 60, sagt das T-Shirt auch, haben wir schon alle gelobt. Dem Zentrum für Digitalen Fortschritt ist ein Berliner Verein, der eine progressive Digitalpolitik fordert. Und er beschäftigt sich damit, wie man soziale Plattformen regulieren kann, die Privatsphäre im Internet schützen kann, also im Prinzip genau unser Thema heute Abend auch. Und er gehört auch den Bündnissen Reclaim Your Face und Hashtag BANBS, also BAN Biometrics Surveillance, die biometrische Überwachung verbannen, sozusagen. Also beides Bündnisse, die sich gegen Massenüberwachung im öffentlichen Raum einsetzen. Herzlich willkommen, Erik. Und damit ist eigentlich auch schon klar, du bist auch nicht der größte Fan wahrscheinlich von der Überwachung, über die wir heute sprechen wollen, der Gesichtserkennung. Das ist völlig richtig. Ich glaube, der Vertreter oder die Vertreterinnen der Sicherheitsbehörden, die hier der Pfanne hochhält, warum wir unbedingt ganz viel Überwachung im öffentlichen Raum brauchen, die fehlt ein bisschen bei unserem Panel. Aber ich glaube, wir haben trotzdem ganz viele spannende Punkte, über die wir uns austauschen. Auf jeden Fall, genau. Und wir fangen direkt jetzt mal langsam an, nachdem ich so lange vorgestellt habe, wer hier alles so sitzt. Genau, wie gesagt, diskutieren Sie gerne mit, wenn es Fragen gibt, am Ende auf jeden Fall gibt es genug Zeit dafür. Und sonst können Sie auch gerne mal zwischendurch die Hand heben, Sie oder Ihr, je nachdem. Vielleicht eine Frage mal an alle im Raum, bevor wir so richtig einsteigen. Wer von Ihnen, wer von Euch entsperrt sein Handy denn mit Gesichtserkennung? Ah. Das haben wir da bestimmt über die Hälfte. Ach, sogar ruhig. Da gibt es keine Probleme, oder? Kein schlechtes Gewissen. Nein, schlechtes Gewissen nicht. Mein Job ist ja auch nicht überall zu schreien geht nicht, sondern ich muss immer abwägen, sowohl bei den Sachen, ich erlaube als bei den eigenen, um dann gegen die Sachen vorzugehen, die tatsächlich problematisch sind, bei meinem privaten Handy, auf dem bestimmte Ding gar nicht drauf sind, habe ich für mich die Entscheidung getroffen. Okay. Das ist ja auch so ein kleiner und kleiner Ausschnitt über das Private, weil wir nicht reden, wir wollen über den öffentlichen Raum reden und da würde ich gerne einmal wissen, worüber reden wir da eigentlich momentan in Deutschland? Also ich glaube das erste, was man immer vor Augen hat, ist eine Kamera, die irgendwas filmt, aber die gibt es ja eh schon lange und viel, aber wenn wir über die Gesichtserkennung sprechen, auch die KI basierte, was genau ist das? Also kann das einmal einer von Euch quasi uns technisch nahlegen, welche Möglichkeiten gibt es da mittlerweile? Also ich glaube, ich würde an der Stelle sogar das Feld noch ein bisschen breiter aufmachen und gar nicht nur von Gesichtserkennung sprechen. Also gerade in Deutschland gab es ja zuletzt den Fall in Hamburg, da wurde zum Beispiel ein System eingesetzt am Hansa-Platz, es gibt auch eine Kundgebung am Samstag, wer zufällig da ist, kann gerne mal vorbeischauen und sich direkt mal dazu informieren und da ist es zum Beispiel gar nicht konkret Gesichtserkennung, die da gemacht wird, sondern da wird Bewegung erkannt, da wird dann geschlagen, ist jemand gefallen, also es ist sozusagen noch ein viel breiteres Spektrum um was es da geht und von Fällen, von wirklich so Gesichtserkennung muss man immer so ein bisschen gucken, wo ist das wirklich da, weil da natürlich Datenschutzfragen auch dahinter stecken, die beachtet werden, da kann uns Herr Kälber glaube ich noch viel mehr zu erzählen, warum das problematisch ist in vielen Fällen, aber was wir eben auch immer wieder in Untersuchungen sozusagen verstellen ist, dass einerseits Unternehmen ja auch teilweise vorgeben zu können, dass sie von Bewegung zum Beispiel Personen auch identifizieren können, also allein am Gang zum Beispiel jemanden identifizieren zu können, das geben auch Unternehmen an teilweise, ob das dann jedes Mal so wirklich 100%ig klappt, genauso wie bei der Gesichtserkennung, ist schwierig, aber in so einem Fall wie jetzt am Hansa-Platz wird sowas eben auch besprochen, dass das auch eine Gefahr darin ist, selbst wenn da jetzt vielleicht nicht auf die Gesichtszüge per se geguckt wird, also ich glaube, das wird uns vielleicht für die genau weitere Unterhaltung helfen, das so ein bisschen weiter zu denken, auch biometrische Überwachung, ja. Ich würde den Punkt gerne unterstützen, das ist was aufwendig ist, was in vielen Städten auch schon im Einsatz ist, also Mannheim hat zum Beispiel was ähnliches auf dem Bahnhofsvorplatz, Kasse gibt's glaube ich, äh ähnliche Systeme und die Grundidee ist, dass Anomalien entdeckt werden und dann gemeldet werden und dann können ähm können Polizisten und ähm Polizistinnen sich das anschauen, also werden quasi gewarnt und gemeldet und wenn man darüber nachdenkt, was diese Systeme machen, dann ist es ja wirklich, dass unterteilt wird in regelkonformes und auffälliges Verhalten. Also es geht nicht darum, ob es legales oder illegales ist, es geht nicht darum, wie das jetzt zumindest bei der Gesichtserkennung in der Regel transportiert wird, dass man schwer Verbrecherinnen und Verbrecher irgendwie fangen möchte, sondern es geht einfach nur darum, den öffentlichen Raum möglichst allgemein zu überwachen und dann jede Anomalie gemeldet zu bekommen und dann einer menschlichen äh Überprüfung zu ähm quasi eine menschliche Überprüfung zu verziehen und dieses Suchen nach Anomalien, das passt eigentlich nicht zu einer äh zu einer liberalen Gesellschaft würde ich sagen, weil das eben die feste Anomal von Regelzustand und Abweichung ist und eine liberale Gesellschaft lebt ja in der ganz viele Menschen sich unterschiedlich ähm bewegen und unterschiedliche äh Dinge machen können und nicht nur, weil sie einen unauffälligen Gang haben äh jedes mal von der äh von der Polizei ähm irgendwie bei der Polizei eine Meldung auslösen und es gibt, das ist ja dieses Thema beschrieben, die ähm eben nicht nur mit Gesichtserkennung, sondern auch mit eben zum Beispiel Gang oder ähnlichen persönlichen Auffälligkeiten arbeiten, die zu erkennen, die waren, wenn ich mich nicht täusche zumindest in der G20 oder G8, G20 Aufklärung in äh in Hamburg, äh da hat die Polizei die tatsächlich dann ähm soweit ich weiß retrospectiv eingesetzt ähm und versucht Straftäterinnen und Straftäter ähm zu erkennen aufgrund von naja sagen wir mal also Auffälligkeiten im Gang oder ähnlichen um ähm dann eben ohne dass es Gesichter erkannt werden können oder Ähnliches zu versuchen ähm ähm zu identifizieren, welche Ähm ähm dort waren, also diese Systeme sind schon im Einsatz. Gucken wir jetzt mal, dieses am Hansa-Platzanwalt davon habe ich auch gelesen, es geht da um Schubsen, um Treten, wenn jemand taumelt oder beispielsweise auch ähm ähm sich defensiv Körperhaltung hat oder eine aggressive Körperhaltung, Sachen wo ich jetzt, wenn ich das gut finde, sagen könnte, naja da guckt ja die Polizei so oder so hin, so spart sie halt Personal und kann dann mal draufschauen, wenn was passiert. Wie siehst du das, Ulrich Kälber, ist das schon okay, dass sie das da so machen? Weil offensichtlich dürfen sie es ja auch. Also wir müssen uns auf jeden Fall jeden dieser Versuche anschauen, Südkreuz ist ja die zweite Stufe auch ein Versuch so etwas zu bekommen, die Erkennungsraten sind übrigens schlecht, das ist eine der weiteren Probleme, ähm man muss sich immer anschauen, erhöht es tatsächlich so ein Konformitätsdruck ähm nimmt's bewusst oder unbewusst das Gefühl zu ich werde laufend beobachtet und jemand anders bewertet das jetzt aktuell, später ich werde in Gruppen eingeordnet ich werde eventuell einfach verdächtigt, ich kann auch Zielobjekt einer ähm ja Repressionsmaßnahme sein, das war ja dann der Streit zwischen uns und der Bundespolizei in der Auswertung des ähm Versuchs am Südkreuz hier, dass wir sehr unterschiedlich die Zahlen bewertet haben was das eigentlich bedeutet und die Bandbreite nimmt halt zu ähm wir haben die Echtzeiterkennung und die Retrospective ähm wo wir jetzt auch sagen, mein Gott da gibt's jetzt ein Video von der Aufnahme eines Einbruchs, eines Überfalls und den jetzt zu versuchen aus diesem Video der festgestellten oder mindestens stark vermuteten Straftat zu versuchen, kennen wir jemand davon, ist natürlich anders zu bewerten als 89.000 Menschen die jeden Tag in den Bahnhof gehen, alle durch ein System erfassen zu lassen und dann gucken, kenn ich den und dann eben durchaus, kann man vielleicht nachher draufkommen mit hohen Fehlerraten auch behaftet zu sein oder eben die Frage was ist denn etwas, worauf später niemand komisch guckt ist das, wenn ich mal ein Kumpel auf die Schulter haue ähm wenn man sich stärker umarmt als andere, ähm was ist denn mit so einem freundschaftlichen Geschub so unter Teenagern geht so was noch, darf man überhaupt in der größeren Hamburg, darf man zu Demos geben, bei dem man weiß da nehmen vielleicht auch Gewalt bereitere Gruppen zu und mit einer gewissen Wahrscheinlichkeit wird irgendwo am Rande was passieren oder werde ich dann schon mal biometrisch erfasst ähm bis dahin, dass eben tatsächlich die Systeme noch weitergehen, auch wer hat gerade eine aggressive Grundstimmung in den Gesichtszügen bei wem ist Spannung im Stimmbild zu nehmen, ähm die Anbieterinnen und Anbieter ähm sind ja jeden Monat dabei und präsentieren etwas anderes, ähm es geht ja immer danach, dass sie glauben Wahrscheinlichkeiten oder Gesetzmäßigkeiten aus Beobachtung ableiten zu können, vieles davon ist natürlich Humbug und hält keiner Überprüfung stand, aber das sind dann zum Teil die gefährlichsten weil dann wird irgendwas vermutet ich, wir kennen alle diese Ferns oder nicht alle, so eine Fernsehserie wo immer so aus Mikrogesichts ausdrücken was schließen wollen, ob jemand lügt oder der Täter war ähm ist ja etwas völlig umstrittenes und nur weil es Computer machen ist es auf einmal angeblich richtige Wissenschaft und keiner stellt das mehr in Frage und in diesem Spannungsfeld ist irgendwas was unser von abhält eigentlich unsere Freiheitsrechte auszuleben zahlt das massiv ein und es kommt halt jede 3 Monate irgendwas Neues obendrauf es wird ja nie was weggenommen es kommt immer was Neues drauf die Überwachung, Beobachtung und Auswirkung wir gucken uns solche Versuche wie gerade in Hamburg, vielleicht auch in anderen deutschen Städten, natürlich Südkreuz haben wahrscheinlich die meisten von uns mal gehört immer genau an und wenn wir nochmal auf Südkreuz schauen, weil das wollen wir natürlich besprechen heute, also es ist mittlerweile 6 Jahre her dieser Testversuch und damals hat der damalige Innenminister Horst Seehofer gesagt das verlief alles sehr erfolgreich und könnte eine große Hilfe sein für polizeiliche Arbeit ich meine 80% wurden damals erkannt und falsch erkannt also die Falschstrefferrate waren wohl unter 0,1% also einer von 1000 dazwischen die 20 waren irgendwas, also weder falsch noch richtig einfach nicht zugeordnet ist es so schlecht gewesen, dafür dass es auch schon 6 Jahre her ist ja, ist es und es ist auch nicht so viel besser geworden am anderen vergleichen wobei man eben tatsächlich auch nicht beides hinbekommt die Fehlerquote und die hohe Erkennung auch da ist natürlich aus meiner Sicht schon in der politischen Auswertung geschummelt worden aber das spannende ist es war eben nur eine politische Auswertung und ganz wichtige Größen um das einschätzen zu können, was das bedeutet sind in der Auswertung gar nicht genannt worden also 89.000 Menschen waren es damals täglich diesen Bahnhof aufgesucht haben und jetzt ja die Frage wie viele von denen die man ja eigentlich sucht glaubt man denn, dass sie am Tag diesen Bahnhof betreten jetzt sagen wir mal, das sind vielleicht sogar was Berlin haben ja von Horst Seehofer und von Markus Setter gehört Fuhl der Verbrecher 10 gesuchte Verbrecher betreten täglich Südkreuz dann hieße das immer noch bei diesen Werten dass von jeweils 8 Alarmen nur einer richtig ist siebenmal rückt die Polizei aus greift sich jemand aus der Menge der diese Person nicht ist würde nur ein gesuchter Verbrecher pro Tag bei dieser Rate in Südkreuz sein während 99 von 100 Zugriffen Fehlalarm das heißt von 100 mal würde 99 mal jemand Augenblick mal kommen sie bitte mit weisen sich aus was andere auch beobachten können kann traumatisierend auch sein passiert ja auch nicht mehr als 55 jährigen bio-deutschen Weißen sondern passiert jungen Frauen mit dunklerer Hautfarbe und anderen eben überdurchschnittlich häufig und ja für mich ist das ein großes Problem das ist so lange her schon dieses Thema Südkreuz ist das in der aktuellen Debatte spielt das bei euch noch eine Rolle weil man könnte jetzt sagen Horst Seehofer fand es gut richtig können wir an Akta legen eigentlich eine gute Nachricht also das Horst Seehofer nicht mehr Innenminister ist das ist auf jeden Fall eine gute Nachricht und das mag auch damit zusammenhängen also es ist jedenfalls mein Eindruck dass man nach so weit ich das mitbekomme hat man jetzt nach Südkreuz nicht gesagt dass also die Politische haben das versucht als Erfolg zu verkaufen trotzdem hat man ja danach nicht gesagt man führt es jetzt an allen Bahnhöfen wahrscheinlich weil der Bundestag Schutzbeauftragte auch nicht so ganz damit einverstanden gewesen wäre die Rechtsgrundlage dafür auch fehlen würde genau wobei das hätte man ja versuchen können politisch zu schaffen die Frage ob das europarechtskonform möglich gewesen wäre aber diese Versuche gab es ja nicht also mein Eindruck ist tatsächlich dass auch mit dem vielleicht auch mit dem Regierungssexe das alles so ein bisschen abgeflaut dann kann man auch einfach Corona man hatte quasi andere Dinge um die man sich kümmern müsste gleichzeitig ist es aber schon so dass wir also global wir wollen ja auch ein bisschen vom Kleinen ins große gehen kann man das schon beobachten dass das immer weiter zunimmt und das biometrische Gesichtserkennung immer größere Rolle spielt und dass deswegen auch diese ja jetzt sehr so heftige und organisierte Reaktionen aus der Zivilgesellschaft seit mehreren Jahren folgt mit Ben Biometric Surveillance als globales Bündnis wo ganz viel auch lateinamerikanische nordamerikanische Partnerinnen und Partnerorganisationen mit mit im Boot sind hier auf europäischer Ebene reclaim your face also der Anspruch der Zivilgesellschaft auf diese zunehmende Überwachung dann zu reagieren und jetzt das nicht so schleichend passieren zu lassen sondern dann auch organisiert ein Widerstand zu leisten und ich glaube dass man dem auch das also die aktuelle Debatte verdankt und dass es eben nicht einfach unter dem Radar läuft und eingeführt werden kann sondern dass wir jetzt zum Beispiel auf europäischer Ebene im AI Act die dann zumindest das Verbot der echtzeit biometrischen Identifizierung diskutieren und das Parlament sich jedenfalls dafür ausgesprochen hat Pierre, willst du ergänzen? Ja, genau ich würde vielleicht noch einen Punkt ergänzen und zwar ist mein Eindruck schon aber auch dass so ein bisschen versucht wir teilweise auch von der biometrischen Gesichtserkennung auch so ein bisschen über die anderen Wege abzulenken oder so ein bisschen sie zu umgehen teilweise auch oder eben nicht ganz transparent eben darüber zu sprechen über diesen Kameras die jetzt irgendwie biometri tauglich sind und das sind einfach die State of the Art Tech Bereich sage ich jetzt mal dass die auch immer noch für biometrische Gesichtserkennung eingesetzt werden könnten wenn man wollte auch wenn man es dann vielleicht nicht legal macht in dem Moment also ich unterstelle es jetzt nicht irgendwie den Sicherheitsbehörden an sich aber es ist schon vielleicht weniger thematisiert dann das es ja immer noch eine Möglichkeit ist auch wenn man jetzt sagt ne wir legen dann eine Software drüber und dann wird das Gesicht verpixelt oder ne die die Personen die zum Beispiel deren Bewegung wir untersuchen das sind dann irgendwie Strichfigürchen oder so also da braucht man ja doch sehr viel Vertrauensvorschuss finde ich jetzt so als Bürgerin dass man das dann ja auch so annimmt dass das dann nur so genutzt wird weil Sicherheit dafür gibt es ja dann trotzdem nicht also mir fährt er auch so auf deutscher Ebene einen Fall ein oder nicht ein Fall aber da hatte die Deutsche Bank gerade in Coronazeiten zum Beispiel Tests gemacht zu Videoüberwachung die Personenflüsse auch in Zügen untersuchen sollte und da sollte eben drauf geguckt werden halten die Leute genug Abstand ne also es ist jetzt nicht überall eingeführt kein Sorge aber es ist sozusagen pilotiert worden und da wurde eben auch jetzt Förderung an ein Startup versprochen dass eben damit wirkt Gesichter so zu verzerren dass man die Personen nicht mehr persönlich sozusagen im Gesicht erkennen kann aber was man zum Beispiel immer noch könnte ist halt eben zu die Personen zu kategorisieren also zu schauen ist das eine Frau vielleicht mit langen Haaren oder ist das eine weiße Person oder nicht und solche Identifizierung sind dadurch ja auch immer noch möglich und überall wird halt sozusagen dann aber betont in den Werbemaßnahmen dazu dass hier ganz besonders auf Datenschutz geachtet wird und also ich frage mich so ein bisschen inwiefern da so jemand auch genau vielleicht kein Kälber neben mir irgendwie was Gutes getan werden will indem man diese Dinge alle so versucht so abzufedern schon vor vornherein also das ist so ein bisschen mein Blick darauf nachdem ich sozusagen mich versucht habe so ein bisschen einzulesen irgendwie verschiedenen Anwendungsmöglichkeiten eben die man auch so hat im großen Komplex Überwachung sozusagen heutzutage also vielleicht können wir die Frage nochmal weitergeben ich meine im öffentlichen Raum reden wir jetzt ganz oft eben von Tests, von Versuchen, von drei monatigen Probephasen aber wenn wir über so was reden was jetzt auch wirklich schon stattfindet beispielsweise wie die Polizei arbeitet die das ja schon häufig einsetzt auch sozusagen in ihrer Ermittlungsarbeit wie ist es denn was ist denn eigentlich so richtig die Rechtsgrundlage hier in Deutschland bevor wir gleich auch mal auf den AI-Act gucken der jetzt schon zweimal angesprochen wurde also können Sie uns oder kannst du mal einmal zusammenfassen was darf im Moment eigentlich gemacht werden ist bestimmt ganz einfach das zu sagen ist es natürlich leider nicht alleine schon weil natürlich z.B. die die Polizeigesetze natürlich in den Ländern sind es gibt wieder ein Bundespolizeigesetz es ist gerade in der Novelle also wird bald da was anderes sein die Frage was ein Bundeskriminalamt machen darf was dürfen auch noch weitere Sicherheitsbehörden machen was darf auch stattfinden im unmittelbaren Schutz und zwar öffentlichen Gebäuden aber die halt nicht öffentlich öffentlich sind sondern z.B. also Video- oder Sicherheitsüberwachungen das ist sehr unterschiedlich vieles von diesen spannenden Fragestellungen wird oft wenn sie nicht mehr in Piloten sind auf Generalklauseln gestützt das halten wir für nicht tauglich weil wir sagen wenn man sowas tut dann muss es spezial gesetzlich transparent geregelt werden man muss nachweisen die Abwägung vorgenommen hat muss zeigen wie man die Auswirkungen abmildert wie man wirklich informiert alles das muss stattfinden da habe ich ja auch die dreifache Aufgaben ich darf die Öffentlichkeit sensibilisieren das wäre das wenn ich sage halte ich für völlig falsch und ist vielleicht sogar wird am Ende von Verfassungsgericht scheitern da haben wir in fast 90% der Fälle bisher richtig gelegen wenn wir das vor einem Gesetz gesagt haben ich darf prüfen ob europäisches Recht gebrochen wird also DSGVO oder JDI-Richtlinie und das letzte ist aber auch Beratung das heißt in der Beratung gehört dazu ich weiß die wollen dorthin und ich versuche ihnen halt zu helfen in der Beratung dass sie es möglichst nah also nicht nur Gesetzeskonform sondern möglichst Datenschutz und Bürgerrechts freundlich machen und da stoßen wir auf viele Geschichten ich halte das wie gesagt dass man gestoßen wird und da passiert irgendwas schon für schwierig weil das natürlich auch ein Bayes auf was reagiert die Polizei da erlegt aber es gibt auch andere Fragestellungen also die Polizei identifiziert zum Beispiel in einem Ort wo sie Videoüberwachung machen darf identifiziert eine Person in der Menge und es ist unglaublich schwierig dieser Person durch eine große Menge als Mensch zu folgen ein System also Systeme die schaffen dann zu sagen also ich markiere eine Person und der will ich jetzt eine Zeit lang auf dem Videobildschirm vielleicht auch von einer Kamera zur anderen folgen ist das eigentlich noch legitim das sind so die Fragestellungen die auf uns zukommen und wie gestalte ich das in dem Augenblick versuche ich keine Auswertung keine Erkennung zu machen sondern ich verbessere sozusagen die Möglichkeiten dass ich mit weniger Leuten das Gleiche tun da gibt es dann schon Dinge die auch möglich sind ganz viel Detailarbeit dann auch und eben die Gefahr es kommt immer drauf immer dazusagen das ist da wo ich das Skeptische bin nach Motto ihr müsst auch mal woanders was runternehmen wenn ihr woanders was drauflegt in der Überwachung damit der Gesamtdruck nicht steigt damit eben dieses permanente Überwachungsgefühl nicht entsteht dass das Verfassungsgericht ja angesprochen hat als Gefahr für eine freie Gesellschaft woanders was runternehme ich olege gerade wo das sein könnte aber das ist dann vielleicht ein anderes Thema oder hast du sofort eine Idee wo also in meinem letzten Tätigkeitsbericht habe ich schon gesagt dass manche der Dateien die mal in den Chili-Gesetzen geschaffen wurden oder später von dem wir sogar feststellen dass sie in Wirklichkeit gar nicht gut genutzt werden dass man die auch mal abschaffen kann in der Form also Antiterrorismus-Datei, Rechtsextremismus-Datei nicht weil ich glaube dass man nicht mehr gegen Rechtsextremismus machen wir nur diese Datei ist völlig überflüssig also an solchen Stellen könnte man Dinge tun man muss aufpassen in dem ganzen Bereich von Staatstrojanern Quellen, TKÜ und ähnliches also immer dort wo die Maßnahme praktisch auf alle oder auf ganz große Teile der Bevölkerung ausgedehnt wird um ganz wenige zu finden und stattdessen besser Maßnahmen machen wo ich da wo ich schon etwas habe dann versuche mit Unterstützung von Technik schneller, zielgerichteter und am Ende auch gerichtsfeste Dinge nachweisen zu können Ich finde vielleicht eine Ergänzung dazu weil wir gerade ja in der Anmoderation im Input haben wir darüber gesprochen ob etwas Noten da hat man das Gefühl einer Zeiten wenn die jetzt kommen vielleicht der globale Aufschrei gegen staatliche Überwachung und jetzt fragt man sich ist das wirklich eingetreten ich glaube die Zeitenwende die man hatte die war 2001 das war nach wie vor der 11. September 2001 als Zeitenwende in der Sicherheitspolitik es gab auch in den 90er Jahren schon problematische Sachen es gibt auch wenn man zurückblickt in Zeiten der SRF Terrorismus gab es eine Historie, eine Welle an Gesetzen die damals Richtung mehr Überwachung gingen und quasi Startpunkte waren für das was wir seitdem erleben aber eigentlich gibt es seit 2001 einen fortwährenden Druck immer weiter Überwachung auszubauen und das betrifft eben alle Bereiche also wir haben die Kamera und Video Überwachung im öffentlichen Raum wir haben den massiven Privaten quasi Überwachungskapitalismus auf den ja der Staat zurückgreifen kann also wenn es Strafverfolgungsmaßnahmen oder ähnliches gibt dann versucht der Staat an all diese Daten der privaten Anbieter zu kommen und sie sich zu Nutze zu machen um dann Informationen über Individuen zu erlangen wir haben die Debatte über die Vorratsdaten 15 Jahre, wir haben mit der Chatkontrolle also man kommt vom 100 also dem Ziel das private Nachrichten auch überwacht werden und gelesen können und es gibt glaube ich oft so eine Art Dammbruchmoment also da versucht man irgendwas das erste mal einzuführen und dann gibt es eine Phase der Etablierung und mit einem Mission Creep da hat man eine Technologie zum Beispiel eingeführt da hat man gesagt man hat jetzt das erste mal irgendwo eine Befugnis absolute Ausnahmebefugnis für den Staatstrojaner also dafür dass der Staat eine Software installieren darf entgerät auszuspähen und dann folgt der Mission Creep dann guckt man ach gibt es nicht noch andere Funktionen andere Aufgaben für die man dieses Software dann verwenden könnte weil der Damm ist ja schon gebrochen und dahinter kann man dann weitergehen und das ist eben in der Sicherheitsgesetzgebung der letzten 20 Jahre sehr gut zu beobachten dann ist es doch aber eine sehr sehr gute Nachricht was momentan sozusagen auf europäischer Ebene passiert, das müssen wir uns natürlich im Detail angucken aber genau das wurde im Sommer quasi verabschiedet die erste Verordnung über künstliche Intelligenz also dieser AI Act von dem vielleicht der ein oder die andere gehört als im Prinzip weltweit einmalig bislang im Gesetz was künstliche Intelligenz ein bisschen regulieren soll und der auch die automatische Gesichterkennung verbieten will 2024 soll es vermutlich in Kraft treten mal gucken es wurde jetzt erstmal so grundsätzlich gelobt aber vielleicht gucken wir uns mal im Detail an ist es sowas wo ihr sagt Pia beispielsweise finde ich eigentlich grundsätzlich gut oder gibt es da viele kleine Abzweigungen wo man doch nochmal genau hinkriegt ja ich bin fürchte ich muss ein bisschen den Dauner hier reinbringen also an sich die Idee war gut die Kommission hatte ja in dem Entwurf schon geschrieben also die Kommission schreibt ja den Entwurf dann für die Regulierung und hatte da eben schon reingeschrieben biometrische Ferne Identifizierung so nennt ihr das da soll verboten werden europaweit und die deutsche Bundesregierung hatte das eigentlich auch schon ihren Koalitionsvertrag reingeschrieben biometrische Ferne Identifizierung sollte europarechtlich ausgeschlossen werden da gab es sozusagen diesen Sink also diese Überschneidung gleichzeitig hatte die Kommission aber schon eine ganze Listern Ausnahmen auch schon mit reingeschrieben das ist immer so ein bisschen der Teufelsteck natürlich im Detail und das sind dann doch so viele dass ich jetzt nicht mehr glaube ich alle aufzählen könnte also es gibt dann sozusagen Gründe warum man dann eben das doch einsetzen könnte so was wie es werden Kinder vermisst oder Opfer von Gewalttaten werden sollen aufgespürt werden also es gibt dann doch ne ganz lange Liste an Ausnahmen und der Rat also sozusagen die Mitgliedsstaaten in der EU haben dann danach ihre Position eingereicht und eben nochmal auch so ne Generalklausel wir kennen das eigentlich schon vorformuliert hatte noch mal dazu gepackt also den Grund Nationale Sicherheit nochmal drauf gesetzt unter dem man dann irgendwie alles mögliche fassen kann und unsere Perspektive darauf war dann schon sehr genau wir waren dann sehr ernüchtert so zu sagen an spätestens an dieser Stelle weil man natürlich irgendwie ein Verbot so verbessern kann dass es irgendwie keinen wirklichen Effekt mehr hat das Parlament hat es jetzt eben im Sommer versucht so ein bisschen wieder ins Gleichgewicht zu bringen und in ihrer Position hat ne kleine Ausnahme mit reingenommen ich denke das ist in den Parlaments Verhandlungen zwischen den verschiedenen Parteien dann so entstanden wo eben gerichtlich ne Erlaubnisklage geben werden muss damit man das nachträglich noch mit KI untersuchen kann, Videomaterial und eben versuchen kann, Person zu identifizieren und auch vor allem dann wenn eben schwere Straftaten schon vollzogen wurden wobei da auch der kleine Haken dran ist es ist nicht europaweit genau irgendwie harmonisiert was ne schwere Straftat ist also verschiedene Länder könnten das wahrscheinlich auch verschieden auslegen, so hab ich das verstanden aber die europäische Parlamentsversion ist schon noch so mit die Beste, sag ich jetzt mal aber sie hat sich jetzt nicht final durchgesetzt die Verhandlungen sind nicht abgeschlossen bisher und das wackelt schon auch sehr an der Stelle ob dieses Verbot dann wirklich wirken kann als Verbot und wenn wir uns aber also die Ausnahme angucken klar, nationale Sicherheit ist so ein weites Feld ich glaube da ist klar, da kann jeder irgendwas reininterpretieren nach Staat wie es mir gerade passt, das wird schwierig aber wenn wir sagen Besuchung vermisstes Kind gibt es denn nicht auch Gründe für euch wo ihr sagt okay, da ist es auch legitim das einzusetzen oder ist es per se was was einfach keine Rechtfertigung hat also wenn ihr euch mal als Anwälte der dieses genaue Themas einsetzen müsstet das ist natürlich sehr schwierig, weil das sind ja genau die Fälle also quasi gerade Kinderschutz also Terrorismus und Kinderschutz und so die zwei großen Themen die man eigentlich in Sicherheitsgesetzgebung hat mit denen argumentiert wird ich glaube, dass das durchschlagen Argument ist für mich diese Systematik die man eben in Sicherheitsgesetzgebung sieht wenn wir biometrische Echtzeit- Identifizierung, Fernidentifizierung erlauben für einen bestimmten Bereich für einen ganz engen Bereich, nur für vermischte Kinder dann haben wir quasi den Dammbruch dann wird es eingeführt, dann wird die Technik angeschafft dann wird eine Infrastruktur geschaffen die biometrische Fernidentifizierung ermöglicht und dann wird das ist quasi nahezu absolut sicher bei der nächsten Überarbeit, dann brauchst du nur einen großen Terroranschlag oder ähnliches, da hat man diese Infrastruktur und dann wird man das ausweiten und dann stellt sich natürlich die Frage also warum, wenn wir diese Technologie haben warum setzen wir sie dann nicht ein wenn wir damit Menschenleben retten können und dann kann man natürlich gut argumentieren ja, also ist euch wirklich der Datenschutz dann wichtiger als das Menschenleben also das lässt sich ja recht einfach aufmachen dieser Art der Debatte und ich glaube deshalb, dass man wirklich diese klaren Grenzen einziehen muss, die auf Infrastruktur-Ebene letztendlich funktionieren also wollen wir ganz grundsätzlich das biometrische Fernidentifizierung gibt aber nein, weil das Nein, aber wird dazu führen, dass das aber immer größer wird und kaum noch einzufangen ist und das ist auch ein bisschen mein quasi Problem mit der Positionierung eines Parlaments die biometrische Echtzeitidentifizierung soll zwar nach dem Parlament verboten werden das ist auf jeden Fall schon ein großer Gewinn ich glaube auch für die Zivilgesellschaft aber die Retrospective also die nachträgliche Identifizierung die möchte ja auch das Parlament unter engen Voraussetzungen ermöglichen und das führt natürlich so nach dem Prinzipien von Angebot und Nachfrage schon dazu, dass es eine Nachfrage nach einer bestimmten Art von Software auch gibt nach einer bestimmten Technologie und die dann auch entwickelt und verbessert wird so dass sie vielleicht dann bereitsteht wenn man irgendwann dann die Echtzeitidentifizierung auch haben möchte also erstmal ist der Einsatz von KI eigentlich überhaupt für Sicherheitsbehörden geraten ja, natürlich also wenn die nach einem großen Kindermissbrauch-Skandal oder Kinderpornografie-Skandal um mal das Beispiel dass sie immer als Totschlagargument gegenüber Datenschützern verwendet wird ob er anderen ganz schweren Strafen hat und wenn die ganz große Mengen von Datenbeschlagnahmen dann möchte ich, dass die Tools haben mit der sie diese Daten in der vernünftigen Form sich anschauen können und nicht per Hand irgendwas tun müssen wenn die eine Aufnahme von einer Einfahrt an dem Kindergarten haben dann sollen sie diese Werte versuchen mit anhand von Fotos, die sie von möglichen Verdächtigen haben abzugleichen wenn sie an einer Stelle eine Entführung hatten dann sollen sie abgleichen dürfen ob an dem Tag in irgendeiner der Geschwindigkeitskontrollen das gleiche Nummernschild aufgetaucht ist um vielleicht rauszukriegen in welche Richtung das weitergegangen ist und über viele dieser Punkte sind Tools auch erlaubte Kombinationen von Daten bei schweren Straftaten worüber wir uns immer unterhalten ist bringt es wirklich was auf den Haufen von Daten einen weiteren Haufen von Daten drauf zu werfen außer Überwachung aller plus eben den Versuch es immer weiter auszuweiten früher war es ein bisschen zur Urheberrechtsverletzungen oder schließen wir vielleicht als erstes auch die Lücken diese an anderer Stelle die Verfolgung dieser Straftaten gibt und gerade auch bei den geschilderten Fällen gibt es natürlich Dinge die in Deutschland noch schlechter laufen als bei anderen Ländern die bessere Benchmarks in der Polizeiarbeit in diesem Bereich haben ich glaube, dass beim AI-Akt viele gute Geschichten drinstehen mal schauen, ob aus dem Trilog mit dem Parlament noch Verbesserungen mit klaren Ausnahmen und wenn es erstmal Moratorien sind wir müssen da auch noch mehr verstehen was ich eben nicht glaube was manchmal aus der Zivilgesellschaft kommt zu sagen es muss eine staatliche Institution geben die praktisch jeden Algorithmus der dann als KI gekennzeichnet wird ganz oft ist es ja gar nicht im engeren Sinne KI und dann erlauben muss dass der zugelassen wird, das funktioniert nicht wir unterhalten uns heute über 100.000 Millionen Systeme teilweise mit 2-3 Updates pro Tag das wird nicht funktionieren also so eine Art Selbstdeklaration wird stattfinden müssen die Frage ist, wie stark kann ich reingehen wenn das Bereiche staatlicher Einsatz, aber eben auch privat da passiert ja auch unglaublich viel nur dass wir nicht sofort die gleichen Repressionsmethoden haben aber ob es wirklich ungefährlicher ist bezweifle ich dann reinzugehen wenn jemand eben etwas was kritisch war, gemacht hat aber sich nicht an die Regeln gehalten hat es ist ja nicht immer, dass es verboten ist sondern ich muss nachweisen dass ich keine diskriminierenden Maßnahmen habe, dass ich es laufend beobachte, dass ich bestimmte Qualitäten habe dass ich es erklären kann dass ich eine Transparenz habe das betroffenen Rechte wahrgenommen werden können dass ich eine Möglichkeit habe mich an Menschen zu wenden der die Entscheidung die dahinter steht noch überhaupt verändern kann in realiter verändern kann also nicht der Bankmitarbeiter sagt, sie kriegen den Kredit nicht sondern tatsächlich eingreifen kann und sagen, bei ihnen ist die Situation wirklich anders meine Entscheidung, ich übertünche sozusagen das vom Kaisers eben alles das muss da rein dann haben wir schon Möglichkeiten das in Griff zu bekommen und immerhin ist es der erste echte Versuch weltweit sowas zu tun wir werden sicherlich in zwei, drei Jahren ab dem Inkrafttreten Dinge lernen die bei einer Evaluierung dann weitergehen müssen wenn wir überhaupt ganz unsicher sind muss man auch mal sagen da kann auch mal ein Moratorium notwendig sein, da müssen wir erst noch mehr erfahren um zu wissen ob wir das auf die Gesellschaft loslassen können jetzt loben wir das so mit aller Kritik natürlich aber es ist immerhin mal ein Versuch irgendwie das große Thema KI einzudämmen und da schert auch schon das erste EU-Mitgliedsland gleich aus ich spreche jetzt in dem Fall mal über Frankreich die haben im März den Artikel 7 im Sicherheitsgesetz geändert danach können Videos entstehenden oder neuen Überwachungssystemen aufgezeichnet werden von Algorithmen bearbeitet werden was bedeutet das, das bedeutet de facto wahrscheinlich auch im kommenden Sommer dann beispielsweise Olympia 2024 im Stadion Formstadion, rundumsstadion in anderen öffentlichen Einrichtungen wir können überwachen und das auch noch mit quasi von Algorithmen bearbeiten lassen das ist so ein bisschen wo ich mich gleich frage wie geht es zusammen das ist ein Problem was wir in Zukunft wahrscheinlich immer wieder haben die EU möchte gerne eigentlich was ganz gut machen aber dann sind es eben doch ganz schön viele die sich da einigen müssen gerade bei so einer technischen Entwicklung die sich so schnell verändert oder haben wir da doch die Illusion dass es irgendwie alle zusammen wuppen gut also bei Frankreich jetzt wäre es natürlich auch spannend vermutlich ist der EYEG bis dahin nicht in Kraft würde ich fürchten so dass es quasi kein Gesetz gibt kein europäisches Gesetz gibt die unmittelbar verstoßen das stellen sich natürlich datenschutzrechtliche Fragen im Vereinbarkeit mit der DSGVO aber da also letztendlich ist das ja sogar ziemlich genau diese Fälle sind die Fälle die man auch mit dem EYEG vermeiden möchte, dass wir sagen dass wir auf europäischer Ebene einen Mindeststandard schaffen das muss ich auch sagen, das ist ja dann auch nicht führt ja nicht dazu, dass auf einmal weil die was ich nachträgliche biometrische Identifizierung möglich ist die EU-Staaten verpflichtet sind das einzuführen aber sie dürften es dann also sie können es dann machen aber sie dürfen eben auch nicht mehr machen also wir haben ein bürgerichtig Mindeststandard der dann Gesetze in der EU und da stimmt mit Sicherheit also ich glaube in Fragen der Sicherheit und des Schutz vom Bürgerrechten dass das eines der Bereiche ist in der die Fliehkräfte innerhalb der Europäischen Union und das sind unterschiedliche Themen also wenn wir uns Schutz von Minderheitenrechten anschauen dann wird man wohl eher Richtung Osten nach Polen nach Ungarn schauen bei Staaten die da nicht so die Position haben wie wir das vielleicht in Deutschland gut finden, wenn es um staatlich Überwachung geht dann sind das auch ganz andere Staaten es ist Frankreich, dann ist es auch Spanien die da ein weniger Befürchtung haben was Bürgerrechte, was den Schutz vor Überwachung angeht die Freiheit vor Überwachung als das in Deutschland ist und was kann ich denn eigentlich wir reden immer so über die Metaebene und die großen Gesetze was kann ich denn als Bürgerin im Prinzip auch tun, habe ich jetzt schon irgendwas in der Hand wenn ich sage ich will vielleicht nach Frankreich fahren im kommenden Jahr zu Olympia gibt es irgendwelche Möglichkeiten sich in der Form auch wie ich das sehe also ich weiß gar nicht fürchte man könnte natürlich Richtung Betroffenenrechte schauen das ist eine Uli Kälber ja auch angesprochen also die Frage welche Rechte habe ich als Betroffener unter der Datenschutzgrundverordnung, das sind Rechte auf Berichtigung, auf Löschung, aus Auskunft das habe ich tatsächlich in Bonn habe ich mich mal länger gestritten mit der Polizei NRW weil da merkt man auch zu was Überwachung eingesetzt wird und dann wurde es den Anwohnern zu laut und dann hat man auf einmal gesagt Kriminalitätsschwerpunkt also da waren halt die jungen Menschen die da im öffentlichen Raum abends dann ab und zu mal ein bisschen Zeit verbracht haben dann wurde das ein Kriminalitätsschwerpunkt also als Kriminalitätsschwerpunkt deklariert weil es irgendwelche Taschendiebstähle gab und ähnliches und da hat man einen völlig dystopischen Überwachungsturm dahingesetzt mit mehr Augen als jede Spinne 19 Augen oder sowas und da bin ich zwei oder drei Mal lang gelaufen und da kann man dann natürlich auch einfach mal sagen okay jetzt hätte man gerne mal also macht man seine Betroffenenrechte gelten und hätte man gerne eine Datenkopie zum Beispiel weil die haben ja dann ein Foto von einem und kann man ja fragen wann und wie wurde man erfasst welche Daten gibt es da und das sind natürlich kleine Maßnahmen die man versuchen kann zu ergreifen aber ich fürchte wenn man Olympia in Frankreich live mit erleben möchte dann muss man mit der Video Überwachung erleben so wie man das muss wenn man tatsächlich auch in Deutschland mit dem Zug reisen möchte oder ähnliches Wir reden ja immer noch über den europäischen Raum also hier wo jetzt dann doch reguliert wird wo man sich dazu durchringt ein Gesetz wie auch immer man es wertet zu machen um KI einzudämmen und währenddessen passieren in China in den USA Dinge von denen vielleicht auch viele schon mal gehört haben also es gab gerade im Augusten fallen in den USA wo eine Frau festgenommen wurde und in der Hause im 8. Monat Hochschwanger wurde eines Verbrechens beschuldigt war den ganzen Tag auf der Untersuchung wurde festgehalten von der Polizei und befragt raus kam ein falsches System also hat sozusagen die falsche Person erkannt und über das was in China passiert haben wir auch schon am Anfang dieses Gesprächs hier gesprochen also wo er wirklich im öffentlichen Raum wahnsinnig viel überwacht wird auf sehr sehr vielen Ebenen was ich mich frage wir sind noch so ein bisschen wenn man es jetzt weltweit betrachtet sind wir noch in Europa so die kleine Insel die das versucht alles standhaft zu bekämpfen ist das noch unsere Rolle und wie lange kann man der auch standhalten wenn gleichzeitig technisch so viel passiert und sich so viel entwickelt in der nächsten Zeit ich glaube ich würde da so ein bisschen zu gucken was auch der Unterschied ist vielleicht zwischen in Europa sage ich jetzt mal und Außengrenze also vieles was sozusagen als problematische Tests und so was in verschiedenen deutschen Städten besprechen das wird ja auch häufig dann an den EU Außengrenzen erst mal getestet dort schön eingesetzt an Leuten die sich auch nicht so richtig mit sozusagen Beschwerdeformularen wehren können oder eben mit den Datenschutzbeauftragten ihrer Stadt oder so was streiten können ich glaube da sollten wir uns nicht zu viel vormachen sozusagen dass das nicht schon so der Fall ist und dass das nicht an sich irgendwie auch problematisch ist sondern dass durch Drohungen so innerhalb Europas wir sind halt nicht China und sozusagen nicht unsere persönlichen Dasein nicht mit allem verknüpft und wir brauchen sie für alles um alles machen zu können aber genau ich glaube so ganz doll auf die Schulter klopfen können wir uns da leider dann auch nicht als Europa und gerade auch was ich so in Sachen KI-Verordnung vielleicht nochmal ergänzen wollen würde wäre eben auch das dass gerade auch Deutschland zum Beispiel jetzt zuletzt auch noch mal uns gegenüber bekräftigt hat dass sie zum Beispiel diesen Bereich der nationalen Sicherheit eben nicht als EU-Kompetenz auch verstehen sondern eben als nationale Kompetenz es ist auch so geregelt aber man kann natürlich trotzdem auf EU-Ebene was regeln gemeinsam wenn man möchte und da sollten wir sozusagen auch Bescheid wissen dass das schon auch Deutschland das Interesse hat diese Kompetenz zu behalten und eben inländisch sozusagen auch darüber entscheiden zu können wie was gemacht wird und welche Gesetze hier geregelt werden genau das wird auch so bleiben also wir haben die Verordnungen wie die Datenschutzgrundverordnungen die sind voll harmonisiert wir haben Richtlinien wie die JDI-Richtlinie also für Justiz und Innenbereich da darf das nationale Recht nicht abweichen von den dortigen grundsätzlichen Regelungen und wir haben dann Bereiche wie zum Beispiel nationale Sicherheit wo das rein national geregelt ist zwischen den beiden Letzten gibt es natürlich unglaubliche Übergangsbereiche also es wurde ja zwischen der europäische Datenschutzausschuss angerufen bei der Pegasusüberwachung von Oppositionellen in Ungarn aber mehr als unsere ungarischen Kollegen zu bitten uns nochmal zu erzählen was sie da geprüft haben konnten wenn nicht machen und das Ergebnis war natürlich dass das alles in Ordnung war zum Glück in solchen Ländern sind ja die Oppositionellen immer gleichzeitig Betrüger und Kriminelle dürfen sie auch überprüft werden das wird zu bleiben trotzdem sehen natürlich ganz viele in der Welt sehr positiv auf Europa und auch wenn wir manchmal Fehlentwickler haben wir jetzt mit dem Versuchen der Kommission bei der Chatkontrolle oder ähnliches haben wir natürlich durch die Gesetzgebung aber auch durch die Rechtsprechung europäischer Gericht auf europäischer Ebene Bundesverfassungsgericht das ja im drei Monat Rhythmus eingassiert oder Änderungen erzwingt haben wir natürlich eine ganz starke Situation auch abgeleitet von Grundrechten Menschenrechten die funktioniert und das merken wir in den internationalen Gremien wo wir das ja auch mit reinbringen sind nicht nur so dass wir in der deutschen europäischen Suppe schwimmen sondern auf der Global Privacy Assembly also der Versammlung von 130 Datenschutzbehörden oder bei der International Working Group on Data Protection Technology wo wir zu dem Thema biometrische Kernerkennung was tun merken wir das ja damit auch den Rücken stärken von denen die das in ihren jeweiligen Ländern unternehmen und wir erleben durchaus in den USA natürlich auch Gegenwehr also das Verbot in San Francisco vom biometrischer Gesichtserkennung auf dem Stadtgebiet ist ein Beispiel dafür China ist natürlich das völlig andere Beispiel und wir werden es dort nicht verhindern können was wir aufpassen müssen ist irgendwelche Dinge die daraus passieren irgendwie zu uns reinwandern von Scores über Technologien und dass die ja dieses Gift davon so ganz leise reinträufeln also natürlich will keiner ein Social Credit System machen keiner will die automatische Erkennung an jeder Ecke haben aber da waren die doch erfolgreich und wenn wir das etwas abwandeln dann geht das auch oder private Firmen bringen bestimmte Dinge mit rein dann darf man auf die Daten wieder zugreifen da muss Europa hellisch aufpassen dass es sich nicht selber so langsam aushüllt ohne dass das sogar böse Absicht von Regierungen oder Parlament ist einfach so dass man so langsam dran gewöhnt und dann kann man wieder was ist das doch schon normal das haben wir an anderen Stellen gemerkt wenn früher einer angerufen hat und er hat seine Telefonnummer übertragen oder unsere wurde dann übertragen das haben wir als schlimm empfunden heute nehmen wir das Telefonnaht gar nicht entgegen wenn wir nicht sehen wer es ist ich glaube in der nächsten Betriebssystemversion soll man sogar schon sagen was man will wenn man anruft so mit einem Text an dem Punkt irgendwann wird doch zwangsweise die Kamera auf der anderen Seite angemacht ich wirklich weiß ist das die Person ist hier irgendjemand im Raum der noch unbekannte Anruf entgegen nimmt ich auch ja ich hoffe immer dass es ein Wüsselblower ist an der Stelle deswegen aber das ist natürlich so im Großen kann das eben auch passieren dieses langsam einträufelnde Gift aus den autoritären Regimen dann versuch, ja eine kurze Ergänzung werde ich das über Speer gesagt, ganz wichtig finde ich und noch mal stark machen wollte im Innerhalb von Europa an den Menschen die nicht in privilegierten Situationen sind das ist glaube ich ganz ganz stark also wir haben die Auswertung eine systematische Auswertung von Handys von Geflüchteten um mehr zu erfahren über Alter und Herkunft und Ähnliches und es gibt quasi Praktiken die sind unvorstellbar dass man die in der Fläche gegenüber deutschen Bürgerinnen und Bürgern anwenden könnte weil der Aufschrei enorm wäre aber wenn man sich die Schwächen in der Gesellschaft aussucht dann haben die nicht das Standing um Öffentlichkeit zu mobilisieren um das zu einem politischen Problem zu machen und das erleben wir ganz stark an den Außengrenzen bei denen ja viele der Technologien über die wir sprechen über die wir in Deutschland so problematisch finden eingesetzt werden oder eben auch bei Menschen die sich in Deutschland aufhalten aber zum Beispiel keinen gesicherten Aufenthaltsstatus haben und dann natürlich auch nicht auffallen wollen einfach möglichst konform sich verhalten wollen in ihrer unsicheren Situation nicht mit Repressalien konfrontiert werden das glaube ich ein ganz wichtiger Punkt den man sich da immer bewusst machen muss dass es am Ende sehr oft die Schwachen trifft ich würde gerne weil wir auch gerade über das Einträufeln gesprochen haben und über diesen Blick in die Zukunft nochmal am Ende sprechen über die Zukunft tatsächlich wie wir sie uns so vorstellen irgendwo zwischen China, den USA und Deutschland und allem dazwischen es gibt bestimmt auch Staaten die das noch als wir hier gerade und uns mal so beam nach 20 35 vielleicht, so gute 10 Jahre voraus oder vielleicht auch 40 je nachdem was da jetzt eine gute Zahl wäre aber so ein bisschen in die Zukunft und bräuchte vielleicht einmal eine Utopie ich glaube das ist etwas was uns recht gut leisten könnte wie sieht das in der optimalen Welt aus? eine Dystopie? das ist etwas was Pia jetzt uns mal erzählen muss schon im Vorfeld die richtige Kandidatin und so eine wahrscheinliche Realität und weil wir noch grobe 5 Minuten haben vielleicht in der kurz auch noch Entschuldigung also mit einer ordentlichen Gesetzgebung und Staaten und Unternehmen die sogar eher damit werben dass sie eben nicht Überwachung machen gibt es ja einige erste Beispiele ich glaube jetzt gerade eine gute Abstimmung in der Schweiz um jetzt mal nicht die EU zu nehmen die gesagt haben wir nehmen auf gar keinen Fall an Chatkontrolle Teil plus Technologien die man auch einsetzen kann zur Abwehr von Überwachung glaube ich kann das auch eine sehr positive digitale Liberale Zukunft werden und dann gibt es aber diese Gesichtserkennung oder die Körpererkennung als Echtzeit Fernerkennung durch Dritte Nein so wie düster soll es jetzt werden ist die Frage also wie du magst also so die blau türkische Regierung ist da und überall gibt es Kameras und das racial profiling hat sich noch verschlimmert an allen öffentlichen Plätzen ständig gibt es irgendwelche Meldungen auf softwares in Polizeibehörden und ständig wird ausgefahren ständig werden die Leute genau nach ihren Ausweisen gefragt die so aussehen als ob sie da nicht sein sollten also so stell ich mir glaube ich die dystopie vor hört es mal an der Stelle auf und wir bleiben weiter bei und ich soll jetzt die in die Kugel schauen das reale ich meine die ganz schlimme dystopie klingt natürlich schlimmer aber ich vermute mal sie ist auch nicht so realistisch weil dafür gibt es ja immer noch sehr sehr viele Menschen in diesem Land die sich sehr bewusst darüber sind was das für Gefahren wird sich bringt also versuchen wir mal so ein Mittelweg genau sehr viele Menschen und dann bin ich auch Jurist gibt es auch sehr viele Gerichte und die Kälber hat es auch mehr verangesprochen auch sehr selbstbewusste Gerichte und ich gehe davon aus das einiges von dem was Pia skizziert hat als dystopie dystopische Technologien getestet wird also auch in der Gesetzgebung und das dann die Gerichte es wird immer wieder sich quasi ein bisschen nach vorne gewagt und die Gerichte werden auf die Finger draufhauen und sagen soweit geht es aber nicht nach vorne klassischerweise sagen die Gerichte dann aber auch nicht das geht dann gar nicht sondern steckenden Rahmen ab indem es dann vielleicht doch auch geht so werden wir uns glaube ich also es wird eine Art weiteres Wettrüsten im Bereich der Überwachung glaube ich geben gleichzeitig wird auch digitale Selbstverteidigung wie das so schön heißt digital Courage hat das sehr sehr stark geprägt diesen Begriff auch also dass man selbst versucht Maßnahmen zu ergreifen um die eigene Privatsphäre zu schützen glaube ich auch das wird immer populärer werden sich weiter verbreiten so dass man eben auch versuchen wird gegen diese Überwachungstechnologien und meine Hoffnung wäre dass man dass wir es tatsächlich schaffen so einen Umdenken da hinzubekommen was eigentlich Sicherheit schafft weil ich glaube im Moment haben wir das Problem dass viele Menschen gerade Sicherheitsbehörden überzeugt sind dass Sicherheit durch Kontrolle erzeugt wird und deshalb ist man so an Überwachung interessiert um mehr Sicherheit durch mehr Kontrolle zu erzeugen und ich glaube dass das wirklich ein fundamentaler Fehler ist und dass Sicherheit durch sozialen Zusammenhalt erzeugt wird und dass wenn wir als Gesellschaft zusammenkommen dass wir dann in einem sicheren Staat leben und dass das unabhängig davon ist wirklich völlig losgelöst davon wie viel Überwachung es gibt und dass mehr Überwachung eben gerade nicht zu mehr Sicherheit führt sondern zu mehr Konformität und dass das schädlich für eine diverse liberale Gesellschaft ist gute Schlusswort vielen Dank ganz herzlichen Dank ich glaube da haben wir noch mal die Kurve ins Gute wieder bekommen Gott sei Dank für die vergangenen 60 Minuten wir sind schon am Ende angelangt würde aber gerne auf jeden Fall noch einmal hören ob jemand von euch noch Fragen hat ans Podium vielleicht gibt es auch gerade vom Workshop vorher noch Sachen die offen geblieben sind oder auch alle anderen über Clearview, AI haben wir jetzt noch gar nicht gesprochen auch ein großer Datenhaufen der relativ ungestümen durchgesucht wird das haben wir jetzt leider nicht geschafft heute aber gibt es von euch Fragen vielleicht auch aus dem Netz irgendwas ne gibt es nix bitte ich habe noch mal eine konkrete Frage der Begriff Echtzeit ist immer wieder aufgekommen und ich habe mich doch gefragt was das genau bedeutet also wenn ich jetzt meine Kamera im Südkreuz aufstelle, Gesichtserkennung da drüber laufen lasse und das mit einer oder zwei Sekunden Verzögerung mache das ist dann nicht mehr Echtzeit das darf ich dann oder ich habe das nur vorhin versucht um unterschiedliche Szenarien also auch zwei Sekunden Verzögerung oder Ähnliches wäre natürlich Echtzeit, dass eine ist versuche ich sowas in einer Situation egal mit welcher leichten Verzögerung zu machen versuche ich nachher Leifbilder auszuwerten, das war ja Beispiel Hamburg welche Leute haben an der Demo teilgenommen ohne es jetzt spezifisch Beteiligung an Gewaltaktionen dabei war und das dritte ist ich weiß, da war jetzt ein Überfall hier sind die Bilder vom Überfall und diese Leute, bei denen ich gerade sehe das Video habe, dass sie den Überfall machen bei denen will ich nachgucken, kenne ich die weil ja mit einer hohen Wahrscheinlichkeit dass nicht deren Ersttat ist an dem Punkt also diese drei Szenarien sind schon nochmal unterschiedlich zu bewerten wobei je nachdem wie stark das zweite sich ausprägt es zur ersten oder zur dritten Kategorie neigt in der Frage wie es rechtlich zu bewerten ist das ist dann auch in sowas wie dem AI Act so festgelegt also da ging es ja um Echtzeit ich war, oder? manches Datenschutz-Grundverordnung manches ist GI-Richtlinie oder dann eben die Spezial- nationalgesetzliche Umsetzung und manches ergibt sich eben genau aus so einem Punkt daraus, dass dann geklagt wird weil eben nicht gehört wurde, als man gesagt hat das ist schwierig und dann geht ein Gericht hin und sagt man darf das oder man darf das nicht im Hamburger Beispiel gab es ja sogar den Teil die die Datenschutzbehörde versuchte zu untersagen im Rahmen ihrer Erlaubnisse dass dort gesagt wurde nein, konntest du nicht nachweisen dass das ein entsprechender Verstoß ist ob es mit der Verfassung an der anderen Stelle also ich habe natürlich spezifisch nur das geprüft nur das ich kann nicht als Datenschutzbehörde sagen ich glaube, dieses nationale Gesetz verstößt gegen die Verfassung und ich untersage das das ist keine Kompetenz, die eine Datenschutzbehörde hat zwei Fragen gab es noch dann mache ich direkt weiter weil im Redebeitrag gerade sagten sie so bei einem quasi Video von einem Überfall darf die Polizei dann schauen kennen wir die Täter möglicherweise mich würde interessieren woher kennen wir die Täter möglicherweise woher kommen also die Bilder die ermöglichen, dass ein spezifisches Gesicht wieder erkannt wird sind das nur die Täter von bereits ermittelten Straftätern oder sind das möglicherweise auch Bilder die Behörden zum Beispiel über Social Media bekommen könnten, weil zum Beispiel Facebook setzt ja auch in massiver Weise Gesichtserkennung ein, wir kennen das vielleicht, wenn jemand ein Bild von uns hochgeladen hat, dass wir informiert wurden übrigens, du bist auf mehreren Bildern drauf und das macht Facebook natürlich mit Gesichtserkennung genau, deswegen würde mich interessieren, wie gut sind eigentlich Bürgerinnen über solche Systeme auch für die Polizei schon identifizierbar auch wenn sie vorher in keinem strafrechtlichen Kontext irgendwo aufgefallen sind oder es ist vielleicht clear view AI was wir vielleicht in dem Punkt machen das ist natürlich ein Punkt, um das klarer zu machen die Debatte findet ja immer statt von Polizeibehörden bis zu Nachrichtendiensten wo auch die Frage ist, was an öffentlich zugänglichen Daten verarbeitet werden darf und wir leider auch immer wieder neu erklären müssen, nein die Verarbeitung von öffentlich zugänglichen Daten ist trotzdem nicht automatisch erlaubt aber hier geht es natürlich anders als jetzt bei diesem Beispiel in Hessen Data und Bayern wo einfach über Palantir diese über Palantir Software versucht wurde alle Daten silos der Polizei einfach zusammen zu knüpfen zwar egal ob das eine des Verzeichnisses von überführten Straftätern ist und das andere die Dateien der Opfer oder Freunde von Opfern drinnen waren dass es alles irgendwie gleich wird und versucht wird, Muster zu erkennen das hat ja Gott sei Dank das Verfassungsgericht klar gesagt, dass es da Grenzen geben muss und die muss es natürlich auch hier geben also an der Stelle der Abgleich mit der tatsächlich überführten Täter Fotodatei aus den erkennungsdienstlichen Behandlungen ist dann der Punkt den man dort durchführen sollte aber vielleicht jetzt keine Ergänzung weil du es ja auch gerade angesprochen hast das ist natürlich was, was international auch anders gehandhabt wird also gerade das ist das Geschäftsmodell von Clearview eben zu sagen wir haben einmal das Internet global durchforstet die Fotos von ungefähr allen Menschen auf der Welt und bieten das als Dienstleistung für bisher vorallem US-amerikanische Polizeibehörden an gebt uns die Fotos eurer Verdächtigen und wir sagen euch, welche Personen das sind also gerade diese das ist ein privates Dienstleistungsangebot werden kann, das muss eigentlich ausgeschlossen sein wir sind ja jetzt in Bezug auf Clearview auch durchaus deutsche europäische Datenschutzbehörden dran das ist tatsächlich ein völlig rechtswidriges Geschäftsmodell ist was aber anscheinend auch Sicherheitsbehörden nicht so sehr stört, wenn das Recht an der richtigen Stelle gebrochen wird hier gab es noch eine Frage, genau also das ist eine Frage die betrifft das Zusammenspiel zwischen privaten Sektor und öffentlichen Sektor du hattest es vorhin erwähnt dass die große Gefahr ja ist dass wenn die Privaten eben so große Daten massen sammeln das dann abgesehen von allen Wiedrigkeiten die einem auf dem privaten Sektor passieren kann schuferwertet das falsch aus man kriegt irgendwie den Kredit nicht mehr und so weiter und so fort aber es ist auch nochmal eine andere Liga wenn es der Staat in die Hände kriegt und plötzlich mit seinem kompletten Vollzugsapparat da ankommt in den diversesten Feldern und was mich so gewundert hat vor sieben Jahren als ich mir das das letzte mal angeguckt hab ist, dass die Regelungen in der Strafrozessordnung die das Präventiv oder im Vollzug eigentlich regeln diesen Zugriff der staatlichen Behörden auf diese privaten Daten Sammlungen wieso das so rudimentär eigentlich geregelt ist das war irgendwie nur eine einzige schwammige Norm und weiß irgendjemand von ihnen ob es da Bestrebungen gibt diesen Zugriff irgendwie präziser zu regeln sehr spezifisch die Frage also ich würde für Regelungsinitiativen immer an Ulrich Kälber abgeben was man sagen kann ist, dass es es gibt ja nicht nur in der Strafprozessordnung sondern gibt es zum Beispiel im TTDSG also im Bezug auf Telemedien gibt es extra Vorschriften für Herausforderungen von Telemediendienstanbietern und ähnliches aber mein Eindruck ist schon dass die Daten die in den Händen von privaten liegen für den Staat zugänglich sind und nicht immer und nicht immer ganz einfach also abgesehen von praktischen Hindernissen, weil manchmal antworten die halt einfach nicht wenn eine deutsche Behörde anfragt und die woanders sitzen aber zumindest mit Richtervorbehalt als maximal einschränken kann würd ich behaupten staatliche Behörden haben sie zumindest das Recht die Daten auch abzurufen was ist in Deutschland oder in Europa wir haben noch keinen entsprechenden Fall übergekannt in den USA geht das TTDSG schon deutlich weiter auch da gab es zum Beispiel ein so nenn search warrant case wo das genannt auch im Bezug also search weil das um eine Google Suche auch ging dass man es ging da um ein Fall in einem spezifischen Ort die man mit einer ganz bestimmten auf einer ganz bestimmten Art und Weise getötet wurde und dann gefragt Google gefragt wurde wer aus diesem Ort gesucht also quasi umgekehrt man hat gesagt gibt mir zu dieser Person die Daten und man hat gesagt wir haben quasi eine Suchabfrage haben Nutzer von dir das gesucht und dann gibt uns die Daten heraus das war bisher ein relativ spektakulärer Einzelfall aber wenn man anfängt das weiterzuspielen diese Art der reverse search nicht mehr nach die Daten einer Person haben wollen sondern zu gucken wie haben sich die Personen auf einer privaten Plattform verhalten jetzt sagt uns welche Personen sich auffällig bei dir verhalten haben für das natürlich quasi den Überwachungsklimitalismus wirkt es nochmal ganz neu gefahren wenn der Staat Zugriff auf die Information hat also es gibt natürlich in der Tat sehr viele Regelungen auf allen Ebenen föderales System und an einigen Stellen wird genau das geklärt welche dieser Daten dürfen herausgegeben werden unter welchen Umständen das ist zum Teil in den spezialgesetzlichen Regelungen enthalten das ist bei unmittelbaren Überwachungs und Eingriffsbefugnissen der Sicherheitsbehörden also welche Daten dürfen sie erheben wir müssen sie zum Beispiel dafür sorgen dass Informationen über den Kern der privaten Lebensgestaltung dann nicht mit aufgenommen werden also bed talk hat nichts zu suchen wenn man eigentlich die Verabredung zu einem kriminellen Verhalten unter verschiedenen Klansversuch daraus zu kriegen als Beispiel und es gilt natürlich auch andere Regelungen also die Frage wenn ich jetzt auf einmal ein Datenpool hätte bei einer Firma die vielleicht auch bereit ist ihn zu teilen weil erschreckenderweise da ist weil eben nicht gut dafür gesorgt wird dass man erstmal eigentlich eine geschützte Kommunikation hat hätte ich diese Daten für diese vermutete Straftat auch selber erheben können nur dann darf ich sie auch aus einer anderen Quelle verwenden ich darf also jetzt nicht für eine kleine Ordnungswidrigkeit die Abhörung über das Mikrofon eines Handys verwenden die irgendeine Privatfirma gemacht hat es passt nicht zusammen auch das sind Regelungen die teilweise speziell gesetzlich entweder geregelt sind oder wo wir dringend vorschlagen wenn ihr es macht das ist eine klare transparente gesetzliche Grundlage schaffen auf die sich jeder berufen kann die jeder prüfen kann und wo wir auch als Aufsichtsbehörde wenn wir dann reingehen und bei einigen Bereichen ja kompensatorisch weil die einzelnen Bürger sich nicht anschauen können was über sie gespeichert ist wir uns anschauen ob was eigentlich befugt ist, dass diese Daten da sind oder gibt es überhaupt etwas über diese Menschen dass wir das dann auch prüfen können sprich das in gesetzlichen Regelungen und es nicht jedes mal ein Grundsatzstreit gibt ist verfassungswidrig oder nein können wir auf die Generalklausel stellen weil das ist nicht zukunftsfähig vielen Dank für die Fragen gab es jetzt erstmal keine weiter ich habe jetzt keine Hand mehr gesehen wenn niemand übergehen aber genau ich glaube dann sind die auch alle gestellt worden und vielen Dank an euch drei auf jeden Fall für diese Runde, für das Beantworten der Fragen von mir und vom Publikum wir haben hier Professor Ulrich Kälber gehört heute schön dass du eine ganze Stunde bei uns warst Bundesbeauftragter für Datenschutz und Informationssicherheit der Bundesregierung Pierre Sombetski von Algorithm Watch war bei uns und Erich Tuchtfeld Co-Vorsitzender von D64 soweit nochmal diese Runde und euch ja vielen Dank dass ihr diesen noch so schönen Sommerabend hier bei uns verbracht habt und dabei war danke für die Aufmerksamkeit schönen Abend noch