 Hallo und herzlich willkommen zum Vortrag Cyberpunk 2022, wo Brain-Computer-Interfaces auf Grundrechte treffen. An solchen Brain-Computer-Interfaces wird aktiv geforscht. In den Büchern und Computerspielen der Cyberpunk-Welt können sich Menschen die Cyberware implantieren lassen. Wie aber in der realen Welt mit den Rahmenbedingungen bezüglich der Sicherheit dieser Schnittstellen. Dazu werden uns Karolin Kemper und Michael Kolein etwa 45 Minuten spannenden Input liefern. Karolin Kemper ist Juristin und Forschungsreferentin am Deutschen Forschungsinstitut für öffentliche Verwaltung in Speyer. Dort forscht sie zu Themen der digitalen Sicherheit, insbesondere zu digitaler Polizeiarbeit und IT-Sicherheit. Michael Kolein ist Rechtswissenschaftler und forscht an der Schnittstelle zwischen Recht, Technik und Gemeinwohl. Er ist Koordinator des Bereichs Transformation des Staates in Zeiten der Digitalisierung am Deutschen Forschungsinstitut für öffentliche Verwaltung. Achtung, es gibt Content Warnings für den gesamten Vortrag. Es werden angesprochen oder gezeigt. Waffen, nackte Haut, Gewalt, Körperverletzung, Mord, Manipulation durch Gehirn-Computerschnittstellen, Erpressung, Tierversuche, Krankheit, inklusive psychischen Erkrankungen. Fragen stellen könnt ihr während des Vortrages auf Twitter und Mastodon an den Account at Hexen-C und mit Hashtag RC3 und Hashtag JaDib und nach dem Vortrag im QA. Im Anschluss werden wir eure Fragen im Hexen Big Blue Button-Raum zur großartigen ADA diskutieren. Der Link dorthin wird als Text- und QR-Code am Ende des Vortrages eingeblendet. Und jetzt freue ich mich auf einen spannenden Vortrag. Ja, willkommen zu unserem Talk über Brain-Computer-Interfaces und Grundrechte. Wie so viele gute Ideen kamen die Ideen zu diesem Vortrag auch beim Computerspielen, und zwar bei Cyberpunk 2022. Caroline, wie kamst du zu der Idee, dich mit Brain-Computer-Interfaces auseinanderzusetzen beim Zocken? Ja, ich habe angefangen Cyberpunk zu spielen, schon gefühlt Jahre darauf gewartet und festgestellt, okay, wir haben hier eine Welt, wo quasi jeder Cyberware nutzt, das ist übrigens also damit ausgestattet ist. Das heißt einerseits Implantat, wir sehen das hier auf der rechten Seite, am Kopf angebracht innerhalb des Gehirns, teilweise Implantate an den Organen, dann auch Implantate, oder beziehungsweise Prothesen, die zum Beispiel die Arme verstärken, mit denen man dann besser kämpfen kann, so Gorilla-Hände und so weiter, und dachte mir, okay, das ist alles vernetzt. Interessant, wie das wohl funktioniert in der Welt, in der ja dann die Angriffe auch permanent passieren, insbesondere auch eine Angriffsmethode sind. Das heißt, wir haben hier die Möglichkeit, Gegner dadurch zu schwächen, dass wir sie hacken. Das ist quasi das Sneak-Equivalent oder das Magie-Equivalent in vielen anderen Rollen spielen. Als erstes, wenn man Gegner angreift, wird man mal die IT-Sicherheit, die ja vielleicht noch irgendwie gewährleistet hat, verschiedene Angriffserkennungssysteme und so weiter überwinden, um dann auf das System zuzugreifen. Das nennt man dann Breach Protocol. Man kann dann im nächsten Schritt, um sich noch mal einen Vorteil zu verschaffen, Cyber-Mehrwahl-Function einsetzen, um die Cyberware zu deaktivieren. Und dann kann man anfangen, Short-Circuit zu verwenden, um elektrische Impulse zu versetzen und dann auch Schaden auszuteilen. Und wer ganz besonders gewieft ist, der setzt Cyber-Psychosis ein. Also Cyberpsychosin im Spiel ist eine Krankheit, die Menschen haben, wenn sie sich ein bisschen arg viel enhanzt haben mit allem wirklicher Cyberware und dann den Bezug zum Mensch sein und zu sich selbst auch verlieren und Menschen in der Nähe zum Beispiel auch wahrlos angreifen. Und diese Cyberpsychosis löst eben diesen Zustand aus. Ja, in unserem Vortrag wollen wir Fakt und Fiktion uns genauer anschauen und aufeinander trennen. Wir wollen darauf eingehen, diese Brain-Computer-Interfaces, was in Computerschnittstellen, wie sicher sind sie, welche Angriffsszenarien gibt es, wie ist es IT-Sicherheitsrechtlich und technisch zu bewerten. Und ja, im Rahmen unserer Arbeit beschäftigen wir uns dann mit den rechtlichen Fragen. Wir sind beide am Forschungsinstitut für öffentliche Verwaltung tätig, im Team von Professor Mario Martini und beschäftigen uns mit Fragen der Regulierung und des Einsatzes von neuen Technologien in Staat und Gesellschaft. Wir wollen uns das erst aus der grundrechtlichen Perspektive anschauen, welche Grundrechte könnten betroffen sein, wenn man eine Brain-Computerschnittstelle in der Zukunft vielleicht trägt und was sollte eigentlich der Gesetzgeber tun, welche Schutzmöglichkeiten gibt es im bestehenden Recht und welche Lücken gibt es auch noch, die man möglicherweise in der Zukunft schließen sollte, um zu gewährleisten, dass es einen guten Technikeinsatz gibt. Am Anfang jetzt erstmal, was sind denn eigentlich diese Computer-Gehirnschnittstellen? Was ist realistisch? Was ist überhaupt möglich? Was wird erforscht? Was ist vielleicht Science-Fiction und wird niemals passieren? Also sein Gehirn-Computerschnittstellen sind erstmal Schnittstellen zwischen Kirchen und Computer. Das ging erstmal banal, aber es bedeutet, dass man bestimmte Dinge, Gehirnaktivitäten ausmist und sie dann verwendet, und man kann man kann BCIs oder Gehirn-Computerschnittstellen oder Brain-Computer-Interfaces eifteilen, indem man sie zwischen invasiven und nicht-invasiven unterscheidet. Das bedeutet entweder sie ist innerhalb des Gehirns bzw. innerhalb des Schädels oder eben außerhalb und sie haben verschiedene Möglichkeiten oder Fähigkeiten, entweder sie können aufnehmen oder sie können auch stimulieren. Das ist so ein bisschen Lese-Schreib-Fähigkeit, um die Computeranalog zu bringen. Die Gehirn-Computerschnittstellen, an die wahrscheinlich die meisten hier denken, sind die implantierten Micro-Elektroden. Die stecken im Gehirn drin und können dann bis zu einzelnen Neuronengruppen aufnehmen in ihren Aktivitäten. Also wann sie feuern und nicht feuern und welche Buster sich da ergeben. Das können entweder so kleinere Kettchen sein oder auch hier so eine kleine Platte wie in der Mitte und rechts. Das wird quasi so vom Hersteller versendet wird. Also so sieht es aus, wenn es nicht im Schädel ist. Es gibt noch die so genannten ECOX. Das ist so eine Art Loserstoff oder so ein Plättchen, an dem Micro-Elektroden befestigt sind. Die werden auf das Gehirn gelegt. Das heißt, der Schüttel muss geöffnet werden. Aber es wird nicht in das Gehirn eingeführt, was dann auch zum Beispiel das Infektionsrisiko vermindert. Das Ganze lässt sich eigentlich ganz gut Kehrenaktivitäten aufnehmen. Als Stimulierungsequivalent hätten wir dann die Brain Stimulation, die tief ins Hirn rein reicht. Das heißt, wir haben eine Micro-Elektrode, die in das Gehirn eingefügt wird oder mehrere und die dann bestimmte elektrische Impulse abgeben. Man sieht jetzt hier so ein kleines Gerät im Brustbereich. Das steuert das Ganze und erzeugt quasi das Stimulationsmuster. Das ist basierend da drauf. Das senkt davon ab, wie was genau da bewirkt werden soll mit der Stimulierung. Zum Beispiel sollten da vielleicht epileptische Anfälle verhindert werden oder abgemildert werden. Dann wird entsprechend das Muster erzeugt und der Impuls abgegeben. Die Stimulierung kann man aber auch außerhalb des Schädels durchführen, zum Beispiel in dem man ein Magnet fällt, außerhalb erzeugt, dass sich dann auf die Gehirnaktivität auswirkt. Man kann das auch mit dem Gleichstromfeld machen. Mittlerweile gibt es sogar Ideen, so ganz unauffällige Earbuds zu verwenden, um den Vargussnerv zu stimulieren. Die wohl bekannteste Methode Gehirnaktivitäten aufzuzeichnen, ist die Elektroencephalografie, also das EEG. Das ist nicht invasiv, also außerhalb des Schädels, das sieht man hier. Dadurch auch ein bisschen ungenauer, aber eine sehr, sehr weit verbreitete Methode, dass sie hier nicht quasi öffnen muss bzw. den Schädel nicht öffnen muss. Wir sehen jetzt hier einerseits eine Kappe, andererseits die Mikroelektroden, die auf der Haut angebracht werden, auf der rechten Seite. Da wird typischerweise dann auch die Kopfhaut vorher befeuchtet, damit das Signal besser aufgenommen werden kann. Allerdings braucht man das gar nicht mehr so unbedingt. Es gibt mittlerweile auch EEG-Headsets, die auf der trockenen Haut gut aufnehmen können. Zum Beispiel links, da sieht man auch einen Elektrodenärmchen. In der Mitte ist es nur noch so ein Fühler und rechts ist es so eine Art Headset quasi. Jetzt, dass sich so relativ unauffällig in die Ohrmuschel einpasst. Und dann gibt es noch bildgebende Verfahren, wie die funktionelle Magnet-Resonanztomographie. Da wird der Blutzauerstoff gehalten gemessen und dadurch lassen sich Rückschlüsse ziehen, wo gerade viel Aktivität im Gehirn passiert. Das wird zum Beispiel für Ligendetektoren verwendet. Jetzt haben wir uns angeschaut, wie das aussieht, direkt an das Gehirn anzuschließen oder die Gehirnwellen zu messen aus dem Schädel im Schädel. Es ist natürlich immer ein IT-System, das damit verbunden ist und aus der Sicherheits- und IT-Sicherheitssicht guckt man sich mal das Gesamtsystem an und Caroline, wie sieht das beispielsweise experimentell in dem Fall aus? Das ist glaube ich ein Freiburger-Unternehmen. Genau, das ist eine Grafik von einem Pfarreiburg-Unternehmen Cortec, nennt sich das. Die stellen auch viel so tiefen Stimulations- Kehren-Computerschnittstellen her und hier sieht man das relativ gut, welche verschiedenen Schritte es gibt. Also wir haben zunächst mal die Elektroden innerhalb des Gehirns. Wir haben dann diesen Nerdship, nennt man das manchmal, so ein kleines Gerät hier im Schädelbereich angebracht, dass die Daten vorverarbeitet auch zum Beispiel die Stimulationsmuster erzeugt und dann hat das meistens mittlerweile eine drahtlose Verbindung zu einem Computer, zum Beispiel von einem Arzt wo dann nochmal größere Datenanalyse stattfinden können oder auch Daten gesichert werden können, der Arzt auch ein Stück weit kontrollieren kann. Wie gut ist die Therapie, wie geht es den Patienten? Und wir sehen jetzt das schöne Wort Artificial Intelligence hier oben rechts, also KI, ist das in dem Fall nur ein Marketingargument oder wirklich irgendwelche maschinellen Lernverfahren zum Einsatz und vielleicht auch warum. Also Gehirnaktivitäten sind relativ komplex, wir haben ja unglaublich viele Neuronen und da braucht man natürlich eine starke Methode um die auszuwerten. Früher hat man das mit statistischen Methoden, teilweise über Wochen und Monate hinweg gemacht. Wir sehen jetzt hier so auf der linken Seite ein paar Muster, die müssen natürlich ausgewertet werden. Heutzutage nutzt man dazu für alle Machine Learning also im Endeffekt ist es halt so die pure Statistik, halt Korrelation von bestimmten Aktivitätsmuster. Dass ich zum Beispiel hab, wenn ich den linken Arm hebe und dann kann darauf der Rückschluss gezogen werden, okay, ich hebe gerade den linken Arm und im Fall von der Epilepsie zum Beispiel kann man so sagen, okay, das Gehirnmuster zum Beispiel in eine halbe Stunde vor einem Epilepsie-Anfall sieht so und so aus. Damit kann man vielleicht vorher sagen, wann Epilepsie-Anfall stattfindet. Auf der rechten Seite hier sehen wir auch so eine kleine Einfärbung, da kann man mit bildgebenden Verfahren vielleicht feststellen wo ist der Kern des Epileptischen Anfalls, wo müssen wir vielleicht Gewebe entfernen um dann der Person ein bisschen besseres Leben zu ermöglichen, mit weniger Epilepsie-Anfällen. Aber es gibt auch noch mehr Möglichkeiten, Gehirncomputerschnittstellen im medizinischen Bereich anzuwenden, also zum Beispiel zur Kommunikation. Hier mit einem EEG, da wird eine Person Cannabustabieren mit quasi. Das funktioniert über ein sogenanntes Ereignis bezogenes Potenzial. Also wenn sie jetzt Hallobustabieren möchte, dann sieht sie das Haar und dadurch gezahlten Impuls oder beziehungsweise Potenzial, das über eine gewisse Schwelle geht, weil es eben als relevante Information wahrgenommen wird und dadurch lässt sich das dann auch hier wieder ebenfalls korrelieren und man weiß dann, okay, das Haar ist gemeint und so kann eine Person relativ gut Bustabieren viel schneller als zum Beispiel mit der Blinzelmethode, die sonst genutzt wird. Mittlerweile gibt es sogar noch weiter, da kann man auch korrelieren, welche Neuronen aktiv sind oder welche Neurongruppen aktiv sind, wenn ich meine Sprechmuskeln verwende und wenn ich jetzt versuche zu sprechen und diesen Befehl schon an die Muskeln abgebe quasi innerhalb des Gehirns, dann kann hier schon korreliert werden, welche Wörter hier ausgesprochen werden sollen und das kann dann synthetisiert werden. Das ist so eine Forschungsmethode, das ist noch relativ in den Kinderschuhen, erfordert auch, dass eine Person sprechen kann, um den Algorithmus erstmal anzutrainieren, denn diese Algorithmen, also diese Trainingsprozesse sind relativ aufwendig und da müssen auch für jeden Patienten individuell erfolgen und hier ist nochmal eine ganz coole Grafik von der Frau, die jetzt sich mal wieder, also das erste Mal seit Jahren oder Jahrzehnten glaube ich, ein Schluck Wasser gönnt mit einem Roboterarm den sie eben steuert mit der Gehirn Computerschnittstelle ist auch noch ein etwas älteres Modell, man sieht da den Kasten auf dem Schädel, heutzutage sehen die ein bisschen unauffälliger aus das ist jetzt der Affe von Nürnbelink, der Mindpong spielt, also nur mit seiner Gehirn Computerschnittstelle man sieht auch zum Beispiel der Joystick den er da bewegt, der ist ausgestöpselt also das heißt man hat die also man hat es so antrainiert, dass er den Joystick bewegt und man kochliniert welches Gehirnmuster da zustande kommt um dann eben zum Schluss da zu überzugehen, dass nur noch das Gehirnmuster hier dieses Mindpong steuert man kann allerdings was Computerspieler angeht auch noch weitergehen und einfach Gehirn Computerschnittstellen dazu nutzen zu sehen was das Engagement Level von einem Spieler ist und dann auf die emotionale Situation auch beim Spielen rücksicht zu nehmen, also zum Beispiel Langwalter sich oder ist er jetzt irgendwie so super konzentriert und vielleicht auch ein bisschen überfordert oder will er gleich eine Pizza essen, dann kann man direkt bestellen ja ich glaube noch nicht, aber vielleicht irgendwann mal genau eine interessante Sache ist auch wer am Arbeitsplatz irgendwie merkt er ist zu gestresst und nicht so ganz konzentriert, der kann auch so EEG-Headset einsetzen oder mal zu gucken wie das Stresslevel so ist und wie man seine Konzentration optimieren kann optimieren kann man auch die Meditation, damit man auch hier keine Zeit verschwendet bei der Meditation werden ja oft der Versuch gestartet möglichst in die Alpha Wellen zu kommen im Gehirn, also möglichst einen Ruhezustand herzustellen und aus diesem Survival Mode und der Fluchtreflex aus den Beta Wellen hinauszukommen bietet sich natürlich auch dann an mit einer BCI zu schauen wie gut hat es geklappt, kam das Monkey Mind, wie oft wurde ich abgelenkt habe ich schon ans Kochen gedacht danach und kann sich schöne Statistiken für seine Meditation auch anfertigen lassen mittlerweile geht es aber alles noch ein Stück weiter also man überlegt auch über Gehirncomputerschnittstellen kommunizieren zu können also es sind hier zwei Forscher von der University of Washington über den Campus verteilt der eine war am einen Ende und hat ein Bildschirm gesehen mit einem Computerspiel wo eine Kanone abgefeuert werden musste und im richtigen Moment wenn sie abgefeuert werden musste hat er so ein Ereignis bezogenes Potenzial ausgebildet das wurde über das Internet übertragen zu der als anderen Person am anderen Ende des Campus und der hat dann durch eine kleine Stimulierung die Taste gedrückt und so konnten sie zusammen ja ein Computerspiel spielen wo der eine gesehen und der andere die Kontrollmöglichkeit hatte das geht natürlich noch macht du ja das eine wird dann schon an Telepartie wenn zwei Köpfe miteinander direkt verdrahtet sind und miteinander kommunizieren können das ist genau auch der Traum den Elon Musk hier getwittert hat und in diese Richtung gehen auch ganz viele Anwendungsfälle die unter anderem die DARPA auch erforscht hat genau aber auch hier sind wir nochmal also können wir nochmal einen Schritt weitergehen gerade Elon Musk macht es der sagt okay wir müssen eigentlich mit künstlicher Intelligenz irgendwann verschmelzen denn anders können wir sie nicht mehr übertrumpfen das ist auch hier so in diesem Tweet zu erkennen gerade das Thema zum Beispiel Mind Uploading ist auch was was Cyberpunk beschäftigt das ist so eine Art USB Stick auf dem man seine Seele oder zumindest seine Persönlichkeit irgendwie abspeichern kann oder seine Glaubt was ein Menschen ausmacht und da passiert interessante Sachen aber keine Spoiler deswegen aber man kennt dieses Phänomen spielt auch im Film Transcendence dann eine Rolle dort ist einer der genialsten KI Entwickler, spielt durch Johnny Depp der ein ganz hochfähiges neuronales Netz programmiert und erstellt hat trainiert hat ja auch er versucht dann seine Persönlichkeit mit seinem neuronalen Netz zu verbinden und dann spricht auch immer der Computer mit seiner Stimme und erlebt sozusagen im neuronalen Netz als KI weiter da gibt's die Frage ja ist das überhaupt realistisch es gibt eine philosophische Debatte auch dazu wie weit sollten solche Möglichkeiten gehen und ja kann es überhaupt möglich sein dass eine künstliche Intelligenz mit Denkprozessen sich verbinden kann kann man die menschliche Persönlichkeit uploaden dann für immer weiter leben einer der größten Kritiker dieses Ansatzes ist Markus Gabriel im deutschen sprachigen Raum Professor aus Bonn der zwei Bücher geschrieben hat der Sinn des Denkens, da sagt er das Denken ist ein Sinn wie Hören, Schmecken und andere Sinne und ist deswegen ein organischer Vorgang der sich nicht einfach abbilden lässt durch Computer und in seinem Buch Ich ist nicht Gehirn stellt er sich gegen die Annahme und den Hand seiner Gehirnström überhaupt als Persönlichkeit darzustellen und er bringt es dann ganz schön zum Ausdruck indem er sagt es ist einfach ein Irrtum zu glauben dass es eine Art Hirncomputer gibt der unter der Schädeldecke irgendwelche Berechnungen vornimmt und dass es umso weniger möglich ist diese Prozesse des Denkens und der Gehirnaktivität oder das was den Mensch ausmacht in irgendeiner Form auf Computer der künstliche Intelligenz zu übertragen und er sagt dann letztlich einfach per se nicht möglich KI und Denken in irgendeiner Form zu verbinden denn jedes Computer ist letztlich nur eine Abbildung eines menschlichen Denkprozesses aber kann es niemals ersetzen oder auch nicht auf ein gleiches Level kommen das einfach nur um einzuordnen dass da nicht nur die transhumanistische Utopie im Raum ist sondern es gibt auch ganz viele Gegenstimmen die sich dazu äußern wenn wir dann aber doch vielleicht irgendwann alle vernetzt sind und nicht nur mit unseren Smartphones und Computern sondern vielleicht auch ja mehr oder weniger mit unseren Gehirnen dann stellt sich natürlich die Frage wie sicher es sind eigentlich diese ganzen vernetzten Systeme die uns umgeben aber vielleicht auch die die irgendwann in unserem Körper sind mit uns verschmelzen das sind natürlich super futuristische Fragen aber gleichzeitig vernetzte Medizinprodukte gibt es schon und zum Beispiel das BSI hat sich auch mehrere davon geschaut und hat da ja schon den ein oder anderen Klopper drin gefunden zum Beispiel Pins im Klartext und verschlüsselte Kommunikation die man dann auch mit Funkausrüstung abhören kann nicht so eine ganz sichere Bluetooth Kopplung und das war jetzt hier so eine Insulinpumpe wo da ein paar Beispiele auch drin vorkommen man muss jetzt dazu sagen der Hersteller hat sich freiwillig gemeldet und ist natürlich sicher dass er sich da zur Verfügung stellt und da auch seine Medizinprodukte überprüfen lässt wer weiß was man in anderen Medizinprodukten noch so finden könnte von daher ist es super wichtig da drauf zu achten und auch da ja fährt zu sein und sich zu freuen dass man was findet aber auch gleichzeitig ja diesen Prozess weiter betreibt wir können hier leider nicht so erklären im Detail wie genau man Medizinprodukte hacken kann erstens sind wir Juristen und können das jetzt nicht so gut erklären wie viele andere zweitens gibt es ja auch jede Menge Leute die das machen also hier zum Beispiel auf der Blackhead ist ein ziemlich guter Vortrag zu dem Thema es gab auch vor ein paar Jahren mal beim CCC tatsächlich hier ein Vortrag der auch sehr zu empfehlen ist man merkt aber trotzdem die wenn man ein bisschen kreativ ist dann kann man die Hürden schon überwinden und dann kann man schon auf diese Systeme zugreifen das heißt bridge protocol quasi haben wir schon mal abgehakt also bridge protocol check also das was im Spiel angesprochen wird scheint tatsächlich auch realistisch zu sein aber short circuit also dass man jemand jetzt in elektrische Impulse versetzt das ist es auch möglich oder ja man glaubt schon zum Beispiel der malige Vizepräsident der USA Dick Cheney der hatte ein vernetzten Cardiowater Defibrillator und da wurde extra diese verratlose Vernetzungsfunktion ausgestellt um zu verhindern dass irgendwelche Terroristen ihn da hacken und ihn dann umbringen auch der Vortrag den ich gerade eben erwähnt habe bei der Blackhead die haben auch ja ein bisschen demonstriert dass sowas prinzipiell möglich ist auch bei der Insulinpumpe beim BSI war so dass man da die Insulin Dosis verändern konnte das heißt so prinzipiell wenn der Zugriff oder die Zukunftsmöglichkeit umfassend ist also hat man schon mal bridge protocol und ist dann in der Lage irgendwelche Funktionalitäten zu beeinflussen dann ja hat man auch short circuit also wo stimulierende Gehirn Computerstandstellen gibt da kann man auch Impulse von außen das Gerät hacken und dann ausüben ja der noch etwas freakigere Fall ist ja dass man die Person letztlich manipuliert und zum Wahnsinn treibt gibt es da auch schon Ansatzpunkte oder ist das vielleicht ja auch hier haben wir so ja die ein oder andere Sorge also muss dazu sagen gerade die Brand Stimulation hat schon in mehrfachen Fällen die dokumentiert sind dazu geführt dass Menschen ja vom Umfeld als impulsiver wahrgenommen wurden teilweise sind langjährige Beziehungen zerbrochen Jobwechsel wurden plötzlich so aus dem Nichts raus durchgeführt und es gab auch den ein oder anderen Fall wo jemand wirklich mit ja zum Beispiel Namani eingewiesen wurde in eine psychiatrische Behandlung also das sind schon wirklich auch teilweise extreme Situationen entstanden aber man muss auch gleichzeitig sagen das ist sehr sehr selten die Menschen die so eine Brand Stimulation haben die an denen es durchgeführt wird die haben mit der Regel sehr sehr schwere Krankheiten sehr sehr schwere Krankheitsverläufe von irgendwie mehr nach 100 epileptischen Anfällen am Tag bis zu sehr sehr starken Parkinson Krankheit ist da wirklich eine ganze Bandbreite von daher ist es immer so ein bisschen schwer zu sagen ja was sind hier eigentlich wirklich die Veränderungen der Persönlichkeit die hier passieren können und was ist ja eigentlich das Schadenspotenzial wenn auf jeden Fall mal nicht ausschließen dass es passiert vor allem wenn man es auch bösartig macht der Arzt der vielleicht irgendwie die Brand Stimulation einstellt wird ja auch versuchen dass da möglichst wenig Nebenwirkungen entstehen von daher ja ausschließen kann man es nicht und in Zukunft sollte man auch was sich damit auseinandersetzen als Szenarium Man sollte es wahrscheinlich auch nicht unterschätzen dass das Gehirn ja an einfach über Jahrtausend gewachsen als Organ ist im Benschen Körper verankert ist und jeder Versuch dort quasi von außen durch einzelne Impulse ein Einfluss zu nehmen ist weder evolutionär vorgesehen und eben auch neurowissenschaftlich höchst gefährlich und die Konsequenzen davon sind wie bei vielen Technologien einfach nicht sicher absehbaren wenn es zu einem massenhaften Einsatz kommt genau und wenn wir jetzt schon über massenhaften Einsatz sprechen dann sind wir jetzt schon weiter ganz im Wehr denn die befällt momentan ja so einiges und ist natürlich auch eine Frage der Zeit wann das Medizinprodukte betrifft also bestimmte medizinische Einrichtungen wie Krankenhäuser oder auch so eine Strahlentherapie ja so ein Strahlentherapie Gerät hat es schon betroffen und ja wenn man jetzt überlegt das könnte vielleicht auch Medizinprodukte betreffen wo dann wichtige Daten Patientendaten drauf liegen dann ist schon klar dass da auch ein Stück weit ein finanzieller Anreiz besteht von daher ja Cyberware mal Function hätten wir auch mal muss auch noch dazu sagen es gibt ja auch noch tausend weitere Möglichkeiten irgendwie Cyberware zu deaktivieren also jetzt so eine Computer-Schnittstelle beispielsweise zum Beispiel mit das Angriffen in die Batterie entleeren und so weiter das heißt aber auch dass wir ja Schadprogramme haben und hier mal quasi so eine Art Bonus Angriff der geht prinzipiell auch also auch hier ja wir haben dann hier mal so ein Beispiel gefunden in einem relativ interessanten Paper das ist ja steht hier unten links die haben tatsächlich versucht also diese forschenden Gruppe PINs zu erraten und zwar mit Verbraucher-EUG-Headsets also die die ich vorhin gezeigt habe die da so relativ charmant am Kopf anliegen wie so Headset mit denen lassen sich eben diese sogenannten Potentiale messen und wenn man da jemandem ein Stimulus vorsetzt dann kann es sein dass man zum Beispiel PINs Geburtsmonat oder ich glaube die geografische den geografischen Standort das haben sie da so erraten und das Threat Model das hier präsentiert wurde ist quasi wir nehmen einfach mal an es gibt ein App Store für Gehirn-Computerschnittstellen also so App Stores gibt es diesen momentan noch geschlossen aber vielleicht gibt es auch eine schöne oder auch einfach eine Download-Möglichkeit im Internet vielleicht auch noch so schön kostenlos und dann kann man da ja eine schädliche App anbieten man so eine App anbietet dann kann man ja so eine API für Rohdatennutzen um die bei den EEG-Headsets halt die ganzen Messwerte abzugreifen und wenn man dann mit der App noch ein Stimulus kontrolliert dann kann man einfach die Ereignis bezogen mit Potentiale auswerten und darauf Rückschlüsse ziehen und das Potential ist da relativ weit so ein vielleicht rausfitten auch so was wie zum Beispiel Religion, sexuelle Orientierung oder auch politische Ausrichtung das ist natürlich alles noch sehr sehr futuristisch aber gleichzeitig so vom Poof of Concept ja müsste man sich es ist schon was worüber man mal nachdenken kann und gerade das Thema auch Kontrolle des Stimulus da kann man auch durchaus Schaden anrichten selbst ich sage jetzt mal banalen Methoden wie einem etwas blinkenden GIF hier zum Beispiel bei Epilepsie-Patienten 2019 die dann tatsächlich ja epileptische Anfälle hatten das gleiche ist auch schon mal passiert vor über 10 Jahren damals in dem Epilepsie-Forum keine Sorge, wir spielen jetzt keins davon ein, also ihr könnt weiter auf den Bildschirm schauen kommen jetzt tatsächlich eher dann zu dem trögeren Teil, dem juristischen Teil was hat das denn alles jetzt zu den Grundrechten tun was sagt unser Grundgesetz dazu klassischerweise nähert man sich der Frage erstmal aus den Angriffszenarien und eben auch aus der IT-Sicherheit und die IT-Sicherheit hat dann diese klassische Pyramide genau, da hat man zum Beispiel die Vertraulichkeit die also das Daten vertraulich oder nicht von jedem eingesehen werden können und sowohl gespeichert aber auch in der Übertragung kann man zum Beispiel verschlüsseln dann die Integrität, also das Daten oder IT-System nicht einfach so manipuliert werden von unberechtigten und die Verfügbarkeit, dass die Leistung des Systems auch weiterhin fortbesteht also dass zum Beispiel so ein Epilepsie so eine Epilepsie, die hier ein Computerschnittstelle auch weiterhin funktioniert und Epilepsie-Anfälle mal mindestens abmildert oder zumindest oder auch vielleicht sogar verhindert und nicht irgendwie ausfällt. Und das gleiche gilt auch für Neurotechnologien von daher spricht man dann von Neurosecurity und auch das ist super wichtig. Gleichzeitig sind ja die ja ein Computerschnittstelle nicht nur einfach ein IT-System das der Mensch halt so nutzt sondern ist auch gleichzeitig geht es ja um Menschen, die direkt damit verbunden sind, die möglicherweise direkt die Auswirkungen auch spüren und davon betroffen sind, deswegen muss man sich hier auch mit Neuroethik auseinandersetzen und wir haben jetzt mal so ein paar Grundprinzipien der Neuroethik rausgegriffen die wir so ein bisschen mit den Grundrechten jetzt abgleichen. Angriffungspunkt im Grundgesetz sind eigentlich wenige Sätze das ist in Artikel 1, Absatz 1, die Würde des Menschen ist unantastbar, das kennen alle und dass der Staat eben auch dazu verpflichtet ist sie zu schützen und sich schützen davor zu stellen also Grundgesetz die Grundrechte sind nicht nur vor den Eingriffen durch den Staat sondern machen auch etwas was man so eine objektive Werteordnung nennt also sie sind eben auch ein Rahmenbeding für unsere Gesellschaft und der Staat ist auch verpflichtet unsere Grundrechte zu schützen durch Eingriffe anderer und Grundlage auf allem ist im Grundgesetz das ist ja relativ alt Artikel 2, Absatz 1 SEDA hat das Recht auf freie Entfaltung seiner Persönlichkeit also eine gewisse Autonomie sich selbst zu entfalten grundrechtlich sind das dann folgende Grundrechte die betroffen sind die allgemeine Handlungsfreiheit ist das was wir eben gehört haben die Freiheit der Person ist dann weniger die Persönlichkeitsentfaltung sondern die Bewegungsfreiheit und eben die Menschenwürde die Autonomie kann betroffen sein auf verschiedenen Arten und Weisen zum Beispiel in dem man einer Person die darauf angewiesen ist ein Assistenzsystem entzieht beispielsweise überlegen wir uns eine Person die unter dem Locked Insyndrom leidet also nicht sich äußern kann kann hat dann jetzt eine computer Schnittstelle mit der sie mit anderen Menschen sprechen kann wenn man ihr das entzieht entweder den wir sie wegnimmt oder sie lahm legt oder die Batterie vorsätzlich entleert ist die Person in ihrer Autonomie betroffen und mögliche Angriffsszenarien sind dass man sie damit erpresst oder dass man hier einfach die Möglichkeit sich selbst auszudrücken nimmt die etwas dann noch stärkeren oder krasseren Eingriffe sind wie wir es vorhin mit der Stimulation von Außen hat die körperliche Unversehrtheit und Leben auch das ist geschützt im Grundgesetz also dass niemand einen verletzt oder tötet also diese Gefahr haben wir ja gesehen ist jedenfalls nicht ganz von der Hand zu weisen sondern die ist real wenn man mit Stimulierenden implantaten arbeitet und ja dann gibt es gewisse Abgrenzungs Schwierigkeiten bei dieser Verschmelzung weil hierher der Computer und die Technik und der menschliche Körper sehr nah miteinander zusammenwachsen es wird in der Fachwelt dann diskutiert ob es sowas wie mentale Integrität gibt als Schutzgut und ja die Schwierigkeit besteht darin dass man ja einerseits an Körper antorgt also man kann einzelne Gehirnsignale manipulieren oder stimulieren aber es ist also der Körper dann ist es aber auch die Persönlichkeit die sich ja durch das Gehirngeschreut entfaltet und das gleiche gilt bei der Frage ist es das Eigentum betroffen man ist ja dann auch Eigentümer von so einer Gehirncomputerschnittstelle oder man hat sie nur geliehen vom Arzt dann ist es vielleicht dessen Eigentum aber ab wann wird es dann eigentlich Teil des eigenen Körpers wie bei einer Beinprothese ist das jetzt eigentlich mein Eigentum oder ist es mein Körper also solche Abgrenzungsfragen gibt es dann auch rechtlich näher betrachtet die großen Angriffsszenarien kann man sich dann hier vorstellen also die in personkörperliche Schäden zuzuführen die Gehirnaktivitäten zu beeinflussen und ja auch hier wieder Erpressungs-Szenarien zu sagen du wirst wieder 30 Epilepsie-Anfälle bekommen wenn du mir nicht so viel Bitcoin überweist dann lass ich deine Gehirnschnittstelle wieder laufen bis hin zu wirklich ferngesteuertem Suizid Mord aber auch Konditionierung ist möglich also so eine sublime Einflussnahme darauf dass man Leute in bestimmte Richtungen Triggert dass man ihre Persönlichkeit manipuliert und verändert und der große Komplex der natürlich auch betroffen ist ist der Datenschutz und die Privatheit da war das Verfassungsrechte und das Bundesverfassungsgericht in Karlsruhe sehr kreativ über die Jahre weil eben zu der Zeit als Grundgesetz und die Handlungsfreiheit geschaffen wurde noch nicht absehbar wird was es technisch für Möglichkeiten gibt es hat dann begonnen dass die Handlungsfreiheit erstmal nur bedeutet dass man sich nach außen äußern kann hat das allgemeine Persönlichkeitsrecht hat dann das Bundesverfassungsgericht in Kombination mit der menschenwürde konstruiert dass es also auch einen Innenraum gibt der geschützt ist der Persönlichkeitsentfaltung und daraus dann da ist ein falls beispielsweise das Recht am eigenen Bild und daraus abgeleitet hat das Bundesverfassungsgericht in 1983 im Volkszählungsurteil des Recht auf Informationelle Selbstbestimmung also die Grundlage unseres heutigen Datenschutzrechts und dann im online Durchsuchungsurteil auch das IT Grundrecht warum war das notwendig der Grund dafür ist dass das Recht auf Informationelle Selbstbestimmung vor allem auch die Verarbeitung von personenbezogenen Daten zielt und das IT Grundrecht und hier sehen wir wieder dass die Pyramide und die Begriffe aus der IT Sicherheit hier auftauchen auch es einen Schutz gibt dass die IT Geräte die man benutzt dass auch die nicht infiziert werden so Beispiel mit einem Staatstrojaner und man alle Festplatten und den Prozesse auslesen kann und ja also ein gewisses Grundvertrauen darauf dass IT Geräte nicht beeinträchtigt werden von außen die Angriffsszenarien sind dann hier auch wieder ähnlich Daten auszuspähen die auf einer gehirten Computerschnittstelle oder dort verarbeitet werden man kann andere Leute überwachen könnte beispielsweise gucken schläft die Person, macht sie Sport ist sie gestresst oder nicht das kann man so bei Person machen aber auch der Staat könnte das nutzen Erpressung wieder und da wir es mit Gesundheitsdaten zu tun haben die datenschutzrechtlich besonders geschützt sind aber auch besonders wertvoll sind ist es auch denkbar beispielsweise mit diesem Verfahren dass man die PIN erräht die Identitäten aneignet oder sogar die Daten von einer oder allen Gehirn Computerschnittstellen durch den Heck bekommt und dann weiterverkauft und diese Daten sind sehr sehr wertvoll auf dem Markt und der letzte Punkt der dann ethisch grundrechtlich betroffen ist ist die Identität das ist dann etwas was wieder im allgemeinen Persönlichkeitsrecht oder Menschenwürde steckt diskutiert wird gibt es so dass ein Recht auf psychologische Kontinuität also sich selbst ein eigenes Narrativ vom Leben zu machen sich ändern zu können aber auch zu sagen ich möchte so sein und das wäre ja bei einer Manipulation über Gehirn Computerschnittstellen könnte man auf die Persönlichkeit fremdbestimmt Einfluss nehmen und ja sowohl dass man sagt ich kann mich ändern aber ich da kann auch selbst entscheiden wer ich bin auch das ist betroffen die Angriffszenarien hier sind eher noch in der Zukunft nicht so klar wie bei den anderen drei Gütern aber auch hier wird sich wenn es stimulierende Gehirn Computerschnittstellen gibt im Massenhaft wahrscheinlich neue Rechtsfragen und spannende auch ethische Diskussionen weiter entspinnen genau jetzt stellt sich natürlich die Frage wie sind Brain Computer Faces reguliert also wir haben ja schon gesehen die Grundrechte schützen uns eine gewisse Weise aber das muss natürlich auch konkretisiert sein da hat der Staat einen Schutzauftrag der Verfassung und ja jetzt schauen wir uns mal an was hier so alles an Rechtsgrundlagen gelten könnte das kennen wir ja auch bei anderen Technologien also bei Autos gibt es Gesetze die regeln wie man damit umzugehen kann was gewisse Sicherheitsanforderungen sind aber auch bei Medikamenten bei Hygiene bei Lebensmitteln aber auch bei chemischen Stoffen um das kurz zusammen zu fassen was bei dieser Analyse die eben auch Teil der Forschung von Carolin und Professor Martini ist zu sagen IT Sicherheitsrecht gibt es aber es ist sehr branchenspezifisch und gilt nur in ganz wenigen Fällen das Datenschutzrecht DSGVO wird allen bekannt sein ist sehr es gibt sehr viele Regelungen es wird sehr viel geregelt aber es betrifft immer nur die Person die Daten verarbeitet adressiert also keine Produkte die Daten verarbeiten per se dafür gibt es dann das Produkt Sicherheitsrecht entweder für Medizinprodukte dort ist es sehr ausdifferenziert welche Anforderungen für Medizinprodukte bestehen wie sie auf den Markt kommen dürfen welche Regeln dort sind oder beim Produkt Sicherheitsgesetz allgemein auch dort ist immer das Problem sie schützen erst mal nur die Sicherheit der Person also Körper und Leben und sind wenig ausgerichtet auf den Schutz der Persönlichkeit nicht zuletzt gibt es dann die Vorschriften im bürgerlichen Gesetzbuch die Verträge über digitale Produkte die sind relativ neu treten bald in Kraft aber sind auch noch nicht wirklich vor die Gerichte gekommen und sind auch noch nicht ganz klar die KI-Verordnung wird auf europäischer Ebene gerade diskutiert auch da wird es dann Regeln geben aber Karo sag uns doch mal genauer was die Analyse jetzt zeigt wie das bestehende Recht auf den Gehirncomputer Schnittstellen reagiert Also zunächst das IT-Sicherheitsrecht wie schon gesagt es gibt kein allgemeines es gibt nur so spezielle Regeln hier gibt es zum Beispiel das BSI-Gesetz das verschleicht auch relativ bekannt das reguliert aber nur die IT des Bundes und der kritischen Infrastrukturen sowie noch so ein paar zusätzliche Adressaten aber Gehirncomputerschnittstellen fallen hier erst mal unter Keins sind insbesondere auch keine kritischen Gesundheitsdienstleistungen die sind ja zum Beispiel nicht unmittelbar lebenserhalten ist es leider nicht so einschläglich was es gibt ist das Recht des BSI bestimmte Produkte oder Systeme zu untersuchen auf ihre IT-Sicherheit hin davon hat das BSI mit den vernetzten Medizinprodukten auch bereits Gebrauch gemacht den Bericht das Ganze habe ich ja vorhin kurz erwähnt das ist auch eine ziemlich gute Sache aber ist gleichzeitig auch keine umfassende Regulierung das Datenschutzrecht also vor allem die DSGVO die hat mit dem Artikel 32 natürlich eine gute Grundlage für technische und organisatorische Maßnahmen zur Datensicherheit da steht einerseits der Stand der Technik drin, da kann man sich dann wenn es genauer interessiert das IT-Grundschutzcompanium oder so anschauen ein paar Maßnahmen sind auch explizit geregelt wie zum Beispiel die Verschlüsselung eine weitere interessante Sache ist die rasche Wiederherstellung nach einem Zwischenfall das heißt auch hier ist zum Beispiel Vorfallsmanagement extrem wichtig das heißt wenn irgendein Sicherheitslücke ist und das wird früher oder später wahrscheinlich mal auch viele betreffen dann ist es eben wichtig dass man schon Prozesse geklärt hat und relativ schnell die Sicherheitslücke identifizieren und schließen kann dass man vielleicht Sicherheitsupdates ausrollt und so weiter man darf nicht vergessen, wir reden hier nicht über irgendwelche Daten, sondern über Gesundheitsdaten also neurologische Daten und die sind besonders geschützt durch die DSGVO aber auch gleichzeitig erhöhen sie das Schutzniveau dass man ja anlegt um zu bewerten ob hier ausreichende Datensicherheit gewährleistet ist aber wie schon gesagt es ist nicht wirklich umfassend regulierend denn hier sind vor allem die Datenverarbeitenden also verantwortlich wie auch Auftragsdatenverarbeiter oder Betroffen und eben nicht die Hersteller und das führt dann dazu dass zum Beispiel wenn wir jetzt so Emotives sehen mit ihren EEG-Headsets dass sie erstmal für das Produkt zuständig sind und gegebenenfalls also dann aber nicht mit der DSGVO fallen oder sie verarbeiten noch Daten im Rahmen von der App und dann sind sie eben dem Fall dann eben daten verarbeitet beziehungsweise verantwortliche fallen dann unter die DSGVO wenn jetzt aber so eine App nicht mit angeboten wird oder die Datenverarbeitung rein vom Nutzer oder vom Arzt kontrolliert wird ist die DSGVO für die Geräte an sich erstmal nicht zuständig was bei Medizinprodukten greift ist die Medizinprodukteverordnung also ist eigentlich EU-Recht und die gilt also mittelbar bei uns und da ist allerdings die Frage wann liegt ein Medizinprodukt vor und dafür ist Ausschlag geben was der Hersteller sagt sagt der, dass es ein Medizinprodukt ist zum Beispiel gibt es diese schönen Verbraucherheadsets von Emotives und die haben hier so diesen Disclaimer quasi Dotsold as a medical device und das bedeutet es ist kein Medizinprodukt eine Ausnahme besteht bei transkraniellaggienstimulation weil da eben Nebenwirkungen entstehen können die durchaus auch ganz ernst sein können die fallen immer unter die Medizinprodukte Richtverordnung was dann allerdings Fragen aufwirft ist zum Beispiel nur Link wenn sie mal irgendwann gegen Computerschnittstellen auf den Markt bringen die nicht zu medizinischen Zwecken dienen sondern hier steht es enhance your own brain das wäre ja kein medizinischer Zweck sondern eben ein enhancement Zweck und nur Link möchte auch Mikroelektronen implantiert werden entwickeln oder hat schon entwickelt und die wären dann ja innerhalb des Gehirns wäre also eine intrakranielle Gehirnstimulation und rein vom Wortlautfeld ist da nicht drunter Medizinprodukteverordnung erwähnt die IT-Sicherheit im Anhang gleichzeitig hat aber auch die Koordinierungsgruppe Medizinprodukte die ist zusammengesetzt aus verschiedenen Vertretern der Aufsichtsbehörden der jeweiligen Mitgliedsstaaten und die haben eben mit der Guidance und Cyber Security von Medical Devices eine Leitlinien eingeführt oder ausgearbeitet wie man IT-Sicherheit bei Medizinprodukten schützen kann ist ein relativ ausführliches Defense in depth Konzept ziemlich interessant kann ich nur empfehlen mal reinzuschauen die haben insbesondere auch so Regeln wie es muss autonom funktionieren darf nicht auf eine tratlose Verbindung angewiesen sein und auch viele Regeln zum Vigilanzsystem das bedeutet Postmarket surveillance also wenn das Medizinprodukt auf dem Markt ist muss das trotzdem weiter beobachtet werden und da geht es dann auch um die Frage wie geht man um wenn dann doch mal ein vorkommendes passiert wenn das Medizinprodukt irgendwie manipuliert werden kann wenn da irgendwie die Patientensicherheit in Gefahr ist allerdings geht es hier auch nur um die Patientensicherheit und Gesundheitsgefahr worum es nicht geht ist Datenschutz oder Privatheit das heißt wenn Daten einfach so exponiert sind dann ist das prinzipiell mal nichts weshalb die Medizinprodukte verordnung greift es würde dann wieder das Datenschutz recht eventuell greifen da sind ja auch Vorfälle zum Beispiel zu melden aber auch hier klaffen wieder so die die Verantwortungsbereich so ein bisschen auseinander ganz ähnlich ist es beim Produktsicherheitsgesetz auch hier ist Körper, Leben, Gesundheit und Eigentum geschützt nicht aber die Persönlichkeitsinteressen ein weiteres Problem vom Produktsicherheitsgesetz ist dass dann nur vorhersehbare Risiken zum Zeitpunkt quasi das auf den Markt bringen relevant sind was also komplett fehlt sind Sicherheitsupdates wenn irgendwelche unvorhersehbaren Risiken und Sicherheitsglücken entstehen aus dem Grund sollte dann das neue Bahn Kaufrecht im BGB quasi helfen das tritt bald in Kraft und hat insbesondere diese Pflicht zur Aktualisierung muss aber auch dazusagen es wird zwar indirekt auch gesagt man soll halt an Datenschutz Datenschutz durch Technik und so weiter das soll schon irgendwie Teil der Vertragsmäßigkeit sein aber auch mit unter Umständen im Einzelfall oder auch die Pflicht für Aktualisierung soweit sie für die Vertragsmäßigkeit erforderlich sind das sind also relativ viele vage Begriffe das heißt wie genau das jetzt umgesetzt wird was für ein Maßstab gilt und wie scharf dieses Schwert eigentlich ist das ist noch nicht so ganz klar muss sich rauskristallisieren zusätzlich ist noch ganz interessant das neue Gesetz für überkünstliche Intelligenz also das ist noch im Entwurfsstadion da wurde vor kurzem ja so eine Verordnung also eine EU-Verordnung sein Gehen Computer-Schnittstellen fallen darunter weil sie ja statistische Methoden und Machine Learning verwenden und bei Stimulierung zum Beispiel auch Sicherheitskomponenten dann über KI-Methoden funktionieren und dann sind es Hochrisikosysteme Hochrisikokaisysteme und wissen dann besondere Anforderungen und unter anderem an die Zeibersicherheit erfüllen man sieht also grundsätzlich dass hier relativ viele verschiedene Regulierungsmöglichkeiten greifen und keine so richtig alles abdeckt und insbesondere das Datenschutzrechts auf der einen Seite und die Produktregulierung auf der anderen Seite steht es sollen ein bisschen Abhilfe geschaffen werden die Europäische Kommission hat schon angekündigt da in den Produkt-Sicherheitsregulierungen nachzuschärfen diese Privatsphärenkomponente zu stärken aber bislang gilt eben das hier hier ist noch ein paar weitere Informationen für den Fall, dass sich jetzt irgendjemand besonders für Gehirn-Computer-Schnittstellen interessiert und ansonsten die Quellen sind hier verlinkt und freue mich schon auf eure Fragen vielen vielen Dank für den spannenden Vortrag die QA dazu findet jetzt im Big Blue Button-Raum AIDA statt für den Big Blue Button-Raum findet ihr hier im Video als Text und als QR-Code eingeblendet die Adresse ist events.hexen.org slash awesome unterstrich AIDA.html wir wechseln jetzt in den Big Blue Button-Raum Hexen zur großartigen AIDA für die Q&A bis gleich