 Bonjour, la prochaine présentation est de Marlos de Valk, c'est une artiste, une écrivaine des Pays-Bas. Elle travaille avec beaucoup de matériel et de médias différents. Son sujet aujourd'hui sera pourquoi anthropomorphisons-nous les ordinateurs tout en nous déshumanisant dans le procès de Suisse. Il y aura une translation depuis l'anglais vers l'allemand et le français. Merci d'accueillir chaleureusement Marlos. Merci beaucoup. Merci à vous d'être venu. Mon nom est Marlos de Valk et je vais vous parler d'anthropomorphisation. Je vais avoir une approche en termes de survie et de stratégie. Quand je parle de Big Data, je vais plutôt concentrer sur les aspects sociaux et techniques du phénomène et des recherches qui utilisent ces données. Ça peut être par exemple des données de carte de crédit mais aussi des données de réseaux sociaux, plein de sortes de données différentes. J'ai un petit problème de slide. Oh my gosh! Je vais en ce moment. Oh my gosh, c'est complètement frozen. Je suis très désolé, je dois exercer. Petit problème, il faut que je quitte le logiciel et que je revienne, excusez-moi. Help! A l'aide! Oui, le premier slide est déjà dit. Les compétences sont des gens aussi. Comme le dit le premier slide, les ingérateurs sont aussi des êtres humains. Peut-être que celui-ci n'est tout simplement pas encore réveillé. Désolé pour l'interruption. Je voulais commencer. Pour dire une histoire à propos de la technologie et finalement cette interruption la fait prendre. La propagande de la Silicon Valley, c'est ce qu'on va voir de notre vivant. Les gens n'ont pas idée de quelle vitesse les choses peuvent changer. Ça me remplit d'un sentiment d'admiration mais aussi un peu de crainte. Je vais vous expliquer pourquoi la décennie qu'on vit n'est pas seulement un moment intéressant mais un des moments les plus excitants de toute l'histoire humaine. La technologie c'est une force qui prend ce qui était auparavant et qui va transformer tout ça en abondance. Le futur ne va pas se prendre en charge lui-même. Le monde regarde l'Amérique et l'Amérique regarde la Silicon Valley. Ici, à la baie de San Francisco, il faut qu'on crée des solutions. Un but est de simplifier la complexité. De grandes choses peuvent arriver. Je crois qu'il y a deux voies pour l'humanité. La première où nous restons sur Terre, je n'ai pas une prédiction d'apocalypse mais quelque chose va arriver. L'alternative c'est que nous devons une espèce multiplanétaire et nous nous amusons dans l'espace. Nous allons nous installer sur Mars et on a raison puisque c'est cool. En termes d'espace, mon but c'est d'utiliser l'infrastructure pour que les générations futures puissent avoir des opportunités aussi excitantes que celles qu'on a aujourd'hui. La peur me rend énervée. J'ai l'idée que vieillir c'est une question de plastique. Et qu'en fait si on arrive à pénétrer le code, si on arrive à haquer le code, on pourrait continuer à vivre indéfiniment. On pourrait arrêter le vieillissement. La question n'est pas celle de la Silicon Valley qui vivrait sur le sang des autres mais avec les technologies de la santé on va pouvoir lire notre génome. Avec les technologies de la santé on va pouvoir rendre la mort optionnelle. On peut créer des transformations humaines qui ferait pas lire les transformations que l'on voit dans les comics Marvel. Les anciennes cultures s'intéressaient au futur en pensant à des choses comme les cyborgs ou les mortalités. Nous sommes au début du début, la première heure du premier jour. Il n'y a jamais eu autant d'opportunités. Les meilleurs produits des prochaines 25 années ne sont pas encore inventés. Maintenant nous allons changer le monde, un robot à la fois. Maintenant nous allons pouvoir créer des robots qui vont pouvoir résoudre nos moindres désirs. Cela va être absolument magique. Un monde complètement industrialisé. Mais nous devons développer plus vite que la technologie. Les ordinateurs risquent de prendre la main par rapport aux humains. Mais nous avons peut-être créé l'espèce qui pourrait nous dépasser. L'existence risque d'être mise en question avec l'arrivée de l'intelligence artificielle. L'histoire nous a montré que nous serons capables de créer des systèmes beaucoup plus complexes que nous et qui pourraient nous enfermer. Certainement des bénéfices économiques pour ceux qui créeront ces intelligences artificielles. Il y aura certainement des bénéfices économiques pour ceux qui créeront ces intelligences artificielles. Mais même si nous acceptons l'idée que nous pourrions dessouter complètement notre société, il pourrait y avoir des impacts importants. Même si nous acceptons, marquisiquement parlant que cela soit rentable, nous sommes néanmoins lancés dans une course contre la mort. Une course contre notre déclassement. Tout ça c'était des citations. Chacune des phrases. Non seulement la Silicon Valley parle de la technologie de meilleures mystérieuses, mais elle fait aussi des choses étranges. Voilà, il y a un titre de mai 2016. L'intelligence artificielle doit être régulée, mais ne régulons pas les mathématiques. Avec assez de données, les nombres parlent de même. C'était une théorie exposée dans un article ferme de Chris Anderson. À un autre titre, Google crée des intelligences artificielles qui peuvent s'apprendre elles-mêmes à être meilleures que les humains. Microsoft s'est excusé pour son chatbot qui a proféré des injures et des propos nazis. Ils ont dit que ce n'est pas comme ça qu'ils l'avaient designé. Ensuite, il y a un article de PC World qui dit que l'intelligence artificielle a créé en 3D un Rembrandt tout nouveau et qu'il est très bon. À partir de 346 tableaux du peintre, ce logiciel a créé des dizaines de nouveaux Rembrandt. L'intelligence artificielle et le deep learning sont ce qui nous est vendu. Et pourtant, c'est clair que derrière cela, il y a des programmeurs des humains. Et pourtant, on ne dit pas que ces tableaux ont été fait par une équipe de programmeurs. En fait, ce que tous ces messages nous disent, c'est que c'est l'ordinateur qui l'a fait. Mais pour l'instant, on n'a que de l'automatisation intelligente, mais il y a toujours quelqu'un derrière. En fait, on fait de l'anthropomorphisation des ordinateurs et on attribue des qualités presque humaines aux ordinateurs. J'aimerais vous proposer deux stratégies de survie. Pendant l'évolution de l'esprit humain, nous avons évolué d'un langage plus socialisé. La théorie de l'esprit nous laisse penser que tout passe par l'empathie. Tout ce qui possède un esprit, doit être dit à l'empathie. Les gens réels, même si les subjets ont été complètement d'invité, ils ont répondu aux computers comme ils souhaitaient de la people, de l'opportunité collective, attribuant des caractéristiques de personnalité, comme agressif, humeur, de l'expertise et même de la législation. C'est-à-dire, nous n'avons pas évolué de très bien, nous le faisons. Microsoft, mal interprétait ces recherches. Et c'est ce qu'on a vu en 1997 avec le paie-park clip à visage humain. visage humain. Je vous propose une autre théorie de la survie, celle de l'oracle. C'est celle où on essaie de prévoir les événements, et on essaie d'orienter les événements dans ce qui nous intéresse le plus. On ne peut pas prévoir le futur, mais on a besoin d'avoir ce sentiment qu'on contrôle matredestiné. C'est un moyen de se réconforter. On pense que l'oracle de Delph, intoxiqué par des vapeurs qui allaient aspirer, faisait de tels oracles et parlait à la place des dieux. Ensuite, les temples traduisaient ceci en choses compréhensibles pour les mains et on lisait que les dieux avaient parlé. Maintenant, on va faire pareil avec les ordinateurs. Les ordinateurs vont cracher des nombres, y avoir à les interpréter et on aura l'impression d'avoir eu un avis éclairé. Le plus grand, la base de données, le plus grand, le plus intéressant, la prophétie. On fait comme si cela n'était pas sujet à nos biés et à nos erreurs. Comme je le disais tout à l'heure, il y a cet article de C. Anderson avec assez de données. Les nombres parlent de même. Vous pouvez oublier tout ce qui est psychologie. Les nombres font ce qu'il y a. Et on peut voir avec fidélité, avec précision ce qu'ils font. Ce nouvel oracle, cet oracle de l'âge moderne, évidemment, il est apprécié par tout ce qui vende des dates de données et tout ce qui structure les bases de données. Et on fait comme si les big data avaient des super pouvoirs et notamment à travers les médias. On a pu voir des articles, par exemple, sur l'élection de Trump et l'importance des big data et comment ils ont influencé les résultats de les élections. L'idée, c'est que les données en savent plus sur vous que votre propre mère. L'article dit même que les données peuvent s'en faire plus sur vous que ce que vous pensez savoir sur vous même. Caffeionine, dans son livre Les armes de destruction mathématiques, parle très bien de ce phénomène. Mais c'était pas que Trump, tous les candidats, le fusée. Il a à Quinton utilisé un logiciel appelé grand work qui a été créé par Eric Schmidt. Le tête-crouze utilisé d'autres logiciels aussi de big data. Il y a eu un article d'Orma-Vortbord assez détaillé sur l'importance de la donnée dans la campagne électorale américaine. De dedans il y a un rappel, un invertissement sur le fait qu'utiliser les big data, ça crée à sa force le résultat démocratique. En fait il y a une croyance que les grandes bases de données créent une forme de connaissance et d'intelligence qui est tellement puissante qu'elle dépasse l'analyse humaine. On nous présente des tableaux, on nous présente des graphes, on nous dit qu'ils sont faits des ordinateurs et Steven Levi le chercheur a montré comment toutes ces choses nous poussent à croire que les résultats sont fondamentalement non biaisés et exacts. Tim Harford a identifié quatre piliers pour ce genre de fois. Le premier c'est la précision, la précision presque inhumaine le deuxième c'est la préférence sur la croyation plutôt que la causation. Le troisième c'est la croyance qu'un échantillon pendant la totalité des gens et la quatrième c'est que avec suffisamment de données les données finissent par parler d'elles-mêmes. Cette dernière idée est naïve et évidemment quand on voit comment sont constitués les bases de données et comment elles sont utilisées. Nicolas Stala a écrit quelque chose qui appelle l'utilisation d'exemples précis et montre qu'on peut par exemple montrer une corrélation très forte entre des stocks et des prix. Est-ce qu'il se passe au Bangladesh ? Bon c'est un paradoxe évidemment on a tendance à voir ces corrélations là où il n'y en a pas. On consulte le nouvel oracle sans le critiquer et du coup on se déshumanise nous-mêmes en même temps qu'on anthropomorphise l'ordinateur. On se retire de l'équation et du coup on voit ce qui est vraiment. On a l'impression qu'il n'est plus possible de ne pas être d'accord avec le big data et avec les analyses du big data. On ne peut pas vérifier les biais, on ne peut pas remettre en question les résultats et voilà ce que j'appelle la déshumanisation. Ça devient évident pour quiconque et victime d'une décision automatisée qui l'exclu. Si vous vous faites exclure de certains privilèges sociaux à cause d'une décision algorithmique ou de big data, là vous êtes complètement déshumanisé par ce processus. La manière dont on pense l'information a beaucoup changé depuis le siècle dernier. Alors que c'était auparavant seulement un moyen de contrôler un système, c'est devenu notre représentation de la réalité. Ici on voit Norbert Binnard qui a construit une machine sur les fonds de live magazine. C'est des photos qui n'ont jamais été publiées parce que d'après l'éditeur de live on n'y voyait pas suffisamment les caractéristiques humaines de l'ordinateur. Norbert Binnard a écrit vivre relance et vivre avec les bonnes informations. Et presque au même moment Shannon a publié une théorie mathématique de la communication. Jonathan Peter a bien expliqué comment cette théorie a été interprétée par les sciences sociales pour leur propre besoin. On sait en fait que beaucoup de fonctions analytiques ne peuvent pas être représentées de la façon compréhensible par les humains. On voit qu'il y a une différence entre le cerveau humain et l'intelligence artificielle. Mais ça on l'a oublié. Dix ans plus tard la recherche sur l'intelligence artificielle a commencé à comparer l'intelligence artificielle avec les humains. Dans les années 80 l'information devient encore plus importante, encore plus puissante. On a un article sur les que je vous montre où on dit que l'information a dépassé l'intendement humain. On voit une image, un dessin qui date du Moyen-Âge où on voit le déplacement des liquides dans le corps. A l'époque on prenait ça comme la manière de fonctionner de notre corps et de notre intelligence. Ce dessin-là est du 16e siècle. Il y a un aspiré par exemple René Descartes qui disait que l'homme est une machine complexe où l'âme et le corps sont complètement séparés. On a tendance à continuer à penser comme ça. On compare notre cerveau à un ordinateur. On dit que notre cerveau est un traiteur d'information. À partir de là ça paraît pas bizarre de considérer que la Big Data est un nouvel oracle. On se voit comme des machines et on voit les machines comme des humains. Mais est-ce que ça marche vraiment de penser comme ça ? Le premier manière de penser, la première manière de penser la survie, elle nous a permis d'arriver jusqu'où on est, de rester vivant. Mais la deuxième manière c'est celle de Norac. L'Orac ça nous a permis tous les progrès technologiques qu'on connaît. Alors qu'est-ce qu'il faut faire ? Maintenant d'abord il faut se préoccuper véritablement de ces problèmes. Comme c'est le cas pour le problème du réchauffement climatique. On continue à avoir notre conscience complètement différente de notre corps et qu'on croit qu'on peut transférer notre conscience à un ordinateur puisqu'on pense que les deux fonctionnent de la même façon. Alors on va croire qu'on va pouvoir vivre toute l'éternité. Il y a même un projet de William Burroughs dont l'idée est de centraliser toutes les données de l'humanité et de les envoyer sur une base lunaire afin de sauvegarder toutes les productions de l'humanité. En fait quand William Burroughs parle de Colin Niza Mars, ce qu'il a fait dans sa dernière présentation en mars dernier, c'est également la même idée comme manière de survivre. Avec tellement de données et avec de si bons scientifiques qui les regardent, on a l'impression qu'on va pouvoir réussir à maîtriser le changement climatique. On a l'impression qu'on va pouvoir continuer sans essayer de penser le changement radical qui s'impose. Mais l'information c'est pas quelque chose d'abstrait, il y a toujours une personne qui porte cette information. C'est important de se rendre compte de cet aspect humain quand on parle du changement climatique et de voir les gens qui sont directement infactés. On voit ici une photo du lac Balta en Chine et on voit les effets de notre mode de consommation sur le tiers monde. On peut penser par exemple à tout ce qui est aviation et consommation d'énergie. Ce qui se passe c'est que les recherches sur le climat nous montrent que la Terre se réchauffe de manière alarmante et rapide. Quand il s'agit de terrorisme, on a pu changer de manière de penser vraiment très radicalement et très rapidement. Quand il y a des dangers qui requièrent de changer complètement le status quo comme le réchauffement climatique ou l'intelligence artificielle, là par contre on n'a pas encore pris l'ampleur, on n'a pas encore mesuré l'ampleur du changement qu'il faut faire. Mais finalement on pose la question est-ce que vraiment notre essence c'est d'être des cerveaux complètement séparés d'un corps ? En tropomorphisé, ça fait partie de notre nature humaine et ce n'est pas un problème, ça nous permet d'avoir de l'empathie pour le monde qui nous entore. Mais il ne faut pas confondre la métaphore avec la réalité. Les ordinateurs ont dit qu'ils comprennent, ont dit qu'ils pensent, et parfois les humains ont dit qu'ils buguent, c'est des bonnes métaphores mais ce n'est pas la réalité. Si on décrit les ordinateurs comme des humains et les humains comme des ordinateurs, on décrit une réalité qui est basée uniquement sur l'information. Pour l'instant il n'y a pas d'intelligence artificielle forte, il n'y a seulement de bonnes automatisations. Tout ça c'est des problèmes auxquels il faut que nous réfléchissons sérieusement. On a eu beaucoup d'exemples récemment d'utilisations de liens, que ce soit la manipulation des fines d'actualité par Facebook ou soit l'élection de Trump. On a l'impression qu'il y a un effet invisible de liens sur la société. Je vous recommande de lire le rapport que je viens de citer. Ici de certains problèmes qui vont avoir lieu. Le problème de l'automédiation du travail et de la répartition des réchesses. Le problème du droit à la rectification des décisions qui sont prises par un ordinateur sur nous. Ceux qui sont touchés par le déploiement de l'intelligence artificielle doit avoir un rôle dans la manière dont on pense. Il faut avoir le droit de challenger la justice qu'ils proposent, de challenger les décisions qu'ils font. On a tous un billet qui est le billet de penser que les gens vont penser comme nous. Et finalement quand on regarde l'oracle, l'oracle que nous avons construit, le nouvel oracle, on a l'impression que toutes les personnes intelligentes vont penser comme nous. Mais le machine learning, c'est pas tellement sur le but du machine learning, c'est pas tellement que les marchines prennent conscience de même. C'est finalement l'exploitation d'hommes par d'autres hommes. Il y a des questions éthiques là-dessous de comment nous nous percevons nous-mêmes. Il ne faut pas que nous ayons la discussion que nous avons voulu d'avoir, mais la discussion dont nous avons besoin et se demander comment la technologie marche pas seulement pour nous, mais aussi pour tous ceux qui nous entourent à travers la planète. Merci. Merci Malosh. Merci Malos. Est-ce qu'il y a des questions ? On a encore une petite minute. Super. Merci un tonnerre d'applaudissement. Merci encore.