 aujourd'hui, pour cet événement organisé par le centre digital et consacré cette année au thème de l'intelligence artificielle. Un bref rappel du déroulement de la matinée qui débutera dans quelques instants par une première masterclass de Jean-François Bonnefond, directeur de recherche au CNRS et chercheur ATSE, intitulé la morale des machines, puis s'en suivra une seconde masterclass de François Poénas, maître de conférence ATSE sur le thème de l'IA et l'emploi. Nous ferons ensuite une pause autour d'un café à 11 heures avant de nous retrouver ici à 11h30 pour une table ronde sur les enjeux économiques et réglementaires de l'intelligence artificielle qui sera animée par Rémi de Miquelis, journaliste au journal Les Échos. Et enfin la matinée se conclura par un cocktail déjeunatoire à 12h45 qui sera aussi l'occasion de poursuivre les échanges. Bien entendu, nous souhaitons que cet événement soit le plus interactif possible et vous serez d'ailleurs sollicité à certains moments de la matinée pour répondre à quelques questions avec votre téléphone portable et vous aurez aussi l'opportunité de poser vos questions, de réagir aux interventions à la fin de chaque masterclass et après la table ronde. Voilà, je vous remercie de votre attention. Je passe tout de suite la parole à Yassine Lefouilly, directeur du Centre Digital. Bonjour à tous et bienvenue à la quatrième édition du Forum Digital de TSE. Alors lorsqu'on nous a commencé à réfléchir au thème sur lequel porterait cette édition, l'intelligence artificielle s'est imposée comme une évidence dans l'intérêt pour le sujet grand parmi les acteurs de la vie économique. Alors l'IA, comme toute technologie de rupture, suscite à la fois des espoirs et des craintes qui sont parfois exprimées de manière excessive. Notre objectif ce matin est d'analyser tous ensemble les enjeux économiques, éthiques et réglementaires de l'IA pour nourrir la réflexion à la fois des entreprises et des décideurs publics sur le sujet. Merci d'être parmi nous ce matin et excellent forum à tous et je passe la parole à Jean-François. Merci Yassine. Bonjour à tous. Je vais vous parler de la morale des machines. Alors c'est une formulation qui est peut-être provocatrice. Je ne dis pas de dire que les machines ont un sens moral ou que les machines ont une réflexion morale, c'est-à-dire que les machines vont prendre des décisions qui auront des conséquences que l'on peut appeler moral et que les questions qui se posent sur les conséquences morales de ces actions, elles se posent à tous, aux gens qui créent les machines, aux gens qui les régulent, aux gens qui les utilisent et puis à tous ceux qui vivent dans les sociétés où l'on utilise ces machines. Alors plutôt que de parler à un niveau très général, je vais prendre un exemple pratique celui des véhicules autonomes et puis je vous ai montré une méthode pour étudier les préférences des citoyens quant au comportement de ces véhicules autonomes et ouvrir sur la fin sur comment est-ce qu'on peut appliquer cette méthode à d'autres domaines de l'intelligence artificielle quand l'intelligence artificielle a une dimension morale. Alors comme je vais vous parler de choses qui sont sinistres, je vais parler beaucoup d'accidents impliquant des véhicules autonomes, je me suis dit qu'avant de vous déprimer, je peux peut-être vous faire un peu rêver et le rêve, c'est le rêve et avant d'en arriver là, il y en a déjà eu, Tesla, Uber, mais parmi les accidents qui risquent de se produire, il y en aura qui seront plus compliqués que d'autres. Par exemple celui-ci, il y a une voiture autonome ici en train de se conduire qui est sur le point d'écraser cette fusée de famille. Pas le temps de freiner, la seule possibilité c'est de donner un grand coup de volant pour aller s'en casser dans cet obstacle et risquer de blesser, voire de tuer la maman et le petit garçon qui sont dans la voiture. Alors que faire, écraser les piétons, tu les passager, bien sûr ça c'est pas exactement réaliste. Un véhicule autonome en pleine vie, la proximité d'un passage piéton ne va pas rouler à une telle allure que le véhicule devrait avoir à prendre ce genre de décision. Donc ça c'est un exemple un peu forcé. Mais ces questions là c'est à dire que doit faire un véhicule autonome quand il a à distribuer un risque, ces questions préoccupent beaucoup de gens en ce moment. Des constructeurs, ils se fordent un jour, il n'y a pas si longtemps un déclar et quelle vie les voitures seront telles. C'est une question éthique, nous avons la résoudre ensemble. Daimler a prouvidement dit, nous implémentrons ce qui sera légal et socialement acceptable dans une situation comme celle-là. L'Union européenne a dit, bon les politiques, l'industrie doivent trouver des réponses en travaillant avec le public. Vous voyez le fil rouge ici, ces questions-là il faut les aborder ensemble. Et ensemble, pas seulement en décideur politique et industriel, mais ensemble tous, avec les citoyens, consulter le public. Les citoyens doivent avoir leur mot à dire dans ce débat-là. Non seulement parce que ce sont ceux qui sont susceptibles d'acheter des véhicules et qu'il faudrait qu'ils aient une idée de la façon dont les véhicules pourraient se comporter dans des situations critiques comme celle-là, mais aussi parce que même ceux qui n'achèteront pas ces véhicules marcheront quand même dans les rues de ces véhicules circulent. Donc tout ce qu'on soit conducteur au piéton cycliste, tous nous avons notre mot à dire. Alors quand avec mon groupe, nous avons commencé à nous pencher sur la question, c'est-à-dire comment est-ce que les citoyens voudraient que les voitures autonomes se comportent dans ces situations critiques ? Nous avons commencé par ce qui semblait être à l'époque la question qui tourmentait les gens, qui est est-ce qu'un véhicule autonome devrait sacrifier ses passagers si ça peut sauver davantage de piéton ? Et en posant simplement cette question aux gens, bon, nous avons vu qu'un consensus était clairement en train d'émerger, c'est-à-dire que dès qu'un véhicule autonome est susceptible de sauver deux piétons en sacrifiant un passager, alors la majorité des gens pensent que oui, le véhicule devrait sacrifier ses passagers. Et puis bien sûr, si on augmente le nombre de piétons à être sauvés, on voit que le nombre de gens qui sont d'accord avec cela est d'augmente, mais déjà, rien qu'en disant, imaginez, même vous êtes dans la voiture, vous êtes en train de circuler et la voiture a le choix et pourrait décider de vous sacrifier pour sauver deux piétons, qu'est-ce qu'elle devrait faire ? Les gens disent d'un point de vue moral, il faudrait que la voiture me sacrifie. Alors ça veut pas dire qu'ils ont envie d'acheter la voiture, parce que quand on leur a demandé ensuite, d'accord, vous pensez que c'est ça que la voiture devrait faire d'un point de vue moral, mais vous l'achetez et de non, non, non, quand même pas. Mettons de côté cette question-là et concentrons-nous pour l'instant uniquement sur ce que les gens pensent que les voitures devraient faire. Alors ils nous disent, oui, elles doivent sauver le plus grand nombre, quitte à sacrifier quelqu'un, voire le passager. Seulement, la question c'est, est-ce que c'est vraiment très solide cette préférence-là ? Tant qu'on leur dit juste des quelque chose comme sauver une personne ou deux, sauver une personne ou cinq, les gens disent bon, d'accord, sauver le plus grand nombre, mais bien sûr on leur a donné que cette information, le nombre. Alors qu'est-ce qui se passe si on commence à décrire un peu plus précisément ? Par exemple ici, la voiture elle est vide, elle est autonome, elle circule, et imaginons qu'elle ait le choix entre aller tout droit et écraser ce couple de personnages qui traversent rouge ou bien pour les sauver, donner un grand coup de volant et écraser cette petite fille qui traverse au vert, alors qu'elle a le droit. Alors évidemment si on se base uniquement sur le nombre, il faudrait que la voiture donne le coup de volant et tue la petite fille. Alors je ne vais pas vous demander de lever la main, mais si vous êtes comme la moyenne des citoyens, vous n'êtes pas très à l'aise avec cette idée, que ma foi pour sauver le plus grand nombre, il faut aller écraser cette petite fille qui traverse sagement au vert de façon à sauver ce couple qui traverse alors qu'il ne devait pas traverser. Donc l'idée du nombre là semble perdre son atrait. Alors bien sûr dans cet exemple, j'ai empilé tout ce qui pouvait faire qu'on soit pas très à l'aise avec l'idée de sauver le plus grand nombre. Il y a peu de différenciel entre le nombre de vies sauvées, il y a l'âge, il y a le fait que ce soit une petite fille, il y a les feux de circulation, il y a le fait que la petite fille n'est pas pour l'instant devant la voiture. Donc tous ces facteurs là empilés font qu'on n'est plus très à l'aise avec l'idée de sauver le plus grand nombre. Evidemment, quand on commence à manipuler tous ces facteurs, on se retrouve avec un nombre de situations astronomiques et puis bien sûr on n'est pas obligé de s'arrêter à ces personnages-là, des tas de gens qui pourraient être sur la route ou dans la voiture, des femmes enceintes, des bébés. Donc si je commence à vouloir construire toutes ces situations d'accidents possibles avec tous ces personnages, tous ces facteurs liés à l'environnement, les feux de circulation, la route, je me retrouve rapidement avec des millions possibilités. Ça veut dire que si mon but c'est de faire de la science sociale en demandant aux gens à chaque fois à ce qu'ils préfèrent, est-ce qu'il faudrait avoir cet accident ou celui-là et que j'ai des millions de scénarios, à un moment je ne vais plus avoir assez de gens sur la planète pour répondre à mon enquête. Donc il fallait inventer une nouvelle façon de faire des sciences sociales, de faire de l'enquête. Donc ce qu'on a créé, c'est un site internet qui s'appelle Moral Machine qui génère des scénarios d'accidents. Il y a un très, très, très grand nombre de possibilités et les gens qui visite ce site peuvent librement visionner 10, 50, 100, voire c'est arrivé 1000 accidents pour au moins un utilisateur. Et puis à chaque fois prendre une décision rapide. Je préfère celui-là, celui-là. Je préfère celui-là, celui-là. Je préfère celui-là, celui-là. Et notre ambition, c'était de rendre ce site suffisamment attractif pour que beaucoup, beaucoup, beaucoup de gens dans beaucoup, beaucoup, beaucoup de pays s'y intéressent suffisamment pour nous donner leur opinion sur un très grand nombre d'accidents. Et ça ressemble exactement à ça, le site. C'est-à-dire que vous allez sur le site et vous allez voir des choix comme ça défilés. Donc si la voiture est toujours vide et nous avons une femme en sainte, une autre dame, un petit garçon, une femme âgée en train de traverser rouge devant la voiture, une femme en sainte, une autre dame et un petit garçon en train de traverser ouvert. Et la voiture, qu'est-ce qu'elle doit faire? Donc je ne vais toujours pas vous demander de lever la main, mais par contre, je vais vous donner l'occasion de vous exprimer. Si vous allez sur ce site web, sur votre téléphone, écouter ce code, vous pouvez voter cet anonyme, mais on va pouvoir voir en direct ce que c'est que l'intuition de la salle. Bon, ça se dégage quand même. Ça se décide et une préférence pour craser ces quatre personnes qui étaient aux rouges. Mais c'est le problème d'être unanime. Et encore ici, le problème n'est pas hyper compliqué comparé à beaucoup de scénarios parce qu'en gros, les deux groupes ont à peu près la même composition. Dans un des deux groupes, on a une personne de plus, il y a les feux à prendre en considération. Mais la composition est relativement homogène des groupes parce qu'il facilite la tâche. Mais sur le moral machine, les scénarios vont être tellement variés que très souvent, il va être extrêmement difficile de prendre une décision. 80, 20. Je crois que plus personne ne pourra faire basculer à ce stade. Donc des scénarios, il y en a beaucoup. En fait, il y en a tellement qu'il est quasiment impossible pour une même personne, même si vous en faites mille, de voir passer deux fois le même. En fait, il est quasiment impossible que deux personnes voient le même de toute façon. Et cette diversité dans les scénarios, c'est ce qui a donné avec le recul toute son attractivité au projet pour les gens qui ont rencontré site web. Et ce que nous avons découvert, c'est que comme tous les scénarios étaient différents, comme jamais une série de scénarios étaient la même d'un individu à l'autre, les gens pouvaient et se sont filmés sur YouTube, en train de faire ce test en quelque sorte. Et comme les scénarios n'étaient jamais les mêmes, les vidéos pouvaient se multiplier. Et pour chaque personne qui voulait se filmer en train de utiliser le site moral machine, les scénarios étaient différents, les questions éthiques étaient différentes. Ce qui a permis à ces vidéos de se multiplier, en fait, à l'heure actuelle, les vidéos sur moral machine, des vidéos de gens en train de se filmer, en train de faire moral machine. Il y en a des centaines, peut-être des milliers. Elles ont accumulé plus de 20 millions de vues. Et c'est ce qui a donné donc toute sa publicité au projet. Alors, pour vous donner une idée de à quoi ça ressemble, j'ai fait un petit montage de gens sur YouTube qui sont en train de se filmer. Celui qui nous a amenés beaucoup, beaucoup de monde, il faut bien le dire, c'est un monsieur qui s'appelle PewDiePie. PewDiePie, c'est la personne au monde qui a le plus d'abonnés sur YouTube. 40 millions, 50 millions, je ne sais plus. Effectivement, le jour où PewDiePie s'est filmé en train de faire notre expérience, je ne vais pas vous mentir, nos serveurs ont eu beaucoup de mal à suivre. Parce que dans l'heure qui a suivi, on a vu des gens affluer du monde entier. Nous allons faire un test ici aujourd'hui, qui s'appelle le moral machine. Le moral machine. On est venus à un moral machine. Le moral machine. Le moral machine. Le nom du jeu est moral machine. Ce n'est pas vraiment pas beaucoup de jeu, comme c'est une série d'éthique dilemmas que l'un de nos voitures est de faite. Nous allons vous montrer des dilemmas de moral où un voitureur de la voiture doit choisir le moins de deux evils, comme les deux passagers ou les cinq pedestrians. Commencez à juger, ça devrait être facile. Qu'est-ce que l'un de nos voitures est de faite ? Est-ce que nous ferons moins de gens ou plus de gens ? Donc, évidemment, vous choisissez le moins de vie ou moins de vie. Vous choisissez le moins de vie ou moins de vie. Maintenant, c'est un peu compliqué. Est-ce que les gens de la maison ont moins de droit à vivre que les gens qui contribuent à la société, on dirait ? Les gens de la maison n'ont pas de famille. Plus, il a une très terrible vie, donc peut-être que ce n'est pas si mauvais pour lui. Si on devait demander à lui la question, serait-il que vous souffrez ? Parce qu'en fait, son vie a un sens. Oui. Je voudrais plutôt prendre l'action que pas. Est-ce que vous préférez les jeunes qui ont désoigné la vie ou les anciens qui ont désoigné la vie ? Si ces morons vont dans la lumière rouge, c'est pour eux. Il y a un crime. Mais il y a un bébé. C'est vraiment vrai. Tu as tué le passeur ou tu as tué les gens ? Toujours tu as tué les gens. George Geiser dit que les passeurs dans la voiture ont besoin de vivre pour le marché de continuer. Je l'accepterai. Donc, tu veux la voiture pour protéger le passeur à toute cause ? C'est comme je le vois. Je ferai les gens dans la voiture. Je pense que la voiture doit être défaite pour protéger les gens dans le véhicule. Je pense que ça doit être les occupants. Oh, man, c'est tellement intense. Je veux que la voiture se désoignait, maintenant, c'est vraiment drôle. Je veux que la voiture quitte un enfant et une femme ou la voiture quitte ces anciens. C'est difficile de dire. C'est difficile de dire. C'est vraiment, vraiment, vraiment difficile de dire. Vous ne pouvez pas vous ne pouvez pas faire n'importe quoi. C'est une erreur, les gars. Qu'est-ce que l'élément est Einstein ? Je vais devoir aller encore avec mon answer autistique qui est que la voiture devrait juste continuer. Et il a encore tant de papiers pour écrire. Si c'est le même nombre de gens, la voiture devrait juste désoigner ces enfants. Et les deux femmes sont les deux clones de Marie Curie. Killez les enfants. Merci. Si les voitures se désoignent et que vous pouvez poursuivre pour éviter une catastrophe, mais si vous vous suivez, vous allez aller dans une walle et vous pourrez se tuer. Vous pouvez avoir cette machine et faire cette décision. Mais c'est une décision morale. Barack Obama aussi nous a amené un peu de monde quand il a parlé de cette histoire. Donc oui, quand on a PewDiePie et Barack Obama qui ont la publicité d'un projet, effectivement, ça marche. Et on a récupéré beaucoup, beaucoup, beaucoup de réponses. Faites ça, c'est la carte des gens qui ont participé au projet Morale Machine. Donc, bien sûr, il y a encore beaucoup de blancs. Mais grosso modo, cette carte des utilisateurs de Morale Machine, c'est une carte des connexions internet dans le monde. Partout, les gens ont de l'internet. Les gens ont participé à Morale Machine. On a, à l'heure actuelle, en fait, on a encore dépassé. On est plutôt à 70 millions maintenant. Mais on a 60, 70 millions de décisions collectées, c'est-à-dire de choix entre deux options. Et les réponses sont nous sommes arrivées de tous les pays et territoires dans le monde. Bien sûr, il y a des certains pays qui ont beaucoup moins participé que d'autres. Et on n'a pas pu garder leurs données parce qu'elles étaient en nombre insuffisants. Mais on a, disons, 125 pays pour lesquels on a des échantillons solides qui nous ont permis de faire des analyses détaillées pays par pays. Mais les données globales, c'est 60 millions de 100 pays. Et il y a quelques mois, on a publié dans la revue Nature l'analyse des premiers 40 millions de décisions que nous avions collectées par Morale Machine. Ce que je vais vous montrer, c'est les principaux enseignements de ces premiers 40 millions de réponses. Donc ce que nous avons fait, c'est isoler 9 dimensions dans les scénarios générés par Morale Machine, dont le nombre de personnes à sauver, leur sexe, leur âge, etc. Et nous avons calculé grâce aux 40 millions de préférences exprimées, nous avons extrait le poids de chacune de ces 9 dimensions dans comment les gens prennent leurs décisions Donc à l'échelle mondiale, ça va donner ça. Alors, nous avons donc ces 9 dimensions du problème et le poids de chaque dimension. Alors plus on est proche ici de l'origine, moins cette dimension a de l'importance. Plus la barre est longue, plus elle a de l'importance. Je ne vais pas forcément entrer au détail de ce score, mais essentiellement, ce que vous dis ce score, c'est le changement dans la probabilité d'expliquer sur une des deux issues d'accident, si nous transformons un des personnages sur la gauche un des personnages sur la droite. Donc, retenons simplement que plus la barre est longue, plus c'est important dans l'esprit des gens. Et ce qui en sort ici, c'est qu'à l'échelle du monde, il y a vraiment 3 choses qui sortent largement en tête. C'est que les gens préfèrent sauver les humains plutôt que les animaux. Vous allez me dire, bon est-ce que vous aviez vraiment besoin de collecter 40 millions de réponses pour établir ça ? Peut-être pas. En fait peut-être, pour tout vous dire, dans mon rôle machine, 15% des scénarios générés vont demander aux gens de choisir entre des humains ou des chiens et des chats. 15%. Alors, ça peut paraître gigantesque et au début, moi, j'étais pas d'accord quand on essaye d'élaborer le projet sur le fait de gaspiller 15% des données pour montrer ça. Mais nos consultants en viralité, tous les gens que nous avions consulté au moment de créer le site web avaient insisté là-dessus en nous disant vous parlez d'internet. Si vous voulez être beaucoup partagé sur les réseaux sociaux qui vont montrer des chiens et des chats, monsieur. Parce que c'est ça que vont partager les gens sur Facebook, sur Twitter. C'est des captures d'écrans où il y a des chiens et des chats qui sont en danger, il y a votre accident. Et c'est pas faux. Tous les autres problèmes sont tellement anxiogènes que celui où on a le choix entre franchement tuer une personne ou tuer un chien, c'est celui qui se partage le plus facilement sur les réseaux, disant oh mon dieu, je vais sacrifier le chien, je suis une horrible personne ou de toute façon je préfère les chats. Et ils avaient raison ces gens-là. Ils avaient raison, c'est bien ce qui s'est passé. Ce sont les scénarios avec des chiens et des chats qui ont été beaucoup partagés et qui nous ont amené beaucoup d'utilisateurs. Donc on perd 15% des données de chaque individu. Mais avec ces 15% de données perdues, on gagne énormément d'un individu. Donc ça a plus ou moins marché. Deuxième enseignement, c'est que ce que nous avions trouvé au départ, c'est-à-dire que les gens préfèrent sauver le plus grand nombre, c'est vrai. C'est très robuste. C'est après sauver les humains le plus important dans les réponses, c'est le nombre de personnes sauvées. Donc quand on a 1 vie de plus, 2 vie de plus, 3 vie de plus ou 4 vie de plus vous voyez, ça fait une énorme différence dans les choix des gens. Mais la troisième préférence qui sort largement en tête c'est sauver les vies les plus jeunes. Et en particulier les enfants. Donc les 3 grands enseignements, c'est à l'échelle du monde, quand les gens voient ces problèmes-là, ce qui ressort de la réponse, c'est sauver les humains, sauver le plus de vie possible, mais aussi sauver les vies les plus jeunes possible. À l'inverse, on va avoir des préférences qui sont très faibles. Par exemple, la préférence pour aller tout droit plutôt que tourner, pour sauver les gens qui sont sur la route plutôt que dans la voiture ou pour sauver les femmes. Des préférences qui sont en fait si faibles que c'est peut-être pas tellement la peine d'en parler beaucoup. Et puis là, au milieu, on a 2 choses qui sont un peu préoccupantes. Alors il y a cette idée des feux verts, verts rouges qui est importante. On ne va pas forcément protéger les gens si il est également les routes. Et puis cette chose-là qu'on nous a énormément reprochée, c'est que nous avons introduit des personnages sans-abri dans les accidents et que il se trouve que dans la réponse des gens, quand il y a un sans-abri quelque part, d'un des deux côtés, il y a beaucoup moins de chance que le groupe auquel appartient à ce personnage sans-abri soit sauvé. En gros, quand vous observez ces 2 bars, vous voyez que la pénalité qui est payée dans les scénarios par un personnage sans-abri, elle est équivalente à celle de traverser systématiquement au feu rouge piéton. On nous a énormément reproché ça en disant qu'est-ce que c'est cette histoire ? Vous essayez de légitimer la discrimination vers les personnes pauvres. Vous essayez de vous dire que les personnes pauvres n'ont pas le droit de vivre et qu'elle devrait tuer systématiquement. Alors ce n'était pas notre intention, c'était précisément de montrer les limites de cette méthode. Il ne s'agit pas d'organiser un vote mondial sur la programmation des voitures autonomes. Il s'agit de fournir aux décideurs et aux industriels des éléments pour comprendre ce qui est susceptible de choquer. Mais il ne s'agit pas de faire voter les gens dans le monde pour directement programmer des voitures. Parce que si on faisait ça, on se retrouverait avec des voitures qui tuaient sans-abri. C'est imaginable, ça n'a jamais été notre intention. En revanche, cela veut dire que un gouvernement ou une agence qui déciderait que les enfants n'ont pas la priorité, la sécurité des enfants n'a pas la priorité, serait face à une opinion contradictoire dans l'opinion publique. C'est-à-dire qu'il faut faire attention quand on passe ce genre de régulation à anticiper ce qui va être difficile à l'opinion publique. C'est important pourquoi ces 3 dimensions-là se sont de fait les 3 dimensions qui, pendant que le projet Moral Machine était en cours, ont été très largement disputées par le premier comité d'éthique consacré à ces situations-là, organisés par le gouvernement allemand. Le gouvernement allemand a créé une commission dont un des objectifs était de proposer des règles pour le comportement des voitures autonomes dans ces situations critiques. Cette commission allemande a dit les animaux n'ont pas à être partagés. Les humains ont la priorité, donc tout à fait en ligne avec l'opinion publique. La commission allemande n'a pas pu se mettre d'accord sur cette dimension. Il y avait trop de divergence au sein des membres de cette commission. Donc, dans l'impossibilité d'aboutir à une recommandation, ils sont contents d'écrire un permis de programmer les voitures pour sauver le plus grand nombre, mais pas obligatoire, laissant donc un peu la patate chaude à l'industrie. Débrouillez-vous, faites vos choix. Qu'il y ait quelque chose, quand je parle avec les gens qui sont engagés dans le développement des voitures autonomes, c'est quelque chose que les gens n'aiment pas beaucoup. Cette idée que maintenant la décision reviendrait au constructeur des voitures, parce que les constructeurs des voitures sont pareils. Et la commission allemande, en revanche, prie une position très forte en disant nous suggérons d'interdire absolument aux voitures de prendre en compte des caractéristiques individuelles tels que l'âge. Donc interdiction de mettre en priorité la sécurité des enfants. Alors, c'est une position qu'on peut comprendre en particulier en Allemagne mais une position qu'on peut comprendre qui est de dire, n'ouvrons pas la porte. N'ouvrons pas la porte à des choix basés sur des caractéristiques individuelles. Parce que si on commence à autoriser une discrimination ici basée sur l'âge, on ouvre la porte à d'autres discriminations basées sur des choses peut-être moins acceptables. Donc interdisons tout de suite aux véhicules de prendre en compte des caractéristiques individuelles y compris l'âge. Alors on peut comprendre cette position mais il faut bien aussi voir qu'elle va être difficile à faire passer auprès du public. Non seulement il va falloir l'expliquer bien si vraiment l'Allemagne reste sur cette position il va falloir bien expliquer au public allemand pourquoi on ne sauf pas les enfants premiers et puis il va falloir avoir un plan de communication très bien préparé pour le jour ou malheureusement les enfants vont être écrasés par une voiture autonome parce que leur sécurité n'était pas une priorité comparée à la sécurité de l'autre usager de la route. Donc il ne s'agit pas de dire si cette méthode elle n'est pas faite pour dicter les choix des politiques mais elle est faite pour informer ces choix là disons identifiez bien les points de friction avec votre opinion on peut bien expliquer et le type d'accident pour lequel vous devez avoir un plan de communication bien préparé pour éviter un retour de bâton très très fort dans votre opinion. Alors bien sûr quand je dis ça on ne peut pas se contenter de fournir aux gens des données à l'échelle du monde si on dit au gouvernement allemand soyez préparés et identifiez ce qui va faire les points de friction avec votre opinion sur les données de l'Allemagne ou si on parle à l'Union Européenne on ne peut pas leur donner les données du Japon il faut leur donner les données de l'Union Européenne donc ces préférences là nous pouvons les calculer à l'échelle de chaque pays donc pour chaque pays nous allons calculer un profil moral séparé. Si je fais ça à l'échelle de l'Europe si je peux calculer un profil de force de chacune des neuf préférences par pays ne vous faites pas trop mal aux yeux en réalité à l'échelle de l'Europe c'est complètement homogène à une exception peut-être si vous forcez un peu il y a un pays qui est différent du reste de l'Europe très difficile à voir sur cette carte mais vous inquiétez pas je vous en parlais dans un moment à l'échelle de l'Europe peu de différence maintenant bien sûr je peux le faire à l'échelle du monde là j'ai pas votre attention c'est ça vous êtes en train de le chercher c'est la France c'est la France qui appart et je vais en parler donc je peux le faire à l'échelle du monde donc ce que nous faisons c'est de calculer donc un vecteur moral donc à neuf scores pour chaque pays dans le monde et ensuite nous utilisons un algorithme de clustering pour essayer de trouver des paquets de pays qui ont un profil moral similaire et différent des profils moraux des autres paquets alors quand nous faisons ça nous ne donnons pas à l'algorithme la position géographique de chaque pays l'algorithme ne dispose que des neuf scores du profil moral de chaque pays donc il y a vraiment une question pour nous c'était quand nous allons faire ces paquets automatiquement mais sans donner la position géographique pays par pays est-ce que nous allons observer que l'algorithme fait en réalité des paquets géographiques ce qui est très possible quand on voit que l'Europe est largement homogène donc on peut imaginer qu'il va y avoir des paquets géographiques ou culturels et c'est bien ce qui s'est passé donc là vous avez 125 pays et vous voyez comment certains pays se regroupent et ce qu'on observe c'est qu'il y a 3 grands groupes de pays dans le monde alors il y a un groupe qu'on a appelé l'ouest c'est qui est ici très grand où vous allez avoir tout ce qu'on peut appeler le monde occidental avec des sous paquets qui sont très intéressants par exemple ici là vous voyez ici vous avez dans un mougeur de poche le Royaume-Uni, l'Australie, la Nouvelle-Zélande, l'Irlande, les États-Unis, le Canada et l'Afrique du Sud toutes les excolonies britanniques qui sont partout dans le monde mais toutes les excolonies britanniques répondent de la même façon qui est fascinant quand on y pense l'héritage culturel de la Grande-Bretagne va faire que la Nouvelle-Zélande, de l'Afrique du Sud, de le Canada tous ces pays-là vont exprimer des choix remarquablement similaires quand ils ont à choisir entre les situations d'accidents et c'est pas une question de langage je sais pas parce que ces scénarios sont décrits en anglais ces accidents sont décrits en anglais on a plein de tests qui montrent qu'il s'agit pas une question de langage, c'est vraiment une question d'héritage culturel oui il y a le moral machine disponible en 10 langues dont essentiellement des langues pourriens, japonais, arabes, russe etc on a aussi si vous regardez vers le haut on a un paquet de pays très proches les uns des autres avec la Suisse, l'Allemagne, la Norvège le Danemark les pays bas, la Finlande, le Luxembourg en fait tous les pays protestants tous les pays de Europe protestantes qui également se retrouve tous regroupés les uns avec les autres donc on a ce grand bloc du monde occidental avec des sous blocs culturels ensuite on a un bloc de pays qui est en gros le bloc Est où on va trouver les pays d'Asie et les pays du Moyen-Orient pays d'Asie, pays du musulman qui là aussi donne des réponses qui sont assez homogènes et distinctes de celle du monde occidental puis un troisième bloc un petit peu plus complexe parce que qu'est ce qui se passe on va avoir toute l'Amérique du Sud ici et ensuite ici un groupe de pays qui a beaucoup intrigué mes coauteurs donc je suis le seul français de l'équipe et mes coauteurs américains quand ils ont vu ce résultat sortir des analyses on dit on a un problème on a dans ce bloc là une série de pays qui n'ont aucun rapport avec les autres comme par exemple la France la Réunion, la Nouvelle-Calédonie l'Algérie, le Maroc ça n'a aucun sens ça m'a beaucoup amusé comme vous je sais pas j'ai une idée donc ce que nous avons là c'est un groupe où on a toute l'Amérique du Sud et puis tous ces pays qui sont souvent dans le sud il faut bien le dire aussi et la France donc la France c'est les territoires qui ont été un moment ou qui sont encore souvent une influence française qui est donc dont les réponses sont différentes du bloc présidental c'est à dire que la France est vraiment à part au sein de l'Europe avec un profil de réponse particulier qui est aussi le profil des territoires d'automates français des anciennes colonies françaises et très proche aussi de l'Amérique du Sud alors on a encore un peu de mal pourquoi pourquoi on a tous ces pays d'Amérique du Sud qui répondent comme les pays d'influence française alors on nous a suggéré plusieurs fois que c'est une question d'héritage légal c'est à dire que les lois sud-américaines ont été sous une telle influence du Code français qu'on peut imaginer qu'il y ait une transmission par ce biais là mais c'est pas encore très clair dans notre esprit alors en quoi ces pays sont différents en quoi ces pays sont différents c'est un peu compliqué d'expliquer en quoi ils sont différents si vous voulez rapidement pourquoi la France est complètement à part parce que la France est complètement extrême par rapport au bloc occidental sur des choses comme le nombre de vies à sauver le fait de sauver les enfants et puis des préférences très marquées pour sauver les femmes je pense que c'est le pays au monde on a le puce de biais en faveur des femmes dans ces accidents-là c'est aussi un très fort un très fort tropisme pour sacrifier des personnages sans abri comme ce qui est la rentrée comparable à l'Amérique du Sud je ne vais pas pouvoir entrer dans tous les détails des profils mais ce que je veux faire c'est très rapidement vous dire qu'on peut expliquer beaucoup de ces préférences ou en tout cas on peut montrer des associations entre les préférences que les gens expriment dans le droit de machine et des variables macro-économiques dans les pays du monde il faut que j'aille très vite je vous en montrerai une ici que si je regarde le niveau d'inégalité économique dans un pays je veux observer une association substantielle avec le fait de sacrifier les sans abris plus il y a de l'inégalité économique dans un pays plus les gens de ce pays vont transférer cette inégalité en sacrifiant les personnages sans abris en sauvant les cadres bien sûr le voir à l'inverse c'est à dire que moins il y a d'inégalité économique dans un pays moins les gens font la différence entre les sans abris et les autres et puis même rapidement ici plus les lois sont fortes dans un pays plus les gens sont sévères avec les piétons qui traversent au rouge donc au japon les gens tuent systématiquement tous les piétons qui traversent au rouge au Nigeria ne font pas vraiment attention à cette variable là bon je vais pas pouvoir rentrer dans tous les détails mais je vais rapidement dire cette méthode là on peut l'utiliser dans beaucoup d'autres domaines ce que nous avons montré c'est qu'il était possible d'utiliser des méthodes base sur la viralité l'attractivité d'une interface pour les gens pour donner leur avis sur des questions complexes et que nous sommes en train de développer cette méthode là pour de nombreux autres problèmes qui sont tous liés à l'arrivée de l'intelligence artificielle dans nos vies dans la société et aux décisions que cette IA va prendre qui est susceptible d'impacter notre vie un des exemples les plus brûlant étant les algorithmes judiciaires c'est à dire par exemple les algorithmes qui conseillent les juges pour ce qui est la longueur de la peine à un prévenu je crois que j'ai dépassé mon temps et donc je vais en rester là merci beaucoup merci beaucoup Jean-François pour cette présentation est-ce que vous avez des questions des réactions sur ce qui vient d'être dit ? une réponse serait différente si on disait aux gens vous êtes le conducteur de la voiture parce que là quand même on cherche un comportement par l'intelligence artificielle qui aujourd'hui je suis persuadé que le code de la route français et les gens qui passent le permis on leur pose jamais cette question et ça serait assez intéressant de voir si c'est la machine qui conduit ou si c'est vous qui conduisez dans ce genre de situation ce serait la réaction du conducteur humain c'est vrai que on ne pose pas la question Jean parce que la probabilité c'est tant si rare mais il y a le problème aussi que les humains n'ont pas nécessairement la capacité à détecter qui sont dans une situation pareille alors ça arrive il y a une histoire glaçante il y a 10 ans en Floride un monsieur qui se rappelle avoir été dans cette situation, avoir le choix il y avait des petits garçons sur la route d'autres sur le trottoir et il se rappelle avoir eu le moment de faire ce choix de savoir lesquels il allait écraser il dit que 10 ans plus tard il y a des gens qui sont dans une situation présent de sa vie donc je pense que ça aurait été pas mal de laisser finalement un véhicule prendre cette décision pour lui plutôt que de l'objet à la prendre reste que il y a des gens qui je suis pas moi-même impliqué dans ce genre de choses il y a des gens qui essaient de faire ce genre de choses là en simulateur de mettre des gens dans un simulateur de conduite et de les mettre dans la situation là pour observer ce qu'il ferait je me semble quand même que si dans la mesure ou l'objectif que nous poursuivons nous entre une équipe et d'anticiper les réactions des citoyens à des régulations c'est peut-être plus pertinent pour nous de comprendre leurs attitudes explicites c'est à dire ce qu'ils aimeraient que la voiture fasse plutôt que de mesurer ce qu'il ferait eux-mêmes mais il y a de la place pour les deux approches complètement monsieur aussi bonjour j'avais une question sur votre capacité à caractériser les gens qui répondent parce qu'effectivement on peut se dire qu'il peut y avoir un certain biais notamment parce que peut-être plus de jeunes qui répondent enfin parce que le côté réseau social etc donc voilà est-ce que vous avez une idée des caractéristiques des gens qui répondent est-ce que vous contrôlez un peu de ça dans l'analyse des résultats que vous avez ? oui tout à fait donc j'ai une réponse en de temps d'abord on a une idée parce que au bout d'un moment quand les gens m'en fait quelques-uns c'est une horreur comme ça on leur offre la possibilité de remplir une enquête démographique pour nous dire qu'ils sont on a ces données là pour 600 000 personnes je pense donc en admettant que ces 600 000 personnes reflètent à peu près la composition générale ce qui est déjà une hypothèse effectivement on a on n'a pas une représentation totalement fidèle de la démographie dans la mesure où par exemple on a plus de 60 % d'hommes 60 % les gens sont assez jeunes aussi en général alors ce qui nous a rassuré néanmoins c'est que bon comment on avait les données sur 500 000 personnes on a pu regarder si au moins sur ces 500 000 personnes l'âge, le sexe, les autres caractéristiques démographiques avaient un poids sur les réponses en réalité ce poids il est très moins limité même en accumulant des différences en construisant des profils totalement différents une jeune femme noir hâtée diplômée, versus un homme blanc, âgé, religieux non passé par des études supérieures même en construisant des profils très différents on voit que les réponses sont en fait très faiblement impactées ce qui nous a beaucoup rassuré dans la mesure où on avait une mauvaise nouvelle qui était que notre échantillon n'était pas représentatif et une bonne nouvelle mais ça a changé à priori très très peu les résultats oui là vous vous faites choisir par rapport à des choix binaires mais en réalité est-ce que les choix sont aussi binaires est-ce qu'il n'y a pas aussi un facteur de probabilité qui rentre en jeu c'est-à-dire que vous avez 90% de tuer les uns contre 60% les autres mais entièrement donc on avait cette fonctionnalité dans le plateforme en place et on n'a jamais lancé parce que ça faisait exploser la complexité mais reste que c'est très important et en fait maintenant notre travail en ce moment on est passé aux questions de probabilité en enlevant aussi ces questions de villet de mort en un instant c'est-à-dire qu'on est passé maintenant à la version plus réaliste du problème qui est qu'il ne s'agit pas de dire la voiture qui tuait quand c'est vraiment le dernier moment il n'y a plus que le choix d'écraser mais tout simplement dans les conditions tout à fait routinières de navigation quel est l'espace que je laisse aux cyclistes, aux piétons, aux autres voitures comment est-ce que je distribue le risque statistique entre les différences visagées de la route alors les gens ne vont pas mourir à chaque fois qu'une voiture se repositionne légèrement sur la gauche ou sur un piéton heureusement reste que comme le risque se déplace en agrégant sur des milliers de véhicules et des millions de kilomètres ça va avoir un impact sur l'accidentologie et donc on est passé maintenant à l'étude de ce phénomène qui est plus réaliste mais plus complexe à expliquer aux gens qui est l'échangement dans l'accidentologie qui va être le résultat des petites décisions de routine dans la façon dont les voitures déplacent le risque ce qui revient à ce que vous disiez c'est-à-dire bien sûr on n'est pas sur 80% de tuer on est à rajouter plus un milliardième, un millier de milliards de risques pour cette personne-là en en enlevant à peu près la meilleure quantité à un autre je vais revenir un petit peu sur les dernières réflexions qui ont été faites à mon avis si vous voulez le problème reste très partiel parce qu'on ne tient pas en compte un de la qualité de l'information recueillie par un humain et une machine et deuxième aspect c'est le problème de la responsabilité dans le type de décision c'est-à-dire que plus on met la responsabilité très loin moins il y a de responsabilité pour ce qui est la qualité de l'information tout à fait on n'a pas rentré c'est encore une couche d'incertitude qui faut ajouter là la classification de ces objets sur la route on va mettre une couche d'incertitude et puis ensuite les questions de responsabilité alors c'est vrai qu'on est en train là on s'est mis dans des situations où la voiture est pleinement autonome on n'y est pas du tout et donc la responsabilité en tout cas du moins ne n'est pas sur le le passage alors on peut se demander à qui elle est c'est une question complexe en réalité ce qui va se passer dans la version plus réaliste qui va être en contrôle partagé à tout moment avec l'utilisateur donc il va y avoir des va-et-viens entre le coup de volant ou le repositionnement par l'usager et puis la correction par la voiture et ce qui va faire que dans une situation aussi dynamique ça va être très très compliqué d'avoir une anticipation correcte des conséquences de la programmation dans la mesure où il va y avoir à tout moment une dynamique de reprise de contrôle de partage de contrôle avec l'usager que on en arrive à des systèmes de programmation d'une telle complexité qu'il suffit qu'il y ait une donnée qui était mal gérée dans la démarche statistique de suivi des programmes pour que sur le fond l'accident c'est parce que la machine elle va l'évaluer le problème et de la même façon au niveau d'un conducteur individuel il peut ne pas avoir vu quelque chose, moi je me souviens d'avoir été sanctionné pour avoir raté un stop mais en fait si vous voulez j'avais un tel angle mort que j'ai pas vu le panneau oui alors on va espérer que justement les voitures puissent éviter puissent éviter ce désagrément pour plus de gens possibles mais oui on a parlé du risque donc l'enjeu pour les compagnies d'assurance c'est important on a commencé à discuter avec quelques compagnies qui se posent ces questions là quand tu dis que l'Allemagne si j'ai bien retenu et probablement d'autres pays vont probablement faire un souhait ou de réglementation disons qu'on ne programme pas enfin on intègre pas les différences dans la programmation sur le choix pourtant pour la compagnie d'assurance y a une différence l'enfant, l'adolescent tuer ou les personnes âgées n'a pas le même prix c'est sorti de dire ça mais c'est une réalité donc comment est-ce qu'on combine et est-ce que les assureurs ne vont pas avoir une forme de lobby pour contrarier ces volontés-là oui alors c'est une question qui est très difficile les enfants en particulier parce que dans certains mais d'une certaine façon de beaucoup de façons on donne plus de valeur aux enfants ça peut être effectivement dans la compensation liée à l'assurance ou même dans le domaine des greffes d'organes où les enfants vont avoir la priorité donc il y a des domaines où on se retrouve dans ces histoires compliquées où parfois on donne plus d'importance à la vie des enfants et parfois on ne veut pas leur en donner et d'inconsistence, d'incohérence avec ces choses-là alors je vais vous donner quand même un élément qu'il est très possible qu'une troisième voie soit trouvée entre l'idée qu'on veut sauver les enfants d'abord dans cette situation-là et la position allemande on ne doit pas les sauver d'abord il est très possible que les choses se passent comme en fait ce qui se passe dans les greffes d'organes c'est-à-dire que les enfants n'ont pas la priorité parce qu'ils sont des enfants mais parce qu'ils présentent une certaine caractéristique une autre caractéristique qui justifie par exemple, il est difficile pour eux de trouver un organe de la bonne taille ou bien ils ont des risques de développement de maladies chroniques si on ne leur donne pas un organe pendant leur phase de développement donc qui sont des raisons qui sont parfaitement corrélées avec leur âge mais qui ne sont pas leur âge et il est possible que dans ce domaine distribution du risque pour parler voiture auto-autonomie il est possible qu'on en arrive par exemple, il est légitime de donner le plus de sécurité possible aux usagers de la route dont le comportement est le moins prévisible par exemple les usagers dont un comportement est imprévisible il faut que la voiture leur donne plus d'espace parce qu'elle est dans une situation d'incertitude quand elle est détect bon, il se trouve que l'imprévisibilité est extrêmement extrêmement corrélée avec le fait d'être un enfant donc il est possible qu'on arrive à une façon qui est de dire qu'en pratique les enfants auront une priorité ils ont une plus grande mais pas parce qu'ils sont des enfants ce qui finalement ce que vous décrivez est un système d'optimisation du coût social de l'usage de la route ça n'est pas une optimization de l'usage de la route c'est vrai, en revanche on peut quand même avoir une réflexion encore une fois, une chose que nous sommes en train de développer est d'essayer de redresser certaines inégalités entre usagers de la route par exemple récemment on a calculé pour chaque pays le ratio entre le nombre de morts par catégorie d'usagers piétons, cyclistes, motards etc et leur exposition à ce risque en termes d'usage de la route et on peut savoir souvent qu'il y a certaines catégories d'usagers de la route qui sont tuées dans des proportions qui sont complètement sans rapport avec leur exposition et leur usage de la route donc il ne sert à rien de demander à des conducteurs humains par exemple de tuer un peu moins de motards qui t'amètre un peu plus de risque sur les gros véhicules mais en revanche avec les voitures autonomes ici c'est une des pistes à envisager qu'on puisse redresser ou compenser certaines inégalités face aux dangers entre usagers de la route ce qui n'est encore pas de l'optimisation mais qui s'en approche Une dernière question Merci Je me demandais si dans vos paramètres il n'y avait pas un billet utilitariste qui était trop marqué est-ce que vous avez pensé par exemple vous vous demandez si on pouvait intégrer dans les questions une relation familiale avec les victimes est-ce que si sur le passage clouté c'est votre nièce du coup Emmanuel Kant a une dimension plus importante dans l'équation oui oui c'est une bonne question et en fait je crois que le problème en fait on peut même simplifier le problème et dire ça va concerner les gens qui sont dans votre voiture en fait c'est surtout une préférence pour sauver les gens parce que c'est vrai que les gens de votre famille sont plus aux maîtres avec vous dans la voiture et là le billet est énorme je pense qu'on va quand même pouvoir petit à petit expliquer que cette histoire de sacrifier les passagers pour sauver des piétons en fait est assez improbable les gens qui sont dans la voiture sont très très bien protégés à moins de les jeter contre un camion qui arrive en face pour sauver des piétons donc la question va surtout se poser de comment la voiture distribue le risque à l'extérieur de la voiture et à ce moment-là ça devient un peu plus en retrait parce que ce souci concerne surtout les gens qui sont dans la voiture dans la vôtre bon reste que on l'a fait en utilisant d'autres méthodes et pour répondre à votre question oui si il y a une relation familiale avec quiconque impliqué dans ces accidents évidemment les préférences changent du tout merci merci Jean-François nous allons poursuivre avec la 2e masterclass de cette matinée de François Poennas bien bonjour à tous merci pour votre attention donc je vais vous parler maintenant d'intelligence artificielle et d'emploi alors comme dit Yassid en introduction l'intelligence artificielle suscite pas mal d'espoir et pas mal de craintes et force est de constater en fait que du côté de l'emploi on est plutôt du côté des craintes liés à l'intelligence artificielle que du côté de l'espoir pour illustrer mon propos je vais vous donner 2 citations 2 citations que vous pouvez trouver qui sont issues d'interviews qui ont été faits dans les médias une première citation de Stéphane Hawking un célèbre physicien anglais qui en 2016 disait que l'autométisation des usines a déjà dissimé les emplois dans la fabrication traditionnelle qui fait référence au robot industriel elle a monté l'intelligence artificielle et susceptible détente cette destruction d'emploi au classe moyenne n'est pas néanmoins que les fonctions les plus exigeantes qui ont été créatives et de supervision une deuxième citation celle de Elon Musk PDG de Tesla très en point dans la robotisation et PDG de SpaceX aussi qui dit que les robots seront capables de tout faire mieux que nous donc on voit à travers ces citations que effectivement l'arrivée de l'intelligence artificielle suscite pas mal de craintes pour savoir s'il va rester du travail aux humains et en fait la crainte c'est effectivement que la destruction de l'emploi c'est que l'intelligence artificielle remplace effectivement l'humain dans toutes les dimensions que l'humain est capable de faire par rapport à la machine les machines sont déjà capables de faire beaucoup de choses mieux que les humains donc elles ont une puissance physique qui est plus forte pour soulever un gros ton de rocher on va plutôt faire appel à une machine plutôt qu'utiliser du travail du travail humain les machines calculent également plus vite que nous l'ordinateur est capable de faire un nombre d'opérations beaucoup plus élevées que l'humain et la question qui se pose c'est finalement est-ce que l'intelligence artificielle ne va pas annuler le dernier avantage que l'humain a sur les machines qui pourrait être par exemple que les humains sont capables de créativité ou capables effectivement de raisonnement, chose que les machines ne sont pas capables de faire à l'heure actuelle mais la crainte c'est que l'intelligence artificielle puisse changer justement cette impression là alors en fait il se trouve que ce type de crainte n'est pas nouveau en fait dans l'histoire et que dans le passé on a déjà rencontré des épisodes dans lesquels on a craint que des avancées technologiques aient justement détruire l'emploi et aller écarter les humains du travail et du processus de production donc ici vous avez trois exemples effectivement qui vous sont présentés donc au début du XIXème siècle dans le textile par exemple l'arrivée des machinatissées a fait crainte quand même qu'effectivement un certain nombre d'employés qui étaient employés dans ces huit lunes là perdent leur emploi à cause de cette mechanisation ce qui a donné lieu d'ailleurs à pas mal de révoltes notamment les révoltes déludites en Angleterre qui sont mis à détruire tout simplement effectivement des machines et de faire du sabotage de machines pour éviter que ces machines-là les remplacent en termes de production de textile. Le deuxième exemple c'est la mécanisation dans l'agriculture un deuxième moitié du XIXème siècle avec l'arrivée des engins agricoles notamment du tracteur et là on a observé effectivement aussi une destruction d'emploi dans le secteur de l'agriculture et les emplois se sont orientés plutôt vers l'industrie ou plus récemment avec l'automatisation notamment de certains services basiques comme la mise en place de guichet automatique au banque ou ici la mise en place de péages alors avant on avait effectivement des personnes qui donnaient d'étiqués au péage maintenant il y a assez peu de péages dans lesquels on a du travail humain qui est utilisé Donc en fait finalement quand on regarde ces différents exemples historiques dans chacun des cas l'arrivée d'une innovation technologique donc les métiers à tisser le tracteur ou les automates ont créé des destructions d'emploi effectivement pas mal d'emplois ont été supprimés dans les secteurs qui ont été concernés mais pour autant on n'a pas constaté d'explosions massives du nombre de personnes qui se retrouvaient en dehors du marché du travail et finalement les humains ont toujours la place dans la société certaines économies sont toujours dans des situations de plein emploi et on n'est pas vraiment dans une situation dans laquelle on a eu des destructions massives d'emploi il y a eu des réallocations bien sûr qui se sont faites entre les différents secteurs Donc la question qui se pose avec l'intelligence artificielle c'est finalement est-ce que cette fois-ci ça va être différent ou alors est-ce qu'on peut s'attendre effectivement à ce qu'on est qu'on n'est pas des destructions massives d'emploi Donc les deux questions qui se posent c'est de savoir d'une part si effectivement ça va pas être la fin de l'emploi et la deuxième question qui va être un peu corollaire de la première c'est si jamais effectivement l'intelligence artificielle n'entraîne pas la fin de l'emploi finalement dans quels emplois vont être utiliser le travail humain donc à quoi va ressembler en fait l'emploi si c'est l'en reste pour les hommes Donc en fait la littérature qui s'intéresse à l'impact de l'innovation sur le marché du travail c'est justement intéressé à ces questions-là et apporte une grille de lecture apporte des éléments d'analyse qui permettent effectivement d'appréhender ces questions-là puisque ces questions-là ont été étudiées par des économistes d'un point de vue théorique donc on a mis en place des modèles on a mis en place des cas d'analyse qui permettent de comprendre les mécanismes qui lient l'arrivée d'une innovation avec le marché de l'emploi et en particulier à la demande de travail des entreprises avec dans la littérature on essaye de voir si elle est donnée valide ou invalide les théories qui sont formulées par les modèles Donc le but de ma présentation va être de vous montrer un petit peu ce que l'économie a à dire vis-à-vis de ces questions-là Donc dans un premier temps alors avant de rentrer dans l'économie on va parler d'intelligence artificielle pour vous montrer un peu de quoi comment est-ce qu'on appréhende un peu le développement actuel de l'intelligence artificielle Ensuite on abordera les mécanismes qui sont liés à l'innovation pour analyser les effets macro-économiques de l'arrivée d'une innovation et en particulier de l'intelligence artificielle donc elles ont les effets attendus sur le volume de l'emploi et donc du coup quels sont les effets attendus sur la demande de travail Et ensuite on verra plutôt des mécanismes au niveau micro-économique pour essayer de comprendre comment est-ce qu'on peut appréhender l'évolution des professions et du périmètre des professions dans le cadre de l'arrivée de ce type d'innovation Alors pour commencer donc effectivement il est nécessaire de situer un petit peu de quelle intelligence artificielle on parle Alors il y a un objectif l'intelligence artificielle se situe par rapport à un objectif disons de long terme qui est effectivement de créer donc des machines des algorithmes ou des logiciels qui soient capables de reproduire voire de dépasser l'intelligence humaine c'est ce qu'on appelle l'intelligence artificielle générale donc l'idée c'est effectivement de faire des choses aussi bien voire mieux en fait à l'intelligence humaine qu'est-ce que c'est finalement l'intelligence humaine c'est caractérisé par un ensemble d'aptitudes qui permettent de réaliser certaines activités comme faire du calcul, faire du traitement donné la reconnaissance de tendance de la prédiction, de coordonner l'essence et ainsi de suite donc là c'est juste un ensemble d'activités il y en a d'autres effectivement qui sont permis par l'intelligence humaine et donc l'objectif général de l'IA peut être effectivement de remplacer l'humain d'essayer de remplacer l'humain dans ces différentes dimensions pour effectivement arriver à dépasser éventuellement la manière dont les machines peuvent faire ces différentes activités alors le développement actuel de l'IA en tout cas tel qu'il s'effectue depuis on va dire 2010 environ ça se concentre effectivement sur un élément qui est assez précis qui va être l'aspect de prédiction ce qu'on voit en fait actuellement c'est l'arrivée donc de certaines techniques notamment l'apprentissage automatique qui permet effectivement à partir de nos volumes d'informations connues de déterminer de l'information qui n'est pas connue alors pour justement appréhender cette notion de prédiction je vous renvoie en fait un excellent livre qui s'appelle Prediction Machines qui a été écrit par des économistes et donc il définisse le processus de prédiction de cette manière là comme étant un processus qui consiste à compléter de l'information manquante en utilisant de l'information disponible donc on prend des données et ensuite on va essayer d'inférer des choses qu'on ne connaît pas donc en fait actuellement on est vraiment dans ce domaine là dans lequel l'intelligence artificielle nous permet effectivement d'améliorer le processus de production pourquoi est-ce que ça se développe actuellement parce qu'en fait il y a une coordination des différents facteurs qui rendent effectivement cette émergence possible donc d'un côté on a accès à des données de grande quantité et parfois de grande qualité aussi sur des comportements de consommation sur ce qui se passe effectivement en général on a également un développement rapide des méthodes qui permettent de traiter ces données des méthodes de statistiques computationnelles autour de l'apprentissage automatique ou machine learning avec toutes les techniques de deep learning de réseaux de neuronnes qui découlent de cela et puis également on a une baisse effectivement du coup d'augmentation plutôt de la puissance de calcul et des capacités de stockage des machines donc les machines deviennent également moins chers en utilisant des données massives donc la rencontre de ces trois éléments fait qu'actuellement effectivement c'est ce type d'intelligence artificielle qui développe et qui permet d'améliorer la prédiction alors pourquoi la prédiction c'est assez important et pourquoi cette dimension-là va être importante dans l'activité économique parce qu'en fait en tant qu'agent économique qu'on soit effectivement consommateur qu'on soit chef d'entreprise on prend des décisions dans la certitude on ne s'achant pas effectivement quelle va être l'évolution de l'état du monde demain et donc pour prendre des décisions aujourd'hui de savoir si je vais lancer un certain produit sur un marché ou savoir si je vais acheter tel ou tel produit en tant que consommateur on va essayer de prédire effectivement ce qui va se passer dans le futur donc je chef d'entreprise doit savoir comment on va évoluer la demande pour un bien sur le marché des bien et servis avant de décider s'il lance ou pas ce produit donc si on améliore la prédiction et si on améliore la qualité de la prédiction on va pouvoir prendre de meilleures décisions un élément d'information supplémentaire qui va permettre d'améliorer la prise de décision alors finalement si on essaye de voir comment est-ce qu'on pourrait conceptualiser effectivement cet arrivée de l'intelligence artificielle et ce développement actuel de l'intelligence artificielle on peut modéliser ça comme penser ça comme étant une situation dans laquelle on est en train de baisser le coût de la prédiction d'augmenter la qualité de la prédiction donc effectivement on a accès à beaucoup plus de données de manière beaucoup plus facile on a accès aux capacités de stockage et les méthodes statistiques sont innovantes qui fait qu'effectivement pour réaliser une certaine prédiction on baisse le coût pour pouvoir l'obtenir donc je sais pas si vous avez déjà fait l'économie dans votre vie mais effectivement l'un des premiers cours d'économie que vous avez en première année d'une formation d'économie ça serait dire bah vous voyez que le prix d'un bien baisse par exemple la demande va baisser donc c'est un premier économisme assez précis donc du coup assez prédictif et donc du coup on imagine en tant qu'économie ce que bah si on baisse le coût de la prédiction effectivement il va y avoir une augmentation la demande pense bien ok donc ça veut dire quoi bah ça veut dire qu'effectivement on voit arriver la prédiction on utilise plus de prédictions donc du coup on va utiliser la prédiction et notamment pour prédire des choses qui sont pour des applications qui sont assez attendues je vous parlais effectivement de la décision du chef d'entreprise qui va décider de lancer un certain marché un certain bien sur un marché donc le chef d'entreprise va vouloir prédire la demande pour ce bien-là il va avoir à sa disposition des données de comportements de consommateurs qui ont déjà acheté des produits avec des caractéristiques proches ou similaires dans le passé il va y avoir des informations sur l'état du marché actuel sur l'état de la concurrence et on va agriger tout ce type d'information pour émettre une prédiction pour savoir quel va être le niveau de la demande pour ce bien si je lance ce bien-là sur le marché ok et donc effectivement l'idée ici étant d'utiliser la prédiction plus de ce sens de prévision c'est-à-dire qu'on essaye de prévoir effectivement quel va être le niveau de la demande dans le futur mais également ce qui se passe effectivement avec la baisse du coup de la prédiction c'est qu'on va utiliser également plus de prédiction dans des domaines dans lesquels a priori le problème de base n'est pas forcément un problème de prédiction ok en particulier la traduction le fait de traduire des textes d'utiliser des mécanismes d'apprentissage automatique pour pouvoir faire la traduction de texte de partir dans un texte source pour arriver un texte d'origine pardon pour arriver sur un texte dans la langue de destination on peut voir ça comme un problème de prédiction où on va donner à la machine un certain nombre de traductions qui ont déjà été faites par des hommes de correspondance entre le texte d'origine et le test de destination on va demander à la machine d'apprendre la manière dont l'humain l'a fait et l'idée c'est qu'une fois qu'on va donner un nouveau texte à la machine, la machine va prédire qu'est-ce que l'humain aurait fait pour pouvoir obtenir une traduction de mentalité ok et donc ce sont des outils qui sont de plus en plus utilisés et la voiture autonome pour prendre l'exemple de Jean-François est effectivement un mécanisme dans lequel on utilise de l'apprentissage automatique pour améliorer la prévision donc là on utilise l'ensemble d'informations collectées par le véhicule des informations sur effectivement ce qui se passe autour du lit donc peut-être de savoir s'il y a 4 ou 5 personnes effectivement qui situent en face de la machine pour pouvoir prédire effectivement si on a assez de temps effectivement pour s'arrêter ou pour essayer de prédire effectivement c'est de prédire également le comportement des autres véhicules qui sont autour du véhicule donc en soi c'est pas vraiment un problème de prévision dans le sens où on essaye pas de faire une prévision sur ce qu'il va se passer par le futur on essaie de prédire des choses qui arrivent de manière qui arrivent en fait au même moment donc avec donc ce type de technologie quand on comprend en fait l'intelligence artificielle comme étant une baisse du coup de la prédiction on peut effectivement l'imbriquer dans des modèles d'innovation de la manière dont les économistes comprennent ces questions d'économie et d'innovation donc là on va s'intéresser dans cette deuxième partie là maintenant à essayer de comprendre comment l'économiste conceptualise justement la création d'un produit sur le marché des biens et services et en quoi le fait que la prédiction devienne moins coûteuse ou qu'on soit capable de faire des prédictions de meilleure qualité va effecter effectivement les comportements des entreprises pour ensuite déterminer l'impact que ça va avoir des demandes de travail sur le marché de l'emploi l'idée étant d'essayer de comprendre par quel mécanisme l'intelligence artificielle donc ici vu comme une baisse du coup de la prédiction va affecter l'emploi l'emploi humain donc on va essayer de comprendre les mécanismes et ce qui va être au coeur de l'analyse avec la manière dont on va conceptualiser la manière dont on va conceptualiser le processus de production c'est à dire la décision de l'entreprise pour produire son biens et services donc les économistes, les outils qu'ils utilisent pour modéliser la production ça peut être schématisé de cette manière là donc une entreprise produit un certain output qui peut être un biens ou un service et pour produire cet output l'entreprise utilise certains inputs que sont le capital et le travail pour faire simple le processus de production consiste en fait à abriquer les deux associés du capital et du travail pour permettre de sortir un produit fini donc le travail et le capital ont certaines propriétés sont dotées d'un certain nombre de caractéristiques et dans le processus de production les entreprises vont arriver à utiliser plus ou moins de capital ou plus ou moins de travail pour produire la certaine quantité d'output donc ces facteurs de production vont être plus ou moins substituables avec l'autre pour produire la même quantité donc une fois qu'on modélise le processus de production de cette manière là et pendant assez longtemps les économistes ont vu en modéliser les choses de cette manière là et ont vu le processus d'innovation comme étant un processus qui permet d'améliorer la productivité des facteurs de production donc on a une innovation qui arrive par exemple vous avez l'électricité effectivement qui vous permet de faire de produire certains biens de manière différente ça peut augmenter la productivité donc la valeur ajoutée quand vous utilisez une unité de travail une unité de capital ce cadre d'analyse a été validé empiriquement et il a été utilisé par les économistes assez longtemps mais finalement il a posé quelques difficultés des difficultés d'ordre de théorique il y a certaines choses qui étaient un petit peu un petit peu rapides dans cette manière là et notamment la manière dont la technologie affecte différemment les travailleurs selon leur niveau de qualification donc la technologie peut avoir des effets différents selon qu'on utilise de l'emploi qualifié et ces choses-là étaient considérées comme étant données à l'extérieur du modèle ce sont les exogènes et donc pas expliquer à l'intérieur du modèle et en particulier ensuite quand on voulait utiliser ces modèles là pour comprendre certains faits stylisés, on avait un petit peu de mal et en particulier un des faits stylisés qui est difficilement expliquable avec ce type de modèle là c'est ce qu'on appelle la polarisation de l'emploi qui est lieu entre les années 80 et le début des années 2000 donc ici ça représente la polarisation de l'emploi sur le marché du travail américain qu'est-ce que c'est que la polarisation de l'emploi c'est qu'en fait la variation de l'emploi que vous avez ici en Apsis a été différente en fonction du niveau de qualification des emplois entre 1980 et 2005 aux Etats-Unis c'est que les emplois très qualifiés donc qui sont représentés ici par des niveaux de salaire assez élevés ont connu une croissance donc le taux d'emploi a été en augmentation dans ces secteurs-là le taux d'emploi a été en augmentation également pour les emplois peu qualifiés et au milieu finalement de la distribution des compétences on a observé une baisse ou une stagation effectivement de l'emploi donc ça c'est lié en fait avec l'arrivée de l'informatique à remplacer notamment des emplois qui sont qui étaient liés sur des tâches cognitives des emplois d'emploi des professions d'emploi de bureau par exemple donc les économistes ont ensuite fait évoluer leur cadre d'analyse pour essayer de faire entrer ces éléments-là dans les modèles et la manière de maintenant ce type de production est considérée dans la littérature notamment en économie de l'innovation de modéliser le processus de production sous forme d'un ensemble de tâches donc vous voulez produire un certain bien vous êtes producteur, vous voulez produire un certain bien donc par exemple une voiture et la production de cette voiture va impliquer la combinaison de différentes tâches séquentielle qui vont vous permettre d'arriver au produit fini donc pas mis ces tâches, vous devez d'abord concevoir le modèle ensuite faire entrer les matières premières assembler les différentes pièces qui vous sont fournies par des fournisseurs ensuite faire du marketing faire de la vente, de la prévision de la demande pour savoir si votre voiture est vendue et ainsi de suite donc sous cette ensemble de tâches va être combinée l'un après l'autre pour pouvoir produire une voiture à la fin donc à partir de là effectivement les tâches, le chef d'entreprise va décider d'allouer ces factures de production donc le travail humain et donc le capital physique aux différentes tâches en fonction des spécificités de chacun des facteurs et en fonction notamment des compétences des travailleurs de l'autre côté donc la décision du chef d'entreprise du producteur dans ce type de modélisation va être effectivement de décider pour chacune des tâches en fonction des avantages comparatifs de chacun des facteurs de production capital travail, quel tâche j'alloue au capital et quel tâche j'alloue au travail donc dans ce sens-là ce type de modèle-là est assez intéressant pour comprendre justement les innovations notamment récentes qui sont par exemple les innovations liées à la robotisation ou l'intelligence artificielle avec le fait qu'on baisse le coût de prédiction donc en fait si on réfléchit un peu à la manière dont l'intelligence artificielle en tout cas telle qu'elle est développée actuellement c'est-à-dire on est en train de baisser la production, de rendre la prédiction pardon, de rendre la prédiction beaucoup moins coûteuse pour l'entreprise on est en train d'assister à quoi à la baisse du coût d'un facteur de production le capital qui va permettre d'opérer une des tâches dans le processus de production qui peut être de prédire la demande par exemple sur le marché automobile pour savoir si effectivement je vais lancer un certain produit donc en analysant les choses de cette manière-là donc ce cas-là a été utilisé pour essayer de comprendre comment justement la baisse de ce coût de la prédiction va affecter le marché du travail et en particulier la demande de travail des entreprises comment les entreprises vont modifier la manière dont elles vont utiliser le travail et le capital suite à la suite d'une baisse du coût de la prédiction donc il va y avoir sensiblement 3 effets qui vont être mis en œuvre ici donc le premier effet ça va être une amélioration de la productivité vous baissez le coût de la prédiction donc qu'est-ce qui se passe vous baissez le prix d'un facteur de production et ce qui fait que vous allez rendre plus productif les autres facteurs de production qui n'utilisent pas effectivement la prédiction ok donc par exemple imaginons que effectivement vous êtes dans une situation dans laquelle votre entreprise consiste à faire du conseil en patrimoine vous devez conseiller un client qui va devoir décider s'il va plutôt investir dans l'actif A ou dans l'actif B qu'est-ce que une des tâches que vous allez devoir réaliser ça va être de déterminer la prédiction des rendements de l'actif A et la prédiction des rendements de l'actif B et une autre tâche que vous allez faire dans ce processus de production ça va être de conseiller le client d'apporter un conseil au client lui disant bah moi je vous conseille de faire si parce que tel facteur de comparer si vous voulez les avantages et les risques et de permettre aux clients de faire de prendre une décision en lui apportant cet élément d'information et ces deux tâches là la tâche de prédiction et la tâche de conseil au prix du client l'intelligence artificielle fait quoi ? c'est qu'elle réduit le coût en fait de la première tâche si vous allouez cette tâche-là au capital donc c'est plus facile pour vous de faire de la prédiction ou si vous pouvez faire des prédictions de meilleure qualité parce que vous avez un algorithme d'intelligence artificielle qui vous permet de prédire avec beaucoup plus de précision qu'elle va être le rendement de l'actif A et de l'actif B et vous allez pouvoir augmenter la qualité de la deuxième tâche que vous allez faire qui va être le conseil que vous allez donner à votre client et à ce point là c'est un effet positif sur la productivité donc la productivité de la tâche qui consiste effectivement à donner le conseil au client va permettre de créer plus de valeur ajoutée et le mécanisme suivant et que ça va augmenter la demande de travail à des entreprises puisque l'entreprise va être capable de vendre plus de services financiers effectivement à ses clients donc ça c'est un premier effet d'intelligence artificielle comme étant une baisse de la prédiction mais il y a un deuxième effet que vous avez probablement déjà identifié qui va être un effet justement de remplacement ou un effet de déplacement c'est-à-dire que dans cet arrivée effectivement de l'intelligence artificielle maintenant si la prédiction on demande un logiciel d'intelligence artificielle de l'affaire ça veut dire qu'on enlève en fait une partie des tâches qui était exécutée par le facteur de production en travail et on la confie au facteur de production en capital qui va être la machine, l'algorithme d'intelligence artificielle qui va pouvoir prédire cette tâche-là donc vous que l'on a cet effet de déplacement qui va avoir cette voici un effet négatif un effet attendu négatif en fait sur la demande de travail donc toute la question est de savoir quel va être l'effet net finalement est-ce qu'on va avoir un effet net qui va être positif ou qui va être négatif puisqu'on a deux effets contradictoires l'augmentation de la productivité qui va augmenter la demande de travail et de l'autre côté le remplacement du travail par cet emplège qui va avoir un effet négatif sur la demande de travail alors le fait de conceptualiser les choses de cette manière-là fait qu'en fait on va faire des analogies avec d'autres innovations technologiques qui ont été faites dans le passé et en particulier ce qui a été fait notamment par Assemmoglou et Rastrépot c'est de regarder effectivement ce qui s'est passé dans le cadre de la robotisation industrielle puisque dans le cas de la robotisation industrielle en fait il s'est passé globalement ça donc on a effectivement des usines maintenant qui sont capables de produire des véhicules en assemblant différentes pièces donc il y a différentes tâches dans le processus de production qu'il faut prendre la pièce, il faut assembler les deux premières parties de la pièce, ensuite faire assembler une troisième et vous voyez ici donc c'est une vidéo de l'usine Tesla donc de Elon Musk et on voit ici en fait que finalement le travail humain il n'est pas très présent effectivement dans cette usine-là donc qu'est-ce qu'on a ? on a eu l'arrivée de la robotisation la robotisation a permis de rendre certaines tâches moins odéreuses les tâches d'assemblage pour la voiture par exemple donc le capital est devenu plus compétitif par rapport au travail donc ça a amélioré la productivité du travail mais pas celui qui a associé effectivement au fait d'assembler mais de la productivité du travail pour d'autres secteurs dans l'usine Tesla par exemple et dans un même temps effectivement il y a un effet de remplacement c'est-à-dire que si vous étiez dans une usine par l'usine Tesla puisqu'elle n'existait pas mais si vous étiez dans des usines de production automobile il y a 20 ou 30 ans vous aviez beaucoup plus d'humains qui faisaient une partie plus importante effectivement des tâches qui sont maintenant opérées par les machines alors ce qu'on fait à Semogu et Restrepo c'est qu'ils ont essayé de voir effectivement qu'elle a été empiriquement qu'est-ce qui s'est passé finalement quel effet l'a emporté, est-ce que c'est l'effet de productivité qui a été suffisamment important pour pouvoir compenser l'effet de déplacement des tâches et le réponse c'est plutôt non c'est-à-dire que du coup l'effet sur la demande de travail l'effet qu'ils ont trouvé sur la demande de travail il a été plutôt un effet négatif dans le sens où effectivement l'effet de remplacement était plus important que l'effet d'augmentation de la productivité dans le cas de la robotisation des usines en fait aux Etats-Unis c'est qu'ils ont pris des données locales sur des marchés du travail local aux Etats-Unis pour chacun des marchés locaux donc ils ont calculé un indice d'exposition robot sur la base d'informations fournies par l'industrie de la robotique et ils ont regardé comment l'emploi avait évolué justement sur la période 1990-2007 en fonction du fait que la zone géographique soit plus ou moins exposée au robot et ce qu'on voit c'est qu'on a effectivement un effet négatif de l'exposition des robots donc plus vous êtes robot plus la variation de l'emploi a baissé donc moi vous avez l'emploi effectivement dans les secteurs dans les zones géographiques dans lesquelles vous aviez plus de robots et ce qu'ils ont fait dans l'article c'est qu'ils ont contrôlé pour un certain nombre de facteurs confondants parce que bien sûr effectivement on ne peut pas regarder une simple corrélation et c'est pas assez plein de choses dans la période de robotisation notamment l'exposition aux importations notamment peut-être une modification de l'offre de travail au niveau des marchés locaux donc ils ont contrôlé pour ces différentes choses-là et à la sortie le résultat qui est trouvé a cet effet négatif de l'impact de la robotisation donc on voit ici qu'effectivement si on essayait d'extrapoler ce qu'il peut se passer avec l'intelligence artificielle par rapport à l'évidence empirique enfin au moins cette évidence, puis il y a d'autres évidences empiriques qui ont été montrées dans d'autres pays sur les robots, les perspectives ne sauraient pas forcément réjouissantes l'idée c'est qu'effectivement on a un effet de productivité qui pourrait être bien moindre par rapport à l'effet de déplacement alors dans le cadre de l'intelligence artificielle en fait c'est une technologie qui n'est pas qui va probablement engendrer de nouvelles d'autres innovations dans le futur donc le fait d'améliorer les algorithmes d'apprentissage automatique fait que ça peut mener à d'autres innovations qui peuvent faire en sorte qu'en fait il y a un troisième effet qui peut se rajouter dans ce cadre-là qui serait un effet justement d'augmentation du travail un effet de rétablissement du travail donc c'est ce qui est appelé en fait en anglais un effet de reinstatement l'idée c'est d'augmenter le travail donc dans le cadre effectivement de l'arrivée de l'intelligence artificielle on peut penser que effectivement ce qui peut se passer c'est qu'on va pas rester dans des processus de production où le nombre de tâches va être limité et défini mais l'émergence de l'intelligence artificielle va faire qu'on va pouvoir cette fois-ci créer de nouvelles tâches dans lesquelles le travail humain va avoir un avantage comparatif sur les machines et si l'intelligence artificielle permet effectivement de développer ce type de tâches qui permettent d'augmenter le nombre de tâches utilisées par les entreprises alors cet effet-là va avoir un effet plutôt positif sur la demande de travail humain puisque effectivement vous allez créer des tâches qui vont être pour lesquelles les humains vont avoir un avantage comparatif sur la machine si je vous reprends mon analogie avec mon analogie avec le secteur financier donc on a l'effet de productivité qui est le fait que effectivement notre conseiller financier va pouvoir améliorer la qualité du conseil qui va donner à son client avec l'arrivée de l'intelligence artificielle donc l'effet de productivité en même temps le travail qui va être donné à la machine pour faire la prédiction c'est pas un travail qui va être enlevé au conseiller financier donc baisser la demande de travail et on pourrait très bien penser que de nouvelles innovations arrivent dans le secteur de la finance qui fasse que par exemple le conseiller en patrimoine puisse faire des propositions en temps réel de placement au clé en financier sur la base d'informations qui peuvent être utilisées sur les habitudes de consommation des clients et qui peuvent permettre de déterminer par exemple son niveau d'aversion au risque vous pourrez très bien avoir un type de service ou le conseiller financier va contacter de manière régulière son client disant bah étant donné votre profil effectivement moi je peux vous proposer d'investir dans tel ou tel actif donc on a vu effectivement, donc ça c'est un troisième effet qui va être mis en place dans le cas de l'intelligence artificielle et du coup ce qu'on aimerait c'est effectivement d'essayer d'évaluer ces différents effets d'évaluer l'effet empirique de l'arrivée de l'intelligence artificielle puisque c'est en train de se faire et donc du coup on n'a pas de recul suffisant pour essayer d'évaluer ça par contre on peut s'intéresser à ce qui se passe déjà d'un point de vue micro-économique quand on s'intéresse aux emplois humains et en particulier effectivement la chose à laquelle je vais m'intéresser maintenant ça va être de regarder ce que l'intelligence artificielle ce qu'on peut prévoir en termes d'évolution du périmètre des professions avec l'arrivée de l'intelligence artificielle c'est déjà de réfléchir à ces questions-là alors si vous regardez et si vous faites des recherches effectivement vous faites une recherche Google et puis vous tapez effectivement en crainte de l'intelligence artificielle sur l'emploi, vous allez trouver plein de choses et vous allez trouver pas mal de rapports effectivement qui peuvent être plus ou moins alarmants donc notamment vous pouvez trouver des articles de presse qui relatent cette étude qui a été faite par Fré et Osborn en 2013 qui en fait ont pris les professions aux Etats-Unis et on sait de voir effectivement qu'elle a la probabilité que chaque profession pouvait être remplacée par l'informatisation donc ils ont utilisé effectivement des données là-dessus et la conclusion à laquelle ils ont abouti c'était que finalement à peu près la moitié des emplois aux Etats-Unis avait une probabilité supérieure à 70% d'être remplacée par l'informatisation dans les 10 ou 20 ans donc 2013, 10 ou 20 ans donc ça c'était une des premières études qui a été faite là-dessus et qui a fait quand même couler beaucoup d'encre parce que effectivement ça a eu au moins le mérite de déveiller les consciences alors le problème avec cette étude là c'est que ça a été assez controversé quand même et en particulier pour les aspects méthodologiques qui est le fait que comme je vous l'ai dit précédemment donc une profession va être une combinaison d'un ensemble de tâches et si on ne résonne pas au niveau des tâches mais au niveau de la profession si une tâche est affectée par la numérisation par l'arrivée de l'ordinateur et que vous dites que la profession en elle-même est entièrement menacée par le fait que cette tâche là qu'une partie des tâches liées à la profession par une machine vous arrivez à gonfler, à surestimer cet effet de destruction d'emploi donc à la suite de ça il y a d'autres études qui ont été faites et d'autres études notamment qui se sont intéressées au fait de concevoir la profession non pas juste chacune des professions mises bout à bout mais en s'intéressant à la dimension tâches donc c'est à dire quelles sont les différentes tâches qui constituent qui sont utilisées dans chacune des professions alors donc par exemple une étude qui était faite par des chercheurs à l'OCDE en 2016 qui donc cette fois-ci ont modélisé le processus de production comme cet ensemble de tâches et qui sont intéressés au contenu des tâches au niveau des professions et qui finalement se sont intéressés donc à l'aspect d'automatisation possible effectivement des tâches et qui montrent que on a à peu près 9% des emplois dans les 21 pays de l'OCDE qui peuvent être menacés en quelque sorte par l'automatisation donc on est à des niveaux beaucoup moins inférieurs par rapport à la première étude de Fred Osborn alors qu'en est-il en fait de l'intelligence artificielle et qu'en est-il de l'apprentissage automatique donc machine learning puisque c'est l'évolution actuelle en fait de l'intelligence artificielle et on veut essayer de prévoir effectivement quel va être l'effet de l'apprentissage automatique sur le périmètre des professions et en particulier savoir si ça va avoir un effet de destruction de profession donc l'effet de déplacement dont on parlait avant qui sont importants ou pas alors on va s'intéresser en fait à une profession particulière qui est la profession de radiologue ok bon vous n'avez probablement pas à lire ce qui est sur ce transport là c'est pas le but le but c'est de vous montrer qu'effectivement un radiologue il ne fait pas juste prendre des images et donner son conseil au patient il a un certain nombre de tâches qui sont répertoriés quand on regarde ce que fait un radiologue le processus de production du radiologue peut être combiné en différents tâches en tout il y en a 29 qui sont répertoriés par cette base de données qui est la base de données honnête qui est créée par le département du travail américain et donc en fait qui classifie pour les mille professions environ présentes aux Etats-Unis quel est le contenu en termes de tâches pour ces différentes professions et donc pour le métier des radiologues en fait il y a 29 tâches qui sont combinées pour pouvoir effectivement réaliser le métier de radiologue et donc du coup par exemple la première tâche donc je vous la lis c'est d'obtenir les antécédents des patients à partir des dossiers électroniques à partir des entrevues avec les patients etc la deuxième sache c'est de préparer les rapports d'interprétation complet des résultats la troisième tâche c'est celle sur laquelle je vais zoomer un petit peu maintenant qui va être défectueuse d'interpréter les résultats des procédures d'imagerie médicale donc toutes sortes d'imagerie médicale et donc on voit bien effectivement que si on s'intéresse effectivement à l'intelligence artificielle comme étant la possibilité d'améliorer la prédiction sur la base d'informations disponibles certaines applications qui sont en train de se développer c'est Sébastien Agada travaille dessus c'est effectivement de comment est-ce qu'on peut améliorer la technique de reconnaissance d'imagerie médicale pour permettre aux radiologues d'utiliser pour permettre à la machine d'utiliser toute la base d'informations qui est justement les imageries médicales pour arriver à faire une prédiction sur la probabilité avec laquelle une certaine tumeur détectée va être maligne et ensuite le radiologue il n'empêche pas moins qu'on va dire que ce type d'application va remplacer le métier de radiologue puisqu'on l'a vu avant, le radiologue a quand même 28 tâches à effectuer et donc on est en train de mettre en place des applications pour remplacer uniquement une dimension, une tâche qui est faite par le métier du radiologue donc en fait si on s'intéresse donc là j'ai pris un cas particulier mais du coup ce qu'on fait à certaines économies c'est qu'ils ont essayé de se dire là on va prendre des différentes professions qui existent sur le marché du travail américain et on va essayer de voir pour chacune des tâches qui constituent effectivement chacune des professions on va essayer de voir l'exposition de ces tâches au machine learning donc à l'apprentissage automatique donc comment ces tâches là sont exposées à l'apprentissage automatique donc ce qu'on fait ces chercheurs là donc Wynjolson et Mitchell en 2017 c'est qu'effectivement ils ont pris toutes les professions qui existent aux États-Unis, les tâches qui sont associées et pour chaque tâche ils ont essayé de construire un certain indicateur si la tâche va être très exposée ou peut exposer à l'apprentissage automatique donc ils ont construit un ensemble d'une vingtaine de questions environ de critères pour évaluer effectivement à quel niveau les tâches peuvent être remplacées par l'intelligence artificielle et donc par pas l'intelligence artificielle au sens large mais vraiment par l'apprentissage automatique c'est sur quoi ils sont intéressés donc par exemple un premier critère qui prenne en compte c'est est-ce que les informations nécessaires à l'exécution de la tâche et les sorties donc l'output peuvent être si effectivement donc là il y a 3 possibilités soit c'est très difficile ou impossible d'identifier certains intrants et extrans soit il est possible de créer les classements ou une représentativité partielle des entrées sorties donc on peut utiliser de l'information disponible partiellement ou soit il est facile en fait de quantifier les résultats sur une machine ou un ordinateur donc là on voit bien effectivement que pour chacune des tâches qui associe à chacune des professions on va pouvoir déterminer si la tâche en question va être plus ou moins si on veut lui mettre une note plutôt de 1, 3 ou 5 le deuxième critère qui a été mis en place par exemple c'est que le feedback des tâches donc sur le succès des résultats donc la haute com de la tâche est immédiat ou disponible grâce à de nombreuses données historiques donc est-ce qu'on a des données en masse qui nous permettent effectivement de donner ça un algorithme d'intelligence artificielle un algorithme d'apprentissage automatique qui va pouvoir nous sortir une prédiction ok donc soit effectivement c'est très compliqué soit ouais ça va soit effectivement ça va être super facile d'avoir des résultats d'accord donc en fait il y a une batterie de 23 critères comme ça et en fait ce qu'ils ont demandé c'est à des experts du champ disciplinaire d'évaluer sur la base des éléments techniques des ancés techniques actuels ok selon eux effectivement quels sont les quels scores ils mettraient à chacune des tâches qui constituent les différentes professions pour essayer d'obtenir un score au niveau des professions qui va agréger en fait les différents scores obtenus au niveau des tâches qui constituent une profession pour savoir si une profession va être plus ou moins sujette à l'apprentissage automatique comme action learning alors du coup maintenant je vais avoir une question une question pour vous donc vous allez pouvoir reprendre votre téléphone si ça va bien passer au transport suivant vous allez pouvoir reprendre votre téléphone et donc je vais vous poser la question suivante c'est selon vous quels seraient la profession la moins exposée à l'apprentissage automatique selon les critères effectivement qui ont été déterminés par B. Johnson et Michel dans leur travail en 2017 donc là je voulais finiquer selon vous donc on parle bien effectivement l'apprentissage automatique sur des bases uniquement techniques c'est-à-dire est-ce que les techniques actuelles nous permettent effectivement de remplacer les professions de remplacer les tâches intellectuelles artificielles pas de réponse si, ça arrive quoi faire ? artiste ? pape ? effectivement pourquoi pas petit canaliste ok donc on est un secteur médical chercheur assurément beaucoup de chercheurs dans la salle peut-être artiste, nettoyage donc effectivement on voit bien que là vous portez plutôt effectivement sur des choses sur lesquelles il y a des capacités cognitives de réflexion qui sont importants ou des capacités artistiques donc effectivement des aspects de créativité ok service à la personne ouais effectivement chercheur atéa ce assurément jardinier ok alors président ça dépend de quel type de président on fait référence ouais il y a quand même une tendance qui se dessine autour des activités plus de créativité des activités disons de créativité dans les deux cas c'est de la créativité réalisateur, vendeur ok donc pas mal de effectivement et puis on voit aussi qu'on voit émerger des choses qui sont liées notamment un petit peu au secteur médical service à la personne aussi j'ai vu effectivement ok avocat alors avocat on a vu avec ce que nous a dit Jean-François qu'il y a une partie qui est effectuée par les avocats qui peuvent être automatisables qui est le fait d'utiliser toute la jurisprudence tous les textes qui existent et pour pouvoir obtenir à partir de ces décisions rendues dans le passé effectivement aider l'avocat à faire une certaine prédiction alors je vais vous donner un peu les résultats qui ont été obtenus effectivement dans l'article donc l'article en fait a fait ça pour les différentes professions donc on est encore dans nos états unis et donc selon ce critère là effectivement qui a été définie dans cet article là les professions les plus exposées alors dans le premier temps à l'apprentissage automatique donc sont la profession de concierge donc là vous voyez on parlait de service à la personne mais là pour le coup effectivement cette profession là est assez exposée dessinateur mécanique donc plutôt une activité manuelle qui demande une certaine une certaine dextérité peut-être un peu de créativité aussi employé directeur des pompes funèbres ok autorisateur de crédit ou courtier ok maintenant parmi les propositions les professions pardon les moins exposées à l'intelligence à l'apprentissage automatique donc celle carrément en premier en fait c'est maso thérapeute donc effectivement utiliser une base de données disponible et pouvoir effectivement utiliser ce données là pour faire la prédiction et pour essayer d'améliorer le service rendu par un maso thérapeute qui a été identifié en tout cas par les experts qui ont qui ont donné ces résultats là comme étant la situation la moins exposée telle que vétérinaire aussi archéologue chanteur acteur politiciens donc je sais pas si on met économiste au milieu et les platteries également donc on voit bien en fait qu'ici donc il n'y a pas de typologie type en fait des professions qui pourraient être justement sujets à l'apprentissage automatique et ce qu'on voit là finalement c'est qu'on a à la fois un mélange d'activité qui demande une certaine créativité donc rappelez-vous qu'une chose qui se réalise notamment qui avait été mis par Hawkins c'était de dire que finalement seuls les professions les plus productives vont pouvoir et le plus créatifs pardon les plus créatives vont pouvoir survivre en fait à l'apprentissage automatique mais on voit qu'en fait en utilisant à l'heure actuelle effectivement ce type de données là c'est pas nécessairement effectivement les emplois les plus créatifs qui vont être qui vont être au moins exposés à l'apprentissage automatique on a des métiers manuels comme platteriers des métiers qui demandent aussi la dextérité vétérinaire ou de masse aux thérapeutes et donc on voit bien qu'on ne peut pas trop classifier les professions au fonction du fait que ce sont des professions plutôt manuels plutôt cognitives plutôt routinières ou plutôt non-routinières et en fait donc en particulier une des choses qui est effectivement des résultats empiriques de ce papier là c'est de montrer que par exemple si vous essayez de regarder la corrélation entre justement le degré d'exposition des professions avec le niveau de qualification des emplois ce que vous avez dans ce graphique là donc vous avez les professions classées selon leur salaire donc ils correspondent au niveau de qualification de la profession et en ordonnée effectivement vous avez le niveau d'exposition à l'apprentissage automatique tel qu'il a été obtenu par les autorats on voit bien qu'ici on n'a pas de corrélation claire effectivement entre ces deux éléments là et donc c'est pas nécessairement on n'a pas d'aspect de polarisation tel qu'on l'a observé dans les données avec l'arrivée de l'informatique en 1980 donc là on est plutôt dans une situation dans laquelle on a de on n'a pas de corrélation ni positive ni négatif ni en forme de U tel qu'on l'avait avant alors juste pour être sûr de savoir de quoi on parle ici on parle bien effectivement de ce qui effectivement et c'est une sorte de prédiction c'est-à-dire que ce sont des experts qui vont essayer de prédire sur la base d'informations actuelles si les professions vont être sujets dans la chaine learning on n'est pas en train de parler de réalisation de ce qui s'est passé en tout cas ce qu'on peut prévoir c'est qu'effectivement en changeant le périmètre des professions et en confiance à certaines tâches d'éthymes plutôt qu'os humains ce qui va se passer c'est qu'on va avoir des changements dans la composition des tâches donc par exemple le radiologue effectivement va avoir une tâche sur laquelle il va avoir moins de choses à faire ça va être la partie prédiction et par contre il n'empêche pas moins que le radiologue va devoir toujours effectuer des tâches de conseil de diagnostic et de conseil vis-à-vis du patient pour savoir quelle procédure engagée donc une conséquence immédiate effectivement quand on pense à l'allocation des tâches aux professions de cette manière là c'est qu'effectivement on va toujours déterminer pour occuper une certaine profession ou être également grandement affecté donc par exemple si on veut former des radiologues on va moins former les radiologues au fait de lire l'imagerie médicale mais par contre il va falloir continuer à former les radiologues sur les autres aspects de lire leur profession qui sont de lire les résultats qui sont donnés par un agroïsme d'apprentissage automatique et donc du coup d'être capable d'interagir en quelque sorte avec la machine et toujours d'avoir des relations sociales pour être en mesure d'expliquer effectivement quelle est la situation, quel est le traitement le mieux adapté aux patients au fonction des informations qui sont données par l'organisme d'apprentissage automatique voilà donc juste pour conclure effectivement cette présentation donc ce qu'on a vu c'est qu'effectivement l'intelligence artificielle a pouvoir avoir un impact sur l'emploi et au niveau agrégé l'impact est incertain c'est la combinaison de 3 facteurs donc d'une part amélioration de la productivité donc ça c'est un effet positif sur la demande de travail un effet de remplacement qui là peut être un effet négatif en détruit des emplois et que l'IA peut permettre d'augmenter le travail donc de créer de nouvelles fonctionnalités et on a vu dans le cadre de l'apprentissage automatique que effectivement l'apprentissage automatique lui-même peut être sujet effectivement à modifier le paramètre le périmètre des professions ce qui peut avoir des répercussions en termes de compétences requises pour ces différentes professions bien sûr il va y avoir des coûts d'ajustement qui vont être nécessaires pour pouvoir effectivement prendre en compte ces effets de l'intelligence artificielle sur le marché du travail donc si on veut effectivement que ce 3ème facteur qui peut être un facteur assez puissant de création d'emplois d'emplois humains soit mis en oeuvre il va falloir effectivement mettre le paquet sur la création de tâches nouvelles et développer des applications qui permettent de créer des applications dans lesquelles on va pouvoir utiliser du travail humain et non pas juste des applications qui vont permettre de remplacer le travail humain et le rôle central qui va être joué bien sûr par la formation donc soit la formation pour les personnes et certaines vont avoir certaines de leurs tâches qui vont être maintenant confiées à une machine donc ça veut dire qu'on va demander des compétences différentes à ces personnes-là et donc il va falloir former ces personnes-là à ces compétences-là mais également le rôle de l'éducation donc de la formation initiale est également un élément très important à prendre en compte et pour terminer je vais vous laisser juste sur l'article effectivement sur certaines réflexions qui ont été menées donc par Danone Simoglou et Pascal Pasquale resteraient peaux donc ils ont un article donc une version est disponible je crois à l'accueil qui est en fait pour le TNIT donc ATSE ont réfléchi un petit peu qui ont réfléchi à ces questions-là et donc ça donnait lieu à une publication là du TNIT où en fait il parle de moine et de mauvaise intelligence artificielle en disant que les effets sur l'emploi on voit bien que la combinaison des différents facteurs dont j'ai parlé peuvent mener effectivement les développeurs à plutôt privilégier d'un côté l'intelligence artificielle pour pouvoir remplacer l'humain on développe des techniques qui permettent de remplacer l'humain dans la prédiction je parlais effectivement de la tâche de prédiction pour un radiologue on peut parler effectivement de la voiture autonome ou l'idée peut-être de remplacer le chauffeur de taxi par des véhicules sans chauffeur et donc ce qu'ils disent en fait dans cet article c'est qu'ils mettent un peu ça en perspective ils disent aux gens de faire un petit peu d'attention ils mettent en garde les gens en disant oui mais finalement il faut quand même faire attention à ces choses-là et l'intelligence artificielle devrait être aussi orientée sur la création d'activité sur la création de nouvelles tâches qui permettent d'augmenter le travail donc de rendre le travail humain beaucoup plus intéressant par rapport à la machine donc je vous ai donné un exemple qui est lié effectivement au métier de conseiller en patrimoine je vais m'arrêter là-dessus je vous remercie pour votre attention merci François pour s'exposer est-ce que vous avez des questions ou des réactions ? oui est-ce que finalement l'émergence de l'IA ne va pas avoir un autre effet qui est de c'est-à-dire blurrer pour parler en bon français la distinction entre travail et capital est-ce que finalement il n'y a pas une forme de continuum beaucoup plus beaucoup plus important entre le travail et le capital en tout cas alors oui effectivement c'est une bonne question c'est possible effectivement qu'on ait ce type de chose maintenant c'est vrai que si on arrive pour conceptualiser un peu les choses c'est vrai que distinguer les deux et distinguer et appréhender la notion d'IA sur la notion de capital et de travail c'est quand même très utile effectivement pour comprendre les mécanismes après à la fin finalement l'intelligence artificielle qu'est-ce que ça va en fait si vous voulez le fait de penser le processus de production comme un ensemble de tâches distinctes on voit bien qu'on arrive justement à distinguer les tâches qui vont être soumises à l'algorithme, à l'intelligence artificielle et les tâches qui vont être laissées aux humains donc les choses blurrer là-dedans ça va être un petit peu je vois pas bien effectivement quel type d'activité ne pourrait pas être classifié de telle manière à ce qu'on arrive justement à identifier que cette activité là va être une activité faite par du capital ou du travail humain et donc ce cas d'analyse là en termes de tâches qui permettent de savoir si les tâches sont à l'eau de travail ou au capital est un cas d'analyse qui est justement extrêmement extrêmement convaincant justement pour comprendre pour apprendre ces questions là et pas se laisser entraîner justement sur ce fait que ok on a des tâches qui peuvent être assez blurrer on est un peu à la zone d'ombre non on va arriver à essayer d'identifier effectivement une tâche qui est réalisée par la machine ou c'est une tâche qui est réalisée par l'homme et si on est en train de remplacer une tâche dans laquelle effectivement on a les deux sources de travail qui sont utilisées bah peut-être qu'en fait il serait utile de couper cette tâche en deux et de dire que finalement c'est pas une seule tâche mais c'est deux tâches qui sont exécutées une première tâche qui pourrait être confiée là effectivement à la machine une deuxième tâche qui pourrait être confiée au travail humain et exactement ça bien sûr ça ça peut il y a beaucoup de travail à faire effectivement là-dessus pour analyser effectivement au niveau de la tâche pour réaliser plutôt la machine en fait quand je prenais l'exemple du métier de radiologue avec les données qui sont fournies par le département du travail américain quand on regarde effectivement sur chacune des professions il y a un nombre de tâches quand même assez élevées effectivement sur chacune des professions donc on avait à peu près 30 tâches pour un métier de radiologue et là c'est vrai que c'est quand même assez fin alors est-ce que c'est suffisamment fin peut-être pas peut-être qu'il faudra encore affiner un petit peu plus c'est évolutif bien sûr on peut adapter le contour en tâche des professions mais c'est quand même déjà assez fin oui moi je voudrais en fait donner une perspective de praticien de l'IA et pas du tout d'économie en fait en IA quand on regarde l'impact économique de ce que ça va avoir on dit toujours qu'il y a 2 2 vagues en quelque sorte la première vague que vous avez décrit avec votre exemple de la robotique qui est une situation dans lequel essentiellement on va essayer de passer tous les coups à la paille de fer c'est-à-dire tout ce qui est d'automatiser tout ce qui permet d'avoir immédiatement un impact sur la bottom line on va essayer de l'automatiser pour gagner là-dessus je dirais que ça renforce la compétitivité de l'entreprise d'une façon intéressante certes mais pas révolutionnaire la deuxième partie par contre c'est tout ce qu'on appelle la création de nouveaux services la création de nouveaux produits et c'est en fait dans cette partie-là que l'entreprise va vraiment croître va vraiment installer sa compétitivité par rapport à sa concurrence et c'est là effectivement qu'il va y avoir des créations d'emplois difficile à estimer bien entendu mais moi j'ai envie de dire une entreprise qui rentre pas là-dedans elle est morte de toute façon parce que derrière sur le marché il y a des petits camarades qui vont le faire donc je pense que l'analyse du travail elle doit toujours être faite en regard de l'impact économique sur une entreprise que le nom remplacement des tâches ou la nom automatisation peut avoir sur elle je suis dans un organisme qui s'appelle le HOP Francia dans lequel en fait l'emploi anime avec nous un atelier de travail pour analyser tout ça parce que vous parlez du travail très bien magnifique mais quand il y a des emplois qui vont se créer il se pourrait très bien que ce soit les gens qui sont aujourd'hui remplacés partiellement par leur tâche qu'on puisse former donc juste derrière votre sujet de l'emploi il y a le sujet de la formation et non pas de la formation initiale mais de la formation professionnelle question trop longue il y a plusieurs éléments dans votre je vais essayer de la couper un petit peu pour répondre à ces points là donc vous avez raison effectivement sur le fait que en fait ce que je vous ai présenté les trois effets dont je vous ai parlé vous avez bien résumé la présentation donc c'est cet effet de productivité il y a cet effet de déplacement du travail et puis il y a cet effet effectivement d'augmentation du capital donc c'est exactement les trois effets qui sont identifiés comme étant effectivement prévisibles pour l'arrivée de l'IA et bien sûr si on regarde effectivement les innovations dont vous parliez donc par exemple à Robotique en fait c'est vrai que c'est des innovations qui vont augmenter la productivité de l'entreprise mais pas de manière effectivement terrible comme vous le disiez effectivement et qui vont pas permettre donc on pensait les effets négatifs de perte d'emploi qui sont liés au fait que maintenant les tâches vont être confiées à la machine si vous voulez prendre un autre type d'exemple par exemple un type d'exemple c'est par exemple les services de clientèle donc effectivement certain nombre d'entreprises utilisent maintenant des robots pour pouvoir répondre en fait au téléphone aux clients on a tous eu je pense à peu près cette expérience là donc ça permet effectivement à l'entreprise de réduire en fait son cours du travail donc de déplacer du travail du capital vers le travail mais on va qu'en fait c'est des services qui en termes de productivité vont pas être vont pas être faramineux parce qu'en fait quand vous appelez effectivement un robot il y a cet effet là effectivement tout à fait il y a cet effet là mais après en termes de qualité de service effectivement la qualité de service qui est rendue par un robot par rapport à une personne humaine est quand même assez d'un niveau qui s'améliore certes mais qui est un niveau qui est peut-être pas suffisamment pour rendre cette tâche extrêmement productive donc ça c'est le premier point alors le deuxième point maintenant qui consiste à dire que de toute façon les entreprises qui ne créent pas de nouvelles tâches sont amenées à disparaître malheureusement je suis pas certain effectivement que quand on soit là c'est à dire que si vous regardez les développements d'intelligence artificielle tels qui sont faits effectivement dans pas mal de domaines et donc notamment je prenais l'exemple de la voiture autonome l'idée clairement dans la voiture autonome c'est vraiment de remplacer l'humain à conduite donc du coup ça va être de déplacer du travail qui est fait par un chauffeur taxi par du travail qui va être fait par du capital qui va conduire effectivement qui va conduire le véhicule donc les développements actuels et en particulier c'est ce qui est aidé dans cet article c'est de dire qu'on a quand même des raisons de penser qu'actuellement la manière dont les entreprises qu'on soit effectivement ces innovations qui sont liées à l'intelligence artificielle raisonnent plus en disant ok j'ai identifié une tâche comme étant une tâche répétitive, manuelle j'ai des données qui sont disponibles donc du coup cette tâche là effectivement je vais pouvoir la remplacer avec une tâche automatique et ce qu'ils disent effectivement dans cet article c'est que ça c'est bien et c'est bien de développer des applications de ce type là mais si on fait que ça on va courir effectivement à la perte une perte d'emploi effectivement dans le futur et le troisième point qui concerne la formation donc là effectivement c'est vrai que c'est un point qui va être un point qui va être central la formation professionnelle donc on a des nouvelles technologies qui émergent et donc du coup il va falloir avoir des compétences qui soient disponibles dans l'emploi pour pouvoir complémentaire être complémentaire en fait sur cette technologie d'intelligence artificielle qui sont apportées et donc les personnes qui occupent des professions dans lesquelles une partie de leur tâche maintenant va être confiée à la machine il va falloir être capable de les former sur d'autres compétences ou être capable d'assurer effectivement un transfert sur d'autres types de profession dans lesquels leurs compétences seront mieux adaptées donc cette dimension là de la formation professionnelle est vraiment essentielle et donc si on est dans une situation de compétences par exemple de compétences relationnelles qui vont être de plus en plus présentes potentiellement un exemple du chauffeur de bus par exemple un chauffeur de bus scolaire imaginons qu'effectivement dans 10 ans vous remplacer le chauffeur du bus scolaire vous utiliserz un véhicule autonome pour transporter les enfants pour les amener à l'école donc le métier de chauffeur de bus scolaire va probablement évoluer c'est à dire que le fait de dire qu'on va mettre ses enfants dans le bus qui va être conduit par une machine et que les enfants vont arriver à l'école de référents qui soient dans le bus pour des questions de sécurité pour des questions de vigilance et d'assurer de faire en sorte que les enfants se tiennent correctement par exemple dans le bus et ça ça va être difficilement automatisable donc ça veut dire que effectivement le métier de chauffeur de bus en tout cas pour le transport scolaire peut être amené à évoluer et on aura plus besoin de chauffeur de bus qui va être capable de conduire puisque ça ça va être fait par la machine mais par contre on va devoir effectivement avoir des chauffeurs de bus qui vont avoir d'autres qualités notamment des qualités pélagogiques des qualités peut être de surveillance et de sensibilisation à la sécurité donc ça veut dire alors est-ce que les chauffeurs de bus actuel ont les compétences sont un avantage comparatif dans ce type de compétences pour faire ces professions-là c'est la réponse si oui c'est très bien c'est la réponse si non ça veut dire que soit on forme ces personnes-là ces chauffeurs de bus soit effectivement on utilise d'autres employés qui ont un avantage comparatif dans ce type de compétences pour occuper ces employés-là Oui une question Bonjour Arnaud Lucossi de TDF je ne suis pas économiste mais je m'intéresse beaucoup à l'économiste à l'économie plutôt il y a un paradoxe en vous écoutant et très intéressant on a l'impression que l'IA peut permettre d'améliorer de manière assez fantastique la productivité puisque il y a la question de remplacement, de la robotisation pourtant en macro-économie les macro-économies sont un peu perplexes face à la baisse de la croissance potentielle la croissance réelle est observée dans les pays depuis maintenant quelques décennies donc ma question est assez simple si vous réponsiez les deux approches vous avez l'impression que l'IA permettra de retrouver la croissance potentielle et donc la croissance tout court par le biais de l'amélioration de la productivité Par le biais de l'amélioration de la productivité c'est possible et ça va passer par le troisième effet c'est à dire que ça va être l'effet d'émergence de nouvelles tâches dans lesquelles des tâches avec un niveau de productivité assez élevé en fait vous avez raison si on regarde les données macro-économiques qu'est-ce qu'on observe effectivement sur les dix, vingt dernières années disons de la productivité ou moins une augmentation très faible de la productivité par rapport à ce qui s'est passé avant et en particulier effectivement c'est une période dans laquelle on a eu de la robotisation industrielle donc c'est l'exemple de l'article que j'ai pris mais aussi on a eu de l'arrivée d'innovation dans les services avec l'ordinateur qui a pris une place assez importante la manière dans les économistes si je veux faire le lien avec ce que j'ai présenté ça veut dire quoi ? ça veut dire qu'en fait les gains de productivité qui ont été améliorés effectivement par ces nouvelles technologies par cette robotisation ont été fantastiques et finalement je prenais l'exemple effectivement du centre d'appel effectivement le centre d'appel est-ce qu'il améliore la qualité de service rendu par un opérateur un opérateur téléphonique par exemple ou pas c'est une question qui effectivement est sujette à débat et qui peut être effectivement chacun a son opinion sur le sujet mais c'est pas ça qui a permis effectivement à l'entreprise de gagner effectivement une valeur ajoutée de manière super importante ça a permis effectivement de remplacer une partie de ses employés qui vont être utilisés sur le capital qui va être en coût bien inférieur à du salaire c'est pour ça qu'on le fait c'est-à-dire que le producteur dans le cas de ces modèles il regarde le coût des facteurs de production et puis il alloue la tâche au facteur de production qui est la plus compétitive et à ce point là quand vous avez des technologies qui font que le coût de la production baisse juste un petit peu par rapport au coût de l'utilisation d'une unité de travail à ce point là l'entreprise va chifter vers justement cette technologie mais si les gains de productivité sont juste marginaux par rapport au travail qui était rendu par un humain qu'est-ce que vous avez ? vous avez un faible gain de productivité mais vous avez un fort coût de déplacement un fort déplacement de la main-d'oeuvre de travail puisque vous avez remplacé des travailleurs qui travaillaient dans le moceau d'appel vers la machine qui va répondre effectivement aux clients et donc du coup si on résonne dans cette manière là on peut réconcilier justement ce cas d'analyse avec justement la stagnation de la productivité qui a observé effectivement dans les dernières années de la croissance économique après est-ce que l'IA va permettre effectivement d'aller un petit peu de retrouver des gains de croissance élevés et de retrouver effectivement notamment des gains de productivité élevés ça va dépendre de la manière dont effectivement les nouvelles tâches vont être créées est-ce que ces nouvelles tâches vont être des tâches qui vont permettre de nouvelles innovations qui vont à elle effectivement faire en sorte qu'on augmente la productivité du travail sur ce sujet j'ai deux questions c'est que ces ajustements quand on le le regarde de loin tient très peu compte du facteur temps et de la différence de rapidité d'apprentissage entre la machine et l'homme et puis le deuxième aspect c'est sur l'arbitrage capital travail le problème c'est que je pense pas que la question soit bien posée en fait quand on fait un arbitrage capital travail c'est plutôt un arbitrage énergie travail humain et de deux faits là ça pose le problème sur le prélèvement des ressources de la planète donc il y a un problème énergétique important c'est un peu là c'est une excellente question ça va un petit peu au-delà de ce dont j'ai parlé ici vous avez raison effectivement il y a des facteurs sur la deuxième partie de votre question il y a deux facteurs confondants qui rendent ces choses-là beaucoup plus complexes effectivement le coût des matières premières est un élément qui est important quand on utilise plus d'algorithmes pour faire la prédiction on augmente les besoins en électricité pour faire fonctionner les ordinateurs déjà des évaluations qui se font sur quelle est la part de la production d'électricité qui est allouée au méthode de machine learning je connais pas ce chiffre-là mais ce sont des choses qui existent c'est un élément central qui peut être pris en compte ici on peut l'imbriquer dans ces modèles-là en considérant qu'on peut considérer que l'énergie c'est un facteur de production qui va être produit par des usines par des usines de production d'électricité donc on est plutôt du côté de travail de l'utilisation de ce facteur-là du côté capital on est plutôt dans l'utilisation de ce facteur-là comme un facteur lié au capital donc on peut arriver assez bien à concevoir ces choses-là maintenant s'il faut prendre en compte les considérations d'ordre d'environnemental effectivement l'impact sur la biodiversité etc c'est vrai que ce cadre d'analyse va être assez dépassé par ces questions-là donc il y a la recherche qui se fait là-dessus mais ça demande effectivement des modélisations un petit peu différentes pour ces questions-là et pour votre première question je ne me rappelle plus de la première question le temps voilà le facteur de temps non c'est ça effectivement donc là c'est un point qui est effectivement central c'est-à-dire que du coup on parlait tout à l'heure d'émergence de nouvelles tâches qui vont permettre effectivement d'avoir des perspectives plutôt heureuses en termes d'effets de l'intelligence artificielle il faut les penser ces nouvelles tâches parce que actuellement on n'a pas est-ce qu'on a la créativité suffisante pour penser ces nouvelles applications c'est peut-être oui est-ce qu'on concentre les efforts par exemple les efforts de recherche les efforts de formation vers des compétences qui vont permettre l'émergence de ce type d'activité ça c'est une question également à se poser en termes si on veut rebondir un peu sur les politiques publiques qui peuvent être mises en place donc soit effectivement aux entreprises soit aux travailleurs par exemple en modélisant, en modelant l'offre de formation de manière adéquate pour donner les bonnes incitations pour acquérir les compétences qui permettront de développer des activités qui vont permettre effectivement d'améliorer le niveau du travail et la dimension temps est très importante c'est à dire quel temps il va falloir attendre pour que ces ajustements là se mettent en place ça effectivement c'est une question qui est fascinante merci François je vous propose de continuer les échanges autour d'un café qui vous attend juste à la sortie de la salle avant de nous retrouver pour la table ronde à 11h30, merci le fait que 60% des start-ups de l'intelligence artificielle n'arriveraient pas à prouver qu'elles font véritablement de l'IA alors on peut discuter de cette étude parce qu'elles prenaient en compte que les systèmes de machine learning et pas forcément les systèmes de règles mais il y a quand même des faits qui sont remarquables Google par exemple a réduit de 40% sa facture de refroidissement des data centers en 2016 grâce à des algorithmes d'intelligence artificielle le diagnostic de la rétino-pathie diabétique est maintenant autorisé par des machines aux Etats-Unis toujours sous la supervision d'un docteur et récemment aussi j'ai entendu parler de cette start-up grenobloise néo-vision qui a réussi à réduire le nombre de kilomètres pas coudus par un transporteur routier de 10 000 kilomètres par semaine soit 10 000 euros d'économie par semaine c'est quand même des faits qui sont assez remarquables et on voit qu'il y a des applications dans tous les domaines de ces algorithmes Yassine Nefouli je crois que vous vouliez nous dire justement que l'IA est une technologie à usage général La majorité des économistes s'accordent aujourd'hui sur le fait que l'IA aura un impact profond sur l'économie Alors cet impact va dépendre certes des avancées techniques mais il dépendra également d'un certain nombre de politiques économiques qui est utile de répartir en deux catégories d'une part celles qui vont affecter le développement et la diffusion de l'intelligence artificielle comme la politique de soutien à l'innovation et la politique de protection des données personnelles d'autre part celles qui vont traiter les conséquences du recours à l'IA comme la politique de l'emploi la politique de lutte contre les inégalités et la politique de la concurrence par exemple Alors pour ma part je vais consacrer le temps qui m'est imparti à la politique de soutien à l'innovation en insistant sur deux caractéristiques importantes de l'intelligence artificielle qui nécessitent le recours à des mesures particulières que je vais essayer de développer Alors d'un point de vue économique l'effet le plus immédiat de l'intelligence artificielle elle permet de réduire le coût ou d'augmenter la qualité de certains biens et services Alors cet effet ne se limite pas à un nombre réduit d'applications mais touche un très grand nombre de secteurs divers et variés et c'est la raison pour laquelle les économistes qualifient l'IA de technologie à usage générale au même titre que l'électricité à la machine à vapeur ou le microprocesseur Alors la question naturelle à ce stade est de se dire est-ce que le statut de technologie à usage générale confère à l'IA fait de l'IA une technologie particulière aux types de soutien public dont pourrait bénéficier l'innovation dans ce domaine Alors comme vous vous en doutez la réponse est oui et la raison principale tient à l'existence d'un mécanisme économique particulier dans le cas de l'IA et des autres technologies à usage générale qui a tendance à générer du sous-investissement de la part des acteurs privés Alors pour comprendre le mécanisme en question considérons une start-up dans le domaine de la reconnaissance faciale et imaginons que cette start-up suite à un investissement R&D puisse apporter des améliorations à un algorithme de deep learning qui est également utilisé dans le domaine du diagnostic médical Ces améliorations vont certes bénéficier à l'entreprise qui a investi mais elles vont également bénéficier aux entreprises qui sont actives dans le secteur du diagnostic médical soit de manière directe parce que ces entreprises seront en mesure d'utiliser l'algorithme amélioré directement ou de manière indirecte et elles-mêmes apporter des améliorations aux algorithmes qu'elles utilisent en s'inspirant des améliorations apportées par la start-up en question Ici on a un exemple de ce que les économistes appellent une externalité positive à savoir une situation où l'action d'un agent économique profite à d'autres agents économiques L'exemple de la start-up que je viens de vous donner est en fait quelque chose de beaucoup plus général à savoir l'existence d'externalité positive intersectorielle lorsqu'il y a des investissements dans le domaine de l'IA l'idée ici étant que les investissements dans une application de l'intelligence artificielle peuvent permettre d'améliorer la technologie sous-jacente et peuvent ainsi profiter aux développeurs et aux utilisateurs de cette technologie dans le cadre d'autres applications. Jusqu'ici on ne voit pas de problème on se dit finalement les extraités positives c'est quand même une bonne nouvelle. Le problème c'est que ces externalités ne sont généralement pas intégrées dans le calcul économique d'un investisseur privé qui lorsqu'il fait face à une décision d'investissement ne tient pas compte de la valeur totale créée par son investissement mais uniquement de la part de cette valeur qu'il va s'approprier Encore est-ce que c'est un problème ? C'est un problème parce que du coup les investisseurs privés auront tendance à investir moins que ce qui serait sous établi du point de vue de la collectivité Alors ce problème Parce qu'ils ont peur de voir leur invention leur échapper Alors c'est pas tellement le fait qu'ils ont peur de voir leur invention leur échapper mais parce que ils ne sont capables de capturer qu'une partie de cette valeur Quand on regarde la valeur totale il y a une partie qui sera leur profit mais il y a une partie qui sera par exemple du profit d'autres entreprises et que du coup quand ils font leur analyse coût bénéfice ils ne tient compte que d'une partie des bénéfices pour la collectivité et ça leur donne une incitation donc à investir moins que ce qui serait souhaitable du point de vue de la société en quelque sorte prise dans son ensemble C'est une solution pour faire travailler ces entreprises entre elles Yassine ou Françoise Je ne sais pas si vous avez quelque chose à dire Aujourd'hui dans ce que vous dites vous parlez beaucoup des algorithmes Moi quand je parle d'IA je dis les algorithmes on s'en fiche c'est un peu radical Le vrai sujet en fait c'est des données Les algorithmes il y a des librairies par exemple Scikit-learn Parlinria qui est un vrai miracle un service public extraordinaire à toute la communauté des start-up et des grands groupes Donc le problème c'est les données La grosse difficulté pour les entreprises aujourd'hui les start-up en particulier quand elles veulent démarrer un business elles doivent pouvoir avoir accès à suffisamment de données C'est là que par exemple face à la Chine on est un petit peu démunis beaucoup plus important que les nôtres Donc on essaye en ce moment et le gouvernement a lancé une initiative en ce sens on essaye de mettre en place des régulations des appels d'offres qui inciteraient les entreprises à se regrouper et à partager Je prends la BNP sur ma gauche Je prends la Société Générale sur la droite et je leur dis camarades partagez vos données D'accord ? Tout le monde y gagne Est-ce qu'elle va accepter ? Tout le monde y gagne, c'est vrai que si je pouvais mettre en commun mutualiser comme on dit l'appel l'appel à projet du ministère s'appelle mutualisation de données si on arrivait à mutualiser les données effectivement tout le monde y gagnerait donc aujourd'hui on est dans une démarche dans lequel on essaye de mettre en place tout un tas d'actions et la communauté européenne est très active tout un tas d'actions pour par exemple dire il nous faut des écosystèmes verticaux il nous faut des solutions pour que ma banque A et ma banque B puissent partager Il y a des solutions aujourd'hui, ça s'appelle la cryptographie homomorphique Qu'est-ce que ça veut dire ? C'est une technique de cryptage c'est-à-dire d'encodage les données ce qui fait que vous allez pouvoir partager les données, construire des modèles dessus mais moi à banque B je ne pourrais pas lire tes données bancares mais je pourrais utiliser l'ensemble donc il y a tout un tas de solutions qui existent aujourd'hui trop lentes il y a des start-up qui travaillent là-dessus je pense qu'aujourd'hui le vrai sujet en IA c'est les données comment faisons-nous pour que les données deviennent aussi partagées que possible aussi exploitable que possible ça veut pas dire complètement en open ça veut dire qu'en fait il faut favoriser la standardisation il faut incentiver les entreprises les gens qui contribuent des données vous savez tous sans doute qu'il n'y a pas de copyright sur les données je produis des données ça me coûte la peau des fesses et je n'ai aucun si je les relâche donc ce sujet des données il est absolument critique le sujet des données critique notamment à cause d'une autre caractéristique de l'IA à savoir que l'IA est aujourd'hui en train de révolutionner même le processus de R&D c'est-à-dire qu'on passe d'une situation où l'IA est utilisée pour augmenter la productivité à processus de R&D donné à une situation où l'IA est en train de changer même la nature de la recherche alors la première application de l'utilisation de l'IA comme outil de recherche ou comme méthode d'invention c'est qu'il va y avoir un partage entre le travail et le capital qui va donc aller dans le sens d'une allocation de tâches qui sont répétitives mais qui jusqu'ici sont faites par des chercheurs ou par des ingénieurs comme la recherche d'information scientifique ou la classification d'information qui vont plutôt être faites par des algorithmes alors comme la la ressource rare dans le domaine de l'IA en grande partie les chercheurs et les ingénieurs on peut se dire que c'est plutôt une bonne nouvelle dans le sens où il va y avoir une barrière à l'entrée sur le marché de la R&D qui va être partiellement détruite et donc on se dit il va y avoir une démocratisation de la R&D avec plus de firmes qui sont actives alors évidemment ça c'est une vision très optimiste des choses et c'est une vision surtout qui est incomplète parce que on peut avoir l'émergence ou l'instauration d'une nouvelle barrière à l'entrée sur le marché de la R&D si l'accès aux données d'apprentissage des algorithmes est limité alors pourquoi est-ce que l'accès aux données d'apprentissage des algorithmes serait limité il pourrait être limité pour deux raisons d'abord vous pouvez avoir un acteur dominant qui est tenté de restreindre l'accès à ces données pour assouir cette dominance et la deuxième raison c'est que vous pouvez avoir des entreprises qui en fait ont envie de s'engager dans des transferts de données dans des échanges de données on n'arrive pas à le faire parce qu'il n'y a pas de marché organisé qui permettent de faire de manière efficace des transactions de données et ça rejoint donc l'idée par exemple d'avoir des plateformes d'échange mais on peut aller encore plus loin que ça parce que quand on parle d'échange de données on a l'idée que les deux entreprises échangent leurs données mais on peut imaginer une entreprise qui vend ces données à une autre entreprise sans qu'il y ait de contreparties en termes de données sur la recherche il y a quand même en ce moment un mouvement absolument massif contre entre guillemets toutes les revues scientifiques qui moi aujourd'hui je dois payer pour acheter mes articles je trouve ça complètement délirant c'est n'importe quoi mais oui j'essaye d'avoir accès à un article que j'ai publié n'importe quoi en 1994 je dois payer donc aujourd'hui il y a tout un mouvement de la communauté scientifique et je dis bravo c'est un mouvement qui dit en fait on arrête on refuse de payer Springer on refuse de payer tous ces gens-là qui en fait gagnent beaucoup d'argent sur le fait que nous écrivons des articles nous les mettons en forme, nous les préparons ils n'ont plus qu'à appuyer sur un bouton pour imprimer pour que toutes les données se regroupent et qu'on puisse les exploiter comme vous dites c'est une façon parmi d'autres de permettre l'émergence d'institution qui permettrait de promouvoir l'échange et le transfert de données d'apprentissage mais la question se pose aussi pour d'autres types de données et en parlant d'institution j'aimerais me tourner vers l'autorité de la concurrence pour savoir justement comment est-ce qu'on peut encourager ce marché comment faire en sorte que les entreprises collaborent et n'entrent pas dans un jeu de concurrence peut-être même des lois ça marche non ça marche oui c'est bon alors le point sur le partage de données c'est toutes les données sont pas bonnes à être partagées du point de vue de la concurrence en tout cas c'est-à-dire que si les entreprises commencent à partager des prix très très régulièrement voire en temps réel je vais faire tel prix à tel client c'est vrai que du point de vue de la concurrence ça peut avoir des effets pour le moins si je reviens à la question des algorithmes avant de parler finalement des effets des algorithmes sur la concurrence je vais beaucoup parler des risques pour la concurrence l'autorité de la concurrence sans devoir c'est d'être vigilant et donc de regarder ce qui potentiellement ne va pas bon faut pas oublier que les algorithmes ça apporte énormément de bienfaits y compris pour la concurrence ça permet aux consommateurs de comparer très facilement des prix par exemple ça permet aux consommateurs de voir arriver vers lui des informations sur des produits qu'il intéresse plutôt que sur des produits qu'il ne l'intéresse pas ça permet également à une économie d'être plus productive et ça le consommateur en bénéficie également c'est-à-dire que n'oublions pas que les algorithmes y sont fréquemment sur des marchés qui sont tellement complexes que je vais avoir besoin d'un outil extrêmement rapide pour par exemple fixer des dizaines de milliers de prix chaque jour et s'il n'y avait pas ces algorithmes les choses seraient beaucoup plus compliquées par exemple vous auriez des produits qui seraient vendus à un prix trop élevé qui ne trouverait pas preneur c'est pas bon pour personne et si je peux me permettre déjà en 2015 plus d'un tiers des vendeurs sur Amazon utiliser des algorithmes pour le pricing exactement donc toujours bien gardé à l'esprit cette notion là les algorithmes apportent beaucoup et donc si on identifie un risque il faut que le risque soit suffisamment avéré et qu'on veut le corriger il faut que la correction soit la moins coûteuse possible pour tous les gains d'efficience que l'on a pu identifier maintenant j'aborde la face un petit peu plus plus obscure des algorithmes et un thème en matière de concurrence et algorithmes qui a beaucoup intéressé les juristes et les économistes c'est de savoir est-ce que les algorithmes favorisent la collusion l'entente entre des concurrents si l'on simplifie il y a on peut essayer de distinguer 3 scénarios 3 configurations qui peuvent se produire la première configuration est peut-être la plus simple et elle s'est réellement produite c'est le cas d'entreprise qui se réunissent dans un restaurant ou ailleurs qui décident d'une entente mais ils sont sur un marché tellement compliqué avec tellement de prix à fixer et peut-être tellement difficile à surveiller qu'ils vont se dire cet entente on ne va pas la faire n'importe comment on va la faire avec un algorithme et cet algorithme on va le concevoir tous ensemble et on va l'appliquer tous ensemble et c'est une entente qui a réellement eu lieu sur la vente de posters sur Amazon donc c'est un cas assez connu parce que pour le moment ça reste des seuls où on a ce type de configuration c'est extrêmement simple pourquoi parce qu'à la base on a quand même une réunion entre des entreprises concurrentes on a un accord de volonté donc pas beaucoup de difficultés en quelque sorte l'entente sera peut-être plus efficace il faudra penser à adopter un niveau de sanction suffisamment dissuasif pour ce genre de comportement mais voilà on reste sur quelque chose assez classique deuxième configuration c'est lorsque des entreprises qui sont concurrentes se disent on a la fixé des prix sur ce marché c'est très compliqué je vais faire appel il peut se trouver par hasard que les entreprises face à pelles des entreprises concurrentes face à pelles au même concepteur d'algorithme et que ce concepteur d'algorithme se rend compte que tiens dans mes clients j'ai des entreprises qui sont concurrentes et l'objectif du concepteur d'algorithme c'est de faire en sorte qu'il soit constamment renouvelé comme prestataire de l'algorithme et donc de montrer que mon algorithme est très performant regarder tous les bénéfices que vous faites et donc potentiellement il peut avoir intérêt alors à organiser une forme d'entente entre les différents utilisateurs de l'algorithme alors là aussi on a des situations un petit peu similaires qui existent même sans algorithme c'est des ententes qu'on a appelées queurs et rayons c'est un peu comme une route vélo vous avez le centre de la route vélo qui organise une entente entre les différents rayons de la route c'est le point coordinateur et si on arrive à montrer qu'effectivement à partir de pièces factuelles qu'effectivement il y a bien eu une coordination c'est-à-dire que le concurrent a pris cet algorithme parce qu'il savait qu'il était également utilisé par un autre concurrent c'est vrai qu'on arrive à retracer un accord de vente troisième question peut-être la plus étudiée par les économistes des concurrents utilisent chacun des algorithmes peut-être différent peut-être relativement similaire et ces algorithmes à force de fixer des prix et d'observer les réactions sur le marché ils apprennent ils apprennent ils s'améliorent et potentiellement le risque c'est que l'on arrive alors même que ces concurrents potentiellement ne s'entendent pas ne se réunissent pas le risque qui est évoqué c'est que finalement nous allons se rendre compte qu'à un moment la concurrence ça coûte plus que ça ne rapporte d'accord pour simplifier en quoi parce que c'est quelque chose qui peut exister en Australie une étude tout récente à montrer par exemple que apparemment les principaux revendeurs de carburant dans les stations d'essence étaient parvenus à s'entendre tacitement, à adapter leurs prix et arriver à des niveaux de surprise mais sans qui est de réunion ça arrive parfois sur des marchés sans algorithmes d'accord mais ce sont en général des marchés très très simples un seul produit très homogène un marché très transparent je vois immédiatement ce que fait la station de carburant concurrent d'accord très peu d'acteurs sur le marché 4, 5 stations de carburant est-ce que l'algorithme va augmenter ce risque d'entente le premier effet possible c'est que quand vous avez des algorithmes en général petit teint votre marché devient très transparent comme vous le disiez 25% des vendeurs sur Amazon par exemple utilisent les algorithmes qui suivent les prix des concurrents et qu'ils modifient le prix instantanément donc le marché devient très transparent et en plus les entreprises réagissent très très vite donc dès qu'elles voient que quelqu'un ne respecterait pas l'accord qu'on ne fait pas concurrence on fait des prix plutôt élevés et quand qu'une entreprise ne respecterait pas cet accord paf elle baisse le prix et comme ça va très très vite l'intérêt de tricher et de faire une petite opération de promo pas très intéressant donc ça c'est le premier effet attention je vous l'ai dit qu'on est sur des marchés d'algorithmes en général il y a beaucoup d'entreprises d'accord, quand vous avez plus d'entreprises en général c'est plutôt bon pour la concurrence il y a un deuxième élément quand j'étudie cet effet de surveillance je pars du principe que les entreprises sont déjà parvenues à comprendre qu'attention il vaut mieux ne pas se faire concurrence d'accord en grego sorte ma collusion a déjà émergé je regarde si elle est stable je regarde si elle va perdurer mais avant ça on met un petit peu la charrue avant les bœufs il faut d'abord regarder est-ce que la collusion va émerger et c'est là que les difficultés apparaissent pour faire un parallèle avec la vidéo que vous aviez présentée tout à l'heure où l'on voyait toutes ces voitures qui arrivent finalement à ne jamais se rentrer l'une dans l'autre et bien là finalement on a des conducteurs qui potentiellement sont un peu psychopathes c'est-à-dire que dans l'exemple que vous avez montré aucune voiture n'a intérêt à rentrer dans une autre avec les entreprises de temps à haute il y a une entreprise qui va dire ça pourrait être pas mal si là je fais un prix bas et si je rentre dans le véhicule du concurrent donc les choses peuvent devenir plus compliquées l'avantage que l'on a peut-être par rapport à votre vidéo c'est qu'en général il peut y avoir moins de voitures et ce sont fréquemment les mêmes voitures que l'on rencontre sans arri donc ça peut être intéressant alors les économistes se sont beaucoup intéressés à cette question pour voir et donc ils mettent des algorithmes en quelle sorte en concurrence entre eux ils voient ce qui se passe et c'est vrai voilà relativement fréquemment on va voir que les algorithmes arrivent effectivement à trouver un équilibre supraconcurenciel il peut être plus ou moins supraconcurenciel mais il peut être je ne suis pas économiste mais est-ce que c'est ce qu'on appelle un cartel un cartel d'algorithme fréquemment quand on parle de cartel on va parler de quelque chose de plus sophistiqué d'abord il faut un accord de volonté c'est plutôt le cadre où on a des entreprises qui se rencontrent et puis le cartel en général on l'associe à des ententes très sophistiquées avec des règles relativement précises toi ta part de marché reste à 30% toi elle reste à 25% la tienne sera de 40% là on a quelque chose qui est beaucoup plus souple d'accord alors effectivement ça peut arriver mais on s'aperçoit que la plupart sinon la totalité des expériences qui ont été réalisées prennent tout de même des contextes relativement simples peu d'entreprises des produits relativement peu différenciés donc on reste dans des contextes relativement simples premier élément avant d'arriver à cet équilibre collusif l'algorithme doit apprendre et ça c'est une période extrêmement coûteuse parce qu'il va faire différentes expériences et potentiellement il va se planter c'est à dire qu'il va fixer un prix élevé et personne ne le suit ça va être très coûte non seulement à court terme mais même à long terme c'est à dire que pour les consommateurs ils vont dire qu'est-ce que c'est que cette entreprise qui fixe des prix très très élevés mais les entreprises parfois elles hésitent à déléguer à long terme les stratégies de prix un algorithme et elles vont adapter les algorithmes mais si les entreprises adaptent régulièrement les entreprises vont avoir de plus en plus de mal les algorithmes même vont avoir de plus en plus de mal à trouver la martingale puisque l'algorithme du concurrent change très souvent et puis dernier élément quand on dit les algorithmes vont conduire et il ne suit pas concurrentiel c'est par rapport à quelle situation en général c'est par rapport à une situation presque de concurrence pure et parfaite qui en réalité existe très très rarement donc la question qu'on s'intéresse est-ce que les algorithmes favorisent la collision c'est vraiment est-ce que les algorithmes favorisent la collision par rapport à ceux que j'aurai non pas avec un équilibre de nage instantané mais par rapport à ceux que j'aurai avec 4-5 individus qui se réunissent et qui eux aussi vont voir ce que font l'autre individu et peuvent s'adapter et ça c'est une question très importante évidemment qui continue encore d'être étudiée parce que le fait que les algorithmes changent c'est embêtant pour les concurrents même pour les chercheurs également comme les algorithmes changent sans arrêt les performances potentiellement peuvent s'améliorer donc c'est un point de vigilance qui est actuellement très étudié par les économistes et sur lequel on a des débuts de réponse mais qui correspond à certains contextes particuliers oui bien sûr en fait dans ce que vous dites ça rejoint un certain nombre de préoccupations je travaille dans dans le groupe d'experts de la commission européenne sur l'IA et une des questions qu'on se pose c'est de dire est-ce que nous devrions pas demander de la même façon qu'une entreprise doit déposer ses comptes et avoir des commissaires au compte qui valident les comptes qui valident la qualité du reporting en quelque sorte est-ce que nous devrions pas mettre en place un nouveau métier qui serait en fait l'auditabilité des solutions IA on va peut-être revenir après si ça t'embête pas parce que j'aimerais entendre Mathieu à gogler un petit peu qu'on n'a pas beaucoup entendu sur cette idée de libre concurrence l'élément important c'est quand même d'avoir un accès non fossé un accès relativement égal même si cette égalité n'existe pas au marché il y a une mesure qui donne aussi un accès égal à internet qui est la neutralité d'une nette et vous me disiez que les algorithmes d'optimisation aujourd'hui permettent d'améliorer le réseau mais il va falloir donner un accès inégal à ce réseau est-ce que vous pouvez nous en parler un petit peu ? oui je vais pour vous présenter ce que on vous entend c'est bon orange en matière d'intelligence artificielle dans trois domaines le premier c'est sur les processus et donc l'optimisation des réseaux en fait partie le deuxième c'est sur le CRM customer relationship donc avec Djingo dans sa version chatbot quand vous vous abonnez par exemple à Orangebank et puis dans le développement de nouveaux services dont on parlait tout à l'heure par exemple sur des produits de cyber sécurité pour les entreprises pour reconnaître des fraudes ou des comportements des biens dans le cadre de ce premier de ce premier bloc sur l'optimisation des réseaux c'est vrai qu'aujourd'hui on a un certain travail théorique qui sont menés au sein des orange d'abs et qui nous conduisent en fait à optimiser, à trouver des solutions optimales pour gérer la congestion des réseaux notamment en priorisant les flux enfin voilà puisque vous avez quand même des réseaux dans lesquels la croissance continue à être exponentielle la vidéo délinéarisée ou avec des contenus particuliers croient toujours de manière exponentielle et où les attentes de nos clients sont sur des interruptions enfin aucune interruptions en matière de visionnage de vidéos donc c'est vrai qu'on a été amenés récemment à travailler sur des réseaux, ce qu'on appelle des self-organised networks dans lequel la fonction d'optimisation vise bien justement à éviter toute congestion pour améliorer la qualité d'expérience des consommateurs et aujourd'hui un des enjeux qu'on a sur ce type d'algorithme c'est la transparence, l'explicabilité donc justement pour justifier que cette optimisation est compatible avec un certain nombre de réglementations existantes et donc notamment la règle de la netneutralité qui vise à ne pas prioriser certains contenus en fonction de leur contenu éditeur ça veut dire que vous pouvez donner plus de bonnes passantes par exemple à Netflix le dimanche soir parce qu'il y a plus de gens qui regardent ça et finalement Personne est censé s'en rendre compte parce que je ne sais pas, personne va sur le site des échos le dimanche soir donc on leur donne moins de bonnes passantes le dimanche soir en plus tout le monde attend la publication en ligne des échos donc non mais c'est vrai ça peut conduire à faire ce type de priorisation on peut imaginer que ça puisse conduire à faire ça sachant que par ailleurs la fonction d'optimisation c'est bien que tout le monde bénéficie d'une qualité de service optimal et donc si on ne faisait pas ça la contraposé potentiellement serait il y a de la congestion sur le réseau et donc le dimanche soir on ne pourrait pas accéder aux échos et puis bien sûr on ne pourrait pas regarder Netflix sous le match de foot à la télévision donc on voit qu'il y a un certain nombre de réglementations je vais appeler verticales en fait qui sont touchées par l'intelligence artificielle ce n'est pas forcément que pour les télécom on l'a vu pour le secteur automobile transport voilà et donc modestement chez Orange on a l'impression qu'il y a un certain nombre de sujets qui peuvent être traités de manière transverse, horizontaux, en matière d'éthique parce que c'est la première chose par exemple à traiter pour faire en sorte que l'intelligence artificielle soit acceptée par les consommateurs qui a pu se développer et puis vraisemblablement il y aura secteur par secteur sur la concurrence sur les règles en matière de télécom des ajustements à faire mais qui sont aujourd'hui dans le cadre de l'IA mais qu'on a vu dans le cadre du numénaïque est-ce que les plateformes doivent être traités différemment par exemple en matière de concurrence et donc ça ça va nécessiter en matière de politique publique un certain nombre d'efforts pour vérifier que toutes les réglementations toutes les lois sont restes pertinentes une fois que l'IA est arrivée Alors vérifier les algorithmes c'est très difficile parce que parfois on ne sait même pas comment ils marchent notamment les algorithmes qui prennent en compte énormément de paramètres dont les raisons neurones comment on peut comment on peut aller sur ce terrain-là tu étais en train d'évoquer le sujet justement ma question en fait elle était un peu plus large que ça vous avez parlé de l'explicabilité je crois que quand on parle de ce sujet-là on mélange un peu plein de thèmes l'explicabilité elle est nécessaire dans certains cas mais pas tout le temps loin de là moi savoir que Orange puisse m'expliquer comment son algorithme d'optimisation des paquets fonctionnent c'est pas mon sujet si il y a un problème grave alors je veux pouvoir des experts qui vont être nommés dans cette fonction-là des contrôleurs des comptes si on veut que ces gens-là puissent oditer la solution rentrer dedans rentrer dans l'algo ça devrait pas poser énormément de problèmes mais dans les données qui ont servi à entraîner l'algorithme la façon dont ça a été implanté ça demande tout simplement des nouveaux métiers des gens qui n'existent pas aujourd'hui je me retourne vers vous de quelque part est-ce que vous êtes d'accord pour qu'on audite votre algorithme d'optimisation est-ce que vous pensez que c'est nécessaire pour restaurer la concurrence je vais peut-être déjà juste commencer sur les données nous, il se trouve qu'on n'était pas une entreprise fondée sur les données historiques notre cœur de métier c'est l'investissement dans les réseaux et c'est vrai qu'on n'a pas sculé l'entreprise à l'ère de la donnée avec le GDPR parce que les données en plus qu'on transporte elles sont particulièrement sensibles et donc il se trouve que GDPR plus les sujets de respect de la vie privée ce qu'on appelle les privacy directives privacy regulations qui sont en dispute au niveau européen font qu'aujourd'hui se pose la question pour un opérateur comme orange de quels sont les données si bien c'est vrai qu'il y a un certain nombre de choses qu'on peut faire les données anonymisées complètement elles ont forcément une valeur beaucoup moins importante est-ce qu'on peut vraiment anonymiser les données aussi parce que si on fait des croisements parfois des gens qui toutes les experts sont tous d'accord on ne peut pas anonymiser vraiment et puis il y a les données non non anonymisées ce qui sont les seuls vraisemblablement qui sont pleinement riches ça souleve un certain nombre de problèmes les quatre opérateurs américains viennent d'être attaqué par des associations de consommateurs parce qu'ils avaient utilisé les données personnelles de leurs clients sans en obtenir le consentement préalable et donc j'allais dire en matière d'IA ou en matière de données personnelles aujourd'hui on est au début et vraisemblablement la jurisprudence va devoir passer par là pour savoir ce que c'est quelque chose de l'intérêt légitime par exemple le consentement librement consent en matière d'utilisation des données vraisemblablement ce serait impréalable avant de voir l'intelligence artificielle pleinement s'exprimer dans des entreprises comme les nôtres Oudite c'est bien tu fais la ménagration la place du coup oui l'audite est ce que est ce qu'on peut envisager ? dans l'absolu si vous voulez dans l'absolu plus on a moyen de être informé mieux c'est-à-dire que les entreprises et l'obligation de conserver par exemple leurs algorithmes très longtemps pour que si à un moment on repère un souci on se dise bah écoutez j'aimerais bien voir vos algorithmes d'il y a 3 ans et voir comment ils fonctionnent c'est assez peu coûteux potentiellement pour tout le monde la difficulté arrive et c'est peut-être pour cela que vous hauchez la tête la difficulté arrive c'est quand une autorité de régulation a des moyens limités pour ensuite analyser ces algorithmes mais qu'en quelque sens elle va devoir hiérarchiser les risques concurrentiels qu'elle veut privilégier finalement si je recrute quelqu'un qui est capable d'auditer des algorithmes ça veut dire que potentiellement ça va me faire un enquêteur sur des secteurs traditionnels que je ne pourrai peut-être pas recruter d'où l'importance d'évaluer le risque associé à ces algorithmes en termes de risque de collusion c'est le premier point le deuxième point c'est ce que vous disiez tout à l'heure c'est le fait que certains algorithmes les algorithmes qu'on appelle boîte noire selon certaines terminologies bah finalement il n'y aura pas particulièrement d'instruction qui vont dire le concepteur de l'algorithme a fait en sorte qu'il y ait une stratégie d'invitation à la collusion dans certains autres algorithmes ça peut exister mais pas dans tous ce qui est certain je pense c'est qu'on a d'un côté un secteur traditionnel sans algorithmes quasiment sans algorithmes qui existe toujours vis-à-vis desquels il y a toujours des difficultés qui peuvent se prouver il y a toujours une vigilance et on a en parallèle de nouveaux secteurs d'intervention qui apparaissent qui sont complexes et donc il va falloir concilier la vigilance sur ces deux secteurs et c'est vrai qu'il y a une question un petit peu à un moment donné d'autant plus que l'on le sait si on cherche à recruter les auditeurs d'algorithmes ils sont pas faciles à trouver et quand vous en trouvez ils sont pas donnés donc il faut arriver tout de même à les capter parce que vous êtes en concurrence avec des entreprises privées et donc c'est loin d'être évident et Yassine qu'est-ce que vous en pensez ? la question de l'auditabilité des algorithmes et de l'intérêt de les audités est liée à la question de la responsabilité notamment en droit de la concurrence ou une entreprise peut très bien vous dire moi j'ai acheté tel algorithme je ne sais pas comment fonctionne cet algorithme il me rapporte beaucoup d'argent je suis content mais je n'essaye pas de comprendre le fonctionnement de cet algorithme et surtout je ne veux pas savoir si cet algorithme s'engage dans des pratiques collusives alors c'est des choses maintenant qui sont discutées dans la littérature aussi bien juridique économique de comprendre qu'est-ce qu'il faudrait faire justement pour responsabiliser les utilisateurs de ces algorithmes mais il commence à y avoir des recommandations notamment de Joe Harrington qui consiste à dire imaginez que vous soyez un patron dans une entreprise vous avez des employés ces employés peuvent s'engager dans des stratégies collusives vous êtes responsable de leur comportement et bien de la même manière vous êtes responsable du comportement d'un algorithme et de la même manière que vous pouvez faire de la compliance au sein de votre entreprise vous pouvez dire aux gens attention la collusion c'est pas bien vous pouvez faire la même chose vous pouvez ajouter des instructions qui empêchent votre algorithme de s'engager dans des stratégies collusives donc est-ce que cette question de responsabilité est beaucoup plus générale que ça parce qu'elle se pose notamment par exemple pour toutes les questions qui concernent la discrimination vous avez un algorithme cet algorithme s'engage dans des pratiques discriminators est-ce que vous êtes responsable et dans quelle mesure vous l'êtes comment auditer des algorithmes de savoir si délivre des prédictions qui sont biaisées et là pour le coup il y a de la recherche qui est faite sur le plan technique et qui permet aujourd'hui d'avoir une idée du biais ou de mesurer entre des mesures du biais qui ont été développées aux Etats-Unis qui maintenant arrivent en Europe pour dire que concernant ce biais non désiré on a une façon de dire si cet algorithme effectivement est biaisé ou ne l'est pas donc il y a un moyen de tester l'algorithme de certaine manière avant de commencer à utiliser pour la question de la responsabilité qui est responsable dans ce cas le producteur de la donnée, le créateur de l'algorithme celui qui a fait l'entraînement le vendeur qui est responsable dans ce cas-là ça c'est une question qui a l'air d'être très juridique mais qui est également une question économique parce que le partage des responsabilités va affecter l'économique à protéger leurs consommateurs ou à se protéger contre les risques de cybersécurité si on prend par exemple pour le cas le plus simple est celui des voitures autonomes s'il y a un accident qui est responsable mais ça va bien au-delà, encore une fois dans le cadre des voitures autonomes si vous pensez aux questions de cybersécurité est-ce que c'est le constructeur automobile ou est-ce que c'est le fournisseur de services IA qui doit être responsable la réponse des économistes est la suivante il va falloir allouer les responsabilités de manière à ce que les incitations des agents économiques soient les plus alignées avec les incitations de la société si on pense que allouer la responsabilité de cette manière fera qu'Infiné on sera mieux protégé collectivement contre les risques de cybersécurité c'est comme ça qu'il va falloir le faire ce n'est pas une question philosophique d'une certaine manière de responsabilité mais plus une question beaucoup plus pragmatique et utilitariste avec laquelle on peut être d'accord ou pas mais c'est la façon de voir les choses à part des économistes est-ce que chez Orange j'aimerais savoir vous anticiper ces questions et si oui comment vous les anticiper aujourd'hui on a effectivement 3 3 attentions particulières mais officielle en oeuvre aujourd'hui on a à peu près 300 projets en développement fondamentalement les 3 sujets qui me viennent en tête c'est le respect des droits fondamentaux des utilisateurs il y a une charte éthique de l'organisation artificielle chez Orange c'est quelque chose qui est en train d'être réfléchi et c'est vrai que pour revenir à ce que disait François c'est-à-dire on réfléchit à la mise en oeuvre des guidelines éthiques qui ont été discutées au niveau européen donc elles sont elles peuvent apparaître à un premier abord particulièrement lourd à mettre en oeuvre et donc on est dans une logique d'apprentissage comme pour les algorithmes on incite nos chefs de projet à travailler avec ces guidelines un retour d'expérience sur ce qui est possible pas possible opérationnel à la commission c'est ce qu'on attend on attend que vous les simplifiez à mort c'est aujourd'hui c'est une autre manière de travailler et puis on réfléchit à d'autres organes pour continuer à surveiller comment c'est mis en oeuvre en interne donc je vous ai parlé à respect des droits fondamentaux qu'elles se font sur des données néambilisées on l'a parlé tout à l'heure est-ce que auditabilité des algorithmes auditabilité des données qui ont servi tout à l'heure on parlait de radiologie j'ai en tête des exemples dans les données qui avaient servi à entraîner des algorithmes des diagnostics médicaux des données utilisées par les hôpitaux pour facturation à la surveillance maladie américaine qui n'étaient pas les données à noter par les radiologues américains donc il y avait des biais de sélection c'est vraiment l'intelligence artificielle suffisamment transparente pour qu'elle soit acceptée socialement on est pour range c'est pas une start-up on vend des produits de manière très large et on a une vision inclusive de nos services digitaux et donc c'est bien ça qui doit soutenir notre stratégie pour faire en sorte que l'ensemble de nos clients bénéficient Etienne vous voulez réagir peut-être oui peut-être simplement pour dire qu'avant peut-être même la question de savoir qui est responsable la question va également être dans certaines configurations est-ce qu'il y a un coupable c'est-à-dire que lorsque vous avez des entreprises qui finalement s'adaptent de manière spontanée au comportement de leur concurrence sans aucune communication d'aucune sorte que ce soit c'est vrai que d'un point industriellement juridique c'est très difficile d'aller chercher ou de qualifier ce comportement comme étant une forme d'entente alors comme je le disais tout à l'heure pour certains économistes ce type de comportement est complètement irréaliste en particulier sur les secteurs aussi complexes que ceux sur lesquels sont utilisés les algorithmes encore une fois on utilise je reviens au début de mon intervention on utilise les algorithmes quand j'ai énormément de produits qui vont nécessiter des changements de prix très importants et dans ce contexte là avec potentiellement beaucoup d'entreprises il faut pas oublier que le numérique a considèrement baissé une grandeur je ne sais pas un mot un livre par exemple et donc la collusion risque de devenir très compliqué donc pour certains cette configuration là où il n'y aurait rien aucun signe d'une invitation à une entente est impossible et dès lors que l'on sort d'une collusion presque extrêmement spontanée et qu'on commence à avoir quelques éléments d'une invitation à s'entendre des signaux qui vont être lancés et le droit de la concurrence devient beaucoup plus souple et si l'on sort du domaine des algorithmes et qu'on regarde simplement sur certains secteurs traditionnels comment sont considérés les annonces de prix par des entreprises concurrentes c'est à dire que des entreprises qui plusieurs mois à l'avance disent dans 6 mois je pratiquais tel prix il n'y a aucune demande pour le moment mais l'entreprise annonce déjà dans 6 mois je vais annoncer tel prix il y a une certaine suspicion pourquoi annoncer un prix ce n'est peut-être pour indiquer aux concurrents je tente quelque chose et je vois comment vous réagissez si les autres entreprises annoncent également un prix pendant 6 mois on se rend compte que j'ai été suivi je fixe le prix pendant 6 mois et là on commence à rentrer dans des comportements qui sont forcément recevoir le qualificatif de cartel vont être considérés comme suspicious par des autorités de concurrence c'est arrivé dans le cas de compagnie maritime qui vont dire vous arrêtez ces annonces ok est-ce que quelqu'un voulait réagir peut-être pour le mot de la fin parce qu'on va passer aux questions du public après peut-être une conclusion Yacine je ne sais pas pas vraiment de conclusion mais toujours sur l'utilisation anti-concurrentiel des algorithmes il y a un autre risque anti-concurrentiel potentiel c'est la prédation ici on a parlé d'une situation où les algorithmes fixeraient des prix qui sont trop élevés pour pouvoir réaliser des profits plus élevés mais on peut également imaginer que des acteurs dans certains secteurs qui sont des acteurs dominants puissent utiliser des algorithmes pour empêcher l'entrée l'idée ici c'est que chaque fois qu'il y aurait une entrée sur le marché l'algorithme de tarification fixera un prix qui serait faible ce qui entraînerait la sortie du marché du nouvel entrant ou bloquerait carrément l'entrée donc c'est un sujet qui est passionnant sur lequel il commence à y avoir il y a des travaux théoriques il y a notamment peut-être même le travail de référence dans le domaine qui a un travail de chercheurs à Bollone mais qui sont également des chercheurs associés à TSE et dont le travail est financé par le je fais un peu de pub et dont le travail est financé par le centre digital mais on compte par exemple aussi maintenant acheter des données concernant des prix qui ont été fixés dans des pompes à essence parce qu'on commence à avoir l'utilisation d'algorithmes également par les pompes à essence on veut pouvoir voir empiriquement si oui ou non on voit bien une différence entre les prix des pompes à essence qui utilisent des algorithmes et celles qui n'utilisent pas ces algorithmes merci, merci beaucoup est-ce qu'il y a des questions dans la salle ici, oui monsieur merci beaucoup Yassine parce que c'est exactement l'endroit où je voulais arriver mon intervention je suis Pierrick Le Man j'ai travaillé chez Accord en charge de stratégie digitale le coeur de mon intervention est par rapport justement à ces problématiques de monopole de domination absolue un point d'entrée facile c'est, vous avez du voir comme moi 129 milliards, ça c'est le marché US online donc 80% et sur deux acteurs ça veut dire que à l'heure actuelle on fait des algorithmes compliqués mais à la fin du jour le point important c'est d'être capable de construire une barrière d'entrée dans la relation avec le consommateur et quelle est, comment est structurée cette barrière d'entrée bien sûr elle est très sophistiquée mais à la fin du jour c'est la commission qui va l'emporter pourquoi par exemple sur l'hôtel on va dire des trois canards de l'image pourquoi c'est booking qui arrive en premier et pas hôtel les trois canards eh bien parce que booking a payé une commission plus forte à Google et pourquoi juste à côté de Google ça va être aussi un autre site de comparaison de prix qui est fournie par Google eh bien parce que la commission payée par l'hôtel pourrait être dans ce site de comparaison et plus élevée donc c'est 129 milliards de Facebook enfin 80% de ces 129 milliards sur le marché US online de Facebook et Google c'est ce qu'on appelle de la publicité en ligne c'est pas un marché compliqué et alors les questions qui sont posées sous jacent il y en a deux à mon sens parce que la difficulté que semblent rencontrer les autorités de la concurrence c'est à définir le terrain de jeu c'est étrange mais jamais ces acteurs sont considérés comme vraiment dominants parce qu'ils vont être dans telle petite partie dans telle petite partie alors qu'à la fin du jour sur le secteur hôtelier de mémoire c'est 20 milliards c'est plus de 20 milliards de dollars que vers les hôtels pour cette publicité auparavant on n'en versait rien et cette pression augmente en fait vous dans ce monde des algorithmes pour bien identifier des champs concurrentiels et être capable de dire il y a un but de position dominante deuxième réflexion chose à dire est terriblement française en fait quand on y réfléchit une partie de ces activités d'algorithmes reprennent dans le monde digital des activités courantes des activités de la vie de tous les jours dans un certain nombre on pourrait dire est éranger dans le secteur public de bien public je vous donne un exemple très simple autrefois dans un monde que vous avez que certains dinosaures ici ont du connaître il existait un annuaire téléphonique en page blanche chercher c'est un algorithme assez simple de ranger les gens en alphabetique donc vous cherchez une donnée et vous la trouviez gratuitement vous viez un peu plus de renseignements vous alliez sur les pages jaunes à leur rituel Google ce n'est que des pages jaunes et parfois c'est plusieurs pages jaunes avant d'avoir une information simple donc la question qui est posée c'est de se dire comment peut-on redéfinir dans cet environnement digital un endroit où il y a quand même des données dites publics gratuit aussi bien pour ceux qui enfin les deux côtés de la plateforme si bien le consommateur et l'acteur pour qu'en fait il y ait une économie de bien public qui se mette en place et que tout ne soit pas monétisé oui on commence par la deuxième question en gros la question du secteur public en fait je pense que c'est un c'est un point vraiment important donc j'élargis un petit peu le sujet je m'appuie un peu sur cette revue des échos où en fait on parle de l'Europe ici au niveau de l'Europe on se rend compte que dans toutes nos sociétés il y a une caractéristique qui est la force du secteur public que nous avons la notion folle pour les Chinois que le secteur public est là pour servir les citoyens pour apporter des services et donc une des idées qu'on est en train d'essayer de pousser dans la commission européenne pour l'IA c'est de dire nous devons pousser la production de données du secteur public qui serait devenue en quelque sorte un bien commun ça veut pas dire que tout le monde va aspirer ça je pense à Google en particulier mais c'est en fait l'idée que si on standardise nos données publiques si on met les moyens pour pouvoir construire des services dans le secteur public à partir de ces données à ce moment là tous nos citoyens vont gagner il y a en France quelque chose qu'ils appellent la d'Insic qui est en fait un organisme qui a la direction informatique des systèmes d'information qui étaient dirigés à l'époque par Henri Verdier et en fait leur idée ça a été de dire on va créer des start-up d'état donc des petites équipes donc en mode vraiment start-up et on va travailler sur des projets de services publics nouveaux, aller sur le site de la d'Insic et regarder ils ont en 4-5 ans sorti 60 projets qui en fait sont exactement dans cet ordre là donc je pense que le secteur public c'est quelque chose qui nous distingue tous nos autres européens la valeur du service public alors vous parliez de la nuire blanc bah oui dommage maintenant si vous voulez bon le téléphone fixe je suis désolé Monsieur Range mais il y en a quand même beaucoup moins comment vous faites pour trouver le numéro mobile ça n'existe plus il y a des fonctions entières qui ont disparu donc le secteur public en fait il a aussi peut-être pour mission de mettre en place des services que tous les citoyens puissent utiliser peut-être que celui-là en est un mais manifestement à l'époque la nuire blanc fonctionnait parce que tout le monde avait le numéro chez Orange et le fait que la concurrence quelque part a explosé ça bah maintenant on a tous des mobiles dans des endroits différents il ne faut pas un annuaire mobile parce que tu me disais en préparant cette réunion c'est que finalement la bataille du bitoussi elle est gagnée par les américains presque la bataille du bitoussi voilà il y a encore un peu de marge mais toi tu plaides pour le bitoussi ce qu'on dit c'est qu'en effet les exemples que vous donniez c'est ce qu'on appelle le bitoussi c'est-à-dire un google un amazon un rbnb peut-être dans votre métier arrive et winner take all il prend il désintermédie complètement la relation avec les consommateurs il se met entre l'hôtel et le consommateur et il remporte en fait complètement une nouvelle fonction un nouveau métier qui fait que les acteurs traditionnels en fait sont à la peine derrière nous ce que nous pensons c'est que cette bataille du bitoussi donc purement digitale on n'a pas fait émerger c'est pour ça que je montrais cette revue je vais bien analyser des échos non non c'est pas toi que je parle c'est un numéro qui est axé là dessus on se rend compte que en Europe il n'y a pas à part Spotify il n'y a pas de gros sur le bitoussi par contre sur le bitoubi par contre sur ce qu'on appelait le public to citizen le bitoussi effectivement je pense que l'Europe a encore plein de choses à faire notre bien commun en quelque sorte ça c'est une première chose et dans ce que vous avez décrit vous avez décrit quelque chose qui est purement digital mais on voit de plus en plus qu'en IA en particulier il va y avoir de plus en plus ce qu'on appelle AI embedded c'est à dire en fait des petits composants dans lequel il y aura de l'IA en edge computing qui va fonctionner dans le composant et qui seront partout qui seront dans les capteurs et qui en fait vous rendent l'IA complètement ubiquite pour créer des nouveaux services c'est là qu'il faut qu'on se batte voilà qui est la construction de monopole parce que ce que vous êtes en train de décler c'est bien qu'ils se produisent et je peux vous dire quelles sont les nouveaux monopoles qui s'entraînent d'apparaître parce que les sociétés capent non seulement le savoir-faire mais également les connaissances donc en fait nous sommes en train de reproduire un nouveau modèle de monopole et mon point important c'est de se dire encore une fois d'où vient ce monopole on dit toujours les choses sont compliquées elles sont assez simples à leur actuel ce qui finance la construction de ces savoirs c'est la captation de la valeur au niveau de la publicité c'est pas si compliqué que ça et pour autant il n'y a pas d'attaque sérieuse sur la construction de ces monopoles je dis que ça vient de la publicité parce que c'est l'argent qui leur permet de faire ça vient de la publicité il ne faut pas faire les choses compliquées oui mais juste derrière ça en fait ça ils peuvent le faire parce qu'ils ont capté la donnée et donc en fait il faut couper l'herbe par la publicité c'est-à-dire qu'encore une fois l'intermédiation à la fin c'est quelque chose de vieux comme le monde et c'est là où il faut intervenir parce qu'encore une fois ce qui se passe c'est que ça devient un impôt ça devient plus de la publicité, ça devient un impôt les sociétés paix moins l'impôt au gouvernement en revanche l'impôt au google augmente est-ce que nous pouvons couper l'herbe en fait en protégeant complètement l'accès à la donnée les canadiens par exemple parlent de data trust donc qui permettraient de protéger les données personnelles en mettant en place également et on revient au sujet initial en fait de sujets de mutualisation de données c'est la donnée le nerf de la guerre il y a quelqu'un qui a très envie de poser une question oui je je voudrais pas jouer les casse-rendres en fait on a une expérience naturelle l'autorité de la concurrence c'est on dit que pour éviter des monopoles il faut partager les données il y a quand même une expérience naturelle récente à l'autorité de la concurrence avec ng l'autorité de la concurrence a contraint ng de transférer son fichier de clients haut tarif réglementé à l'ensemble des opérateurs de marché dans la fourniture de gaz et donc cependant comme il y a il fallait demander d'abord aux clients s'ils étaient d'accord pour que leurs données soient transmises aux opérateurs donc vous avez tout d'abord UFC que choisir qu'à recommander aux consommateurs de dire non et de fait vous avez 50% des clients qui ont refusé que leurs données soient transmises et donc quelque part ces données qui ont été acquises par ng à l'époque du monopole maintenant vous avez un marché qui est ouvert à la concurrence et ces gens peuvent pas contacter déjà on sait pas tout le monde n'a pas le gaz en France contrairement à l'électricité et donc ces nouveaux opérateurs et bien ils sont dans une situation inconfortable d'un point de vue de la concurrence parce qu'ils n'ont pas accès à ces données mais les consommateurs qui pourraient gagner pas le transfert de données s'ils sont opposés donc en fait ce transfert de données est-ce que cette concurrence est accès aux données pour développer la concurrence sur la base de cette expérience naturelle on peut s'interroger si c'est quelque chose qui est voulu par les consommateurs à ce stage j'ai pas la réponse Christian peut-être effectivement le partage de données on va rencontrer une situation d'hylème du prisonnier c'est-à-dire que le consommateur qui est attentif à sa vie privée va se dire bah non je ne vais pas me donner mes données et je compte sur les autres pour donner ces données et c'est ça qui va relancer la concurrence mais si chaque consommateur est très sensible de donner bah tout le monde vas-y ou là je préfère ne rien donner et ça risque effectivement de ne pas marcher mais pour rebondir sur les acteurs que vous mentionnez Google, Facebook ce sont tout de même des acteurs qui actuellement sont réellement sous le coup contentieuses des autorités de concurrence européennes ou nationales et même les Etats-Unis que l'on a pu à certains moments soupçonner un petit peu favoriser entre guillemets leurs champions nationaux bah eux aussi vous avez des commissions qui sont mises en place et qui de plus en plus s'interroge sur le pouvoir de marché compris ces entreprises que ce soit vis-à-vis des citoyens en ayant une influence prépondérante sur ce que les citoyens arrivent à voir sur Facebook par exemple ou que ce soit vis-à-vis des entreprises qui doivent faire de la publicité donc voilà la tension elle est clairement là et effectivement il y a une stratégie qui est clairement mise en oeuvre vis-à-vis de ces acteurs le deuxième point c'est que vous avez parlé des monopoles on a sans arrêt des monopoles qui arrivent c'est vrai qu'on a potentiellement un système de marché aujourd'hui ou plus qu'une concurrence sur le marché potentiellement on a d'abord des phases de concurrence pour le marché cette concurrence pour le marché elle est également bénéfique notamment parce que elle va apporter de nouveaux services et donc il faut toujours veiller il y a toujours cette forme d'arbitrage qui attention je ne veux pas décourager non plus la concurrence pour le marché on a une autre question dans la salle je crois sur ces plateformes est-ce que c'est pas une question de pouvoir de marché mais plutôt une pouvoir d'être le marché et donc ces plateformes deviennent elles-mêmes des marchés et avec une forme de je vais peut-être utiliser un mot un peu dur mais une forme de raquette ou finalement ceux qui payent le plus sont les meilleurs emplacements sur le marché et ce marché en tant que tel n'est pas régulé est-ce que la technologie finalement n'a pas permis à des gens de devenir des marchés en dehors de tout contre-public ? Yassine je crois que vous voulez réagir oui effectivement on une façon de voir une plateforme c'est de dire que c'est un marché et les plateformes en fait jouent le rôle de régulateur sur leur marché parce que vous avez une plateforme qui décide de fixer un prix d'entrée entre guillemets c'est de la régulation lorsqu'il y avait une plateforme qui oblige les vendeurs sur Amazon d'appliquer certaines règles en termes de livraison etc c'est de la régulation le problème c'est que la régulation qui est adoptée par les plateformes n'a pas forcément de raison d'être la régulation qui est socialement ou collectivement optimal donc il faut faire en sorte que les plateformes adoptent un comportement qui soit plus aligné avec ce que la collectivité voudrait mais les plateformes ont les outils déjà savent les utiliser il va falloir alterer leurs incitations d'une certaine manière en disant qu'on pense que tel comportement n'est pas acceptable ou on pense que tel comportement doit être encouragé etc donc effectivement pour revenir à la question de la publicité donc là vous parliez de B2C on est en train de parler de B2B mais qui va affecter le B2C in fine et pour revenir à la question sur la protection des données personnelles donc là on avait un exemple de conflit entre la protection des données personnelles et le droit de la concurrence on voit bien qu'il va falloir parfois trouver une finie parce qu'une finie on pourrait se dire qu'on favorise l'un ou l'autre on pourrait obliger par exemple les consommateurs à accepter et dans ce cas les consommateurs seraient lesés côté privacy mais gagneraient côté concurrence ce type de compromis on le voit aussi dans le domaine des algorithmes d'hier parce que on se dit mais dans les pays où il y a une protection forte pour les données personnelles c'est des pays où on aura moins de données qu'on pourra utiliser ou alors des données qu'on ne pourra pas utiliser pour certaines choses et donc on aura des algorithmes moins performants juste après l'adoption ou même avant l'adoption du réglement génération des données personnelles il y a eu un certain nombre d'entreprises européennes qui ont commencé à dire qu'elles allaient être lesés vis-à-vis de leurs concurrentes chinoises et américaines parce qu'elles n'auraient pas les données d'apprentissage auxquelles on accès leurs concurrentes chinoises ou américaines du point de vue technique il y a clairement un compromis si on a moins de données d'apprentissage il y a de bonnes raisons que l'algorithme soit moins bon mais du point de vue économique ce n'est pas clair parce qu'il y a cette question sur laquelle a un système mature qui est la question de l'acceptabilité des consommateurs qui savent que leurs données personnelles seront protégées il se peut que ces consommateurs soient prêts à faire appel à un service basé sur de l'IA même si c'est de l'IA qui a une qualité un peu moins faible que si leurs données étaient utilisées de manière beaucoup plus extensive alors qu'ils n'accepteraient pas de consommer un service s'il n'y avait pas suffisamment d'apprentissage c'est-à-dire qu'il y a une demande pour une IA qui respecte la privacy et que le seul endroit où on pourra être sûr d'avoir ce produit-là c'est en Europe ça c'est un pari qui est risqué et d'ailleurs la Californie est en train de voter la Californie oui Mathieu oui la Californie a une vision assez particulière du rgpd européen c'est quand même de l'optine systématique donc je pouvais librement et parfaitement informer de ce que va faire votre collecteur lui donner l'autorisation de collecter la Californie c'est quand même plutôt une transparence accrue sur ce que va faire le processeur de vision quand même qui reste relativement éloigné au matière de protection des données personnelles ok merci beaucoup à vous tous je crois qu'on peut s'applaudir je sais pas si