Festival de philosophie 2024 | Conférence : La technologie va-t-elle faire de nous des soldats ?

asmamala donc est doctorante en études politique elle est chercheuse au Laboratoire d'Anthropologie politique de le docteur docteur chercheuse au Laboratoire d'Anthropologie politique de lehesss elle l'enseigne à sciencep à l'École polytechnique et alors son livre qui est paru au Seuil intitulé technopolitique a un sous-titre extrêmement frapp qui donne en quelque sorte l'originalité de son propos le sous-titre c'est la technologie va-t-elle faire de nous des soldats et ce qui est intéressant avec ce sous-titre c'est qu'on comprend que à ce mà fait un déplacement original où elle a fait tomber une barrière c'est-à-dire qu'elle se pose une question à propos de l'intelligence artificielle qui nous concerne nous dans nos existences en société je veux dire nous civil et qui concerne aussi le monde militaire puisqu'on a l'impression que les outils d'intelligence artificielle vont donner lieu à des humains en quelque sorte augmenté et bien ça pose des questions sur le plan militaire mais aussi sur le plan civil ça pose des questions sur le plan existentiel et personnel mais aussi des questions de géopolitique et donc c'est ça qui est intéressant c'est de décloisonner un petit peu notre manière de réfléchir à ces enjeux et maintenant je vous laisse la parole àma et voilà bonne conférence merci merci beaucoup euh à toutes et à tous Merci beaucoup pour l'invit tion euh je suis absolument ravie d'être d'être là parmi vous alors toute seule on stage donc c'est très impressionnant eu il y a beaucoup de résonance évidemment avec la table avec la table ronde qui a précédé h peut-être pour faire le lien entre donc le livre technopolitique et la question de l'intelligence artificielle mais vous l'avez vous l'avez très bien compris je crois à ce stade c'est d'essayer de comprendre comme le disait l'une des interventions qu'il y a eu dans les question réponse de démystifier en tout cas de de de comprendre ce qu'on entend par Ia et le Ia comme concept en réalité ne veut pas dire grand-chose ça ça ça ne ça en tout cas moi j'ai pris l'habitude de dire que ça ne veut rien dire il faut déjà et si on se réfère aujourd'hui au textes de réglementation de régulation de l'Union européenne du Conseil de l'Europe et cetera ou même des textes juridiques tout simplement on parle déjà et c'est un tout petit peu plus précis de si des systèmes d'intelligence artificielle et si on devait encore plus réduire le concept on parlerait de système algorithmique au pluriel et tout d'un coup vous voyez bien que plus on précise même d'un point de vue juridique plus on se rend compte que la magie qui est autour de ces outils en fait n'existe pas ces vapor où tout d'un coup on ne parle plus que d'outils d'une certaine façon alors certes avec une capacité calculatoire extrêmement forte certes avec des visions du monde et des valeurs qui sont véhiculées mais des outils donc tout l'enjeu pour nous humains est de garder le contrôle la deuxième chose si je devais poser d'abord les constats c'est ce que j'ai pris l'habitude de dire quand on me demandait de synthétiser rapidement ma mon travail ou ma pensée j'ai pris l'habitude de dire de façon un tout petit peu provocquante que nos démocratie était morte et en réalité moi je parle contrairement peut-être au au aux intervenants précédents ou en tout cas ce que vous pouvez beaucoup entendre dans le débat public je parle moi depuis les sciences politiques depuis la théorie politique et absolument pas du tout d'un point de vue technique donc c'est pas du tout la peine de m'emmener sur sur comment est-ce qu'on construit l'algorithme et quelle est la profondeur de la boîte noire c'est pas du tout mon propos mon propos est davantage politique et c'est de dire que les démocraties teles qu'on les a connu tel qu'on les a conçus jusque-là tel qu'on les a même exercé jusque-là sont mortes et sont morte notamment et entre autres pas que mais notamment et entre autres récemment par ce que j'appelle le choc technologique alors le choc technologique c'est quoi si on devait essayer de comprendre cette problématique c'est trois choses pour je crois humblement et on pourra en discuter mais que pour comprendre ce qui est en train de se passer dans ce début de 21e siècle il y a trois éléments à avoir en tête pour comprendre les changements de paradigme la première et pourquoi je dis que la démocratie est morte morte la première chose la première nature du choc c'est qu'en fait on est passé des démocrati du 20e siècle qui était comment qu'on avait architecturé comment production de masse consommation de masse éducation de masse média de masse verticalité du haut vers le bas et qu'on a hérité d'une certaine façon des révolutions industrielles de la fin du 19 siècle la principale rupture que le choc technologique dont l'A mais pas que j'y reviendrai parce qu'aujourd'hui on a une focale sur lia mais qu'il va falloir un tout petit peu décentrer aussi la principale le principal choc que ça amène ces technologie là c'est qu'en fait on passe de la masse à l'hyper personersnalisation de masse on est capable par tout s algorithmes et surtout par vous c'est-à-dire toutes les données qu'on produit sans cesse du matin au soir tout ce qu'on produit sur les réseaux sociaux les plateformes c'est autant de données que vous laissez non pas sur votre privacy sur votre vie privée avec les vieux si vous voulez débats qu'on avait mis sur est-ce que votre vie privée est-ce que votre intimité compte vraiment mais en fait toutes ces trac que vous laissez donne des informations pas simplement sur ce que vous mangez sur le shopping que vous faites mais donne surtout des informations sur vos fragilités vos biaiss vos opinion vos croyances votre grave sociale en gros ce que vous êtes dans votre identité ce que vous êtes dans votre singularité et dès l'instant où on sait croiser toutes ces datas là on sait qui vous êtes et j'ai presque envie de vous dire à l'insu de vous-même sachant peut-être ce que vous êtes parfois sur certains champ sur certains sujets mieux que vous-même ce qui donne d'un point de vue politique en fait une capacité à vos micro ciblé dans votre intime l'intime devient et politique d'un point de vue si vous voulez de du côté noir de la force ça a été tout le scandale Cambridge Analytica par exemple 2016 la campagne de Donald Trump qui était dirigée à l'époque par Steve Bannon avec aussi des chercheurs russe qui était dans la dans dans la boucle de de de des start-up et qui en fait part justement cette capacité de micro targeting ont été ont eu la volonté en tout cas c'est toujours très difficile à tracer le passage à l'acte en démocratie en tout cas mais avait la volonté de cibler les États qui étaient hésitants et en particulier des électeurs spécifiques de ces états hésitants et notamment un des cas qui avait été très intéressant et qui avait été théorisé par Banon c'était de dire en fait on va empêcher le vote on ne va pas faire que influencer le vote on va essayer d'empêcher le passage du vote d'un certain nombre d'électeurs dont les électeurs noirs et il parlait déjà de bataill culturell dopé à l'algorithme dopé à liya et c'est très très intéressant le scandale de Cambridge Analytica qui est en fait le prémise ou les prémises de ce qu'on appelle aujourd'hui en terme de doctrine militaire les guerres cognitives c'està dire manipuler non pas simplement l'information par les deep fake par les di génératif par les réseaux sociaux par tout un tas de manipulations mais monter Laam remonter la chaîne de valeur pour en fait manipuler vos perceptions et ce sont des nouvelles conflictualités cyber hybride qui se jouent à Bacou ça coûte pas très cher et surtout qui se joue sur le temps très long je ferme ma parenthèse on y reviendra peut-être mais première nature du choc donc et je reboucle et je n'oublie pas mon mon ma démonstration le fil de ma démonstration c'est hyper personnalisation de masse nous sommes des atomes perdus dans la masse et en fait c'est ce qui d'un point de vue de la fragilisation démocratique empêche quoi le collectif le commun la création de lien c'est déjà ce que pressentait écrivait Anna arent en fait quand elle expliquait que bah la perte du lien la perte du commun le fait que nous ne soyons plus que des atomes perdus dans la masse en fait c'est des autoroutes vers les totalitarismes et je vous le donne dans le mil qu'est-ce qu'on est en train de voir arriver un peu partout dans le monde des QFD la deuxième chose et la deuxième nature du du choc technologique c'est la dualité ce que expliquit très justement alexand en introduction c'est la dualité de ces technologie là elles sont by design par nature civile et militaire à la fois un réseau social par exemple mais je je vous prendrai aussi exemple desas génératives c'est des espaces très sympas pour vous informer pour faire de la veille d'information pour voir ce que font vos potes pour poster je suis la première à utiliser les réseaux sociaux et il n'y a pas de culpabilité à avoir là-dessus je sais que certains philosophes aiment beaucoup culpabiliser les utilisateurs je crois que c'est absolument idiot et débile et c'est n'avoir pas compris le côté systémique infrastructure systémique de ces de ces outils là en revanche il y a un principe de responsabilité à avoir en face de ces outils donc ce sont des technologies dites duales civil et militaire un réseau social c'est très sympa mais en même temps ce sont aujourd'hui des armes d'influence des espaces géopolitiques de lutte informationnel de manipulation cognitive c'est ce qui explique par exemple toute l'hystérie en ce moment autour de TIC to qui cristallise la rivalité géostratégique entre les États-Unis et la Chine par exemple qui a une énorme focale sur la question technologique en général sur la question de l'intelligence artificielle en particulier et enfin la dernière nature du choc technologique qui vient tuer agoniser d'une certaine façon nos démocraties dite libérale c'est l'apparition de ces acteurs qui sont les géants technologiques les TAC Giants ou les B tech que vous pouvez compter sur les doigts littéralement de demain maximum et qui sont aujourd'hui les principaux concepteurs producteurs de ces outilsl dont les intelligences artificielles et le problème que ça pose c'est que ce ne sont pas simplement des entreprises privées mais ce sont aujourd'hui des entités hybrides c'est-à-dire qu'ils sont aussi des acteurs géopolitiques ce sont aussi des acteurs militaires ce sont évidemment des acteurs économiques et industriels ce sont aussi des acteurs politiques avec des agendas idéologiques et donc de ce point de vue-là et c'est là peut-être le principal problème qu'on a à mon sens en tout cas en terme de politique publici c'est qu'on a des acteurs systémiques qui ont aujourd'hui des des écosystèmes entiers de technologie de captation de données par exemple toute la galaxie xCP de Elon Musk qui va avoir des satellites un réseau social des robots des implants cérébraux des voitures autonomes électriques en en en expérimentation et en fait quand il croise toutes ces data là et ben en fait il est en train de croiser de quadrer à peu près l'ensemble de nos usages et ça ça pose un problème parce que quand vous avez des acteurs qui ont qui sont à ce point devenus des goulot d'étranglement y compris d'un point de vue géopolitique puisqu'ils sont dans ma thèse en tout cas c'est ce que je défends comme idée des extensions de la puissance états-unienne qui sont aussi des outils de et de Heart power heart power en Ukraine par exemple Starlink en Ukraine Microsoft en Ukraine Google en Ukraine Amazon en Ukraine sur les questions de cyberdéfense sur les questions de trouver des systèmes de redondance et de backup des télécommunications ukrainiennes sur toute la filière et sur toute la gestion logistique de la guerre ils ont été des acteurs en frontline en première ligne donc de ce point de vue là c'est aussi du hard power donc toute la question qui se pose c'est que dans le même temps et pourtant ce sont des entreprises privées avec un statut juridique de boîte privée qui rend donc des compes acquis au marché ou quand elles sont sorties de la côte à elles-même donc avec le règne d'une forme d'arbitraire on a beaucoup beaucoup beaucoup parlé de Elon Musk et ça pose un problème ça pose un problème du point de vue de la démocratie c'est-à-dire concrètement du point de vue non pas du pouvoir mais du contre-pouvoir ça pose donc la question politique de non pas les diaboliser comme on adore le faire et je trouve ça un peu idiot parce qu'elles sont là c'est ils sont là ces acteurs là mais c'est la question de se dire comment est-ce qu'on aimerait les gouverner qui les gouverne eux par quel pacte par quelle source de légitimité ils ont tout d'un coup autant de pouvoir et en fait le pacte qu'on a signé avec eux est extrêmement faible est asymétrique puisque ce sont les conditions générale d'utilisation qu'on va s'empresser d'accepter et ce n'est absolument pas suffisant vous mesurez bien la symétrie de pouvoir qu'on a donc ces trois natures du choc hyper personersonnalisation de masse dualité de la technologie by design arrivé de géants technologiques qui sont en fait des entités hybrides avec des agendas politiques avec des prérogatives géopolitique en fait sont en train de nous changer de siècle et changer de paradigme et ça c'est absolument fondamental à avoir en tête pour comprendre quelles sont les nouvelles réponses qu'on donne et de ce point de vue-là c'est extrêmement pragmatique c'est de la réel politique il s'agit pas de dire c'est génial ou c'est affreux il s'agit pas de dire c'est la fin du monde ou c'est extraordinaire en fait les intelligences artificiels sont des outils des émanations qu'ils fabriquent et qui reflètent leur stratégie de puissance et ce qui est très intéressant c'est que vous avez aussi là encore des batailles culturelles entre eux c'est-à-dire que les géants technologiques ne sont pas simplement des entités homogènes ou des blocs homogènes mais ils ont des vraies dissensions de vision politique entre eux quand ch GPT est sorti fin 2022 la première réaction ou une des premières réactions ça était celle de Elon Musk parce que Elon Musk était le mentor de Sam alttman et qu'ils avaient été et Elon Musk était l'un des premiers fondateurs en 2015 de open ai il en est vite sorti pour tout un tas de raisons dont une raison de divergence de points de vue ou de vision politique et la première chose que elon mask va dire c'est ch GTP c'est un outil W il véhicule des valeurs W et donc de ce point de vue- làà c'est inadmissible parce que Elon Musk a une vision idéologique du monde particulière il fait partie de cette élite technologique qui s'inscrit dans ce qu'on appelle aujourd'hui dans la Valé le antiw capital et qui a comme objectif si vous voulez de de bouger la une forme d'agenda de l'altri américaine espèce de droite extrême composite américaine et mosque en fait partie et donc l'idée pour lui était de se dire mais enfin GTP donc véhicule des valeurs W des vision donc il faut absolument que je développe une contre i1 qu'il va appeler Groc et qui va elle véhiculer une vision du monde un narratif des connaissances des savoirs boir qui sont anti et donc vous voyez bien que tout d'un coup les intelligences artificielles ou il a donc en l'occurrence générative devienent le socle d'une bataille qui nous dépasse et que de ce point de vue-là de cette conversation là nous citoyens nous utilisateurs sommes en l'état des choses complètement exclus de cette conversation qui se joue entre géant technologique entre eux et c'est en ce sens qu'il nous faut être très vigilant et donc de démystifier les peurs parce qu'il fonctionne aussi par des effets de sidération tous les narratifs qui circulent aujourd'hui sur lia ou une grande partie des narratifs qui circulent aujourd'hui sur l'intelligence artificielle ce qu'on appelle les risques existentiels la fin du monde la fin de l'humanité les super i le point de singularité et cetera tout ça en fait ce sont des récits aussi beaucoup qui sont véhiculés par eux ces acteur là pour en fait créer aussi un effet de sidération l'effet de sidération fait que vous allez beaucoup en parler en parler beaucoup créer un effet de mode créer un effet de mode créer une vague de hype quand vous êtes hype quand vous êtes à la mode vous faites quoi vous levez des fonds c'est du marketing c'est du business et ils ont besoin de beaucoup beaucoup beaucoup beaucoup pour continuer à développer leurs outils parce que vous avez besoin des super calculateurs parce que vous avez besoin des semi-onducteurs qui sont en aval de la chaîne de production des IA ce qu'il faut avoir en tête c'est que l'intelligence artifici iiciel est une industrie avec une chaîne de valeur avec son aval et son amont et ce qui est très intéressant c'est que sur son amont c'est là où se cristallise la rivalité géostratégique entre États-Unis et Chine notamment sur la question des puces vous avez tous forcément entendu parler de TSMC de la question tawanaise et donc là se jouent aussi des rivalités et c'est en ce sens que les géant technologiques que l'intelligence artificielle générative par exemple devient un outil de rivalité géostratégique et de leadership géo politique on parlait aussi tout à l'heure en introduction de la question hybride c'est-à-dire que les IAS sont aussi des IAS militaires et aujourd'hui ça pose des questions absolument énormissimes dans le champ militaire notamment la question des armes autonomes il y a deux fronts aujourd'hui Ukraine et Gaza qui sont des terrains d'expérimentation à échelle de ces et on a cru pendant très longtemps que ça allait être des outils d'une extrême précision c'était le vieux rêve américain vous savez de la frappe chirurgicale qu'on a jamais jamais jamais réussi à mettre en œuvre mais c'était de se dire avec les i les logiciels d'intelligence artificielle bam on va savoir super cibler le microciiblage dont je vous parlais par une très bonne une connaissance extrêmement fine de l'environnement et de l'écosystème parce que c'est ça quiamène les ya une mise en donnée du monde qui fait qu'en fait et là c'est vrai est-ce que la remarque de de de de de la personne qui est dans le est très juste alors qu'aujourd'hui nous avons dépassé en effet par ces outilslà nos propres capacités cognitives humaines calculatoire et donc tout d'un coup ce sont des outils de façon extrêmement pragmatique dans le champ militaire sur les champs de bataille qui peuvent être extrêmement précieux puisque la principale guerre c'est pas du tout la guerre entre entre quand la principale guerre c'est la guerre contre la vitesse contre le temps c'est le premier qui dégaine à gagner or le premier qui dégaine ne peut pas dégainer sans intelligence artificielle c'est-à-dire cette capacité calculatoire à tout capter en temps réel à tout comprendre en temps réel pour en fait en ressortir des scénarios des scénarios d'action en temps réel euh il y a eu des démonstration notamment sur l'usage de chat GPT d'ailleurs par parenthèse chat GTP dans le GPT dans le dans le champ militaire en janvier de cette année 2024 et c'était très intéressant ça n'a pas été beaucoup relayé dans les médias a supprimé de façon assez discrète d'ailleurs dans ses mentions légales l'interdiction de son usage militaire très concrètement un chatpt ou un ou n'importe quel l générative d'ailleurs le français Mistral ou l'allemand Alf pas importe très concrètement sur un champ de bataille ça fait quoi ça fait que vous allez capter toutes les datas que vous avez préalablement d'ailleurs entraîné hein sur sur les différents cas de gu gure et donc vous allez capter toutes les données en temps réel les données que vous allez avoir par satellite sur le terrain par les caméras embarquées par les drones et cetera par les armes ça fait beaucoup beaucoup de données que vous allez donc mettre et tout d'un coup sur une situation donnée votre Ia générative va vous sortir les différents scénarios possibles et dans les démonstrations et les simulations qu'on a qu'on a eu un général dans la chaîne de commandement classique par son histoire par son expérience par ce qu'il a vu préc ment dans les autres terrains de de guerre les autres théâtres de guerre va sortir disons mettons de sa tête par réflexe métier va pouvoir sortir C scénarios disons dire bon à partir d'une situation donnée voilà mes CIN possibilités voilà mon arbre de décision l'intérêt d'une i sur le champ de de guerre c'est que elle elle ne va pas avoir vos angles morts le général l'humain lui va avoir des angles morts va avoir ses propres biaiss va avoir ses propres filtres ses propres réflexes d'expérience lia elle non et donc elle pourra en sortir 8 neuf et donc compléter les angles morts ce que je veux dire par là c'est que un c'est une garde de la vitesse de il y a des comp des complétudes des complémentarité à trouver avec l'homme et que l'exemple de Gaza était très intéressant parce que c'est ça que ça nous a montré c'est que un c'était pas du tout la frappe chirurgicale que tout d'un coup ça dait des armes de destruction absolument massives massiv et que deux elle était massive parce que on a complètement bapassé l'humain c'est-à-dire que parce que c'était des guerres de la vitesse parce qu'il fallait aller très très vite parce qu'il fallait avoir des éléments de discours politique et de comm politique très rapid des résultats rapides et bien tout d'un coup toutes les validation humaine au fur et à mesure progressivement ont sauté et et et on a automatisé le ciblage et la mort avec cette question morale cette question philosophique qui se pose à nous si vous automatisez la guerre si vous automatisez à ce point la bataille à quel moment la guerre telle qu'on la construit telle qu'on la pense telle qu'on l'a dans les représentations c'est-à-dire les chair le sang la mort à quel moment la guerre ne devient plus que de l'assassinat et ça c'est une question éthique morale juridique de responsabilité fondamentale et sur laquelle hélas les opinions publiques vous êtes là aujourd'hui et merci mais les opinions publiques sont totalement totalement absente pour ne pas dire parfois indifférente et si je reviens à la question de la rivalité géostratégique États-Unis Chine on a aujourd'hui donc vous l'avez compris c'est une une gardre de leadership une bataille de leadership une course de leadership oou l'intelligence artificielle et en particulier l'intelligence artificielle à usage militaire est absolument centrale et donc aujourd'hui dans tous les cénacles internationaux qu'on a un peu partout dans le monde l'ONU et cetera on a beaucoup de sommets beaucoup de discussions sur les armes autonomes et la question est de se dire quelle régulation quelle règles quelle limite on met et vous avez deux acteurs qui n'en ment jamais ils sont dans toutes les discussions tout le temps ils sont partout ils sont à l'ONU ils sont dans les sommets de la ha de Vienne et CETA mais il n'en mettent pas des limites c'est les États-Unis et la Chine la Chine a le plan assumé qui a été déclaré d'être une armée de rang mondiale à 2049 les États-Unis ont un un un enjeu de préservation de puissance de ce point de vue-là il n'y a aucune raison valable pour qu'il mette des limites à l'innovation et à la puissance la prochaine étape ce sont les armes autonomes et donc charge à nous de prendre le sujet d'un point de vue démocratique d'un point de vue politique pour faire infléchir ces conversations-là si on le souhaite et donc ce que je veux vous dire c'est que tous ces sujets qui sont éminemment brûlants qui sont au cœur de l'actualité internationale qui sont en train de reconfigurer et redéfinir l'échiquier géopolitique mondial l'ordre mondial qui est totalement multipolaire aujourd'hui pose deux questions la question de la gouvernance des géants technologiques acteur de la puissance qui gouverne les acteurs technologiques systémiques qui les gouverne si ce n'est pas nous et moi je dis que il faudrait peut-être qu'on mette un tout petit peu plus notre nez là-dedans par tout un tas de mécanismes qu'on peut discuter que je propose et qu'on pourrait détailler ça c'est la première chose et la deuxième chose c'est notre modèle politique la démocratie qu'est-ce qu'on entend par modèle démocratique quand nos modèles sont précisément chahutés sont déstabilisés par toutes ces technologies cyber hybride sous le seuil lut informationnelle sur les réseaux sociaux guerre cognitive qui arrive les militaires et cetera qu'est-ce qu'on a appelle modèle démocratique c'est quoi notre identité c'est quoi nos valeurs quand en fait au fur et à mesure et plus on avance pris dans l'injonction de nos adversaires de façon subreptice on converge on regarde sur les questions de technosurveillance il y a une tentation reconnaissance faciale mettre des algorithmes capter les données un coup c'est pour le fisque un cououp c'est pour les la sécurité un coup c'est pour les J on a beaucoup ces discussions là en ce moment en France et combien de temps encore on va faire comme si ça n'existait pas détourner le regard aux États-Unis vous avez quatre grands pouvoirs le 4è c'est évidemment les médias on en parlera je crois demain la presse comme contrepouvoir il y en a un 5è qui est officieux mais qui est un 5è pouvoir et qu'il va falloir que nous collectivement on investisse c'est l'opinion publique l'opinion publique cette capacité si elle est éduquée si elle est articulée si elle sait se mettre en route à devenir un pouvoir politique à faire pression sur les dirigeants et sur les responsables politiques à faire infléchir certaines direction et donc répondre à la question quelle démocratie voulons-nous reconstruire pour quel projet de société où est-ce qu'on a envie d'aller collectivement collectivement à échelle locale collectivement à échelle nationale collectivement à échelle communautaire c'est quoi la Grèce dans 50 ans c'est quoi l'Europe dans 30 ans prise en sandwich entre les États-Unis et la Chine comment est-ce qu'on repense la question de notre souveraineté non pas comme une autarciie mais comme un rapport de force et si c'est un rapport de force alors qu'est-ce qu'on a à mettre nous sur la table quelle est la nature de la transaction qu'on met en place avec nos adversaires mais d'abord avec nos alliés et notre dépendance technologique est énorme énorme les IA que vous utilisez les réseaux sociaux que vous utilisez les plateformes que vous utilisez demain les implants cérébraux de Elon Musk que vous mettrez sont américains donc comment est-ce qu'on détend cette discussion collective et donc vous voyez bien que la question n'est absolument pas technique elle est fondamentalement politique et je terminerai peut-être sur deux citations Heidegger le disait la technique n'est pas technique la technique et anthropologique la technique et politique avec tout ce que je viens de vous dire et puis je terminerai vraiment définitivement sur un philosophe français que j'aime beaucoup beaucoup beaucoup qui n'était pas du tout philosophe à la base qui était urbaniste penseur complètement iconoclace totalement hybride lui aussi qui s'appelait Paul et qui avait tout vu et tout anticipé déjà et qui disait cette phrase très belle et que je vous livre et que je vous donne le progrès est devant nous à condition de dépasser sa propagande si on a on arrive à prendre ce recul si on a compris les enjeux si on se redonne du pouvoir par la curiosité par la lecture et bien à ce moment-là on est capable nous de dire quel est l'avenir qu'on a envie de façonner et donc la principale boîte noire elle n'est pas algorithmique c'est l'avenir et c'est nous qui le construisons rien n'est donné rien n'est imposé par défaut ce sont des constructions collectives et de ce point de vuelà la conversation devient fondamentalement démocratique et lia n'en est plus qu'un prétexte je crois que j'ai dépassé mon temps merci beaucoup merci beaucoup on va prendre quelques questions si si vous l'acceptez jeis mettre mon cas voilà on espère qu'il fonctionne est-ce qu'il y a des questions dans le public ou est là-bas faire il y en a il y en a pardon je vous vois pas parce que j'ai la j'ai le le désolé ça marche pas le micro bien ouvert il est ouvert il est ouvert j'ai été très heureux de vous écouter votre [Musique] politiqueχρσ Optimist vousz madame la tradu est que vous entendez la traduction ok est-ce que vous entendez la traduction c'est bon je suis optimiste donc je vais traduire moi-même dit l'intervenant parce que ça me permet de réfléchir donc dans les deux langues nous allons le laisser traduire maematicien et aussi péagog alors ce de identité de moi maide à être optimiste contre la dictature des technologies contre la la dictature de technocrat Enor que les algorm pasor algor ilpr ormormo ε ό θμαίίo GPT de [Musique] maaticat GPT il ne pe pasondre correctement que SAF sauf les questions sont dans la littérature et les obti statistiquement ous on a plusieurs questions rés le résultat estque pour les techrat on va prendre trois questions et puis on va vous vous redonner la parole madame [Musique] pour votre excellente intervention j' je voudrais poser une question je suis dans le domaine de l'informatique je suis heureuse de voir que vous parlez également de politique ma question est la suivante est-ce que vous pensez que dans le système politique actuel du capitalisme est- ce qu'on peut espérer à des jours meilleurs pour ce qui est de l'intelligence artificielle à votre avis l'intelligence artificielle peut aider l' efftivement tenant compte que nous vivons dans un système capitaliste bonsoir félicitations pour votre intervention j'aimerais poser une question sur la géopolitique à laquelle vous avez fait référence vous vous êtes concentré sur la Chine et les États-Unis vous avez poser des questions vous avez fait des réflexions sur l'Europe est-ce que vous pouvez analyser davantage à votre avis quel est la place de l'Europe concernant l'intelligence artificielle et pourquoi d'une part l'Europe prend des initiatives législatives pour définir le cadre de l'intelligence artificielle et d'autre part on voit que dans ce domaine elle accuse un retard je pense que c'est un peu contradictoire merci et bonsoir j'avais une une petite question sur la question donc de la course de vitesse que se livre les États-Unis et la Chine oui et sur le positionnement donc de de l'Europe dans cette course de vitesse est-ce qu' il existe une spécificité donc européenne dans la conception de la technologie de lien merci il marche oui donc deux têtes vous avez de la chance j'ai une grande j'ai une mémoire d'éléphant sur la première qui était d'abord une davantage une une une remarque ultra intéressante avec beaucoup d'éléments je sais pas si le monsieur est parti celui qui faisait sa propre traduction il est parti euh ça m'inspire plusieurs remarques en retour je vais essayer d'être synthétique la première chose sur la technocratie en fait très très basiquement ce que ce que ce que vous décrivez si vous êtes encore là c'est ce qu'on appelle le solutionnisme technologique et en effet que moi je que je critique c'est-à-dire que à chaque problème donné de politique publique vous allez avoir une réponse techniciste qui soit juridique et ça répond déjà partiellement à la question de la position européenne ou technique donc ça va être toutes les questions par exemple sécuritaires vous avez un problème de sécurité bam on va mettre des caméras on va mettre des algorithmes on va quadrer on va bouffer vos libertés fondamental et peu importe dans la balance et dans l'arbitrage puisqueen fait on a une solution et peu importe si elle est invasive intrusive àégal c'est-à-dire dans une zone de de droit grise peu importe l'essentiel c'est qu'on ait une communication politique à apposer on s'agite voilà on fait mais ça convint d'une part personne et d'autre part ça casse au fur à mesure l'État de droit et ça c'est fondamental à garder en tête est-ce qu'on tient encore à la façon don dont on a construit nos états de droit c'est-à-dire basé sur des libertés fondamentales des pouvoirs mais aussi des contrepouvoirs la comptabilité le rendement de compte d'un certain nombre d'acteurs dans des prises de de décisions qui tiennent en fait à notre destin commun donc ça c'est absolument fondamental et en effet il y a cette tentation du solutionnisme solutionnisme qui en fait est un cache misère puisque à chaque fois le principal problème n'est jamais technique le problème de la sécurité c'est pas un problème technique le le problème de des inégalités le problème de l'école le problème des hôpitaux publics le problème du travail le problème du déclassement de l'Europe c'est pas technique ce sont des problèmes sociaux ce sont des problèmes politiques le malaise démocratique la fatigue démocratique que l'on est en train de vivre dans toutes les démocratie aujourd'hui libérale occidentale ce n'est pas lia qui l'a créé ce n'est pas Elon Musk qui l'a créé est-ce que ces outilslà amplifient un problème initial oui est-ce que ces mêmes outilsl pourraient nous aider à régler quelques problèmes initiaux je pense au changement climatique ou à la question de la santé oui aussi donc je terminerai par répondre ceci la principale problématique de l'alignement c'est pas l'alignement tel que les géants technologiques nous le font croire c'est-à-dire un risque existentiel de fin du monde et donc on va faire des IA pour qu' vont vraiment être toutes gentilles pour ne pas nous détruire à la fin c'est ça le l'alignement tel je le schématise tel qu'il est entendu dans la Silicone Valley non le principal alignement c'est en fait à nous d'être assez intelligent pour inverser la proposition c'est-à-dire de dire non pas l'innovation pour l'innovation on a des outils ah tiens comment est-ce qu'on va les réguler toujours prendre le problème quand il est là par l'aval mais c'est d'abord de se dire quel est notre projet de société où est-ce qu'on a envie d'aller indépendamment de la question technique et voir après quels outils peuvent nous aider à aller là où on a envie d'aller vous avez envie d'aller où de la justice sociale des territoires zéro carbone HM la conquête de l'espace qu'est-ce que vous avez envie de faire quel est le désir quelle est la limite initiale collective et après on verra bien quels outils on met et en fait on a fait tout l'inverse on est à l'envers on a la tête à l'envers et il va falloir qu'àun moment donné nos responsables politiques nos intellectuels vous nous tous on remet les choses à l'endroit les bonnes choses à la juste place c'est de Paul rcker appelé les institutions justes il va falloir qu'on réapprenne les institutions justes deuxième question c'était sur la le capitalisme moi je ne suis pas euh moi je suis réaliste c'estàdire que je suis pas morosofhe ou même je crois que vous aviez votre ancien Premier ministre qui a écrit un truc sur le techno féodalisme ou je ne sais quoi moi je suis pas du tout dans une veine révolutionnaire pour une raison extrêmement simple c'est que je suis suis réaliste pour faire une révolution il faut beaucoup de conditions qu'on a absolument pas du tout aujourd'hui la question des syndicats des corps intermédiaires la question des classes sociales aujourd'hui on n'est plus du tout sur ces problématiques là donc d'un point de vue extrêmement disons de réel politique la question du capitalisme c'est plutôt de se dire et en soi bon c'est un modèle comme un autre c'est comment est-ce qu'on l'infliichie donc on revient à la question de qui gouverne c'est-à-dire à un moment donné dans tous les parties prenantes qu'on a comment est-ce qu'on réinsufle du contrepouvoir c'est-à-dire de la discussion collective et ça c'est des architectures à trouver dans des démocraties qui parfois ont cette tentation un peu paranoïque d'ailleurs de casser les corps intermédiaire de d'assécher les ONG les watch dog et cetera donc c'est peut-être tout ce travail aussi de vivification euh des espaces de discussion des espaces de débat mais le vrai débat c'est-à-dire pas du tout tel qu'aujourd'hui on l'a construit c'est-à-dire une polarisation où plus personne se parle où tout le monde se dessus mais revenir au milieu se reparler au milieu ne pas être d'accord mais au milieu c'est-à-dire ensemble on a le droit de ne pas être d'accord mais on a aussi le droit de ne pas s'insulter on a aussi le droit de s'écouter et ça c'est des réflexes qu'on a perdu et qu'il faut retrouver et ça doit pas être si sorciers à retrouver et vous voyez que dans ma réponse ce n'est toujours pas technique euh la la troisème question sur la question de la souveraineté et je que je vais coller à la 4e la question de l'Europe le réflexe qu'on a eu ça a été une réponse euh réglementaire on a eu ce réflexe là de poser à chaque fois des textes parce que nous n'avons pas réussi à avoir des géants technologiques nous n'avons pas réussi ça on a pris 40 ans de retard pour plein de raisons structurelles diverses et varié manque de vision on n pas compris on n' pas pris la bonne truc on n pas construit l'Europe comme ça l'Europe on l'a pas construit dans une vision politique on l'a d'abord construite en pensant que la la dimension politique arriverait mais on l'a d'abord construite comme un marché et donc on a mis beaucoup de temps à changer la doxa et en vérité le tournant s'est fait en 2019 avec l'arrivée de Thierry Breton au sein de la Commission européenne et qui lui a changé et c'est le premier ou un des premiers qui a commencé à parler de la question du rapport de force et d'ailleurs on ne parle pas tellement de souveraineté enfin si maintenant mais au début on parlait d'autonomie stratégique c'était Emmanuel Macron d'ailleurs en 2017 déjà qui l'avait mis au cœur de son de son pas directement de son programme mais en tout cas de son de sa vision de son discours il n'en a pas fait grand-chose je dois dire ça a été assez décevant mais le le concept avait été posé l'autonomie stratégique donc repris en 2019 par Thierry Breton l'arme la plus facile la plus rapidement implémentable quand vous êtes en faiblesse quand vous êtes en dépendance c'est l'arme juridique c'est facile d'écrire des textes et de vite les enfin vite dans le cas de l'UR en plus c'est très long enfin sur à échelle disons de du retard de de le faire le plus rapidement possible donc en fait on a construit des lois des plutôt des paquets réglementaires digital service Act digital market Act ai Act data Act data governance Act et cetera d'un point politique puisque moi je parle de là c'est intéressant c'est intéressant parce que vous dites aux acteurs extracommunautaires chinois américains attention vous opérez sur notre territoire donc au sein de nos frontières mais donc au sein de nos frontières vous allez respecter nos règles donc c'est ce que j'appelle moi une forme de souveraineté normative défensive on est défensif et on explique aux étrangers finalement que bah chez nous il respecte nos règles c'est pas mal après avec des énormes doutes sur la mise en œuvre la faisabilité la bureaucratie européenne et cetera mais si l'intention est d'envoyer un signal le fameux rapport de force c'est pas mal en revanche il nous manque évidemment la dimension proactive c'estàd la dimension industrielle ça ne veut pas dire qu'il n'y a rien il y a beaucoup de choses mais nous n'avons toujours pas l'échelle N nous sommes nous ne sommes pas passés à l'échelle et puis il y a une question fondamentale qu'est-ce qu'on appelle souveraineté qu'est-ce qui se joue autour de ça ça commence où ça se termine où si je prends un exemple très concret vous avez la start-up française mistral qui est censée être la contreproposition de open ai et dans les performances de Mistral elles sont plutôt très bonnes dans le B2C c'est-à-dire dans les usages finaux auprès des utilisateurs et l'enjeu qui se joue est multiple si la souveraineté c'est de dire c'est la composition du capital Mistral n'est pas souverain une grande partie du capital est américain si la question de la souveraineté donc n'est pas français si la question de la souveraineté c'est de dire bah en fait on est sur un écosystème franco-français ou franco-européens ou tous les acteurs sur toute la brique et toute la chaîne sont européens en français Mistral n'est toujours pas souverain il déploi à partir de Microsoft et de Google entre autres il déploie à partir des hyperscalers Américains que j'appelle-moi les acteurs systémiques qui sont goulot d'étranglement qui sont en fait des infrastructures les g technologiques américains sont aujourd'hui des infrastructures pratiquement d'utilité publique et pourtant permet et pourtant au statut juridique d'entreprise privée je reviens toujours à mon problème initial qui est la question de la nature de ces entités non pas ce qu'elles font mais ce qu'elles sont mais si la question de la souveraineté c'est la fabrication des savoir c'est-à-dire de dire on va fabriquer la connaissance à partir de nos valeurs de notre corpus de notre langue de notre culture là Mistral devient intéressant parce qu'en effet il va construire ces modèle à partir du français donc dit comme ça ça peut être un peu ésotérique mais prenez l'exemple par exemple de la justice algorithmique ce qu'on appelle faussement d'ailleurs la justice prédictive elle n pas prédictive mais elle elle est algorithmique si vous utilisez les outils américains les outils Américains eux se sont éduqués se sont entraînés sur en fait l'acception anglosaxone de du droit c'est-à-dire jurisprudentiale la common law en Europe on n pas du tout la même acception du droit elle n'est pas du tout jurisprudentielle par exemple en France elle est de droit romain elle est principielle et donc de ce point de vue-là avoir des outils qui reflètent vos valeurs votre acception la façon de procéder la façon de traiter des cas là c'est éminemment politique et donc et donc géopolitique une fois de plus ne jamais oublie que ce sont des outils de soft power de diffusion de valeur d'hégémonie d'une certaine façon et donc n'oubliez jamais ceci la méthode en fonction de la question que vous essayez de résoudre vous aurez une réponse particulière la souveraineté en soi ne veut rien dire à quelle question la souver doit-elle répondre le capital l'infrastructure les valeurs la connaissance et donc en fonction de la question vous aurez une réponse différente voilà pour ce voilà pour le premier slot de de réponse merci merci beaucoup à ce MAM je sais pas si on a le temps pour une dernière question peut-être une dernière question à allez bonsoir madame le fait que l'opin public éit un 5 pouvoir qu'on avait aujourd'hui une relative indifférence notamment de de ses opinions publiques vis-à-vis de la question technologique et que cette question technologique technologique était fondamentalement politique si elle est politique eu elle implique notamment de que dans le domaine éducatif des choses soient faites comment est-ce que vous vous vous pensez ces implications dans le domaine éducatif est-ce que comment en fait forger l'esprit critique des des jeunes des jeunes citoyens est-ce que l'école doit être un sanctuaire sans écran sans toutes ces questions d'intelligence artificielle est-ce qu'au contraire il faut déjà y éveiller les les jeunes écoliers comment est-ce que vous vous pensez ce ce défi éducatif là merci beaucoup euh c'est alors la question de l'éducation et de l'école c'est une vaste question euh la première la première remarque que ça m'inspire c'est que en Suède qui a été pendant longtemps euh vous savez les euh les méthodes à la mode scandinav donc ils avaient mis des écrans absolument partout et en fin d'année dernière vous me direz il y a eu un changement de gouvernement entre tempemps mais en fin d'année dernière ils en sont complètement revenus des écrans ils ont dégagé les écrans parce qu'en fait ils se sont rendus compte qu'il fallait rephabétiser les gamins écrire lire donc en fait je ne pense pas qu'il fait y avoir une réponse binaire tout dépend de à quel moment vous intervenez au départ je ne suis pas persuadée que les écrans soient nécessaires la première urgence c'est que on fabrique des futurs citoyens qui soient letttrés c'est-à-dire en capacité d'utiliser leur capacité cognitive donc demain leur esprit critique mais vous n'aurez jamais d'esprit critique si vous ne savez plus écrire vous n'aurez jamais d'esprit critique si vous n'arrivez plus à lire or aujourd'hui quand on regarde les classements PISA notamment de la France c'est une catastrophe vous avez des gens qui arrivent au collège et qui ne savent plus déchiffrer ou qui déchiffr avec difficulté là ce n'est pas possible donc premierre élément de réponse deuxème élément de réponse ensuite oui bien sûr qu'il faut avoir une littératie numérique mais la littératie c'est pas les écrans encore une fois ça peut l'être il faut avoir savoir comprendre ce qu'il y a dans la machine mais la littératie c'est la géopolitique c'est l'histoire c'est la géographie ce sont les humanités la philosophie la théorie politique les sciences civiques donc c'est en fait fabriquer des citoyens libres mais librees de réfléchir libre de penser l'esprit critique en soi ne veut rien dire c'est en fait des capacités cognitives qu'on va optimiser pour faire que demain vos citoyens soient en capacité d'exercer leurs droits et donc d'être présent à leur monde donc ça c'est mon deuxème ma ma mon deè élément de réponse 3è élément de réponse beaucoup plus pragmatique en terme de politique publique en France on a les grands programmes France 2030 euh la coordination Ia nationale et cetera et vous allez vous avez euh récemment eu des annonces pour dire que en France partout vous allez avoir des cafés Ia euh organisés avec tout un tas de d'acteurs locaux et cetera qui en fait vont inviter les citoyens à venir se familiariser avec l'outil mais aussi avec ce qu'il y a autour de de l'outil les enjeux des biiaias des reproductions de discrimination et cetera la question de l'information la désinformation bon c'est bien parce que il n'y a pas que la question de l'école il y a aussi les adultes il y a aussi les seniors ça se joue en fait sur l'ensemble de la population ce n'est pas que la focale jeune tout le monde est concerné donc vous pouvez avoir ce type de format là après je terminerai peut-être sur un quelque chose de plus évanescant comme réflexion mais à laquelle moi je tiens de plus en plus plus il y a quelques semaines de ça j'étais au Festival du Livre de Paris et on m'avait mis en discussion avec un un écrivain donc un auteur de science-fiction et de roman d'anticipation et on s'était très bien entendu et on était arrivé à la à la à la conclusion suivante votre vie numérique tout ce que vous faites derrière les écrans est une vie en soi ce qui fait que en fait aujourd'hui on a en permanence deux existences à gérer la vie réelle et la vie sur écran et c'est une existence à gérer en soi moi je vois le temps que je passe sur les réseaux sociaux c'est une identité en soi qu'on fane qu'on bichonne qu'on articule toute la narration autour les messages les photos les posts l'actualité les événements les mails c'est une vie en soi une vie soci en soi donc on a deux vies on a deux existences avec une asymétrie fondamentale c'est que sur vos vies numériques vous avez une transparence quasi totale de ce que vous faites ce que vous êtes soit parce que vous le produisez c'est ce que je disais en début d'intervention soit parce qu'en fait par toutes les datas on sait exactement ce que vous faites est-ce que vous mentez à Google jamais ou alors vous êtes complètement psychopathe on ne ment pas à Google donc en fait il y a une forme de transparence et on se livre on se livre pratiquement sans filtre sans phare h et même quand vous mentez on sait que vous mentez par toutes les données par ailleurs qu'on a sur vous donc vous ne mentez jamais vous n'arrivez pas à mentir vous n'arrivez pas à travestir sur sur les plateformes ou derrière les écrans et donc dans cette are de transparence qui est en train de devenir une forme de transparence totale où vous êtes transparent de le diser on devient des dividuels qu'on a on est en train au fur à mesure de supprimer le un de individuel c'estàdire le un de l'indétermination de l'imprévisible ce qui fait en fait la vie les surprises la contingence le droit à ne pas être réductible un algorithme et donc pendant ce festival et j'en arrive à ma chute on s'est dit que d' d'une certaine façon il sait pour répondre à la question de l'école mais qui en fait une question beaucoup plus large les poches de résistance le lieu de la complexité le lieu de l'imprévu ce sont les lieux physiques c'est en fait la vraie vie qui devient paradoxalement la vie de résistance la vie on a le droit de mentir on a le droit de tromper on a le droit de travestir on a le droit à la complexité on a le droit à l'ambivalence on a le droit à l'ambigué et c'est ce changement là où tout d'un coup vous avez votre vie numérique qui est fondamentale et omniprésente qui Estelle totalement transparente et vous êtes plus transparent que transparent ben supposeant miroir qu'on investisse beaucoup plus la vie réelle donc les lieux physiques donc l'école l'univers les fac comme ici aujourd'hui se voir parce que c'est là où se crée le lien donc c'est là où se crée la conversation donc c'est là où se crée la démocratie