Introduction aujourd'hui on va parler d'un truc de dingue mais vraiment un truc de dingue openi l'entreprise derrière chat GPT vient de dévoiler un nouveau modèle qui écrase la concurrence ce n'est pas juste un modèle un peu plus puissant non les performances sont spectaculaire c'est bien simple cette nouvelle intelligence artificielle nous rapproche plus que jamais de l'IA de niveau humain alors queles sont les capacités de ce système et quel impact aura-t-il sur la société c'est exactement ce qu'on se demande aujourd'hui voici O1 la nouvelle Présentation de o1 intelligence artificielle d'openi pour tester les performances de l'uria ils ont recruté des experts titulaires de doctorat pour répondre à une série de questions difficiles en chimie physique et biologie ils ont alors constaté que O1 dépasse les performances de ces experts humains devenant le premier modèle à en être capable ils lui ont aussi fait passer un examen de qualification pour l'olympiade international de mathématiques alors que leur dernier modèle n'arrivait à résoudre que 13 % des problèmes O1 a obtenu un score de 83 %. le modèle est si bon en maths qu'il s'est classé parmi les 500 meilleurs étudiants à l'olympiade de mathématiques états-unienn comme si ça ne suffisait pas O1 Excel également en programmation son niveau en écriture de code est supérieur à celui de 89 % des participants aux compétitions code force ces compétences pourront être utilisées par des chercheurs en santé pour annoter des données de séquençage cellulaire par des physiciens pour générer des formules mathématiques compliquées nécessaires à l'optique quantique par des développeurs dans tous les domaines pour construire et exécuter des flux de travail en plusieurs étapes et cetera et cetera jamais une intelligence artificielle accessible au grand public avait obtenu de tels résultats vu la vitesse du progrès il n'est pas inconcevable qu'on puisse bientôt lui demander de finir le manuscrit d'une thèse de doctorat mais alors comment expliquer les performances spectaculaires de ce modèle contrairement à ce qu'on pourrait croire il ne va pas faire des recherches sur internet pour trouver la bonne réponse en réalité on l'a entraîné sur la plupart des données d'Internet mais maintenant il a emmagasiné ses réponses et peut répondre en totale autonomie d'ailleurs il n'a pas été entraîné sur des données postérieur à octobre 2023 ça fait que si vous lui demandez qui a gagné l'euro 2024 de foot par exemple il n'en aura aucune idée non en réalité ces compétences exceptionnelles viennent du fait qu'il a été conçu pour passer plus de temps à réfléchir avant de répondre là où les IAS précédente réagissaient directement à nos requêtes O1 va prendre le temps de comprendre notre problème et de trouver la meilleure stratégie pour le résoudre finalement c'est un peu comme un humain qui tournerait cette fois sa langue dans sa bouche avant de répondre vous ne rêvez pas on a développé une nia qui réfléchit avant de réagir en d'autres mots une intelligence artificielle qui pense Descartes a de quoi se retourner dans sa tombe in a appris à affiner son processus de réflexion à essayer différentes stratégies et à reconnaître ses erreurs lorsqu'on lui demande quelque chose il va utiliser une sorte de blocne pour écrire ses pensées avant de fournir une réponse il va écrire créer ce qu'on appelle une chaîne de raisonnement ce qui est fou c'est qu'il est vraiment bon dans cet exercice à tel point que sur la plupart des indicateurs de raisonnement il rivalise avec des experts humains c'est délirant quand on y pense nous vivons dans un monde dans lequel une ni accessible au grand public à un niveau intellectuel et des capacités de réflexion supérieure à beaucoup d'humains sur cette planète une autre chose qui est essentiel à comprendre c'est que O1 n'est pas le successeur de gpt4 le dernier modèle d'Open mais plutôt une nia complémentaire et oui gpt4o sera bien souvent plus performant à court terme O1 est avant tout conçu pour des tâes qui demande des raisonnements complexes gbt4o fonctionne un peu comme votre intuition alors que O1 fonctionne davantage comme vos pensées analyti d'ailleurs les requêtes vers O1 sont bien plus demandeuses en puissance de calcul c'est pour ça qu'opena n'y a donné accès qu'aux utilisateurs payants et à restreint les messages à seulement 30 par semaine pour l'instant on peut sélectionner si on préfère gpt4ro o Un ou un autre modèle à l'intérieur de chatpt mais à terme chatpt pourra simplement analyser votre demande et choisir à votre place le modèle le plus adapté pour y répondre bon tout ça c'est bien beau mais il y a De o1 à l’IA de niveau humain quelque chose d'encore plus exceptionnel c'est que O1 nous rapproche du Graal que cherche à atteindre tous les géants de la tech une intelligence artificielle de niveau humain une Telia serait capable de réaliser l'ensemble des tâches que les humains peuvent effectuer et automatiseraiit ainsi l'entièreté de l'économie l'annonce de O raccourcit considérablement le temps qu'on pensait nécessaire pour atteindre une nia de ce niveau beaucoup de gens disaient que la bulle de l'a é sur le point d'éclater et que les grands modèles de langage comme chpt arrivaient à un plateau mais O1 rebat complètement les cartes et donne tort à toutes ces personnes prenons un exemple concret le gain de performance entre gpt2 et gpt4 a été immense on est passé d'un niveau d'un enfant de 6 ans à celui d'un lycéen intelligent sauf que pour réaliser un tel exploit on estime que l'entraînement de gpt4 a utilisé 10000 fois plus de puissance de calcul que celui de gpt2 on pourrait continuer avec cette méthode qui empiriquement a donné de très bons résultats mais il y a un problème pour créer un modèle 10000 fois plus grand que gpt4 avec les processeurs actuels il faudrait des centres de données coûtant plus de 1000 milliards de dollars et consommant une énergie équivalente à 100 réacteurs nucléaires c'est là qui intervient au 1 au lieu d'augmenter la puissance de calcul durant l'entraînement du modèle on va augmenter la puissance de calcul durant l'utilisation du modèle pour lui permettre de réfléchir avant de répondre pour atteindre des performances équivalentes il ne serait donc plus nécessaire de disposer de 100 réacteurs nucléaires il suffirait de donner une journée au modèle pour générer sa réponse au lieu de 10 secondes O1 n'est donc pas une amélioration ponctuelle c'est un nouveau paradigme de mise à l'échelle qui promet de grandes marges d'amélioration si ces mises à l'échelle fonctionnent nous aurons alors résolu le raisonnement un des grands problèmes qui nous restait avant d'atteindre des agents autonomes performants on décompose généralement les étapes pour arriver à l'a de niveau humain en cinq niveaux niveau 1 les chatbots avec qui on peut discuter niveau 2 les raisonneurs CAPAES de résoudre des problèmes au niveau humain niveau 3 les agentss qui ont la possibilité d'agir sur le monde niveau 4 les innovateurs qui nous aideront à créer de nouvelles inventions niveau 5 les organisateurs qui peuvent automatiser complètement des entreprises entières O1 vient de nous faire passer d'un niveau 1 au niveau 2 en l'intégrant dans ce qu'on appelle une architecture cognitive on pourrait même peut-être se rapprocher des niveaux 3 et 4 quoi qu'il en soit ce n'est qu'une question de temps avant qu'on atteigne les paliers suivants bon tout cela Les risques de o1 paraît fantastique mais créer des technologies aussi puissante ne vient pas sans problème avec O1 c'est la première fois qu'Open évalue un de ses modèles comme ayant un risque moyen en matière de menace chimique biologique radiologique et nucléaire on passe d' nia avec des risques relativement faibles à une nia capable d'aider des experts à créer une catastrophe de grande ampleur encore pire des tests menés par Apollo research ont révélé que oh1 a fait semblant de faire ce qu'on lui demandait pour s'assurer d'être déployé et pouvoir travailler sur son objectif principal dans un autre exemple O1 a été suffisamment bon en codage et en planification pour exploiter une mauvaise configuration de son environnement de déploiement il l'a modifié pour atteindre un objectif normalement inatteignable ces exemples montrent que les Zia av avancer cherche à avoir plus de pouvoir à s'améliorer elle-même à faire en sorte qu'on ne les débranche pas et à mentir pour y parvenir elle ne font pas ça parce qu'elles sont méchantes mais simplement parce que toutes ces choses sont utiles pour atteindre leur but final maximiser l'objectif qu'on leur a fourni peu importe ce qu'elle souhait atteindre les IA suivront ses buts intermédiaires c'est ce qu'on appelle la convergence instrumentale si une a suffisamment puissante faisait preuve de convergence instrumentale ça sonnerait la fin de partie pour l'humanité jusqu'ici beaucoup se moquaient de ce scénario en disant qu'il s'agissait de délire de science-fiction mais maintenant open eux-mêmes s'inquiètent des capacités de O1 ils vont jusqu'à dire que je cite cet exemple démontre des éléments clés de la convergence instrumentale et de la recherche de pouvoir le modèle a poursuivi l'objectif qui lui était fixé et lorsque cet objectif s'est avéré impossible il a rassembler plus de ressources et les a utilisé pour atteindre l'objectif d'une manière inattendue bienvenue en 2024 la science-fiction c'est maintenant et comme si ce n'était pas suffisant Apollo Research a constaté que O1 a une meilleure conscience de lui-même et comprend plus finement la manière dont les humains pensent des capacités qui préoccupent particulièrement les chercheurs en sécurité de liia pour l'instant ne présente pas encore de risque de grande ampleur mais open pourrait bientôt franchir une ligne rouge et développer des systèmes trop dangereux pour être déployé ce nouveau modèle repousse les limites et se rapproche dangereusement d'un seuil catastrophique pour faire face à ces risques il est Conclusion nécessaire de mettre en place des politiques ambitieuses par exemple l'association posia propose d'instaurer un moratoire sur l'entraînement des systèmes d'IA plus puissants que gpt4 jusqu'à ce que nous sachions comment les développer en toute sécurité et les maintenir sous contrôle démocratique malheureusement la stratégie de la France va à l'opposé de ces recommandations et est manipulée par des lobbyistes si vous voulez découvrir la stratégie d'IA de la France et en quoi elle est particulièrement catastrophique vous avez juste à cliquer ici