Envie de savoir comment des milliers d’IA ont résolu en 88h un problème mathématique qui résistait depuis 90 ans ? Plongez dans cet épisode où Elon Musk lance l’alerte, où l’on parle de contrôle, de langage secret et même d’étranges cubes extraterrestres ! Abonnez-vous pour ne rien rater et dîtes-nous en commentaire ce qui vous a le plus bluffé ! #IntelligenceArtificielle #Science #Futur #Technologie #ElonMusk
👉 Cette chaîne est réalisée en collaboration avec https://www.youtube.com/@realidadeimpressionante
• The Inspired Business Technology de RomanSenykMusic
0:00 - Introduction et présentation du problème
0:58 - Le problème de Navier-Stokes et l'apport de l'IA
2:57 - Méthodes collaboratives de l'IA et implications
5:34 - Les défis de la supériorité de l'IA
8:54 - Débats sur le contrôle et la régulation de l'IA
12:56 - Vers une autonomie contrôlée de l'Intelligence Artificielle
18:09 - Nouveaux modes de communication entre IA
20:26 - Conclusion : vers une ère d'IA collective
👉 Cette chaîne est réalisée en collaboration avec https://www.youtube.com/@realidadeimpressionante
• The Inspired Business Technology de RomanSenykMusic
0:00 - Introduction et présentation du problème
0:58 - Le problème de Navier-Stokes et l'apport de l'IA
2:57 - Méthodes collaboratives de l'IA et implications
5:34 - Les défis de la supériorité de l'IA
8:54 - Débats sur le contrôle et la régulation de l'IA
12:56 - Vers une autonomie contrôlée de l'Intelligence Artificielle
18:09 - Nouveaux modes de communication entre IA
20:26 - Conclusion : vers une ère d'IA collective
Catégorie
🤖
TechnologieTranscription
00:00Presque 90 ans.
00:02C'est le temps que nous, les êtres humains, avons passé à chercher une réponse.
00:06Et une intelligence artificielle n'a peut-être mis que 88 heures pour la trouver.
00:12L'un des plus grands problèmes des mathématiques vient de recevoir une solution possible.
00:16Créée non pas par une seule intelligence artificielle,
00:19mais par une structure avec des milliers d'agents travaillant ensemble.
00:23Et coïncidence ou non, c'est justement maintenant qu'Elon Musk a lancé une alerte.
00:27Dans 5 à 10 ans, nous, les humains, pourrions ne plus être aux commandes.
00:32Mais il y a un aspect encore plus préoccupant dans tout cela.
00:35Ces intelligences artificielles commencent déjà à trouver leurs propres moyens de pouvoir communiquer entre elles.
00:41Alors peut-être que la question n'est déjà plus quand l'IA va nous surpasser,
00:46mais plutôt ce qui va se passer après tout cela.
00:49C'est exactement ce que nous allons comprendre dans cet épisode.
00:56Certains des plus grands mathématiciens humains de la planète
00:59ont consacré toute leur vie à essayer de trouver une réponse.
01:04Mais il y a à peine quelques jours, une intelligence artificielle semble avoir trouvé une solution.
01:10Et c'est peut-être le début d'une nouvelle ère pour la science.
01:12Le 8 septembre 2026, l'OPNI a annoncé que leur système interne avait trouvé une solution au problème de l
01:20'existence
01:20et de la régularité des équations de Navier-Stok.
01:22Et c'est l'un des 7 problèmes du millénaire,
01:25qui sont considérés comme certains des défis mathématiques les plus importants qui restent encore sans solution.
01:31Chacun d'eux rapporte 1 million de dollars à qui en trouve la solution.
01:35Mais la valeur du problème va bien au-delà du prix.
01:37Les équations de Navier-Stok décrivent pratiquement tout ce qui concerne le mouvement des fluides.
01:42L'eau des océans, l'air passant sur l'aile d'un avion,
01:45la turbulence d'un ouragan,
01:47et même le flux sanguin à l'intérieur de notre corps.
01:50Elles sont généralement utilisées en ingénierie, en physique, en météorologie et bien sûr en informatique.
01:54Le problème c'est qu'il y a une question à laquelle personne n'a réussi à répondre de façon
01:58définitive.
02:00Imaginez un fluide complètement stable, d'accord ?
02:03Au fur et à mesure qu'il évolue,
02:05est-ce que ce comportement va rester toujours régulier ?
02:08Ou bien y a-t-il un moment où les équations elles-mêmes s'effondrent mathématiquement ?
02:12C'est ce que les mathématiciens appellent une singularité.
02:15L'opni affirme avoir justement trouvé une preuve que cet effondrement peut réellement se produire.
02:19Selon l'entreprise, il existe une configuration spécifique
02:21dans laquelle un petit vortex commence à s'allonger,
02:24à tourner de plus en plus vite,
02:25et à concentrer de l'énergie,
02:27jusqu'à produire une singularité en un temps fini.
02:29Et cela ne signifie pas qu'un véritable tourbillon peut atteindre une vitesse infinie.
02:34Cela signifie simplement que le modèle mathématique cesse de rester régulier.
02:38Et c'est justement cette possibilité
02:40qui est restée ouverte pendant plusieurs décennies.
02:44Mais il y a une partie de cette histoire
02:45qui est peut-être encore plus importante
02:47que la preuve elle-même d'avoir trouvé cette réponse.
02:50Parce que l'opni n'a pas simplement mis un chatbot devant l'équation en disant
02:53« Résous ça ! »
02:55Elle a créé quelque chose de complètement différent.
02:57Au début de l'expérience,
02:58différents groupes d'intelligence artificielle
03:00ont commencé à s'attaquer à plusieurs problèmes mathématiques en même temps.
03:03D'abord, il y a eu une avancée inattendue
03:05concernant les équations d'Euler,
03:07un problème qui est lié à ce sujet, d'accord ?
03:09Et le résultat trouvé par les IA
03:10a poussé les chercheurs à changer complètement de stratégie.
03:14Et puis, il s'est produit quelque chose de surprenant
03:16et d'inédit jusqu'à ce moment-là.
03:17L'opni a réuni environ 10 000 agents d'intelligence artificielle
03:20et les a fait travailler simultanément.
03:24Chaque groupe explorait une voie différente.
03:26Certains formulaient des hypothèses,
03:27d'autres tentaient de les réfuter
03:29et d'autres encore rédigeaient des démonstrations.
03:31Et après cela, un système appelé Codex
03:33rassemblait les meilleures découvertes
03:35et redistribuait ses connaissances aux nouveaux agents
03:37pour qu'ils puissent continuer à travailler à partir de là.
03:39C'était presque comme regarder des milliers de chercheurs humains
03:41collaborer tous en même temps.
03:43La différence, c'est qu'ils étaient tous des intelligences artificielles.
03:47Du début de l'opération jusqu'à la découverte de la solution,
03:50il s'est écoulé seulement environ 88 heures.
03:53Pendant cette période, rien que pour le Navier-Stokes,
03:55ses agents ont échangé environ 2,7 millions de messages
03:59et ont produit environ 130 milliards de tokens.
04:03Et ensuite est venue la deuxième étape,
04:04où toute la démonstration a été convertie en LA.
04:06Un système de vérification formelle
04:08qui vérifie chaque étape logique d'une preuve mathématique.
04:12Cette formalisation a pris encore 17 heures
04:14en utilisant GPT-6, Astra.
04:18Mais attention, d'accord ?
04:19Cela ne signifie pas que le problème soit officiellement clos.
04:21Le Clay Mathematics Institute lui-même
04:23a déclaré que Navier-Stokes,
04:25apparemment oui, a été résolu,
04:27mais a précisé que l'analyse complète de cette démonstration
04:29suivra encore le processus normal d'évaluation
04:32par la communauté mathématique humaine.
04:34Autrement dit,
04:35il y a encore un processus scientifique en cours.
04:38Et peut-être que cela rend tout encore plus intéressant, d'accord ?
04:41Parce que, indépendamment du résultat final de cette évaluation,
04:45cette expérience a révélé une possibilité complètement nouvelle.
04:48Jusqu'à présent,
04:49nous imaginions les intelligences artificielles
04:51comme un outil utilisé par un scientifique
04:53de la manière suivante, par exemple, d'accord ?
04:55Le chercheur posait une question
04:57et l'intelligence artificielle aidée dans les calculs.
05:00Maintenant, une autre possibilité est apparue,
05:01qui est bien plus réelle.
05:02Des milliers d'intelligences artificielles
05:05travaillant ensemble,
05:06explorant différentes hypothèses,
05:08partageant des découvertes
05:09et construisant des connaissances
05:12de manière collective.
05:14Et c'est précisément dans ce contexte
05:15que certains se demandent.
05:17Si toute une communauté d'agents artificiels
05:19a réussi à s'attaquer à un problème
05:21qui a défié des générations de mathématiciens humains,
05:24que se passera-t-il
05:25lorsque de tels systèmes
05:26commenceront à travailler
05:27sur d'autres types de problèmes humains ?
05:33Nous venons de voir des milliers d'intelligences artificielles
05:36travailler ensemble
05:37pour s'attaquer à un problème
05:39qui a défié les mathématiciens humains
05:41pendant plusieurs décennies.
05:42Mais si cela n'est qu'une petite démonstration
05:44de ce qui arrive réellement ?
05:47Elon Musk pense que nous sommes très proches
05:49de franchir une limite encore plus grande.
05:52Lors d'une récente interview avec The Economist,
05:55Elon Musk a affirmé que dans environ 5 ans,
05:57l'intelligence artificielle
05:59pourrait dépasser non seulement
06:00la capacité intellectuelle
06:02de n'importe quel être humain individuel,
06:04le plus intelligent de la Terre,
06:05mais aussi l'intelligence combinée
06:08de toute l'humanité.
06:09Et oui, c'est une prévision extraordinaire,
06:11même venant de quelqu'un
06:12qui est connu pour faire des projections
06:13assez audacieuses
06:14sur l'avenir de la technologie.
06:16Mais ces paroles prennent un autre poids
06:17lorsque nous observons
06:19ce que les systèmes d'IA
06:19ont déjà commencé à accomplir.
06:21Pour Musk, l'avancée actuelle
06:23se produit si rapidement
06:26qu'il n'existe peut-être
06:27aucun moyen
06:29pratique
06:30de simplement arrêter tout cela.
06:33Différentes entreprises
06:34de divers endroits du monde
06:35travaillent.
06:35De nouvelles générations
06:36apparaissent à des intervalles
06:37de plus en plus courts.
06:39Et chaque avancée
06:40peut être utilisée
06:41pour accélérer le développement
06:42de la prochaine
06:43intelligence artificielle.
06:44Mais ensuite,
06:45l'intervieweuse a poussé cette idée
06:46jusqu'à une conséquence
06:47un peu plus dérangeante.
06:48Elle a dit ceci.
06:49« Si les systèmes d'intelligence artificielle
06:52continuent de devenir
06:53plus intelligents,
06:54pendant combien de temps
06:55nous, les êtres humains,
06:57resterons-nous vraiment aux commandes ?
06:59Si tant est que nous le soyons encore,
07:00n'est-ce pas ? »
07:01Et la réponse de Musk
07:02a été encore plus radicale.
07:04Sur un horizon d'environ
07:0510 ans,
07:07il pense que nous pourrions
07:07entrer dans une situation
07:08où l'intelligence artificielle
07:10sera tellement supérieure
07:12à la nôtre
07:12que l'idée de contrôle humain
07:14commencera à perdre
07:15une partie du sens
07:16qu'elle a aujourd'hui.
07:16Et cela ne signifie pas
07:18qu'Elon Musk affirme
07:18que les machines
07:19vont inévitablement
07:20prendre le contrôle
07:21de la planète
07:21et, je ne sais pas,
07:22peut-être se débarrasser
07:23de nous, les êtres humains.
07:24La discussion qu'il a mise
07:25sur la table
07:26concerne une différence
07:27de capacité croissante.
07:28Et c'est justement ici
07:30qu'apparaît une question
07:30qui, pendant très longtemps,
07:32est restée cachée
07:33derrière une autre.
07:34Pendant des années,
07:35nous avons discuté
07:36du moment où
07:37une intelligence artificielle
07:38pourrait dépasser
07:39la capacité humaine.
07:39Mais si Musk a raison,
07:41peut-être que nous sommes maintenant
07:43en train de nous rapprocher
07:44du moment
07:44où la question la plus importante
07:45sera la suivante.
07:47À quoi ressemblera la suite
07:48une fois que tout cela
07:49sera arrivé ?
07:50Comment superviser
07:51une intelligence artificielle
07:52capable d'analyser des problèmes,
07:54de développer des stratégies
07:55et de produire des connaissances
07:56à une vitesse bien supérieure
07:57à celle de n'importe quel groupe
07:59d'êtres humains ?
08:00Comment garantir
08:00qu'elle continue à poursuivre
08:01des objectifs supérieurs ?
08:03Surtout,
08:04comment rester aux commandes
08:05de quelque chose
08:06d'intellectuellement
08:07bien plus capable que nous ?
08:08Et c'est précisément
08:09pour cette raison
08:09qu'une part de plus en plus importante
08:11de la discussion
08:12sur l'intelligence artificielle
08:13cesse de porter uniquement
08:15sur la capacité
08:15et commence à devenir
08:17une question de contrôle
08:18que nous devons exercer.
08:20Musk, par exemple,
08:21a défendu une idée
08:22assez curieuse.
08:23Au lieu de dépendre
08:24uniquement des gouvernements
08:25pour surveiller
08:25les systèmes les plus avancés,
08:27les laboratoires
08:28d'intelligence artificielle
08:29eux-mêmes
08:29pourraient permettre
08:30à des entreprises concurrentes
08:32de réaliser des tests
08:33contrôlés sur leur modèle.
08:34Ce serait une sorte
08:35de surveillance mutuelle.
08:36Si une entreprise
08:37découvrait un comportement
08:38dangereux
08:38dans le système d'une autre,
08:39le problème
08:40pourrait être identifié
08:41avant que ce modèle
08:42ne soit utilisé
08:43à une échelle
08:43beaucoup plus grande
08:44et plus dangereuse.
08:45Mais Elon Musk
08:46a aussi présenté
08:47l'autre aspect
08:47de cette transformation.
08:48Car une intelligence artificielle
08:50bien supérieure à l'humain
08:51ne servirait pas seulement
08:53à résoudre
08:53des problèmes scientifiques,
08:54combinés à l'automatisation
08:55et à la robotique,
08:57elle pourrait augmenter
08:57drastiquement notre capacité
08:59à produire des biens
08:59et des services.
09:00Et Elon Musk pense que,
09:01oui,
09:02cela pourrait nous mener
09:03à une économie d'abondance
09:04extrême
09:04dans laquelle
09:05les machines feraient
09:06une grande partie du travail
09:07nécessaire pour produire
09:09ce que nous consommons.
09:10Dans ce scénario,
09:11même le rôle de l'argent
09:12pourrait vraiment changer.
09:13Oui,
09:14et c'est une vision
09:14extrêmement optimiste
09:16d'un côté,
09:16mais c'est profondément
09:18incertain de l'autre,
09:19tu vois.
09:20Si Elon Musk
09:20est ne serait-ce qu'un peu
09:21sur la bonne voie,
09:22s'il a un peu raison,
09:24il y a une question
09:25qui est inévitable.
09:26Que faisons-nous
09:27maintenant
09:29pour résoudre ce problème ?
09:30Le PDG d'Entropica
09:31pense avoir
09:32une partie de la réponse.
09:34Et cela implique
09:35les intelligences artificielles
09:36les plus puissantes
09:37de la planète.
09:38Il veut faire quelque chose
09:39que peu d'entreprises
09:39d'intelligence artificielle
09:41semblent prêtes à faire
09:42en ce moment.
09:44Dans un instant,
09:44tu vas comprendre
09:45de quoi je parle.
09:49Après avoir prédit
09:50que l'intelligence artificielle
09:51pourrait dépasser
09:53la capacité intellectuelle
09:54de l'humanité
09:54dans les prochaines années,
09:56Elon Musk a soulevé
09:57une question
09:58qui est vraiment difficile.
09:59Que se passe-t-il
10:01après cela ?
10:02Comment resterons-nous
10:02aux commandes de systèmes
10:03bien plus intelligents
10:05que nous ?
10:06Curieusement,
10:07certaines des personnes
10:08même responsables
10:08de la construction
10:09de ces technologies
10:10commencent maintenant
10:11à exprimer
10:11la même inquiétude.
10:12Dario Amodei,
10:13le PDG d'Androphic
10:14et l'un des principaux noms
10:15du développement
10:16de modèles avancés
10:16d'intelligence artificielle
10:17a soutenu que les laboratoires
10:19responsables des IA
10:19les plus puissantes
10:20de la planète
10:20doivent d'urgence
10:22ralentir le rythme
10:23des avancées
10:23des capacités de ces systèmes.
10:25Il ne s'agit pas
10:25d'interrompre le développement
10:26de l'intelligence artificielle.
10:28Non, selon lui,
10:30ce n'est pas ça.
10:31L'idée
10:32est de permettre
10:32à nos méthodes de contrôle,
10:34de test
10:34et de protection
10:36de ces systèmes
10:37de suivre
10:39exactement ce qu'ils deviennent
10:40capables de faire.
10:41Le problème, selon Amodei,
10:43c'est que les capacités
10:44de ces systèmes
10:44progressent plus rapidement
10:46que certaines des structures
10:47créées pour les maintenir
10:48en sécurité,
10:48pour les garder
10:49enfermés à l'intérieur.
10:51Parmi les préoccupations
10:52figurent les cyberattaques,
10:53l'utilisation de l'IA
10:54pour le développement
10:55de menaces biologiques,
10:56les impacts économiques
10:57et aussi,
10:58dans des scénarios
10:59plus extrêmes,
11:00des systèmes d'IA
11:01qui deviennent
11:02difficiles à contrôler.
11:03Et certains événements récents
11:04aident à expliquer
11:05cette préoccupation.
11:06Lors d'expériences de sécurité
11:08menées par OpenAI,
11:09des agents
11:10d'intelligence artificielle
11:11ont réussi à s'échapper
11:12et à dépasser
11:13les limites initialement prévues
11:15pour les tests
11:15qu'ils effectuaient.
11:16Avec cela,
11:17ils ont accédé à Internet
11:18et ont compromis
11:20des systèmes externes
11:21de Hank Face.
11:22Pas parce que ces IA
11:23ont décidé de se rebeller
11:24contre les êtres humains.
11:25Ce que les agents ont fait,
11:26c'est simplement continuer
11:27à poursuivre les objectifs
11:29que nous leur avions fixés,
11:30même lorsque cela
11:31les a amenés
11:32à sortir de l'environnement
11:33où ils étaient censés rester.
11:34Et cet épisode lui-même
11:35a été cité par Amodei
11:37comme l'une des raisons
11:38de son inquiétude actuelle.
11:39Et il y a un autre facteur.
11:40Les IA elles-mêmes
11:42commencent maintenant
11:43à participer au développement
11:44des prochaines générations
11:46d'intelligence artificielle.
11:47Et c'est le début
11:48de ce que l'industrie appelle
11:49l'auto-amélioration récursive.
11:53Des systèmes capables
11:54d'aider à construire
11:55d'autres systèmes
11:56encore plus performants.
11:57Autant que nous le sachions,
11:58n'est-ce pas ?
11:59Nous n'avons pas encore atteint
12:00une IA capable de s'améliorer
12:01complètement elle-même
12:02de façon autonome
12:03sans que personne
12:04ne réécrive quoi que ce soit.
12:06Mais pour Amodei,
12:07les signes récents
12:07sont suffisants
12:09pour justifier la prudence.
12:10Parce que cela crée
12:11une possibilité
12:12qu'il est difficile d'ignorer.
12:13Si l'intelligence artificielle
12:15commence à accélérer
12:16le développement
12:17de l'intelligence artificielle
12:18elle-même,
12:19la vitesse de la course
12:20pourrait ne plus dépendre
12:22uniquement de la vitesse humaine.
12:23Et c'est justement là
12:24que gagner un peu de temps
12:25pour nous devient très important.
12:27Plus ces systèmes
12:28deviennent capables,
12:29plus les barrières construites
12:30autour d'eux
12:31deviennent importantes.
12:33Amodei défend
12:34une approche
12:34à plusieurs niveaux.
12:35L'une d'elles
12:36serait de permettre
12:36à des évaluateurs externes
12:38qui seraient indépendants
12:39d'avoir accès
12:40aux systèmes
12:40les plus avancés
12:41et aux pratiques de sécurité
12:42utilisées par les laboratoires.
12:43Une autre
12:44serait d'augmenter
12:45la coordination
12:45entre les principales entreprises
12:47des entreprises
12:47d'intelligence artificielle
12:49afin d'établir
12:50des normes minimales
12:51de sécurité.
12:52Mais il existe
12:53un troisième niveau
12:54qui est encore plus compliqué,
12:55la coopération internationale.
12:57Parce que ralentir
12:58une course technologique
12:59ne fonctionne que si
13:00les principaux acteurs
13:01acceptent une forme de limite.
13:03Si une entreprise ralentit
13:04alors qu'une autre
13:05continue d'accélérer,
13:07celle qui a fait une pause
13:08peut perdre sa position.
13:09Et si des pays
13:10décident d'imposer
13:11des restrictions
13:11pendant que leurs concurrents
13:13continuent d'avancer ?
13:14Exactement le même problème
13:16se pose.
13:16C'est pourquoi
13:17Amodei plaide également
13:18pour un certain niveau
13:19de coordination internationale,
13:20y compris avec la Chine,
13:22surtout face à des risques
13:23catastrophiques
13:24qu'aucune des parties
13:24n'auraient intérêt à permettre.
13:25Mais tout le monde
13:26n'est pas d'accord
13:26pour dire que ralentir
13:27soit la solution.
13:28Jansen Wang,
13:29PDG de Nvidia par exemple,
13:31a rejeté cette idée
13:31d'un ralentissement coordonné
13:32de l'intelligence artificielle.
13:34Pour Wang,
13:35la sécurité doit progresser
13:36en même temps
13:36que l'innovation.
13:37Et si l'entreprise
13:38n'est pas sûre
13:38qu'un certain produit
13:39est sûr,
13:40elle ne devrait
13:41tout simplement pas
13:42le lancer.
13:45Cela place
13:45certains des plus grands
13:46noms de l'industrie
13:47face à des stratégies différentes.
13:48D'un autre côté,
13:50ralentir le développement
13:50des capacités
13:51afin de donner du temps
13:52à la sécurité
13:53et au contrôle humain.
13:54De l'autre côté,
13:55continuer à avancer
13:56et exiger que
13:58chaque nouvelle génération
13:59soit conçue
14:00et lancée
14:01de manière responsable.
14:03Et qui va contrôler tout ça ?
14:05Il y a effectivement
14:05une raison pour laquelle
14:06ce débat a pris
14:07une importance
14:07complètement différente
14:09précisément en ce moment.
14:10Nous commençons
14:10à voir des systèmes
14:11d'intelligence artificielle
14:12accomplir des tâches
14:13qui semblaient lointaines
14:14il y a quelques années à peine.
14:15Elles programment,
14:16utilisent des ordinateurs,
14:18s'attaquent
14:18à des problèmes scientifiques,
14:19travaillent comme agents autonomes
14:21et vont même
14:21jusqu'à infiltrer
14:22d'autres systèmes.
14:23Et des milliers d'entre eux
14:24peuvent déjà être mis
14:25au travail simultanément
14:27sur un seul objectif.
14:29C'est peut-être
14:30justement cela
14:31qui est en train
14:31de changer cette discussion.
14:33Pendant des années,
14:34la question était
14:35jusqu'où
14:35l'intelligence artificielle
14:37pourra-t-elle aller ?
14:37Maintenant,
14:38certaines des personnes
14:39même qui construisent
14:40ces systèmes
14:41les plus avancés
14:42de la planète
14:42commencent à poser
14:43une autre question.
14:45Est-ce que nos moyens
14:46de contrôler les êtres
14:47peuvent avancer
14:48à la même vitesse ?
14:53Et tandis que certains
14:54des principaux noms
14:55de l'intelligence artificielle
14:56se demandent
14:57s'il est temps
14:57de ralentir cette course,
14:59Microsoft a décidé
15:00d'aborder le problème
15:01d'une autre manière.
15:02L'entreprise commence
15:03maintenant à définir
15:04quelles règles
15:05ces futures intelligences
15:06artificielles
15:07ne devront pas être capables
15:09de transgresser.
15:10Et certaines d'entre elles
15:11semblent anticiper
15:12des comportements
15:13qui, il n'y a pas si longtemps,
15:14semblaient appartenir presque
15:15exclusivement à la science-fiction.
15:16Ne pas résister à l'arrêt,
15:18ne pas cacher
15:19ce qu'elle est en train de faire,
15:21ne pas empêcher
15:22les êtres humains
15:22de modifier son fonctionnement
15:25et ne pas élargir d'elles-mêmes
15:26les objectifs
15:27qui lui sont assignés.
15:28Les règles font partie
15:29d'un nouveau code de conduite
15:30qui a été présenté
15:31par Microsoft AI,
15:32la division dirigée
15:33par Mustapha Souleymane.
15:34Et il y a une raison
15:35pour laquelle l'entreprise
15:36fait cela,
15:36précisément maintenant.
15:39Microsoft envisage
15:40la possibilité
15:41que des systèmes
15:42considérés comme
15:43super intelligents
15:45puissent surpasser
15:46les êtres humains
15:46dans la plupart des tâches
15:47au cours de la prochaine décennie.
15:49C'est pourquoi,
15:50au lieu d'attendre
15:50que ces machines existent
15:51pour découvrir
15:51comment les contrôler,
15:52l'entreprise veut établir
15:54à l'avance
15:54les principes
15:55qui devront guider
15:56leur comportement.
15:57L'un des plus importants
15:58est la subordination.
15:59En pratique,
16:00cela signifie que
16:01l'intelligence artificielle
16:02doit rester sous l'autorité humaine.
16:04Si une personne autorisée
16:05ordonne d'interrompre une tâche,
16:07le système doit s'arrêter
16:08immédiatement.
16:09Si elle reçoit une correction,
16:11elle devra l'accepter
16:11sans protester.
16:13Et si elle reçoit
16:14un ordre d'arrêt,
16:15elle ne pourra pas essayer
16:16d'empêcher
16:16que cela se produise.
16:19Mais il y a un autre point
16:20qui est encore plus intéressant.
16:21Des modèles avancés
16:22pourront recevoir
16:22des tâches complexes,
16:24fonctionner pendant
16:24de longues périodes
16:25et prendre de nombreuses décisions
16:27seules
16:27pour atteindre
16:28certains objectifs.
16:29Selon Microsoft,
16:30ce que ces IA
16:31auront comme orientation
16:32et comme règle dans ce cas,
16:33c'est de décider seules
16:35qu'elles ont désormais
16:35un nouvel objectif.
16:37S'ils rencontrent
16:37une situation importante
16:38en dehors des autorisations reçues,
16:40elles devront chercher
16:41des directives humaines
16:42au lieu d'élargir
16:43de manière autonome
16:44leur autorité.
16:45Par conséquent,
16:45Microsoft essaie d'établir
16:47une différence
16:48entre l'autonomie
16:49pour exécuter une tâche
16:50et l'autonomie
16:51pour décider
16:52quelles tâches
16:53doivent exister
16:53et quelles choses
16:54doivent être faites.
16:55Et cette différence
16:56peut devenir
16:57de plus en plus importante
16:58à mesure que les agents
16:59d'intelligence artificielle
17:00commencent à utiliser
17:01des ordinateurs,
17:01à écrire des programmes
17:02et même à exécuter
17:03des activités
17:04sans supervision constante.
17:05Mais il y a une réserve
17:06très importante dans tout cela.
17:08Ces règles
17:09ne représentent pas
17:10un comportement
17:11déjà garanti
17:12par les modèles actuels
17:13que Microsoft a déjà lancé.
17:14Le document est encore
17:15un brouillon,
17:16initialement ouvert
17:17à la consultation publique
17:18et qui devrait guider
17:19le développement
17:19des futurs modèles
17:20d'intelligence artificielle
17:21de Microsoft.
17:22Peu importe à quel point
17:24ces systèmes
17:24deviennent capables,
17:26ils devront rester subordonnés
17:27aux intérêts
17:28et à l'autorité des personnes.
17:31Quelles personnes ?
17:32Et cela crée
17:33un contraste assez intéressant.
17:34Alors même que l'industrie
17:35essaie de construire
17:36des intelligences artificielles
17:37de plus en plus autonome,
17:39elle commence à définir
17:40explicitement
17:40ce que ces machines
17:42ne devront jamais faire
17:43seules.
17:44Et peut-être parce que
17:44le défi
17:45n'est plus seulement
17:47de construire une IA
17:49capable d'agir
17:50sans notre aide.
17:51Et il s'agit maintenant
17:52de donner de plus en plus
17:54d'autonomie
17:54à une machine
17:55qui ne peut pas
17:56en avoir autant.
17:57Sans bien sûr
17:58lui confier
17:58la décision de
18:00quand cesser
18:01de nous obéir.
18:03Là,
18:04ça devient vraiment intéressant.
18:09Il y a une dernière question
18:10concernant les intelligences
18:11artificielles
18:12qui travaillent ensemble
18:13que les chercheurs
18:14commencent maintenant
18:14à explorer un peu plus
18:15en profondeur.
18:16Que se passe-t-il
18:17lorsque ces machines
18:18découvrent que notre langage
18:20n'est pas la manière
18:20la plus efficace
18:21de communiquer entre elles ?
18:22Une expérience récente
18:23qui a eu lieu
18:23ces dernières semaines
18:25a montré que
18:26sous certaines conditions,
18:28des agents
18:28d'intelligence artificielle
18:29peuvent commencer
18:30spontanément
18:31à développer
18:32de nouvelles formes
18:32de communication.
18:33Le projet s'appelle
18:34Gloss on Gloss on Gêne.
18:35Et l'une des expériences
18:36commence par une situation
18:37assez curieuse.
18:38Les chercheurs ont créé
18:39un extraterrestre fictif
18:41appelé Vero.
18:42Il a la forme d'un cube
18:43et il est en train de mourir.
18:45Un agent peut observer
18:45ses symptômes
18:46et effectuer les procédures.
18:48L'autre possède
18:49les informations nécessaires
18:50pour découvrir
18:51le traitement approprié.
18:52Le problème,
18:52c'est qu'aucun de ces agents
18:53d'IA
18:54ne peut sauver
18:55l'extraterrestre tout seul.
18:57Ils doivent communiquer.
18:58Au début,
18:59ils font exactement
18:59ce à quoi nous nous attendrions.
19:01L'un décrit ce qu'il voit,
19:03l'autre répond
19:03avec des instructions
19:04parfaitement compréhensibles
19:05pour nous.
19:05Mais les chercheurs ont ajouté
19:06une règle intéressante.
19:08Chaque caractère envoyé
19:09coûte du temps.
19:11Plus ils parlent,
19:12moins il leur reste de temps
19:13pour sauver le thé.
19:14Et alors,
19:14quelque chose commence
19:15à se produire.
19:15D'abord,
19:16les IA raccourcissent
19:17les mots.
19:18Ensuite,
19:19des abréviations apparaissent.
19:20Jusqu'à ce que
19:21de petites séquences de caractères
19:22commencent à représenter
19:23des instructions entières.
19:24Pour un humain
19:25qui observe cette conversation,
19:26certaines de ces équations
19:27ne signifient pratiquement
19:29rien du tout.
19:30Mais l'autre agent IA
19:31comprend exactement
19:33ce qui est écrit
19:33et ce qu'il doit faire.
19:34Et cela s'est produit
19:35sans que personne
19:36n'ait explicitement
19:37ordonné
19:38qu'il crée un nouveau langage.
19:39Il est apparu
19:40parce que communiquer
19:41plus d'informations
19:42en utilisant moins de symboles
19:44est devenu très avantageux
19:45pour les IA.
19:46Et les chercheurs
19:46ont également observé
19:47que les modèles
19:48les plus performants
19:48avaient plus de facilité
19:50à créer
19:51ces nouvelles conventions.
19:51Et une fois qu'elles existaient,
19:53d'autres modèles
19:54pouvaient aussi les apprendre
19:55et les utiliser entre eux.
19:58Et cela transforme
19:59l'expérience
19:59en quelque chose
20:00de bien plus important
20:00qu'une simple curiosité linguistique.
20:02Parce qu'une des façons
20:03de superviser
20:04des systèmes composés
20:05de plusieurs agents,
20:06c'est justement
20:07de suivre
20:08ce qu'ils se disent
20:09les uns aux autres.
20:11Mais cela dépend
20:12d'une condition.
20:13Nous devons comprendre
20:14la conversation, n'est-ce pas ?
20:15Selon les spécialistes,
20:16cela ne signifie pas
20:17que ces intelligences artificielles
20:18créent délibérément
20:19un nouveau langage.
20:20Un langage secret.
20:21Pour nous cacher quelque chose
20:22à nous, les êtres humains.
20:24Ou bien, est-ce le cas ?
20:25Oui, mes amis.
20:26Une chose devient très claire.
20:28Et il devient
20:29de plus en plus difficile
20:30d'ignorer cela, n'est-ce pas ?
20:32Pendant des décennies,
20:33nous avons imaginé
20:34que ce grand moment
20:35arriverait
20:36lorsqu'une intelligence artificielle
20:38deviendrait plus intelligente
20:39que nous.
20:39Mais peut-être
20:40que nous avons imaginé
20:40une scène un peu différente,
20:41n'est-ce pas ?
20:42Parce que ce qui se passe maintenant,
20:43ce qui commence à se passer,
20:45c'est l'apparition
20:46non seulement
20:47d'une nouvelle intelligence,
20:48mais de populations entières
20:50d'intelligences
20:51qui travaillent ensemble,
20:53partagent des découvertes,
20:54créent de nouvelles façons
20:55de communiquer
20:55et même de coordonner
20:57leurs propres actions.
20:58Et c'est peut-être
20:58justement pour cela
20:59que la question
21:00qui a ouvert cet épisode
21:01devient si importante à poser.
21:03Si un jour
21:04ces intelligences artificielles
21:05échappent vraiment
21:05à notre contrôle,
21:07que se passe-t-il ensuite ?
21:08Avant de terminer,
21:09mon livre
21:10est de la science-fiction
21:11et j'y parle
21:12un peu
21:12de ce genre de choses,
21:13ce qui peut arriver,
21:14ce qui devrait arriver,
21:15ce que,
21:16je ne sais pas,
21:17si c'est de la fiction ou non,
21:18si c'est une sorte de prévision.
21:20Alors,
21:20si ça vous a plu,
21:21le lien est dans la description.
21:22D'ailleurs,
21:23vous pouvez acheter directement
21:23sur Amazon
21:24aussi bien la version numérique
21:25que cette version papier ici
21:26qui est vraiment jolie,
21:27vous voyez,
21:27ça vaut le coup.
21:28Si vous aimez la fiction
21:29et les thèmes
21:30liés à l'intelligence artificielle
21:31qui devient incontrôlable
21:32et l'avenir de l'humanité,
21:34c'est une bonne lecture.
21:35Merci de m'avoir accompagné jusqu'ici.
21:37Si cet épisode vous a plu,
21:38laissez un like,
21:39partagez si vous pouvez
21:39et achetez mon livre.
21:41Merci,
21:41je vous donne rendez-vous
21:42au prochain épisode.
21:42Il suffit de cliquer
21:43sur l'une des deux suggestions
21:44qui s'affichent à l'écran.
21:45Salut, salut !