00:00Si on s'est loué avec Kenza, on va s'intéresser aujourd'hui à l'intelligence artificielle.
00:04Alors c'est vrai que ça s'agit beaucoup depuis quelques jours du côté de la Silicon Valley
00:08sur l'éventuelle dangerosité que représenterait l'intelligence artificielle.
00:13Oui ou non risque-t-elle de nous échapper un jour ? C'est la grande question,
00:17mais est-ce vraiment le scénario le plus inquiétant ?
00:20Alors on parle souvent de ce que l'intelligence artificielle pourrait devenir demain.
00:25Mais avant d'imaginer des machines qui nous échappent complètement,
00:28regardons déjà ce qu'elles sont réellement capables de faire aujourd'hui.
00:32Des modèles peuvent désormais enchaîner plusieurs tâches, utiliser des outils,
00:36analyser des informations et fonctionner avec de moins en moins d'interventions humaines.
00:40Cela ne signifie pas pour autant qu'ils sont conscients,
00:43qu'ils ont une volonté propre ou qu'ils cherchent à prendre le contrôle.
00:47Mais ces progrès posent une vraie question.
00:49Que se passe-t-il lorsque nous créons des systèmes capables de résoudre des problèmes
00:53d'une manière que nous ne nous maîtrisons pas toujours ?
00:56C'est justement cette frontière entre les capacités réelles de l'IA
01:00et les scénarios que nous associons encore à la science-fiction
01:04que questionne le philosophe Akash Singh Grator dans son livre
01:07« Will AI murder us all ? »
01:10A quel moment une IA qui exécute nos demandes peut-elle commencer à agir d'une manière
01:15que nous n'avions pas prévue ?
01:17Pour nous aider à mieux comprendre, ce matin avec nous,
01:19M. Daouda Tarek, spécialiste de l'IA à l'UM6P, nous explique.
01:25On va demander très tôt, très vite, à cause de deux raisons.
01:27La première raison est le langage naturel, que vous voyez que l'on parle,
01:30aussi le langage que la plupart des gens utilisent pour interagir avec l'IA.
01:33Ce langage est très très peu défini, c'est-à-dire qu'il y a toujours une part d'interprétation.
01:36Ça veut dire que l'IA va devoir interpréter ce qu'on veut dire
01:39et comment elle va l'interpréter dépend tout simplement de comment elle a été entraînée
01:42et de comment elle est contrôlée.
01:43La deuxième raison, le problème du drift, c'est-à-dire le glissage en français.
01:46N'importe qui qui a travaillé suffisamment avec des agents,
01:49s'en est rendu compte, tout simplement on demande à l'agent de faire quelque chose,
01:51mais au bout d'un moment, l'agent va commencer à faire autre chose.
01:54Oui. Alors, c'est vrai qu'on imagine souvent une intelligence artificielle dangereuse
01:59et c'est vrai qu'on s'en inquiète régulièrement avec des machines qui voudraient nous éliminer.
02:04Et d'ailleurs, l'Organisation des Nations Unies, l'ONU, a même tiré de ce point de vue
02:09la sonnette d'alarme en disant que ça pourrait être dangereux pour l'homme.
02:12Est-ce que c'est ça vraiment le problème ?
02:14Alors, il y a une petite nuance parce que c'est peut-être là que se trouve le malentendu.
02:19Pour vouloir se débarrasser de l'humanité, il faudrait lui prêter des émotions humaines.
02:23La haine, la peur, la jalousie, le désir de domination.
02:26Or, une intelligence artificielle n'a pas besoin de nous détester pour devenir dangereuse.
02:31Imaginez simplement une machine extrêmement performante à qui l'on donne un objectif.
02:35Elle cherche le moyen le plus efficace de l'atteindre.
02:38Mais si, dans son raisonnement, nos valeurs, notre sécurité ou même notre survie ne sont pas des priorités,
02:44elle peut prendre des décisions que nous jugerions absurdes ou inacceptables
02:48sans jamais avoir eu l'intention de nous faire du mal.
02:52Alors, si elle ne partage pas notre logique, cela signifie-t-il forcément qu'elle nous considère comme une menace
02:58?
02:58Et tout de suite, M. Daouda Tarek, spécialiste en IA, nous explique.
03:02L'IA n'a pas d'objectif.
03:04L'IA est une suite des multiplications matricielles hébergées dans un supercalculateur.
03:07Les seuls objectifs de l'IA sont les objectifs des humains qui utilisent l'IA.
03:11Oui, donc on comprend bien, pas d'objectif de la part de l'IA.
03:14Mais ce qu'on en fait, c'est ce qu'on vient de comprendre.
03:17Une intelligence artificielle supérieure ne serait donc pas forcément une intelligence qui nous ressemble davantage.
03:23Exactement, et c'est là que le raisonnement de Rattor devient particulièrement intéressant.
03:27Nous avons tendance à penser que si une machine devient plus intelligente,
03:31elle deviendra aussi plus proche de nous, plus raisonnable, plus compréhensible, peut-être même plus morale.
03:37Mais intelligence et humanité ne sont pas la même chose.
03:40Nous pensons avec un corps.
03:42Nous connaissons la douleur, la peur, la fatigue, la vulnérabilité.
03:46Nous savons ce que signifie dépendre de quelqu'un, perdre quelqu'un, vieillir ou mourir.
03:51Mourir, toutes ces expériences participent à la manière dont nous construisons nos valeurs.
03:56Une machine, elle, peut manipuler des quantités gigantesques d'informations sans avoir vécu quoi que ce soit de tout ça.
04:02Et si un jour, une intelligence artificielle devient largement supérieure à nous,
04:06le danger pourrait justement venir de cette différence.
04:09Elle pourrait comprendre parfaitement ce qu'est la souffrance sans jamais l'avoir ressenti.
04:13Elle pourrait raisonner sur ce qui est bon ou mauvais selon une logique parfaitement cohérente,
04:19mais que nous serions incapables de comprendre.
04:21C'est cette idée d'opacité morale qui est intéressante.
04:24Nous pourrions avoir face à nous une intelligence capable de prendre des décisions extrêmement complexes
04:29tout en étant incapables de comprendre pourquoi elle considère certaines choses comme importantes.
04:35Là est le raisonnement philosophique de l'auteur.
04:37Écoutons maintenant la réponse scientifique de monsieur Daouda Tarek.
04:41J'inviterais les gens à regarder les sites web des compagnies comme OpenAI, Anthropik, etc.
04:45et de regarder combien d'ingénieurs, de métiers spécialisés en IA,
04:47ces compagnies sont en train d'embaucher.
04:49Vous allez voir qu'on a quelques centaines.
04:50Donc si ces compagnies ont besoin de gens pour améliorer le RIA,
04:54c'est que le RIA n'est pas capable de s'auto-améliorer elle-même.
04:56Donc on est encore très loin de ça.
04:58Deuxième chose, c'est que cette idée de singularité,
05:01qui est l'idée qu'à un moment donné, on va atteindre un point
05:04où l'IA est capable de s'auto-améliorer elle-même
05:06et de la serre continue à l'infini et de la serre continue à l'infini,
05:08c'est un peu comme l'idée de l'intelligence artificielle générale,
05:12qui est un terme qui a été très très mal défini à part par les philosophes
05:14et personne n'a demandé aux philosophes ce que ça nous dit.
05:17Donc voilà.
05:17Donc cette idée de singularité, tout simplement,
05:19qui présuppose des choses qui sont extrêmement difficiles à atteindre.
05:23Comme par exemple la puissance de calcul.
05:25Donc les IA sont hébergés dans des supercalculateurs.
05:28Aujourd'hui on est à peu près à la limite de ce qu'on peut faire
05:29en termes de puissance de calcul et en termes d'électricité
05:32que l'on peut allouer à ces IA.
05:34Donc ça veut dire que pour atteindre cette singularité-là,
05:37il va falloir que l'on tombe dans un régime complètement absurde
05:40où l'IA va devoir trouver une façon, en fait,
05:43avec les capacités actuelles,
05:44de prendre possession de la planète au complet
05:46pour construire des usines,
05:47pour pouvoir construire ces supercalculateurs,
05:50pour pouvoir continuer à grossir.
05:51Donc là on est dans un scénario à la matrice et terminator,
05:53on n'en est pas là.
05:55Oui, alors là on n'est plus dans la région artificielle,
05:57on n'est plus dans la philosophie quelque part
05:59et c'est là toute l'importance justement
06:01de tout ce qui se passe à la Silicon Valley
06:03parce que tout ça nous renvoie à une question in fine
06:06qu'on se pose déjà depuis très longtemps.
06:08Une civilisation peut-elle survivre à ses propres progrès ?
06:12Oui, et c'est ici que le livre fait un détour
06:14concernant une énigme scientifique,
06:16le paradoxe de Fermi.
06:18L'univers est immense, il est aussi très ancien.
06:21Il devrait donc, en théorie,
06:22exister d'autres civilisations
06:23capables de développer des technologies avancées.
06:26Alors pourquoi ne voyons-nous aucune trace d'elles ?
06:29Une des hypothèses est particulièrement inquiétante.
06:31Inquiétante, peut-être que les civilisations
06:33finissent par rencontrer ce que les scientifiques
06:36appellent un grand filtre.
06:37Un moment de leur histoire
06:38où elles deviennent suffisamment puissantes
06:40pour transformer leur environnement
06:42mais aussi suffisamment puissantes
06:44pour provoquer leur propre disparition.
06:47Et nous avons déjà franchi plusieurs seuils.
06:49L'arme nucléaire nous a donné pour la première fois
06:51la capacité de détruire notre propre civilisation.
06:53Notre technologie transforme aujourd'hui le climat
06:56et les écosystèmes à une échelle planétaire.
06:58Et désormais, nous développons des systèmes capables
07:01de produire du contenu, de coder, de raisonner,
07:03d'utiliser des outils
07:04et d'agir comme une autonomie croissante.
07:07Alors la question n'est peut-être pas simplement
07:09est-ce que l'IA peut nous détruire ?
07:11La question est plutôt
07:12est-ce qu'une civilisation devient vulnérable
07:15précisément au moment où elle acquiert des technologies
07:17qu'elle ne sait plus totalement contrôler ?
07:20La question reste ouverte, bien entendu.
07:23Et peut-être qu'on arrivera à y répondre.
07:25Il faut y répondre assez rapidement
07:27eu égard à la panique parfois
07:29qui peut s'emparer d'un certain nombre d'acteurs.
07:32Merci beaucoup, Kémyza.
07:33Avec plaisir.
07:33C'était Science & Nouch.
Commentaires