00:00 l'intelligence artificielle c'est plutôt une vision, on veut construire des machines qui puissent remplacer les hommes dans toutes leurs fonctions
00:07 donc faire des machines aussi intelligentes que l'homme, encore il faut s'entendre sur ce que c'est l'intelligence
00:14 parce que là, tout le monde n'est pas d'accord sur ce que c'est l'intelligence.
00:19 - Donc en gros ce sont des machines qui pensent à notre place si on devait le dire comme ça.
00:21 - Qui pensent, qui peuvent penser à notre place mais qui pourront dans un avenir
00:26 pas très lointain agir à notre place, remplacer les hommes comme des robots par exemple, on parle de voitures autonomes
00:34 on parle d'usines autonomes
00:36 donc remplacer l'homme dans toutes les tâches, les tâches quotidiennes, on peut aller très loin.
00:43 - Mais justement ce sont des progrès, c'est un peu le revers de la médaille, il y a d'un côté des progrès formidables, vous avez parlé de
00:49 ces voitures justement sans chauffeur mais il y a aussi des risques, quel risque justement avec cette intelligence artificielle ?
00:56 - Il y a des risques multiples, ça dépend des fonctions que remplissent ces appareils.
01:02 Il y a le risque tout d'abord qu'ils prennent des décisions à notre place donc qu'on ne maîtrise pas ce qu'ils font.
01:09 Parce qu'un problème avec l'intelligence artificielle c'est qu'on ne comprend pas comment
01:15 l'intelligence artificielle fonctionne, c'est à dire contrairement aux ordinateurs classiques, contrairement
01:23 à tout ce qu'on a fait dans la civilisation technique qui est fondée sur la science, on peut prouvoir à comprendre
01:29 et si on ne comprend pas, il n'y a pas de modèles qui expliquent leur comportement donc on peut avoir des surprises.
01:34 - Et ça veut dire qu'en gros des robots un peu comme dans le film "I, Robot" sorti en 2005, des robots pourront
01:39 agir et penser comme nous ou est-ce que vous pensez qu'on peut aller jusque là justement ?
01:43 - Il se peut que les robots qu'on a entraîné à faire un certain nombre de choses
01:49 ne comprennent pas bien leur mission, pour le dire de façon simplifiée, et
01:54 fassent des choses non prévisibles.
01:57 - Et vous avez justement signé un moratoire pour expliquer justement qu'il faut réfléchir au développement de l'IA,
02:03 pourquoi justement avoir signé ce moratoire ? Pour mettre des limites ?
02:06 - Exactement, je pense que les dangers sont multiples donc je parlais d'un comportement non prévisible
02:12 de l'IA mais il y a aussi
02:16 le danger
02:18 que par exemple pour Chatsipiti,
02:20 on donne aux enfants du Chatsipiti et que l'homme devienne trop dépendant
02:28 de ces engins qui peuvent accomplir des tâches extraordinaires.
02:32 Mais je pense que pour un enfant c'est très dangereux
02:36 d'utiliser comme ça Chatsipiti, il faut qu'il apprenne à réfléchir quand même, il faut qu'il apprenne à
02:42 raisonner,
02:45 faire des opérations arithmétiques,
02:48 ça c'est très très important pour l'homme, pouvoir choisir librement et exercer
02:54 ses responsabilités lorsqu'il choisit. - Ça veut dire que c'est aussi dangereux pour les enfants du coup ?
03:00 - Je pense que c'est oui, je pense qu'il faut réglementer, je ne suis pas contre
03:04 ces technologies qui sont extraordinaires et qui auront un rôle très très important pour le développement des connaissances et de l'humanité,
03:12 mais je pense qu'il faut sérieusement réglementer leur usage
03:17 surtout pour les enfants. - J'avais une question qui nous concerne un peu autour de cette table, on a vu il y a quelques
03:22 semaines une chaîne suisse diffuser une météo
03:25 faite par une personne à l'intelligence artificielle, est-ce que vous pensez que ça peut arriver que quelqu'un nous remplace derrière notre micro et
03:33 efface les journaux à notre place, est-ce que ça on pourrait aller jusque là ? - Je pense que non, je pense que
03:40 si on prend comme référence Chatsipiti, parce que c'est ce qu'on sait aujourd'hui,
03:45 Chatsipiti peut faire de belles synthèses,
03:47 mais
03:49 ses réponses ne sont pas forcément cohérentes.
03:52 L'homme peut vérifier la cohérence, il y a des expériences qui montrent que Chatsipiti peut se contredire
03:58 très facilement, par contre Chatsipiti peut faire de très belles synthèses et peut
04:04 faire quelque chose que les hommes ne peuvent pas faire aussi aussi rapidement, par exemple vous pouvez demander à Chatsipiti de faire une synthèse de
04:13 l'histoire de la France du XXe siècle, il vous fera quelque chose. - On l'a vu d'ailleurs,
04:17 on l'a vu avec certains étudiants et lycéens qui font leur faire leur dissertation avec Chatsipiti notamment. - Oui, et ça peut être dangereux, oui,
04:24 parce qu'il faut que les enfants apprennent à rédiger, apprennent à écrire des textes structurés, c'est très très important pour leur personnalité,
04:33 pour leur créativité. - Et qui justement peut mettre des limites ? L'État, les entreprises ?
04:40 - Non, je pense que c'est le rôle de l'État de réguler l'utilisation de ces enjeux.
04:46 - Mais avec des lois par exemple ? - Avec des lois, avec des règles, oui, après évidemment il faut que tout ça se passe à un niveau plus global,
04:54 parce qu'on ne peut pas
04:56 restreindre leur utilisation à un pays étant donné qu'ils sont accessibles par internet, etc. Donc c'est beaucoup plus compliqué, il faut que les institutions
05:05 internationales, l'Europe, il faut que des décisions se prennent globalement et je pense quand même qu'il y a un
05:12 mouvement dans cette direction au niveau international. - Et il faut le faire dès maintenant ? - Il faut le faire dès maintenant, oui, et c'est pour ça que j'ai signé le moratorium.
05:20 Il faut qu'on prenne le temps,
05:22 malheureusement la technologie va beaucoup beaucoup plus vite que nous on ne peut
05:27 réagir et assimiler et comprendre tout l'impact de la technologie. Donc il faut prendre un temps de réflexion,
05:35 c'est la sagesse même. - Ce sera le mot de la fin. Merci beaucoup
05:39 Joseph Sifakis d'avoir été notre invité sur France Bleu Isère. On le rappelle, vous faites une conférence ce soir à 18h30 à l'université de
05:46 Grenoble sur l'intelligence artificielle aujourd'hui et demain.
Commentaires