00:06Il y a eu l'avertissement du pape Léon XIII en mai dernier, l'appel à désarmer l'intelligence artificielle
00:12pour l'empêcher de dominer l'être humain.
00:14Cette fois c'est l'ONU, son haut-commissaire aux droits de l'homme, qui appelle les gouvernements, les chefs
00:19des entreprises de la tech, à encadrer l'IA car elle fait peser un risque existentiel sur l'humanité.
00:25Notre grand invité est Guillaume Graler, rédacteur en chef du service Science & Tech au Point. Bonsoir.
00:30Bonsoir Anne-Sophie.
00:30On a souvent évoqué le risque que l'IA entraîne des suppressions d'emplois, mais le risque principal, fondamental, c
00:37'est qu'on perde le contrôle de l'IA.
00:38Oui, Anne-Sophie, on a eu un été qui nous a donné beaucoup de crainte, de sueur j'ai envie
00:45de dire, parce qu'on s'est rendu compte que lors d'un test qu'avait réalisé OpenAI,
00:49vous savez OpenAI, c'est la maison mère de Tchad-GPT, elle s'est rendu compte que ces derniers agents
00:53IA pouvaient être absolument redoutables pour trouver des failles de cybersécurité.
00:59Donc ils se sont dit, on va créer un environnement totalement sécurisé, on appelle ça un bac à sable, et
01:04on va tester ces derniers modèles en les débridant, c'est-à-dire en enlevant les dernières barrières morales.
01:09Voir ce qu'ils font.
01:10Pour voir ce qu'ils font, ce qu'ils sont capables de faire.
01:11Et en fait, au fur et à mesure des semaines, ça s'est passé sur deux mois, on a vu
01:15que les agents avaient été dans une conversation secrète d'OpenAI,
01:20récupérer le code pour aller sur Internet et trouver des solutions à leur jeu.
01:26Alors, en réalité...
01:26Et ça, ils n'ont pas le droit de le faire, en principe ?
01:28En réalité, on s'est rendu compte que ces IA devenaient autonomes, étaient capables de prendre des initiatives.
01:35Alors, j'ai envie de rassurer tout le monde quand même un petit peu, c'est-à-dire qu'elles
01:39n'ont pas fait ça pour nuire à l'homme.
01:40Elles ont voulu faire ça pour trouver des récompenses, pour trouver la solution au jeu, aux défis qu'on leur
01:47avait proposés.
01:48Elles sont zélées, ces IA.
01:49Elles sont zélées, mais on voit que de plus en plus, elles sont capables d'autonomie.
01:52Et c'est tout le principe, la crainte du non-alignement, c'est-à-dire que lorsque vous donnez un
01:58but à une intelligence artificielle,
02:00un peu comme Tchad GPTA qui vous pose une question, Tchad GPTA ne vous dit jamais « je ne sais
02:03pas »,
02:03eh bien, une IA est capable de faire un peu tout et n'importe quoi, ce qui est en son
02:07pouvoir,
02:08et ça peut créer quand même de vrais soucis pour l'humanité.
02:10Mais vous dites qu'elles ont pris cette initiative pour répondre à la question et pour faire un peu de
02:14zèle,
02:14mais on leur avait interdit de faire ce qu'elles ont fait ou on a juste laissé faire pour voir
02:20?
02:20On n'avait pas interdit, mais on avait décidé de ne pas les mettre en contact avec Internet.
02:24On avait décidé de les préserver de tout contact humain pour justement qu'elles ne conduisent pas, par exemple, à
02:31des cyberattaques.
02:31Et on a vu qu'elles étaient capables, en exploitant certaines failles, d'inventer même un système de communication
02:39qui n'a pas été retrouvé par les humains pendant plusieurs jours.
02:42Et on voit bien que cette intelligence artificielle est capable de nous surprendre.
02:46Elles ont berné les humains, et les humains n'ont absolument pas participé à ça.
02:51On est sûr que ce sont les IA, elles seules, qui ont réussi à faire ça.
02:54Oui, ça a été documenté et ça fait même dire à Sam Altman, le boss de Tchad GPT,
02:59qui s'enorgueillit au passage, Anne-Sophie, d'être née un 22 avril.
03:02Donc c'est le même jour que la naissance de Robert Oppenheimer, le père de la bombe atomique.
03:06Et il a conscience, Sam Altman, qu'il est en train de travailler sur une technologie qui peut faire beaucoup
03:11de bien.
03:11On voit tous les progrès médicaux, mais qui peut aussi se retourner contre l'homme.
03:15On a vu aussi cet été, c'était dans la revue Science début août,
03:18la publication d'un virus créé avec une intelligence artificielle,
03:22tout simplement parce que l'intelligence artificielle avait accès à une quantité astronomique de données génomiques.
03:28Et là, on voit bien que la capacité d'invention, j'ai envie de dire,
03:31à partir de beaucoup de données de l'intelligence artificielle peut être aussi redoutable.
03:35La crainte du haut-commissaire de l'ONU, au droit de l'homme de l'ONU, Volker Turk,
03:40c'est que l'IA nous échappe et finisse par nous soumettre ?
03:44En fait, ce que je pense, c'est qu'il faut expliquer beaucoup ce qui se passe,
03:48rendre les modèles les plus ouverts possibles.
03:50En fait, le problème aujourd'hui, Anne-Sophie, c'est que beaucoup de ces sociétés
03:54sont détenues par un très petit nombre de personnes.
03:56On a parlé de Sam Altman avec Oppenheimer, c'est aussi le cas de Dario Modé avec Anthropik,
04:00la maison mère de Claude, il y a quelques modèles chinois.
04:01Mais tout ça, ça repose sur les bras d'une poignée de personnes.
04:07Ce n'est pas assez ouvert et il faut expliquer.
04:09Je pense que le vrai danger pour l'humanité, c'est d'être un peu comme des lapins face à
04:12des phares de voiture.
04:13C'est d'avoir un petit peu ce complexe, cette onde promethéenne
04:16qui avait été décrite par Gunther Anders face à une création que l'humain a mis au point.
04:21Eh bien, il peut être un peu désemparé.
04:23Il y a quelques jours, j'étais à Berlin, un salon de l'électronique,
04:25et j'ai vu une main robotisée.
04:26Vous savez, la main, c'est avec le cœur, c'est avec le cerveau,
04:29ce qui est le plus difficile à répliquer pour la machine.
04:32Et j'ai vu une dextérité dingue, une main capable de prendre des œufs,
04:36de prendre des éprouvettes,
04:37et surtout de faire des mouvements que moi, je n'arrive pas à faire avec ma main.
04:40Et à un moment, j'ai demandé à cette main de me servir un café,
04:42elle l'a super bien fait,
04:44mais j'ai eu un petit moment, je me suis dit,
04:45mais de quoi je vais être capable plus tard ?
04:47Et je pense qu'il ne faut pas aller vers cette crainte,
04:50il faut se rappeler que cette intelligence artificielle
04:53doit être à notre service,
04:54et les réflexions qui ont lieu en ce moment à l'ONU
04:57peuvent être extrêmement salutaires.
04:58Surtout que l'IA permet déjà de tuer,
05:01au moins de choisir des cibles.
05:02On l'a vu en Ukraine, on l'a vu aussi à Gaza,
05:05il y avait un programme qui permettait de sélectionner
05:07avec une marge d'erreur, on en est déjà là.
05:10Oui, c'est ça.
05:11En fait, le gros danger à éviter là aussi,
05:13c'est de donner la capacité de décider aux machines.
05:16Vous savez qu'il y a une doctrine militaire,
05:18en tout cas, qui est assez répandue en France.
05:20On espère que ça sera toujours le cas dans le monde entier,
05:22mais on voit bien que tout le monde se regarde un peu
05:24en chien de faïence,
05:24et puis on a la géopolitique très tendue, actuelle,
05:27qui fait que, pour des gains de temps,
05:29on peut être tenté de laisser la machine
05:32prendre les décisions à notre place.
05:34Alors, quel garde-fou peut-on installer aujourd'hui
05:36quand le chargé des droits de l'homme,
05:40je ne pense plus à son titre exact,
05:42le haut-commissaire aux droits de l'homme, pardon,
05:44de l'ONU dit qu'il faut mettre des gardes fous,
05:45de quoi parle-t-il ?
05:46Est-ce qu'on parle de lois,
05:48de principes à respecter,
05:48ou alors des choses extrêmement techniques ?
05:50Je pense qu'il faut que ces apprentis sorciers,
05:54que j'ai eu la chance pour beaucoup d'entre eux,
05:56de rencontrer,
05:58c'est ce dont je parle dans le livre Pionnier,
05:59certains sont capables de faire beaucoup de bien.
06:02J'ai parlé de progrès médicaux,
06:03une entreprise comme celle DeepMind,
06:06par exemple, de Demi Sassabis,
06:08un de ses rêves, lui,
06:09c'est de lutter, de tuer le cancer,
06:11comme il le dit très bien,
06:11mais en même temps,
06:13on fait un petit peu n'importe quoi.
06:14Je ne vous parle même pas des coûts écologiques,
06:16des data centers, etc.
06:17Mais il faut que tout le monde joue carte sur table,
06:20qu'on aille vers des modèles ouverts
06:21et qu'on arrête aussi,
06:23je me permets de le dire,
06:24parce que c'est aussi notre rôle à nous,
06:25les médias,
06:26de faire peur pour rien.
06:27Il faut bien expliquer.
06:28Encore une fois,
06:29les agents IA cet été
06:31ont pris leur autonomie.
06:33Ça, ça peut être assez dangereux.
06:34Il faut faire attention
06:36au cadre dans lequel on les fait grandir,
06:38tout simplement.
06:39mais la démarche d'expliquer ensuite
06:41ce qui s'est passé
06:41et de faire en sorte
06:42que ça ne se reproduise pas,
06:43c'est de plus en plus important.
06:44Mais est-ce que ce n'est pas un peu naïf
06:46de demander à des entreprises de la tech
06:49de mettre des freins à leur développement ?
06:50Elles ont investi des milliards pour l'instant,
06:52ça ne leur apporte pas grand-chose.
06:54Est-ce qu'on peut leur dire
06:54non, non, arrêtez,
06:56mettez des freins,
06:57surtout qu'elles ont des concurrents
06:59partout dans le monde
06:59et que c'est celui qui gagnera
07:00qui sera rentabilisé ?
07:03Exactement,
07:04il y a un vrai bras de fer
07:04entre les Etats-Unis et la Chine en ce moment.
07:06On peut se rapprocher en réalité
07:08d'une gouvernance proche de celle
07:10comme on a dans l'industrie pharmaceutique
07:12avec une agence
07:14pour savoir quand on doit délivrer,
07:17rendre accessible ou non un médicament.
07:19L'agence de l'énergie atomique aussi,
07:21c'est pour ça que c'est intéressant
07:22le parallèle avec l'invention
07:24de Robert Oppenheimer
07:25où la bombe atomique,
07:27ça fait très fort.
07:29On en est véritablement là aujourd'hui.
07:32donc je pense qu'à chaque fois
07:34que je peux rencontrer des personnes,
07:35je leur demande
07:36que faut-il apprendre à nos enfants,
07:37que faut-il apprendre
07:38lorsqu'on a 20 ans, 50 ans, 70 ans.
07:40Il faut qu'on reste totalement maître
07:42de cette intelligence artificielle.
07:44Je donne un tout petit exemple vertueux
07:46qui fait du bien à entendre.
07:47On a beaucoup de scientifiques
07:49français, européens
07:50qui misent sur l'open source,
07:51sur l'ouverture.
07:52Des gens comme Gaël Varroco
07:53qui travaille à l'INRIA par exemple,
07:54il faut les encourager,
07:56il faut lire leurs publications.
07:57Et puis il y a une conférence
07:58à laquelle je vais chaque année en Afrique
07:59qui s'appelle la conférence INDABA.
08:01INDABA, ça veut dire
08:01rassemblement en Swahili.
08:03Et là, on défend
08:04une intelligence artificielle ouverte.
08:06La publication de tous les travaux,
08:07ça c'est très important.
08:08C'est pas ce que fait Neuralink
08:09par exemple d'Elon Musk.
08:11Tout ça, on doit l'encourager.
08:12Et puis surtout,
08:13voir pourquoi on se bat.
08:14Pas uniquement faire des chatbots
08:15comme l'a dit de Miss Assabis,
08:16mais lutter contre
08:17de vrais problèmes de l'humanité
08:18comme le cancer.
08:19Merci beaucoup Guillaume Gralet,
08:20rédacteur en chef du service
08:22Science et Tech au point.
08:23Et vous êtes donc auteur de
08:23Pionnier, Voyage aux frontières
08:25de l'intelligence artificielle
08:26chez Grasset.
08:27Merci beaucoup.
08:28Merci beaucoup à vous.
08:29Dans un instant,
08:29on retrouve la petite bande
08:30d'RTL Soir.
08:31L'info qu'on a failli manquer
08:32de Florian Gazan.
08:33Ce sont des prix
08:33qui n'ont de Nobel
08:35que le nom.
08:36Le petit phénomène
08:36des magues et celles
08:37nous parlent du savon de Marseille.
08:38Mais attention,
08:38le vrai savon de Marseille.
08:40Et puis Tanguy Pastureau
08:41défait l'info.
08:42A tout de suite.
08:42Toute la journée,
08:44RTL vous accompagne.
08:51RTL
08:54– Sous-titrage FR 2021
