L’IA va-t-elle tous nous tuer ?

Sud Radio

Retrouvez Les Vraies Voix du lundi au vendredi de 17h à 20h sur #SudRadio. --- Abonnez-vous pour plus de contenus : http://ow.ly/7FZy50G1rry   ———————————————————————  ▶️ Suivez le direct : https://dai.ly/x8jqxru  🎧 Retrouvez nos podcasts et articles : https://www.sudradio.fr/   ———————————————————————  🔴 Nous suivre sur les réseaux sociaux 🔴  ▪️ Facebook : https://www.facebook.com/SudRadioOfficiel  ▪️ Instagram : https://www.instagram.com/sudradioofficiel/  ▪️ Twitter : https://twitter.com/SudRadio  ▪️ TikTok : https://www.tiktok.com/@sudradio?lang=fr  ———————————————————————  ☀️ Et pour plus de vidéos des Vraies Voix : https://youtube.com/playlist?list=PLaXVMKmPLMDRB7z8JrbG9LyNtTmhxaU-a   ##PROCES_VV-2026-09-10##

Transcript

00:00Le procès du jour

00:02Et ce procès du jour, on va parler de l'intelligence artificielle qui est, soyons clairs, totalement démocratisée dans nos

00:08vies

00:09avec des anciens patrons de l'IA qui nous disent que cette IA pourrait nous tuer, Patrick.

00:15Oui, c'est la bande-son de Matrix ou de...

00:17Exactement, c'est Matrix.

00:18C'est Matrix, Maxime à la réalisation.

00:21Et Matrix c'était ça, c'était des machines qui, dans ce film, prennent le contrôle, évidemment, de tout sur

00:28la planète

00:28et détruisent et chassent les humains.

00:31Avec l'intelligence artificielle, on n'en est pas encore là.

00:34C'est un peu Terminator aussi, je rappelle.

00:36Oui, Terminator aussi.

00:37Mais quand il y a cette déclaration, et ce n'est pas la seule, d'un chercheur de l'IA

00:42qui travaillait chez Anthropik,

00:44qui est une des grosses boîtes dans l'intelligence artificielle avec OpenIA, donc ChatGPT,

00:50et Claude, c'est Claude.

00:51Et Claude, c'est Claude.

00:51Et Claude française, d'ailleurs aussi Mistral, bien sûr, qu'on salue en fait au passage,

00:54en disant qu'on va trop loin et qu'on ne pourra plus contrôler bientôt l'ensemble de ces machines,

01:02en quelque sorte.

01:03Puisque ce sont des machines, des logiciels, des mathématiques, évidemment,

01:07qui se développent et qui prendront le contrôle et qui peuvent nous tuer.

01:13Il y a déjà eu des exemples de cyberattaques déclenchées directement par l'IA, par l'intelligence artificielle.

01:21Il faut reconnaître que c'est un peu flippant, en fait.

01:24Non, mais quand on pense à Matrix, à Terminator, c'est vrai que ça fait peur.

01:26Imaginez que demain, je vais prendre un cas extrême,

01:30une intelligence artificielle qu'on met dans un ordinateur du ministère de la Défense

01:34prenne le contrôle de la force nucléaire.

01:36Oui, bien sûr.

01:36Vous imaginez le truc.

01:38Ça peut déclencher l'apocalypse sans que personne ne sache quoi que ce soit.

01:43Mais c'est l'enjeu.

01:44Et c'est vrai que, je le dis, dans ce domaine-là, ça fait peur.

01:46Alors après, il y a les destructions d'emplois, etc.

01:48On va en parler tout à l'heure.

01:49Mais c'est l'exception, bien sûr.

01:51Bien sûr, bien sûr.

01:52Mais je suis...

01:53Alors, dans mon environnement proche et même familial,

02:01j'ai deux craques.

02:02Le créateur de Chat de Vision, qui est un petit cousin fabuleux,

02:07et j'ai un neveu qui est un craque.

02:08Je ne le dis pas pour renvoyer à des anecdotes personnelles,

02:12mais pour indiquer qu'on n'est pas obligé de penser à ces apocalypses,

02:17mon cher Patrick, pour avoir déjà des inquiétudes sur le fonctionnement usuel de l'intelligence artificielle.

02:28Je suis frappé de voir à quel point les craques dans ce domaine,

02:31ou bien sont relativement optimistes, sauf l'homme dont vous venez de parler,

02:37ou alors sont très pessimistes, mais pas sur le même registre,

02:42parce qu'ils craignent qu'en réalité, il y ait une déstabilisation sociale absolue à court terme,

02:49avec la classe moyenne qui ne travaillera plus,

02:53et à laquelle il faudra trouver des...

02:55C'est quelque chose de très préoccupant.

02:58Un peu comme la robotique dans l'industrialisation,

03:00qui a effectivement dégagé des emplois.

03:02Sébastien Ménard.

03:03Moi, je n'ai pas peur que finalement la machine devienne plus intelligente,

03:09que l'intelligence artificielle, que les machines deviennent plus intelligentes.

03:13Ce qui me choque, c'est que les gens sont de plus en plus bêtes.

03:16C'est ça le vrai sujet.

03:17Quand on pose le sujet de l'intelligence artificielle,

03:19moi j'ai eu l'immense plaisir, c'était il y a trois ans,

03:23de repartir en études à Harvard,

03:26pour me spécialiser en intelligence artificielle,

03:28pour savoir comment ça pouvait changer, je dirais...

03:31Le quotidien d'une machine productive,

03:33en l'occurrence de circuits industriels,

03:36dont j'ai la responsabilité en France et en Europe.

03:39La réalité, c'est que l'intelligence artificielle,

03:41au départ, elle n'a rien d'artificiel.

03:43Ce sont des humains qui programment.

03:46Donc, ce qu'il faut dire à nos auditeurs,

03:48c'est qu'il n'y a pas aujourd'hui,

03:50il n'y a pas Tchad GPT, que ce soit Tchad GPT,

03:53que ce soit Claude, que ce soit Mistral, etc.

03:55Il n'y a pas, même si on parle d'intelligence autogénérative,

03:59c'est-à-dire que le niveau de maturation, d'éducation du robot,

04:03quelque part, est tel qu'à un moment donné,

04:06il peut fonctionner seul,

04:07mais il fonctionne seul sur la base de réflexes qu'on lui a appris,

04:12sur la base de biais qu'on lui a choisi.

04:14Avec la main de l'homme.

04:15Voilà.

04:15Et donc, aujourd'hui, s'il y a des déviances,

04:18s'il y a des déviances, et il y en a probablement,

04:20mais...

04:21Oui, parce que chez l'humain, il n'y a aucune déviance.

04:24Évidemment, Patrick, vous avez raison.

04:26Mais ce que dit aujourd'hui cet ancien tech,

04:31cet ancien codeur, cet ancien chercheur de chez Anthropique,

04:36rappelez-vous ce qu'on nous racontait il y a dix ans chez Meta,

04:39il y avait des gens qui démissionnaient de chez Facebook,

04:41en disant, attention, on est en train de, quelque part,

04:45de cannibaliser la conscience de nos enfants, etc.

04:49Rappelez-vous.

04:50Non, mais, Patrick, rappelez-vous aussi

04:55les anciens salariés de la société Alphabé,

04:57Alphabé, c'est Google,

04:58où on vous disait, attention,

05:00l'ordonnancement du monde est en train de...

05:01Oui, mais je pense qu'on a franchi...

05:03C'est le même procès.

05:04On a quelqu'un au 0826 300 300

05:08qui s'appelle Johan de Marseille.

05:09Bonsoir, Johan.

05:10Bonsoir.

05:11Bonsoir, Cécile.

05:12Bonsoir, et moi.

05:13On est ravis de vous accueillir,

05:15puisque vous êtes quand même un peu spécialisé,

05:18vous travaillez, vous êtes directeur

05:20d'une équipe de cybersécurité,

05:22donc forcément, vous êtes amené au quotidien

05:24à faire face à l'IA.

05:25Quel est votre avis ?

05:26Oui.

05:29Dans l'absolu, ce qui est décrit aussi,

05:32en tout cas, les scénarios un petit peu apocalyptiques,

05:34on va dire, qui sont décrits.

05:36Aujourd'hui, technologiquement,

05:39ce sont des choses qui sont dans les laboratoires,

05:41on ne va pas se mentir.

05:43Il y a un niveau de maturité en termes de robotique

05:45et en termes de développement logiciel,

05:47notamment autour de l'IA,

05:48qui fait qu'en théorie,

05:50ce sont des choses qui sont, dès aujourd'hui, possibles.

05:54Maintenant, dans les secteurs que vous évoquez,

05:56comme les armes, notamment,

05:58je parle de la France,

05:59parce que c'est le seul que je connais,

06:00je n'ai pas travaillé à l'étranger,

06:03mais en tout cas, au sein de la défense française,

06:07il y a aujourd'hui des gardes-faux

06:08qui empêchent, en tout cas,

06:10où l'IA n'a pas été installée,

06:12où en fait, tous les systèmes un petit peu d'armement

06:16sont hors réseau, on va dire.

06:18En tout cas, sont sur des réseaux

06:19qui sont complètement étanches

06:22et qui empêchent, justement,

06:23une intrusion, par exemple, étrangère.

06:26Tout à l'heure, vous évoquiez,

06:27si on met une IA dans une,

06:29par exemple, sur le poste

06:31qui contrôle l'arme nucléaire,

06:34dans l'absolu, en fait,

06:35ça voudrait dire que

06:37ce n'est pas juste une clé USB

06:38qu'on met dans une poste,

06:39il faudrait être derrière

06:39toute une infrastructure

06:40pour faire tourner ça

06:42et qu'il soit sur un réseau fermé.

06:44Voilà, pour être un petit peu technique.

06:45Donc, en soi, aujourd'hui,

06:46on a des gardes-fous,

06:49mais soyons clairs,

06:50ce sont des gardes-fous

06:50qui sont à la main de l'homme.

06:55C'est-à-dire que

06:55si demain, vous en avez,

06:57il y a un chef d'État

06:59qui dit, tiens,

07:00on va mettre de l'IA

07:01au sein de notre armée,

07:04bon, ils ont intérêt

07:05à avoir des bons codeurs

07:06pour pouvoir mettre

07:07des gardes-fous logiciels

07:08un petit peu partout

07:08parce qu'effectivement,

07:10si on la laisse se répandre,

07:11ça peut donner

07:12un peu ce qu'on veut.

07:14En réalité,

07:15ce dont

07:16les spécialistes

07:18véritablement ont peur

07:20et malheureusement,

07:23je ne saurais pas

07:24retranscrire par ignorance

07:26la profondeur

07:27de leur pensée

07:28dans ce domaine,

07:29c'est de la capacité

07:32pour l'IA

07:33de prendre son autonomie,

07:35son indépendance

07:37et surtout,

07:38m'a-t-on dit aujourd'hui,

07:39elle est capable

07:40de réfléchir elle-même

07:42sur les erreurs

07:43qu'elle commet

07:44et de les réparer.

07:45Et donc,

07:46ça commence à devenir

07:48très dangereux.

07:49Non,

07:49alors évidemment,

07:50quand c'est sur...

07:51Pardon,

07:53Johan,

07:53continue.

07:55Excuse-moi.

07:56Non, juste,

07:57je fais une petite parenthèse.

08:00Un autre point aussi

08:01concernant le sujet

08:02de l'arrivement,

08:02on a quelque chose

08:03qui peut aussi nous aider,

08:05c'est que

08:06toutes les armes

08:06qui ne sont pas

08:07hautement technologiques

08:09aujourd'hui,

08:10typiquement,

08:11une arme à feu,

08:11on va dire classique,

08:12traditionnelle,

08:13n'est pas contrôlable

08:14par lien.

08:15Et même sur les armes

08:17dites de très haute

08:18technologie,

08:20il y a des garde-fonds,

08:21mais il y a aussi

08:21des actions manuelles

08:23quelquefois

08:24à effectuer

08:25pour pouvoir déclencher

08:26par exemple

08:26un explosif

08:27ou un missile

08:27ou quelque chose.

08:29Donc,

08:30il y a toujours,

08:31en tout cas,

08:32la connaissance que j'ai,

08:33je ne suis pas

08:34dans le sujet

08:35des dieux non plus,

08:36mais en tout cas,

08:37dans la connaissance

08:37que j'ai sur l'existant

08:39en tout cas actuellement,

08:41aujourd'hui,

08:41tout n'est pas pilotable

08:42par l'informatique.

08:46C'est vrai,

08:48les IA actuelles

08:48ne peuvent pas encore

08:50être complètement autonomes,

08:51du moins à grande échelle

08:53et contrôlées

08:54effectivement à le monde,

08:56mais les grandes interrogations

08:58de ceux qui travaillent

08:59sur l'IA,

09:00c'est qu'on va très très vite

09:02sur ce secteur

09:03dans le développement

09:04et qu'à un moment donné,

09:06parce que vous avez parlé

09:07de déviance tout à l'heure,

09:09Sébastien,

09:09vous avez raison,

09:10c'est-à-dire que

09:10tout le monde

09:11ne pense pas

09:12avec bienveillance,

09:15humanisme,

09:16etc.,

09:16et que certains

09:18veulent prendre le contrôle

09:19des docteurs

09:20sur la planète

09:21et que,

09:22alors on peut très bien

09:23mettre,

09:24par exemple,

09:25au commissariat de l'ONU,

09:27au droit d'homme,

09:27etc.,

09:28réfléchit à mettre

09:29un organisme

09:30de contrôle

09:31et même si on le fait,

09:34comme c'est beaucoup

09:34plus secret,

09:35évidemment,

09:36et qu'il y a des chercheurs

09:37qui travaillent

09:38partout dans le monde

09:39sur ce sujet.

09:40Contrairement au nucléaire,

09:41on a réussi à le maîtriser.

09:43Là,

09:43on ne pourra pas le maîtriser

09:44parce qu'en Asie,

09:46ils vont très très vite.

09:48L'objectif de la Chine,

09:49c'est de prendre

09:50le contrôle du monde.

09:51La Chine n'est pas

09:53un pays guerrier.

09:54En revanche,

09:55sur ce plan économique,

09:56ils sont très très forts.

09:57Je cite la Chine,

09:58mais évidemment,

09:59il pourrait y en avoir

09:59d'autres ailleurs.

10:00D'ailleurs,

10:00ils veulent que les enfants

10:01de 5 ans soient déjà

10:03aptes à gérer

10:04l'intelligence artificielle.

10:06Moi,

10:06je voudrais vous dire,

10:07en fait,

10:07ce que je sais,

10:08ce que j'ai appris,

10:08c'est qu'en fait,

10:09l'intelligence artificielle,

10:11elle n'est ni gentille

10:12ni méchante.

10:12Elle n'est ni positive

10:14ni négative.

10:15En fait,

10:15elle amplifie le geste

10:17de celui qui la maîtrise

10:19et l'utilise.

10:20C'est pour ça

10:21qu'il faut,

10:22quelque part,

10:23il ne faut pas se dire

10:24qu'on va passer à côté

10:26ou on doit enjamber

10:27ou on doit interdire.

10:28Parce que de toute façon,

10:29si c'est interdit chez nous,

10:31ça sera évidemment vulgarisé,

10:32utilisé par nos cœurs ennemis.

10:33Pardon,

10:33je réagis sur un truc.

10:35Il y a quand même,

10:36souvent,

10:36avec l'intelligence artificielle,

10:37une dépendance.

10:39Et il y a un autre fait,

10:40c'est une dépendance émotionnelle.

10:42C'est-à-dire qu'ils ont développé

10:43des IA

10:44pour des personnes

10:45qui sont seules

10:46et qui, en fait,

10:47sont tombées amoureuses

10:49de leur IA

10:50et qui ne peuvent plus

10:51sortir du truc.

10:52Parce que c'est leur seul moyen

10:53de parler.

10:53Il y a une dépendance...

10:54Ça fait d'une profondeur

10:56incroyable.

10:57Incroyable.

10:57Le meilleur psy

10:58est sur l'IA aujourd'hui.

10:59Et là, c'est dangereux.

11:00Parce que si l'IA

11:01vous dit

11:01« Vous êtes perdue,

11:02il faut vous suicider »,

11:04ça peut arriver.

11:04A vous, Antonin,

11:05sur les réseaux sociaux,

11:06qu'est-ce qu'on en dit ?

11:07La question

11:08« L'IA va-t-elle nous tuer ? »

11:09Vous répondez

11:10« Oui »

11:10à 65%.

11:12On a d'abord

11:13Annie qui nous répond

11:13« Non,

11:14il faut juste en servir

11:15à bon escient

11:15et pas n'importe comment. »

11:17Ensuite,

11:17on a Jean

11:18qui se projette

11:18un peu

11:19dans une vie future

11:20avec une IA

11:21plus omniprésente

11:22qui nous dit

11:22« C'est effrayant,

11:23cela me fait penser

11:24à un film de science-fiction

11:25où l'ordinateur

11:25contrôle notre pensée,

11:27contrôle les data centers

11:28et les armes atomiques du monde. »

11:30Et puis ensuite,

11:30on a Didier

11:31qui vous répond

11:31tout à l'heure, Patrick,

11:32et qui dit

11:33« Vous allez rire,

11:33mais dans le film Terminator,

11:35il me semble que c'est l'IA

11:35qui déclenche le feu nucléaire

11:37contre les humains. »

11:37C'est vrai.

11:38Philippe David ?

11:38Juste une chose,

11:40grâce à l'IA,

11:41c'est-à-dire que

11:41c'est aussi des progrès énormes.

11:43On est arrivé

11:43à mettre au point

11:46un anti-venin

11:47contre le venin de Cobra

11:48synthétique.

11:49Et c'est top

11:50pour les diagnostics aussi.

11:51C'est extraordinaire.

11:53La semaine dernière,

11:54j'en ai parlé,

11:55mais aujourd'hui,

11:56et souvent,

11:57je l'ai souvent critiqué,

11:58même ici,

11:58quand vous écoutez

11:59Laurent Alexandre

12:00et il dit vrai

12:00que dans une quinzaine d'années,

12:02on pourra quelque part

12:04diagnostiquer

12:04100% des cancers

12:06grâce à l'IA.

12:07On revisite aujourd'hui

12:09des études

12:09qui ont 20 ans

12:10sur lesquelles

12:11quelque part

12:11le cerveau humain,

12:12le génie humain

12:13s'était arrêté

12:13et l'intelligence artificielle

12:16permet d'exploiter,

12:18de surexploiter

12:18et de résoudre

12:19un certain nombre

12:20d'énigmes scientifiques.

12:21J'ai toujours en tête

12:21cet exemple,

12:22on terminera là-dessus,

12:23d'une femme aux Etats-Unis

12:25qui avait consulté

12:2617 spécialistes

12:28pour trouver

12:28l'origine de sa maladie.

12:30Personne n'arrivait

12:31à la déterminer.

12:3217.

12:32Elle a passé

12:33deux jours sur l'IA

12:34qui a déterminé

12:36ce qu'elle avait,

12:36une maladie rare

12:37qui n'était pas encore

12:38reconnue par la plupart

12:38des spécialistes

12:39et elle est aujourd'hui soignée.

12:41Ça, c'était il y a deux ans.

12:42C'est vrai que pour le diagnostic,

12:43c'est génial.

12:43Allez, il y a un grand mot

12:44dans un instant.

12:46On ne veut surtout pas le soigner.

12:49C'est Thomas,

12:50c'est affine.

12:51C'est vous qui le consultez.

12:53Moi, il m'apporte de l'argent

12:54donc il peut venir tous les jours.

12:56Allez, on va sourire.

12:57Vous connaissez

12:57la taxi d'hermophobie ?

13:00Moi, j'ignorais totalement.

13:01C'est ceux qui ont peur

13:03que les taxis

13:03deviennent totalement autodômes

13:05et qu'on ne puisse pas

13:05plus parler au chauffeur.

13:07On en parle dans un instant.

13:0917h20,

13:10les vrais voix Sud Radio.

Catégorie

Transcription

Commentaires

Recommandations