00:00Alors Anthony, dans un environnement déjà assez anxiogène, c'est une nouvelle alerte de sécurité formulée par Anthropik.
00:06Le géant de l'IA met en garde contre une menace sérieuse des intelligences artificielles
00:10capables de s'auto-répliquer et de s'installer dans nos objets connectés.
00:15Concrètement, ça veut dire quoi ?
00:16Ça va donner encore du grain à moudre, en tout cas, à tous ceux qui craignent l'idée d'une
00:20IA
00:20qui pourrait devenir incontrôlable dans les années qui viennent.
00:23Alors ce scénario qui est imaginé ou qui est décrit par Anthropik dans un long article de sécurité,
00:27c'est celui d'un agent IA qui deviendrait suffisamment autonome,
00:31et ils vont le devenir dans les années qui viennent de plus en plus,
00:34pour repérer un objet connecté vulnérable.
00:37Donc ça peut être un aspirateur robot, ça peut être une télé, ça peut être une caméra de surveillance,
00:41peu importe, une enceinte.
00:42Il va trouver le moyen de s'y introduire, de le pirater,
00:47installer une copie de lui-même à l'intérieur de l'objet,
00:49utiliser ses ressources pour continuer à fonctionner,
00:52et puis ensuite, cette IA, elle se propagerait vers d'autres objets connectés,
00:56encore et encore et encore.
00:57C'est le principe des vers informatiques dont on parle depuis longtemps,
01:01les années 70, des virus qui vont se propager comme ça d'ordinateur à ordinateur,
01:04mais à la sauce IA et objets connectés.
01:06Alors pourquoi est-ce qu'une IA ferait ça ?
01:08Alors ce n'est pas parce qu'elle est devenue méchante,
01:10on n'est pas dans un scénario à la Terminator,
01:11encore une fois je vous mets en garde contre tous les risques d'anthropomorphisme,
01:15tout ça c'est des caractéristiques qui sont humaines.
01:17Non, elle ferait ça, tout simplement parce que c'est le moyen le plus efficace
01:20pour atteindre les objectifs qu'on lui a fixés.
01:22Si vous demandez à une IA, je ne sais pas, de résoudre un problème scientifique complexe,
01:26par exemple, elle va chercher à avoir le plus de puissance informatique possible.
01:30Or, pour avoir le plus de puissance possible, vous allez...
01:33Ah oui, elle va se servir d'autres objets connectés.
01:34C'est exactement ça.
01:35Si vous arrivez à vous dupliquer sur des millions d'objets connectés,
01:37vous allez pouvoir utiliser ces ressources pour pouvoir atteindre vos objectifs.
01:41Alors le problème derrière tout ça, c'est quoi ?
01:43C'est que fondamentalement, ça va rendre l'IA potentiellement beaucoup plus incontrôlable.
01:46Vous savez, dans ces scénarios d'IA incontrôlables, on dit toujours
01:49« Oui, mais il suffirait de débrancher finalement l'IA, on débranche le serveur et puis c'est fini. »
01:53Mais sauf que si vous avez une IA qui s'est répliquée sur des millions de télés et d'enceintes,
01:58là, ça devient tout de suite...
01:59Il faut tout débrancher.
01:59Il faut tout débrancher.
02:00Ça devient beaucoup plus compliqué, vous comprenez bien.
02:03Alors, c'est crédible ou pas comme menace ?
02:06Est-ce qu'il ne joue pas un peu à nous faire peur, là, en tropique ?
02:08C'est compliqué.
02:09C'est le grand classique.
02:10On a beaucoup accusé en tropique de faire du marketing de la peur,
02:12d'entretenir un peu toutes ces craintes avec l'idée aussi que ce sont les seuls
02:16ou ce seraient les seuls à pouvoir justement contrôler tout ça.
02:19Ça les met en position de force d'une certaine manière.
02:21Ce qui est très compliqué, c'est que...
02:23Et d'ailleurs, il précise que sur cette menace spécifique, on n'y est pas encore.
02:26Ce n'est pas possible aujourd'hui.
02:27Mais ça pourrait arriver dans les mois qui viennent.
02:29Le problème fondamentalement, avec toutes ces alertes de sécurité
02:31qui se multiplient ces dernières semaines,
02:33c'est que vous avez des positions qui sont très contrastées
02:36et que c'est difficile de se faire un avis.
02:37Vous avez des chercheurs en IA qui vous disent
02:39« Oui, oui, ces scénarios, c'est tout à fait crédible.
02:42Il faut vraiment prendre des mesures parce que c'est très dangereux. »
02:44Et puis vous en avez d'autres, je pense à Yann Lequin,
02:46le français qui est beaucoup plus relativiste,
02:48qui dit « Non mais tout ça, c'est de l'alarmisme absolu,
02:50c'est n'importe quoi, ces scénarios, il n'y a pas du tout de danger. »
02:53Et notre position, nous, en tant qu'observateurs,
02:55y compris moi qui fais de la veille technologique sur ces sujets,
02:57mais qui n'est pas les mains dans le cambouis algorithmique,
03:00si on peut dire, c'est très délicat parce que je ne sais pas en fait.
03:03C'est-à-dire que même en contactant des chercheurs à droite et à gauche,
03:05ils vous disent des choses qui sont complètement inverses.
03:06Donc je n'ai pas de réponse absolue à vous donner.
03:09Il faut écouter les uns et les autres.
03:11Après, j'aurais quand même tendance à faire confiance à ceux qui nous disent
03:14qu'il y a un petit risque dans les années qui viennent
03:16et qu'il faut faire en tout cas prendre des mesures de sécurité.
03:18Bon, on vous écoute, nous, Anthony.
03:20C'est quoi la solution ?
03:21Comment en tout cas on peut essayer d'éviter ce scénario catastrophe ?
03:24La première chose, mais c'est un vœu pieux,
03:26ce serait de mieux sécuriser les objets connectés
03:28qui sont des vrais passoires en termes de sécurité.
03:30Je veux dire, toutes les caméras, les aspirateurs robots,
03:32tout ça, c'est vraiment très très peu sécurisé.
03:36Et puis, c'est surtout agir en amont.
03:38Et c'est intéressant que cette alerte intervienne
03:39au moment où il y a 225 scientifiques spécialisés en IA et cybersécurité
03:42qui ont signé une lettre ouverte pour appeler à travailler d'urgence
03:45sur la sécurité des modèles.
03:47Ils appellent notamment à mettre en place des mesures de confinement
03:49pour l'entraînement des modèles les plus dangereux potentiellement
03:53et les plus récents, c'est-à-dire en gros des IA
03:54qu'on va entraîner sur des ordinateurs où il n'y a plus de câbles,
03:57il n'y a plus de Wi-Fi, il n'y a plus de Bluetooth,
03:58il n'y a aucune possibilité de se connecter à Internet
04:02et d'aller à l'extérieur, de sortir de leur environnement,
04:04sachant qu'il y a eu quand même des incidents de sécurité
04:06où des IA qui n'étaient pas censés se connecter à Internet
04:09ont réussi à le faire et à lancer des attaques informatiques,
04:12ce qui est un vrai danger pour le futur, pour le coup.
04:13Oui, donc il ne faut pas être trop naïf non plus face à l'IA.
04:16Merci Anthony Morel, on vous retrouve à 8h15.
