00:00Anthropic veut appuyer sur pause, ils mettent en garde contre un risque de perte de contrôle de l'intelligence artificielle.
00:07Anthony Morel, c'est quand même assez étonnant.
00:08Oui, c'est ça, alors c'est l'un des cofondateurs d'Anthropic qui résume bien la situation.
00:12Il dit voilà, le secteur de l'IA aujourd'hui, il a une pédale d'accélérateur, mais il n'a
00:16pas de pédale de frein.
00:17Et ça, ça pose un problème.
00:19Et c'est vrai qu'on le constate, semaine après semaine, on est dans une course effrénée à l'innovation,
00:23avec des modèles qui sont toujours plus puissants, toujours plus performants,
00:26mais qui posent des questions auxquelles on n'a toujours pas les réponses sur les conséquences sociales, éthiques, environnementales.
00:33On en a eu des exemples il y a encore quelques jours où on a eu par exemple les grands
00:36groupes technologiques,
00:37des grands groupes d'IA qui ont alerté les politiques sur le risque de développement d'armes biologiques
00:44grâce aux avancées ou à cause des avancées en matière d'intelligence artificielle.
00:48Et pour autant, on en a un petit peu parlé, mais on continue d'avancer, on continue d'accélérer sans
00:52vraiment se poser de questions.
00:53Et Anthropique dit que ça va aller encore plus loin que ça.
00:56Il y a un risque de perte de contrôle.
00:58Qu'est-ce qu'ils entendent par là ?
00:59Eh bien, ils disent qu'ils observent en interne sur les modèles qu'ils entraînent,
01:03ce qu'ils appellent une auto-amélioration récursive.
01:07C'est-à-dire, en gros, l'idée que demain, les modèles d'IA pourraient créer, concevoir eux-mêmes leurs
01:14successeurs
01:14qui seraient toujours plus puissants, toujours plus performants, qui seraient capables de s'auto-améliorer.
01:19Et en fait, il n'y aurait quasiment plus d'intervention humaine.
01:22Et ça, ça va nous faire entrer dans l'inconnu.
01:24C'est-à-dire, c'est à la fois, de manière géniale, on peut imaginer des IA qui seraient capables
01:28de s'auto-améliorer,
01:29d'inventer des nouveaux types de traitements, des nouveaux types de médicaments, des nouveaux types de matériaux.
01:34Mais ça peut être aussi des IA qui vont développer des stratégies ou prendre des décisions qu'on ne maîtrise
01:40pas.
01:40Le risque, ce n'est pas que l'IA devienne méchante.
01:42L'IA ne va pas devenir méchante.
01:44Mais le risque, c'est qu'elle devienne tellement compétente que nous, les humains, ne soyons plus capables de comprendre
01:49comment elle résonne.
01:50Et face à ça, Anthropique dit qu'il faut qu'on mette en place une coordination mondiale,
01:54la possibilité d'appuyer sur le bouton pause.
01:57Il s'inspire un peu des traités de non-prolifération pour le nucléaire.
02:00En gros, c'est un petit peu l'idée qu'il ne faut pas qu'il y ait un acteur
02:03qui puisse continuer à accélérer
02:04pendant que les autres acceptent le principe commun de mettre le pied sur la pédale de frein.
02:09Mais ça rappelle quand même ce que disait Musk il y a quoi, 18 mois, 2 ans ?
02:13Et on lui disait, c'est parce que tu veux faire du business.
02:15Et c'était vrai d'ailleurs.
02:16Oui, mais là, justement, il y a toujours cette question derrière.
02:18C'est réaliste de dire on appuie sur pause.
02:21Pardon, c'est complètement utopique à mon sens.
02:23Ça part d'un bon sentiment, mais ça semble complètement, enfin très très compliqué.
02:26D'abord, de mettre d'accord des puissances comme les États-Unis et la Chine,
02:30de s'arrêter en même temps et de dire, allez, on appuie, on fait pouce,
02:33on appuie sur le bouton pause, ça paraît très compliqué aussi à mettre en place
02:36parce qu'on ne va pas demander à des centaines d'entreprises privées.
02:39Et je veux dire, prouver qu'elles sont en train d'arrêter effectivement les développements de l'IA
02:43parce qu'autant sur le nucléaire, ça se voit.
02:45Vous avez des cartes, des images satellites, on peut voir quand même qu'il y a des développements.
02:49Autant l'IA, vous faites ça discrètement sur des serveurs,
02:52personne ne s'en rendra compte de toute façon.
02:54Et puis, vous avez raison de dire qu'il y a une forme d'hypocrisie.
02:56Elon Musk avait dit à un moment, non, non, mais arrêtons pendant six mois.
02:59Il y avait une lettre qui avait été signée.
03:01Et bien c'est ça en fait, on s'est rendu compte après qu'il était au même moment
03:03en train de créer sa propre entreprise dans l'IA
03:06et d'acheter des milliers de processeurs pour développer ses propres modèles.
03:09Donc il y a une forme d'hypocrisie aussi.
03:10Et est-ce que c'est encore Anthropique qui fait le gentil de l'IA ?
03:13Il y a un peu ça, c'est-à-dire qu'ils ont vraiment cette réputation.
03:15Alors on dit qu'ils font du marketing de la peur,
03:17c'est-à-dire qu'en gros, ils ont cette réputation d'un laboratoire prudent,
03:21focalisé sur la sécurité.
03:22Et en même temps, ils développent les modèles les plus puissants du marché.
03:25On se souvient de Mythos, même s'ils ne l'ont pas mis sur le marché.
03:27Mais c'est un peu comme s'ils étaient en train de construire une voiture
03:31capable de rouler à 500 km heure.
03:33Et ils disent, attention, il ne faut pas la mettre sur la route,
03:35c'est très très dangereux.
03:36Donc il y a ce côté.
03:36Alors après, on ne peut pas les taxer de manque de cohérence
03:39puisque le patron d'Anthropique a toujours eu cette notion d'IA
03:42qui devait être alignée, comme il dit,
03:44et de constitution qui doit en fait présider
03:48à toutes les décisions prises par l'intelligence artificielle
03:51et à toutes les réponses qu'elle nous donne.
Commentaires