00:00Anthony, quelle moralité donner à l'intelligence artificielle ?
00:03La question est vertigineuse, mais elle commence à être très présente.
00:06Ça dépasse uniquement le sujet de technologie qui veut aller vers la philosophie
00:10et même vers la religion.
00:12Anthropique fait carrément appel à des prêtres.
00:14Oui, alors ça a donné lieu à une scène qui a dû être assez surréaliste
00:17rapportée par la presse américaine avec des ingénieurs en suite à capuche
00:20face à des prêtres en soutane au siège d'Anthropique à San Francisco.
00:24En fait, selon la presse américaine, Anthropique a organisé
00:29une sorte de séminaire, le mot est bien choisi pour le coup,
00:32de deux jours qui réunissaient des membres de la direction,
00:35des chercheurs en intelligence artificielle et 15 penseurs chrétiens,
00:39notamment des prêtres mais aussi des philosophes catholiques
00:41et des spécialistes de l'éthique.
00:43Ils cherchaient, la direction d'Anthropique,
00:46des conseils sur le développement spirituel de leur intelligence artificielle claudée.
00:51Donc pendant deux jours, ils se sont penchés sur des questions
00:54parfois assez vertigineuses.
00:56Comment on fait en sorte qu'une IA se comporte toujours
00:58de la bonne manière ?
01:00Comment est-ce qu'on gère un utilisateur qui est en deuil
01:02et qui pose des questions à l'intelligence artificielle
01:05sur la mort d'un proche ?
01:07Mais aussi des questions qui vont encore plus loin que ça.
01:09Comment on se comportera si un jour,
01:11l'IA devait avoir une forme de conscience
01:14ou de ce qui se rapprocherait de la conscience humaine ?
01:16Est-ce qu'on peut considérer l'IA comme un enfant de Dieu ?
01:19Voilà quelques-unes des questions qui ont été abordées
01:21à l'occasion de ce séminaire.
01:22Donc assez vertigineux effectivement.
01:24Parmi les invités d'Entropique, il y avait par exemple
01:26le père Brendan McGuire.
01:28C'est un prêtre catholique, ancien ingénieur de la Silicon Valley
01:31qui a pivoté, c'est le cas de le dire, pour le coup, vers la religion
01:33et qui est maintenant très consulté par tous les grands noms de la tech.
01:38Et c'est vrai que les géants de l'IA ont bien intégré le fait
01:40qu'avec l'intelligence artificielle, on avait plus qu'un simple outil.
01:44On avait vraiment des systèmes qui ont une influence importante sur notre vie.
01:48Et donc il faut leur donner une sorte de boussole morale.
01:50Après, la question qu'on peut se poser, c'est est-ce qu'on a vraiment besoin
01:55de la religion pour parler de morale ?
01:57La morale, elle peut se baser aussi sur le droit, sur la philosophie,
02:01sur le consensus social.
02:02Et d'ailleurs, il y a d'autres entreprises, je pense à OpenAI ou DeepMind par exemple,
02:05qui ont des comités d'éthique en interne, mais pas forcément religieux,
02:09qui font appel à des philosophes, à des juristes ou encore à des chercheurs.
02:12Mais Dario Amodei, c'est quand même son truc, la boussole morale.
02:15Oui, c'est vrai, il plaide, on avait eu l'occasion d'en parler, pour une IA constitutionnelle,
02:20c'est-à-dire l'idée d'intégrer dans les modèles de langage une constitution,
02:23c'est-à-dire une base de valeurs fondamentales humaines
02:26qui doit présider à toutes les réponses que donne l'intelligence artificielle.
02:30Donc en gros, on va donner un jeu de valeurs à l'IA.
02:35Alors c'est la notion d'alignement.
02:37L'alignement, c'est le fait que l'IA doit répondre en prenant en compte
02:40le fait de ne pas faire le mal, de ne pas blesser l'être humain.
02:44L'exemple qu'on prend tout le temps, c'est si vous demandez à une IA non alignée
02:47« Trouve-moi une solution pour réduire la pollution dans le monde »,
02:51elle va dire qu'il faut exterminer l'espèce humaine
02:53parce que c'est la solution la plus simple et la plus radicale.
02:55Non, évidemment, on n'a pas envie que l'IA réponde ça.
02:58Donc oui, effectivement, c'est devenu une sorte d'obsession
03:01et Anthropique en fait un peu son miel.
03:04Alors c'est bien, mais pendant ce soir-là, on en parlait avec Étienne Bray
03:06il y a quelques instants, Anthropique a quand même doublé sa valorisation en deux mois.
03:11Donc moral et argent, ça va.
03:13Oui, absolument, mais en fait c'est ça qui est intéressant,
03:15c'est qu'Anthropique, on a bien vu ces dernières semaines,
03:16ils prennent vraiment le devant de la scène.
03:18Tous les projecteurs sont braqués sur Anthropique,
03:20tout le monde ne parle que d'Anthropique,
03:21ils sont très très forts en com'.
03:23Alors là, cette histoire de religion,
03:25ils ne l'ont pas communiqué officiellement,
03:26mais ils ont laissé fuiter.
03:27Et en fait, il y a vraiment cette notion de
03:28on est les gentils,
03:30on crée des IA qui sont morales,
03:33qui sont vertueuses,
03:34qui sont alignées,
03:36qui sont très puissantes,
03:37mais on a parlé de mythos la semaine dernière,
03:38qui sont tellement puissantes que
03:39non, non, on ne va pas les sortir tout de suite
03:41parce que sinon c'est dangereux.
03:42Donc vous voyez, là encore,
03:43c'est de la bonne communication.
03:46Et donc voilà, ça fait aussi partie
03:48de ce qui permet à cette entreprise
03:50d'exploser en termes de valorisation,
03:52puisqu'ils sont passés effectivement
03:53de 400 à 800 milliards de dollars
03:54en l'espace de quelques mois,
03:56ce qui est complètement incroyable.
Commentaires