00:00Ce que j'entends, c'est qu'on ne sait pas comment contrôler ces IA très avancées.
00:05Ce que je n'entends pas, c'est qu'on a un plan pour régler le problème.
00:07Et moi, quand je vois ça, je me dis qu'il y en a des possibilités.
00:12Ce sur quoi je travaille, c'est justement un plan clair et net
00:16pour fabriquer l'IA différemment, justement pas à l'image de l'humain,
00:20pour éviter ses travers.
00:21Ce qu'on veut, c'est des outils, pas des trucs qui nous ressemblent,
00:24mais qui sont un peu des extraterrestres, là.
00:27Ce n'est pas comme nous, mais qui ont des points en commun,
00:30qui sont comme des nouvelles entités avec leurs propres objectifs.
00:32Ce n'est pas un terrain très solide d'avoir des entités qui, comme nous,
00:37ont leurs propres objectifs, mais qu'on ne sait pas contrôler
00:39et qui seraient plus intelligentes que nous.
00:41C'est un peu du suicide quand même.
00:43Mais cela étant dit, on peut revenir à la base et se poser la question,
00:47est-ce qu'il n'y aurait pas une autre manière de fabriquer l'IA ?
00:51Il y en a sûrement plusieurs, mais moi, je pense qu'il y a une manière
00:54qui est assez proche de comment on fait aujourd'hui,
00:55mais qui change l'objectif d'entraînement, c'est-à-dire ce vers quoi elles tendent.
01:01L'idée, c'est de tendre vers la compréhension meilleure du monde
01:06pour pouvoir prédire ce qui arriverait, répondre à des questions finalement qu'on leur pose.
01:10Mais une compréhension non teintée par des objectifs de comment on aimerait que le monde soit.
01:16Nous, malheureusement, on ne peut pas être objectifs.
01:19On essaye, enfin certains d'entre nous essayent, les scientifiques essayent.
01:23Mais on a tous un biais, on vient tous d'une culture, on a tous des intérêts personnels.
01:28Il se trouve que la méthode scientifique, l'idéal quasiment mathématique de comment la science avance,
01:34c'est quelque chose qui peut être répliqué dans la manière dont l'IA apprend.
01:38Donc on peut fabriquer des IA qui n'essayent que de comprendre.
01:42Et évidemment, à partir de cette compréhension, elles peuvent aussi nous répondre,
01:46mais nous répondre de manière honnête, dans laquelle ces IA n'ont pas de personnalité,
01:49n'ont pas d'intérêt, n'ont pas d'égo.
01:51C'est le contraire de ce que l'anthropique essaie de faire.
01:54Ils essaient de faire une IA qui est gentille, qui ressemble à quelqu'un de bienveillant, etc.
01:59Tant mieux s'ils réussissent, mais j'ai une crainte qu'on ne pourra pas éliminer
02:05tous les travers humains, les intérêts personnels, etc. qui vont biaiser ces entités-là.
02:10En tout cas, pour l'instant, c'est le cas.
