- il y a 2 semaines
L’humain est-il (vraiment) plus intelligent que la machine
Catégorie
🤖
TechnologieTranscription
00:00Nouvelle séquence dédiée à l'IA, c'est une qui note l'humain, est-il vraiment plus intelligent que la
00:07machine ?
00:07C'est la question que nous allons poser durant ces 20 prochaines minutes avec la montée en puissance de l
00:12'IA générative.
00:13Cette dernière année est née l'idée dangereuse d'une rivalité entre l'intelligence humaine et l'intelligence artificielle.
00:21Notre prochain intervenant, philosophe et mathématicien, propose dans cette session de dépasser les discours simplistes,
00:27de dépasser l'opposition stérile pour explorer les forces et faiblesses de l'humain et bien sûr de la machine.
00:35Comment l'IA peut-elle amplifier de manière utile et profonde les capacités humaines et quelles sont les implications éthiques
00:42et sociétales ?
00:43On en parle tout de suite, on en parle maintenant avec Daniel Handler, philosophe et mathématicien.
01:17Bonjour à toutes, bonjour à tous.
01:22Le programme que mon prédécesseur m'a signé est un petit peu vaste, pour couvrir en 20 minutes, je vais
01:30faire de mon mieux.
01:32Je vais partir du fait que tout le monde parle de l'IA.
01:37J'ai assisté au débat précédent, là dans les coulisses, et on disait l'IA ceci, l'IA cela, etc.
01:44Est-ce qu'on sait de quoi on parle quand on parle d'IA ?
01:47Ou plus exactement, est-ce qu'on parle tous de la même chose ?
01:51Alors moi je pense que non, et je me range plutôt dans le camp des gens qui proposent qu'on
01:57supprime le terme,
01:58tout simplement parce qu'il désigne tout et n'importe quoi.
02:02Mais on n'y arrivera pas, donc il faut se résigner,
02:05et il faut se dire que peut-être il y a une certaine unité entre les différentes modalités.
02:12Alors, pour éclaircir ça, vous avez exactement deux méthodes à votre disposition tout de suite.
02:20La première, c'est de lire mon livre.
02:23Si vous courez chez le libraire, et si vous ne faites que ça, vous aurez dévoré les 400 pages d
02:29'ici demain soir.
02:30Alors si vous n'avez pas envie de faire ça, vous avez aussi la possibilité de m'écouter pendant 20
02:35minutes,
02:36ce sera moins coûteux en temps,
02:37et nous allons repartir en réalité, c'est une citation extrêmement connue,
02:44mais qui mérite d'être remise dans l'actualité aujourd'hui,
02:50où justement on est tellement dans une telle confusion sur ce qu'il y a.
02:54Alors voilà ce que disait Marvin Minsky,
02:56beaucoup d'entre vous connaissent son nom,
02:57ils savent que ça a été un peu le pape de l'intelligence artificielle à MIT,
03:02ils savent qu'il est l'un des fondateurs du projet conçu à Dartmouth en 1956,
03:09et voici ce qu'il écrivait donc quelques années plus tard.
03:13« D'ici 3 à 8 ans, nous aurons une machine dotée de l'intelligence générale d'un être humain,
03:18moyen.
03:18Je veux dire une machine qui sera capable de lire Shakespeare, de lubrifier une voiture,
03:23de naviguer les intrigues de bureau, de raconter une blague, de se bagarrer.
03:27À ce moment-là, la machine commencera à s'éduquer elle-même à une vitesse fantastique.
03:32En quelques mois, elle aura atteint le niveau du génie,
03:36et quelques mois plus tard, ses pouvoirs seront incalculables.
03:40Alors, si vous êtes encore capable d'ajouter 8, c'est 8 ans,
03:46à 70, vous arrivez à 78.
03:50Or, qu'est-ce qu'on observe sur la scène de l'IA en 1878 ?
03:53Ceci.
03:56C'est l'hiver.
03:57C'est ce qu'on appelle l'hiver, le premier hiver de l'intelligence artificielle.
04:02Il y en aura un second, et peut-être même un troisième.
04:06L'hiver de l'intelligence artificielle, c'est le nom pudique dont on recouvre le fait
04:10que l'intelligence artificielle est tombée complètement en panne.
04:14Alors, c'est quelque chose qui nous interpelle.
04:17Comment se fait-il qu'après un départ aussi foudroyant,
04:21l'intelligence artificielle soit tombée en panne ?
04:24Alors, que s'est-il passé ?
04:26Il y a eu d'abord tout de suite un repli stratégique.
04:29C'est-à-dire que Minsky nous parle de quelqu'un qui est vraiment tout à fait comme un être
04:33humain.
04:33Il faut vraiment garder ça en tête.
04:35C'est ça le cœur du projet de l'IA.
04:38Mais très vite, l'IA se dit « Ouh là là, tout ça c'est bien beaucoup.
04:42On va commencer doucement et on va laisser de côté des trucs compliqués
04:47comme la conscience, comme la compréhension.
04:50On ne va quand même pas demander à nos programmes de comprendre ce qu'ils font.
04:53On va renoncer complètement à faire une intelligence générale
04:57qui peut faire ceci et cela.
04:59et puis on ne cherche même pas, parce qu'on est des ingénieurs, des scientifiques,
05:04on ne cherche même pas à trouver je ne sais quelle essence de l'intelligence
05:08qu'on pourrait en quelque sorte un jour miraculeusement projeter sur une machine.
05:13Ce qu'on fait, c'est qu'on prend une à une des tâches mentales particulières
05:18et on trouve un algorithme qui l'effectue.
05:21On avait déjà le modèle de l'algorithme en arithmétique
05:24et l'idée c'était de l'étendre, et ça c'était un coup de génie,
05:28c'était le coup de génie du numérique justement,
05:32à des symboles quelconques.
05:33Donc on pouvait calculer sur des symboles quelconques,
05:36les symboles renvoyés à des pensées sur des choses extérieures.
05:40Et donc ça, c'est le paradigme historique de l'intelligence artificielle
05:45et le paradigme qu'on appelle symbolique.
05:49Et ce qui est très frappant, c'est que même ce programme,
05:53donc restreint par rapport à l'ambition extraordinaire promethéenne,
05:58comme on dit parfois, de Minsky,
06:00ce programme s'est enlisé.
06:03Et qu'est-ce qui s'est passé à ce moment-là ?
06:05Je simplifie.
06:06Il y a eu un changement d'équipe.
06:10Voilà.
06:13Les Blancs sont venus disputer la balle au Bleu.
06:17Ça ne s'est pas passé très bien,
06:20contrairement à ce qu'on dit souvent.
06:22On est passé en tout cas de l'équipe, si vous voulez,
06:25du camp symbolique au camp connexionniste.
06:29Le connexionniste, c'est ce qui a un peu changé de nom un peu plus tard,
06:32grâce à Yann Lequin et d'autres,
06:33et qui s'appelle maintenant le Deep Learning.
06:35C'est la même chose.
06:38Alors, on a maintenant une sorte de récit mythique de l'intelligence artificielle.
06:45Et ce n'est pas par plaisir de déconstruire un mythe.
06:48Ce n'est pas du tout ça qui m'occupe en ce moment.
06:50Ce qui m'occupe, c'est de comprendre que, justement,
06:53il n'y a pas une sorte d'ascension,
06:56depuis une idée géniale, une vision,
06:59jusqu'à son accomplissement.
07:03Donc, le récit habituel, c'est qu'il y a eu un petit repli stratégique,
07:08il y a eu des petites difficultés au début.
07:09Après tout, ce n'est pas facile de fabriquer du jour au lendemain
07:12une machine intelligente.
07:14Après tout, on prend souvent l'exemple de l'aviation.
07:17Ce n'est pas du jour au lendemain qu'on a compris
07:18que le plus lourd que l'air allait l'emporter sur le plus léger que l'air.
07:24Donc, voilà, les ballons se sont cassés la figure.
07:27On peut dire de la même manière, le symbolique s'est cassé la figure,
07:29mais ce n'est pas grave.
07:30De toute façon, tout ça fait partie de la progression normale
07:39d'un projet scientifique et technologique visionnaire
07:42et qui arrive donc, peu à peu, à une réussite quasi complète.
07:47Alors, ce récit nous induit doublement en erreur.
07:53Ça, c'est un message que j'essaye de faire passer aujourd'hui.
08:02Le premier message, je l'ai déjà dit, c'est la réalisation en quelque sorte irrésistible
08:08des intuitions du début.
08:09J'y reviendrai.
08:10Ce ne sont pas du tout les intuitions du début qui ont réussi, c'est autre chose.
08:13Mais j'y reviendrai dans un moment.
08:15Et puis, de l'imminence du but initial, puisque dans le récit mythique,
08:20on est arrivé comme ça, on a monté, monté, monté, maintenant l'IA éclate partout, etc.,
08:26et nous occupe, et bien c'est certainement qu'on est à la veille de la réussite.
08:30Et c'est quoi la réussite ? C'est ça.
08:33C'est une intelligence artificielle, comme on dit, de human level intelligence.
08:38L'intelligence artificielle de niveau humain.
08:42Et qui annonce même, puisqu'on est quasiment à l'égalité,
08:48donc encore un petit peu, exactement comme le disait Minsky,
08:52on doit lui reconnaître ce mérite d'avoir été vraiment visionnaire,
08:55d'ailleurs il n'était pas le seul, il y en a d'autres.
08:57En tout cas, ce qui suit immédiatement après cette première réussite éclatante,
09:06l'intelligence artificielle de niveau humain, c'est ça, c'est la super intelligence.
09:12Vous avez le petit monsieur qui est nous, nous pauvres humains,
09:15et puis vous avez la grande dame là qui est la super intelligence de demain.
09:20Alors en passant, si vous avez une insomnie ce soir,
09:24vous pouvez essayer de réfléchir à ce que vous pensez être une super intelligence.
09:28Tout le monde parle de super intelligence,
09:30et à mon avis, personne n'a une idée très claire de ce qu'est une super intelligence,
09:35ni d'ailleurs comment on reconnaîtrait qu'une machine a une super intelligence.
09:41Toujours est-il que cette super intelligence,
09:45évidemment, pourrait nous permettre de surmonter toutes nos difficultés.
09:50C'était le thème d'ailleurs d'une table ronde du New York Times
09:54qui a eu lieu ici même avant-hier, à laquelle j'ai participé.
09:57Il y avait une équipe qui disait que ça allait, en quelque sorte,
10:00faire passer l'humanité dans un état de bonheur parfait,
10:05tous les grands problèmes étant résolus,
10:07puis une autre qui était plus sceptique à ce sujet.
10:10Mais en réalité, il y a aussi, comme vous le savez,
10:12une autre vision, une vision beaucoup plus noire,
10:15qui est celle-ci, c'est-à-dire que la super intelligence de demain,
10:19évidemment, va nous asservir et que nous serons comme les pucerons
10:23qui sont asservis, qui sont les esclaves,
10:26qui sont les vaches à lait des fourmis.
10:31Alors, je risque de vous décevoir ou peut-être de vous rassurer.
10:36Tout ceci est un rêve ou un cauchemar,
10:40selon que vous êtes plutôt optimiste ou pessimiste
10:43sur les chances d'une super intelligence.
10:47Alors, d'abord, pourquoi ?
10:51Cette idée repose sur une confusion complète.
10:56La première raison, c'est, je l'ai déjà annoncé,
11:00c'est qu'il y a deux visions, il y a deux visées.
11:04La visée symbolique était une chose,
11:08et ce qu'elle visait, c'était effectivement une intelligence
11:12qui, à beaucoup d'égards, sauf qu'elle est sur une machine,
11:15est comme l'intelligence humaine.
11:16Et l'intelligence humaine, vous voyez un petit peu ce que c'est.
11:19Enfin, vous savez ce que c'est, comment vous exercez, vous, votre intelligence.
11:23Vous manipulez des pensées, vous cherchez, vous étudiez des scénarios,
11:27vous essayez une chose ou une autre, vous discutez avec vos amis, etc.
11:32Alors, malheureusement, cette visée-là n'a pas été atteinte.
11:35Ce qui a été atteint, effectivement, et qui est un fait extraordinaire,
11:40qui est un haut fait, c'est tout à fait autre chose,
11:43c'est le connexionnisme.
11:45Mais le connexionnisme ne vise pas du tout la même chose
11:47que l'intelligence artificielle symbolique.
11:53Donc, le premier paradigme veut faire qu'une machine raisonne,
11:57fasse des calculs sur des pensées,
11:59tandis que le second, le connexionnisme,
12:02aujourd'hui rebaptisé deep learning,
12:08obtient que la machine reconnaisse des formes
12:12dans des exemples qu'on lui montre,
12:15des exemples qui viennent de partout,
12:18mais pas de la machine elle-même.
12:19C'est des exemples qui viennent de l'extérieur,
12:22essentiellement des êtres humains
12:23et de leur incroyable inventivité, capacité de parler,
12:28de chercher, de penser, etc.
12:30Donc, le coup de génie du deep learning,
12:34au début, le deep learning, c'était une technique
12:37de reconnaissance des formes, des formes visuelles,
12:40reconnaître un éléphant, reconnaître un zèbre,
12:42reconnaître un signal sonar, par exemple,
12:46dans le domaine auditif.
12:47Et le coup de génie, ça a été de se rendre compte
12:50que le deep learning peut être appliqué
12:52à la reconnaissance d'autres choses
12:55que des choses visuelles, perceptives, auditives,
12:59mais des choses conceptuelles, encodées dans le langage.
13:03Donc ça, ça a été effectivement un coup de génie,
13:05et ça explique le succès tout à fait légitime
13:08et impressionnant de l'intelligence artificielle aujourd'hui.
13:12Mais la déconnexion entre la visée initiale
13:17et la réussite actuelle subsiste.
13:20Encore une fois, l'idée de départ était de reproduire
13:23sur un ordinateur la démarche de l'intelligence humaine.
13:26Alors comment est-ce qu'on détectait la réussite ?
13:29On détectait la réussite au fait que l'ordinateur
13:31était capable de fournir des réponses
13:33à des problèmes que se pose l'humain,
13:35ou éventuellement de gagner aux échecs, etc.
13:39Mais cette condition nécessaire,
13:41être capable de trouver une solution à des problèmes
13:44que nous nous posons, n'est pas suffisante.
13:47Pensez à un élève qui triche
13:48et qui trouve la réponse à un problème de maths
13:52qu'il a trouvé dans un corrigé des annales.
13:57Il a trouvé la solution,
13:59exactement comme le bon élève
14:01qui lui a travaillé et qui a obtenu la solution.
14:04Mais il est clair qu'on ne va pas attribuer
14:05à l'élève qui triche le même degré d'intelligence,
14:08justement, que l'élève qui n'a pas triché.
14:12En d'autres termes, il faut distinguer
14:15le processus du produit.
14:18En gros, le processus, c'est la démarche
14:21de l'homme intelligent, de l'être humain,
14:25dans un effort d'intelligence, de réflexion,
14:27de calcul sur ses pensées, etc.,
14:30du produit qui est simplement d'avoir trouvé la solution.
14:33dont une intelligence artificielle
14:41qui est indiscernable
14:43ou quasi indiscernable
14:44de l'intelligence humaine,
14:46sauf qu'elle a été fabriquée autrement,
14:48c'est ce que j'appelle
14:48une intelligence artificielle de synthèse,
14:51de la même manière qu'il y a des hormones de synthèse,
14:56des substances naturelles,
14:57l'urée, par exemple,
14:59qui ont été synthétisées.
15:00C'est exactement la même urée,
15:02sauf qu'elle a été fabriquée au laboratoire.
15:04Ça, c'est un produit de synthèse.
15:07Et l'intelligence artificielle que vise Minsky,
15:10c'est une intelligence artificielle de synthèse.
15:12Et l'intelligence artificielle
15:14que nous fournissent les modèles de deep learning,
15:16c'est une intelligence artificielle de substitution.
15:20C'est un ersatz.
15:21C'est-à-dire que ça fournit bien
15:23ce dont on a besoin,
15:25mais ça n'est pas la même chose.
15:28Donc là, j'ai un peu illustré.
15:32Dans un cas, vous avez une famille
15:33qui est en train de discuter avec vivacité
15:36de ce qui est la bonne façon
15:37de faire une visite de Venise en 48 heures.
15:41Donc, vous voyez, ils discutent,
15:42ils ouvrent les guides, etc.
15:43Ils suivent une démarche humaine, si vous voulez.
15:45À gauche, vous avez, ou à droite,
15:47vous avez Tchad GPT
15:48qui vous a sorti ça en exactement trois secondes.
15:51Une magnifique organisation
15:53de la visite de deux jours de Venise.
15:55Mais c'est clairement pas la même chose.
15:57Bon.
15:58Alors, je n'insiste pas trop.
16:00Je pense que c'est relativement clair.
16:02Je conclue simplement en disant que...
16:05Ah oui, alors ça, c'est important.
16:07Pourquoi, finalement,
16:08et c'est une question qu'on peut se poser,
16:11pourquoi c'est si important
16:12d'essayer d'obtenir une intelligence artificielle de synthèse ?
16:16Pourquoi pas se contenter d'une intelligence artificielle
16:18de substitution ?
16:20Puisqu'un ersatz,
16:21tout ce qui nous intéresse,
16:22c'est les solutions.
16:24Par exemple, je ne sais pas,
16:25à l'inégalité mondiale,
16:26à la guerre, etc.
16:28Ou même des choses beaucoup plus humbles.
16:31Au fond, ce que nous voulons,
16:32c'est les solutions.
16:33C'est les solutions qui vont nous permettre
16:34de surmonter nos difficultés,
16:36de progresser, etc.
16:37Alors, la réponse là est la suivante.
16:40C'est que si on avait une intelligence artificielle de synthèse,
16:47eh bien, elle aurait toutes les propriétés,
16:50ou la plupart des propriétés,
16:52de l'intelligence véritable.
16:54Y compris des propriétés
16:56sur lesquelles on n'est pas capable de mettre le doigt.
16:59Par exemple, la conscience.
17:01C'est un rêve, n'est-ce pas,
17:02que finalement, à force de perfectionner
17:05nos modèles d'intelligence,
17:06pour l'instant, il n'y a pas de conscience,
17:08la conscience viendra en quelque sorte de surcroît,
17:10comme la foi chez Pascal.
17:12Donc là, ma petite illustration,
17:14c'est que si à gauche, par exemple,
17:15vous avez Vishnu avec ses trois paires de bras,
17:17à droite, vous avez un robot avec ses trois paires de bras,
17:21vous n'aviez pas prévu les trois paires de bras,
17:23mais vous les avez de surcroît.
17:25Alors ça, c'est le premier avantage
17:27d'une intelligence artificielle de synthèse
17:29sur une intelligence artificielle de substitution.
17:35Le deuxième avantage, c'est que l'intelligence artificielle de synthèse
17:39est quelque chose que nous connaissons,
17:42d'où nous avons au moins une connaissance tacite,
17:44une compréhension intuitive,
17:46si bien que nous comprendrons,
17:49plus facilement en tout cas,
17:51les produits de l'intelligence artificielle de synthèse
17:55que les produits de l'intelligence artificielle de substitution.
17:58Et vous savez que ce n'est pas simplement un souci de philosophe maniaque,
18:02que c'est tout le problème de ce qu'on appelle la XAI,
18:07l'intelligence artificielle explicable.
18:09On a des réponses fournies par les modèles de deep learning,
18:12mais on ne sait pas d'où ils viennent,
18:14on ne sait pas quelle est la justification,
18:15on n'a pas la raison.
18:16Alors il y a tout un programme actuellement
18:18très sérieux, très respectable,
18:22pour rendre cette intelligence artificielle de substitution explicable.
18:27et je peux vous dire que ce n'est pas demain la veille, selon moi,
18:30qu'on l'aura,
18:31parce qu'il y a une sorte de contradiction en réalité
18:33entre les deux exigences.
18:37Alors, sur le chemin de l'intelligence artificielle de niveau humain,
18:43il y a encore un obstacle,
18:46et c'est celui-là, d'après moi, est insurmontable.
18:49Et en disant des choses comme ça,
18:50je m'expose évidemment à des critiques,
18:53mais j'y vais.
18:55Voilà.
18:59Je prétends que ce que font les systèmes d'intelligence artificielle,
19:05c'est de résoudre des problèmes,
19:07en un sens, disons, relativement strict de problèmes.
19:10Problème, ça veut dire tout et n'importe quoi.
19:13On a des problèmes tout le temps,
19:14j'ai des problèmes avec ma femme,
19:16j'ai des problèmes avec mon chien,
19:17j'ai des problèmes avec mon employeur, etc.
19:19Non, je veux dire un problème,
19:21c'est plutôt, prenez quand même le modèle, disons, scolaire,
19:24pour simplifier.
19:25Vous avez un énoncé avec un nombre fini de contraintes,
19:30ou de paramètres, ou de données de l'énoncé.
19:33Vous ne connaissez pas la solution,
19:35mais la solution existe quelque part,
19:37par exemple, typiquement, dans l'esprit du professeur,
19:40l'élève travaille, il trouve la solution.
19:43Et je dis que les systèmes d'intelligence artificielle
19:47sont, effectivement, des résolveurs de problèmes,
19:51et des résolveurs de plus en plus efficaces.
19:55Et je ne conteste nullement
19:56qu'actuellement, évidemment,
19:58tous les problèmes ne sont pas résolubles
20:01par un modèle de deep learning,
20:03d'intelligence artificielle,
20:04mais je n'ai pas de preuves, en quelque sorte,
20:07j'ai des intuitions,
20:08mais je n'ai pas de preuves
20:08qui n'en sera jamais.
20:09Donc je pense qu'effectivement,
20:11de ce point de vue-là,
20:12on peut comparer l'intelligence artificielle
20:14et l'intelligence humaine
20:15en disant, ben dis donc,
20:16l'intelligence artificielle
20:17est en train de rattraper l'intelligence humaine,
20:19avec quand même la notion,
20:21la réserve importante,
20:22la nuance qui n'en est pas une,
20:24que ce que fait encore une fois
20:26l'intelligence artificielle,
20:27c'est de trouver la solution,
20:28on ne trouve pas de la manière humaine,
20:30mais ça, je ne reviens pas là-dessus.
20:31Donc, je dis que les systèmes
20:33d'intelligence artificielle,
20:35ils résolvent des problèmes,
20:36alors que l'intelligence humaine,
20:38évidemment, elle est amenée
20:39à résoudre des problèmes,
20:41mais après tout,
20:41on n'est pas du matin au soir
20:42en train de résoudre des problèmes.
20:44Qu'est-ce qu'on fait du matin au soir ?
20:45Eh bien, on fait face à des situations.
20:48Et là aussi, situation,
20:49c'est en un sens un peu particulier.
20:52Par situation, j'entends quelque chose
20:55qui est singulier,
20:57qui est maintenant, c'est ma situation.
20:59Moi, en ce moment,
21:00je suis en train d'essayer
21:01de terminer mon exposé en quatre minutes.
21:03Ce n'est pas évident comme situation.
21:07Mais c'est ma situation.
21:08C'est comme on dit mon problème,
21:10mais je préfère dire que c'est ma situation.
21:12C'est quelque chose que je vis maintenant
21:14avec mes émotions,
21:16avec mon engagement personnel.
21:18C'est moi qui dois m'en sortir.
21:20Ce n'est pas vous.
21:20Vous en faites face à d'autres situations.
21:23Moi, je me fais face à cette situation-là.
21:25Et je crois que ça,
21:26c'est quelque chose qui est inconcevable,
21:30si vous voulez,
21:30pour une intelligence artificielle.
21:32Alors, je connais un certain nombre d'objections.
21:35Je me les fais moi-même en disant
21:36« Mais si, mais si, on va donner
21:37toutes les informations nécessaires.
21:39Si vous, en l'air,
21:41vous arrivez à faire face à une situation,
21:43c'est parce que vous avez pris en compte
21:45toutes sortes de contraintes,
21:46toutes sortes de paramètres.
21:47On va communiquer toutes ces informations
21:49à l'intelligence artificielle.
21:51Elle va faire aussi bien que vous.
21:52Mais je dis que ce n'est pas possible
21:54parce qu'il n'y a pas un stock fini
21:56en quelque sorte de paramètres
21:58qui sont les paramètres
21:59de ma situation à moi.
22:01C'est subjectif.
22:02C'est holiste.
22:03C'est-à-dire que l'importance
22:06d'un trait particulier de la situation
22:08dépend de la manière
22:09dont je prends la situation.
22:10Et la manière dont je prends la situation
22:12dépend des traits
22:14que je vais prendre en compte.
22:16Donc, il n'y a pas de situation
22:17en ce sens.
22:19Et il faut se faire une raison.
22:22Donc, le génie dans la bouteille,
22:25vous ne l'aurez pas.
22:26Moi, je dis ça franchement
22:27et je sais que je m'oppose
22:29à des gens plus célèbres que moi
22:30qui pensent que pas du tout.
22:32Je me trompe.
22:32Mais moi, j'affirme
22:33que nous n'aurons jamais
22:34une intelligence humaine
22:37en ce sens-là.
22:38Mais, bien entendu,
22:40nous avons cet outil extraordinaire,
22:43cet ensemble d'outils,
22:44cette boîte à outils extraordinaire
22:46que nous devons apprendre,
22:48dont nous devons apprendre
22:49à faire le meilleur usage possible.
22:51Alors, il y a des choses à éviter.
22:53Et ce qui est à éviter le plus,
22:55et comme je savais
22:56que je n'aurais pas énormément de temps
22:57et j'en ai de moins en moins,
22:58j'ai voulu insister sur une chose
23:00parmi tous les désordres
23:02qu'on peut attendre
23:03d'une mauvaise application
23:04de l'intelligence artificielle
23:06dont vous avez certainement
23:07entendu parler,
23:08les travailleurs du clic,
23:09les conséquences sur l'environnement,
23:11etc.
23:13Ce qu'il faut éviter absolument,
23:16c'est de faire passer
23:18un système d'intelligence artificielle,
23:20qu'il s'agisse d'un robot
23:21ou d'un système abstrait,
23:23comme une personne.
23:25C'est tellement grave
23:26que selon un ami
23:28et un collègue ancien,
23:30un collègue et ami à moi,
23:31qui est Daniel Dennett,
23:32certains d'entre vous connaissaient son nom,
23:34il est extrêmement célèbre,
23:35à très juste titre,
23:36il vient de mourir malheureusement,
23:38et tout à fait,
23:39vers la fin de sa vie,
23:40il a pris une position très nette,
23:41il a dit de même
23:42que la fausse monnaie,
23:45faire de la fausse monnaie,
23:46c'est un crime qui est puni,
23:48et bien faire des fausses personnes,
23:49c'est un crime encore plus grave
23:51qui devrait être gravement puni,
23:53et les faux monnayeurs,
23:54les faux personneurs,
23:55si vous voulez,
23:56qui existent malheureusement,
23:58devraient être mis en prison,
23:59purement et simplement.
24:00Pourquoi ?
24:01Parce que, évidemment,
24:02créer de fausses personnes,
24:04ça introduit une défiance,
24:06une désorganisation,
24:07complète dans l'ensemble
24:08de la société.
24:09Je n'ai pas le temps
24:10de développer ce point,
24:11mais je pense qu'il est
24:11relativement évident.
24:13Alors, qu'est-ce qui est
24:13à rechercher, inversement ?
24:15Évidemment, des instruments
24:16qui sont au service
24:17des utilisateurs,
24:18et pas forcément au service
24:20des multimillionnaires
24:21de la Silicon Valley,
24:24mais ils ont le droit de faire,
24:25ils font très bien,
24:26mais quand même,
24:27le service est à rendre
24:29aux utilisateurs,
24:31aux communautés,
24:32aux sociétés,
24:33aux personnes, etc.
24:34Et il faut,
24:35deuxième chose,
24:36que l'usage
24:38de ces outils
24:40ne porte pas atteinte
24:42à l'autonomie
24:43et aux capacités
24:45à long terme.
24:46Alors,
24:47l'autonomie,
24:47c'est simplement l'idée
24:48que si ces systèmes
24:51sont conçus
24:52d'une certaine manière,
24:53ils donnent donc
24:54un avis aux dermatologues,
24:56aux militaires,
24:58aux juristes,
24:59etc.
24:59Ben voilà,
25:00on pourrait faire ça.
25:01Alors,
25:01en principe,
25:02le juriste,
25:03le militaire,
25:03etc.,
25:04le médecin,
25:05sont dans la boucle,
25:06comme on dit,
25:07l'humain dans la boucle,
25:08mais en réalité,
25:10vous nous connaissez,
25:11on est paresseux,
25:12on a tendance à dire
25:13la machine doit avoir
25:14sûrement raison,
25:15donc la machine nous dit X,
25:16et donc on appuie
25:17sur le bouton X,
25:18on n'en parle plus.
25:19Il ne faut pas,
25:20évidemment,
25:20que les systèmes
25:21soient de ce genre-là.
25:22Et deuxièmement,
25:23il ne faut pas que leur usage
25:24à long terme
25:25nous rende idiots.
25:27Il ne faut pas que nous soyons
25:28comme des enfants gâtés
25:30auxquels l'intelligence artificielle
25:32apporte tout ce dont il a besoin
25:34et qui devient complètement
25:35molasson et idiot.
25:37Donc ça,
25:37c'est tout à fait à éviter.
25:40Donc,
25:40quand est-ce que l'IA peut être utile
25:42et quand est-ce qu'elle risque
25:44d'être nocive ?
25:45Ben,
25:45je crois qu'il n'y a pas
25:45de réponse uniforme à ça
25:47et c'est sûrement pas moi
25:48qui va vous la proposer aujourd'hui,
25:50mais je veux donner un indice
25:51grâce à ma distinction
25:52entre problème et situation.
25:54Je dis que
25:55quand ça ressemble à un problème,
25:58c'est-à-dire quelque chose
25:58dont on peut en gros
26:02énoncer les données
26:03et quelque chose
26:04qui peut être résolu
26:05par vous ou par moi,
26:06la solution sera toujours la même.
26:08Quand on est en situation
26:09de problème,
26:10c'est une bonne idée
26:11d'essayer de se faire aider de l'IA.
26:13Au contraire,
26:13quand on n'est pas
26:14dans cette situation,
26:15quand on est justement
26:16dans une situation
26:17de situation,
26:18alors là,
26:19je pense qu'il faut plutôt
26:20ne pas compter sur l'IA
26:21et que ça peut même être nocif
26:23de penser à compter sur l'IA.
26:24Mais, bien entendu,
26:27la domestication de l'IA,
26:30y compris sa pleine compréhension,
26:32car, comme vous savez,
26:33nous ne comprenons pas exactement
26:34comment marchent
26:35les modèles
26:36de Georges Tchatchepeté
26:38et autres,
26:39est une affaire
26:39de longue haleine
26:40et je pense qu'il faudra
26:41peut-être une génération
26:42pour que nous domestiquions l'IA
26:44et que nous la rendions
26:45à notre service.
26:46Merci.
26:46Applaudissements
Commentaires