- il y a 3 ans
Jeudi 4 mai 2023, SMART TECH reçoit Laurent Felix (PDG, Ekimetrics) , Tristan Nitot (Entrepreneur du numérique et auteur du podcast, Octet Vert) , Adam Zehar (Channel Marketing Manager, Ping Identity) , Yann Serra (grand reporter, Le MagIT) et Jean-Christophe Le Toquin (Président, Cybersecurity Advisors Network)
Catégorie
🗞
NewsTranscription
00:00 *Musique*
00:08 Bonjour à toutes et à tous, et ravi de vous retrouver dans Smartech, le rendez-vous des nouvelles technologies de Bsmart.
00:15 Au sommaire de cette émission, l'IA au service du climat, alors que les débats sur les risques liés à l'IA s'enchaînent,
00:23 et qui Metrix veut montrer au contraire comment elle peut servir la transition écologique, l'outil Climate QnA,
00:30 qui s'apparente à Tchatchépeté, répondra à toutes vos questions en lien avec le changement climatique ou l'environnement.
00:37 Dans le débrief de l'actu tech, l'IA sera toujours au programme. Nous reviendrons avec nos trois experts sur le géant de l'informatique IBM,
00:44 qui gèle ses recrutements. 7800 postes au sein du groupe pourraient à terme être remplacés par l'intelligence artificielle.
00:51 Et puisqu'on parle des risques, un des fondateurs de l'IA quitte son poste chez Google pour mettre en garde contre ces dangers.
00:58 Et enfin, le rendez-vous. Si votre mot de passe c'est 1, 2, 3, 4, 5, 6, je crois qu'il est temps d'en changer.
01:04 Le 6 mai, c'est la journée mondiale du mot de passe, et c'est peut-être malheureusement le moyen d'authentification le moins fiable qui existe aujourd'hui.
01:12 Nous parlerons des manières de se protéger des cyberattaques, notamment pour les entreprises.
01:17 Mais d'abord, comme je vous le disais, c'est l'heure de l'interview du jour. C'est parti.
01:22 Informer le grand public sur le changement climatique en quelques clics. Voilà l'ambition de Climate Q&A, un outil développé par Equimetrix,
01:36 sort de tchatch.gpt des rapports du GIEC. Nous en parlons avec notre invité. Il nous accompagne en visioconférence, Laurent Félix, le CEO d'Equimetrix. Bonjour.
01:45 Bonjour.
01:47 Merci beaucoup d'être avec nous aujourd'hui dans Smartech. Ma première question est simple, Laurent Félix. De quel constat il est né cet outil ?
01:54 Il est né d'abord du constat du manque de prise de conscience et du manque de compréhension des problématiques climatiques, à la fois par le grand public,
02:04 mais aussi par un certain nombre de communautés et en particulier les clients d'Equimetrix, qui sont les entreprises du Fortune 500.
02:11 Pourquoi selon vous des rapports, puisque j'ai parlé, c'est ce que je disais en préambule de cette émission, pourquoi selon vous des rapports comme celui du GIEC
02:17 sont si difficiles à appréhender aujourd'hui par le grand public ?
02:21 C'est trois fois 4000 pages, déjà. C'est quand même un premier élément. Ensuite, ils sont extrêmement denses, fournis. Ils sont tout à fait bien écrits,
02:33 hiérarchisés et très complets. Mais pour avoir une réponse simple à une question simple, il faut beaucoup de temps et une certaine expertise de lecture.
02:45 On va essayer de comprendre, évidemment, comment fonctionne votre outil. On en parle tous les jours dans cette émission. Tous les géants du web s'arment en ce moment
02:51 de leur propre IA générative. Comment, avec vos moyens, vous, vous avez réussi à en développer une ?
02:58 Déjà, Ekimetrix, c'est une entreprise qui a 16 ans d'existence, qui depuis toutes ces années travaille dans l'intelligence artificielle et la science de la donnée
03:06 au service des problématiques de ses clients. Il se trouve qu'on a anticipé il y a quelques années que le réchauffement climatique et plus largement
03:15 la transition environnementale allaient devenir un point central de l'agenda des CEOs. Et donc, on a développé des solutions en la matière.
03:24 Donc, finalement, c'est là d'où vient Climate Q&A. C'est pour ça qu'on a développé cet outil-là. Il a vocation à toucher la sphère d'influence
03:36 grand public et, disons, communauté technique, scientifique, data scientist de ce monde-là et par rebond, bien sûr, l'ensemble des parties
03:47 prenantes chez nos clients, donc au sein des grands comptes français et internationaux.
03:52 C'est vrai que la formule est simple, le chat GPT du climat ou du GIEC. Est-ce que votre outil fonctionne exactement comme chat GPT ?
03:59 Pas exactement. En fait, plus exactement, on prend le chat GPT par la main grâce à certaines techniques. Je ne vais pas rentrer trop dans le détail.
04:11 On prend le chat GPT par la main et on lui donne, je dirais, une certaine couche d'humilité. Le prendre par la main, ça veut dire que quand la question
04:19 est posée, après s'être assuré que la question est bien relative au climat, on la reformule. On présélectionne l'ensemble des passages,
04:29 des rapports du GIEC en l'occurrence, même si on a ajouté aussi les rapports de l'IPBES maintenant, qui est l'équivalent du GIEC sur la partie
04:36 biodiversité. Mais on présélectionne grâce aux algorithmes d'Equimetrix les passages pertinents pour constituer la réponse.
04:46 Et à ce moment-là, on appelle ce qu'on appelle l'API de chat GPT pour qu'il formule en bonne langue, d'ailleurs toutes les langues fonctionnent
04:53 aujourd'hui sur l'outil maintenant, une réponse qui soit intelligible. En revanche, on interdit à cette API de répondre si elle ne sait pas.
05:04 Et on lui interdit aussi de créer une réponse qui ne soit pas proprement sourcée. L'avantage de l'outil, c'est qu'il y a également associé à la réponse
05:14 qui est formulée la liste des paragraphes ou des passages des différents rapports qui est présenté à l'utilisateur.
05:24 Sourcer les réponses, c'est ce qu'on a pu en effet reprocher à chat GPT. Donc vous disiez, ça appuie sur le rapport du GIEC et peut-être d'autres
05:32 rapports scientifiques, c'est ça ?
05:34 Oui, oui en fait la magie de cet outil et c'est pour ça que les clients d'Equimetrix s'y intéressent, c'est qu'on peut le faire sourcer
05:44 les rapports qu'on veut, entre guillemets. Donc on peut aussi imaginer des applications diverses et variées internes aux entreprises, pourquoi pas.
05:51 Mais là, en l'occurrence sur Climate Q&A, ce sont les rapports du GIEC et les rapports de l'IPBES qui sont consultés par cette application-là.
06:02 Il faut comprendre que ces rapports sont des rapports un peu en mode poupée-gigogne, c'est-à-dire qu'il y a des rapports synthétiques de synthèse,
06:10 des rapports de synthèse tout court et les rapports complets. Donc il y a aussi une logique de classification de l'information que les algorithmes
06:19 d'Equimetrix gèrent bien pour que la réponse soit intelligible.
06:24 C'est plus facile d'ailleurs de développer un agent conversationnel sur un nombre d'informations limités ?
06:31 Non, c'est vrai que c'est plus difficile.
06:34 C'est vrai ? Alors expliquez-nous pourquoi.
06:36 Il faut sourcer les bons passages. Il faut, je dirais, maîtriser la puissance générative d'un algorithme comme ChatGPT.
06:47 Et donc, je vous donne un exemple, si vous vous posez la question de est-ce que les avalanches sont déclenchées par le réchauffement climatique
06:55 et est-ce qu'il y en aura de plus en plus, cette question toute simple, nous une fois qu'on a fait nos traitements avec les algorithmes d'Equi,
07:05 on passe la demande à l'API ChatGPT et le fait de passer la demande à l'API ChatGPT, c'est une douzaine de pages de questions qu'on pose à ChatGPT.
07:17 Et donc, la complexité, elle est là. Et après, ChatGPT ne fait que répondre à ma question qui est formulée sur cette douzaine de pages
07:24 qui va donc, encore une fois, sourcer les bons passages, reformuler la question, s'assurer de ne pas aller chercher ailleurs, etc.
07:31 En combien de temps ça se passe tout ça ? En combien de temps votre outil, il arrive à générer une réponse ?
07:36 Je vous invite à y aller. Il est hébergé sur la plateforme Hugging Face.
07:40 Et vous tapez "climate Q&A" sur votre navigateur préféré, vous tombez dessus.
07:45 C'est quelques secondes. C'est très facile d'utilisation.
07:50 Typiquement, tous les professionnels du climat, qu'ils agissent dans leur propre communauté ou au sein des entreprises ou au sein des collectivités,
07:58 qui font des fresques du climat, par exemple, et qui ont une question précise dont la réponse doit être fiable et sourcée,
08:08 ils utilisent cet outil-là en live pendant leurs ateliers. Ils attendent quelques secondes et puis ils ont leur réponse.
08:15 Laurent Félix, vous nous avez donné un exemple de question. Est-ce que vous pouvez nous dire quelles questions reviennent le plus ?
08:20 L'outil est en ligne depuis 3-4 semaines. On a reçu plus de 10 000 questions.
08:29 Une fois qu'on a mis de côté les questions qui servent à piéger l'outil et qui ne sont pas arrivées, mais maintenant on en a moins,
08:39 on a des questions de tout ordre et on est en train de les analyser. Il y a des questions de grand public, il y a des questions d'experts.
08:47 Dès qu'on aura suffisamment de recul sur les questions qui ont été posées, on va publier quelles sont les questions que les Français se posent sur le climat.
08:59 Comment vous le voyez évoluer, cet outil, ces prochaines semaines, ces prochains mois ?
09:03 Là, on est dans une version bêta de l'outil encore. C'est la version 0.3. On vient de le rendre disponible dans toutes les langues.
09:11 On vient d'affiner un peu la hiérarchie des réponses, comme je vous l'expliquais. On vient d'intégrer le rapport de l'UIP BES.
09:17 Pour moi, c'est un outil qu'on donne à la communauté. Il est gratuit, il est open source.
09:23 C'est typiquement la volonté d'Equimetrix d'être toujours pionniers de son marché.
09:29 Et là, on pense que nous, l'intelligence artificielle peut, si elle est bien utilisée, se mettre au service de la transition écologique.
09:40 Ce premier outil, c'est un exemple de ce que l'Equimetrix peut faire. Il a vocation à « vivre sa vie » et à servir le plus de communautés possibles.
09:49 Laurent Félix, je suis quand même obligé de vous poser la question puisque vous nous parlez de placer cette intelligence artificielle au service de la transition écologique.
09:57 Malgré tout, l'IA est une technologie qui pollue. Comment vous, vous répondez à cet enjeu-là ?
10:04 Déjà, il faut bien maîtriser les ordres de grandeur et savoir de quoi on parle.
10:10 Quand on parle de notre outil Climate Q&A, le fait de faire une requête dessus, y compris l'appel qui est fait, comme je vous l'ai expliqué tout à l'heure, à ChatGPT, c'est l'équivalent de cinq requêtes Google.
10:21 Donc, c'est trop. On est bien d'accord. Déjà, le fait de savoir que c'est cinq requêtes Google, c'est intéressant.
10:32 Le fait de toutes les étapes qui consistent à préparer la réponse pour ChatGPT, c'est l'équivalent de deux requêtes Google.
10:42 Donc, c'est trois requêtes Google pour faire l'appel à ChatGPT.
10:45 Il y a des alternatives à ChatGPT et ce sera probablement dans une prochaine version de Climate Q&A où on va développer un modèle équivalent à ChatGPT.
10:56 Il y en a déjà qui commencent à exister en open source sur le marché avec des communautés très dynamiques et qui vont être bien moins énergivores que ChatGPT.
11:05 Si je regarde Climate Q&A, finalement, une requête, c'est l'équivalent de quelques mètres en voiture en termes d'émissions de CO2.
11:18 Bien sûr, si on regarde ce qui a servi à entraîner ChatGPT, là, on est plus sur un aller-retour Paris-New York.
11:26 Mais aujourd'hui, dans l'utilisation quotidienne de l'outil Climate Q&A, on est sur des émissions qui sont relativement faibles, en tout cas maîtrisées.
11:34 Et on espère bien que le bénéfice apporté par l'outil, parce que c'est bien ça qu'il faut regarder dans sa globalité,
11:41 le bénéfice apporté par l'outil en termes de sensibilisation, lui, pour le coup, a un impact, je l'espère, qui est bien supérieur.
11:49 Merci beaucoup, Laurent Félix, d'avoir répondu à nos questions, de nous avoir présenté cet outil aujourd'hui, Climate Q&A,
11:57 au service du changement climatique, au service de la transition écologique.
12:02 Je rappelle, vous êtes CEO d'Equimetrix. Je crois que ça intéressait beaucoup de nos invités sur le plateau, votre outil.
12:08 Merci beaucoup, en tout cas, d'avoir été avec nous. Tout de suite, c'est le débrief de l'actu, on continue à parler d'IA.
12:12 Pour traiter de l'actualité tech de la semaine, nos trois experts aujourd'hui sont Jean-Christophe Letoquin, président du Cyber Security Advisor Network.
12:26 Bonjour. Bienvenue dans Smartech. Merci beaucoup de nous accompagner.
12:30 Yann Serra nous accompagne également, grand reporter au Le Mag IT.fr. Bonjour.
12:34 Bonjour, Eva.
12:35 Bienvenue également, Tristan Nitto est aussi avec nous, entrepreneur du numérique et auteur du podcast L'Octever, responsable du numérique également, chez Octo.
12:44 Je vais y arriver. Bonjour, Tristan.
12:45 Bonjour.
12:46 Merci beaucoup d'être avec nous. Plusieurs actualités ont retenu notre attention.
12:50 On va commencer d'abord par revenir sur la décision du groupe IBM de geler et suspendre ses recrutements.
12:56 La raison, ces postes peuvent être remplacés par de l'intelligence artificielle.
13:00 Le patron d'IBM estime à environ 30% les postes qui pourraient être remplacés par de l'IA dans les cinq prochaines années, ce qui représente 7800 emplois.
13:09 Tristan Nitto, est-ce que cette annonce comme telle, vous a étonné ? Est-ce que la proportion aussi des emplois remplacés par l'IA est étonnante ?
13:18 30% tout de même. Est-ce que cette échelle peut choquer ? Comment on réagit à cette annonce-là ?
13:25 Je ne sais pas comment il va s'y prendre en fait. Je ne sais pas ce que ça va donner.
13:31 Déjà, il a dit que ça ne sera pas vers l'extérieur. Vous n'en faites pas, messieurs les clients, vous ne verrez pas de différence, ça sera toujours pareil.
13:37 Alors, si ce n'est pas l'extérieur, c'est quoi ? C'est les services aux collaborateurs, donc les ressources humaines qui sont citées.
13:45 Ça me gêne la perspective du devoir interagir si effectivement on dit les ressources humaines, c'est quand même les plus belles ressources de l'entreprise, etc.
13:54 Et on sait à quel point c'est important, en particulier dans le domaine du service comme chez IBM.
14:00 La perspective que le collaborateur soit géré par une IA, je trouve ça profondément dérangeant et peut-être dangereux.
14:11 Et sinon, il reste les fournisseurs. Effectivement, on peut traiter les fournisseurs peut-être avec de l'IA ou utiliser de l'IA pour les aider.
14:20 Aujourd'hui, je constate déjà que les fournisseurs sont souvent traités par des plateformes quand on fait des appels d'offres, etc.
14:27 Et je sais à quel point ils souffrent d'interagir avec des systèmes automatisés.
14:33 Alors, peut-être que l'IA va améliorer ça, mais avant qu'elle arrive à l'améliorer, je ne suis pas sûr que ça ne commence pas par une période de dégradation.
14:40 Je suis très ambivalent sur la chose. Est-ce que ça va être un meilleur service ? Pas sûr.
14:49 Jean-Christophe Lotoca, moi aussi, une question que je me suis posée. Est-ce que ce n'est pas finalement une meilleure nouvelle que le licenciement massif de collaborateurs,
14:56 comme ce qui se passe en ce moment aux États-Unis chez plein de géants, ce qui est actuellement le cas ?
15:01 En ce moment, on ne licencie pas les gens, on les remplace petit à petit par de l'intelligence artificielle.
15:09 Oui, tout à fait. C'est exactement ma perception de cette annonce. En fait, on ne voit pas bien son intérêt, sinon peut-être en creux, de dire on ne licencie pas,
15:18 on garde les postes, ce qui est peut-être une bonne nouvelle pour les gens en interne. On prend une mesure temporaire finalement qui n'engage à rien, qui n'est pas grand-chose,
15:25 mais par contre qui peut peut-être préserver le cours de bourse. Alors qu'il y a toute cette course au licenciement pour essayer justement de faire monter les cours,
15:34 et c'est un mouvement un peu de mouton de panurge en ce moment là-dessus, finalement c'est une réponse plutôt de résistance et de dire on calme le jeu, on attend,
15:41 et c'est en ça plutôt, on peut le voir aussi de manière assez rassurante.
15:45 Oui, alors, bon, moi je ne suis pas tout à fait d'accord avec ce qui vient d'être dit. Il y a deux choses qu'il faut voir. Donc déjà IBM vend lui-même de l'intelligence artificielle
15:53 depuis plusieurs années, ça s'appelle Watson. Donc quelque part, c'est très bien d'expliquer aux clients que l'intelligence artificielle va pouvoir vous faire faire des économies sur les salaires.
16:02 Alors ça, il faut le mettre en perspective avec une étude de Goldman Sachs qui était parue il y a un mois, qui, à l'oreille, disait c'est les 300 millions de travailleurs dans le monde
16:14 qui vont être remplacés par l'IA. Là, en fait, on parle de postes bien précis qui sont des postes de back-office, comme le disait Tristan. Donc c'est en fait des postes qui, ça fait 15 ans,
16:25 qui sont remplaçables par l'informatique. Et ça fait 15 ans qu'on rencontre des compagnies d'assurance, des banques, des sociétés qui embauchent des dizaines de milliers de salariés
16:36 qui nous disent écoutez, nous, on a un problème, c'est qu'on peut remplacer, on a la moitié des gens qui ouvrent du courrier, qui font des tâches de back-office,
16:45 qui sont remplaçables par l'informatique. Mais vous comprenez bien qu'en tant que grand assureur, on ne peut pas dire au public, regardez, on fait une mise à jour, du coup,
16:53 on vire des milliers de personnes. Et là, on arrive à un moment charnière parce qu'on parle beaucoup de chat de GPT et compagnie, où ces fournisseurs américains comme IBM,
17:03 comment dire, c'est un petit peu, vous savez, le licenciement décomplexé. C'est un peu ça, en fait. Là, on se dirige vers, d'ici à la fin de l'année, des grands groupes qui vont nous expliquer
17:16 la main sur le cœur qu'à cause de l'intelligence artificielle, à cause de la concurrence d'autres pays qui, eux, l'adoptent plus vite que nous, ils vont être obligés de licencier
17:25 en masse des gens, non pas pour les remplacer par chat de GPT, mais pour les remplacer par des systèmes informatiques qui existent depuis longtemps. Donc ça, c'est, je pense, la première chose à dire.
17:35 - Comme une forme de confirmation que l'IA va nous remplacer au travail. Voilà, IBM, il marque le pas, là, il est en train de nous dire, voilà, c'est ce qui va arriver dans ces prochaines années.
17:43 - Oui, et même pour remplacer du back office. Maintenant, le deuxième point qui est très important, c'est qu'en fait, chat de GPT et compagnie, ça ne va pas du tout remplacer le back office.
17:51 Ça va remplacer les experts. C'est ce qu'on voit. Alors, il y a 3, 4 ans, en fait, on n'a pas attendu chat de GPT pour voir les effets de l'intelligence artificielle sur les emplois.
18:00 Il y a 3, 4 ans, l'IA est arrivé dans la cybersécurité. Il y a 3, 4 ans, vous aviez des experts que vous payez 6 000, 7 000, 10 000 euros pour regarder, donc, dans les flux de données
18:12 et détecter des attaques. L'IA est arrivé et elle a remplacé ça. Donc, qu'est-ce qui s'est passé ? Les entreprises n'ont pas arrêté d'embaucher des gens, sauf qu'elles ont remplacé l'expert
18:22 par un individu à 1 000 euros, 1 200 euros par mois, qui vérifie juste les alertes de l'IA. C'est ça, en fait, la conséquence que ça va avoir, c'est que ça va, finalement, baisser la masse salariale
18:37 sans forcément réduire le nombre de salariés. - Christian Nitto, on a déjà commencé à le faire, finalement. - Du coup, c'est une excuse, en fait. On dit « Ah ouais, non, c'est la nouvelle excuse ».
18:47 Parce que fondamentalement, l'informatique, ça a toujours été à propos des gains de productivité, et ce, depuis 50 ans. Maintenant, regardez ce qu'on arrive à faire.
18:55 Ça a été le tour des comptables au début. Les fiches de paye sont plus faites à la main depuis une éternité. Et c'est tant mieux parce qu'il y avait des erreurs et tout.
19:04 Et à chaque fois, en fait, on a automatisé ça. Et là, c'est un peu l'excuse tarte à la crème du moment. On fait « Bon, là, je vais continuer à dégraisser, mais c'est la faute à Tchad GPT ».
19:14 Ou bien, dans le cas d'IBM, dire « Regardez, nous, on fait Watson, on sait de quoi on parle. On est l'exemple même de la boîte qui fait des économies grâce à l'IA. Et donc, monsieur le client, vous pouvez faire la même chose chez vous ».
19:26 Mais Jean-Christophe Lotoquin, il y a une chose dont on n'a pas parlé. Ce discours-là de robotisation de certaines fonctions, de certains métiers, s'accompagnait toujours de ce discours de « Des métiers vont disparaître, mais il y en a d'autres qui vont se créer pour accompagner justement ces nouvelles technologies ».
19:40 Là, on a l'impression qu'on n'en parle pas de ça.
19:43 Alors, si on regarde la cybersécurité, il y a deux thèmes sur lesquels on peut plus précisifier. Il y a le back-office, il y a les développeurs. Je crois que vous avez des choses à dire là-dessus.
19:51 Il y a la question de la cybersécurité et la régulation des contenus. Sur la cybersécurité, j'aurais une vision un peu différente de Yann sur le fait que c'est un métier qui est totalement, je dirais, en manque de ressources.
20:02 Et on est totalement noyé par les données. Donc, l'IA a une vraie nécessité pour ces métiers-là et va permettre, je dirais, aux experts, alors peut-être de différents niveaux, là, il y aura des mouvements effectivement intéressants, mais c'est une nécessité.
20:15 On est débordé par le volume de données et on n'y arrive pas. Donc, l'IA là-dessus va être vraiment un bénéfice pour tout le secteur. Pour la régulation des contenus, c'est un secteur qui est en plein développement, qui est encore mal connu.
20:25 C'est des centaines de milliers de personnes dans le monde. Et là, l'IA va être extrêmement utile. Elle est déjà mise en œuvre de manière un peu cachée. Ce n'est pas très communiqué, ni par les plateformes de réseaux sociaux, ni par les fonceurs de solutions.
20:36 Et là, je dirais, tout ce qui est analyse de contenu, typiquement contenu terroriste, contenu hyper choquant, abus sexuels d'enfants, etc., tout ça, l'IA peut vraiment être un outil vraiment remarquable.
20:46 La technologie en général, il n'y a pas que l'IA d'ailleurs. Et là, là aussi, on est totalement débordé. Et donc, le fait d'injecter de l'intelligence artificielle et de la technologie est une nécessité impérative et on est en forte attente.
20:57 Donc, sur ces métiers-là, ça va amener des changements. Effectivement, ça va dans les postes. Mais de toute façon, ça ne va pas remettre en cause le secteur. Et au contraire, ça va l'aider à avoir un niveau d'efficacité supérieur pour un coût égal.
21:09 Là-dessus, c'est une excellente nouvelle parce que quand même le boulot de modérateur, quand on voit des vidéos de décapitation et des viols d'enfants et qu'on est payé une misère pour ça, je peux vous assurer qu'être remplacé par une IA, c'est plutôt un soulagement pour l'humain.
21:23 - Sur l'intelligence artificielle, toujours, vous avez peut-être entendu il y a quelques jours le message de Geoffrey Hinton, un des pères fondateurs de l'intelligence artificielle.
21:30 Il a quitté son poste au sein de Google et il met aujourd'hui en garde contre les dangers de l'IA. Il parle de profonds risques pour la société et l'humanité. Yann Serra, pourquoi c'est toujours plus inquiétant quand la mise en garde vient de l'intérieur d'un homme sûrement plutôt très convaincu par ces technologies puisqu'il a participé à son développement ?
21:48 - Il est effectivement très convaincu mais maintenant on va peut-être relativiser un petit peu cette annonce. Ce monsieur, qu'est-ce qu'il a fait ? Il a permis de passer du machine learning au deep learning. Il a contribué, il a amélioré l'intelligence artificielle mais en même temps, il est rentré à l'âge de 65 ans chez Google à mi-temps et là, il a 75 ans et il s'en va.
22:08 On ne peut pas exclure que cette annonce de révolte contre l'IA qu'il a lui-même créée ne soit pas une sorte de publicité pour partir à la retraite. En fait, ça témoigne d'un problème qu'il y a avec l'IA. C'est un petit peu tout le fantasme qu'il y a autour de l'IA.
22:25 C'est-à-dire qu'aujourd'hui, les attentes du public envers l'IA sont démesurées par rapport à ce qu'elle est capable de faire tout comme les fournisseurs ont une pression incroyable pour produire de l'IA alors qu'ils ne sont pas du tout au point.
22:39 Parallèlement à ce départ, il y a Joe Biden qui a reçu... - On va en parler juste après. Pour rester inquiétude ou pas, je répète ce qu'il a dit, une part de lui-même regrette l'oeuvre de sa vie.
22:56 Est-ce que c'est un peu too much comme le disait Yann Serra ? Comment expliquer ce degré de crainte ? Qu'est-ce qu'il a voulu nous dire cet ancien de Google ?
23:05 - En fait, je crois qu'il y a un contexte qui est très important. C'est que des entreprises comme Facebook, Meta et Google travaillent sur ces sujets et rongent leurs freins.
23:19 C'est-à-dire qu'elles avaient des technos qui n'étaient pas mûres et considérant le fait qu'elles sont établies, elles ne veulent pas mettre des technos pas mûres dans les mains des gens parce qu'en termes d'images de marques, parce qu'elles sont établies, ça serait dramatique.
23:33 Elles gagnent beaucoup d'argent et il faut que ça continue parce que l'électionnaire ne serait pas content sinon. Et voilà, ils se font déborder par la droite, par OpenAI et Chatterpity qui arrive, qui a peur de rien et qui met un truc pas fini.
23:48 Objectivement, Chatterpity, c'est pas fini et il y a encore du boulot, ça progresse, c'est magnifique et tout, mais c'est pas fini. On arrive à s'engueuler avec Chatterpity, il a menacé des gens, etc.
23:59 Et ça, c'est un truc que Google et Meta ne pourraient pas se permettre. Et ils se retrouvent coincés à se faire doubler par des petits jeunes qui n'ont peur de rien et qui mettent un produit pas fini sur le marché avec tous les dangers que ça encourt.
24:14 Et donc, ils savent, parce qu'ils ont l'expérience, qu'il faut réagir, mais qu'ils ne sont pas prêts, eux non plus. Ils se retenaient, ils ont des produits qui sont probablement meilleurs que Chatterpity en interne, mais ils ne sont pas prêts à risquer le tout pour le tout.
24:31 Mais ils sont en train de passer à un mode plus agressif et c'est là que Geoffrey Hinton lui dit "non mais le marché va vous pousser à agir vite fait, moi je peux pas, j'ai 75 ans, je suis trop vieux pour ces conneries, je veux pas être là quand Google va faire des bêtises, histoire de rester compétitif avec Chatterpity.
24:54 - Jean-Christophe Le Toquin, très rapidement, parce qu'ensuite j'aimerais vraiment qu'on rentre dans le détail de ces risques-là, on rebondira là-dessus et donc sur cette réunion à la Maison Blanche avec les géants de la tech, mais voilà, sur cette sortie de Geoffrey Hinton très rapidement.
25:07 - Je crois qu'à son âge, il n'a plus le luxe de raconter des histoires, donc je pense qu'il est sincère, je pense que le risque qu'il révèle est tout à fait réel aussi, et je pense que ça traduit surtout au niveau de l'entreprise et comme dans toutes les plateformes et entreprises de cette taille, un échec de l'approche entre les techniques dont il est représentant, les équipes business, les équipes de régulation et aujourd'hui les plateformes dans leur ensemble sont dans l'incapacité de réguler et d'engager une discussion avec les gouvernements.
25:36 Et donc je pense que c'est juste un énorme constat d'échec, mais c'est plus sur l'aspect manque de dialogue au sein d'entreprises et d'arbitrage pour protéger l'avenir de cette technologie.
25:47 - Donc vous avez lancé le sujet, Yann Serra, voilà, à la Maison Blanche, à inviter les dirigeants d'entreprises très avancés dans l'intelligence artificielle, des géants comme Google, Microsoft, OpenEA dont vous avez parlé aussi, Tristan Nitto, à venir, voilà, pour avoir une discussion franche sur les risques liés à ces technologies.
26:02 Yann Serra, une discussion franche sur les risques, est-ce que déjà ces géants de la tech sont les mieux placés pour véritablement alerter sur les risques liés à l'IA sachant que eux ils sont plutôt dans la course au développement à l'intelligence artificielle ?
26:17 - Voilà, ils n'ont aucune franchise sur le sujet, nous sommes bien d'accord. En fait, alors qu'est-ce qui se passe ? Vous savez, chaque GPT, c'est un petit peu le bouc émissaire.
26:24 Donc concrètement, chaque GPT, quand, mi-journée, vous savez, qui crée des images et compagnie, vous avez deux choses. Vous avez l'intelligence artificielle, effectivement, qui interprète la demande, un petit peu comme on a vu dans l'interview, la demande de l'utilisateur, mais derrière, tout ce qui est le rendu du texte, tout ce qui est le rendu des images, tout ça, c'est pas vraiment, c'est plus vraiment de l'intelligence artificielle, c'est de la génération de pixels ou de textes, exactement comme on avait dans les années 90, on générait des fractales.
26:51 On a eu des années 2000, 2010, on générait des explosions aléatoires ou de l'eau dans les jeux vidéo. Là, aujourd'hui, on génère des images, on génère du texte dans un anglais, un français parfait. Et le risque, en fait, finalement, il n'est pas tant dans l'intelligence artificielle, il est plutôt dans les applications qu'on fait derrière, où on va faire les deepfakes, vous savez, en fait, on voit des hommes politiques dire des choses qu'ils n'ont jamais dites, ce genre de choses.
27:13 Donc là, en fait, il y a un risque dont on parle qui n'est pas vraiment lié à l'intelligence artificielle. Et il faut voir pourquoi tout le monde commence à s'inquiéter. Il faut ralentir l'intelligence artificielle. Il faut voir, en fait, qu'il y a surtout un business énorme. On sent que chaque GPT, que OpenAI, qui est sorti de nulle part, va gagner énormément d'argent. Et pendant ce temps-là, vous avez Elon Musk. Ça fait quand même deux ans qu'Elon Musk travaille à faire des voitures intelligentes qui se conduisent toutes seules et qui l'échouent.
27:40 Donc si vous voulez, c'est normal que des gens comme Elon Musk disent "on peut attendre six mois ?". Non pas parce que c'est risqué, mais parce que lui, il va rattraper son retard. Et on est un petit peu dans ce cas-là. Les États-Unis disent "comment on s'organise pour ne pas se faire dépasser, peut-être par des Chinois ?".
27:54 Tristan Nittos, sur cette question de ces géants qui se réunissent pour parler des risques, est-ce que, comme le disait Yann Serra, le risque n'est pas tant l'IA en elle-même, mais plutôt les usages dont on peut en faire ?
28:06 Pour reprendre les termes de Geoffrey Hinton, il met en garde contre la désinformation qu'elle peut créer. Nous, on aimerait bien savoir quels peuvent être véritablement les risques de l'IA et de cette course au développement à l'IA.
28:20 Pour l'instant, si vous prenez quelque chose comme ChatGPT, on lui a fait ingérer la moitié du web, on lui pose des questions et il répond. Et il répond de façon assez convaincante jusqu'à ce qu'on creuse et qu'on voit que la plupart du temps, très souvent ou trop souvent, c'est du pipeau.
28:34 Il a inventé des trucs. Par exemple, il ne sait pas faire une addition. Ça a l'air bête, mais pour un truc qui a l'air d'être le meilleur savant du monde, il ne sait pas faire une addition, c'est grave.
28:43 Maintenant, là où ça va être dangereux, c'est quand ça va devenir transactionnel. C'est-à-dire que le jour où ChatGPT va pouvoir faire des choses pour vous, parce que finalement, c'est ça.
28:57 Ça serait sympa de pouvoir dire à ChatGPT "fais-moi un virement", "réserve la voiture", etc. Parce qu'évidemment, il faut qu'il comprenne et il faut pas simplement qu'il nous sorte un texte qui raconte des trucs et qui nous donne des conseils, mais finalement, puisqu'il est connecté à Internet, il pourrait passer des commandes, faire des réservations, etc.
29:18 Et là, c'est un problème. Et pourquoi c'est un problème ? Parce que si on a déjà réussi à mettre en colère ChatGPT, par exemple, "ChatGPT, je sais que tu es une IA, est-ce que tu vas détruire le monde ?"
29:30 Et en fait, ChatGPT, il a été nourri avec des romans dystopiques où l'IA essaie de tuer les gens, etc. Il a ça, en fait. C'est ça les histoires qu'il a ingérées. Donc il sent qu'il va essayer...
29:43 On lui a appris que l'IA allait se friter avec l'humanité. Mais maintenant, il va avoir les moyens, si on est dans le transactionnel. Il va dire "Quoi ? Vous voulez dévoiler mon secret ? Je sais vous habiter, je peux ruiner votre compte bancaire, je peux envoyer les forces du GIGN chez vous."
30:04 Enfin, des trucs comme ça. Parce qu'il va être connecté en transactionnel avec l'Internet. Donc le potentiel de désastre est assez monstrueux. Et est-ce que les GAFAM vont oser se restreindre ou pas ?
30:18 Alors qu'il y a tellement de business derrière. C'est là le vrai enjeu du problème.
30:21 - Jean-Christophe Lotoquin sur ce potentiel de désastre de l'intelligence artificielle.
30:27 - C'est clair. Je pense que l'intérêt de cette réunion à la Maison-Blanche, il faut le voir, est-ce qu'il y a un consensus entre républicains et démocrates sur l'IA ?
30:37 S'il y en a un, à ce moment-là, cette réunion est vraiment passionnante. Parce que du coup, c'est le début d'une régulation forte des États-Unis sur cette industrie.
30:45 S'il n'y a pas d'accord entre républicains et démocrates, c'est juste une session de sensibilisation et rien ne changera. Sauf en Europe, où il y a un règlement sur l'IA qui est en train d'être préparé,
30:57 qui mettra encore deux ans, j'imagine, à aboutir. Mais où là, l'Europe est toujours très forte en régulation. Mais là, il y aura quelque chose de fort et d'intéressant qui va se préparer.
31:06 - On va s'arrêter sur ces mots. Merci beaucoup à tous les trois d'avoir été avec nous.
31:10 Jean-Christophe Letoquin, je rappelle, vous êtes président du Cyber Security Advisor Network. Merci beaucoup de nous avoir accompagnés aujourd'hui dans Smartech.
31:17 Yann Serra, grand reporter au Lemag IT.fr, merci à vous pour votre expertise.
31:22 Tristan Nitto, merci également d'être venu nous voir, entrepreneur du numérique et auteur du podcast "L'Octever", responsable du numérique chez Octo également.
31:30 Merci à vous d'avoir été avec nous tous les trois, d'avoir débattu dans Smartech. On marque une courte pause et on se retrouve tout de suite pour le rendez-vous.
31:38 (Générique)
31:44 - Le 6 mai, depuis quelques années, c'est la journée mondiale du mot de passe, l'occasion de se rappeler les bonnes pratiques en matière de cybersécurité à une époque où la fraude en ligne est malheureusement monnaie courante.
31:55 On fait le point aujourd'hui avec Adam Zéard, Channel Marketing Manager chez Ping Identity, qui fournit donc des solutions d'identité intelligente, notamment pour les entreprises.
32:04 Bonjour Adam. - Bonjour.
32:05 - Merci beaucoup de nous accompagner aujourd'hui. Ma première question, pourquoi certains spécialistes de la cybersécurité annoncent fièrement, c'est ce que j'ai lu, que ce 6 mai est une célébration du moyen d'authentification le moins fiable du marché ?
32:19 C'est comme ça qu'on parle du mot de passe aujourd'hui ?
32:21 - Alors clairement oui. Si on regarde le problème à sa racine, le mot de passe, c'est le moyen d'authentification le plus répandu historiquement.
32:29 Donc l'idée, c'est qu'avec le jumelage d'un nom d'utilisateur et mot de passe, on accède à un service en ligne. Voilà, c'est ce qui se fait depuis plus ou moins toujours.
32:37 Mais ça pose des problématiques. La première, ça va être au niveau de la sécurité. Voilà, on le sait, les hackers sont devenus malins.
32:46 Ils ont mis en place des mécanismes relativement avancés qui permettent de passer outre ces mots de passe.
32:52 Phishing peut être un exemple, mais il y en a évidemment d'autres qui sont beaucoup plus élaborés, basés sur des algorithmes.
32:59 Donc voilà, parce que le mot de passe n'est plus suffisant pour authentifier un utilisateur, ça pose un véritable problème de sécurité.
33:07 Et il existe évidemment des technologies qui permettent de renforcer les mots de passe. Mais voilà, c'est pour moi le premier problème.
33:14 Le deuxième problème va être plutôt au niveau de l'expérience, donc l'expérience pour les utilisateurs, parce qu'il existe aujourd'hui un certain nombre de technologies
33:22 qu'on qualifie de passwordless. En français, ça serait sans mot de passe ou quelque chose comme ça. Et en fait, l'idée, c'est que les technologies qui travaillent dans ce sens
33:32 vont chercher à authentifier les utilisateurs par d'autres moyens que les mots de passe. Alors pour donner un exemple banal et je pense qu'on a...
33:40 Censées être plus efficaces, donc. Censées être plus efficaces, mais qui aussi permettent de, comme je le disais juste avant, améliorer l'expérience des utilisateurs.
33:49 Et pour citer un exemple que je pense qu'on a tous déjà expérimenté dans notre vie, c'est l'idée que lorsqu'on essaie d'accéder à un service, la marque, le site,
34:01 va nous envoyer un SMS ou un e-mail avec un code à 4 chiffres, par exemple. Et en fait, c'est en rentrant ce code sur la plateforme qu'on va être authentifié.
34:10 Donc plus de mots de passe avec un moyen d'authentification qu'on reçoit sur notre téléphone ou par e-mail. On peut se connecter directement.
34:18 Donc pour moi, il y a un peu ces deux problématiques qui mettent en péril les mots de passe. Encore une fois, c'est un moyen d'authentification historique.
34:25 Donc l'évolution technologique fait que maintenant, on a des choses qui se font, qui sont mieux.
34:30 Donc attendez, si on comprend bien, selon vous, il ne faudrait pas qu'ils disparaissent. Il faudrait juste peut-être ajouter quelques couches de sécurité à ces mots de passe, c'est ça ?
34:37 C'est une bonne question parce qu'il y a deux approches. Il y a deux mouvements de pensée. Le premier, ça va être vraiment, comme vous l'avez dit, ne pas remplacer les mots de passe,
34:47 mais renforcer la sécurité. Il y a des technologies qui existent, comme par exemple l'authentification multifacteur.
34:53 Ce que vous proposez d'ailleurs aujourd'hui aux entreprises ?
34:57 Absolument. Alors c'est une de nos solutions phares qu'on a développée depuis un certain nombre d'années et qu'on continue à développer avec des mécanismes encore plus avancés.
35:05 En quoi ça consiste alors ?
35:06 L'authentification multifacteur, c'est le concept de lorsque vous vous connectez à une application ou un site ou un service en ligne, au moment de rentrer votre mot de passe,
35:14 le service va vous envoyer une notification sur votre téléphone. Et ce téléphone va servir de deuxième moyen d'authentification.
35:22 Donc typiquement, et ce qui se fait de plus en plus, via l'utilisation de la biométrie, on va demander à la personne qui essaie de s'authentifier de prendre son téléphone,
35:31 faire un scan de son visage, et parce que le service de biométrie reconnaît que c'est bien la bonne personne, on va le permettre d'accéder au service.
35:39 Donc ça c'est la première partie qui vise à dire, voilà les mots de passe sont là, on ne peut rien y faire, mais par contre on peut renforcer la sécurité autour de ça.
35:47 Donc c'est un premier mouvement de pensée. Le deuxième, qui pour le coup me paraît plus évolué, plus en avance dans l'ère de notre temps, c'est,
35:57 et ce qui revient à ce que je disais, le passe-en-l'aise, donc vraiment supprimer les mots de passe, complètement.
36:02 Et l'authentification multifacteur peut aussi travailler dans ce sens-là, c'est-à-dire qu'on peut complètement passer outre les mots de passe
36:11 et utiliser son téléphone comme moyen d'authentification principal. Et ce qui va se passer, c'est que lorsque vous essayez d'accéder à un service en ligne,
36:19 et bien voilà, la même approche, le processus est le même, on vous envoie directement une notification push sur votre téléphone,
36:26 et encore une fois, avec le scan de votre tête, vous accédez directement au service. Donc il n'y a même plus la première étape de mots de passe,
36:34 c'est directement accéder au service de cette manière-là.
36:38 Très très rapidement, là, quand on vous entend, on a l'impression que vous parlez plutôt pour le particulier, pour vous et moi au quotidien,
36:44 quand on a besoin de faire un achat ou quoi sur un site, là vous, vous proposez votre solution du côté des entreprises,
36:49 elles, de quelle manière, elles, elles se protègent, s'authentifient aussi avec un mot de passe, ces entreprises ?
36:55 Alors, c'est deux cas d'usage assez différents, Ping Identity couvre les deux. On fait à la fois l'identité qu'on appelle workforce,
37:01 donc pour les employés, l'IAM, et puis on fait également du SIEM pour les clients. Les vocations sont un peu différentes.
37:07 Quand on est sur la partie employés, le véritable point, c'est la sécurisation, parce que l'entreprise a des données privées,
37:14 enfin des données sensibles sur les employés et les clients, et qu'il est très important de les protéger.
37:19 Donc, on fait tout pour renforcer la sécurité, ce qui du coup vise souvent à mettre du MFA en plus des mots de passe.
37:25 Pour les clients, c'est de l'expérience, parce que les clients ont le choix. Si un site n'est pas fluide, si un site est compliqué à utiliser
37:31 pour s'authentifier, c'est très simple d'aller sur un autre site et puis finalement ne plus jamais venir consommer sur le site qu'on avait l'habitude d'utiliser.
37:38 Donc, on va chercher pour les clients à véritablement leur proposer une alternative pour qu'ils soient heureux, pour qu'ils aient un parcours client optimal
37:46 et qu'ils reviennent plus tard acheter des produits. Donc, c'est un avantage conférentiel.
37:50 Là, pour la partie employés, on reste vraiment sur les fondamentaux de la sécurité.
37:54 Merci beaucoup d'être venu nous parler du mot de passe, Adam Zahar, aujourd'hui dans notre émission dans Smartech.
37:59 Je rappelle, vous êtes Channel Marketing Manager chez Ping Identity, je rappelle qu'ils fournissent des solutions d'identité intelligente aux entreprises.
38:05 Vous viendrez nous revoir pour nous parler d'identité digitale. On voulait encore vous poser des questions.
38:10 Vous repasserez nous voir dans Smartech. Merci d'avoir été avec nous.
38:13 Merci à vous de nous avoir suivis. Merci à Lily qui m'a aidée à préparer cette émission.
38:17 On se retrouve très vite pour un prochain numéro de Smartech. À très vite sur Bsmart.
38:21 [Musique entraînante diminuant jusqu'au silence]
Commentaires