00:00C'est compliqué pour le cabinet de l'Ouat en Australie, ils ont dû rembourser à cause d'un rapport rédigé pour le gouvernement et pour cause, il était écrit par Tchad GPT et plein d'erreurs.
00:11Bah oui, utiliser Tchad GPT pour faire le boulot à sa place, c'est pas réservé aux étudiants qui ont la flemme de faire leurs devoirs, c'est aussi le cas dans les plus grands cabinets de conseil.
00:22On parle ici d'un rapport qui a été facturé au ministère australien de l'Emploi pour 250 000 euros environ, quand même, un rapport de 237 pages sur le cadre de conformité du système d'aide sociale australien.
00:34Donc on est sur un sujet pointu, un sujet sérieux, c'est un rapport qui a été publié en ligne au mois de juillet et c'est là qu'un chercheur de l'université de Sydney va avoir l'idée saugrenue de lire ce rapport.
00:44C'est peut-être la seule personne à l'avoir lu, mais il l'a lu et il se trouve que lui, c'est son domaine d'expertise, il est spécialiste du sujet et il va très vite se rendre compte
00:52que dans ce rapport, il y a des choses qui clochent. En fait, il est absolument bourré d'erreurs, il y a des citations fictives, il y a des références à des papiers académiques qui n'existent pas,
01:00bref, c'est du grand n'importe quoi. Et là, évidemment, le soupçon se porte sur l'intelligence artificielle générative et sa fâcheuse tendance à halluciner,
01:08c'est-à-dire à inventer des choses de toute pièce quand elle n'a pas la réponse à la question qu'on lui pose. Et c'est effectivement ce qui s'est passé, c'est-à-dire que les rédacteurs du rapport ont utilisé Tchat GPT,
01:19ils n'ont pas vérifié les chiffres et les citations qu'on leur a données et puis ils ont ressorti ça sous forme de rapport. Évidemment, quand on est l'un des big fours,
01:27c'est-à-dire l'un des plus gros, des quatre plus gros cabinets de consulting au monde, ça fait un petit peu tâche. Alors Deloitte a admis son erreur, ils ont republié une version
01:35corrigée, ils ont dit oui, il y avait des erreurs sur les notes de bas de page, bon, ils n'ont pas été beaucoup plus d'ISER que ça sur la question. Ils ont quand même rajouté une petite mention qu'ils avaient oubliée
01:43dans la première version, c'est que l'IA a aidé à la rédaction du rapport, ce qui est quand même important à préciser. Et puis,
01:49effectivement, ils ont dû rembourser une partie du contrat au gouvernement australien.
01:54Est-ce que c'était écrit dans le contrat, ne doit pas utiliser l'intelligence artificielle ? Parce qu'à quel moment c'est de la triche quand vous utilisez l'IA ?
02:00C'est ce qui est compliqué. Alors, je n'ai pas les détails du contrat, mais vous mettez le doigt sur exactement le bon point, c'est-à-dire
02:05où est-ce qu'on place le curseur, entre utiliser l'IA comme une aide à la productivité, ce qui est complètement légitime,
02:10et puis laisser la machine faire tout le boulot à sa place. Et c'est compliqué.
02:15On sait que les grands cabinets de conseil, évidemment, ils utilisent l'IA. D'ailleurs, les plus grands ont même leurs propres outils
02:20conçus en interne. On va s'en servir pour plein de choses. On va s'en servir pour structurer le rapport avant de le produire.
02:25On va s'en servir pour synthétiser toute la documentation que vous envoie votre client entreprise
02:30pour éviter d'avoir à tout lire, évidemment. On va s'en servir pour rédiger aussi des parties techniques du rapport
02:35où il n'y a pas forcément de valeur ajoutée humaine. Toute la partie sur la méthodologie, c'est l'IA qui la rédige,
02:40ce n'est pas très très grave. Après, quand on reprend et qu'on copie-colle des pans entiers générés par TchadGPT
02:46et qu'on ne corrige pas et qu'on ne vérifie pas les chiffres qui sont donnés ou les citations qui sont données,
02:51là, évidemment, c'est un petit peu plus compliqué. Et le problème, surtout, c'est quand ça commence à se voir.
02:55Parce que mettez-vous à la place du client entreprise ou administration.
02:58Dans ce cas-là, il faut baisser le prix, quoi.
02:59Eh bien, c'est ça. C'est-à-dire que vous allez négocier le prix. Si vous savez qu'il y a un quart ou la moitié du rapport
03:03qui est généré par l'IA, forcément, vous allez baisser le prix. Ou alors, vous allez vous dire,
03:06les gars, si vous utilisez TchadGPT, je peux l'utiliser tout seul et je n'ai plus besoin de vous, tout simplement.
03:10Alors, évidemment, tout le monde aujourd'hui utilise l'IA, mais c'est aussi dans la manière dont ils l'utilisent.
03:15Parce que quand vous donnez vous-même vos données, vous êtes sûrs. Là, c'est un problème de rapport à l'erreur.
03:19Oui, c'est vrai. C'est un problème de rapport à l'erreur. Et je pense que c'est même si, je le dis souvent,
03:24les hallucinations, il y en a de moins en moins. Les modèles sont en train de s'améliorer, mais ça existe encore.
03:30Et comme tout le monde utilise l'IA, des cas comme ça, on va en avoir de plus en plus.
03:34Et ce n'est pas seulement, ce n'est pas pour pointer du doigt les cabinets de conseil.
03:37C'est vrai dans tous les métiers et surtout dans les métiers, j'allais dire, à forte valeur ajoutée
03:40où on paye très très cher. Il y a eu des exemples célèbres.
03:43Les avocats new-yorkais qui s'étaient fait prendre les doigts dans le pot de confiture
03:46où, en gros, ils avaient rédigé toute leur plaidoirie en utilisant TchadGPT.
03:51On s'est rendu compte, quand ils sont arrivés devant le juge, que toutes les jurisprudences étaient complètement bidons
03:55parce qu'elles ont été inventées par l'IA. Et nous aussi, les journalistes, on est concernés.
03:59Il y a eu un certain nombre de publications qui ont été épinglées parce qu'elles utilisaient l'IA
04:02et qu'on s'est rendu compte que des articles étaient truffés d'erreur.
04:05Il y a un journal américain, ils ont publié une liste de recommandations de lecture pour l'été.
04:10Formidable. Ils ont demandé à TchadGPT, il y avait des bouquins qui n'existaient pas dedans.
04:13Ce qui est un peu gênant, évidemment. Quand ça se voit, forcément, c'est embêtant.
04:16Peut-être qu'ils devraient exister selon les critères de l'IA.
Commentaires