- il y a 11 heures
Ce lundi 9 mars, François Sorel a reçu Damien Douani, responsable de l'innovation de l'école Narratiiv et fondateur de Topos, Bruno Guglielminetti, journaliste et animateur de "Mon Carnet de l'actualité numérique", et Jérôme Colombain, journaliste et créateur du podcast « Monde Numérique ». Ils se sont penchés sur le classement d'Anthropic comme entreprise "à risque" par la Maison Blanche, la première démission chez OpenAI après la signature d'un accord avec l'armée américaine, ainsi que le rôle de l'IA dans la défense et dans la guerre, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:06avec pour débriefer l'actu en ce début de semaine des camarades et des experts de choix mesdames
00:13messieurs jérôme colombin est là salut jérôme salut françois bonsoir à tous jérôme est journaliste
00:18high tech créateur de son podcast monde numérique que vous pouvez retrouver tous les jours voilà
00:24une succession d'informations d'invités en audio en vidéo en audio en vidéo à l'écrit aussi
00:30puisqu'il a ton site monde numérique et puis nous avons aussi damien douani ce soir salut
00:36damien bonsoir françois responsable de l'innovation de l'école narrative et fondateur de topos fin
00:42connaisseur aussi de l'actu tech damien qui vient nous voir de temps en temps et en visio nous avons
00:48bruno gulier minetti ce soir salut bruno bonsoir comment ça va bruno ravi de vous retrouver je
00:56suis heureux de vous retrouver comme ça en visio en plus voilà journaliste animateur de son carnet
01:01de l'actualité numérique de ses 120 secondes de tech bruno qui officie régulièrement avec jérôme
01:07colombin j'ai l'impression d'être à la maison voilà c'est ça et moi une fois par mois
01:10je suis avec
01:11vous pour un podcast qu'on fait tous les trois alors messieurs l'actualité elle est elle est passionnante
01:17elle est parfois peut-être un peu effrayante aussi mais qu'est-ce que vous voulez c'est aussi
01:22l'époque qui veut ça on va commencer par cette temps sentence qui est tombée
01:27anthropique a été donc inscrite sur liste noire par la maison blanche carrément liste noire c'est
01:33d'habitude les boîtes chinoises qui sont sur liste noire c'est fou l'entreprise qui avait signé un contrat
01:38de 200 millions de dollars avec l'armée américaine a refusé de donner un accès sans
01:42restriction à son nid à claude pour des usages militaires on souvient de la montée au créneau de
01:49son patron de son fondateur qui avait dit pas de ça chez nous ça a entraîné tout simplement une
01:54décision radicale anthropique est désormais considérée par washington comme un risque pour
02:00les chaînes d'approvisionnement léa benaïm nous explique tout ça anthropique a refusé d'ouvrir la
02:06boîte de pandore et donald trump a répliqué un sort réservé normalement à des entreprises
02:11issues de pays adversaires des états unis comme le fabricant chinois de drones dji aïe et ce alors
02:18même que les modèles d'ia d'entropie continuent d'être utilisés en opération notamment en ce moment
02:23même en iran son pdg dario amodei assure que cette sanction n'affectera pas la grande majorité de ses
02:30clients même si elle fragilise déjà certains partenaires comme l'okin martin ou encore amazon
02:36qui investit près de huit milliards de dollars dans tropique et qui travaille lui aussi avec l'armée
02:41américaine dans une note interne dario amodei accuse le pentagone d'avoir écarté anthropique pour ne pas
02:48avoir soutenu publiquement donald trump contrairement à son principal concurrent sam altman qui a finalement
02:55récupéré le contrat mais sur le terrain de l'opinion anthropique marque des points depuis
03:00cette annonce les désinstallations de chat gpt ont été multipliés par quatre tandis que l'usage de
03:06claude a plus que doublé en une semaine alors dernier rebondissement en fait anthropique contre attaque et
03:13porte plainte contre l'administration trump pour faire valoir ses droits et mettre fin à une campagne de
03:19représailles illégales je sais pas trop ce que ça va donner où ça va aller cette histoire là mais en
03:23tous
03:23les cas on voit que anthropique ne lâche pas le morceau il ya voilà c'est une actualité après ça
03:29rebondit dans tous les sens on se croirait dans un dans un bon billard à plusieurs bandes jérôme
03:34incroyable cette histoire quand même anthropique qui était l'IA en fait du pentagone qui a sans doute
03:40été l'un des acteurs du succès de l'attaque qu'il y a eu en iran il ya une
03:44dizaine de jours à travers
03:45la solution maven de palantir exactement et maintenant qui devient le vilain petit canard de la tech américaine mais
03:51cette histoire elle est vraiment révélatrice de plein de choses alors d'abord il ya plusieurs volets il ya
03:55un peu le côté aussi far west parce que sam altman a rattrapé le le contrat in extremis in extremis
04:05lui
04:05il n'a pas de scrupules ensuite ça a eu des conséquences on en parlera tout à l'heure
04:09d'ailleurs aussi bien sûr bon alors pourquoi anthropique si on revient à la source pourquoi est-ce
04:13qu'anthropique se retrouve dans cette situation là c'est parce que bien qu'ils fournissent leur
04:18IA au pentagone ils avaient posé des limites et ils avaient dit attention nous il ya des trucs
04:23qu'on veut pas faire deux choses principalement il faut on veut pas que notre IA serve à développer
04:28des systèmes de surveillance de masse qui pourraient nuire aux citoyens américains et deuxième chose on
04:34veut pas que ça serve à développer des armes autonomes pilotées par l'intelligence artificielle ça
04:41c'était les lignes rouges pour anthropique qui en plus adopte et dario amodeis se pose de plus en
04:48plus comme un peu le un peu le chevalier blanc voilà le garant des principes avec une éthique
04:55etc etc nous on fera pas n'importe quoi et le pentagone voulait utiliser claude et donc l'IA
05:01d'anthropique justement pour aller aussi loin c'est à dire piloter des armes létales grâce à l'IA
05:07bah visiblement ils avaient l'intention de franchir un peu les limites et ça dario amodeis n'a pas
05:12voulu mais alors la réplique de l'administration trump elle est énorme parce que les blacklistés comme
05:17ça les mettre sur cette fameuse liste noire c'est leur casser le business c'est ils sont si vraiment
05:23ça
05:23va jusqu'au bout de la logique ils peuvent tuer ils peuvent tuer l'entreprise à la fin quel impact
05:27ça
05:28peut avoir damien le fait d'être sur une liste noire comme ça ça ça en fait ça ça ferme
05:33des portes sur le
05:34tout ce qui est lié à l'administration américaine ne pourra plus passer de contrat avec entreprise
05:39c'est ça il y a un effet domino en fait qui va se passer c'est qu'en fait
05:42concrètement si tu as une
05:44société qui veut travailler mais qui travaille déjà avec l'administration américaine mais qui veut
05:48travailler aussi avec claude claude va se retrouver avec la porte fermée parce que ils sont on va dire
05:52personne à non grata donc tu le disais il y a quelques instants ce qui est assez troublant mais il
05:56y a une
05:56dimension très c'est très trump c'est très mafieux c'est le côté tu es avec moi ou tu
06:00es contre moi et si tu es contre moi je suis prêt à te faire
06:01à te faire rendre gorge bon on va voir ce que ça va donner n'empêche que d'un point
06:05de vue marketing c'est bien
06:06joué parce que anthropique se présentant un peu déjà on l'a vu lors du super bowl avec les pubs
06:11qui sont venus
06:12gratouiller un tout petit peu open et high ils prennent aujourd'hui une posture à la apple c'est-à
06:16-dire tout comme
06:17apple qui se présente comme le chevalier blanc de la protection des données aujourd'hui on a
06:22anthropique qui se présente comme l'acteur qui va être le plus on va dire vertueux sur l'usage de
06:27l'IA
06:27c'est une posture qui sur le long terme peut être tenable s'ils arrivent à tenir sur le long
06:32terme
06:33ouais bruno qu'est ce que tu en penses parce que c'est vrai que anthropique a gagné en popularité
06:38parce que c'est vrai qu'avoir une boîte d'IA qui a quand même une éthique qu'elle respecte
06:42quitte à
06:43se mettre à dos quand même l'administration américaine il faut les poser sur la table excusez
06:49moi de l'expression mais c'est un peu ça quand même il faut avoir le courage de le faire
06:53et puis
06:57à tout à l'heure parce que c'est ça a eu des conséquences quel est ton point de vue
07:01sur cette
07:02histoire bruno peut-être préciser une chose c'est d'une part mise à part le fait qu'ils ont
07:07été mis sur
07:08la liste des risques pour la chaîne d'approvisionnement du gouvernement américain il ya aussi dans nos
07:14chambres qui a envoyé un message très clair c'est qu'aucune agence américaine ne pouvait maintenant
07:20utiliser un des produits anthropique alors c'est beaucoup plus large que quoi que c'est déjà
07:27large d'être radié de la liste des fournisseurs et d'être même un fournisseur d'un sous fournisseur
07:33mais c'est donc tout l'écosystème gouvernemental américain qui met un x sur sur cet outil là ayant
07:41dit ça moi j'avoue que j'ai été surpris la semaine dernière quand là les gens d'entropique étaient
07:48devenus
07:48personne à notre grata quand j'ai vu et le patron de google et le patron de microsoft dire vous
07:54savez quoi
07:55nous on va continuer à offrir les outils d'entropique dans nos suites et ça j'avoue que dans le
08:01climat
08:01des choses aux états unis j'aimais bien la petite image de mafieux dans le climat actuel des états unis
08:09de de dire non nous on reste de ce côté là c'est c'est assez courageux de la part
08:14des entreprises de
08:16google et de microsoft parce que il ya personne qui veut être pris entre l'arbre et l'écorce et
08:21c'est
08:21exactement ce qui va arriver et là avec la poursuite d'entropique qui qui va prendre à défaut le
08:28gouvernement américain en disant on va vous confronter devant vos affirmations et ça va
08:32être intéressant de les voir en disant non c'est trop dangereux pour notre chaîne d'approvisionnement
08:37mais on a quand même demandé à pouvoir les utiliser encore pendant six mois et on les a utilisés pendant
08:43les attaques sur l'iran alors ça va être assez intéressant d'entendre les avocats essayer de plaider ça
08:49quant aux risques qui sont encourus par les outils d'entropique oui encore une fois on va se rendre
08:53compte peut-être que finalement cette décision qui était très punitive instinctive de la part de
09:00donald trump qui a dégainé ça très vite après le refus de d'entropique peut-être que ça va être
09:04retoqué par un juge ou une affaire à la tiktok voilà c'est ça il y en a il y
09:09a plein de plein
09:10décisions qui prend et qui sont après retoqués en fait parce que moi je trouve que si on prend un
09:15peu
09:16de recul et qu'on met ça dans un contexte un peu plus politique géopolitique etc en réalité ce qui
09:23se passe c'est je veux dire quelque part entropique ne joue pas le jeu de l'amérique en faisant
09:28ça
09:28c'est d'ailleurs ce qu'on va lui reprocher de pas être patriote etc et ce jeu là il
09:33existe depuis
09:35des années c'est ce qu'avait notamment théorisé beaucoup et c'est beaucoup expliqué là dessus à ce
09:43coup travaillé là dessus et elle explique il faut pas le perdre de vue le système américain c'est les
09:48entreprises de tech on les laisse aller grossir inventer plein de trucs etc mais ensuite il y a
09:54l'état qui doit en profiter et qui aide les entreprises de tech et il y a le complexe militaro
09:58industriel et en le disant ou sans le dire ces trois choses là sont liées et quelque part si tu
10:05veux pas jouer le jeu et ben tu te mets effectivement en difficulté alors c'est l'administration trump donc
10:11la
10:11réponse est violente sur la forme bien sûr mais c'est un cas qui est aussi très particulier on est
10:16à l'ère de l'ia donc on est dans un tout nouveau monde où ça rejoint l'armement c
10:22'est un truc qu'on
10:23n'a jamais vu connu dans l'histoire jusqu'à présent et en plus ils sont dans une situation de
10:28guerre en
10:28ce moment donc tous ces ingrédients font que ce qui se passe il ya une forme de logique aussi faut
10:34pas faut pas l'oublier ouais qu'est ce que tu en penses d'ami on n'est pas un
10:38peu à la dans une histoire un peu
10:41comme la openheimer finalement avec le nu avec le l'invention du nucléaire et la bombe nucléaire qui
10:47de enfin la volonté d'openheimer c'est pas c'était pas que ça devienne une arme oui mais l
10:52'étal et on a
10:54l'impression que là le fondateur d'entropie qui est un peu dans cette posture là il sait qu'il
10:58a créé un
10:59monstre qui peut peut-être lui échapper s'il donne tous les droits de ce monstre là à l'administration
11:05américaine et voilà il fait raison mais la grosse différence c'est qu'à l'époque c'était l'état
11:10qui piloter et là c'est pas l'état des entreprises privées qui pilotent c'est pour ça qu'il
11:14ya une
11:14petite musique même qui commence à se faire entendre de la part même de ces big tech qui est de
11:18dire tiens
11:19mais finalement est ce qu'il faudrait pas nationaliser est ce que finalement ça devient
11:23pas tellement stratégique que tant qu'à prendre le pouvoir que l'état mette la main là dessus
11:29il ya une manière d'interpréter les choses quand tu dis finalement quand tu remets dans le contexte
11:33on pourrait même remonter aux prémices d'internet parce que l'ARPANET à la base c'est militaire
11:38ce qui est intéressant à voir c'est que finalement ça peut être aussi une posture que peut avoir une
11:41boîte comme l'entropie qui est de dire nous en fait les grandes entreprises de la tech on a envie
11:45quelque part de quasiment de se dire qu'on est plus fort que des états c'est quelque part ce
11:49qu'on peut voir aussi quand on regarde leur poids économique ne serait-ce que ça avoir des acteurs
11:53qui finalement se disent mais nous on doit avoir la liberté pour peut-être effectivement on va
11:57dire s'échapper de cette mécanique là qui était intrinsèque aux états unis depuis des
12:01années le fait de se dire nous finalement on a envie d'être le maître de notre propre destin ça
12:05peut
12:05être aussi une lecture assez intéressante après Amodei il joue en double jeu il est toujours celui
12:10qui c'est un peu le pompier pyromane c'est en gros il est toujours le premier à faire un
12:14truc
12:14on a fait des études et on vous prévient ça va être une catastrophe un l'IA franchement ça va
12:17être difficile préparez vous mais vous faites quoi moi je développe une IA donc il y a toujours ce
12:21côté là un peu chez Amodei on sait pas trop si c'est du marketing si c'est la sincérité
12:25si c'est
12:25une volonté on sait face à Altman ils ne peuvent pas se saquer vous vous rappelez la dernière fois récemment
12:30ils voulaient même pas se tenir la main donc il y a un élément très clair c'est qu'il
12:34a une vraie
12:34posture je prends une vraie croyance et quand il était chez Oponeia ils étaient déjà en conflit
12:38c'est à Altman et lui-même mais il y a quand même aussi ce petit côté qui est je
12:41joue un peu avec le
12:42feu on sait pas trop quelle posture il peut avoir quel degré de sincérité le degré de marketing le
12:46degré d'opportunisme bruno d'accord avec la vision de Damien ouais ben j'écoute Damien et j'écoute
12:52Jérôme et ça me fait penser à un article que j'ai lu dans le new york times je pense
12:55que c'est ce
12:55matin et qui présente maintenant l'importance de l'appui de l'argent de la crypto monnaie et de
13:03l'IA dans la prochaine campagne vous savez c'est les metters là qui arrivent et on dit que ils
13:09ont
13:09250 millions de dollars américains à investir dans les campagnes des candidats qui sont sympathiques à
13:15l'intelligence artificielle ça va peser ça dans la prochaine campagne et ça c'est l'automne prochain
13:21alors ça il y a vraiment un jeu de pouvoir qui se fait et j'avoue que les théories qui
13:27sont avancées
13:27c'est à dire que anthropique qui prend ses distances contrairement à open air qui lui se colle carrément
13:32sur l'administration de trump j'ai l'impression qu'il y en a un des deux qui va payer
13:36à long terme et c'est
13:37pas nécessairement open air alors voilà parce que c'est la deuxième actualité on a laissé de côté open air
13:42pour
13:42cette première partie mais on va y revenir parce que effectivement par opportunisme open air lui après le
13:50refus de signer ce contrat de la part de d'entropique il fallait trouver un remplaçant et le remplaçant tout
13:58naturel ça a été open air sam altman quelques heures après la déclaration de donald trump a signé ce
14:04contrat de 200 millions de dollars qui n'est pas un contrat alors ça fait beaucoup d'argent 200 millions
14:08de dollars mais par rapport à vos investissements et c'est vraiment c'est pinets quoi finalement et donc
14:16open air signe en acceptant en quelque sorte les comment dirais-je les limites la no limite du
14:27gouvernement pas tout à fait parce que enfin mais visiblement il aurait signé donc s'il a signé
14:32c'est qu'il y a quand même il y a eu un terrain d'entente avec l'administration américaine
14:36oui mais il dit qu'il a
14:37obtenu contractuellement des garanties que ces fameux guidelines qui avaient été fixés par anthropique
14:42ne seront pas franchis ce à quoi anthropique répond bullshit c'est pas vrai et alors dario amodei a fait
14:49une
14:49remarque je trouvais hyper intéressante là il y a quelques jours il dit en plus et ça ramène à un
14:58sujet dont on
14:58parle souvent c'est le côté boîte noire désir et en plus de toute façon on sait pas trop comment
15:02l'arrêter d'une certaine manière une ia elle sait pas si ce qu'elle est en train de faire
15:07c'est bien
15:08ou c'est mal et elle n'a pas d'état d'âme on va lui fixer des objectifs elle
15:13va tout faire pour
15:14atteindre les objectifs et advienne que pourra donc amodei dit à altman c'est pas vrai les garanties
15:21quant à donner c'est du c'est bidon ça vaut rien et alors la conséquence est sans doute que
15:27on va on va
15:28dire que l'administration a nos limites sur open eye c'est que une personne de poids de chez open
15:34eye a dit ok
15:35puisque vous avez signé on a signé avec l'administration américaine et le pentagone et
15:43bien je m'en vais cette femme c'est kathleen kalinowski qui dirigeait en fait l'équipe robotique et qui
15:49a
15:49décidé de refuser de cautionner cet accord signé avec le département de la défense américaine elle
15:55dénonce en fait un manque de débat sur ces deux sujets qui sont quand même chaud la surveillance de
16:00masse et l'autonomie létale ça veut dire que finalement elle a peut-être lu les lignes de ce
16:05contrat et que finalement la défense américaine a le droit de faire ce qu'elle veut avec open eye
16:11sans doute moi ça m'étonnerait pas que ce départ ne soit pas le dernier ça ressemble à ce qu
16:16'on avait
16:16vu chez google quand google a commencé aussi à passer des contrats avec l'armée américaine ça n'a pas
16:21plu à tout le monde en interne et il y a eu des départs des mouvements de protestation etc oui
16:27il y a
16:27quelque chose qui doit se passer dans la tête de des employés de ces grandes entreprises aujourd'hui
16:33il doit y avoir un peu des conflits internes pas faciles à gérer mais il y en a actuellement d
16:36'ailleurs
16:36parce qu'il y a des salariés de google microsoft d'ailleurs qui se plaignent et qui aussi disent
16:41aujourd'hui qu'ils n'ont pas envie d'être associés à ça justement mais la manière dont ce que
16:44tu décris sur
16:45le côté je passe en force ça rappelle typiquement là ce qu'avait fait auparavant samalcman et qui a fait
16:51qu'il a été en frontalement d'abord débarqué puis des revenus et il était face à amira murati
16:57et justement déjà dario amodei donc cette volonté de sa part d'essayer de manipuler un peu les choses
17:02pour à son avantage ça n'a pas vu plus ça n'avait pas plu à l'époque à ces
17:06deux personnes donc
17:08quelque part c'est un peu sa technique c'est un peu une méthode zuckerberg vu revue et corrigée
17:11donc est-ce que c'est surprenant du personnage je ne pense pas de ce qu'on envoie bien sûr
17:15je le
17:16connais pas personnellement mais de ce qu'on envoie et est-ce que ça va apporter de plus en plus
17:19dans des
17:20boîtes je pense ce genre de tension très clairement après je ne me fais pas de soucis sur cette
17:24personne j'espère pour elle je pense qu'elle devrait retrouver du travail assez vite vu son niveau
17:27Bruno alors évidemment on parle beaucoup d'entropie quand on parle beaucoup d'open ai en revanche on
17:31parle pas de google on parle pas de microsoft alors qu'est-ce que ça peut bien vouloir dire est
17:36-ce
17:36que ils ont une éthique tellement forte que ils ne collaborent pas avec la défense américaine ou est-ce
17:43qu'ils se font tout petit en ce moment parce qu'ils n'ont pas envie de qu'on dévoile
17:47un petit peu leur
17:48leur contrat et leur collaboration derrière les réactions dont tu parlais tout à l'heure
17:53c'est des associations de ces entreprises qui ont dit que c'était pas joli joli de traiter comme
18:00ça une boîte américaine ouais mais on est d'accord que google et microsoft a forcément de contrats
18:04avec la défense américaine c'est obligatoire qu'est-ce que tu en penses bono ils sont déjà
18:08dans la liste des fournisseurs et de les voir et c'est pour ça que je disais tout à l
18:12'heure de les
18:12voir sortir en disant ben nous on va quand même continuer à travailler avec les gens d'entropique c'était
18:16courageux de leur part mais c'est sûr que google et microsoft ces derniers jours ils se baissent la
18:23tête en espérant que la discussion passe au dessus de leur tête parce qu'ils ont pas intérêt à
18:28commencer à aller mettre la main dans la mécanique là là pour le moment ça joue entre deux chez vous
18:34vous dites des pure players là des joueurs qui ne font que dans l'IA alors ils laissent la bataille
18:40se
18:41passer là mais c'est sûr que si à un moment donné on leur demande et puis eux ils sont
18:45pas sortis
18:46quand l'entropique ça allait pas il y avait dans le fond il y avait deux boîtes qui auraient pu
18:50réagir
18:50il y avait open AI et c'est eux qui l'ont fait puis il y avait qui d'autre
18:55dans la mêlée il y avait
18:56les gens de méta le problème avec mike zuckerberg aurait été le premier à courir dans les bras de
19:01donald trump pour lui offrir sauf que son méta et il n'est pas à point donc il ne peut
19:07pas l'utiliser
19:07mais sinon s'il avait eu quelque chose de sérieux c'est certain qu'il aurait couru à
19:12Washington en disant mais nous on va le faire pour vous et advienne que pourra de nos autres
19:16propriétés
19:20bon on a fait le tour de cette histoire là alors samalpan dit quand même pour sa défense que
19:25les ingénieurs d'open AI travailleront main dans la main avec le ministère de la défense et
19:31qu'il y aura des lignes rouges que les ingénieurs d'open AI ne pourront pas franchir
19:37bon voilà mais qu'est ce que ça veut dire en fait rien ça ne veut rien dire les promesses
19:42n'engagent que ceux qui les croient comme une grande politique à une époque honnêtement
19:46l'armée américaine doit rêver de pouvoir mettre au point ces trucs là ces armes automatiques
19:51ces systèmes de surveillance enfin c'était techniquement possible ils n'ont qu'une envie c'est de le faire
19:58alors troisième actu qui est intimement lié à tout cela c'est en fait le rôle de l'IA dans
20:04la défense et dans la guerre
20:05ça c'est nouveau ça c'est complètement nouveau pour tous ceux qui doutaient de l'impact de l'IA
20:11dans les industries dans tous les secteurs de la société
20:14et bien sachez qu'il y en a un qui bénéficie en fait de cette accélération de l'IA c
20:19'est la défense on parlait tout à l'heure
20:21l'attaque qui a été meurtre la première attaque meurtrière en Iran elle a été en tout cas mise en
20:28place grâce à l'IA
20:30et effectivement on se pose des questions parce qu'avec ces drones autonomes ces analyses de milliers de données
20:35la hiérarchisation des cibles
20:39c'est vrai que tout ça fait que la guerre est transformée par l'IA
20:43et on se dit voilà est-ce qu'il faut comment peut-on légiférer tout ça est-ce qu'il
20:49faut une éthique
20:49c'est compliqué
20:52elle ne viendra pas des militaires
20:53mais c'est sûr qu'on est à une époque nouvelle
20:58où c'est sans doute la première guerre assistée par l'intelligence artificielle
21:02de l'IA il y en a à plusieurs strates
21:05tu l'as dit pour l'analyse des données
21:09puisque toutes les informations collectées ça va à des données numériques
21:12puisqu'on sait que par exemple Israël avait piraté les réseaux de caméras de surveillance en Iran etc
21:19tout ça c'est beaucoup beaucoup de données il faut pouvoir les analyser
21:22donc l'IA a été utilisée pour ça
21:24ensuite pour du coup proposer des cibles
21:27je crois pendant les premières 24 heures
21:31le logiciel de système Maven de Palantir
21:33a permis immédiatement de proposer aux militaires américains
21:37un millier de cibles iraniennes à attaquer tout de suite
21:41donc ça on analyse
21:43ensuite on aide à la décision
21:45et puis la facette qui nous fait énormément peur
21:48c'est à quel moment l'IA va prendre la décision elle-même
21:50elle le prend déjà un petit peu sur des engins
21:52sur des drones qui sont autonomes
21:55les israéliens non
21:56mais tous les pays travaillent là-dessus
21:59mais jusqu'où ça peut aller
22:00toutes les questions d'éthique
22:02qui est responsable s'il y a des erreurs etc
22:04et là on rentre dans des scénarios de films de science-fiction
22:08qu'on a tous connus
22:09mais qui se rapprochent dangereusement de la réalité un ami
22:12alors dangereusement effectivement
22:13on peut penser à War Games ou à Terminator
22:16choisissez votre camp
22:17mais c'est à peu près pareil
22:18c'est Machine qui décide
22:20surtout que tu te pointais du doigt
22:22et tu le disais tout à l'heure aussi
22:23les IA sont un peu des boîtes noires
22:24donc il y a un moment
22:25on ne sait pas trop comment l'algo il fonctionne
22:27on ne sait pas trop comment
22:27par rapport à l'objectif qu'il lui a donné
22:29quel va être le chemin qu'il va parcourir
22:31pour arriver à atteindre la décision qu'on lui a donnée
22:34donc il y a un point quand même là ici
22:35qui est un peu flippant
22:37c'est effectivement cette notion d'aller au bout de l'histoire
22:41je citais le film War Games
22:42pour ceux qui s'en rappellent
22:43la machine crée une vraie fausse guerre
22:45pour atteindre l'objectif
22:46qui est on doit détruire l'ennemi
22:48jusqu'à déclencher carrément
22:49une guerre thermonucléaire globale
22:52comme dit dans le film
22:53la question de fond quand même
22:54par rapport à l'éthique
22:55il y a 40 ans
22:55plus de 40 ans
22:56tout à fait oui
22:57j'étais enfant
22:59mais c'était flippant à l'époque déjà
23:01non la question de fond quand même
23:02tu le disais par rapport à l'éthique
23:03la question de fond elle est là
23:04c'est que est-ce que par rapport à l'Europe
23:06pendant les armes de l'Europe
23:07on a la Chine, l'Europe, les Etats-Unis
23:08qu'est-ce qu'on fait ?
23:09on a des bons sentiments
23:10on dit on ne franchit pas certaines lignes
23:13mais les autres le font
23:14qu'est-ce qu'on fait pour notre propre défense ?
23:16en gros c'est le principe des armes bêtes
23:18versus les armes intelligentes
23:19quel choix on va faire ?
23:22et c'est une vraie question
23:23et je pense que la question de l'éthique
23:24n'est pas le seul élément
23:25qui permet de prendre le choix
23:26c'est pas le maire Liké qui a dit
23:27de toute façon la question c'est plus
23:29il y a ou pas il y a dans les armes
23:31si c'est les armes intelligentes
23:33et les armes pas intelligentes
23:34c'est ça, exactement
23:36et rappelons que de temps en temps
23:37l'IA hallucine
23:38on le voit
23:39l'IA générative
23:42non mais est-ce qu'on n'est pas à l'abri
23:44d'erreurs si tu veux ?
23:45il peut y avoir des biais
23:46il peut y avoir des injections
23:47de promptes malveillants
23:49il peut y avoir plein de trucs
23:50bien sûr, bien sûr
23:50Bruno ?
23:52Bruno ?
23:53et après Jérôme ?
23:55Jérôme, je pense que ce qu'il allait dire
23:58c'est aussi ce qui va être intéressant
24:00à suivre et ça probablement
24:01que d'ici un an, deux ans
24:02on entendra parler
24:03mais vous pouvez être certain
24:04que dans la préparation
24:07de l'IA offensive
24:08il y a les promptes
24:11ou les requêtes
24:12qui vont infecter
24:13les systèmes des opposants
24:15et donc ça
24:15il n'y a personne qui est à l'abri
24:17autant Israël
24:18ou les États-Unis
24:20puis jusqu'à un certain niveau
24:22l'Iran qui jouait aussi avec ça
24:23donc à l'utilisation de l'IA
24:25à un moment donné
24:26il y a probablement des gens
24:27dans certaines opérations
24:29particulièrement de l'aide
24:30à la décision
24:31quand on utilise l'IA
24:32s'ils se font infecter ça
24:34par le camp
24:36qu'ils sont en train
24:37d'attaquer
24:38bien ça aussi
24:39ça va générer
24:40des informations
24:41qui sont erronées
24:42peut-être que c'est
24:43une nouvelle façon
24:44d'être offensif
24:46et de se défendre
24:47en allant jouer
24:49et corrompre
24:50en quelque sorte
24:51l'IA
24:51qui aide
24:52par la suite
24:53les militaires
24:53à travailler
24:54et c'est ça aussi
24:55qui va être intéressant
24:56à voir dans les prochains mois
24:58Wargames 2
24:59ben voilà
24:59on a la suite
25:01moi ce qui me fait peur
25:02le plus peut-être
25:03dans l'histoire
25:03c'est un peu le phénomène
25:05qu'on a constaté
25:05avec l'IA
25:06au service des médecins
25:07où l'IA vient aider
25:09le corps médical
25:10vient l'augmenter
25:11apporter plein de choses
25:12et tout
25:12et qu'est-ce qui se passe
25:13du coup
25:14il y a des études
25:15qui ont montré ça
25:15que les médecins
25:17se désengagent
25:18et ils ont tendance
25:19à faire plus confiance
25:20à l'IA
25:20bon ben elle a dit que
25:21ou bien etc
25:22parce qu'on a un biais humain
25:23qui est de dire
25:24que la machine est meilleure que nous
25:25ouais c'est ça
25:25et puis au bout d'un moment
25:26on va se rendre compte
25:27qu'elle fait pas d'erreur
25:27donc on se dit
25:29super génial
25:29je lui fais confiance
25:30donc si les militaires
25:32qui in fine aujourd'hui
25:33valident ou pas
25:34les frappent en question
25:36décident à la fin
25:37de dire ouais
25:37bon ben moi je l'aurais pas fait
25:38mais l'IA dit qu'il faut le faire
25:39allons-y
25:40donc on va le faire
25:41là c'est chaud
25:42c'est très très chaud
25:43juste pour conclure
25:44la question qui se pose
25:45quand même rapidement
25:46c'est la question
25:46de la souveraineté numérique
25:48de tout ça
25:48et ça pose une question
25:52alors on a déjà le problème
25:54de dire des pays
25:54qui ont acheté les F-35
25:55mais ils peuvent pas décoller
25:57donc par conséquent
25:58demain qu'est-ce qu'on va faire
25:58là-dessus
25:59et ça pose une vraie question
26:00ça peut être un coup de booster
26:01pour beaucoup de choses
26:02je pense pas qu'à Mistral
26:02mais je pense à d'autres
26:03start-up qui travaillent
26:04dans le domaine de l'armée
26:06il y a quelque chose
26:07qui va se passer autour de ça
26:08mais Mistral qui a passé
26:09des contrats avec l'armée française
26:11qui les ont
26:12oui
Commentaires