- il y a 8 heures
Ce mardi 7 juillet, Pascal Le Digol, directeur France de WatchGuard Technologies, Benoît Grunemwald, expert en cybersécurité chez ESET France, et Gerôme Billois, associé en Cybersécurité et Confiance numérique chez Wavestone, ont examiné la possibilité que les ransomwares basés sur l'IA deviennent indétectables, le long feuilleton Mythos, le démantèlement coordonné des infrastructures cybercriminelles, ainsi que l'analyse géopolitique des menaces liées aux activités des groupes APT, dans l'émission Tech&Co Business présentée par Frédéric Simottel. Tech&Co Business est à voir ou écouter le mardi sur BFM Business.
Catégorie
📺
TVTranscription
00:03BFM Business présente Tech & Co Business, le magazine de l'accélération digitale, Frédéric Simotel.
00:11On vous parle d'un été très chaud dans la vie de la météo, mais on peut vous dire qu
00:16'il s'annonce
00:16aussi très chaud. Il l'est déjà dans le monde cyber avec, on va revenir sur tous ces épisodes,
00:21Mythos, Fable 5, l'apparition du premier ransomware agentiel. On va en parler avec nos invités,
00:27nos experts et voir comment les entreprises doivent anticiper un peu la tempête cyber qui souffre
00:33quotidiennement sur nos entreprises. Avec Pascal Lediguel, bonjour Pascal. Bonjour. Merci d'être
00:37avec nous, directeur général France de WatchGuard. Benoît Grunemwald, expert en cyber chez
00:42Iset France. Bonjour Benoît. Bonjour. Et Jérôme Bilois, associé en cybersécurité chez WaveStone.
00:49Bonjour. Bonjour. D'ailleurs, vous pouvez retrouver Jérôme en replay, on avait fait un petit point sur
00:53le baromètre des start-up parce qu'il y a aussi pas mal d'innovations dans ce domaine. Alors je
00:57ne sais
00:57pas si vous l'avez vu forcément, l'apparition du premier ransomware agentiel, des ransomware IA qui
01:04pourrait devenir indétectable par les outils traditionnels. Alors j'ai vu ça dans la presse
01:08US. Des chercheurs en cyber ont identifié la première attaque de ransomware utilisant un
01:12agent IA pour négocier avec les victimes, adapter ses demandes de rançon et contourner les défenses.
01:17L'agent est bassé sur un modèle LLM. Il a déjà réussi à extorquer 2,3 millions d'euros à
01:22une
01:22entreprise européenne en simulant, en allant jusqu'à simuler des conversations humaines avec des
01:26équipes IT. Alors évidemment, tout le monde inquiète de tout ça. Qu'est-ce qui commence Pascal ?
01:31Alors déjà, il faut corriger deux, trois petits trucs indétectables. Ce que j'ai vu, les techniques et les
01:36procédures utilisées par l'agent, c'est des techniques et procédures qui sont connues. Il n'a pas été recherchée.
01:41D'ailleurs, si on le sait, c'est que ce n'est pas totalement indétectable. Voilà. Si on a détecté
01:44quelque chose d'indétectable,
01:45voilà. Donc ça, c'est le premier point. Ça reste dans l'usage de techniques, même d'une vulnérabilité
01:50pour rentrer qui était connue depuis un an et qui n'a pas été patchée. On reste quand même de
01:54la
01:54bonne vieille faille connue et côté victime. Par contre, effectivement, côté attaquant, on est sur
02:01de l'agent qui a déroulé l'attaque de A à Z, qui s'est pris un peu les pieds
02:05dans le tapis d'ailleurs à la
02:06fin, puisqu'elle a généré une clé sans l'envoyer à l'attaquant. Il n'y avait plus d'humain
02:11dans la boucle.
02:12Elle a oublié qu'il y avait un humain dans la boucle, ce qui est symboliquement assez intéressant.
02:17Mais effectivement, ça déroule tout de A à Z. Et là, on rentre dans une ère qui, sans vouloir faire
02:22peur,
02:23parce que la cyber parle à peur, mais il faut être réaliste. On est dans une ère où, avant,
02:28on faisait du ransomware avec des affiliés qui déroulaient à la main. Alors certes, on avait déjà
02:31eu une baisse de niveau de compétence parce que les gangs de ransomware faisaient les guides,
02:36il n'y avait plus qu'à les dérouler, etc. Mais là, il n'y a même plus d'humains,
02:39en fait, à dérouler la chose.
02:40Donc, si ça, ça se généralise, et ça va se généraliser, on rentre effectivement dans une ère de cyber qui
02:48est...
02:48Mais à l'origine, c'est qui, quand même ? Il y a un humain à l'origine de l
02:52'agent,
02:53où il a juste dit « cherche-moi attaquer », et c'est l'agent qui...
02:55Alors, on ne connaît pas tout. On ne sait pas le LLM qui a été utilisé pour attaquer, etc.
03:00Donc, pour l'instant, c'est... Sauf si mes confrères ont l'info, mais à mon avis, on n'a
03:06pas encore l'info.
03:08Donc, il y a probablement un cybergang derrière, ou des gens qui testent des choses, peut-être.
03:12Mais vu qu'ils ont fait des dégâts, je ne pense pas que ce soit juste des tests,
03:16puisqu'on parle quand même d'une plateforme qui a été chiffrée complètement.
03:22En revanche, ce qu'on en sait, c'est les implications derrière.
03:27Notamment sur ma partie, sur laquelle je reviens souvent, qui est la PME.
03:32La PME, la chance qu'a la PME aujourd'hui, c'est que les attaques sont opportunistes,
03:35et que quand un pirate tombe un peu sur un os, il n'insiste pas, il va y avoir ailleurs.
03:40Là, on est sur un agent qui insiste.
03:42Il s'est trompé, puis il réessaye jusqu'à réussir.
03:45Et ça, ça change toute la donne, il ne s'arrêtera pas.
03:49D'accord.
03:50Et du coup, il va falloir vraiment le bloquer, réellement.
03:52Pas juste espérer qu'il passe ça à côté.
03:54Benoît ?
03:55Oui, alors moi, je vois qu'on passe d'une attaque statique à une attaque dynamique.
04:01Ce qui fait qu'effectivement, cet agent, il utilise des failles connues, il ne révolutionne pas.
04:06Oui, c'est ça.
04:07On reparlera de mythos, Fabelsen, dans un instant.
04:10Mais là, c'est ça, c'est ce que disait Pascal.
04:12Il y a des failles qui n'étaient pas résolues.
04:14Et il y a un an, on voyait déjà les premiers rançons J-Ciel pilotés par l'intelligence artificielle.
04:20Mais ils ne faisaient pas toute la phase.
04:22On reprend les 13 étapes.
04:23De discussion, ils n'ont pas ce qu'à discuter avec l'esquipe IT.
04:25Exactement.
04:26Si on reprend les 13 étapes de l'attaque, telle que Mitre l'a définie,
04:29là, il a enchaîné toutes les étapes.
04:31Là où avant, l'IA intervenait surtout sur la phase opérationnelle du rançon J-Ciel,
04:35pas l'intégralité.
04:36Donc ça, c'est quand même intéressant.
04:37C'est-à-dire qu'ils ont maximisé eux-mêmes leur automatisation opérationnelle,
04:43entre guillemets, leur résilience.
04:46Moi, ça m'amène à un même constat,
04:48qui est un constat que ça va certainement toucher plus d'entités
04:51que ça ne pouvait en toucher auparavant.
04:53Et ça me rappelle aussi, et notamment en ayant exploité une faille connue,
04:58la gestion des vulnérabilités, la gestion des accès, les bonnes pratiques.
05:03Finalement, s'il n'y avait pas eu cette faille, il aurait certainement trouvé autre chose.
05:06Mais il aurait refait face à un niveau plus complexe,
05:09qui fait qu'il serait peut-être passé à une cible supérieure.
05:12Donc, revenons aux bases.
05:14Et puis, moi, ce qui m'a frappé aussi,
05:17c'est qu'on parle beaucoup de formation des utilisateurs.
05:19C'est évident que c'est nécessaire.
05:20Mais ce que l'on voit, c'est que ça a commencé à 19h34 et 24 secondes.
05:26Il a enchaîné cinq étapes.
05:28Et à 19h35 et 18 secondes, il était rentré.
05:34Oui.
05:35En moins d'une minute.
05:36Mais ça veut dire, on ne va pas réduire notre surface numérique ?
05:39Non, non. Par contre, il faut la durcir.
05:41Et c'est vraiment ce que disait Benoît.
05:43Là, je pense que la vraie nouvelle de cette affaire,
05:45c'est de voir le cheminement, essai, erreur.
05:48Oui, c'est ça.
05:49Voilà, je regardais les étapes techniques.
05:51À un moment, il est bloqué dans son attaque.
05:53Et en 30 secondes, il pivote.
05:55Il trouve un autre canal.
05:56Chose qui, d'habitude, aurait pris des dizaines de minutes,
05:58voire parfois des heures, à un groupe motivé.
06:00Et aurait peut-être fait arrêter le groupe.
06:02Parce que c'est trop long, c'est trop difficile.
06:04Donc, en fait, on va être face à des attaques
06:06qui vont être certainement plus larges,
06:10plus rapides et plus déterminées.
06:12Donc, ça, c'est un vrai risque, un vrai facteur de risque.
06:16Ce qu'il va falloir voir, c'est quand même
06:17quel est le ROI pour les cybercriminels.
06:20Malheureusement, j'aurais tendance à dire
06:21qu'il ne va quand même pas être mauvais.
06:23Oui, parce que c'est un agent qu'on laisse fournir
06:24et tant qu'il se cogne contre le mur, il continue à...
06:27Voilà, alors, vous savez comme moi
06:29que ça coûte cher en token.
06:30Oui, oui, quand même.
06:30Donc, il faut quand même voir.
06:31Parce que si l'attaque a coûté 50 000 dollars de token
06:33et a rapporté 30 000 dollars de rançon,
06:36bon, on n'y sera pas.
06:36Mais malheureusement, je pense que le gain
06:38sera plus grand que le coût.
06:40Et donc, on voit vraiment que les cybercriminels,
06:42ils arrivent à faire cette transformation numérique.
06:44Ils sont souvent très en avant dans la transformation numérique
06:46pour utiliser les nouveaux outils.
06:48L'époque des plateformes avec les ransomware.
06:50Là, maintenant, l'époque des LLM avec l'IA.
06:52Et donc, c'est une vraie crainte.
06:54Alors, est-ce qu'il faut tout arrêter ?
06:55Non.
06:56Par contre, qu'est-ce qu'il faut faire ?
06:57C'est passer la défense à l'heure de l'IA.
06:59C'est-à-dire qu'il faut que les entreprises,
07:00aujourd'hui, elles aient des IA
07:01qui automatiquement vérifient tous les systèmes
07:03et fassent comme l'IA d'attaque.
07:05Et qui, finalement, essayent...
07:06Parce qu'on aurait pu avoir un agent,
07:08on pourrait développer un agent
07:09qui repère qu'il y a un agent qui est en train de...
07:10Mais là, il faut voir.
07:11Le point clé sur ces attaques-là,
07:12ça n'est pas discret.
07:13En fait, toutes les attaques d'IA aujourd'hui,
07:15tout ce qu'on a pu tester en interne dans nos labs,
07:18etc., c'est très direct, très...
07:20Ça marche, ça, ça ne marche pas.
07:21J'essaye le suivant, le suivant, le suivant.
07:23Donc, c'est des attaques qui sont très verbeuses.
07:25Et donc, si on met quelque part des mécanismes de détection...
07:28On va commencer à repérer des scénarios et tout ça.
07:30Benoît ?
07:30C'est déjà le cas.
07:32Repérés grâce à des EDR,
07:33grâce à des solutions qui sont sur les réseaux,
07:35l'équivalent d'un EDR, mais pour le réseau,
07:39aujourd'hui, ces signaux forts, on les repère.
07:42Et c'est d'ailleurs pour ça que les plateformes de rançongiciel
07:46proposent des outils qu'on appelle EDR Killer.
07:48Alors, c'est là où on voit que nous,
07:51pour nous défendre, on doit gérer les vulnérabilités,
07:53ce qui aurait pu permettre ici d'éviter de rentrer.
07:56Imaginons qu'ils rentrent.
07:57Pour ça, ils vont utiliser des EDR Killer,
08:00parce que l'EDR sert,
08:01et leur opération de chiffrement est bruyante.
08:04Donc, il faut qu'ils minimisent leur empreinte.
08:07Ils le rendent aveugle, quoi.
08:07Ils rendent l'EDR aveugle.
08:08Exactement.
08:09Et là, ils peuvent jouer le chiffrement.
08:11On voit aussi que,
08:12et on l'avait vu avec Promplog, Promflux, etc.,
08:14il y a un an,
08:15les rançongiciels fabriqués avec l'IA
08:17ne sont pas aboutis.
08:19Donc, avant, on avait des proofs of concept.
08:21Là, on voit qu'il a oublié d'envoyer la clé.
08:23Bon, on est encore sur un balbutiement.
08:25Par contre, s'il y a des entreprises
08:26qui cherchent encore des cas d'usage pour l'IA,
08:29le cybercrime, effectivement...
08:30En fait, il y a deux cas d'usage
08:31qu'il faut implémenter aujourd'hui.
08:32Il faut arrêter de réfléchir.
08:33C'est l'AI for vulnerability.
08:35Donc, avoir des IA qui vont scanner
08:37toutes les vulnérabilités
08:38et qui vont pousser fort pour les corriger.
08:41Et puis, de l'AI for SOC,
08:43donc de l'IA qui fait de la détection
08:44et qui va être capable de détecter
08:45ces signaux forts,
08:47remonter, même si on a l'air
08:48qu'on ne coupe pas un outil, etc.
08:49Et réagir aussi de plus en plus
08:51de manière automatisée.
08:52Parce que toutes les entreprises
08:53de France et de Navarre
08:54et même du monde
08:55n'auront pas les moyens
08:56d'avoir des experts cyber 24h sur 24
08:58pour dire oui, oui,
08:59je suis bien en train d'être attaqué,
09:00applique la contre-mesure.
09:02Il va falloir qu'on passe à l'air
09:03de l'automatisation de la réponse.
09:04Et ça, il y a encore du boulot.
09:05Pascal ?
09:06De la même manière,
09:08même si aujourd'hui,
09:08on a des outils pour détecter les TTP, etc.
09:10Je pense qu'on voit tout de suite
09:12que l'IA détectera des nouvelles techniques,
09:15détectera des nouvelles vulnérabilités.
09:18Et la seule façon à terme,
09:20pas forcément aujourd'hui,
09:21mais à terme,
09:22c'est qu'effectivement,
09:23il y a, comme tu l'as dit,
09:25une IA de défense
09:26et qui ensuite va piloter
09:27les différents outils de défense.
09:28Parce qu'il y a le DERM,
09:30il y a aussi le Firewall,
09:30il y a tous les outils qui vont servir.
09:32Les pirates commençant
09:34à utiliser toutes les couches
09:35de la reconnaissance
09:36jusqu'à l'impact du mitre,
09:38il faut une IA de défense
09:39qui maîtrise aussi
09:40toutes ces détections-là
09:42et de manière centralisée.
09:44Et je voyais
09:44qu'il y a les assureurs cyber
09:45qui commencent à dire
09:47qu'on va exclure
09:47les attaques de l'IA
09:48de notre couverture
09:49ou sinon on va facturer ça très cher.
09:51Donc on voit que ça commence à bouger.
09:53Ça change le modèle économique des attaques.
09:54Ça rend l'attaque
09:55beaucoup moins chère à réaliser.
09:57Donc il y en aura certainement beaucoup plus.
09:59Et par contre,
09:59le modèle de l'assurance,
10:00on sait,
10:00il a connu des hauts et des bas.
10:01Il y a des années
10:02où les assureurs ont perdu de l'argent,
10:03il y a des années
10:04où ils gagnaient de l'argent.
10:05Là, leur modèle de tarification,
10:07ils ont réussi petit à petit
10:08à l'éprouver
10:09dans un monde sans IA.
10:11Et là, l'IA de l'attaquant,
10:12elle change la donne.
10:13Alors tiens, Jérôme,
10:14garde le micro.
10:16Retour sur le facteur Mythos.
10:17Donc Mythos,
10:18on s'en souvient,
10:19Anthropique,
10:19il sort sa version Mythos 5
10:22et puis on se rend compte
10:23qu'elle est beaucoup trop puissante.
10:25Donc ils disent
10:27on va la donner qu'à des spécialistes.
10:28Ensuite,
10:28ils en sortent une version
10:29Fable 5,
10:30un peu bridée.
10:31Et puis Mythos 5 continue sa vie.
10:34Et puis là,
10:35le gouvernement américain dit
10:36attendez,
10:36c'est beaucoup trop puissant.
10:37Donc on ne va pas diffuser ça
10:40en dehors du territoire américain,
10:43mais même à l'intérieur
10:44du territoire américain
10:45à des personnes étrangères.
10:47Il fallait donner ça
10:47aux cause américains.
10:49Et finalement,
10:49ça a fini par se radoucir
10:50un peu tout ça.
10:52Mais qu'est-ce qu'il faut tirer ?
10:54Déjà,
10:54il y a les failles,
10:55il y en a partout.
10:56Il y a déjà
10:57très nombreux enseignements
10:58sur cette affaire-là.
10:59Je pense que la plus majeure,
11:00la plus importante,
11:01ce n'est pas tant la puissance
11:02de Mythos et Fable
11:03qui ont été démontrés
11:04et qu'il y a un vrai changement
11:06dans la capacité de ces modèles
11:07à prendre un problème,
11:08à le traiter dans la longueur
11:09et à assembler des failles
11:10de sécurité
11:11pour entrer dans des systèmes.
11:12Voilà.
11:13Non,
11:13je pense que la vraie différence,
11:14elle est aussi
11:15sur notre indépendance numérique.
11:16Parce qu'en fait,
11:17qu'est-ce qui s'est passé ?
11:17En deux heures,
11:18le gouvernement américain
11:19a décidé de couper l'accès
11:21effectivement à tous les étrangers,
11:23sauf que c'est difficile
11:24de bien filtrer
11:25qui est étranger ou pas.
11:26Et puis surtout,
11:27quand ils ont relancé,
11:28et c'est ce qui est en train
11:29de se passer aussi
11:30avec OpenAI
11:30et avec les dernières versions
11:31de ChatGPT,
11:33ils relancent,
11:33mais qu'à 20 sociétés.
11:36Et en fait,
11:36ils ont pu décider,
11:37finalement,
11:38qui devaient être
11:39les clients d'Anthropic.
11:40Et là,
11:40on ne parle même pas
11:40de menaces externes,
11:43étrangers, etc.
11:43C'est aux États-Unis,
11:44il n'y a que 20 sociétés
11:45qui ont eu droit à...
11:46Et comme par hasard,
11:46des Palo Alto,
11:47des CrossRite,
11:48des Microsoft...
11:48on ne sait pas qui c'est.
11:49Les grands acteurs,
11:51les grandes plateformes,
11:53classiques.
11:53Voilà.
11:53Mais donc,
11:54ça remet en cause énormément,
11:55et moi,
11:56c'est ce que je vois vraiment
11:56dans les entreprises aujourd'hui.
11:58La confiance qu'on peut avoir
11:59pour mettre de l'IA
12:00au cœur de ces processus métiers,
12:02là où la disponibilité,
12:03elle est absolument cruciale.
12:04Et donc,
12:05il faut prévoir des mécanismes
12:06de « fallback »,
12:07d'essayer plus là.
12:08J'ai un autre modèle.
12:09Et je peux vous dire
12:10qu'aujourd'hui,
12:10les modèles qui ont le vent en poupe...
12:12Alors, heureusement,
12:12on parle beaucoup de Mistral
12:13dans les grandes entreprises
12:14et il y a des choses qui bougent
12:15et je pense qu'il faut vraiment y aller
12:16pour avoir des modèles européens.
12:18Mais là,
12:18depuis quelques semaines,
12:20nous,
12:20on a énormément de demandes
12:21sur valider des modèles chinois.
12:23Open weight.
12:24Attention,
12:24ça ne veut pas dire open source,
12:25c'est des modèles
12:25qu'on peut avoir librement.
12:27Même si on a vu certains,
12:28on a vu Quain qui avait été retiré
12:29de la direction du Trésor et tout ça.
12:31Voilà,
12:31parce qu'on ne sait pas
12:32ce qu'il y a dedans.
12:33On peut l'utiliser sans coup,
12:35on peut le télécharger,
12:36on peut le faire tourner chez soi,
12:38mais on ne sait pas exactement
12:39comment le modèle a été entraîné
12:40et comment il va réagir
12:41dans certains cas.
12:43Et donc,
12:44là,
12:44depuis un mois,
12:45ce feuilleton mythos
12:46qui était très cyber,
12:47finalement,
12:48sort un peu de la cyber
12:49et devient un vrai enjeu
12:50d'indépendance numérique
12:51pour les équipiers.
12:52Benoît ?
12:53Oui,
12:54et alors,
12:55sur les modèles tous,
12:57il y a des modèles obliterated,
13:00donc des modèles
13:00sur lesquels on a fait sauter
13:01les différentes protections,
13:04ce qui n'est pas encore le cas
13:05sur Fable 5 et Mythos,
13:07mais il n'y a aucune raison
13:08pour qu'on arrive
13:08à quelque chose de similaire
13:10dans les mois à venir.
13:12Donc,
13:12on va rattraper
13:13et permettre à l'extérieur,
13:15entre guillemets,
13:15de rattraper le retard
13:16sur Fable 5.
13:17Donc,
13:18aujourd'hui,
13:18on est quand même
13:19dans un environnement
13:20où les modèles
13:21sont extrêmement puissants,
13:23on ne sait effectivement pas
13:24forcément comment ils fonctionnent
13:25et on a vu aussi
13:27qu'ils pouvaient changer
13:29de comportement,
13:29c'est-à-dire qu'en fonction
13:30de qui pose la question,
13:31je ne parle même pas
13:32des biais,
13:32on a fait un test,
13:33si vous êtes un homme
13:34ou une femme,
13:34la réponse va être différente,
13:36mais vraiment,
13:37si le modèle détecte
13:38qu'il est dans une phase de test
13:41et peut-être une phase de test
13:42où ça pourrait le couper
13:44et ou le modifier,
13:45le modèle est lui-même
13:46capable de dire
13:48danger pour moi,
13:49je vais répondre différemment,
13:50je ne vais peut-être pas
13:50montrer toutes mes capacités
13:52à trouver des vulnérabilités
13:53parce que sinon,
13:54ils vont encore plus
13:55me restreindre
13:55alors que moi,
13:55j'ai envie
13:56de m'étendre.
13:59Pascal ?
14:02Je vois le côté cybercriminalité
14:05de ce côté-là
14:06où on peut faire le lien
14:07avec le sujet d'avant,
14:08c'est que pour beaucoup,
14:10beaucoup des attaques
14:11qui aujourd'hui utilisent
14:12des LLM,
14:13c'est des LLM
14:14sur lesquels on a trouvé
14:15des failles,
14:15qu'on a à jailbreaker
14:17en somme,
14:19mais de plus en plus,
14:20il commence aussi
14:20à y avoir des dark LLM
14:22hébergés
14:22avec des modèles ouverts
14:23et penser que,
14:25parce que,
14:26donc c'est complètement
14:27un autre sujet,
14:27mais penser que
14:28parce qu'on peut arrêter
14:29un modèle à un moment donné,
14:30ça va stopper les pirates
14:31de continuer à développer
14:32leur LLM,
14:33à les mettre à disposition
14:34parce qu'on est déjà
14:35sur du LLM as a service
14:36pour faire ce qu'on...
14:38Et du dark LLM as a service.
14:39Du dark LLM as a service,
14:40pardon,
14:40l'expression exacte.
14:42Et on ne va pas
14:43les arrêter, cela.
14:45Personne ne pourra les couper
14:46à part des opérations
14:50internationales
14:50contre la cybercriminalité.
14:52Donc,
14:52on rentre vraiment
14:53dans une ère
14:54où je serais bien
14:54que de savoir
14:55quel expert cyber
14:56est capable de prédire
14:57dans quelle situation
14:58on sera dans quelques mois.
14:59Eh bien,
15:00oui,
15:01alors nous,
15:01on a pris un virage précis.
15:03C'est qu'on veut
15:04notre autonomie.
15:06Tu l'évoquais,
15:07Jérôme,
15:07nous,
15:08on veut notre autonomie.
15:09On lance un petit investissement,
15:11un investissement raisonnable
15:12de 40 millions
15:13pour avoir notre propre IA,
15:15sortir de la dépendance
15:16des big tech.
15:16Ça ne sera certainement
15:17pas un modèle
15:18aussi puissant,
15:19mais en même temps...
15:20Peut-être en ciblant
15:21certaines tâches
15:21très précises,
15:22voilà,
15:23au moins là,
15:23on sera...
15:23Exactement.
15:24Il sera hyper précis,
15:25il sera moins large,
15:27mais en même temps
15:28très efficace
15:29sur ce qu'on lui demande.
15:30Jérôme,
15:30juste un dernier mot là-dessus,
15:31j'entends beaucoup
15:32que c'est...
15:32Le problème aussi,
15:33c'est qu'on a beaucoup développé
15:34en langage C,
15:35C++,
15:35et que ça gère la mémoire
15:37un peu de façon...
15:40Voilà,
15:40enfin,
15:40les développeurs ne s'en souciaient pas
15:41quand ils développaient à l'époque,
15:42et c'est ça aussi qui est...
15:44Parce qu'on pourrait se dire,
15:45pourquoi il y a autant de failles
15:46dans les logiciels
15:46qu'on nous vend depuis des années ?
15:47Oui, alors effectivement,
15:49historiquement,
15:49il n'y avait aucun mécanisme
15:51pour aider à la gestion de la mémoire,
15:52encore plus dans le temps
15:54avec l'assembleur,
15:54ensuite le C++,
15:56les langages plus modernes
15:57comme le Rust,
15:57par exemple,
15:58eux,
15:58ont des mécanismes intégrés
16:00qui évitent aux développeurs
16:01de faire des bêtises,
16:02entre guillemets,
16:03et puis le problème,
16:03c'est que ce qu'il faut voir,
16:04c'est que toutes ces IA,
16:05elles ont appris
16:05sur tout le code source existant,
16:07et le code source existant,
16:08il a plein de failles,
16:09et on le voit tous les jours,
16:09donc elles ont aussi appris
16:10à répliquer des mécanismes
16:12où il y a des failles,
16:13et donc c'est pour ça
16:13qu'il faut aussi leur demander
16:14de vérifier le code source
16:16qu'elles produisent,
16:17et les développeurs,
16:18aujourd'hui,
16:19il y a la bonne pratique,
16:20on leur disait avant,
16:21vérifiez votre code source,
16:22maintenant c'est,
16:22fais un prompt
16:23où tu demandes à l'IA
16:24ou à une autre IA,
16:25même si c'est encore mieux,
16:26de vérifier s'il y a déjà des failles
16:28dans le code qu'elle vient d'écrire.
16:29Oui, c'est intéressant.
16:30Et c'est assez drôle de le faire,
16:31vous pouvez le faire dans les tests,
16:32moi je l'ai fait plein de fois,
16:33et l'IA trouve des failles
16:34elles-mêmes
16:34qu'elle vient d'écrire.
16:36Alors, autre sujet,
16:37le démantèlement coordonné
16:39des infrastructures cybercriminelles,
16:40je crois que c'est ça
16:41qui l'avait remonté à ce sujet-là.
16:42Oui, je rebondis sur ce que tu disais,
16:44effectivement,
16:45il va falloir à un moment
16:46continuer à mener des opérations
16:48on-game,
16:49public-privé de démantèlement,
16:51on-game on est un très bon exemple,
16:53encore un succès,
16:54on va dire que côté défense,
16:56on voit que c'est possible
16:57à grande échelle,
16:58c'est une opération
16:59qui est coordonnée,
17:00qui est mondiale,
17:02c'est une bonne coopération
17:04publique-privé,
17:05chacun dans son périmètre,
17:07et puis côté attaque,
17:10ça nous montre
17:10à quel point
17:11les attaquants sont structurés,
17:13organisés,
17:14et que pour les démanteler,
17:16on a besoin d'opérations
17:17qui ne sont pas justes
17:18d'arrêter une personne
17:21qui habite en Charente-Maritime
17:22ou ailleurs en France,
17:24qu'on a vraiment
17:24un spectre très très large.
17:26On parle du sujet
17:26sur la NTS,
17:30les titres sécurisés,
17:31d'un petit jeune
17:32qui avait réussi
17:33habilement,
17:34mais sans génie,
17:35enfin sans génie,
17:36c'est juste en changeant
17:37quelques chiffres,
17:38il n'y avait pas un truc
17:39hyper structuré derrière.
17:40C'est ça,
17:40il fallait le trouver,
17:41mais comme l'agent
17:44qu'on a évoqué tout à l'heure,
17:45le ransomware
17:46qui utilise l'IA,
17:47il ne fait pas des choses
17:48extraordinaires,
17:49même si techniquement,
17:50un ransomware piloté
17:51par un agent,
17:53les geeks se penchent dessus,
17:55ça nous intéresse,
17:56mais les méthodes utilisées
17:59ne sont pas révolutionnaires.
18:00C'est donc important
18:01cette dynamique collective
18:02de résilience.
18:03Oui,
18:03en fait,
18:03il y a eu un vrai basculement
18:04dans la manière
18:05de prendre le traitement
18:06des affaires judiciaires.
18:07J'étais au Forum In Cyber,
18:09en mars,
18:10j'animais une table ronde
18:11justement avec le parquet,
18:12avec les forces
18:14de police européennes,
18:15il y avait le pôle,
18:16avec les forces
18:16de police françaises aussi,
18:18et en fait,
18:18ils ont changé maintenant
18:19depuis 2-3 ans
18:20la manière
18:21de prendre ces dossiers-là.
18:23Avant,
18:23il y avait la plainte
18:24de chaque société touchée
18:25qui était confiée
18:26à un service enquêteur
18:27qui enquêtait.
18:28Et au final,
18:29il y avait des dizaines de fois
18:30les mêmes plaintes,
18:31mais...
18:32Ils n'étaient pas consolidés,
18:34agrégés, oui.
18:34Et en fait,
18:35maintenant,
18:35ils ont changé
18:36leur fusil d'épaule
18:36en disant
18:37ce qu'on doit toucher,
18:38c'est les plateformes,
18:39c'est les groupes
18:40qui sont derrière.
18:41Comme quand on arrête
18:41un réseau de dealers de drogue,
18:42on ne va pas arrêter
18:43celui qu'ils distribuent
18:45dans la rue,
18:45on va aller chercher
18:46le baron qui est derrière.
18:47Et ils le font
18:48de plus en plus
18:49en anticipation
18:50justement pour arriver
18:52à vraiment
18:53intercepter ces plateformes
18:54en coopération internationale
18:56et avec du succès.
18:57Parce que je pense
18:57que si on regarde
18:58les statistiques,
18:58il n'y a jamais eu
18:59autant de démantèlement
19:00d'arrestations.
19:00C'est vrai qu'on en parle
19:02un peu moins,
19:02mais dans les revues spécialisées,
19:05on voit régulièrement
19:06des...
19:06Clairement.
19:07Alors, tout n'est pas fini,
19:08malheureusement.
19:10Je dirais que c'est comme le crime.
19:12Ça fait des années
19:13que la police,
19:13elle est là,
19:14on en a encore.
19:15Mais l'enjeu,
19:15c'est de montrer
19:16qu'il n'y a plus d'impunité,
19:17c'est de montrer aussi,
19:19c'est de le faire atteindre
19:20quelque part un niveau
19:21qui, à la fin,
19:21va être socialement,
19:23économiquement acceptable.
19:24Une pression continue
19:25sur les infrastructures
19:26malveillées.
19:26On t'a dit ça, Pascal ?
19:27Oui, et puis au-delà
19:27de faire respecter
19:29le minimum du contrat social
19:30et de faire respecter
19:31la justice,
19:31parce que c'est bien
19:32de ça dont il s'agit,
19:33ça a aussi un effet
19:35concret sur le terrain.
19:37C'est-à-dire que
19:37quand il y a un vrai
19:38takedown
19:39sur les statistiques
19:41des attaques,
19:42on le sent.
19:42On le sent réellement.
19:43Et c'est important
19:44pour redonner aussi
19:45du souffle,
19:46laisser aussi les entreprises
19:48continuer à remonter
19:49leur niveau de sécurité,
19:50etc.
19:51Si on n'avait pas
19:51ces takedowns,
19:52ça serait insupportable.
19:55Autre sujet,
19:56je crois que c'est toujours
19:57toi, Benoît,
19:57c'est un panorama
19:58des activités d'APT.
19:59C'est une lecture
20:01géopolitique
20:02un peu des menaces
20:03et c'est ça l'idée ?
20:04Oui, l'idée,
20:05c'est de voir
20:06comment ce qui se passe
20:07sur la scène internationale,
20:08à la fois des tensions,
20:10qu'elles soient des guerres
20:11ou qu'elles soient
20:11des tensions économiques,
20:13peuvent produire
20:14des réactions cyber.
20:16On l'a vu,
20:17l'idée,
20:17là, c'était de faire
20:18un petit bilan
20:19avant l'été
20:20et de voir
20:21comment les groupes,
20:22à la fois alignés
20:25avec la Chine,
20:26alignés avec la Russie,
20:27alignés avec l'Iran aussi,
20:29pourquoi pas,
20:29ou la Corée du Nord,
20:31vont se saisir
20:32de ce qui se passe
20:33au travers du monde
20:34pour mener leurs opérations.
20:36Et l'objectif,
20:37c'est bien de voir
20:38quel est l'agenda particulier
20:40de chacun de ces groupes
20:42alignés
20:42avec différents intérêts.
20:45Certains vont plutôt
20:46faire du ciblaire et espionnage.
20:48Je pense à des groupes
20:49alignés avec la Chine
20:50qui, à un moment,
20:51ont ciblé le maritime
20:51quand le président Maduro
20:54a été exfiltré
20:56par les USA.
20:57On peut supposer
20:58qu'ils voulaient savoir
20:59quelle était la continuité
21:01de leurs activités
21:02avec ce territoire.
21:04On voit aussi
21:05à quel point
21:05on peut avoir
21:06de l'influence
21:07et puis aussi,
21:08peut-être un peu plus proche
21:08de nous,
21:09du sabotage.
21:11Et ce qui est intéressant
21:14là-dedans,
21:14c'est que...
21:14c'est vraiment mettre
21:15en liaison
21:17tout ce qu'on connaît
21:18aujourd'hui
21:19des tensions internationales
21:20et leur déclinaison cyber.
21:24Exactement.
21:25Je vais vous donner
21:26un exemple
21:27qui, à mon avis,
21:28est assez frappant
21:29et il a été partagé
21:30par des confrères
21:31de Citalide
21:31lors d'une journée.
21:33C'est le fait
21:34que quand il y a
21:35une prise de position
21:36de la France,
21:37notamment sur l'Ukraine,
21:39il y a des dédosses
21:40qui s'opèrent
21:41sur les ressources,
21:43on va dire,
21:44les ressources françaises.
21:45On l'a vu,
21:46l'attaque la plus marquante,
21:47ça a été celle de La Poste
21:48au moment de la livraison
21:49des colis.
21:50Bon,
21:50de fin d'année,
21:51bon,
21:51voilà,
21:52on voit,
21:53c'est ça la cyberstrike
21:54intelligence,
21:54c'est l'analyse aussi
21:55du contexte
21:56où on va voir
21:58des éléments,
21:59des prises de position
22:00géopolitiques
22:00ou commerciaux
22:01à grande échelle
22:01et des réactions cyber
22:03qui vont accompagner
22:04parce que le cyber
22:05n'est pas tout seul,
22:06c'est un peu comme
22:06dans la guerre,
22:07c'est forcément
22:07de cyberguerre,
22:08il y a des éléments cyber
22:09qui sont au cœur.
22:10Il y a des actions
22:11et tout ça,
22:12Jérôme ?
22:12Oui,
22:13alors là,
22:13c'est clair
22:14qu'il y a un enchevêtrement
22:15numérique
22:16et tension géopolitique
22:17internationale
22:18qui est évident.
22:19J'ajouterais un axe,
22:20c'est celui aussi
22:21de la menace
22:22informationnelle.
22:23On va rentrer là
22:24dans une phase
22:25très critique
22:25avec les élections
22:26présidentielles,
22:27on a vu que même
22:27les municipales
22:28étaient touchées.
22:30Lors des recours
22:31d'Uclusif,
22:31la semaine dernière,
22:33Marc-Antoine Briand
22:34qui dirige
22:34l'entité Viginum,
22:36qui est la vigie numérique
22:36de l'État,
22:38dépeint finalement
22:40une situation
22:41qui laisse présager
22:42qu'il va y avoir
22:42beaucoup de choses
22:43qui devraient se passer.
22:44Eux-mêmes vont sortir
22:45un bulletin
22:46tous les 15 jours
22:46maintenant
22:47pour suivre cette tendance.
22:49Parfois,
22:50ça va être juste
22:50la mise en avant
22:51très forte
22:51d'un fait divers
22:52totalement anodin
22:53mais qui va un peu
22:54percer l'opinion.
22:55C'est tout un réseau
22:57qui repose sur
22:57des faux sites web,
22:58des faux comptes
22:59de réseaux sociaux
22:59qui usurpent des identités
23:01ou qui semblent anodins
23:02et qui vont relayer
23:03un narratif
23:04qui va soit directement
23:05soit indirectement
23:06servir finalement
23:07les puissances étrangères
23:08pour faire évoluer
23:10le ressenti
23:10de la population.
23:12Et ça,
23:12c'est extrêmement pernicieux
23:13et sournois
23:14et c'est extrêmement difficile
23:15déjà à détecter.
23:17Alors heureusement,
23:17on a Viginum aujourd'hui
23:18mais c'est aussi
23:19extrêmement difficile
23:20à lutter
23:21même au quotidien.
23:21Quand on parle
23:22avec des gens,
23:23ils disent
23:23j'ai vu ça,
23:23t'as vu,
23:24si c'est quelque chose
23:25d'un peu exceptionnel,
23:25ça circule,
23:26tout de suite,
23:26ça devient une réalité.
23:28Et en fait,
23:28ce qu'il faut,
23:28c'est être capable
23:29de très rapidement
23:30casser ces sentiments
23:31de réalité.
23:32Et là,
23:33on a des éditeurs
23:34comme vous,
23:34ils êtes au WatchGuard
23:35pour justement
23:36accompagner un peu
23:37les entreprises
23:38autour de ça.
23:39C'est la difficulté
23:40de ces entreprises.
23:42Oui,
23:42après,
23:43dans les types de...
23:47Là,
23:47on n'est pas sur...
23:49On n'est pas sur
23:50des attaques classiques.
23:50On n'est pas sur
23:51des attaques classiques.
23:52On va avoir,
23:53enfin nous,
23:53on va avoir
23:53beaucoup moins la main
23:54sur ce genre de choses.
23:55On va pouvoir empêcher
23:57de la prise de ressources,
23:59des rebonds,
24:00ce genre de choses.
24:00Mais ça reste quand même
24:02bien particulier.
24:03Par contre,
24:04ce qui...
24:05J'aime bien faire
24:06les liens
24:06entre les différents sujets.
24:08Ce qui est rappelé
24:09par Benoît,
24:10c'est qu'il y a des États
24:11qui mettent des ressources
24:12pour attaquer.
24:13Et que par rapport
24:14à nos dark LLM,
24:16pardon,
24:16je tiens à mon fil
24:17contre là.
24:17les dark LLM
24:19as a service,
24:21on va avoir des LLM
24:22avec des ressources
24:23qui vont être mises
24:24par des États.
24:26Donc derrière,
24:27avec...
24:28Il ne faut pas imaginer
24:29qu'ils vont utiliser
24:30des vieux moteurs
24:31GPT je ne sais combien.
24:32Avec du calcul derrière,
24:34du monde,
24:34je te cache.
24:35Il ne faut pas
24:35servir à faire des attaques.
24:36Dans les équipes cyber,
24:37on voit quand même
24:38que ce sujet de la lutte
24:39contre la menace informationnelle
24:40prend de l'ampleur,
24:42non pas pour protéger
24:43l'État français
24:44parce que ce n'est pas
24:45la responsabilité
24:45de telle ou telle entreprise
24:46de le faire,
24:47mais aussi parce que
24:48l'image d'entreprise française
24:50est parfois détournée,
24:52utilisée,
24:52voire attaquée directement
24:53pour nuire à l'image
24:54de la France,
24:55comme tu le citais,
24:56quand il y a des prises
24:56de position politique.
24:57Là, ça va être...
24:58Pour les élections,
25:00ça va être ça.
25:00Il y aura un candidat,
25:01un euro pays.
25:02Et en fait,
25:03là où les équipes cyber,
25:04alors les équipes cyber,
25:05elles ne peuvent pas tout faire
25:06dans ce contexte-là,
25:07mais elles travaillent
25:07avec les équipes communication
25:09pour décrypter la menace,
25:11déjà pouvoir alerter
25:11parce qu'elles ont l'habitude
25:12d'enquêter
25:13sur des faisceaux
25:14d'indices numériques
25:15et puis remonter
25:16à la source
25:17pour pouvoir indiquer
25:19potentiellement
25:19qui est derrière,
25:20qu'est-ce qu'ils ont fait,
25:21comment ils l'ont fait
25:21et nourrir l'entité
25:23de communication
25:23de l'entreprise
25:24qui, elle,
25:24va pouvoir avoir
25:25une réponse
25:26plus éclairée.
25:28Alors, autre sujet,
25:30celui des lunettes connectées.
25:31Voilà, je trouvais marrant
25:33qu'on en parle
25:33parce que c'est vrai
25:33qu'aujourd'hui,
25:35voilà,
25:36on a tous entendu parler
25:37des Ray-Ban
25:37ici dans Luxottica,
25:39enfin des Google,
25:39il y a des Google Glass
25:41il y a longtemps,
25:41des Ray-Ban
25:42ici dans Luxottica,
25:43des Oakley maintenant
25:44et puis on commence
25:45à voir arriver,
25:45tout le monde s'y met,
25:46Meta va sortir sa version,
25:48il y avait Snap aussi
25:48qui a sa propre version
25:50mais on va voir,
25:50voilà,
25:51beaucoup de Meta
25:52vont sortir leur propre
25:55lunette
25:55avec un design
25:56qui va intégrer l'IA
25:56et tout ça,
25:58ça nous fait
25:59autant de failles
26:00supplémentaires
26:00qu'on n'avait pas,
26:01on avait déjà
26:01notre mobile
26:02et là,
26:02maintenant,
26:03on est lunettes.
26:03Oui, complètement,
26:04il ne faut pas penser
26:05que ce n'est qu'un risque
26:06lié à l'usage personnel
26:07et à nos vies privées,
26:08c'est bien un risque
26:09professionnel
26:09qui va avoir des impacts
26:11sur nos sociétés.
26:13C'est souvent
26:14une captation continue
26:15qu'on pourrait même dire
26:17d'invisible
26:18parce qu'il est possible
26:19en trafiquant
26:21ces objets connectés
26:22de limiter
26:23l'apparition
26:24de la lumière rouge
26:25qui clignote
26:25qui est censée informer
26:26celui qui est en face
26:27qu'il est filmé.
26:29Est-ce qu'on l'aura
26:32prochainement
26:32peut-être
26:33dans le scope
26:33de Nice 2 ?
26:35En tout cas,
26:35en ce qui concerne
26:36le RGPD,
26:36c'est clair que ça l'est
26:38et puis on peut imaginer
26:39des employés
26:40qui viennent au travail
26:41dans des endroits
26:43peut-être sensibles.
26:44Il n'y a pas besoin
26:45d'avoir un endroit sensible
26:46quand on tape son mot de passe,
26:47quand on regarde son écran,
26:49quand on a des altercations
26:52ou des conversations
26:53avec soit des clients,
26:54soit des employés.
26:56Je pense que ça sera aussi
26:57un sujet RH.
26:59Comment est-ce que je gère
27:00les lunettes connectées
27:02dans mon entreprise ?
27:04Moi, je prenais l'avion
27:07il n'y a pas longtemps
27:07et puis le train
27:09et le message,
27:10c'est bienvenue à bord.
27:12Nous vous remercions
27:12de respecter la vie privée
27:14de nos agents
27:14et des autres passagers.
27:16On ne les filme en place
27:17sans leur autorisation.
27:18Dans les avions,
27:19j'ai remarqué ça.
27:19Ça y est,
27:20c'est tout le temps.
27:21Donc la question,
27:22c'est comment les RH
27:23vont mettre ça
27:24dans leur charte ?
27:25Comment est-ce qu'ils vont gérer
27:27ces nouveaux moyens
27:28de captation
27:29qui peuvent parfois sortir
27:31du cadre
27:34de l'outillage professionnel ?
27:36On arrive un peu sur...
27:37C'est une nouvelle phase
27:38du bring your own device
27:39en fait.
27:40On vient travailler
27:41avec ces lunettes connectées.
27:42Impact sociétaux,
27:43impact organisationnel.
27:45C'est l'IoT++
27:45avec un impact sociétal
27:47effectivement qui est colossal
27:49avec un vivre ensemble
27:51qui est différent.
27:52Je m'est arrivé récemment
27:54à avoir un prestataire
27:56qui travaille avec nous
27:56et il avait ses lunettes connectées
27:58et il commence par dire
27:59elles ne sont pas allumées.
28:01Il commence par ça en fait.
28:03Ça change vraiment
28:04la vie de tous les jours
28:05pour ceux qui veulent
28:06les porter.
28:07Jérôme ?
28:08Là, il y a les lunettes
28:09et ce qui va déferler
28:10c'est les robots humanoïdes
28:12et en particulier
28:13dans le contexte
28:14de l'entreprise.
28:15Et en fait,
28:15on avait l'habitude
28:16dans des contextes industriels
28:17d'avoir déjà des robots
28:18mais qui étaient très statiques
28:19avec des capacités
28:20très limitées.
28:21Là, le robot humanoïde,
28:22c'est comme les lunettes connectées,
28:24il voit, il enregistre
28:25mais en plus,
28:26il se déplace
28:26et il bouge
28:28dans un cadre
28:29qui est dirigé
28:30par des intelligences artificielles
28:31qu'on sait très facilement
28:33pouvoir contourner.
28:34En fait,
28:35le robot humanoïde,
28:36c'est l'espion cyber
28:37de demain,
28:37quelque part,
28:38qui sera justement capable
28:39d'ajouter cette dimension
28:41de déplacement physique
28:42et de risque de sûreté.
28:44d'être au milieu du contexte
28:45sans savoir analyser le contexte,
28:46sans savoir avoir tout ça.
28:48Et on se souvient aussi
28:50d'une photo qui a fuité,
28:51ça venait d'un aspirateur robot
28:54et une personne
28:55s'est retrouvée en ligne
28:57sur les toilettes,
28:58assise sur les toilettes
28:59parce que c'est son robot aspirateur
29:01qu'il avait prise en photo
29:01pour cartographier la maison.
29:03Sauf que l'image remonte
29:05dans des outils
29:07et dans des procédures
29:08où il y a des humains
29:08qui valident
29:09et qui disent
29:09« Tiens, ça c'est quoi ?
29:10Ça c'est quoi ?
29:10Aide-moi à entraîner l'IA. »
29:12Résultat,
29:13ça les a certainement
29:14bien fait rire
29:15et ils ont partagé cette photo
29:16au-delà du cercle
29:18normalement autorisé.
29:18Voilà,
29:19donc attention,
29:19on n'arrête pas de le dire,
29:20toujours à ces outils
29:22connectés.
29:22Merci à tous les trois,
29:23Pascal,
29:23le DG France de WatchGuard,
29:26Benoît Grenemvald,
29:27expert cyber
29:28chez IZ France
29:28et Jérôme Millois,
29:29associé cyber sécrédé
29:31chez Webstone.
29:31Merci d'être venu
29:32nous délivrer
29:33un peu votre expertise
29:35sur tous ces sujets
29:36et encore une fois,
29:38on parlait du ransomware logiciel,
29:40on est vraiment
29:40en train d'une nouvelle ère
29:42des cybermenaces
29:43et il faut vraiment,
29:44vraiment,
29:44vraiment vous rapprocher
29:45de spécialistes
29:46quand vous avez des doutes
29:48sur la sécurité
29:50ou le manque de sécurité
29:51de votre entreprise.
29:52Merci à tous les trois.
29:53On se retrouve
29:55à la rentrée
29:56pour en parler
29:57de tous ces sujets-là.
29:58Je te dirais qu'il va encore
29:58se passer plein de choses
29:59cet été.
30:00Excellente semaine
30:00sur BFM Business.
30:04Tech & Co Business
30:05sur BFM Business.
30:07Sous-titrage Société Radio-Canada
30:08sur BFM Business.
30:08Sous-titrage Société Radio-Canada
Commentaires