00:04L'alerte cyber s'arrête aujourd'hui sur un conseil de la DGSI, donc la Direction Générale de la Sécurité
00:11Intérieure, qui est adressée aux entreprises.
00:13Alerte sur les risques associés à l'usage professionnel de l'intelligence artificielle.
00:18Bonjour Antoine Damiens.
00:19Bonjour Delphine.
00:20Vous êtes Product Manager chez Virtual Browser.
00:23Alors, peut-être remettre en contexte cette alerte. Pourquoi cette publication ? Donc c'est dans le cadre d'un
00:29flash sur les ingérences économiques.
00:32Pourquoi cette publication ? Qu'est-ce qui se passe avec l'IA dans le milieu professionnel ?
00:36Alors, aujourd'hui l'IA c'est un outil qui est utilisé par quasiment tout le monde pour augmenter la
00:41productivité des entreprises.
00:42La DGSI met en lumière trois cas d'usage qui sont finalement assez communs.
00:46Le fait de copier-coller des documents dans des outils de traduction, dans des chatbots,
00:50mais également le fait d'utiliser l'IA dans des outils, c'est-à-dire l'IA qui est invisible.
00:57On parle de shadow IA dans ce genre de cas.
00:59Et puis le troisième cas, ça va être tout ce qui est deepfake,
01:01le fait de manipuler l'IA pour se faire passer pour quelqu'un qu'on n'est pas.
01:06Et donc, aujourd'hui c'est des cas qui sont très fréquents
01:08et que les entreprises, auxquelles toutes les entreprises sont confrontées.
01:12Alors là, le flash de la DGSI ne donne pas de nom,
01:15mais elle évoque quand même trois sociétés françaises qui ont été confrontées à des actions d'ingérence économique.
01:21Donc on est face à une menace très concrète.
01:24Oui, aujourd'hui, clairement, tous ces cas d'usage montrent que la propriété intellectuelle,
01:30le travail des entreprises peut fuiter vers l'étranger.
01:34Aujourd'hui, la plupart des outils ont des options gratuites.
01:36Et souvent, quand c'est gratuit, c'est qu'il y a derrière une contrepartie.
01:40Donc on peut entraîner les modèles des modèles étrangers.
01:43Donc la DGSI fait d'ailleurs des recommandations d'usage d'outils français
01:48et d'outils même européens avec un hébergement sur le territoire.
01:53Alors justement, vous me parlez des préconisations de la DGSI.
01:56Donc elle, elle parle d'encadrer l'usage de l'intelligence artificielle au sein de l'entreprise,
02:01de la question aussi de la gouvernance, d'utiliser l'IA de manière raisonnée.
02:06Quels sont vos conseils ?
02:09Alors, les recommandations de la DGSI sont très bonnes.
02:12Je pense qu'il est important effectivement déjà de sensibiliser les gens sur l'usage de l'IA,
02:18ce qu'on peut faire et ne pas faire.
02:19Le fait d'anonymiser les données avant de les utiliser,
02:21c'est quelque chose qui devrait être fait systématiquement.
02:24Après, nous, on suit ces recommandations.
02:28Typiquement, chez Virtual Browser,
02:29notre solution permet de contrôler les usages de l'IA sans les bloquer.
02:33C'est-à-dire ?
02:35Aujourd'hui, on a 85% des usages web qui sont faits à travers le navigateur,
02:41notamment tous les usages d'IA qui sont faits par le navigateur.
02:44Les trois exemples de la DGSI passent par le navigateur.
02:46Et donc nous, aujourd'hui, ce qu'on peut faire avec une solution comme Virtual Browser,
02:50c'est contrôler finement ce que va faire l'utilisateur,
02:52c'est-à-dire lui donner accès peut-être à certains outils qui sont autorisés par l'entreprise,
02:55et au contraire, pouvoir bloquer, par exemple, des copiers-collés vers d'autres outils IA,
03:01des téléversements de fichiers également,
03:03et tout simplement avoir une maîtrise du risque et de l'utilisation de l'IA par différentes populations.
03:09Mais vous parlez du navigateur.
03:10À quel moment le navigateur intervient dans cette protection ?
03:14Alors le navigateur, aujourd'hui, nous, chez Virtual Browser,
03:16on déporte la navigation sur un serveur distant,
03:19et en fait, l'utilisateur va se connecter aux outils
03:21qui ne sont pas officiellement autorisés par l'entreprise à travers ce navigateur,
03:25et donc effectuer sa session de navigation à travers son navigateur habituel,
03:30mais sur un serveur distant,
03:32et pouvoir interagir avec une IA sous le contrôle de ce que décident la DSI et les équipes de sécurité.
03:41Quel est l'intérêt de déporter cette sécurité sur un serveur distant,
03:46plutôt que de le mettre directement dans le système d'information
03:48et d'empêcher la connexion sur un site qui serait à risque ?
03:54Alors, aujourd'hui, nous...
03:55Vous dites, c'est pour éviter d'interdire des usages, c'est ça ?
03:57Alors, nous, on permet les usages.
03:59La solution, nous, c'est plutôt de...
04:01Quand on interdit, on a tendance à penser que les gens détournent,
04:05enfin, trouvent une solution de contournement.
04:06C'est pas faux.
04:07C'est souvent le cas, en tout cas.
04:09Et donc, nous, aujourd'hui, on permet les usages,
04:11mais on les permet sous un contrôle.
04:12Donc, on peut autoriser certains sites à accéder en direct,
04:15une IA officielle, si on utilise des IA françaises, par exemple,
04:18qui sont autorisées par l'entreprise.
04:20Et à contrario, se dire que les outils les plus communs,
04:24ChatGPT, Gemini ou autres,
04:26sont accessibles via une solution comme Virtual Browser.
04:29Et donc, on peut interagir avec la solution.
04:31Par contre, on ne peut pas copier-coller des éléments dedans,
04:33on ne peut pas téléverser des fichiers,
04:35on ne peut pas charger des images.
04:37Tout reste sous contrôle des équipes de sécurité.
04:41Merci beaucoup, Antoine Damiens,
04:43pour avoir décrypté avec nous ce sujet.
04:46Je rappelle que vous êtes le Product Manager de Virtual Browser.
04:49C'est l'heure d'accueillir notre RSSI,
04:51notre responsable de la sécurité des systèmes d'information
04:54à la Caisse des dépôts, Arnaud Martin.
Commentaires