- 11 hours ago
"Une vidéo d'un dirigeant faisant une annonce. Un message vocal d'un proche en danger. Un discours qui n'a jamais eu lieu. Les deepfakes sont devenus un outil de manipulation à grande échelle, accessible à quiconque dispose d'un ordinateur et d'une connexion à internet.
Quand voir ne suffit plus à croire, comment distinguer le vrai du fabriqué ? Et surtout, qui est responsable de tracer cette ligne ?
Tina Nikoukhah, VP of Research chez GetReal Security, partage les dernières avancées en détection de contenus synthétiques et ce qu'elles révèlent sur l'état de notre confiance dans l'image."
Quand voir ne suffit plus à croire, comment distinguer le vrai du fabriqué ? Et surtout, qui est responsable de tracer cette ligne ?
Tina Nikoukhah, VP of Research chez GetReal Security, partage les dernières avancées en détection de contenus synthétiques et ce qu'elles révèlent sur l'état de notre confiance dans l'image."
Category
🤖
TechTranscript
00:00Tina Nikouka Reviewer
00:23Hello everyone, this Saturday morning.
00:26Thank you for waking up.
00:27I'm Tina Nikouka.
00:29We're going to talk about what we see, what we believe,
00:33what we think about and what we continue to see more and more on the social media.
00:39Before the presentation,
00:41I told you, as a whole presentation on the deepfakes,
00:45I would put you an image.
00:46There are 8 images, 4 pairs,
00:49each one true and false.
00:50False, that is generated by artificial intelligence.
00:53It's true, it's like a photographer.
00:56And I'll leave you a few seconds to want to play,
00:59to try to guess.
01:02Don't worry about it.
01:04Maybe it's obvious.
01:05The photographers, in general, say
01:06that it's obvious.
01:08I know.
01:08If you don't get it, it's not bad.
01:10Because there are studies that show,
01:12these two last years,
01:13that there are about a chance
01:15of two,
01:15at least 50%,
01:17to be able to tell if it's true or false,
01:19what you see here,
01:20under your eyes.
01:21I still put the result,
01:23in blue,
01:26it's real,
01:27authentic,
01:27and in orange,
01:29it's generated by artificial intelligence.
01:33So I wanted to do that.
01:35I wanted to do a lot of games,
01:36etc. for this presentation.
01:38But in fact,
01:39when I was creating my images,
01:40in general,
01:41what I do,
01:42I take my two acolytes,
01:44my animals at home,
01:45and I stole their identity,
01:48and I put them in different scenes.
01:51So I was doing that,
01:52I was fun.
01:53I created this image,
01:54generated by IA,
01:55cat and cat in the forest,
01:57and something happened
01:59that I wanted to tell you absolutely.
02:01Last week,
02:03while I was with my daughter
02:04of two and a half years old,
02:06she told me,
02:07Mom, Mom,
02:08can we go to the forest
02:11with the cat and the cat?
02:13And I said,
02:14but what do you tell me?
02:16The cat,
02:17yes,
02:18he goes in the forest,
02:18but the cat,
02:19he has never put his feet in the forest.
02:21And I said,
02:21but...
02:22And there,
02:23I said,
02:24mince,
02:25that means
02:27that she saw my computer,
02:29I didn't think she saw my computer,
02:30it wasn't the but,
02:31she was able to be at table,
02:33and she saw,
02:33maybe what,
02:34a fraction of a second,
02:35this image,
02:36and she said,
02:36ah,
02:37it's the reality,
02:38it happened.
02:39And it's there that we live today.
02:41Today, we don't realize,
02:42we see a lot of images,
02:43and it creates
02:44some memories,
02:45some desires,
02:46some beliefs,
02:46some beliefs.
02:48So,
02:48before we dive into this presentation,
02:51now that you know my cat
02:52and my dog,
02:53it's time for me to introduce myself.
02:54So, I'm Tina Nikouka,
02:58I'm doing mathematics,
02:59I'm doing mathematics,
03:00I'm doing my thesis on the treatment
03:02and analysis of images
03:03at the ENS Paris-Saclay,
03:04and since I joined a start-up
03:06of cybersecurity,
03:08which is called GetReal,
03:09who was founded by the pioneer
03:11of the domain,
03:12who was one of my authors
03:13of the thesis,
03:14and where we work on all
03:16what is verification,
03:18tools to give everyone
03:20confidence to see what you see
03:21through the screen,
03:22especially when it's about
03:23usurpation of identity
03:24of people,
03:25not necessarily animals,
03:26but of people.
03:29Now,
03:30let's go to my image.
03:31I told you that I would
03:33ask you two questions today.
03:35The first,
03:36ask you,
03:37so there it's 10 o'clock
03:38in the morning,
03:39with this little time
03:40in this day,
03:41can you tell me
03:42how many images have you seen?
03:44Those that you have seen,
03:46maybe you can tell me,
03:47images or videos,
03:49but those that your brain
03:50has seen,
03:52but that you don't have
03:54necessarily noticed.
03:55Because you can name this number.
03:57The second question,
04:00when you are on your phone,
04:03or your computer,
04:04and you say,
04:04I'm going to share this image
04:06to the family,
04:06to the friends,
04:08do you think before
04:09and what are the questions
04:11you ask?
04:11Do you ask where it comes,
04:13how it came,
04:14how it came,
04:14who did it,
04:15why,
04:16and why do I want to share this image?
04:20Maybe not,
04:20but now you will ask these questions.
04:22Why do I talk about that?
04:24Because this image,
04:25yes,
04:25she made a smile,
04:26I saw it when I showed you,
04:27nothing of a priori grave,
04:29but my daughter of two and a half,
04:32this image,
04:33she lied to me.
04:34She lied to me.
04:34It's me, in fact,
04:35who created something,
04:36and I will share a lie,
04:38finally.
04:39And it's not the LIA Generative
04:41that must wake up to that.
04:42It's already been the case
04:43for a long time.
04:45And in fact,
04:45the images,
04:46they've always been able to lie.
04:49Always,
04:51invention of photography.
04:52One of the inventors
04:53himself of photography
04:54s'est amused
04:55to shoot an image.
04:57We find it there,
04:58where he looks like
05:00noyered,
05:01to pass a message.
05:02Then,
05:03we have the case
05:04of retouches.
05:05So,
05:06instead of wearing a mask,
05:07sometimes,
05:08we want to retouches
05:08as the photographer can do.
05:10But at the time of the Argentine,
05:11it wasn't as easy as today.
05:14What happened is that
05:14they were in the black room
05:17and used the scalpel
05:19manually.
05:20they would rub the negative
05:21to remove the imperfections
05:22on the face of the actress.
05:25They could even remove
05:26the people
05:27of the actresses.
05:28So,
05:28we saw that the uses
05:29were quite similar.
05:30We had the disinformation,
05:32we had the retouches.
05:34And what is important
05:35to know here,
05:35is that in the creation
05:37of the photography,
05:38directly,
05:39the detournement
05:39had a lie.
05:40But the retouches were lentes.
05:42Then,
05:43the numeral.
05:44I put Photoshop
05:45because it's
05:45the most famous logic
05:46just a few months,
05:48after the creation
05:49of the digital photography,
05:51it was released
05:53by a large number
05:54of people.
05:55For what?
05:56To do,
05:56again,
05:58the retouches.
05:58Well, this one is raté.
06:00I don't know
06:00if you realize
06:01that the size of the mannequin
06:02is quite small
06:03than his head.
06:04They are excused.
06:06But,
06:06in any case,
06:07there are always cases
06:08like before,
06:10to improve
06:10the images,
06:11but we have to have
06:12the retouches.
06:12Also,
06:14this example
06:15of 2018
06:16marked me personally
06:17because it was
06:18my first case
06:19that I analyzed.
06:20What struck me
06:21is that this photo
06:22that we see
06:22in the top
06:23of the American Constitution
06:25has been shared
06:26hundreds of thousands
06:27of times.
06:28Today,
06:29you will all see
06:29and say,
06:30but it's not even
06:30good.
06:31It's true.
06:33And the worst
06:34is that,
06:35when we could show
06:35mathematically
06:36that the image
06:37was retouched,
06:38when we could show
06:39the source image,
06:39that's the one
06:40that's the one
06:40that's the one,
06:41the people continue
06:42to post it.
06:43It's too late.
06:45And then,
06:45there are cases
06:46of fraud,
06:46that's not new.
06:48What's the most expensive
06:49is to retouch the image
06:51that serves
06:51as a place
06:52or to repair
06:54the carrosser
06:55at the garage?
06:57Of course,
06:57not to do.
06:58In any case,
06:59what has changed,
07:00what has changed,
07:02what has improved,
07:02is the facilitation
07:03and accessibility
07:04of these retouches,
07:05these manipulations
07:06until,
07:06these cases
07:06a little before 2023
07:08with the IA generative
07:09but I like to talk
07:10about this image.
07:12You've certainly
07:13seen it all.
07:14Yes, of course.
07:15But I like to talk
07:16about it
07:17because it's the first time
07:18that an image
07:19really,
07:20worldwide,
07:20talked to everyone.
07:21There were cases before,
07:22each president,
07:23each country,
07:24but at the same time,
07:26the whole planet
07:26said, wow,
07:28an image generated
07:29from nothing.
07:30And I don't know
07:31if it's the case,
07:32but if it's not,
07:32it would be really interesting
07:33to put this image
07:35in the history books
07:35and the children,
07:37my daughter,
07:38or the children
07:39who, in a few years,
07:40will be able to read
07:40the history books
07:41to have these images.
07:43So,
07:44the difference
07:44with before,
07:45there's always this propagation
07:46of more and more
07:48of the images
07:49that are there,
07:49that are very easy
07:51to do.
07:52It's just what,
07:52to write a simple text,
07:53to make a message vocal,
07:55to send images,
07:56to communicate
07:59with their favorite
08:00to generate
08:01what we want.
08:02At the beginning,
08:04we had some mistakes
08:04with the mistakes,
08:05you know,
08:06the six-doigts,
08:06the text,
08:08etc.,
08:08but it was bugs,
08:09we couldn't count on it
08:10to detect anything.
08:12And,
08:13today,
08:14what's impressive,
08:16is that it's not
08:16to stop the image.
08:17Now, the video,
08:18also.
08:18At the time,
08:19retouching a video,
08:20it had to use
08:21very complicated,
08:23a material
08:23which cost a lot,
08:25and a savoir-faire.
08:26Today,
08:27accessible to everyone,
08:28there's no need
08:29to know-faire,
08:30and,
08:31so,
08:31we can steal
08:32identity of anyone
08:33and create people
08:34of every piece.
08:35For you,
08:36I'm going to show you
08:38a video
08:38made by my
08:39colleague,
08:40Emmanuelle,
08:41on the hyperrealism
08:43that we're able to obtain
08:43today,
08:44in the image
08:44or in the video.
08:46I know I look real,
08:47you can see it,
08:48the eyes,
08:49the skin,
08:49but I don't exist,
08:50I don't exist,
08:51but I don't exist.
08:52They call us
08:53AI influencers.
08:54Because your brain
08:55thinks we're real,
08:56but we are actually AI.
08:58These are AI influencers.
09:01These are AI influencers.
09:02voici des influenceurs
09:03qui n'existent pas.
09:05Alors, ça peut avoir l'air sympa,
09:06ça veut dire
09:06on n'est pas obligé
09:07de payer des mannequins
09:08ou des personnes
09:09pour partager
09:10et faire de la publicité en ligne,
09:11pas besoin de maquilleur,
09:13pas besoin de personnes
09:14qui se réveillent un samedi matin
09:16pour venir faire un shooting
09:17ou quoi que ce soit.
09:18Ok.
09:19C'est,
09:19c'est une décision.
09:21Mais,
09:21ce qui est quand même
09:22assez alarmant ici,
09:23il faut se dire qu'en fait,
09:24on peut se retrouver
09:25à parler avec des personnes
09:26qui vont nous quoi ?
09:27Qui vont nous influencer
09:28d'acheter un nouveau médicament,
09:30nous encourager
09:31à tester cette marque
09:33et cette autre chose.
09:34Aujourd'hui,
09:34on s'informe quand même
09:36principalement sur les réseaux.
09:37On s'influence aussi du coup
09:39sur les réseaux
09:39et on peut se retrouver
09:40avec des gens
09:41qui peuvent vous mentir,
09:43qui peuvent vous dire
09:44ce qu'ils veulent
09:44et en fait,
09:44il n'y a pas de répercussions.
09:46Parce que c'est qui en face de vous ?
09:47C'est personne.
09:48Et encore pire,
09:50on peut se retrouver
09:51à voler votre identité.
09:53Donc ça,
09:53ça fait quand même
09:53quelques temps,
09:54mais maintenant,
09:54c'est devenu vraiment plus réaliste.
09:56Voler votre image,
09:57votre voix
09:58et faire des vidéos de vous
09:59à vendre des choses
10:00que vous n'aviez vraiment
10:01pas envie de vendre aux gens.
10:03Et nous,
10:04chez Gatriel Security,
10:05on travaille exactement là-dessus.
10:06On développe des algorithmes,
10:08des méthodes,
10:09des outils
10:09pour faire face à ces...
10:12pour les plateformes
10:12et pour les entreprises
10:13et les institutions
10:14pour faire face à ce genre
10:15d'usurpation d'identité.
10:17Donc je vous invite
10:17à aller voir notre chaîne YouTube
10:18quand même,
10:19parce que Emmanuel a fait
10:20un travail exceptionnel
10:21et vous allez retrouver
10:21pas mal de cas assez frappants
10:24et vraiment très intéressants
10:25pour se renseigner sur le sujet.
10:28Donc moi,
10:29je vais revenir à mes cas d'images.
10:30Les vidéos, très bien,
10:31mais maintenant,
10:33parlons des images.
10:34Une vidéo, finalement,
10:35c'est plein d'images
10:36qui se suivent.
10:37Et je vais revenir
10:38à cette image générée par IA
10:39qui a, encore une fois,
10:41j'insiste,
10:41menti à ma fille.
10:45Donc,
10:46je voulais vous parler
10:48de la représentation
10:52de cette image,
10:53donc la représentation de la réalité.
10:55Donc,
10:55l'image du chat.
10:57La photographie,
10:57pour moi,
10:58qu'est-ce que c'est ?
10:58La photographie,
10:59pour moi,
10:59c'est une image,
11:01mais si je zoome dessus,
11:03c'est une matrice
11:05avec des pixels dedans.
11:07Ok,
11:07donc petit cours de maths,
11:08voilà,
11:09de samedi matin.
11:10Moi,
11:11quand je vois une image,
11:12je ne vois...
11:13Alors si,
11:13je suis comme vous,
11:14je vois les émotions,
11:16je regarde ce qu'il y a dans la scène,
11:17bien évidemment,
11:17mais surtout,
11:18moi, je m'intéresse aux mathématiques
11:20qu'il y a dans les images,
11:21du traitement d'images,
11:22l'informatique,
11:22mathématiques.
11:23Donc moi,
11:24quand je zoome sur une image,
11:25je zoome,
11:25je zoome,
11:25je zoome,
11:26je vois à l'intérieur des pixels.
11:28Chaque pixel représente une couleur.
11:30Pour avoir les couleurs,
11:31un peu de rouge,
11:32un peu de vert,
11:32un peu de bleu.
11:33Bon, jusque-là,
11:34si ça vous intéresse,
11:35on peut en parler plus.
11:37Et je sais qu'au programme scolaire,
11:38maintenant,
11:39ils en parlent au lycée,
11:40donc je trouve que c'est génial.
11:42Mais ce qui est important ici,
11:43c'est de savoir
11:43comment sont remplies ces valeurs.
11:46Alors,
11:46au départ,
11:47je vous ai donné un jeu,
11:48comme souvent on dit,
11:49vrai, faux,
11:50savoir distinguer le vrai du faux.
11:51La définition est assez confuse.
11:53Donc je vous propose plutôt
11:54de séparer ces images
11:56de deux manières différentes
11:57qui sont naturelles d'un côté,
12:00artificielles ou synthétiques de l'autre.
12:02Donc naturelle,
12:03j'appelle une image naturelle
12:04quelque chose qui est
12:06résultant de la lumière,
12:07qui par exemple,
12:08m'éclaire moi,
12:09sur scène.
12:10La lumière rentre dans l'objectif,
12:12ça arrive sur le capteur,
12:13hop, c'est naturel,
12:14origine lumière.
12:16Ensuite,
12:16des calculs mathématiques
12:17permettent d'avoir le résultat
12:18que vous voyez là.
12:19Naître du calcul,
12:20pas de lumière,
12:22mais quelqu'un qui décide
12:24d'écrire un prompt,
12:25donc ça peut être du texte,
12:26une image,
12:27un audio.
12:28L'ordinateur fait des calculs,
12:30donc pas à partir de la lumière
12:31qu'il a reçue,
12:31il n'y a pas de lumière,
12:32mais des chiffres aléatoires
12:34qui vont être guidés
12:35pour, hop,
12:35avoir un résultat,
12:36comme on le montre ici,
12:37de la scène qu'on voulait voir
12:38par rapport au prompt.
12:40Et donc on pourrait dire,
12:41vous savez,
12:41les images que je vous ai montrées
12:42au départ,
12:43il y en avait des naturelles,
12:45c'était les bleus,
12:46et il y en avait des synthétiques,
12:48c'était les oranges.
12:49Est-ce que c'est aussi simple que ça,
12:50et on a réglé le problème ?
12:53Non.
12:54Parce que je vais vous donner des exemples.
12:55Il n'y a pas de cas très simple,
12:57naturel c'est bien,
12:58synthétique c'est mauvais.
12:59Ici,
13:00image naturelle.
13:01J'ai plein d'exemples
13:02que je vais vous montrer.
13:04Image naturelle,
13:05je me suis baladée,
13:05j'ai pris une photo,
13:06la photo je l'ai téléchargée
13:08sur l'ordinateur,
13:09j'ai moi-même effectué
13:10pas mal de ces opérations
13:11que les photographes aiment faire
13:12aussi eux-mêmes.
13:13J'ai choisi un peu la couleur,
13:15vous voyez,
13:15j'ai un peu changé la couleur
13:16par rapport à ce que l'appareil
13:17avait pris au départ,
13:18j'ai réaligné l'image,
13:19j'ai fait d'autres petites modifications
13:21slash corrections
13:22de ce que mon appareil photo
13:23avait laissé comme petit défaut
13:25pour ressembler encore plus
13:26à ce que moi je pense avoir vu.
13:28Et j'ai recadré la scène.
13:31Est-ce que ça choque quelqu'un ?
13:32Est-ce que je peux aller voir
13:33les journalistes,
13:34le tribunal ou qui que ce soit
13:35et dire cette image est vraie ?
13:37Ouais ?
13:38Ça choque personne.
13:39Ok.
13:40Maintenant,
13:40la même chose,
13:42parce que là l'image,
13:42on est d'accord,
13:43elle a été recadrée.
13:45Imaginez quelqu'un me prend en photo
13:46en train de faire le V de VivaTech
13:48sur cette scène,
13:49ne le faites pas.
13:50Et là,
13:51on fait quoi ?
13:53On croppe l'image.
13:55Qu'est-ce que je suis en train de faire,
13:56le V de VivaTech
13:57ou quelque chose d'autre ?
13:59Et bien voilà.
14:00Donc la même opération mathématique,
14:02finalement,
14:02parce que c'est des opérations
14:03de traitement d'image,
14:04peut faire dire quelque chose
14:05d'autre à l'image
14:06et donc,
14:06on passe de quelque chose de vrai,
14:08inoffensif,
14:08à quelque chose qui peut causer
14:10de la désinformation.
14:12Autres exemples.
14:13En haut,
14:14j'ai pris une image naturelle,
14:16très jolie,
14:16je la regarde sur mon ordinateur,
14:17sur mon téléphone,
14:18avant de la partager à la famille,
14:19je me dis, quand même,
14:20c'est dommage qu'il y ait ce grillage,
14:22vous ne trouvez pas ?
14:23Est-ce que je ne l'enlèverais pas ?
14:24Plusieurs manières d'y arriver.
14:26Une des manières,
14:27Photoshop,
14:28je sélectionne doucement
14:29tout ce petit grillage à la main
14:30et soit par IA non générative,
14:34je remplis les cases, etc.
14:36Bon, ça marche moins bien.
14:37L'IA générative, quand même,
14:38c'est pas mal,
14:39parce que ça permet de vraiment reconstituer.
14:41Vous voyez, derrière le poteau,
14:43l'animal est quand même
14:44assez bien reconstitué.
14:46Bon, en fait,
14:46je n'ai même pas fait ça.
14:47Je suis allée encore plus simple,
14:48j'étais sur mon téléphone,
14:49j'ai envoyé la photo à Gemini,
14:51c'est mon IA,
14:54mon LLM préféré du moment,
14:56et je lui ai dit,
14:56avec son générateur d'image nano-banana,
14:58enlève-moi le grillage
14:59mais ne touche rien d'autre dans l'image.
15:02Voilà.
15:02Donc mon image au départ naturelle,
15:04elle est entièrement maintenant
15:05matière de l'intégralité de l'image,
15:07pas que localement synthétique.
15:10En bas, un autre exemple,
15:12un autre exemple que je pense qu'on aura même,
15:13on va oublier,
15:14on ne va plus voir cette étape
15:16où on voit à gauche.
15:17Ce qui va se passer,
15:18c'est que,
15:18il y a déjà des applications
15:19qui permettent de le faire,
15:20vous prenez une photo d'une scène,
15:22la lumière,
15:23rentre dans le capteur,
15:24ok,
15:24il y a cette première image,
15:26mais on ne fait pas d'efforts
15:27de traitement d'image,
15:27on ne veut pas l'améliorer,
15:28on ne veut pas qu'elle soit plus belle.
15:30Pourquoi en fait faire tous ces efforts
15:31quand je peux simplement utiliser cette image
15:33pour mon prompt
15:34et le donner à une image générative
15:36qui va finalement me recréer mon image en mieux
15:39parce qu'elle a meilleur goût,
15:41parce qu'elle est meilleure photographe que moi
15:43et donc j'obtiens ce résultat-là
15:46qui du coup,
15:46encore une fois,
15:47mon image que je pensais être naturelle
15:49parce que j'ai quand même appuyé sur un bouton
15:50la lumière est rentrée dans l'objectif,
15:52est en fait intégralement synthétique.
15:55D'autres cas,
15:56là, les synthétiques,
15:57vous avez vu,
15:58est-ce que, alors,
15:59synthétique du coup,
16:00vrai ou faux ?
16:00Vous avez vu,
16:00ça peut être vrai,
16:01être synthétique.
16:02Là à gauche,
16:03on voit c'est faux,
16:04vous encore une fois,
16:05je pense que ça ne va pas vous changer votre journée,
16:07mais pour ma fille de 2 ans et demi,
16:08c'était son premier fake news.
16:10Voilà,
16:11la première fake news.
16:12À droite,
16:13c'est une image ratée,
16:15hyper mal faite en plus,
16:16de moi sur scène,
16:17mais je suis sur scène.
16:18Mon chat,
16:19pas en forêt,
16:19moi sur scène.
16:21Donc,
16:21est-ce que vraiment,
16:22c'est facile de dire vrai ou faux
16:23à partir des images aujourd'hui ?
16:25Je ne suis pas sûre.
16:29Ok,
16:29comment on fait ?
16:31Parce que là,
16:31vous allez me dire,
16:32super,
16:33vrai c'est compliqué,
16:34faux c'est compliqué,
16:35il y a l'origine qui peut être naturelle
16:36ou synthétique,
16:37mais alors,
16:39qu'est-ce qu'on fait ?
16:40Et bien,
16:40ce qu'on fait,
16:41c'est en tout cas,
16:42ce que moi je fais,
16:43moi je fais ça depuis le tout début de ma thèse,
16:45ça fait maintenant presque 10 ans,
16:46je fais ce qu'on appelle
16:47la forensique numérique.
16:48J'aime bien utiliser ce terme,
16:49parce qu'il a été utilisé en premier,
16:52utilisé pour ce domaine en tout cas en premier,
16:54par le professeur Annie Farid,
16:56qui est le cofondateur de notre entreprise,
16:58mais surtout le pionnier du monde de l'analyse et de la vérification d'images,
17:03depuis avant les années 2000.
17:05Et il utilise ce terme,
17:07et ce terme peut englober pas mal de techniques qui permettent de vérifier,
17:11d'authentifier les images,
17:12mais moi je vais vous donner ma définition.
17:16Donc,
17:16une image,
17:17moi j'aime bien dire qu'elle a une vie.
17:19Donc là, on parle des images naturelles,
17:21parce que j'ai mis la caméra au départ,
17:22mais comme je vous l'ai dit,
17:23une image générative finalement,
17:25elle a aussi une vie.
17:26Une vie, ça veut dire qu'elle subit des opérations mathématiques,
17:28pour être formée,
17:29puis, ça ne s'arrête pas là,
17:31elle peut être modifiée,
17:32enregistrée,
17:33partagée,
17:34repartagée,
17:35retéléchargée.
17:36On peut faire une analogie avec ceux qui ont peut-être déjà fait ça,
17:40c'est-à-dire développer des images argentiques,
17:42on avait ce film,
17:44on passait d'un bac à un autre bac,
17:46à un autre bac,
17:47et bien là, c'est pareil,
17:49mais on ne s'en rend pas compte,
17:50c'est des opérations de traitement d'images
17:52qui se font soit directement dans votre téléphone
17:54ou votre appareil photo.
17:56Et maintenant,
17:57le principe même de ma science et de la forensique numérique,
17:59c'est que chacune de ces opérations,
18:01imaginez que chaque personne différente
18:04était en train de faire ces opérations-là,
18:07elle va laisser des empreintes,
18:08comme les empreintes digitales qu'on pourrait laisser sur le film,
18:11elle va laisser des empreintes,
18:12et donc,
18:14qu'est-ce que ça vous dit ?
18:15Ça vous dit qu'une image à la fin,
18:16elle est pleine d'empreintes,
18:17empreintes de toutes les étapes par lesquelles elle est passée,
18:19toutes ces étapes qui ont permis de la former,
18:21d'avoir un résultat visible joli,
18:23de la stocker,
18:24de l'envoyer,
18:25et de la partager,
18:26et sa vie ne s'arrête jamais.
18:28Pour vous donner une idée des traces que ça peut représenter,
18:32je vais vous faire une analogie,
18:34imaginez qu'on est au milieu,
18:37avant la compression JPEG,
18:39vous voyez là,
18:40hop,
18:41imaginez j'enlève ça de l'écran,
18:42bam,
18:43vous avez l'image sous les yeux.
18:45Cette image prend beaucoup de place,
18:47on est d'accord,
18:48là dans l'espace,
18:48ça prend beaucoup de place,
18:49si je vais vous l'envoyer à vous au premier rang,
18:52je ne peux pas,
18:52je vais l'envoyer,
18:53je vais la voler,
18:54elle va tomber par terre.
18:55Donc qu'est-ce que je fais ?
18:56Pour l'envoyer,
18:57je vais pouvoir la mettre dans une enveloppe
18:58qui est petite comme ça.
19:01Qu'est-ce que je fais ?
19:02Je vais la plier.
19:04Je l'ai déjà pliée, heureusement.
19:06Donc du coup,
19:07je me retrouve avec cette image qui est pliée,
19:08et ça, c'est comme un fichier qui a été compressé.
19:11L'image prenait trop de place,
19:12on l'a compressée,
19:13elle est là,
19:14je ne la vois pas,
19:14si je veux la voir,
19:15il y a souvent les petites miniatures,
19:16les icônes qu'on peut voir,
19:17mais je ne la vois pas.
19:19Hop,
19:19quelqu'un la reçoit,
19:20et là, je vais faire quoi ?
19:22Je vais la déplier,
19:23c'est ce que fait votre ordinateur, votre téléphone
19:24lorsque vous visualisez des images,
19:26et je vais l'admirer.
19:28Est-ce que déjà c'est la même chose que j'ai envoyé ?
19:30Oui, c'est la même chose,
19:32on est d'accord.
19:33À une différence près,
19:35qui est que, vous voyez,
19:37la différence avec avant et après,
19:41trace de pli, oui,
19:42trace de pliure, exactement, merci,
19:44trace de pliure,
19:45pas de trace de pliure.
19:46Donc pour faire la compression,
19:48l'étape,
19:49l'algorithme de compression,
19:51a, pour ce faire,
19:53laissé des traces sur l'image,
19:54n'a pas changé le contenu,
19:55a laissé des traces,
19:56qui sont bien significatives,
19:58et qu'on voit là.
19:59Maintenant,
19:59il faut se dire que toutes les opérations
20:01qui sont effectuées par l'image
20:02laissent des traces.
20:03Les empreintes vont ensuite se superposer,
20:05etc.
20:06Et hop, à la fin,
20:07je suis là, sur ma scène de crime,
20:08et j'essaie de savoir ce qui s'est passé.
20:10Ces traces, quand même,
20:11je dois, pour ne pas vous mentir,
20:13il faut que j'insiste là-dessus,
20:15elles sont souvent, quand même, invisibles à l'œil nu.
20:17Mais celles de la compression,
20:19moi, personnellement, j'aime bien,
20:20parce que c'est le sujet de ma thèse,
20:21mais surtout,
20:21quand on exagère vraiment fortement la compression,
20:24il s'avère qu'on la voit,
20:26mais quand c'est vraiment très exagéré.
20:28À gauche,
20:28c'était ma feuille pas pliée,
20:30à droite,
20:31c'est après les pliures.
20:32Vous avez vu,
20:32ça ressemble un peu à des traces de pliures, non ?
20:34Voilà.
20:35Mais en tout cas,
20:36même quand l'image,
20:37on ne voit pas ça,
20:38il y a quand même des traces,
20:39et pour chacune des opérations,
20:40il y a des traces.
20:41Et donc, c'est ça ma science,
20:42c'est d'analyser,
20:44d'extraire,
20:45sur cette scène de crime
20:46qui est finalement mon image,
20:47d'enlever toutes les empreintes
20:48pour essayer de reconstituer
20:49ce qui s'est passé.
20:50Parce qu'il y a des choses qui sont normales,
20:52les traces, c'est la vie,
20:53c'est normal,
20:54la compression, etc.
20:55Mais il y a des traces qui peuvent être laissées
20:56par des opérations
20:57qui n'étaient pas censées être là,
20:58donc ça dépend de quel contexte on est.
21:00Et surtout, les traces,
21:01elles se superposent,
21:02il y en a qui s'effacent,
21:03il y en a qui reviennent.
21:04Donc c'est une science passionnante,
21:07pas triviale,
21:08mais vraiment passionnante
21:09à base de mathématiques,
21:11informatique,
21:12intelligence artificielle.
21:12J'encourage tous les lycéens
21:14qui veulent continuer dans ces domaines-là,
21:17SNT, NSI, les maths,
21:18choisissez bien vos options,
21:20et revenez me voir dans quelques années.
21:22Mais en tout cas,
21:22on a beaucoup de travail à faire
21:23dans ce domaine-là,
21:26mais heureusement,
21:27nous ne sommes pas seuls.
21:28Il y a aussi des traces,
21:30des indices, je devrais dire,
21:32qui ont été laissés exprès
21:33quand même pour nous aider.
21:36Donc les indices,
21:37ça peut être soit quelque chose
21:37qui accompagne l'image,
21:38c'est pas du tout avec l'image,
21:40dans l'image,
21:41c'est accompagner.
21:42On a l'habitude,
21:43vous avez sûrement déjà vu
21:44les métadonnées sur vos téléphones,
21:46vous prenez une photo,
21:47il y a la date, l'heure,
21:47des fois la position GPS,
21:49le nom de la caméra,
21:50mais ça,
21:50ça accompagne l'image,
21:51et ça peut être très facilement enlevé.
21:53Il y a une métadonnée
21:54qui est quand même plus robuste,
21:55un standard,
21:56la loi légifère,
21:57il y a de plus en plus de gens
21:58qui utilisent ces techniques-là,
22:01et MERCI,
22:01qui sont le C2PA,
22:03donc c'est quelque chose
22:03où on s'est signé,
22:04on a une confiance en quelqu'un
22:05qui nous dit
22:06qu'est-ce qui est arrivé à l'image
22:07et qui l'a créée au départ.
22:09Et ensuite,
22:10on a aussi la possibilité,
22:11c'est vrai que je ne vous l'ai pas dit,
22:12mais d'avoir un logo.
22:13Vous avez sûrement déjà utilisé
22:15des outils d'IA généreur active,
22:16et en bas à droite,
22:17ils vous disent
22:18généré par.
22:19IA généré.
22:20Super.
22:22Malheureusement,
22:23très très facile à enlever,
22:24et heureusement qu'il y a,
22:26de la même manière que moi,
22:27je fais mes traces de pliures
22:28qui sont laissées par l'image
22:29que je veux détecter,
22:30il y a un moyen
22:32que s'appelle
22:33le tatouage numérique,
22:34une science qui existe
22:35depuis quelques années déjà,
22:36où les gens mettent exprès
22:38des traces dans l'image
22:40qui soient assez robustes
22:41pour que même après
22:42toute la vie de l'image
22:43elle peut être détériorée,
22:45envoyée, changée de taille,
22:46etc.
22:47Elle résiste encore et toujours
22:48et donc on peut la lire.
22:49Et c'est le cas des outils
22:50générés par IA.
22:51De plus en plus,
22:52ils mettent en place
22:53que ce soit l'outil ici
22:54de Google ou d'autres.
22:56Et donc globalement,
22:58cette science,
22:59le forensic numérique,
23:00c'est récupérer plein d'indices
23:02pour pouvoir mener
23:02une investigation,
23:04une enquête,
23:04parce que l'analyse d'image,
23:06l'analyse de vidéo,
23:07c'est ça.
23:08C'est une enquête journalistique.
23:10C'est pour ça que moi,
23:11personnellement,
23:12mathématicienne,
23:13je suis ravie de pouvoir
23:14développer des outils comme ça
23:15avec mon équipe
23:16et de travailler
23:17avec une excellente journaliste
23:19pour justement analyser
23:21tous ces cas.
23:25Donc, vrai ou faux ?
23:26Parce qu'on n'a quand même pas
23:27répondu à cette question finalement.
23:29Et bien,
23:30c'est pas,
23:31comme vous avez compris,
23:32aussi évident que ça.
23:32La question ne devrait pas être ça.
23:34La question devrait être
23:35est-ce que c'est à quoi je m'attendais ?
23:37Est-ce que ça devrait avoir ces opérations-là ?
23:41Qu'est-ce que l'image a subi ?
23:43Donc, tout dépend d'un contexte.
23:45Le général vrai-faux,
23:46ça dépendra.
23:47Parce qu'il y a une image
23:48qui peut sembler vraie pour vous,
23:50fausse pour quelqu'un d'autre.
23:51Par exemple,
23:52retoucher une image,
23:53un portrait pour LinkedIn,
23:55votre photoprofil LinkedIn,
23:57enlever les imperfections,
23:58c'est OK.
23:58Mais faire une manipulation comme ça
24:00pour un casier judiciaire
24:02ou pour la police
24:03alors qu'ils s'attendent
24:03à ce que la photo sorte de l'appareil,
24:05ce n'est pas OK.
24:08Donc,
24:09qu'est-ce qui est arrivé à une image ?
24:10Ça permet de faire l'enquête
24:11et ça permet de trouver
24:13ce qui s'est passé
24:14pour servir de preuve au tribunal.
24:17Donc, maintenant,
24:18pour conclure,
24:19je voulais revenir sur mon image
24:21et je voulais vous en parler un petit peu
24:23parce que j'en ai fait d'autres.
24:25Je me suis dit,
24:25qui a montré des photos ?
24:26On m'a dit, aujourd'hui,
24:27c'est grand public.
24:29Je peux montrer des images
24:30de mon chat, de mon chien, super.
24:31Là, on les voit en train de regarder la télévision.
24:34On les voit en train de braquer une banque.
24:37Quelle idée ?
24:38Oh, le chat et le chien sont allés au restaurant.
24:42Donc, ils ne mangeront pas ce soir à la maison.
24:44Oh, le chat et le chien ne peuvent pas venir te chercher à l'école ce soir.
24:47Ils sont partis en vacances.
24:49Ils sont dans le train.
24:52Maintenant, imaginez que ce n'est pas chat et chien
24:54que, depuis le début de cette présentation, j'avais mis en scène.
24:57Mais papa et maman,
25:01ça, c'est dans ce monde-là qu'on vit aujourd'hui.
25:04Donc, ma fille de deux ans et demi ne sait pas lire.
25:07Donc, ça a été généré par IA à côté,
25:09n'est pas forcément quelque chose
25:10où, à deux ans et demi,
25:11elle, on est prêt à lui inculquer.
25:14Donc, il faut savoir vivre dans ce monde.
25:16Nous, avec cette science, on essaye de trouver ses traces,
25:20de donner tous ces indices
25:21pour que les gens, les institutions, les entreprises
25:23puissent savoir ce qui est arrivé, à qui ils sont en train de parler,
25:26finalement, et spécifiquement en temps réel,
25:28en visioconférence, en appel téléphonique,
25:30qui ils ont en face d'eux.
25:32Mais il y a tout un autre aspect complémentaire
25:35à ne pas oublier, qui est la sensibilisation.
25:40Donc, je fais un clin d'œil à tous ceux
25:42qui font de l'éducation aux médias et à l'information.
25:44Je sais qu'ils font dans les collèges, dans les lycées,
25:46mais ça commence au plus jeune âge.
25:48Et donc, avant de vous laisser tranquille,
25:50je voulais vous donner une petite idée,
25:53peut-être que ça vous arrivera de faire ça demain.
25:55Demain, ou cet après-midi, quand vous serez face,
25:57encore une fois, à une image.
25:59Essayez de faire cet exercice pour enlever
26:01toute la partie, finalement, émotionnelle,
26:03ce qui vient du fait qu'elle soit hyper réaliste.
26:06Imaginez que ce n'est qu'un dessin.
26:09Parce que, finalement, c'est pareil pour moi,
26:11cette image, c'est une représentation de mon chat et de mon chien.
26:13À droite, c'est une représentation de mon chat et de mon chien.
26:16Vous voyez totalement la ressemblance.
26:18Mais finalement, c'est ça.
26:20Ça peut dire la vérité.
26:21Ça peut mentir.
26:23Donc, c'est comme ça qu'on peut commencer à voir les images.
26:29Donc, posez-vous ces questions
26:30si c'était une photo que vous aviez devant vous
26:32et pas une vraie image réaliste.
26:36Donc, maintenant, merci.
26:38Mais avant de vous laisser tranquille,
26:40et si vous avez quelques questions,
26:41je voulais vous dire qu'il ne faut pas s'arrêter sur
26:43« je ne crois plus rien, il y a plus de faux que de vrai »
26:46parce que c'est vrai, c'est plus facile de faire du faux
26:48que de vrai aujourd'hui.
26:51Parce que sinon, vous allez aussi tomber dans le cas où
26:54on balaye de la main toute la réalité, toute l'authenticité
26:57en disant « ça, c'est faux, de toute façon, je ne veux pas y croire ».
26:59Donc, le but, ce n'est pas de tomber là-dedans.
27:00Le but, c'est de s'intéresser, de s'arrêter,
27:03de se poser les bonnes questions,
27:05d'attendre que tous ces outils soient accessibles
27:07pour que vous puissiez enfin, j'espère,
27:09regarder les images, naturelles ou synthétiques, avec plaisir.
27:14Merci beaucoup.
Comments