- il y a 15 heures
- #constat
- #analyse
- #observation
- #realite
- #solution
#constat #analyse #observation #réalité #solution
Catégorie
🗞
NewsTranscription
00:00Le gouvernement des Etats-Unis ainsi que beaucoup d'autres gouvernements à travers le monde avaient secrètement construit une architecture
00:06de l'oppression qui, à bien des égards, n'avait simplement pas encore été activée.
00:11L'objectif est clair, examiner l'ensemble de la population humaine et identifier toutes les personnes considérées comme étranges.
00:19Personne ne devrait pouvoir nous dire comment vivre, quoi penser ou ce que nous devons croire.
00:25Bonjour à tous et bienvenue sur Futur Radar.
00:28Aujourd'hui, nous avons le plaisir de vous présenter la traduction d'une intervention d'Edward Snowden.
00:34Est-il encore nécessaire de le présenter ?
00:36Ancienne analyse de la CIA et de la NSA, devenue l'un des lanceurs d'alerte les plus célèbres au
00:42monde après les révélations de 2013 sur la surveillance de masse,
00:45Edward Snowden est aujourd'hui l'une des voix les plus écoutées sur les enjeux liés à la vie privée,
00:50à l'intelligence artificielle et au pouvoir des infrastructures numériques.
00:55Au cours de l'intervention qui va suivre, intitulée « La souveraineté digitale à l'ère de l'intelligence artificielle
01:01»,
01:02Snowden livre une réflexion sur la montée de la surveillance algorithmique, les dérives possibles de l'IA,
01:08mais aussi sur la manière dont les technologies façonnent progressivement nos comportements, notre créativité et nos libertés individuelles.
01:15Sans plus attendre, voici Edward Snowden. Merci d'être avec nous et bonne écoute.
01:23Les gens me connaissent surtout pour les révélations de 2013 sur la surveillance de masse.
01:28C'était quelque chose qu'on considérait déjà comme étant théoriquement possible,
01:32mais les gens étaient loin de réaliser l'échelle à laquelle ces surveillances étaient pratiquées.
01:37Le gouvernement des Etats-Unis, ainsi que beaucoup d'autres gouvernements à travers le monde,
01:42avaient secrètement construit une architecture de l'oppression qui, à bien des égards, n'avait simplement pas encore été activée.
01:50Elle était réglée sur une forme de surveillance passive.
01:53Ils pouvaient jeter leurs filets dans le flot de l'océan numérique et reconstituer votre vie entière.
01:59Toutes nos activités, nos achats, nos lectures, nos interactions, les jeux auxquels nous jouons,
02:05les heures auxquelles nous sommes réveillés, les déplacements de nos téléphones,
02:08toutes ces petites informations qui, individuellement, ne signifient pas grand-chose,
02:12mais qui, une fois agrégées, forment le portrait parfait de nos vies.
02:17Elles permettaient déjà aux Etats de nous comprendre mieux que nous ne nous comprenons nous-mêmes.
02:23Aujourd'hui, des années plus tard, nous voyons cette technologie se répandre partout.
02:28Les entreprises privées la possèdent aussi, bien sûr, notamment les réseaux sociaux.
02:33Ils commencent maintenant à alimenter des moteurs d'intelligence artificielle
02:36et des systèmes d'inférence probabilistes avec ces données.
02:39Qu'est-ce que cela va produire ? Où cela va-t-il nous mener ?
02:43Facebook affirme ne pas encore utiliser ces informations pour entraîner ces modèles,
02:47mais leurs modèles publics sont déjà extrêmement performants, les modèles open source aussi.
02:53Quant aux modèles privés, comme ceux d'OpenAI et d'autres entreprises,
02:56ils refusent même de dire sur quelles données ils s'entraînent.
02:59Or, il y a déjà eu plusieurs scandales où l'on a vu des données privées réapparaître dans les réponses
03:04d'un modèle.
03:05Peut-être parce qu'ils avaient accès à ces données via une interface API.
03:09Peut-être parce qu'elles faisaient directement partie du corpus d'entraînement
03:12ou d'un dépôt GitHub qui avait été indexé.
03:15Peu importe la raison, l'idée centrale ici,
03:17c'est que nous avons de plus en plus de petits fragments de données dispersés
03:21qui autrefois auraient été oubliés,
03:23mais qui aujourd'hui sont récupérés, centralisés, croisés, enregistrés, analysés et mis à disposition.
03:30Le nombre de personnes qui a accès à ces informations augmente aussi.
03:34Les rapports à leurs sujets ne sont plus limités au monde du secret d'État,
03:38mais dorénavant aussi au secteur privé.
03:41Pour contextualiser ces changements,
03:43je pense qu'il est intéressant de revenir à la pensée du philosophe anglais John Strachmille
03:48et de sa vision des libertés civiles.
03:50Il parle notamment de notre liberté de croyance
03:53et du point de contact et de conflit
03:55entre la sphère privée et le pouvoir légitime de l'État.
04:00Définir les libertés civiles,
04:01c'est justement poser une limite à ce pouvoir dans le cadre d'un gouvernement légitime.
04:06En d'autres termes, l'idée centrale,
04:08c'est qu'il doit exister un domaine qui échappe à toute autorité.
04:12Personne ne devrait pouvoir nous dire comment vivre,
04:15quoi penser ou ce que nous devons croire.
04:17Pour Mill, nous devrions avoir une liberté d'opinion très large
04:20et une liberté d'action un peu plus limitée
04:22car nos actions peuvent affecter les autres
04:25et potentiellement leur nuire.
04:28Nous établissons une sorte de pacte universel.
04:31Chacun peut croire ce qu'il veut,
04:32tant que cela ne cause pas de tort aux autres.
04:35Même lorsque certaines idées peuvent sembler problématiques,
04:38tant qu'elles restent théoriques
04:39et qu'elles ne se traduisent pas par des actes destructeurs,
04:42elles doivent rester permises.
04:43Nous savons que cette frontière a maintes fois été piétinée par le passé.
04:47Mais c'est un comportement
04:49que nous attribuons généralement à des tyrannies,
04:51à des gouvernements illégitimes.
04:53Et je pense que ce que John Stuart Mill dénonçait
04:57comme étant la tyrannie de la majorité
04:59commence aujourd'hui à se transformer en quelque chose de nouveau.
05:03Quelque chose dont nous n'avons même pas encore pleinement conscience,
05:07même si on y est confronté chaque jour.
05:09Une nouvelle tyrannie apparaît.
05:12La tyrannie de la médiocrité.
05:14Quand vous alimentez une machine de raisonnement probabiliste,
05:17avec toutes les données disponibles que vous trouvez,
05:19par exemple,
05:20un modèle de diffusion d'images
05:22qui étudie toutes les œuvres d'art accessibles publiquement,
05:25les compresse dans un espace latent 3D
05:27et génère le résultat statistiquement le plus probable
05:29à partir d'une description.
05:31Vous êtes en train de lisser la créativité humaine.
05:35Et vous êtes en train de lisser l'expérience humaine elle-même.
05:39Bien sûr, on ajoute de l'aléatoire
05:41pour obtenir parfois des résultats plus originaux.
05:44Mais ça reste un phénomène comparable
05:45aux algorithmes des réseaux sociaux.
05:48Votre fil d'actualité fonctionne sur le même principe,
05:51que ce soit sur TikTok, Instagram ou Twitter,
05:53qu'on ne doit plus appeler comme ça d'ailleurs,
05:55mais pour moi c'est toujours Twitter.
05:57Je pense qu'on doit réfléchir
05:59à la manière dont cette nouvelle tyrannie de la moyenne
06:01nous limite et nous enchaîne.
06:04En réaction, aujourd'hui,
06:06on constate un véritable appétit pour l'original.
06:09Quelque chose de fidèle à soi-même.
06:11Quelque chose de vrai.
06:12Pas forcément de manière absolue,
06:14mais au moins quelque chose d'authentique
06:16dans sa conviction, dans sa direction.
06:18Je ne suis pas en train de faire des observations politiques ici.
06:21J'offre une réflexion sur nous-mêmes,
06:23sur ce que nous recherchons,
06:24sur notre manière de voir le monde.
06:26Nous regardons désormais la réalité
06:28à travers une vitre.
06:30Nos yeux sont constamment fixés sur un écran.
06:33Au restaurant,
06:34dans le métro,
06:35dans l'avion,
06:35on voit les gens arcs boutés
06:37sur l'objet qu'ils tiennent entre leurs mains.
06:39Un objet qui ne façonne pas seulement nos opinions,
06:42mais qui nous transforme nous-mêmes.
06:45Petit à petit,
06:46nous sommes incités
06:47à nous fondre dans un moule.
06:49Où que l'on regarde,
06:50les entreprises
06:51ciblent cette moyenne mobile
06:52constamment recalculée.
06:54Pour des raisons publicitaires,
06:56elles cherchent à produire
06:57quelque chose
06:58qui correspond parfaitement
06:59à cette moyenne globale.
07:01Le résultat,
07:02c'est une forme de beauté fade,
07:04suffisamment lisse et agréable
07:05pour plaire au plus grand nombre.
07:07Ces images,
07:08générées par Meat Journey ou autres,
07:10paraissent toutes différentes
07:11au premier regard.
07:12Mais après quelque temps,
07:14elles commencent toutes à se ressembler.
07:16Shopping,
07:17comparaison de produits,
07:18vidéo d'unboxing.
07:20On ressent de plus en plus
07:21cette impression d'uniformité.
07:23Oui,
07:24les contenus générés
07:25s'améliorent au fil du temps
07:26et des versions.
07:27Mais ce qu'on en retire en fin de compte,
07:29c'est la perte
07:29d'un certain sentiment d'émerveillement.
07:32Et cela m'inquiète,
07:33tant au niveau social
07:34qu'au niveau économique.
07:36Pour en revenir
07:37aux agences de renseignement
07:38liées aux forces de l'ordre,
07:39la réalité,
07:40c'est qu'elles sont aujourd'hui
07:41engagées dans une course
07:43contre la montre
07:43pour exploiter
07:44au maximum
07:45les données
07:46qu'elles ont à disposition.
07:48On parle de traces numériques
07:49de toutes sortes,
07:50créées en permanence.
07:52Jusqu'à présent,
07:53ces données
07:53étaient simplement ingérées
07:55dans d'immenses bases de données,
07:56puis analysées
07:57à l'aide d'outils de recherche
07:59et d'algorithmes
07:59conçus par des humains.
08:01Si vous avez lu
08:02mon autobiographie
08:03Mémoire vive,
08:04vous avez entendu parler
08:05du système
08:06X-Key Score.
08:08C'était un moteur de recherche
08:09permettant de parcourir
08:11ces masses de données
08:11afin d'en extraire
08:13des informations précises.
08:15On y entrait
08:15ce qu'on appelait
08:16un sélecteur,
08:17comme une adresse e-mail,
08:19un numéro de téléphone
08:20ou encore
08:20les identifiants uniques
08:21d'un téléphone portable,
08:23comme l'IMSI
08:24ou l'IMEI.
08:26Ce sont des identifiants
08:27intégrés,
08:28soit à votre carte SIM,
08:29soit directement
08:30à l'appareil lui-même.
08:32Votre opérateur téléphonique
08:34les connaît
08:34et les transmet
08:35à tout le système.
08:37Cela signifie
08:38que même si vous changez
08:39de carte SIM,
08:40votre téléphone
08:41reste le même appareil.
08:42Les autorités
08:43peuvent donc
08:44vous réidentifier
08:45malgré ce changement.
08:46Elles voient simplement
08:48qu'un nouveau numéro
08:49a été inséré
08:50dans le même téléphone.
08:52Les opérateurs télécoms
08:54fournissent ce type
08:54d'informations
08:55au gouvernement
08:55dans pratiquement
08:56tous les pays.
08:57Et le public
08:58ne réalise pas vraiment
08:59à quel point
09:00ce type de données
09:01est accessible.
09:02A une époque,
09:03à cause des failles
09:04des systèmes d'exploitation mobile,
09:05ces informations
09:06étaient même récupérées
09:07par des applications
09:08ordinaires.
09:09Facebook les utilisait
09:10et beaucoup
09:11d'autres entreprises aussi.
09:13Aujourd'hui encore,
09:15ces données continuent
09:16d'être accessibles
09:17via des partenariats
09:18privilégiés
09:18avec les fabricants
09:20des systèmes d'exploitation,
09:21principalement
09:22Google et Apple.
09:24Ces entreprises,
09:25comme les opérateurs
09:26téléphoniques,
09:27coopèrent évidemment
09:28étroitement
09:29avec les gouvernements
09:30dans les juridictions
09:31où ils opèrent.
09:32La vraie question
09:33est donc plutôt
09:34de savoir
09:34ce qu'ils font maintenant
09:35de toutes ces informations,
09:37pas s'ils y ont accès.
09:39Jusqu'à récemment,
09:40leur capacité
09:40à analyser
09:41tout le monde
09:42en permanence
09:43restait limitée.
09:44Le système
09:45de surveillance
09:45de masse
09:46consistait essentiellement
09:47à enregistrer
09:48tout le monde,
09:49tout le temps.
09:50Toutes vos activités
09:51étaient stockées
09:52dans le système,
09:52mais pas forcément
09:54analysées immédiatement.
09:55Il fallait encore
09:56qu'on décide
09:57de s'intéresser à vous.
09:59Dans un tel cas,
10:00il suffisait
10:01d'utiliser
10:01l'appareil de surveillance
10:02comme une sorte
10:03de machine
10:04à remonter le temps
10:04pour examiner
10:06tout ce que vous aviez fait
10:07au cours des 5 dernières années.
10:08Or,
10:09aujourd'hui,
10:10les choses changent.
10:12Palantir a signé
10:13un contrat
10:13avec le gouvernement
10:14américain
10:15portant sur un cloud
10:16classifié
10:17ayant recours
10:18à l'IA
10:18pour analyser
10:19les données,
10:20même s'ils n'ont pas
10:21explicitement annoncé
10:22que c'était
10:23l'objectif
10:23de la manœuvre.
10:25Ces nouveaux modèles
10:26sont sans doute
10:26entraînés
10:27sur toutes les données
10:28disponibles
10:29dans le but
10:30d'identifier
10:30des comportements
10:31anormaux.
10:32Ils sont alimentés
10:34avec les comportements
10:35de personnes
10:35considérées
10:36comme problématiques
10:37pour trouver
10:37des schémas communs,
10:38des indicateurs
10:39comportementaux,
10:40des corrélations,
10:41tout cela dans le but
10:42d'identifier
10:43de nouveaux suspects.
10:44L'objectif est clair,
10:46examiner l'ensemble
10:47de la population humaine
10:48et identifier
10:49toutes les personnes
10:51considérées
10:51comme étranges.
10:53Et c'est une tendance
10:55qui, à mon avis,
10:55va non seulement
10:56continuer
10:56mais aussi empirer.
10:59Mais ce qui est
11:00vraiment intéressant,
11:01c'est la mise
11:01à disposition
11:02de ces modèles
11:03en open source.
11:04Ils sont très puissants
11:05et les conséquences
11:06de la disponibilité
11:07de ces outils
11:07sont impossibles
11:08à prédire.
11:09Si vous n'avez pas
11:10encore utilisé
11:11ces outils,
11:12qu'il s'agisse
11:12de grands modèles
11:13de langage,
11:14de générateurs
11:15d'images,
11:15de modèles de diffusion
11:16ou même d'assistants
11:17comme ChatGPT,
11:18vous devriez les essayer.
11:20Et je ne parle pas
11:21de versions en ligne
11:22qui peuvent avoir
11:22leur intérêt,
11:23mais de modèles
11:24qu'on peut facilement
11:25installer chez soi.
11:26Il suffit aujourd'hui
11:28d'aller sur GitHub
11:29et de taper
11:29trois commandes.
11:30C'est très simple
11:31à utiliser
11:32parce que beaucoup
11:33de ces outils
11:33ont été développés
11:34par des chercheurs
11:35et des universitaires
11:36qui en ont besoin
11:37et pas par des programmeurs.
11:39Le fait de faire tourner
11:40ces modèles
11:41vous-même,
11:42localement,
11:43sans les mêmes niveaux
11:43de censure
11:44ou en pouvant modifier
11:45cette censure
11:46selon vos besoins,
11:47tout cela est extrêmement
11:49libérateur.
11:50Et cela vous permet
11:51d'autre part
11:51de vous familiariser
11:52avec ces technologies
11:53qui de toute façon
11:54vont s'appliquer
11:55de plus en plus
11:56à tous les aspects
11:57de votre vie.
11:58La technologie avance
11:59très rapidement
12:00et je vous invite
12:01sincèrement
12:02à regarder ces outils
12:03de plus près.
12:05Modèles d'images,
12:06modèles de diffusion,
12:07LLM,
12:08modèles de reconnaissance
12:08d'images et de transcription
12:09vocale comme Whisper
12:10d'OpenAI.
12:11En combinant
12:12toutes ces technologies,
12:13on peut par exemple
12:14créer des systèmes
12:15de traduction
12:15en temps réel,
12:17automatiser des tâches
12:17complexes,
12:18pêcher des informations
12:19avec des scrapers,
12:21utiliser des langages
12:21de programmation
12:22qu'on ne maîtrise pas
12:23et ainsi de suite.
12:23Je vous promets
12:25que vos capacités humaines
12:26vont commencer
12:27à s'étendre
12:28bien au-delà
12:28de ce que vous pensiez
12:29possible.
12:30Vous pouvez repousser
12:32les limites
12:32de votre productivité,
12:33mais il faut aussi
12:34songer à l'envers
12:36de la médaille.
12:37Les agences gouvernementales
12:39disposent maintenant
12:39de modèles d'analyse audio
12:41extrêmement puissants.
12:43Il suffit de leur fournir
12:44un flux audio
12:45pour obtenir une transcription
12:46complète du contenu.
12:47En 2013,
12:49lorsque j'ai lancé l'alerte,
12:51le président Obama
12:52avait fait une annonce
12:53publique en disant
12:54« Non,
12:55personne n'écoute
12:56vos appels téléphoniques ».
12:58Et cela était censé
12:59rassurer les gens
13:00parce qu'ils imaginaient
13:01une sorte de scénario
13:02à la Stasie Est-Allemande,
13:03un homme
13:04avec un casque audio
13:05en train de retranscrire
13:07chaque conversation.
13:08Mais cela n'arrivait
13:09quasiment jamais,
13:10à moins que vous ayez
13:11été désigné
13:12comme une cible.
13:14Mais ce n'était pas
13:15du tout cela
13:15selon nous les accusations.
13:17Ce que nous dénoncions,
13:19c'était justement
13:19l'utilisation d'algorithmes
13:20capables d'obtenir
13:22les mêmes résultats
13:23sans avoir besoin
13:24d'écouter humainement
13:25chaque appel.
13:26Et aujourd'hui,
13:27la réalité,
13:28c'est que le gouvernement
13:29a à sa disposition
13:30des modèles capables
13:31de faire tout cela
13:32automatiquement.
13:34Très prochainement,
13:35le volume total
13:36d'appels téléphoniques mondiaux
13:37ne constituera plus
13:39un problème technique.
13:40Tout ce flux
13:41pourra être analysé
13:42en temps réel,
13:43au moment même
13:44où il traverse le réseau.
13:45L'analyse commencera
13:47dès le premier mot
13:48que vous prononcez.
13:50Alors évidemment,
13:51certains diront
13:52« oui,
13:52mais cela concerne
13:53surtout les appels téléphoniques ».
13:55Personnellement,
13:56je pars déjà du principe
13:57que mes appels sont interceptés
13:58dès lors qu'ils transitent
13:59internationalement.
14:01Je suis un spécialiste
14:02des technologies
14:02de chiffrement,
14:03donc je suis conscient
14:04de cela.
14:05Mais le vrai problème,
14:07c'est qu'il commence
14:07maintenant à intégrer
14:09ces technologies
14:09directement dans les caméras
14:11de surveillance.
14:12Pour l'instant,
14:13les implémentations
14:14restent très rudimentaires.
14:17Vous pouvez déjà
14:17acheter des caméras
14:18grand public chinoises,
14:19Hikvision,
14:20Dahua et d'autres,
14:22avec des fonctions basiques
14:23de détection humaine
14:24ou de détection
14:25des véhicules.
14:26La caméra,
14:28intégrée à une sonnette
14:29par exemple,
14:30peut vous signaler
14:31qu'une voiture
14:31entre dans votre allée.
14:33Tout cela reste
14:34très primitif.
14:35On parle simplement
14:36de la détection
14:37d'objets.
14:39Mais imaginez
14:40ce qui se passera
14:41une fois que les modèles
14:42audio dont je parlais
14:43à l'instant
14:43sont directement intégrés
14:45aux puces
14:45de ces caméras.
14:47On vous proposera
14:48une transcription complète
14:50de ce qui a été dit
14:51à portée de micro.
14:52Cela sera peu cher
14:53et facile à utiliser.
14:55Puis,
14:56ces systèmes seront intégrés
14:58à toutes les caméras extérieures.
15:00A partir de là,
15:01tout ce que vous dites
15:02dans l'espace public
15:03pourra être enregistré
15:04dans une base de données.
15:06Peut-être que
15:07dans un pays
15:08relativement libre,
15:09ces données
15:10resteront simplement
15:11stockées localement.
15:13Mais qu'en sera-t-il
15:14dans des pays
15:15moins libres ?
15:16Et qu'arrivera-t-il
15:17lorsque les pays libres
15:18eux-mêmes
15:19deviendront moins libres ?
15:21Le monde
15:21dans lequel nous vivons
15:22change extrêmement rapidement.
15:25La tendance générale
15:26consiste à quantifier
15:28toujours davantage,
15:29à absorber
15:30toujours plus de données
15:31pour,
15:32en fin de compte,
15:33rendre le réel
15:34plus interprétable
15:35par des machines.
15:36La responsabilité
15:38qui nous incombe
15:38est donc
15:39de créer des espaces
15:40où cette surveillance
15:41est impossible.
15:43Oui,
15:44vous aussi.
15:44de créer des espaces
15:47de la vie
15:47et de créer des espaces
15:47dans le monde.