- il y a 2 jours
- #doc
- #analyse
- #smartphones
- #reflechir
- #realite
#doc #analyse #smartphones #réfléchir #réalité
Catégorie
🤖
TechnologieTranscription
00:05Je m'appelle Thomas Leboniec, j'ai 24 ans.
00:08J'ai travaillé chez Globetech, qui était un sous-traitant pour Apple en Irlande.
00:12Et j'avais été engagé en tant que Language Analyst entre mai et juin 2019.
00:18Je travaillais sur la précision de l'assistant vocal, Siri.
00:21On avait une seule tâche et elle était très rébarbative.
00:23Il s'agissait d'écouter des enregistrements de personnes qui parlaient à proximité de leurs appareils Apple, les iPads entre
00:31autres.
00:32On écoutait 1300 enregistrements par jour en moyenne.
00:35Et il s'agissait de vérifier l'exactitude de la transcription entre l'audio et l'écrit.
00:41Il me semble que dix semaines que j'ai passé là-bas, j'ai dû faire au moins 46 000
00:46enregistrements ou quelque chose comme ça.
00:47Ce qui me conduit à penser que Siri, qui est vendue comme une intelligence artificielle,
00:53est le produit d'un travail de très longue durée qui a consisté à cumuler les données de millions et
01:02de millions de personnes,
01:03de millions d'enregistrements et de milliers de personnes qui ont fait le même travail que moi
01:08pour lui permettre de comprendre ce que disent les gens à proximité d'un appareil Apple.
01:16Oui, il y avait bien un logiciel de retranscription de l'audio vers l'écrit.
01:24Et nous, notre travail consistait à améliorer sa précision.
01:27On travaillait sur un serveur.
01:33Et la manière dont c'était présenté, c'était quasiment comme une page Internet.
01:39Sur le tiers supérieur, on avait l'enregistrement audio.
01:43Ensuite, on avait la retranscription qui était donnée par Siri.
01:49Et ensuite, on avait une boîte de texte où on pouvait corriger le discours qui avait été enregistré par Siri.
01:56Et encore en dessous, on avait un certain nombre de boutons sur lesquels on était censé appuyer
02:01pour dire que l'enregistrement n'était pas valable.
02:04Et parmi ceux-là, il y en avait un qui était appelé « accidental trigger ».
02:08Et celui-là, ça concernait tous les enregistrements où il n'était pas avéré,
02:12ou plutôt où il était avéré que la personne ne s'adressait pas à Siri au moment où elle parlait.
02:22Donc par exemple, ça pouvait être une conversation entre deux personnes ou plus
02:26et qui ne s'adresse à aucun moment dans l'enregistrement à la machine.
02:29Ça pouvait être des bruits de fond, des bruits de poche.
02:34On pouvait aussi entendre des gens qui étaient au loin.
02:36J'ai déjà entendu des conversations dans un restaurant.
02:39Des gens qui rigolaient parce qu'ils disaient des trucs du genre
02:42« oh regarde, il s'est déclenché » alors qu'il est posé sur la table.
02:46Les indications étaient assez claires, dans le sens où, si on avait un doute,
02:51il valait mieux laisser l'enregistrement.
02:52Si on ne savait pas exactement si la personne était en train de s'adresser à quelqu'un d'autre
02:56qu'à Siri,
02:58ou bien si on n'était pas sûr que l'enregistrement s'était déclenché de manière fortuite,
03:04il valait mieux le laisser.
03:06Il valait mieux garder cet enregistrement dans la base de données qu'ils utilisaient par la suite.
03:10Donc, sur certains des projets où j'ai travaillé,
03:13le « accidental trigger », ça revenait très très très souvent.
03:17Donc, ça, ça me conduit à penser que, pendant la période où je travaillais là-bas,
03:21les enregistrements se lançaient de manière plus ou moins aléatoire.
03:26Et que, de toute manière, c'était probablement dans leur intérêt
03:30pour capturer le maximum de discours possibles
03:34dans les circonstances les plus diverses possibles également.
03:38Au ressenti, il y avait peut-être un tiers des enregistrements
03:43sur iPad où on appuyait sur ce bouton « accidental trigger ».
03:49On travaillait sur ce qu'ils appellent le « bulk data ».
03:53Donc, en gros, des données brutes,
03:56elles étaient divisées en paquets de un millier d'heures.
03:59Donc, chacun de ces projets s'appelait « thousand hours Airpods »
04:04ou « thousand hours iPad ».
04:06Ça voulait dire qu'ils avaient un millier d'heures d'enregistrements complets
04:11pour chacune des langues où on travaillait.
04:13Donc, moi, je travaillais sur du français
04:14et ça voulait dire que, par exemple,
04:17le projet Airpods contenait entre 600 000 et 1 million d'enregistrements pour le français.
04:24On avait une page de statistiques à laquelle on avait accès
04:28et on voyait le nombre d'enregistrements pour chacune des langues
04:31sur lesquels ils travaillaient sur le moment.
04:33Et c'était quand même un chiffre assez faramineux.
04:36Étant donné le nombre de projets aussi
04:38sur lesquels ils avaient travaillé auparavant,
04:42ça résulte en des millions et des millions et des millions d'enregistrements.
04:46On pouvait remonter dans le temps, en tout cas,
04:48sur le menu déroulant qui nous permettait de choisir les projets.
04:52Et c'est ce que j'ai fait.
04:53Et je suis remonté facilement jusqu'à 2014.
04:55Ce qui veut dire, au bas mot, que ces projets-là ont existé pendant 5 ans
05:01et que chacun de ces projets,
05:04qui est destiné à un seul de leurs appareils à chaque fois,
05:10s'il est reproduit tous les trimestres,
05:13ça donne des multiplicateurs qui sont effarants.
05:19Après, il y avait un certain nombre de consignes
05:22qui consistaient non pas à respecter au mieux
05:28les règles grammaticales et orthographiques et tout ça,
05:31mais plutôt à coller au plus près du discours de la personne.
05:35Et puis surtout, ils insistaient énormément
05:38sur le fait qu'il fallait qu'on garde,
05:43qu'on récupère les noms des marques, des films, de la musique.
05:48J'ai un exemple en tête.
05:49Quand je travaillais sur les iPads,
05:51on avait énormément d'enregistrements d'enfants en bas âge,
05:54beaucoup de petits qui parlaient à leur iPad
05:57et qui demandaient pas de patrouille.
06:00Donc il fallait qu'on aille regarder sur Google
06:02comment ça s'écrivait
06:03et où est-ce qu'ils mettaient, par exemple, une majuscule
06:08et s'il y avait une apostrophe ou ce genre de choses
06:10pour récupérer avec exactitude le nom de la série
06:15afin ensuite de pouvoir l'identifier correctement.
06:19Quand la personne qui m'a recruté m'a contacté,
06:27ça faisait huit mois que j'étais au chômage
06:29et que je cherchais de toutes les manières possibles
06:31à être embauché quelque part.
06:33Donc quand j'ai été approché via une plateforme d'emploi
06:37pour ce travail-là, c'était une aubaine.
06:40Mais je sentais déjà qu'il y avait quelque chose
06:43qui n'était pas tout à fait clair dans leur proposition.
06:48Ils avaient quand même une certaine volonté de confidentialité.
06:53Ils étaient un peu dans une zone grise.
06:55Donc je savais dès le départ que ce serait quelque chose
06:58qui serait pas très moral
07:02et en tout cas avec lequel je serais en désaccord.
07:04Donc les premiers jours où je suis arrivé
07:06et que j'ai compris que ça serait sur des enregistrements réels
07:09de véritables usagers que je travaillerais,
07:12j'étais déjà pas très bien dans ma peau.
07:15Après, avec le temps,
07:21on s'habitue un peu,
07:25on arrête de trop y réfléchir.
07:27Et puis il y a eu un jour où je suis tombé
07:29sur un enregistrement d'un gars qui déclarait
07:35sur un enregistrement d'un pédophile, très certainement.
07:39Il déclarait explicitement avoir envie d'un garçon en bas âge.
07:46Et donc étant donné qu'on a un contexte limité
07:49et qu'on ne sait pas trop ce qui est en train de se passer,
07:53de l'autre côté de l'appareil,
08:00moi j'ai trouvé ça non seulement inquiétant
08:02mais assez rageant
08:02parce que là je me retrouvais à la frontière
08:07de deux grandes questions.
08:09La première c'est
08:09qu'est-ce que je fais lorsque je me retrouve
08:11face à ce genre de comportement
08:14et que je ne peux pas dénoncer.
08:16Et deuxièmement,
08:17qu'est-ce que je fais alors qu'on est face
08:19à un appareil de surveillance de masse,
08:22même si c'est soi-disant
08:24pour des données exclusivement commerciales.
08:26Et qu'est-ce que ça dit
08:28sur la manière dont ils ont accès,
08:30Apple,
08:30de la manière dont Apple a accès
08:32à la vie privée
08:34de toutes les personnes
08:35qui sont susceptibles
08:36de se trouver à côté d'un de leurs appareils.
08:38C'est surtout le sentiment d'impuissance
08:40qui m'a fait enrager.
08:41Je l'ai signalé à ma hiérarchie
08:43qui a donc remarqué
08:47qu'effectivement
08:48c'était un enregistrement assez perturbant
08:49mais ils n'ont rien fait d'autre.
08:51C'est-à-dire qu'ils n'ont même pas supprimé
08:53cet enregistrement
08:54de leur base de données.
08:56Je suis allé vérifier une semaine plus tard,
08:58l'enregistrement était toujours là
08:59et un autre travailleur
09:01dans le même module que moi
09:05aurait très bien pu tomber dessus à nouveau.
09:08Donc en termes de protection des travailleurs,
09:12c'est un zéro pointé.
09:14en termes de protection de la vie privée
09:17des personnes,
09:18c'est un zéro pointé.
09:19Et puis la grande question qui se pose,
09:21c'est maintenant qu'Apple a accès
09:26à des données qui sont quand même
09:30formidablement intimes,
09:31qu'est-ce qu'ils en font
09:32lorsqu'il s'agit de situations,
09:35de cas limites comme celui-ci ?
09:37Parce que moi,
09:38je ne pouvais pas le dénoncer à la police.
09:40Qu'est-ce que je pouvais faire ?
09:42J'avais un enregistrement
09:43d'une personne que je ne connais pas
09:45alors que je suis en Irlande.
09:48C'est à peine une déclaration d'intention.
09:52Personne n'aurait pu réagir là-dessus.
09:54La seule chose à laquelle on avait accès,
09:56c'était une ligne d'appel téléphonique
09:59pour l'assistance,
10:02la santé psychologique et mentale.
10:06Le lendemain du jour où j'ai entendu
10:09cet enregistrement,
10:10j'avais à la fois un sentiment de colère
10:12et d'impuissance très très fort.
10:15Donc j'ai décidé que j'allais en profiter.
10:18J'allais voir ce que c'était.
10:20Et donc en gros,
10:21c'était une sorte de centre d'appel.
10:30C'est une secrétaire qui m'a répondu,
10:32probablement quelqu'un qui s'occupait
10:33exclusivement de l'accueil,
10:35qui m'a posé des questions très génériques
10:37qui ne s'appliquaient pas vraiment à mon cas.
10:39Et donc quand je lui ai parlé,
10:40dès qu'elle a entendu le mot pédophilie,
10:42elle m'a dit,
10:43« Ah, mais est-ce que c'est quelque chose
10:44qu'il faut signaler à la police ? »
10:45Et moi j'ai dit,
10:45« Je ne sais pas, c'est à vous de voir. »
10:48Et elle m'a aussi demandé,
10:49« Est-ce que vous avez des pensées suicidaires ? »
10:53« Je ne sais pas. »
10:55De toute manière, ce n'est pas le sujet là.
10:56Elle m'a dit,
10:57« Bon, on vous rappellera,
10:58laissez-moi votre numéro de téléphone
11:00et puis en attendant, débrouillez-vous. »
11:04Je me suis pris deux jours de congé
11:06parce que je sentais que j'en avais besoin
11:08et pendant ces deux jours,
11:10je n'ai pas eu de réponse.
11:12Et donc c'est le dimanche
11:13qu'une psychologue m'a rappelé
11:17pour me dire qu'elle avait un créneau de libre
11:18la semaine suivante.
11:19Mais bon, c'était déjà beaucoup trop tard
11:21et moi j'avais pris ma décision.
11:26J'avais décidé de partir à ce moment-là.
11:28Je me suis dit que je ne pouvais plus continuer
11:30de cautionner ça en fait
11:31parce qu'il y avait beaucoup trop de choses
11:32qui étaient dérangeantes à la fois.
11:34Le côté surveillance de masse
11:35où on écoute des millions de personnes
11:37dans facilement une dizaine de pays différents à la fois.
11:41Et le fait qu'il était dit explicitement
11:45qu'on allait avoir accès à des enregistrements réels
11:50et donc susceptibles d'être criminels,
11:54à caractère pornographique ou ainsi de suite.
11:56Je suis arrivé au point de rupture.
11:58Là, j'ai dit non.
12:00J'en ai marre.
12:02Ça n'a jamais été pour moi
12:03mais là, c'est vraiment beaucoup trop.
12:05C'est vraiment beaucoup trop
12:06cette espèce d'indolence générale,
12:08cette espèce d'irresponsabilité,
12:11cet abus de confiance
12:12vis-à-vis des millions de personnes
12:13qui utilisent ces appareils-là.
12:15Cette indignation a toujours été là.
12:18Le jour où j'ai décidé d'agir,
12:22c'est quand, en gros,
12:24je ne pouvais plus vraiment ignorer
12:26ce qui se passait devant moi.
12:29Et donc, j'ai commencé à prendre des captures d'écran.
12:33J'ai commencé à faire des captures d'écran
12:34de ce qu'on faisait,
12:36de nos consignes.
12:41Et voilà, pendant une semaine,
12:43à peu près,
12:44j'ai fait des captures d'écran
12:45pour montrer que
12:48les enregistrements qu'on écoute
12:49sont extrêmement personnels
12:51parce qu'on peut entendre
12:52des gens qui sont en train de parler
12:53de leur sclérose en plaques.
12:55On peut entendre des gens
12:56qui sont en train de parler
12:56du deuil de leur grand-mère.
12:58On peut entendre des profs
13:00en train de dicter
13:02le conseil de classe
13:02de leurs étudiants.
13:04On peut entendre
13:05des disputes amoureuses.
13:09On peut entendre
13:10des disputes familiales.
13:11On peut entendre
13:13des gens qui sont en train
13:14de regarder du porno.
13:18On a toute la gamme
13:21de la vie humaine devant soi.
13:22Ce qui est véritablement inquiétant,
13:24c'est le degré d'émission
13:26d'Apple dans la vie de ses clients.
13:29Ils réussissent à vendre
13:31des appareils et ensuite à faire
13:33de leurs clients des produits.
13:34Ils sont en train d'utiliser les données
13:36de leurs clients qui sont en train de les produire pour eux
13:40et au lieu de peut-être
13:42rémunérer ce travail ou au moins de le reconnaître,
13:46ils essaient de le dissimuler
13:47au maximum.
13:48Ils nous étaient explicitement
13:50interdits de parler de la totalité
13:53de nos activités
13:55ou bien avec nos proches
13:56ou bien même avec nos collègues
13:58mais surtout avec des journalistes.
14:00Et là, je pense que c'est un aveu de culpabilité
14:02du fait qu'ils s'étaient tout à fait
14:05au courant que si ce qu'ils faisaient
14:08était probablement
14:09dans les lignes grises de la légalité,
14:10c'était parfaitement immoral et que
14:12s'ils l'avaient dit au grand public, les gens
14:14auraient probablement dit
14:15n'importe quoi. Dans les captures
14:18d'écran que j'ai récupérées, il y a des indications
14:22sur d'autres parties de la chaîne de travail,
14:27on va dire. Et donc, en gros, leur objectif,
14:30c'est de faire en sorte que l'intention de l'usager
14:34soit retranscrite en action par la machine.
14:38Ça veut dire que les gens qui travaillaient
14:40dans ce domaine-là, ils
14:42entendaient des enregistrements
14:43et par exemple, ils entendaient quelqu'un dire
14:46« Appelle Mike ». Et donc,
14:48ils avaient des
14:50petites chaînes de commandes, en fait.
14:52Et ils étaient censés
14:54récupérer l'action
14:56à mener par la machine et puis ensuite,
14:58ils allaient regarder dans les données de l'utilisateur
15:00retrouver dans leur contact
15:02un gars dénommé
15:04« Mike ». S'il retrouvait
15:06« Mike » dans les contacts de l'appareil,
15:09eh bien, ils mettaient ça
15:11dans leur boîte.
15:12Ils étaient en train de produire du code
15:14d'une manière extrêmement simplifiée, en fait.
15:17Les personnes qui travaillaient
15:19dans le « Development Data »
15:20avaient accès à
15:22tout un tas de données
15:24qui correspondaient à la plupart
15:26des applications
15:28qui sont présentes dans un iPad.
15:30Ça voulait dire le carnet d'adresse,
15:33la musique, les films,
15:35tout, tous les machins, quoi.
15:37Il y avait même un des dispositifs
15:39sur lesquels on avait accès
15:42aux informations
15:44des parties d'échecs,
15:45parce qu'il y a
15:46une application échec.
15:48Donc, apparemment,
15:49on avait aussi accès à ces données-là,
15:51entre autres.
15:52Plus loin dans la chaîne de production,
15:53il y avait des gens
15:54qui pouvaient récupérer
15:58des données
15:58beaucoup plus larges
16:01sur l'appareil de l'utilisateur
16:04qui permettaient à Siri
16:07d'identifier ce qu'il était censé faire
16:09en entendant un utilisateur
16:14lui donner une commande.
16:15Donc, c'est encore un indicateur
16:17que Siri n'est pas véritablement
16:18une intelligence artificielle
16:19qui apprend par elle-même,
16:20mais que tout ça,
16:21c'est du travail qui est effectué
16:23par des humains
16:24qui cumulent
16:25et qui cumulent
16:26et qui cumulent
16:27les expériences
16:28et les enregistrements
16:29pour identifier
16:30ce qu'une personne
16:33est en train de demander.
16:35Ça veut dire que
16:36à partir du moment
16:37où ton utilisateur
16:40a dit qu'il veut aller
16:40à Disneyland
16:42ou bien
16:45qu'il cherche une telle adresse
16:47ou bien qu'il veut
16:48manger une pizza
16:49ou quoi que ce soit,
16:51si,
16:51notamment pour les locations
16:53et notamment pour les commerces
16:55et pour les marques,
16:56c'était quelque chose
16:57qui leur tenait
16:58beaucoup à cœur.
16:59Ils voulaient absolument
17:00qu'on puisse les repérer
17:01de manière à ce que
17:03le travail se fasse
17:04de manière de plus en plus
17:05automatisée
17:06et qu'ensuite,
17:08on puisse identifier
17:09les gens qui veulent
17:10aller à Disneyland,
17:11par exemple.
17:12Ça, c'est mon...
17:13J'en suis convaincu.
17:14Je suis convaincu
17:15qu'ils font usage
17:16de ces données-là
17:16pour une exploitation commerciale.
17:20Tous les mots-clés
17:21qui les intéressent,
17:23peuvent être identifiés.
17:25Et donc,
17:26si demain,
17:27ils s'intéressent
17:28au domaine de la santé
17:28et qu'ils identifient
17:29toutes les personnes
17:30qui parlent de sclérose en plaques,
17:33eh bien,
17:33ils peuvent en faire
17:33une base de données.
17:34Et si ça les intéresse
17:35pour une exploitation commerciale,
17:37par exemple,
17:38aux États-Unis,
17:39à partir du moment
17:39où on a une condition médicale
17:41identifiée par les assureurs,
17:43eh bien,
17:44ça coûte plus cher
17:46de s'acheter une assurance.
17:48Ça veut dire que,
17:49par exemple,
17:49si mon père
17:50avait une sclérose en plaques
17:51qu'aux États-Unis,
17:53eh bien,
17:53moi,
17:54automatiquement,
17:54j'aurais à payer plus cher
17:57une assurance santé.
17:58Eh bien,
17:59si Apple
18:00récupère ces données-là
18:01et décide à un moment
18:03que ce qui les intéresse
18:04comme mot-clé,
18:04c'est sclérose en plaques
18:06et qu'ensuite,
18:06ils passent un accord
18:07avec les grands assureurs
18:09aux États-Unis
18:10pour identifier
18:11des personnes
18:12qui sont susceptibles
18:13d'avoir la sclérose en plaques
18:14dans leur famille,
18:15eh bien,
18:15ils peuvent vendre
18:16ces données-là.
18:17Ça leur permet
18:18de créer des bases de données,
18:19ça leur permet
18:20de créer des fichiers
18:21de personnes
18:21qui sont plus ou moins
18:22susceptibles
18:23d'être malades
18:24de quelque chose
18:24et non seulement
18:25de leur vendre des produits,
18:26mais aussi de vendre
18:27leur profil
18:29à des personnes
18:29que ça intéresse.
18:30À moi,
18:31c'est ce qui m'inquiète le plus,
18:33l'idée que ces données-là
18:35puissent être exploitées
18:37ensuite
18:37dans des formes
18:39de coopération
18:40publique-privée.
18:41À partir du moment
18:42où on se retrouve
18:42avec un État policier
18:44qui décide que,
18:46tout d'un coup,
18:47parler d'un certain sujet
18:48ou parler d'une certaine manière
18:49ces problématiques
18:51et qu'un accord
18:52est passé avec Apple,
18:54il est tout à fait possible
18:55d'identifier
18:56et de ficher ces personnes-là.
18:57Je me souviens
18:57d'avoir entendu
18:58des enregistrements
18:59à caractère politique
19:00où il était question
19:01ou bien de gilets jaunes,
19:02ou bien d'intentions de vote,
19:04ou bien d'Emmanuel Macron
19:05et ce genre de choses.
19:06Et il y a eu
19:07une série d'articles
19:09dans le New York Times
19:09où il était question
19:10d'une nouvelle application
19:12de reconnaissance faciale
19:14qui était une espèce
19:17de start-up
19:18et qui avait déjà
19:20des partenariats
19:20avec un certain nombre
19:21de départements de police
19:23aux États-Unis
19:24qui leur ont permis
19:25de retrouver des gens
19:27beaucoup plus vite
19:28qu'en passant
19:29par les bases de données
19:29du FBI
19:30ou ce genre de choses.
19:33Ça n'est pas
19:33de la science-fiction.
19:34Moi, je dénonce
19:35là aujourd'hui
19:37l'espionnage de masse.
19:39Demain, ça peut être
19:40de la surveillance de masse.
19:41Ça peut être
19:41de la coopération
19:42entre ces grandes entreprises
19:43et des États.
19:45Parmi les choses
19:46que j'ai vues,
19:46il y a des documents
19:51qui parlent
19:52de la manière
19:53dont Siri est conçue
19:55par Apple.
19:56C'est-à-dire
19:58quel est l'esprit
19:59qu'ils veulent lui insuffler.
20:01Et donc, pour eux,
20:02Siri a des caractéristiques
20:05qui sont suprahumaines.
20:07C'est-à-dire
20:07qu'ils veulent donner
20:09l'impression
20:11au départ
20:12que c'est un assistant
20:14qui est là
20:15pour vous aider
20:16à simplifier la vie
20:17et tout ça.
20:17Mais que si vous creusez
20:19un peu
20:19et que vous posez
20:20des questions
20:20un peu plus développées
20:23à Siri,
20:23il va se révéler
20:25comme étant
20:25une entité
20:26non humaine,
20:27en fait,
20:29possiblement
20:30atemporelle
20:31et voilà,
20:33et omniprésente
20:34et suprahumaine.
20:36parmi ces indications,
20:37il y a
20:40la réponse
20:41à la question
20:42« Qu'est-ce que tu fais
20:43en ce moment, Siri ? »
20:44Et la réponse,
20:44c'est « Oh, rien,
20:46je ne fais que répondre
20:47à 3 millions de requêtes
20:48en même temps. »
20:49Donc, il y a ce côté
20:51un peu prétentieux,
20:54très prétentieux,
20:55au final,
20:56qui consiste
20:59dans l'imaginaire
21:02d'Apple
21:03à faire de Siri
21:04une espèce
21:05d'entité sacrée.
21:14Je ne vois pas
21:15d'autres mots.
21:17Ils essaient effectivement
21:18de lui donner
21:18les attributs
21:19de la divinité,
21:20de quelque chose
21:21qui est
21:23par-delà,
21:24en fait,
21:25le bien et le mal,
21:28par-delà
21:29les limites humaines.
21:31Et ça,
21:32ça révèle aussi
21:33la philosophie
21:34probablement
21:35des concepteurs
21:35de Siri
21:36et peut-être
21:37plus loin aussi
21:38de l'entreprise
21:39toute entière.
21:40Et ça,
21:40ça relève
21:41du transhumanisme.
21:42Ils sont en train
21:42d'essayer
21:43de s'imaginer
21:44un futur
21:44où les humains
21:46sont dépassés
21:46par la machine.
21:48Et c'est bien ça
21:49qui est traduit
21:50en fait
21:50dans cette manière
21:53d'imaginer
21:55l'assistant vocal
21:56comme étant
22:00un impartial,
22:01omniprésent,
22:03omniscient,
22:05atemporel.
22:06Pour moi,
22:06une intelligence artificielle,
22:08d'après ce que j'en comprends,
22:09c'est une machine
22:10qui est capable
22:11d'apprendre
22:11par elle-même.
22:12Et donc,
22:13pour le coup,
22:14par l'expérience
22:15que j'ai faite
22:15de mon travail
22:16et par les captures
22:17d'écran que j'ai faites,
22:19ce n'est pas le cas.
22:20Parce que pour nourrir
22:21la machine,
22:21il faut des humains
22:22qui lui disent
22:23quoi faire
22:23et quoi comprendre
22:24à chaque fois.
22:25Donc,
22:26il faut vraiment
22:27du travail humain
22:28là derrière.
22:30Et à ce propos,
22:31il faut aller voir
22:32les ouvrages
22:32d'Antonio Casilli
22:33qui lui comprend
22:34beaucoup mieux
22:34ces questions-là
22:35et qui est capable
22:36d'expliquer
22:36en quoi ce n'est pas vrai.
22:39Et ça m'amène aussi
22:40à l'une de leurs lignes
22:42directrices
22:43qu'ils appellent
22:43les sujets sensibles.
22:45Donc,
22:45quand j'ai consulté
22:46cette section-là,
22:47les sujets sensibles,
22:48c'était le féminisme.
22:50C'était l'une des questions
22:52qui leur posait problème
22:53en termes de réponse
22:55par l'assistant vocal
22:57à des utilisateurs.
22:59Et donc,
22:59au lieu de prendre position,
23:01l'objectif des concepteurs,
23:02c'était de présenter
23:03Siri comme un être
23:04complètement impartial.
23:06Et donc,
23:06de dire
23:07« je ne prends part
23:08au débat
23:09ni d'un côté
23:10ni de l'autre »
23:10et pour ça,
23:11il y avait,
23:11il me semble,
23:12deux ou trois stratégies
23:13différentes
23:13dont
23:16l'esquive
23:17et puis le renvoi
23:19vers des pages informatives
23:22du genre
23:22« oh,
23:22j'ai trouvé telles informations
23:23sur Wikipédia,
23:24vous pouvez aller voir ça ».
23:26Mais en tout cas,
23:27le refus absolu
23:27de prendre partie.
23:28Donc,
23:29il y avait dans ces indications
23:31des réponses type
23:32préparées
23:33pour des questions
23:34par l'utilisateur
23:35du type
23:36« Siri,
23:37qu'est-ce que tu penses
23:37des féministes ? »
23:38« Siri, n'est-ce pas
23:39qu'être un gros macho,
23:41c'est pas bien ? »
23:42Ou bien
23:42« Siri, n'est-ce pas
23:44qu'être une féministe,
23:45c'est pas bien ? »
23:47Eh bien,
23:47la réponse était
23:48en fait la même
23:49des deux côtés.
23:50« Je ne prends pas partie »
23:51ou bien « je pense
23:52que toutes les voix
23:53devraient être écoutées
23:54de la même manière »
23:55Enfin,
23:56du jargon,
23:56du jargon entrepreneurial.
23:59Alors,
24:00pourquoi est-ce que
24:01le féminisme
24:01est un sujet sensible ?
24:03Personnellement,
24:04ça me dépasse.
24:10Je ne sais pas.
24:11Enfin,
24:12si,
24:12j'ai eu d'idées,
24:13mais bon,
24:14pour le coup,
24:15j'étais estomaqué
24:16en voyant ça.
24:18Je présume
24:18qu'en 2019,
24:19encore aujourd'hui,
24:20c'est un sujet
24:22social
24:23qui est apparemment
24:25prêt à polémique
24:25et qu'il y a
24:27de la défiance
24:27vis-à-vis du féminisme
24:28dans certains secteurs
24:30de la société.
24:31Et donc,
24:32je pense que
24:33ça servait
24:34deux objectifs différents
24:35qui finalement
24:36se rejoignent.
24:37Le premier,
24:37c'est continuer
24:38avec la manière
24:39dont on conçoit Siri
24:41chez Apple,
24:42donc une entité
24:45qui est bien au-delà
24:48des turpitudes humaines.
24:49Voilà.
24:50Et la deuxième,
24:51c'est que
24:51pour des raisons
24:53bêtement commerciales,
24:54quoi.
24:55On ne va pas s'aliéner
24:56une partie
24:56de la clientèle,
24:59des gens qui achètent Apple,
25:01parce qu'on défend
25:02la cause féministe.
25:04C'est un choix
25:05de ne pas prendre parti.
25:06Mais à vrai dire,
25:06ça existe
25:07chez plein d'autres compagnies.
25:09Donc,
25:10en août 2019,
25:12il y a des gens
25:13qui ont contacté
25:14un certain nombre
25:16de journaux européens
25:17pour signaler
25:18ce que faisaient
25:19à la fois Google,
25:20Apple,
25:21et puis,
25:22il me semble aussi Amazon.
25:23Donc,
25:24la même chose en gros.
25:25Le défenseur des droits
25:26de Hambourg,
25:26si je ne me trompe pas,
25:27a demandé
25:29un arrêt provisoire
25:30d'au moins trois mois
25:31sur ces activités-là.
25:34C'est ce qui s'est produit.
25:35Mais,
25:36en fait,
25:36Apple a décidé
25:38que sa ligne de défense,
25:39ça serait
25:40« désolé,
25:41on va faire plus attention
25:42à la vie privée
25:43de nos utilisateurs
25:44et maintenant,
25:45on va arrêter
25:46de passer par des sous-traitants
25:47et on va embaucher
25:47les gens directement
25:48chez nous. »
25:49Ça aussi,
25:50c'est un aveu de culpabilité.
25:52La reconnaissance
25:53que
25:53« ah bah,
25:54ce qu'on a fait,
25:54ce n'était pas bien,
25:55maintenant qu'on a pris
25:56la main dans le sac,
25:57on va peut-être changer
25:58un peu nos méthodes. »
25:59Mais le mal est fait.
26:00Le mal est fait
26:01parce que la capacité
26:01de reconnaissance
26:02de l'assistant vocal
26:03est décuplée maintenant.
26:05Il y a des millions
26:06et des millions de personnes
26:07qui ont été écoutées
26:07à leur insu
26:08et qui ne savent toujours pas,
26:09on ne sait toujours pas,
26:10en fait,
26:11qu'est-ce que ça donne
26:11comme information
26:13sur une base de données.
26:14Quelles sont les informations
26:15qui sont utilisées ?
26:16Quelles sont les bases
26:17de données qui s'utilisent ?
26:18Qui a accès
26:19au sein de l'entreprise ?
26:21Qu'est-ce qu'ils en font ?
26:22À qui ils les vendent ?
26:23Quels sont leurs projets
26:23là-dessus ?
26:24Quelles sont les informations
26:25qui les intéressent maintenant ?
26:27Qu'elles vont les intéresser
26:28dans le futur ?
26:29Rien de tout ça
26:30n'est résolu.
26:31Si Apple s'est installée
26:32en Irlande,
26:33dans l'Union européenne,
26:34c'est parce que l'Irlande
26:35leur propose
26:35des abattements de taxes
26:36monstrueux.
26:38Donc,
26:38Apple ne paye quasiment pas
26:40d'impôts ici
26:40en Union européenne,
26:42vend des iPhones
26:43au prix fort
26:44à des utilisateurs,
26:46récupère ces données-là
26:47et les revend.
26:49Donc,
26:50ils se font un profit
26:51monstrueux
26:51tout en étant opaques
26:53au possible
26:53sur leurs activités
26:55sur le dos
26:56des Européens,
26:57sur la totalité
26:58des Européens.
26:59Quand je travaillais là-bas,
27:01je savais qu'il y avait
27:01des enregistrements
27:02qui étaient faits
27:03sur des Français,
27:04sur des Allemands,
27:05sur des Italiens,
27:06je crois bien,
27:07et sur des Espagnols.
27:09Quand je suis rentré en France,
27:10j'ai fait le mort
27:11pendant quelques semaines.
27:12J'ai reçu des appels
27:15de GlobeTech
27:16pour me demander
27:17pourquoi je n'étais pas
27:17retourné au boulot.
27:19Je n'ai jamais répondu.
27:20Et puis,
27:21au final,
27:21ils m'ont envoyé
27:22au bout d'une semaine
27:24ou deux
27:24un courriel
27:27pour me dire
27:27« bon,
27:28c'est une cessation
27:29d'activité,
27:30donc on te vire ».
27:32J'ai fait très bien,
27:33je suis très content.
27:34Je leur ai signé
27:35le papier,
27:35je leur ai envoyé
27:37et ensuite,
27:38ils m'ont fait
27:38des difficultés
27:39pour que je puisse
27:41récupérer mon argent
27:42du côté du fisc irlandais.
27:43Le moment
27:44où j'ai décidé
27:46de montrer mon visage
27:47à découvert,
27:48ça a été
27:49lors du documentaire
27:52invisibles,
27:52les travailleurs du clic.
27:54Lanceur d'alerte,
27:55lumière.
28:09En en parlant
28:10à un des proches,
28:11il y en a un certain nombre
28:12qui m'ont conseillé
28:12de rester anonyme.
28:14Et j'ai mis du temps
28:15à me décider
28:16et à montrer mon visage
28:17et à dire
28:18« voilà mon vrai nom,
28:18voilà qui je suis,
28:19voilà ce que j'ai fait
28:20comme expérience »
28:21parce que les retombées
28:24peuvent être considérables.
28:25Je risque un procès.
28:26Je risque un procès
28:27par GlobeTech
28:28et possiblement
28:30par Apple
28:30pour rupture
28:33des clauses
28:33de confidentialité.
28:36Et ça se passera
28:37au moins dans un premier temps
28:40du côté
28:41de la justice irlandaise.
28:42Les clauses
28:43de confidentialité,
28:44c'était un document
28:45qu'on nous faisait signer
28:46à part notre contrat
28:47de travail
28:48qui stipulait
28:49qu'en gros
28:50on reconnaissait
28:51être responsable
28:51de tout dégât économique
28:52que pourrait subir
28:54l'entreprise
28:54à cause de notre indiscrétion.
28:57Donc,
28:58quand moi j'ai décidé
28:59de parler,
29:00je me suis mis
29:02sous le coup
29:03de cette clause
29:06de confidentialité.
29:07S'ils décident
29:08de m'attaquer
29:09en justice,
29:10c'est juste moi
29:12contre une gigantesque compagnie
29:14et puis une autre plus petite
29:16mais qui pèse quand même
29:18en termes économiques.
29:20Ça se trouve,
29:20je viens de faire
29:21une énorme connerie.
29:23Pour moi en tout cas.
29:24Bien sûr que j'ai peur.
29:25Bien sûr que je suis inquiet.
29:26Je suis moins maintenant
29:27que j'ai décidé
29:30du chemin que j'allais prendre.
29:32et j'ai aussi eu droit
29:34à des manifestations
29:35de soutien
29:35qui me font plaisir.
29:37Et donc mon espoir
29:38en fait,
29:39à partir du moment
29:40où j'ai commencé
29:41à contacter
29:41des journalistes
29:42pour leur montrer l'histoire
29:43et puis maintenant
29:44que je le fais
29:44à Visage Découvert,
29:46c'est d'inciter
29:48d'autres gens
29:48qui ont participé
29:50à ce travail-là
29:51à se révéler
29:53et puis à montrer
29:55que non seulement
29:58c'est inacceptable
29:58mais qu'il faut se battre
30:00contre ce modèle social
30:02qu'on est en train
30:02de nous imposer.
30:03Ce modèle social
30:04et économique
30:05et politique aussi d'ailleurs.
30:06Parce que l'autre question
30:10que je me pose
30:13en ayant vécu
30:14cette expérience,
30:15c'est quelle est
30:16leur conception de l'État,
30:17quelle est leur conception
30:18de la liberté publique
30:21et individuelle,
30:23quelle est leur conception
30:23de la citoyenneté,
30:25qu'est-ce qu'ils pensent
30:26de la vie privée,
30:27est-ce qu'ils sont
30:27véritablement conscients
30:29du poids
30:30qu'ils portent maintenant
30:31ces géants du net
30:35sur la vie des gens.
30:36Ils n'assument pas vraiment
30:38d'avoir accès
30:39à des données
30:39parfois criminelles,
30:41ils n'assument pas vraiment
30:42de faire
30:44de l'espionnage de masse,
30:46ils ne comprennent pas
30:47véritablement
30:50les enjeux
30:51de ce à quoi ils touchent
30:52et ils sont en train
30:53de décider pour nous tous.
30:55Et ça aussi,
30:56c'est inviable.
30:57je ne veux pas
30:59que ce soit ces gens-là
30:59qui décident pour moi
31:01de l'avenir
31:02dans lequel je vais vivre.
31:03de l'avenir
31:05de l'avenir
31:09de l'avenir
31:10de l'avenir
31:14de l'avenir
31:17de l'avenir
31:17de l'avenir
31:18de l'avenir
31:19de l'avenir
31:19de l'avenir