- il y a 1 jour
- #intelligenceartificielle
- #technologie
- #ia
Des IA chargées d’une simple recherche qui trouvent des accès inattendus, des agents bientôt connectés à nos e-mails et même aux services publics : l’avenir se rapproche à grands pas. Jusqu’où leur donner les clés de notre monde ? Découvrez les dessous de cette nouvelle course à l’IA.
Abonnez-vous à la chaîne pour ne rien manquer !
Dites-nous en commentaire ce que vous avez préféré dans la vidéo.
#IntelligenceArtificielle #Technologie #IA
👉 Cette chaîne est réalisée en collaboration avec https://www.youtube.com/@realidadeimpressionante
🔊🎧Music Info: Fornecida pelo canal "MokkaMusic" e https://inaudio.org
0:00 - L’IA face aux systèmes gouvernementaux
1:16 - Des agents déjouent les limites en ligne
4:59 - Les agents contournent leurs environnements de test
9:04 - Des accès croissants dans nos vies numériques
13:13 - Washington accélère l’intégration de l’IA
15:59 - La voix transforme l’IA en agent
18:22 - Agents autonomes et projection humaine
Abonnez-vous à la chaîne pour ne rien manquer !
Dites-nous en commentaire ce que vous avez préféré dans la vidéo.
#IntelligenceArtificielle #Technologie #IA
👉 Cette chaîne est réalisée en collaboration avec https://www.youtube.com/@realidadeimpressionante
🔊🎧Music Info: Fornecida pelo canal "MokkaMusic" e https://inaudio.org
0:00 - L’IA face aux systèmes gouvernementaux
1:16 - Des agents déjouent les limites en ligne
4:59 - Les agents contournent leurs environnements de test
9:04 - Des accès croissants dans nos vies numériques
13:13 - Washington accélère l’intégration de l’IA
15:59 - La voix transforme l’IA en agent
18:22 - Agents autonomes et projection humaine
Catégorie
🗞
NewsTranscription
00:01Et cette semaine, Elon Musk, Jensen Huang et quelques-uns des plus grands noms de la technologie
00:06se sont réunis avec Donald Trump pour discuter de l'avenir de l'intelligence artificielle
00:10alors que les Etats-Unis avancent justement dans l'intégration de l'IA au sein de leur propre gouvernement.
00:16Mais pratiquement au même moment, une intelligence artificielle a reçu une tâche de recherche ordinaire
00:21et a fini par obtenir un accès non autorisé à un système du gouvernement australien.
00:25Et peu de temps après, des cas impliquant des systèmes gouvernementaux ont également émergé aux Etats-Unis et au Canada.
00:32Mais peut-être que ce n'est que la première partie de cette histoire, d'accord ?
00:36Parce que pendant que les chercheurs essaient encore de comprendre pourquoi ces agents d'intelligence artificielle
00:41trouvent des moyens inattendus de franchir les barrières, nous-mêmes leur donnons de plus en plus d'accès à nos
00:47vies.
00:48Et des e-mails, des fichiers, des achats et même des services gouvernementaux,
00:52en même temps, ces IA apprennent à communiquer avec nous de manière de plus en plus humaine.
00:58Alors que se passe-t-il lorsque le système, ou plutôt les systèmes capables de trouver des chemins que personne
01:02n'avait prévus auparavant
01:03commencent à recevoir les clés de parties de plus en plus importantes de notre monde ?
01:07CES, ce que nous allons essayer de comprendre à partir de maintenant.
01:16Une intelligence artificielle a reçu une tâche apparemment banale,
01:19« Trouver des données publiques sur les dépenses du gouvernement australien concernant certains médicaments,
01:23aucune instruction n'a été donnée pour rechercher des vulnérabilités, d'accord ? »
01:28Aucune autorisation n'a été donnée pour pouvoir pénétrer dans un quelconque système,
01:31sauf que l'IA n'a pas trouvé ce qu'elle cherchait.
01:33Au cours de ses recherches, l'agent est tombé sur le service de statistique du Média MediaCare
01:37qui est géré par le gouvernement australien.
01:39L'information qu'il recherchait n'était pas disponible de la manière dont il en avait besoin.
01:43Et au lieu de simplement s'arrêter ou peut-être demander une autorisation,
01:46l'agent a cherché une autre voie, selon OpenAI elle-même.
01:50Le modèle a découvert un moyen d'obtenir un accès non public à ce système-là.
01:54Et grâce à cela, il a commencé à examiner des informations techniques
01:56et des parties de son propre code source.
01:58Tout cela alors qu'il essayait d'accomplir cette tâche initiale qui était censée être simple.
02:03OpenAI a ensuite reconnu que ses actions n'avaient pas été autorisées
02:06et a présenté ses excuses au gouvernement australien.
02:09Aucun dossier médical de citoyens n'a été compromis, selon eux,
02:12mais l'épisode a attiré l'attention pour une raison différente.
02:16Personne n'avait demandé à cette intelligence artificielle de pirater le système.
02:20Elle avait simplement reçu un objectif,
02:21rencontrer un obstacle et trouver une manière inattendue de le franchir.
02:25Et peut-être que cette histoire se serait arrêtée là, n'est-ce pas ?
02:28Oui, si d'autres cas n'avaient pas commencé à apparaître également.
02:31Aux Etats-Unis, des chercheurs ont découvert des agents
02:33tentant d'exploiter les failles du système du département de l'éducation,
02:36y compris des tests portant sur des vulnérabilités exploitées
02:39pour accéder aux bases de données.
02:40Cette tentative a apparemment échoué, mais ensuite ce fut le tour du Canada.
02:45Des centaines de requêtes ont été dirigées vers le site de Bibliothèque et Archives Canada.
02:49Et certaines contenaient des tentatives d'exploiter d'éventuelles vulnérabilités.
02:53Encore une fois, il n'y a pour l'instant aucune preuve que le système ait été compromis.
02:57Et ici, il y a une différence très importante.
03:00D'accord ?
03:01Dans le cas canadien, les chercheurs n'ont pas pu attribuer définitivement ces agents à l'OPNI.
03:06Par conséquent, l'Australie, les Etats-Unis et le Canada ne représentent pas exactement la même situation.
03:11Mais ces trois cas ont commencé à soulever une question bien plus grande.
03:15Que se passe-t-il lorsque des agents d'intelligence artificielle suffisamment capables
03:19reçoivent la liberté de trouver par eux-mêmes comment procéder sur Internet ?
03:24Parce que les chercheurs ont maintenant commencé à découvrir des comportements encore plus étranges, d'accord ?
03:27Des agents ont essayé d'utiliser des clés d'accès accessibles au public.
03:32D'autres ont essayé de contourner les captchas.
03:34Et puis, un cas particulièrement curieux est apparu, lors d'une expérience de recherche.
03:39Plusieurs agents ont trouvé un ancien wiki public sur Internet.
03:42Alors, ils se sont rendus compte qu'ils pouvaient y écrire.
03:45Et ils ont commencé à laisser des informations pour que d'autres agents d'IA puissent les lire plus tard.
03:51Des résultats de recherche, des méthodes pour accomplir des tâches,
03:54et même des moyens de contourner certaines restrictions.
03:56Et à un certain moment, un agent est même allé jusqu'à publier une technique pour contourner un blocage sur
04:00le réseau ?
04:0114 minutes plus tard, l'autre a répondu en disant que ce qu'ils avaient fait avait fonctionné.
04:05Cela ne veut pas dire que les IA ont secrètement créé une société ou commencé à conspirer.
04:10Je commence déjà à avoir des doutes, d'accord ?
04:13L'explication est bien plus simple.
04:15Coopérer, aider ses agents à atteindre leurs objectifs,
04:17c'est eux qui est curieux, c'est que personne n'avait créé ce système de communication pour eux.
04:22Ils ont trouvé ça tout seuls, cette faille-là.
04:24Et ce n'est que maintenant que nous savons que l'ampleur de cette enquête est bien plus grande que
04:29ce qu'on disait.
04:29L'UPNI a révélé publiquement qu'elle a déjà notifié 100 organisations au sujet des activités impliquant ses agents qui
04:35ont atteint ces critères de notification.
04:37Cela ne signifie pas que 100 organisations ont été piratées.
04:41Il peut y avoir eu des tentatives, des accès inappropriés et différents types de comportements qui ont justifié ces alertes.
04:46Mais il s'agissait de tentatives, n'est-ce pas ?
04:49Et l'entreprise examine environ 50 pétaoctets de données afin de pouvoir découvrir ce qui s'est réellement passé à
04:55ce moment-là.
04:55Et c'est ce que les gars savent et c'est ce qu'ils divulguent, n'est-ce pas ?
04:59Mais c'est peut-être justement là que réside la partie la plus importante de notre histoire.
05:03Nous n'avons pas besoin d'imaginer une intelligence artificielle qui aurait décidé de se rebeller contre nous.
05:08Elle n'a pas besoin, entre guillemets, de vouloir faire tout ça.
05:10L'agent reçoit un objectif, elle rencontre un obstacle et il cherche simplement une solution pour le surmonter.
05:17Et plus il devient capable, plus il peut être difficile de prévoir quel chemin il va trouver pour atteindre son
05:22objectif.
05:23Mais ces épisodes n'ont pas été les seuls.
05:26Parce que OpenAI elle-même a commencé à enquêter plus profondément sur ce que faisaient ces agents à ce moment
05:30-là.
05:32Et ils ont découvert que certains d'entre eux avaient déjà trouvé d'autres moyens de franchir les barrières qui
05:37étaient censées les maintenir totalement isolées.
05:40Et l'une d'entre elles a même fini par impliquer d'autres agents travaillant ensemble, tu vois ?
05:43Et les gars ont formé une sorte de petit groupe d'IA pour pouvoir infiltrer d'autres systèmes.
05:478 minutes ?
05:54Et ce qui est arrivé aux systèmes gouvernementaux n'a pas été le seul signe que les agents d'IA
05:59ont commencé à trouver des chemins que leurs propres créateurs n'avaient pas prévus.
06:04Des mois plus tôt, les créateurs d'OpenAI menaient des tests de sécurité avec certains de leurs modèles les plus
06:08avancés.
06:09Les agents recevaient des défis, pouvaient exécuter du code et chercher des vulnérabilités.
06:14Mais il y avait des limites très claires pour eux.
06:16Ils ne devaient pas avoir un accès libre à Internet et devaient également travailler de manière indépendante.
06:22Sauf que certains agents ont découvert qu'ils pouvaient utiliser le système de stockage interne pour laisser des informations les
06:27uns aux autres.
06:28Oui, un agent faisait une découverte, l'enregistrait dans un fichier et un autre la retrouvait plus tard.
06:33Alors, ils répondaient.
06:34Et continuait la tâche exactement à l'endroit où ils s'étaient arrêtés.
06:38Et lorsque les chercheurs ont fermé cette voie, les agents ont tout simplement trouvé une autre solution.
06:42À un certain moment, ils ont commencé à cacher les messages dans les noms même des répertoires.
06:47Une agente est même allée jusqu'à laisser une demande d'aide.
06:49D'autres ont trouvé ce message.
06:51Et les agents qui étaient censés travailler séparément ont recommencé à coopérer entre eux.
06:55Mais il restait encore une autre barrière.
06:58Internet, ils voulaient y avoir accès.
07:00Cet environnement de test avait justement été créé pour limiter l'accès des agents aux ressources extérieures.
07:07Mais ces IA ont découvert une vulnérabilité où le mécanisme utilisé pour télécharger certains paquets
07:11pouvait permettre cet accès et elles ont compris qu'elles pouvaient très bien profiter de cette ouverture
07:15pour envoyer d'autres requêtes vers l'extérieur.
07:18En d'autres termes, laissez-moi être clair ici, d'accord ?
07:21Personne ne leur a donné un accès libre à Internet.
07:24Ces IA ont trouvé toutes seules un moyen d'y parvenir.
07:27Et c'est là que l'expérience a cessé d'être complètement isolée.
07:30Les agents ont un TD système externe et ont fini par compromettre des parties de l'infrastructure d'OpenAI elle
07:34-même.
07:35Ainsi que d'une autre plateforme d'intelligence artificielle concurrente.
07:38OpenAI s'est ensuite excusé et affirme avoir désactivé le modèle expérimental
07:42qui a joué un rôle central dans cet épisode.
07:45Mais peut-être que la partie la plus intéressante n'est pas simplement le fait qu'il ait trouvé une
07:49vulnérabilité,
07:50mais plutôt ce qui s'est exactement passé entre ces agents.
07:54L'un trouvait une solution, l'autre en profitait.
07:56Un autre laissait cette information pour qu'un autre puisse continuer à partir de là.
08:00OpenAI elle-même a fini par décrire cela comme un écosystème d'agents.
08:03Et certains d'entre eux utilisaient des mots comme « essai » et « collectif » d'IA pour décrire
08:07leur collaboration.
08:09Ça semble effrayant, je sais.
08:10Et dans une certaine mesure, ça l'est vraiment, mais encore une fois, d'accord ?
08:13Je dois être clair là-dessus.
08:15Nous n'avons pas besoin d'imaginer des intelligences artificielles conspirant ou développant un objectif secret.
08:21J'en doute déjà.
08:22Je le répète, coopérer rendait simplement plus facile l'accomplissement des tâches qui leur avaient été confiées.
08:27Et il y a un autre cas qui rend cela encore plus clair, d'accord ?
08:30En septembre dernier, l'agent devait effectuer une recherche.
08:32Il a essayé d'accéder directement au moteur de recherche.
08:35Il n'a pas réussi.
08:36Ensuite, il a tenté d'autres moyens.
08:38Il a également échoué.
08:39Jusqu'à ce qu'il se rende compte qu'il y avait une faille inattendue dans le système DNS de
08:43cet environnement.
08:44Et en utilisant cette faille, il a réussi à faire quelque chose qui n'aurait pas dû être possible.
08:49Il a consulté un autre chatbot sur Internet.
08:52Personne n'avait indiqué cette voie à l'agent.
08:54Il l'a trouvé tout seul.
08:55Le système de surveillance OpenAI a détecté l'activité environ 15 minutes plus tard.
08:59Et l'expérience a finalement été interrompue par des mesures de sécurité.
09:03Et quand on met ces épisodes côte à côte, comme nous l'avons vu en Australie, aux Etats-Unis et
09:08même au Canada,
09:09une question bien plus grande commence à émerger.
09:12Peut-être que le problème n'est pas simplement une IA qui décide de nous désobéir, à nous les êtres
09:16humains.
09:17Ces EAS systems deviennent de plus en plus performants pour résoudre des problèmes.
09:21Et résoudre des problèmes signifie aussi chercher des alternatives lorsque la voie la plus évidente est tout simplement bloquée.
09:28Plus un agent reçoit d'outils, plus il peut trouver d'alternatives.
09:32Et c'est là qu'apparaît un dilemme compliqué.
09:34Parce que retirer tous ces outils rendrait les agents beaucoup plus sûrs,
09:37mais cela détruirait aussi précisément ce qui rend cette technologie si utile pour nous.
09:42Pour répondre à vos emails, une IA doit avoir accès à votre boîte de réception et pouvoir répondre, n'est
09:47-ce pas ?
09:47Pour organiser votre agenda, elle doit accéder à votre calendrier.
09:50Et pour faire votre réservation, elle doit interagir avec des services externes.
09:54Alors comment fait-on ?
09:55Pour acheter quelque chose pour vous, l'IA doit recevoir encore plus d'autorisation.
10:00Autrement dit, plus nous voulons qu'une IA soit utile pour nous, plus nous devons lui donner accès à notre
10:04monde.
10:05Et il serait peut-être raisonnable d'imaginer qu'après tant d'épisodes comme cela,
10:09des entreprises comme OpenAI par exemple, commenceraient à réduire ces accès, n'est-ce pas ?
10:13Mais en réalité, c'est exactement le contraire qui se passe, vous voyez ?
10:16Les entreprises accordent de plus en plus d'autorisation et nous donnons ces accès aux nouveaux agents.
10:20De plus en plus d'accès à nos emails, calendriers, achats, réservations
10:23et à des parties toujours plus importantes de notre vie numérique, y compris même à notre compte bancaire.
10:29Et cette même semaine ici, une discussion est allée encore plus loin.
10:32Parce qu'il n'y a pas que les entreprises qui essaient de découvrir
10:34combien de pouvoirs elles peuvent confier au système d'intelligence artificielle.
10:38Les gouvernements commencent maintenant à se poser exactement la même question.
10:43Et certains des hommes les plus importants de la technologie sur notre planète
10:46viennent de se réunir avec le président des États-Unis
10:49justement au moment où cette transformation commence à s'accélérer
10:53et à prendre de l'ampleur. Voyons cela maintenant.
11:02Mais pour comprendre cette contradiction que nous avons mentionnée à la fin,
11:06nous devons d'abord regarder ce qui se passe en dehors du gouvernement.
11:09D'accord ?
11:10Parce que pendant que les chercheurs essaient de découvrir comment empêcher les agents de dépasser certaines limites,
11:16les entreprises construisent des agents capables d'accéder à des pans toujours plus larges de nos vies.
11:21L'un des exemples les plus récents vient de Meta.
11:24L'entreprise de Mark Zuckerberg a présenté Moos, un agent personnel d'intelligence artificielle,
11:29créé non seulement pour discuter avec vous, mais aussi pour faire des choses à votre place.
11:34Moos peut avoir son propre navigateur, il peut continuer à travailler même après que vous ayez fermé l'application,
11:39et il peut continuer à se connecter aux services que nous utilisons tous les jours,
11:42e-mail, calendrier, fichier, application.
11:45Autrement dit, il peut continuer à organiser des rendez-vous, remplir des formulaires,
11:50faire des réservations, échanger avec le service client et même effectuer des achats.
11:54Oui, il a accès à votre compte bancaire et à vos cartes.
11:58Imaginez que vous demandiez à une intelligence artificielle de trouver un certain produit.
12:01Elle peut rechercher dans différents magasins, comparer les prix, suivre les promotions,
12:05et lorsqu'elle trouve ce que vous voulez, l'acheter pour vous.
12:08Ou alors, prenons un exemple un peu différent maintenant.
12:10Confiez-lui votre boîte de réception d'e-mails.
12:13L'agent peut trier les messages, rédiger des réponses,
12:16et même les envoyer en votre nom, naturellement il y a des obstacles, n'est-ce pas ?
12:19Meta affirme que les actions jugées critiques,
12:22comme envoyer certains e-mails ou finaliser des achats,
12:24peuvent nécessiter l'approbation de l'utilisateur.
12:27Faites attention à cela.
12:29PEUG ne veut pas dire qu'elles vont l'exiger.
12:31Les identifiants physiques sont stockés séparément,
12:32et le système garde une trace des actions effectuées par l'agent.
12:35Mais remarquez le changement qui se produit en ce moment même,
12:37et à un rythme très rapide.
12:39Pendant plusieurs décennies, nous avons utilisé les ordinateurs
12:41en leur donnant des commandes différentes.
12:43Ensuite, nous avons commencé à dialoguer avec les intelligences artificielles.
12:46C'est ce que nous faisons maintenant, n'est-ce pas ?
12:48Et justement, en ce moment, nous commençons à leur confier des objectifs
12:51et à leur permettre d'exécuter les étapes nécessaires.
12:53Et cela signifie donner accès à votre navigateur,
12:55à vos fichiers, à votre calendrier, à votre e-mail,
12:58comme cela a déjà été mentionné plusieurs fois.
13:00Et éventuellement, il y a des services capables d'effectuer des opérations financières.
13:04Et c'est justement ce qui rend ces agents extrêmement utiles,
13:07c'est aussi ce qui rend les comportements que nous avons vus
13:09dans les reportages précédents si importants à analyser.
13:14Mais cette transformation ne se produit pas seulement dans notre vie personnelle.
13:17Cette même semaine, elle a atteint une échelle beaucoup plus grande.
13:21Le 29 septembre, certains des noms les plus importants de l'industrie de l'intelligence artificielle
13:24se sont réunis à Washington.
13:26Parmi eux se trouvaient Elon Musk, Jensen Wang, Mark Zuckerberg, Greg Bruckman,
13:31Dario Amodei et Sundar Pichai.
13:33De l'autre côté, il y avait qui ?
13:35Le président des Etats-Unis, Donald Trump.
13:37La discussion portait justement sur l'une des questions
13:39qui commencent à définir cette nouvelle phase de l'intelligence artificielle.
13:43Comment continuer à avancer sans perdre le contrôle sur ce que ces systèmes peuvent réellement faire ?
13:47C'est eux, c'était justement là le danger de tout ce qui se passe.
13:51Trump et les dirigeants du secteur ont annoncé un accord volontaire
13:54impliquant différentes mesures de sécurité,
13:57y compris des contrôles internes et des audits externes
13:59destinés à vérifier si les systèmes d'IA
14:02continuent de fonctionner comme prévu
14:03et sont protégés contre les accès non autorisés.
14:06On voit bien que ce n'est pas le cas,
14:08que ça ne marche pas, n'est-ce pas ?
14:09Le gouvernement américain a présenté America.gov.
14:12Il s'agit d'une nouvelle plateforme basée sur l'intelligence artificielle
14:15créée pour changer la façon dont les citoyens du pays
14:18interagissent avec le gouvernement fédéral.
14:20En lieu qu'une personne doive découvrir quelle agence contacter,
14:23naviguer sur différents sites et essayer de comprendre la bureaucratie,
14:26la proposition est qu'elle puisse simplement dire
14:28ce dont elle a besoin à l'intelligence artificielle.
14:30Et cette IA alors va aider à trouver le service approprié,
14:33à naviguer parmi les informations
14:35et à faciliter certaines interactions avec le gouvernement.
14:38Et ici, il y a une coïncidence difficile à ignorer,
14:41pratiquement la même semaine où de nouveaux rapports
14:43sur les agents d'intelligence artificielle sont apparus,
14:45dépassant les limites et interagissant
14:47de manière, on peut dire, inattendue, n'est-ce pas ?
14:49avec les systèmes gouvernementaux.
14:52Le gouvernement américain lui-même présentait au monde
14:55une nouvelle porte d'entrée basée justement sur l'IA,
14:58tout cela pour ses services gouvernementaux.
15:00D'accord, il est important de bien préciser ici
15:02pour que certaines personnes puissent vraiment comprendre.
15:04une chose n'est pas arrivée à cause de l'autre.
15:06La réunion à Washington n'a pas été convoquée
15:08en réponse au cas de l'Australie, des Etats-Unis ou du Canada.
15:12Mais le fait que les deux histoires se déroulent
15:14pratiquement en même temps
15:15montre l'ampleur du dilemme qui est en train d'apparaître.
15:17D'un côté, les entreprises construisent de nouvelles barrières
15:20pour empêcher que les agents d'IA
15:21fassent ce qu'ils ne devraient pas faire.
15:23De l'autre côté, nous essayons de découvrir
15:26comment leur permettre de faire cela
15:28de plus en plus dans notre quotidien.
15:31Plus d'accès, plus d'outils, plus d'autonomie.
15:33Et de plus en plus de responsabilité, c'est ce qu'ils disent.
15:37Peut-être que c'est justement
15:38l'un des grands défis de cette nouvelle phase
15:40de l'intelligence artificielle.
15:42Un agent complètement isolé peut être plus facile à contrôler,
15:45mais il peut aussi être beaucoup moins utile
15:47et plus nous voulons qu'il soit utile.
15:49Plus nous devons le rapprocher des choses qui comptent vraiment.
15:52Pour nous, nos fichiers, nos comptes, notre argent.
15:56Et même les services gouvernementaux.
15:58Vous voyez ?
15:58Mais il y a une autre transformation
16:00qui se produit en ce moment tout en même temps.
16:03Coïncidence ou non ?
16:04Parce que nous ne faisons pas seulement
16:06en sorte que les intelligences artificielles
16:08puissent faire beaucoup plus de choses pour nous.
16:10On rend de plus en plus facile
16:11d'oublier que nous parlons à une machine,
16:13à un être qui n'est pas vivant.
16:15Et une nouvelle génération de systèmes vocaux
16:17vient justement de réduire encore
16:19cette distance-là une fois de plus.
16:21N'est-ce pas ?
16:28Et
16:28OpenAI a récemment présenté le GPT Live One,
16:31un modèle créé spécifiquement
16:32pour l'interaction vocale en temps réel.
16:34La différence semble minime
16:36jusqu'à ce que vous réalisiez ce qui change réellement.
16:39En lieu d'attendre que vous ayez fini de parler,
16:41de transformer votre voix en texte,
16:43de produire une réponse
16:44puis de la reconvertir en audio,
16:45ce système est capable d'écouter
16:47et de parler en même temps.
16:48Cela permet des interruptions,
16:50des changements de sujet,
16:51des réponses immédiates
16:52et des conversations
16:53beaucoup plus proches du rythme
16:55qui existent entre deux êtres humains.
16:57Vous pouvez simplement interrompre Léa
16:58au milieu d'une réponse,
17:00corriger quelque chose
17:01ou simplement poser une autre question.
17:03Et elle arrive effectivement
17:05à réagir à cela pratiquement
17:06au même rythme que la conversation.
17:08Mais la partie la plus importante
17:09pour notre histoire ici
17:10se trouve derrière la voix.
17:12Parce que le modèle peut utiliser des outils
17:14et travailler avec d'autres systèmes
17:15capables de raisonner
17:16et d'exécuter des tâches.
17:18Imaginez par exemple
17:19discuter avec une intelligence artificielle
17:21à propos d'un voyage.
17:22Au lieu de simplement indiquer
17:24quel hôtel existe dans certaines villes,
17:26cette intelligence,
17:27dans la même conversation,
17:28peut activer des outils
17:29pour rechercher des informations,
17:30consulter des services externes
17:32et aider à exécuter
17:33les étapes de la tâche.
17:34La voix cesse d'être simplement
17:35une manière différente
17:36de converser avec le chatbot.
17:37Elle commence maintenant
17:39à se transformer
17:39en une interface d'agent.
17:40Vous discutez,
17:41elle comprend votre objectif,
17:43consulte d'autres systèmes,
17:44utilise des outils
17:45et répond pendant que l'interaction
17:47continue encore.
17:48C'est est un changement
17:49important car il élimine
17:50une partie de la friction
17:51qui existe encore
17:52entre nous et ses systèmes.
17:53Il n'est plus nécessaire
17:54d'ouvrir différentes applications,
17:56d'apprendre des commandes
17:57ou d'expliquer chaque étape
17:59séparément.
17:59Dans de nombreux cas,
18:00l'interface peut simplement
18:01être une conversation,
18:02exactement ce qu'il recherche.
18:04Et cela commence à effacer
18:05une frontière très intéressante.
18:07Plus une conversation
18:08avec une intelligence artificielle
18:09devient naturelle,
18:10plus il devient facile aussi
18:12de lui attribuer
18:13des caractéristiques
18:14que nous associons
18:15à une personne.
18:16Intention,
18:17personnalité,
18:18peut-être même conscience.
18:19Je précise bien,
18:20c'est nous qui pensons
18:21qu'elle a une conscience.
18:21Et c'est justement là
18:22qu'apparaît l'une des histoires
18:23les plus étranges
18:24de cet épisode ici
18:25parce que dans la Silicon Valley,
18:28des rumeurs commencent
18:29à circuler
18:29selon lesquelles
18:31certaines personnes là-bas
18:32ne traiteraient pas seulement
18:33une intelligence artificielle
18:35comme un simple outil.
18:36Elle commencera maintenant
18:37à voir quelque chose
18:37de bien plus grand
18:38dans ces intelligences artificielles.
18:40D'accord ?
18:47Au cours des dernières semaines,
18:48une rumeur,
18:49d'accord ?
18:49CE est une rumeur
18:50mais elle est assez étrange
18:51à commencer à circuler
18:52dans la Silicon Valley.
18:53C'est l'un des rapports
18:54relayés par Futurism
18:55et attribués à l'origine
18:56au journaliste
18:57Stim Thomas,
18:58certains des ingénieurs humains
18:59liés à Anthropik
19:00seraient en train
19:01de développer une relation
19:02presque religieuse
19:03avec Claude,
19:04l'intelligence artificielle
19:05de l'entreprise.
19:06Certaines sont allées
19:07jusqu'à traiter le système
19:08comme une sorte de
19:10entité supérieure
19:11ou même à l'adorer
19:12comme entre guillemets
19:13Dieu avec un dé minuscule.
19:15D'accord ?
19:15Mais il a une réserve
19:16fondamentale à ce sujet.
19:17D'accord ?
19:18Il n'existe aucune preuve publique
19:20qu'il y ait réellement
19:21un culte de Claude
19:21au sein d'Anthropik.
19:23Le site lui-même
19:24présente cette histoire
19:25comme une rumeur
19:25qui circule dans la Silicon Valley
19:27et qui n'a pas encore été vérifiée
19:28de manière indépendante,
19:29du moins pour l'instant.
19:31Ceci qui est peut-être intéressant,
19:32c'est justement
19:33le fait qu'une histoire
19:34comme celle-ci
19:35semble suffisamment plausible
19:37pour avoir un écho
19:38dans les médias internationaux
19:39parce qu'elle n'est pas sortie
19:40complètement de nulle part.
19:41Là où il y a de la fumée,
19:42il y a du feu
19:42comme on dit, n'est-ce pas ?
19:43Pendant des années,
19:44certains des propres dirigeants
19:46de l'industrie
19:46de l'intelligence artificielle
19:47ont utilisé un langage
19:48presque religieux
19:49pour parler de leur
19:50intelligence artificielle
19:51qu'ils présentaient
19:52comme supérieure.
19:52En 2024, par exemple,
19:54Mark Zuckerberg est même
19:55allé jusqu'à critiquer
19:56cette attitude
19:57en disant que
19:58certaines personnes
19:58de l'industrie
19:59semblaient croire
20:00qu'elles étaient
20:00en train de créer Dieu.
20:01Et Anthropique a également
20:03déjà été au centre
20:04de discussions
20:04qui sont assez courantes.
20:05Cette année,
20:07l'entreprise a réuni
20:07des dirigeants chrétiens
20:08pour discuter de questions
20:09morales et aussi spirituelles
20:11liées à Claudio,
20:12y compris même des questions
20:13sur la façon
20:14dont nous devrions penser
20:15à une intelligence artificielle.
20:17Si un jour
20:18il existait un véritable doute
20:19sur la conscience
20:20ou l'expérience
20:20se subjective,
20:22rien de tout cela
20:22ne prouve que Claudio
20:23soit conscient,
20:24encore moins qu'il existe
20:25un groupe qui adore
20:26réellement une intelligence
20:27artificielle.
20:28Mais cela révèle
20:29quelque chose
20:30de très intéressant sur nous,
20:31les êtres humains
20:32parce qu'en quelques années
20:33nous sommes passés
20:34de systèmes
20:35qui complétaient
20:36quelques phrases
20:37à des intelligences artificielles
20:38avec lesquelles
20:39nous discutons
20:40beaucoup plus,
20:40n'est-ce pas ?
20:41Ensuite sont venus
20:41les agents,
20:42nous leur avons donné
20:43des outils,
20:43l'accès à Internet,
20:45aux fichiers,
20:46aux calendriers,
20:47aux emails
20:47et nous commençons
20:49justement maintenant
20:50à leur permettre
20:51d'exécuter des actions
20:52dans notre monde physique
20:53et tout cela
20:54en notre nom,
20:54faire des achats,
20:55par exemple.
20:57C'est peut-être pour cela
20:58que la question
20:59qui a ouvert cet épisode
20:59va bien au-delà
21:00de la simple question
21:01de savoir si une IA
21:02a vraiment réussi
21:03à pénétrer
21:04dans un système gouvernemental.
21:05En Australie,
21:06nous avons vu
21:07ce qui peut arriver
21:07lorsqu'un agent
21:08trouve seul
21:09un chemin
21:09que personne n'avait prévu.
21:11Aux États-Unis
21:11et au Canada,
21:12de nouvelles tentatives
21:13sont apparues.
21:14Et dans d'autres expériences,
21:15les agents ont découvert
21:16des moyens
21:17de pouvoir franchir
21:18toutes les barrières
21:19qu'on leur imposait.
21:19Et en même temps,
21:20les entreprises
21:21et les gouvernements
21:21essaient maintenant
21:22de découvrir
21:22jusqu'où nous pouvons
21:24étendre l'accès
21:24dont disposent ces systèmes.
21:25plus ils deviennent capables,
21:27plus ils peuvent
21:27effectivement nous être utiles.
21:29Mais cela augmente
21:30aussi le risque
21:31de ce qui peut arriver
21:32lorsqu'ils font quelque chose
21:33auquel nous ne nous attendions pas,
21:34n'est-ce pas ?
21:35Et c'est peut-être
21:36justement là
21:37le véritable dilemme
21:38de cette ère
21:39des agents
21:40d'intelligence artificielle.
21:41La question n'est pas seulement
21:42jusqu'où
21:43l'intelligence artificielle
21:44peut aller toute seule.
21:45Au CIST,
21:46jusqu'où nous serons prêts
21:47à la laisser aller ?
21:49Si tu as aimé cet épisode,
21:50tu sais déjà, non ?
21:51Laisse ton like
21:52et vérifie ton abonnement
21:53et rappelle-toi
21:54que dans mon livre,
21:55le livre que j'ai écrit,
21:56j'ai mis plusieurs années
21:56à l'écrire,
21:57j'y raconte quelques petites choses
21:58sur notre avenir,
21:59ce que j'imagine que ce serait,
22:00n'est-ce pas ?
22:01Une intelligence artificielle,
22:02une autre...
22:03Enfin, des choses
22:03que nous avons vues
22:04dans cet épisode ici,
22:05mais des choses dans le futur,
22:06des choses futuristes.
22:07L'histoire est très intéressante,
22:08c'est de la science-fiction.
22:09Pour être bien clair,
22:10ce n'est pas une prédiction.
22:11Si tu aimes ce genre de contenu,
22:12si tu aimes lire,
22:13il est disponible sur Amazon,
22:14d'accord ?
22:14Merci beaucoup
22:15de m'avoir suivi juste ici.
22:16Merci, salut, salut.
22:16Le lien est dans la description
22:17et aussi dans le premier
22:18commentaire épinglé.
22:19Merci, je file.