- il y a 53 minutes
- #rtxspark
Tout savoir sur NVIDIA RTX Spark 👉 https://shop.frandroid.com/rtxsparkyt
Tous les PC portable RTX Spark chez la Fnac 👉 https://shop.frandroid.com/2xk8nice
Nvidia vient de sortir une nouvelle puce pour PC, capable de faire tourner de gros modèles d'IA en local. Oui, mais pour quoi faire exactement ? Arnaud a pris en main l'un de ces fameux PC portable RTX Spark et fait simulé 3 scénario dans lesquels un agent IA est capable de faire des actions chronophages bien pratiques à sa place.
Sommaire :
00:00 Cette machine fait tourner de l'IA sans abonnement
1:20 La nouvelle vie d'Arnaud
1:57 Ce qu'on a installé sur ce PC IA
2:40 Comment une IA locale nettoie la boîte mail d'Arnaud
4:05 Pourquoi Nvidia RTX Spark est la boss de l'IA locale
6:11 Nemotron prend les billets d'avion d'Arnaud
7:23 Une IA locale pour trier les photos de son disque dur
9:06 C'est pratique une IA en local alors ?
Remerciements spécial à Ulrich Rozier pour son énorme coup de main sur l'interface mail / comparateur de vol / galerie de photos de cette vidéo.
🤝 VIDÉO SPONSORISÉE
Cette vidéo est réalisée en partenariat avec @NVIDIAFrance . Merci à eux de soutenir Frandroid. Certains liens peuvent être affiliés : cela ne change rien pour vous mais ça nous aide à financer nos contenus et rester indépendants.
À découvrir aussi :
• Notre émission tech “Unlock” : https://www.youtube.com/@unlocktalk
• Notre chaîne dédiée à la voiture électrique : https://www.youtube.com/@Survolt%C3%A9s
• Toute l’actu tech : https://www.frandroid.com
Suivez Frandroid :
• Twitch : https://www.twitch.tv/frandroidlive
• Instagram : https://www.instagram.com/frandroid_off/
• TikTok : https://www.tiktok.com/@frandroid_
• Twitter : https://twitter.com/frandroid
• Discord : https://discord.com/invite/frandroid-311789172149190657
• Facebook : https://www.facebook.com/frandroidcom
👍 Un like si cette vidéo vous a aidé
📝 Vos questions en commentaire
🔔 Abonnez-vous pour ne rien manquer de l’actu tech
#rtxspark
Tous les PC portable RTX Spark chez la Fnac 👉 https://shop.frandroid.com/2xk8nice
Nvidia vient de sortir une nouvelle puce pour PC, capable de faire tourner de gros modèles d'IA en local. Oui, mais pour quoi faire exactement ? Arnaud a pris en main l'un de ces fameux PC portable RTX Spark et fait simulé 3 scénario dans lesquels un agent IA est capable de faire des actions chronophages bien pratiques à sa place.
Sommaire :
00:00 Cette machine fait tourner de l'IA sans abonnement
1:20 La nouvelle vie d'Arnaud
1:57 Ce qu'on a installé sur ce PC IA
2:40 Comment une IA locale nettoie la boîte mail d'Arnaud
4:05 Pourquoi Nvidia RTX Spark est la boss de l'IA locale
6:11 Nemotron prend les billets d'avion d'Arnaud
7:23 Une IA locale pour trier les photos de son disque dur
9:06 C'est pratique une IA en local alors ?
Remerciements spécial à Ulrich Rozier pour son énorme coup de main sur l'interface mail / comparateur de vol / galerie de photos de cette vidéo.
🤝 VIDÉO SPONSORISÉE
Cette vidéo est réalisée en partenariat avec @NVIDIAFrance . Merci à eux de soutenir Frandroid. Certains liens peuvent être affiliés : cela ne change rien pour vous mais ça nous aide à financer nos contenus et rester indépendants.
À découvrir aussi :
• Notre émission tech “Unlock” : https://www.youtube.com/@unlocktalk
• Notre chaîne dédiée à la voiture électrique : https://www.youtube.com/@Survolt%C3%A9s
• Toute l’actu tech : https://www.frandroid.com
Suivez Frandroid :
• Twitch : https://www.twitch.tv/frandroidlive
• Instagram : https://www.instagram.com/frandroid_off/
• TikTok : https://www.tiktok.com/@frandroid_
• Twitter : https://twitter.com/frandroid
• Discord : https://discord.com/invite/frandroid-311789172149190657
• Facebook : https://www.facebook.com/frandroidcom
👍 Un like si cette vidéo vous a aidé
📝 Vos questions en commentaire
🔔 Abonnez-vous pour ne rien manquer de l’actu tech
#rtxspark
Catégorie
🎥
Court métrageTranscription
00:00Attends, je vais te poser une question en deux secondes.
00:02Si je te dis « galaxie », tu dis quoi comme mot derrière ?
00:05Univers ?
00:06Ouais. Et si je te dis « smartphone » ?
00:09Samsung.
00:10Bah voilà. T'es une IA.
00:14L'IA, ce n'est pas qu'une simple recherche Internet. C'est de la statistique.
00:19Elle répond par probabilité de bonnes réponses.
00:22Une IA générative, c'est avant tout un système gigantesque de prédictions.
00:26Elle a appris à reconnaître des milliards de relations entre les mots,
00:29des images, des informations.
00:31Et pour effectuer ces calculs, elle a besoin d'une base de connaissances.
00:35Alors, quand elle est reliée à Internet, c'est génial, non ?
00:38Bah, pas tout le temps.
00:39Quand vous parlez à ChatGPT, vous ne savez pas où vos données partent.
00:43Peut-être qu'elles enrichissent la base de données d'une méga entreprise américaine
00:46et peut-être que la confidentialité de vos informations sera mise à mal à l'avenir.
00:50On ne sait pas.
00:51Sauf que jusque-là, on n'avait pas vraiment le choix.
00:53L'intelligence artificielle, c'est tellement gourmand en énergie et en ressources
00:56que ça tourne forcément sur des data centers éparpillés à travers le monde.
01:00Alors, pourquoi je m'embête à vous expliquer ça ?
01:02Et bien, tout simplement parce que cette machine fait tourner l'IA sans aucun abonnement.
01:07Cette vidéo, elle est sponsorisée par Nvidia et si ce challenge est possible,
01:11c'est parce qu'ils ont créé une puce suffisamment puissante
01:13pour faire tourner l'intelligence artificielle sur votre ordinateur en local,
01:18la RTX Spark.
01:20Et pour la tester, je me suis inventé une petite vie en parallèle.
01:23Dans cette histoire, je suis photographe en freelance.
01:25J'ai une fille de 6 ans, Léa, une compagne qui s'appelle Julie,
01:29des clients parfois un peu particuliers et surtout une boîte mail qui est pleine.
01:32Pour l'exercice, on a donc développé trois applications,
01:35une messagerie, une photothèque et un comparateur de vol.
01:38On les a remplies avec ces données fictives,
01:41mais le principe fonctionnerait tout autant sur votre boîte mail Gmail ou Outlook
01:45et dans la galerie photo de votre ordinateur.
01:47Là, on a juste tout créé parce que je n'allais pas non plus vous montrer ma vraie boîte mail,
01:50pas parce que j'ai des secrets à vous cacher,
01:52mais parce que j'ai plutôt un peu honte de mes 4800 mails
01:55qui attendent d'être ouverte depuis 2022.
01:58Bref, on a installé sur cette machine une IA,
02:00ainsi que sa base de connaissances.
02:02Attention, ça ne s'installe pas comme une vulgaire application
02:04et cette base de connaissances, ça ne pèse pas 300 mégas.
02:07On est sur un beau bébé de plus de 20 gigas
02:09et encore, ce n'est pas la plus grosse.
02:11Alors, je vous présente Mémotron.
02:13C'est un modèle d'IA en téléchargement libre conçu par Nvidia.
02:16Et lui, c'est le cerveau.
02:18Mais un cerveau seul, ça discutera en mode tchat GPT, mais ça ne fait rien de plus.
02:22Pour qu'il passe à l'action, je l'ai associé à Hermès.
02:25C'est lui qui lui donne accès à mes applis
02:27et qui exécute ce que Mémotron décide et lui renvoie le résultat.
02:31Le cerveau et les mains, finalement.
02:33Tout ce système que je viens de vous décrire,
02:35j'aurais pu vous le définir en un seul mot.
02:37C'est un agent IA.
02:39Voilà donc ma boîte mail fictive.
02:41220 messages dont 151 n'ont lu.
02:44Il y a des clients qui attendent des réponses, des factures, des rendez-vous, des newsletters
02:47et des messages de ma famille.
02:49Et on a ajouté plusieurs tentatives d'arnaques.
02:51C'est simple.
02:52Dans un premier temps, je vais demander à Hermès de remettre tout en ordre.
02:55Et je ne veux pas un simple résumé.
02:57Je veux qu'il classe les messages, repère les arnaques, prépare les réponses et organise mes rendez-vous.
03:02Je lui donne ma consigne et on va le regarder travailler.
03:06Donc là, on le voit bien, Hermès commence par examiner mes mails,
03:09puis les déplace dans les dossiers qui lui semblent appropriés.
03:11Et sur la droite, je peux suivre les actions qu'il demande à effectuer.
03:14Par exemple là, j'ai deux mails qui sont plutôt importants, voire même alarmants.
03:17Une véritable alerte bancaire et une tentative de phishing qui lui ressemble énormément.
03:22Et là, Hermès parvient à identifier le faux message grâce à son expéditeur et au contenu du mail
03:27et donc à trier et à me laisser à la fin que les informations essentielles que je devrais vérifier.
03:31Autre exemple, il se contente pas juste de lire l'objet des mails,
03:34mais il peut aussi ouvrir les pièces jointes, examiner une facture
03:37et en reporter le montant dans mon tableau.
03:39Trop pratique.
03:40Il ajoute également les rendez-vous à mon agenda, prépare des brouillons de réponses.
03:43Et attention, rien n'est envoyé.
03:45Je garde la possibilité de vérifier ce que l'IA a écrit pour l'envoyer par la suite.
03:50Bon, clairement, le résultat est assez cool.
03:52On vérifiera tout à l'heure si vraiment il a bien fait son travail.
03:54En attendant, il y a un message qui m'intéresse pour la suite.
03:57Il y a ma pote Inès qui fête ses 40 ans à Lisbonne
04:00et elle m'a relancé parce que j'ai toujours pas confirmé ma présence.
04:03Et bah allons au bout du challenge.
04:04Je vais demander à Hermès d'organiser ce voyage pour moi et de tout réserver.
04:08Allez, je rédige le prompt et c'est parti.
04:10Bon, en attendant de voir le résultat, là vous vous dites peut-être
04:13Attends mais Arnaud, pourquoi ce PC et particulièrement cette puce RTX Spark
04:18est plus capable de faire ce genre de tâche en IA alors que moi aussi j'ai un PC bien
04:22puissant à la maison ?
04:23Dans un PC classique, vous avez deux composants séparés.
04:26Le processeur d'un côté, c'est lui qui permet de faire tourner Windows et toutes les applications,
04:31comme dans n'importe quel PC, et la carte graphique de l'autre.
04:33Et chacun a sa propre mémoire.
04:36Le processeur à la RAM et la carte graphique à la sienne, la VRAM.
04:40C'est comme deux pièces dans une maison séparée avec chacune son placard.
04:44Et pour travailler ensemble, il faut sans cesse faire des allers-retours dans le couloir.
04:49Le problème, c'est que la mémoire rapide dont l'IA a besoin, c'est celle de la carte graphique,
04:54la VRAM.
04:54Et l'imitation, même sur les cartes graphiques les plus haut de gamme du marché, on plafonne aux 32Go de
05:00VRAM.
05:00Un gros modèle d'IA, ça rentre tout simplement pas dans ce placard.
05:03Alors, avec la RTX PARC, Nvidia casse les murs carrément de la maison.
05:09Le processeur et la partie graphique sont sur une seule et même puce conçue entièrement par Nvidia.
05:14Et surtout, ils partagent un seul grand et même placard.
05:18C'est ce qu'on appelle la mémoire unifiée.
05:21Plus d'allers-retours dans le couloir, tout le monde se sert au même endroit.
05:24Et ce placard, il peut monter jusqu'à 128Go de RAM.
05:27Alors attention, la mémoire unifiée, c'est pas une invention d'Nvidia récente.
05:31Il y a un autre très gros concurrent qui l'utilise notamment sur ses ordinateurs.
05:34La vraie nouveauté ici, c'est de la trouver sur un PC Windows.
05:37Avec ce niveau de puissance et avec une puce entièrement signée Nvidia.
05:41Processeur compris.
05:42En gros, ce qu'on allait chercher dans un datacenter,
05:44aujourd'hui, ça tient actuellement dans ce petit ordinateur.
05:47Bon, vous vous demandez peut-être à quoi on pourrait comparer cette RTX PARC en termes de puissance.
05:51D'après ce qu'on sait, c'est qu'on est autour d'une RTX 5070 de PC portable.
05:56En gros, elle peut faire tourner des gros jeux, des logiciels assez gourmands sans soucis.
06:00Mais, vous l'aurez compris, ce qu'il faut pour faire tourner l'IA, c'est de la mémoire.
06:05Et clairement, c'est la vraie force de cette puce.
06:07Dans cet ordinateur portable, par exemple, j'ai 64Go de mémoire vive.
06:10Alors, c'est bon, le PC a terminé son travail concernant mon voyage à Lisbonne.
06:15Et c'est assez ouf de le voir faire.
06:17On voit vraiment la petite souris qui se déplace tout seul.
06:19Il remplit les champs de texte tout seul.
06:21Il regarde vraiment bien les informations que j'avais reçues dans le mail d'invitation
06:24pour pouvoir trouver le trajet adapté.
06:26Il renseigne toutes les informations me concernant pour le vol
06:29qu'il a dans sa base de connaissances qu'on lui a fait en local.
06:32Donc, aucune autre entreprise ne possède ces informations sur un serveur
06:35qui est placé je ne sais où.
06:36Et c'est même assez impressionnant.
06:37Il compare les prix des billets.
06:39Il a repéré un vol pas cher mais qui est à 5h du matin.
06:42Donc, il l'écarte.
06:43Merci pour mon confort.
06:44Le but, c'est de partir en voyage, pas de survivre au voyage.
06:46Et donc, j'ai bien reçu une proposition de billet aller-retour pour mon voyage.
06:50Il n'y a plus qu'à payer.
06:51Et ça, c'est vraiment un peu magique.
06:53Enfin non, c'est statistique.
06:55Vous l'aurez remarqué, pour ce test, on a créé notre propre comparatif de vols fictifs.
06:59Ça n'existe pas, ça, sur Internet.
07:01Donc, je n'ai pas vraiment réservé un billet d'avion sur une vraie compagnie aérienne.
07:05Le but, c'est juste de vous en faire un exemple.
07:07Mais ça permet d'observer les décisions de l'agent dans ce genre d'environnement.
07:11Et je trouve que là, c'est une vraie bonne façon d'utiliser un agent IA.
07:13En lui confiant les tâches qu'on pourrait dire pénibles.
07:16Mais tout en gardant la main sur des moments cruciaux comme le moment du paiement.
07:20Je ne suis pas fou non plus.
07:21Je n'ai pas mis dans la base de données ma carte bancaire.
07:23On a vu que Némotron savait traiter du texte sans problème.
07:26Mais le modèle qu'on utilise est également capable d'analyser des images.
07:29Alors, j'ai pris un peu moins de 200 photos de moi, le mec un peu mégalo.
07:33Mais en rafale, qui fait avec des grimaces, des photos floues, des photos bougées.
07:37Et je vais lui demander de faire le tri.
07:40Je vous rappelle quand même que dans ma vie fictive, je suis un photographe en freelance.
07:44Et donc, trier des photos, c'est quelque chose que je suis censé faire quotidiennement.
07:47Et autant vous dire que c'est pas le moment le plus créatif de ma journée.
07:50Sur une première sélection de 22 photos, Hermès demande à Némotron de repérer les meilleures images de chaque série.
07:56Le modèle, il analyse le contenu de la photo, identifie certaines expressions.
07:59Et repère notamment les yeux fermés ou le flou.
08:01Et là, je vois qu'il conserve 4 photographies.
08:04Il m'a même proposé d'appliquer des corrections d'exposition, de couleurs, etc.
08:08Plutôt sympa.
08:08Et franchement, je trouve ça assez cool de voir que ça fonctionne.
08:11Mais surtout que tout ce que je fais, ça part pas dans un serveur à distance.
08:14Ces photos, j'ai pas forcément envie de les partager à tout le monde.
08:16En tant que professionnel, dans ma vie fictive, je pense que mes clients comptent aussi sur ma confidentialité.
08:22Tout est clair sur l'interface et le résultat me semble cool.
08:24Alors juste pour être transparent avec vous, ça prend forcément du temps de faire ses tâches.
08:28Evidemment, cette vidéo elle est montée, donc vous avez pas le temps réel du travail de l'ordinateur.
08:32Ça a pris environ 15 minutes pour le traitement de mes mails.
08:35A peu près une minute pour le comparatif de vol, assez rapide.
08:385 minutes pour la partie photo.
08:40Et bien sûr, vu la puissance demandée, un peu comme quand on lance un gros jeu vidéo,
08:43l'autonomie et la chauffe de l'ordinateur, elle est forcément très sollicitée.
08:47Donc mon conseil si vous faites de l'IA en local, c'est de garder votre chargeur pas loin de
08:50vous quand vous lancez les promptes.
08:51Le vrai avantage, c'est que l'IA va enchaîner les actions pendant que vous, vous faites autre chose.
08:55Et ce, sans jamais transférer quoi que ce soit dans un cloud.
08:58Et tout ça sans payer aucun abonnement.
09:00Alors certaines personnes pourraient y avoir une certaine rentabilité sur le long terme.
09:03Ça forcément, je peux pas vous le promettre, c'est à tester.
09:05Alors pour conclure, qu'on se le dise, le résultat il est impressionnant.
09:08Ça tourne en local.
09:09C'est pas pour autant magique.
09:11L'installation du modèle d'IA est la reste technique, je vous ai passé les détails.
09:14Mais faut préparer les outils, surveiller les erreurs avant de se lancer dans le grand bain.
09:18Mais cette expérience, elle m'a quand même montré qu'une IA n'avait pas forcément besoin d'être connectée
09:22à internet pour être utile et pratique.
09:23Mon conseil est simple, suivez-nous sur Frandroid puisqu'on va tester toutes les machines qui vont sortir avec la
09:28RTX Spark.
09:30Donc comptez sur nous pour vous dire quel sera le meilleur ordinateur pour faire tourner de l'IA en local
09:34chez soi.
09:34Dans tous les cas, je remercie encore une fois Nvidia de soutenir notre chaîne YouTube en étant le sponsor de
09:39cette vidéo.
09:39Et en nous ayant envoyé à d'avance cet ordinateur portable qui est équipé de leur toute nouvelle puce, la
09:44fameuse RTX Spark.
09:46Vive la technologie, vive l'IA et surtout vive la mémoire unifiée.
09:49Ciao !