- 2 giorni fa
Categoria
📺
TVTrascrizione
00:05buongiorno a tutti i telespettatori di classe mbc e ben trovati al nostro nuovo approfondimento
00:11beh nuovo oramai già un paio di puntate l'abbiamo fatte age of agents la nostra specialista marcella
00:18d'andrade di admin.it buonasera marce buongiorno marcella e ben ritrovata buongiorno allora abbiamo
00:25fatto già nelle scorse negli scorsi approfondimenti un po' in infarinatura generale tra l'altro abbiamo
00:31anche attivato diciamo un verticale all'interno del nostro sito a video.milanofinanza.it andate
00:38su classe mbc su programmi trovate age of agent perché questo è un verticale che vuole insomma
00:44portarvi in tutto il mondo degli agenti ai da insomma da che non sappiamo niente come si sviluppa a poi
00:51magari arriveremo alla fine che potremmo addirittura farli noi sì però prima di tutto questo dobbiamo
00:59imparare tante cose oggi cosa trattiamo oggi parliamo di un argomento molto importante che è più importante
01:08ancora di cosa può fare un agente diciamo gli accessi mercato quindi è molto importante capire dove
01:16abitano questi agenti dove abitano dove abitano esatto i dati dove vanno a finire
01:23ecco sono sensibilissimo questo tema allora dai da cosa partiamo dove finiscono i dati mattiamone non
01:29da per favore il nostro eccolo qua perfetto quindi partiamo qua da dove finiscono i nostri dati esatto
01:37le domande da farsi esatto quali sono le domande iniziali perché io ho la domanda che mi viene in mente
01:44quando penso ad un agenti ai allora cosa gli posso far fare come lo installo così però prima di tutto
01:52questo
01:52c'è un passo indietro c'è un passo indietro molto più importante infatti vediamo sempre che la persona
02:00il cliente arriva e la prima domanda è cosa posso farlo fare quali sono riesce ad accedere
02:06l'email mandare email eccetera ma si dimenticano esattamente delle domande molto più importante
02:12da fare cioè a livello di server di dati di viaggio del dato dove vanno a finire perché ci sono
02:20due
02:20discorsi qua c'è il discorso LLM che deve essere deve utilizzare diciamo
02:26l'opena io troppo LLM e si sono i modelli linguistici ok ok ok l'agente ai quale modello linguistico
02:35utilizza esatto esatto noi abbiamo parlato di open cloud la volta scorsa e quello decide in base alla richiesta che
02:43fa la persona
02:44che tipo di modello linguistico usare esattamente esattamente è giusto per fare un po di nomenclature c'è
02:52open cloud ma sono frameworks quindi sono in linguaggio tecnico vuol dire la struttura
03:00è di codice che si utilizza poi i fornitori LLM famosi che sono i modelli linguistici large
03:07ok è large language model quindi quelli sono ad esempio i modelli open AI e i modelli cloud che sono
03:14i più famosi
03:14poi ci sono poi ci sono tanti altri esatto quindi alla gente viene dato un elenco di connettori a questi
03:22modelli
03:23che accedono a seconda dell'attività che gli viene richiesto quindi fammi una presentazione lui può utilizzare ad esempio cloud
03:30per ragionare pensare strutturare poi può utilizzare un gpt di open AI per mettere la terra
03:37ah quindi nel in uno in uno in un prompt potrebbero essere più di lead più LLM
03:45sì sì assolutamente è un'attività di fare generare un'immagine creare un video creare un audio
03:52fare una presentazione
03:54sono sempre tanti LLM che interagiscono tra di loro
03:58io invece pensavo che da una richiesta quello decide lì allora uso tutto quello lì invece no
04:02esatto ma questa è la bellezza di un agente perché diversamente da una chat
04:06che diciamo la persona è bloccata in certo modo a quelle funzionalità di quel modello
04:11sei vincolato a quella
04:13esatto la gente invece decide cosa fare
04:16esatto ma la cosa più bella ancora è che la persona non sa neanche non deve dire la persona usa
04:21quel modello
04:22ce lo fa lui in automatico
04:23mi serve una presentazione con un audio con un'immagine con questo e questo e lui dice va bene io
04:28ho qua 50 modelli
04:30ma scusa in base a cosa decide di utilizzare magari un modello linguistico rispetto all'altro o decidi di
04:36mixare i due modelli due LLM ecco quasi quando si crea si crea il codice si può decidere di lasciarlo
04:44100% autonomo e decidere in autonomia il rischio qua è che lui ovviamente deciderà sempre per il modello più
04:50top
04:51cioè anche il più costoso
04:55Invece si può delimitare dire per l'attività meno diciamo non
05:01client ready
05:03Diciamo attività che non siano per consegna al cliente finale utilizzo un modello più base più le bozze
05:09Sì sì ho capito benissimo però tu puoi anche impostarlo magari inizialmente
05:14degli non mi utilizzare il modello che costa di più si può anche non dargli accesso al modello
05:19perché noi gli diamo l'accesso diciamo al modello in generale poi ogni modello ha un elenco una trentina di
05:28ad esempio
05:28Clos e Opus
05:30Sì c'ha Sonnes
05:31Esattamente
05:32O magari le versioni precedenti
05:34Esatto
05:36Quindi lì si in base anche al budget che diciamo l'azienda vuole dedicare a questa gente si può bloccare
05:44un
05:44Un modello piuttosto con altro
05:46Mettere come preferenza un altro
05:48Però prima ancora ecco questa è una cosa che per me è io sono sensibilissimo a questa cosa
05:54cloud
05:55ok
05:57cloud del fornitore cloud privato server del fornitore o server
06:02Ecco qua facciamo quale esempio classico no quindi la persona si apre
06:07Una chat no anche neanche un agente ma anche una chat normalissima può avere anche un abbonamento anche un abbonamento
06:14Anche un abbonamento
06:15Sì quelli 25 euro
06:16Sì
06:17Quelli pro
06:18Cosa
06:19Esatto
06:19Quindi qua si parla di ad esempio un prompt noi diciamo sempre può contenere tante informazioni
06:28Certo
06:29Magari un prompt in questo esempio no preparami una proposta per i clienti rossi
06:33Ecco i dati
06:35Ecco i dati
06:35Cioè io vado a piazzare tutti i miei dati
06:37Una proposta che ho fatto per un altro cliente il mio listino prezzo questo i dati dell'azienda
06:45E qua sono due discorsi perché c'è il discorso dati utilizzati per addestramento e c'è il discorso data
06:55retention
06:56Quindi sono due cose molto diverse perché uno può dire ah ma ho l'abbonamento ultra top che garantisce che
07:03i dati non vengono utilizzati ma la data retention
07:06Non è tua
07:08Sono loro
07:09Esatto
07:10Cioè i dati che io gli carico non sono più miei
07:13Esatto
07:13Sono diventati loro
07:14Restano lì non utilizzano dicono che non utilizzano ma non è in mano a te quindi
07:18Sì no poi io mi posso anche fidare che mi dicono non lo posso utilizzare ma francamente posso anche valutare
07:24che insomma i loro stessi modelli
07:27Una volta che tu gli carichi i dati magari ci danno una sfrucugliatina dentro e dicono ma quello è più
07:31interessante mettiamocelo di lato
07:32Esatto poi più grande l'azienda più persone hanno accesso
07:36E più dati rischiosi e potenzialmente tu lo carichi su
07:40E poi legislazione non
07:41Sì la legislazione ancora diciamo un po'
07:45Esatto
07:45Non c'è proprio
07:46Non c'è proprio ancora sì esatto
07:47Quindi può succedere di tutto
07:48E' un territorio molto delicato
07:51Ah sono perfettamente d'accordo
07:54E quindi?
07:55Quindi ecco e qua
07:58Prima l'esempio era anche con una chat semplicissima ma consideriamo che quando si utilizza un agente si fa la
08:05stessa richiesta
08:06Sì
08:06In più condividiamo gli accessi
08:10Quindi diventa anche più pericoloso perché non solo stai condividendo i dati
08:16Esatto ma ad esempio se l'azienda gli ha dato accesso alla cartella drive, alla mail, ai documenti
08:23E beh ragazzi quando mettiamo cloud sul nostro pc
08:26Non vi chiediate che cloud entra dentro, vede tutto quello che c'è
08:32Insomma poi noi ci affidiamo sempre alla buona cosa antropica cloud per dire un altro così
08:39Però so che cloud c'è proprio l'applicativo per fidare tutto nel computer quindi
08:44Sì sì esatto
08:45Ci fidiamo?
08:47Decidiamo se fidarci o meno
08:49Esatto
08:49Io sono molto su questa cosa dei dati sono molto
08:52Ma deve esserlo, deve esserlo perché i dati sono quindi appunto cloud fornitore e cloud privato
09:00Quindi qui al di là del discorso addestramento dei modelli futuri
09:06Avere un cloud privato diventa importantissimo
09:11Quindi non utilizzare gli abbonamenti per gli agenti
09:15Quindi questa cosa è molto importante
09:17Ma utilizzare sempre via API
09:20Poi più avanti spieghiamo anche un po' più nel dettaglio
09:23Ma l'API praticamente fa la connessione
09:25E teoricamente i dati se io ho il mio agente me lo metto sul mio server
09:31O comunque il server magari di una società che mi ha creato l'agente
09:34Però non sono sul server suo proprio antropica
09:38Esatto esatto
09:41Questa è una cosa che sarà sempre più sentita secondo me
09:46Ancora la sento poca
09:48Perché ancora adesso c'è la festa dell'agente
09:50Ah faccio fare tutta la gente lì
10:04Esatto
10:05Ti devo dire che magari fare anche abbonamenti 20 euro così possono invogliare
10:10Ma un motivo c'è se te lo fanno a 20 euro
10:14Anche perché se poi usi la gente il modello linguistico
10:18Non attraverso il loro abbonamento da 20 euro
10:21E io ce l'ho per esperienza personale
10:23Poi lo paghi
10:25Esatto
10:25Ma lo paghi anche bene
10:27Ma come mai io per non usare E
10:29Pago 150 euro e quello fa 20 euro l'abbonamento mensile
10:33È tutto incluso
10:35Facciamoci delle domande
10:35Facciamoci le domande giuste
10:37Eh?
10:38Come ce le abbiamo da sotto
10:39Perfetto
10:39Con una chat condividi le informazioni
10:42Con un agente condividi anche gli accessi
10:44Quindi è molto importante perché adesso vediamo tanti servizi di agenti
10:49Che anche abbonamenti banalissimi 10-15 euro al mese
10:54Ma da considerare che probabilmente si parla di server condivisi
11:01Server non strutturati, non privati sicuramente
11:05Quindi se si vuole percorrere una strada di inserire degli agenti
11:11Anche diciamo le aziende
11:14Esatto
11:15Va assolutamente presidiato questo discorso
11:18Di crearsi un cloud o almeno un fornitore diciamo europeo
11:23Sì
11:24E che poi noi abbiamo un filo di legislazione migliore con la GDPR
11:28Rispetto poi agli americani dove c'è un po' di Far Westley
11:32Sempre che se arrivano gli americani qua da noi
11:36Dicano oh GDPR, sì sì, bella
11:40Allora il viaggio del dato
11:42Richiesta
11:43App agente
11:45Server in rosso
11:47Modello AI
11:48Esatto
11:49Altri strumenti in rosso
11:51E poi la risposta
11:52Esatto
11:53Perché sono in rosso questi due giorni?
11:54Perché sono i punti che non vediamo
11:56Quindi al solito si fa la richiesta a una chat o un agente
12:00Quello sai chi è
12:01O l'abbonamento
12:03TOT
12:04O questo agente
12:06Il server
12:07Non lo sai dove
12:08Quella richiesta deve essere
12:11Deve passare da un server
12:29Sì
12:30Non lo sappiamo neanche perché
12:32Cosa chiediamo per altri strumenti?
12:33Perdona
12:34Intendo ad esempio
12:35Chiede un'app
12:36Generami un video
12:38Ok
12:38Quindi
12:39Server
12:40Non lo sappiamo
12:41Modello
12:41Ah sì, sto usando
12:42ICT, Eleven Labs
12:44Eccetera
12:44Altri strumenti
12:45C'è
12:46Manda tutti i dati
12:47Ad esempio
12:47A un fornitore cinese
12:49Di costruzione del video
12:52Ah
12:53Ecco
12:54Quindi quando si utilizza
12:56Una SaaS
12:57Un'applicazione
12:59Non sappiamo
13:00Sappiamo
13:01Quello che è diviso
13:02Sì, idealmente
13:03Ma di preciso
13:05Non sappiamo
13:05Non si sa
13:06Esatto
13:06Non si sa
13:07E non riusciamo a sapere
13:08Non si riesce a sapere
13:09A meno che sia il fornitore
13:10O che sia chiaro
13:12Esatto
13:12Quindi bisogna stare molto attento
13:14Anche con gli agenti
13:15Ad esempio qua
13:16Nel caso della gente
13:17Se se lo fa
13:20Presidiano tutti i punti
13:22Ovviamente
13:23Poi lì si riesce
13:24Ad avere la visibilità
13:25Su tutto
13:26Quindi qua il discorso
13:27È da stare attenti
13:28Sui prodotti
13:31Diciamo già
13:32Sul mercato
13:33Che sono
13:34Fai l'abbonamento
13:35Hai questa mail
13:36Inizia a utilizzare
13:39Eh
13:41Rientriamo un po'
13:43Allora
13:43Abbiamo un paio di minuti
13:44Mi sa che dobbiamo velocizzarci
13:46Vai Marcella
13:47Cloud non vuol dire una cosa sola
13:49C'è una differenza enorme
13:50Tra usare un'app
13:51AI cloud
13:51E avere un cloud privato
13:53Esatto
13:54Esatto
13:55Esatto
13:55Qui giusto
13:56C'è la gente
13:57È cloud
13:58Va bene
13:59Oppure cloud
13:59Non va bene
14:00Non è detto
14:01Come abbiamo detto
14:02Ci sono due tipologie di cloud
14:04Cioè cloud
14:05È sempre il server
14:06Diciamo
14:07Che si accede via cloud
14:09Comunque esiste sempre fisicamente
14:10Sì sì
14:10La nuvoletta
14:12Mi piace
14:12Esatto
14:13L'elettricità
14:15Consumo
14:16Eccetera eccetera
14:17Quindi cloud privato
14:18Non vuol dire
14:19Dover avere la struttura fisica a casa
14:21Che costerebbe
14:22No il server
14:23Ma ti appitti un server
14:24Esatto
14:25Ci sono mille fornitori
14:26Esatto
14:26Questo è importante
14:28Controllo riservatezza
14:29Modelli AI non performanti
14:31100% privato
14:32Solo con architettura
14:33E modelli adatti
14:34Esatto
14:34Qua si parlano
14:35Dei server on premise
14:37Che è un discorso
14:38Che diciamo
14:39C'è tanto in giro
14:42Dove si porta a casa
14:44Un server fisico
14:45E lì dentro
14:47Si installa un modello linguistico
14:48Quindi qua
14:49C'è zero viaggio del dato
14:52Il dato è contro
14:54Ovviamente
14:55In modelli
14:56Non si riesce a scaricare
14:58Un modello linguistico
14:59Un large
15:01Quindi si riesce a scaricare
15:02Soltanto i modelli small
15:04Che sono i modelli piccolini
15:05Ovviamente
15:05La performance
15:06È molto diversa
15:07Quindi si perde in qualità
15:09Ma per qualche attività
15:10Si riesce a fare
15:11Si può fare
15:12Si attività di ricerca
15:13Attività di
15:14Clusterizzazione dati
15:15Organizzazione
15:16Riesci con
15:17Gli LLM diciamo
15:18Minori
15:19E scaricabili
15:19Quelli open source
15:20Si si
15:21Sono anche leggerissimi
15:2230 40 gigabyte
15:24È pochissimo
15:25Quindi
15:25Non serve neanche
15:26Un super server
15:28Il mio agente mi ha detto
15:29Che mi dovevo fare
15:30Con il raspberry
15:31Me lo potevo fare a casa
15:33Eh
15:34Si si si può
15:35Ci sono
15:35Si chiamano
15:36SML
15:37Small language models
15:40Quindi LLM
15:41SLM
15:42Fantastico
15:43Sì
15:44Perimetro di sicurezza
15:45Esatto
15:46Qua
15:48Quindi quasi
15:48Ritorniamo un po'
15:50Nel discorso
15:50Cosa chiedere
15:51Quando diciamo
15:52Si inizia questo percorso
15:53Quindi
15:54A il server
15:55B
15:56Cosa la gente può vedere
15:57Quindi anche se si fa
15:58Alla gente a casa
15:59E a cosa gli darò accessi
16:01Alla mail
16:01Ai file
16:02CRM
16:03E poi
16:04Ah la domanda da fare ai fornitori
16:06Questo è importante
16:07Esatto
16:08Non solo che modello usate
16:10Ma che tipo di server
16:11Segnatevele queste
16:12Perché sono domande importanti
16:14Che tipo di server è
16:15Dove il server
16:16Usa o Cina
16:18Che per me sia l'agente
16:19Esatto
16:20E chi ha l'accesso al server
16:21Esattamente
16:22Queste sono le domande giuste da porre
16:24Mi raccomando queste segnatevele
16:26Perché è una roba decisamente importante
16:29Per poi arrivare a
16:31Eccolo qua
16:34Quando c'è una cosa che non paghi
16:36Alla fine il prodotto sei tu
16:37Se una I è gratuito
16:39Probabilmente
16:40La stai pagando con i tuoi dati
16:41Esatto
16:42Gratuito
16:43Troppo buona per essere vero
16:45E' troppo bello
16:46Anche perché
16:46Insomma
16:47L'energia per far girare
16:49Questi modelli linguistici
16:51La pari
16:51Quindi
16:53Marcella
16:53Grazie
16:54Abbiamo fatto un infarinatore generale
16:56Ma adesso
16:57Iniziamo a entrare
16:58In cosa
16:58Attenzione
16:59Perché non è tutto rose e fiori
17:00E ci sono degli accorgimenti
17:02Da utilizzare
17:03Perché se no
17:03Metti a rischio
17:04Insomma sicurezza
17:05Soprattutto dei tuoi dati
17:07Soprattutto se sei un'azienda
17:08Esatto
17:11Marcella De Andrade
17:12Admin.ai
17:13La nostra specialista
17:15Per gli agenti AI
17:16Ci vediamo venerdì prossimo
17:17Grazie
17:17Grazie
17:18Terminiamo qui il nostro approfondimento
17:20Age of Agents
17:21Grazie a tutti per l'attenzione
17:22E rimanete come sempre su Classi ABC
17:24Grazie a tutti
17:26Grazie a tutti
17:27Grazie a tutti
17:28Grazie a tutti
17:29Grazie a tutti
Commenti