- hace 3 minutos
Suscríbete a nuestro canal de OKDIARIO en Youtube aquí 👉🏻 @Okdiariovideos
Puedes seguirnos también en todas nuestras redes sociales 📲
Ⅹ: https://x.com/okdiario
📲 TikTok: https://www.tiktok.com/@okdiario_oficial
📸 Instagram: https://www.instagram.com/okdiario/
📖 Facebook: https://www.facebook.com/okdiario
✅ Whatsapp: https://whatsapp.com/channel/0029VaCjbbxFnSzGeOnBQb2V
Y por supuesto en nuestra web:
🖥️: https://okdiario.com/
Puedes seguirnos también en todas nuestras redes sociales 📲
Ⅹ: https://x.com/okdiario
📲 TikTok: https://www.tiktok.com/@okdiario_oficial
📸 Instagram: https://www.instagram.com/okdiario/
📖 Facebook: https://www.facebook.com/okdiario
✅ Whatsapp: https://whatsapp.com/channel/0029VaCjbbxFnSzGeOnBQb2V
Y por supuesto en nuestra web:
🖥️: https://okdiario.com/
Categoría
🗞
NoticiasTranscripción
00:00Saludamos en primer lugar a Carlos Rodríguez Sau, socio de Andersen y también fanático de la tecnología, por lo que
00:06ya he empezado a conocerte.
00:08Así que nada, quería preguntarte, ¿es posible innovar en la IA, con la IA, en el mundo del derecho?
00:15Eso sí, sin sacrificar esa seguridad jurídica, ¿son objetivos en tensión?
00:19Bueno, yo creo que, curiosamente, yo llevé innovación en mi anterior firma, entonces, abogado de innovación es a veces una
00:27cosa que no casa muy bien en la palabra,
00:29pero yo te diría que la IA sí que está permitiendo, en todo caso, que haya un abogado que innove
00:35y haga nuevos servicios jurídicos
00:37versus el abogado que está utilizando la IA, quizá para sustituir tareas, entonces, es ahí un poco la doble alma.
00:44Yo creo que los despachos de abogados nos enfrentamos, por un lado, al drama de qué hacemos con los juniors,
00:50qué introducimos, qué pasa con el ahorro de costes, qué tal, versus nuevos modelos de prestación de servicios.
00:57Es decir, aquí hay cosas que yo, con todo el mundo lo ha dicho aquí, dice, el dato es el
01:01rey, ¿no?
01:01A mí, si me dejan meter mi IA en los ficheros de las empresas, soy capaz de revisarle todos sus
01:08contratos a lo largo y a hecho del mundo,
01:09en cualquier idioma. ¿Por qué? Porque tengo esa capacidad, tengo ya agentes, los tengo ya entrenados.
01:15Entonces, sin eso, me tienen que mandar informaciones, como antes.
01:20Entonces, el problema es ir ahí y decirle, yo no te voy a cobrar por lo que antes era leer
01:26un contrato,
01:27pero te voy a cobrar por leerte todos los contratos y darte pautas de cosas que están mal y aún
01:32no te has dado cuenta,
01:33cómo negociarlas en el futuro, etcétera.
01:34Entonces, yo te diría que innovación, derecho y IA no están en absolutos rimidos
01:39y que precisamente el reto de los abogados, para no caer en el drama de la reina roja, ¿no?
01:44De Alicia en el País de las Maravillas, que es que todos metemos la misma IA y llegamos casi a
01:47las mismas conclusiones,
01:48imaginemos que todos manejamos el mismo chat GPT, es como yo le demuestro a mi cliente que sé hacer cosas
01:55distintas,
01:55que seguramente le ahorro costes, pero sobre todo que le doy mucho más valor que antes.
02:00Pues muy interesante.
02:01A continuación saludamos también a David Pedreño Ripín, responsable de gestión de cuentas de Iberia,
02:07de One Million Bot, empresa líder en agentes IA, soluciones IA medida y COE para sectores público, privado, universidades, etcétera,
02:16¿no?
02:16Así que nos va a dar una perspectiva única, vamos, entrando en harina, ¿no?
02:20¿Cómo se diseña, por ejemplo, eso, un sistema de IA, esos chats, vos, asistentes que se empiezan a generalizar,
02:27pues con ese objetivo de no perder la seguridad jurídica, pero dar un buen servicio a la persona?
02:35Bueno, muchas gracias por la invitación.
02:38Yo creo que aquí Carlos ha dado con la tecla y es que la seguridad jurídica ha de estar desde
02:44el inicio,
02:45desde el diseño técnico, ¿no?
02:46Yo creo que tradicionalmente, pues igual el tecnólogo estaba un poco reñido con el abogado,
02:51porque el abogado era el que le ponía pestillo a sus grandes innovaciones y ponía problemas, ¿no?
02:57Antes de pasar a producción y creo que eso poco a poco tiene que ir cambiando,
03:02ya está cambiando, la alianza que tiene One Million Bot con Andersen es prueba de ello
03:06y creo que cuando se establece desde el diseño de la solución una colaboración entre el abogado y el técnico,
03:14en realidad nos damos cuenta que hay cierta correlación, o sea, por ejemplo,
03:18si cogemos el ejemplo de un asistente conversacional, de un chatbot,
03:22antes la decisión técnica era a qué va a responder, ¿no?
03:25A qué va a responder el asistente virtual y si va a responder correcto o no, muy binario, muy sí
03:31o no.
03:32El abogado, que yo creo que el gris es vuestra especialidad y no tanto lo binario,
03:40se acerca más a lo que tiene que ser a día de hoy el diseño técnico,
03:43que es qué fuentes va a utilizar para responder, es auditable esa respuesta
03:48y la fuente de dónde ha recogido esa respuesta,
03:52y luego un aspecto clave que es quién rinde cuentas por esa respuesta, ¿no?
03:57Dentro de la organización y de la estructura de gobernanza que esté establecida en la institución o la empresa.
04:03Entonces yo creo que esa es la clave, que colaboren el abogado y el técnico,
04:08que desde el diseño tecnológico se incorpore ya la norma y el reglamento
04:14y que en producción luego sea un espejo de esa colaboración.
04:18Pues fundamental esa integración, ¿no?
04:20Entre tecnólogo y abogado, que no falle la IA y que sea auditable, ¿no?
04:25Que comentabas que fundamental eso que hablábamos también antes de entrar aquí,
04:29que es gestionar el riesgo de forma proactiva, ¿no?
04:31Y no reactiva después de que haya un fallo, un desastre, ¿no?
04:37¿Lo ves igual también, que es muy importante esa auditoría
04:42y que es el desarrollo tecnológico vaya acompañado también de sistemas de control?
04:47Sí, sí, por supuesto que sí, eso es fundamental.
04:49Pero a mí me gustaría enlazar esta mesa con la anterior,
04:51porque ha habido una cosa que han puesto encima de la mesa muy graciosa,
04:54tanto por la parte del Ayuntamiento de Madrid como por la parte de Benoit,
04:58que decían, oye, ¿qué pasa cuando nos cambiamos un sistema de ella, no?
05:01¿Qué pasa cuando hay una migración?
05:02Y yo creo que si respondes a esa pregunta te das cuenta de cuál es el gran riesgo jurídico
05:07y también de cuál es el gran riesgo económico de cualquier implantación de ella.
05:10El primero es que nosotros, por ponerlo de una manera de ejemplo,
05:13cuando nosotros contratamos una licencia de Word,
05:16nunca hay duda de que quien hace el texto es el humano,
05:19y el humano el empleado de la organización.
05:22Cuando tú contratas un servicio de IA, CHAP-GPT, hay dos grandes preguntas.
05:26Uno, ¿quién hace qué? Es decir, ¿lo hace CHAP-GPT o lo haces tú?
05:31La respuesta a esta más básica es, tú haces el prompting famoso que es la instrucción,
05:36pero el señor da el resultado, perdón, la máquina da el resultado.
05:39Y dos, ¿cómo lo hace la máquina, de quién es ese resultado?
05:43Y entonces ahí el problema es que normalmente nuestras leyes de propiedad intelectual
05:46van a decir que el resultado es de la empresa de servicios.
05:49Antes nadie diría que porque yo utilizo un Word,
05:52el artículo periodístico es de Microsoft, o de Microsoft, ¿no?
05:55No, es del periódico, y o está la autoría personal,
05:59el conocimiento de lo que es una creación artística, periodística, etc.
06:03Bien, pues esto se rompe.
06:05Es decir, cuando lo hace la máquina, no lo hace un humano.
06:08Por tanto, la ley de propiedad intelectual determina que lo hace aquel
06:12que ha diseñado, en teoría, el programa.
06:14Luego te lo podrá ceder.
06:15Por tanto, todos los resultados que se hacen de IA, en principio,
06:19son adscritos a la compañía de IA.
06:21Entonces, por eso, los abogados y los tecnólogos tenemos que empezar a hablar.
06:24Porque los tecnólogos muchas veces recogen además esa tecnología
06:27de una manera que se llama open source, es decir, son licencias libres,
06:29o incluso el famoso empleado que lo utiliza a Strangis,
06:33que es el Shadowia, lo coge a través de una licencia gratuita.
06:35Entonces piensa que, como es gratis, no pasa nada.
06:37No, primero, es gratis, no te lees las condiciones generales de contratación,
06:40y te puede ocurrir, primero, que ni te lo cedan.
06:42Con lo cual ya tienes un problema.
06:44Es decir, no es mío, me lo dejan utilizar siempre y cuando,
06:47hasta que ocurra, no sé qué, y ahí entramos los abogados y tal.
06:49Ese sería el problema de la migración.
06:51Cuando voy a migrar, todo eso que he generado, todo ese enojado,
06:54todos esos datos, no ya los datos de mis clientes,
06:57sino los datos asociados a la prestación del servicio
06:59que le he dado a los clientes, ¿son míos o son suyos?
07:02Buena pregunta, ¿no?
07:03Muy buena pregunta.
07:04Pues el primero es, eso hay que resolver.
07:06Lo segundo, lo segundo es que, como las leyes están por encima de los acuerdos,
07:11ya ha ocurrido, que incluso cuando las compañías te dicen,
07:14no, la compañía de ella, por ejemplo, esto es tuyo,
07:16y aquí voy a traer un ejemplo periodístico, ya que estamos en el entorno,
07:18es el famoso caso del New York Times contra Microsoft y contra OpenAI.
07:22El New York Times atacaba porque decía que estos modelos de lenguaje
07:26se habían reentrenado, se habían entrenado con el fondo periodístico
07:29de New York Times, y por tanto venía un poco a decir,
07:33where is my money, ¿no? ¿Dónde está el dinero?
07:34Ya que está haciendo la actividad lucrativa, por lo menos da mi dinero.
07:37Y entonces, en esa lucha se dispara una cosa terrible,
07:41y es que el juez, que es un juez, le dice a OpenAI,
07:45por favor, conserva todos los outputs, todo lo que ha salido,
07:49durante un año para determinar cuál es el impacto que ha podido tener
07:52el entrenar, es decir, cómo en estas respuestas ha tenido algo que ver
07:57de alguna manera el entrenamiento que se ha recibido con el New York Times.
08:01Y entonces le dice, las dos empresas, primero, estaría incumpliendo mis contratos,
08:06te cedo el resultado, dos, iría en contra de la protección de datos,
08:10porque hay compañías extranjeras, no sé qué, tres, hombre,
08:13es que esto yo no lo debería hacer porque mi contrato pone que lo borro.
08:19Contratos de corporate, en el cual te dice, tú no te preocupes
08:21que ni reentreno con tus datos y que yo borro los outputs.
08:25Bueno, pues donde estamos ahora es que resulta que no lo borran.
08:28Entonces ahora tenemos gente, profesiones reguladas, abogados, etc.,
08:30que resulta que mis respuestas están en Estados Unidos y la ley americana dice
08:37que no tiene por qué observar la ley europea de datos, por ejemplo,
08:39y dos, que siempre que hay un problema de propiedad intelectual a nivel legal,
08:43que me parece muy bien lo que usted diga en sus contratos con sus clientes,
08:45pero que el output venga aquí, que yo quiero ver si ha habido plagio,
08:47por decirlo de alguna manera.
08:48Entonces se rompe toda la cadena.
08:50Por un lado, lo que hace la IA no es mío si no es de la IA.
08:56Dos, la IA está sometida a una serie de leyes por arriba que determinan a veces
09:00que como ese resultado ya no es mío, no hay ni confidencia ni nada,
09:03sino que puede ser aportado a un procedimiento judicial.
09:05No sé si más o menos he sido capaz de explicarlo.
09:07Entonces eso es por qué los tecnólogos y los abogados tienen que hablar.
09:12Porque se tiene que poner en el ejemplo de, oye,
09:14qué tecnología, bajo qué condiciones, dónde está,
09:17y ya entramos en otra cosa que hablaremos adelante,
09:19que es el tema de la soberanía de la IA,
09:21y si es la IA, está sometida a leyes europeas o no,
09:24que eso es otro lío.
09:26Pues muy interesante.
09:27Y sin ir tan lejos, también no me resisto a comentar un tema de España,
09:30también relacionado con esto.
09:32En uno de estos grandes casos de corrupción,
09:34el gobierno ha dicho que la responsabilidad de un escrito es de un robot,
09:40de un bot que tenían instalado en la sede electrónica de la Seguridad Social,
09:47te descargabas el documento y el documento no era completo.
09:50Pero, bueno, es lo que había encontrado en las bases de datos
09:53y como ya vivimos en un mundo donde es inmanejable
09:57la gran cantidad de peticiones que recibe el gobierno,
10:00pues lo descargabas automáticamente.
10:02¿Y qué pasaba?
10:02Que eso ha derivado en que luego se ha dado dinero
10:05que no ha ido donde se esperaba.
10:07Entonces, pues es muy interesante la responsabilidad que hay detrás
10:12de documentos y de inteligencia artificial generativa
10:17que no sabemos si es de la empresa de IA o de la empresa que lo usa.
10:22En fin, ¿cómo lo ves, David?
10:25Pregunta difícil.
10:26¿Cómo se puede equilibrar esta balanza?
10:29Bueno, lo primero decir que ese bot no era de One Million Bot.
10:33Lo segundo, no, yo creo que Carlos tiene toda la razón
10:37en dejar caer que luego vamos a tocar el tema de soberanía
10:41porque tiene un impacto fuerte ya no solo en los casos de uso
10:47que hay detrás de la inteligencia artificial,
10:49sino en el impacto macroeconómico de la tecnología.
10:53Yo creo que en España ha cambiado mucho lo que se le exige a la IA
11:00y en Europa en general.
11:01En One Million Bot empezamos con la IA en 2018
11:05y era una IA muy artesana, que había que acompañarla mucho
11:08y que el cliente pedía lo que podía pedir,
11:11que era que contestase correctamente
11:13y que fuese alineado con la instrucción
11:17que se le había dado al modelo de procesamiento de lenguaje natural.
11:20A día de hoy eso ha cambiado muchísimo,
11:22ya no se le exige que responda bien, eso se da por sentado,
11:26se asume que la IA va a responder bien,
11:28pero la nueva exigencia es,
11:29y evidentemente con cierta conexión al reglamento,
11:32que sea explicable, que sea auditable,
11:35ya no que responda bien, sino por qué ha respondido bien
11:38y con qué ha respondido bien.
11:40Y luego en el futuro, y no tan lejano,
11:43más bien cercano e inmediato,
11:44es la explicabilidad ya no de fuentes ni de sistemas,
11:49sino de redes agénticas.
11:51Venimos de gobernar a la IA con personas,
11:55de establecer una estructura organizativa
11:58dentro de una empresa o institución
11:59que sea capaz de, de alguna manera,
12:02supervisar los casos de uso de inteligencia artificial,
12:06pero esa supervisión seguía siendo puramente humana.
12:09Yo superviso a la persona que ha desarrollado este caso de uso,
12:15el dueño o la dueña del proceso
12:18es la persona que rinde cuentas por ese caso de uso
12:21y mantiene a la alta dirección informada.
12:23Y esa es una estructura organizativa de gobernanza
12:26que se puede ver a día de hoy.
12:28Y en el futuro cercano,
12:30ya no se van a estar gobernando personas,
12:32se van a estar gobernando agentes de IA,
12:34ya ecosistemas de agentes de IA
12:36que se comunican entre sí,
12:37esto ya ocurre,
12:39no es ciencia ficción ni futuro,
12:41a día de hoy ocurre,
12:42tanto en nuestra empresa que es de inteligencia artificial
12:45como en muchas otras que no son de inteligencia artificial
12:47y ya tienen lo que se denomina el digital workforce
12:50o el agent workforce,
12:52que es empleados agénticos y de agentes de IA.
12:57Ahí está el reto
12:58en cómo establecemos una red
13:01y una estructura de confianza
13:02alrededor de algo completamente digital
13:06y de inteligencia artificial
13:07que no llegamos a entender todavía.
13:10Y nosotros desde One Million Bot
13:11lo que defendemos puramente
13:13es que más que evitar el riesgo
13:16o más que tener miedo al riesgo,
13:18lo que hay que hacer es gestionar ese riesgo.
13:20Y de ahí la alianza con Andersen,
13:22nuestro vehículo común,
13:23Legit and Legal Intelligence
13:24y la herramienta de gestión de riesgo de IA,
13:27que lo que busca es aceptar que ese riesgo existe,
13:30gestionarlo, acorde con la normativa,
13:32y sobre todo que no frene la productividad
13:35que aporta la tecnología.
13:36Porque si la frena,
13:38ya estamos jugando con unas normas
13:40que no son homogéneas
13:41y lo estamos sufriendo,
13:43ya toda la propiedad intelectual
13:45se va a modelos estadounidenses,
13:47no se van a modelos españoles,
13:48no se van a modelos europeos,
13:50eso ya lo sufrimos a día de hoy,
13:51pero por lo menos tenemos la productividad
13:53y si perdemos esa productividad
13:55nos deja en un escenario complejo.
13:58Pues sin duda es clave esa trazabilidad
14:00y esa explicabilidad
14:02de estas inteligencias artificiales.
14:05¿Cómo veis hablando también
14:06del tema de la regulación?
14:08Como abogado,
14:08¿crees que esta autorregulación del sector
14:10está funcionando
14:11o este reglamento de la Unión Europea
14:13es suficiente
14:14o hace falta más intervención pública?
14:17¿Es una respuesta optimista o negativa?
14:20Por lo que quieras.
14:21No, yo soy optimista.
14:23Yo creo que, por ejemplo,
14:25si cogemos la famosa regulación
14:27de protección de datos,
14:28que siempre ha sido muy criticada
14:30y sigue siendo criticada
14:31porque impone muchísima burocracia,
14:33incluso dice que no permite compitir
14:35a las empresas europeas
14:35contra las de Estados Unidos,
14:37yo voy a elegir un enfoque optimista.
14:39Yo no voy a negar eso,
14:40pero voy a decir que, por otro lado,
14:42se ha convertido en un estándar global.
14:43Es decir, aquella empresa
14:45que cumple con, de alguna manera,
14:47el estándar europeo
14:48permite tener una serie de retornos.
14:50Pongamos un ejemplo.
14:51Apple dice que privacy matters.
14:53Eso significa, perdón,
14:54que la privacidad de alguna manera importa.
14:57Pero eso es que es un argumento de marketing.
15:00Por ejemplo, eso no significa
15:01que ellos cumplan
15:02con el Reglamento General de Protección de Datos,
15:04pero va en contra, posiblemente,
15:05de todo lo que es el mainstream,
15:06de lo que es Google,
15:07lo que es Amazon,
15:08lo que es Google.
15:08Entonces, ellos lo que vienen a decir,
15:09y conocéis que hay casos famosos,
15:11es que si a ti,
15:13de alguna manera,
15:14quieren entrar en tu copia de cloud,
15:16esto está encriptado
15:17y no puede ni el propio gobierno
15:18de Estados Unidos,
15:18y hubo casos famosos,
15:20incluso de terrorismo y tal.
15:20Entonces, evidentemente,
15:22ellos no lo han enfocado
15:22para ese caso de terrorismo,
15:24pero lo que vienen a decir,
15:24de alguna manera,
15:25tú tienes el gobierno del dato.
15:26¿Y por qué tienes el gobierno del dato?
15:27Porque nosotros, de alguna manera,
15:28nos basamos, si quieres,
15:29en el, de alguna manera,
15:31estándar europeo.
15:33Cosa que no es real,
15:34pero que lo venden como tal.
15:35Entonces,
15:37en inteligencia artificial,
15:38la única oportunidad que tiene Europa
15:39es, precisamente,
15:40yo creo,
15:41de convertir lo que es una carga regulatoria
15:42en una palanca
15:44de, de alguna manera,
15:44de diferenciación,
15:45o incluso una palanca
15:46de una best practice.
15:47Es decir,
15:48la IA europea,
15:49y, de hecho,
15:50curiosamente,
15:51hay un modelo que siempre ha dicho
15:52que es más ético que los demás,
15:53que era Antropic,
15:54y durante mucho tiempo
15:55Antropic no estaba de moda,
15:56pero yo lo utilizaba
15:56porque, realmente,
15:57te das cuenta
15:58que tenía unas cosas debajo,
15:59yo era un poquito friki y tal,
16:01porque es el que más se acerca
16:02al decir,
16:03de alguna manera,
16:04que es,
16:04no sé,
16:05perdón que hable tanto inglés,
16:06pero es European Union Friendly.
16:07Es decir,
16:07yo considero,
16:08y Antropic lo dice,
16:09que tiene que haber una regulación,
16:11una regulación
16:11que le haya respeto
16:12a los derechos humanos,
16:13una regulación que le haya
16:14sea supervisable.
16:15Y esto que ahora ya es,
16:16está en todos los periódicos,
16:18al principio de los tiempos
16:19no es lo que decía Chávez,
16:20ni por supuesto
16:21es lo que decía
16:21la inteligencia de Grock,
16:23de Elon Musk,
16:24ni muchas otras.
16:26Ahora parece que sí,
16:27porque parece que la cosa
16:27se ha puesto un poquito
16:28más complicada,
16:29aunque haya interés económico.
16:30Pues esto es la oportunidad
16:32que tiene Europa,
16:33es decir,
16:33tiene por un lado
16:34que conseguir que haya
16:36gente que voluntariamente,
16:38igual que con el Reglamento
16:38General de Procedencia y Datos,
16:39se someta
16:40a la elección europea
16:41o diga que se someta
16:42a parte de la legislación europea
16:43para determinar que,
16:44oye,
16:44pues si este modelo
16:45cumple con lo que dice
16:46la Unión Europea,
16:47es el guay,
16:48desde un punto de vista
16:49de respeto de derechos.
16:51Y por tanto,
16:51a mí me apetece
16:53contratar con él
16:54o utilizar ese modelo.
16:55Yo creo que eso
16:56es una gran palanca
16:57que debería utilizar
16:58la Unión Europea.
16:59Y la segunda es
16:59que como eso ocurrirá
17:01o no ocurrirá,
17:02se tiene que preparar
17:03a tener,
17:03perdón,
17:04y esto ya es un tema político,
17:05es un campeón
17:07de ella soberana europeo.
17:08Por diversas razones.
17:10Primero,
17:10porque si está aquí
17:11va a cumplir todo
17:11el acervo comunitario.
17:12Y segundo,
17:13porque si está aquí
17:14no se nos van a escapar
17:15los datos
17:15ni nada por el estilo.
17:16No sé si me explico.
17:17Había algún presidente americano
17:19que decía
17:19que el día que quisiese
17:20detener el Groenlandia
17:21apagaba el Amazon
17:23Bedrock,
17:24tú sabes de eso,
17:25y determinada administración
17:27nacional de un país
17:28se quedaba sin poder funcionar.
17:30Era una broma
17:30y no era una broma
17:31porque una cosa
17:32es tener los datos replicados
17:33tú muchas veces
17:34no vas a poder migrar
17:36fácilmente
17:36un sistema de día a otro.
17:37Si tú estás
17:38en un sistema de día
17:39que no es soberano
17:40en el sentido
17:40que está externalizado
17:41o está fuera
17:42de la Unión Europea
17:43tienes un problema geopolítico
17:45y esto ya
17:45es una opinión muy personal.
17:47¿Pero qué significa?
17:47Que tiene que haber
17:49un campeón europeo
17:49porque será más fácil
17:50que cumpla con la regulación.
17:52Europea
17:52y también porque será
17:53mucho más fácil
17:54de hacer las migraciones,
17:54etcétera, etcétera.
17:56Y ya por terminar
17:57¿qué es lo que se está haciendo?
17:59Pues aparecen unas iniciativas
18:00que se llaman
18:00Open Euro LLM
18:01que son sistemas
18:02de pequeñas LLMs
18:04que no son tan listos
18:05pero oiga
18:06para hacer una traducción
18:07tengo que tener
18:08el Super LLM
18:08o puedo tener un LLM
18:09de andar por casa
18:10que sea europeo
18:11y que cumpla con la ley.
18:12Pues están saliendo
18:13campeones nacionales
18:14como siempre
18:14nos vamos a gastar
18:1522 campeones nacionales
18:17en vez de tener un europeo
18:18pero así es la vida
18:18ya los fusionaremos
18:19que lo que hacen
18:20es que están entrenados
18:22por ejemplo
18:22en lo que es español
18:23pero también en gallego
18:24todo esto
18:25que conocen la cultura
18:26que tal
18:26o sea que de alguna manera
18:27también se han metido
18:29lo que se llama
18:30una serie de guardarraíles
18:32para que cumplan
18:33mejor con los derechos
18:35desde un punto de vista
18:35de la Unión Europea
18:36pues esa iniciativa
18:37también tendremos que saber
18:38que a veces
18:38para cumplir con la ley
18:40en casos muy sensibles
18:41a lo mejor
18:41tenemos que utilizar
18:42un LLM un poco más tonto
18:43pero más nacional
18:44y más bueno
18:45perdón que lo diga
18:45de una manera tan simple
18:47pues se ha hablado mucho
18:48de la soberanía energética
18:49la soberanía alimentaria
18:50pero sin duda
18:51la soberanía del dato
18:52y tener
18:53pues esa capacidad
18:54de controlar
18:55nuestra información
18:56y todo este flujo
18:57de tecnología
18:59pues es clave
18:59y yo no sé
19:01si soy tan optimista
19:02si desde Europa
19:03lograremos todavía
19:03frenar a Estados Unidos
19:05¿Cómo lo ves David?
19:07¿Crees que estamos preparados
19:08las empresas
19:09las administraciones
19:10con estos temas
19:12de la soberanía
19:13y la IA?
19:15Bueno
19:15no sé si estamos preparados
19:17no sé si es posible
19:18estar preparado
19:19ante la volatilidad
19:22que tiene la IA
19:23o sea cada semana
19:24hay un avance
19:26kilométrico
19:26que parece que deja
19:28el anterior modelo detrás
19:29entonces es complicado
19:30evaluar si se está preparado
19:31o no
19:32yo lo que sí creo
19:34es que la autorregulación
19:35aquí no
19:36primero no hay autorregulación
19:38o sea
19:38bueno coincido al 100%
19:39con la opinión personal
19:40que ha dicho Ángel
19:42no
19:44bueno
19:45el CEO de Anthropic
19:47que en efecto
19:48ha publicado un ensayo
19:49que dice que hay que
19:50pace the frontier
19:51que hay que
19:52medir la velocidad
19:54con la que se avanza
19:54en la IA
19:55y curiosamente
19:57en dos días
19:58cuando los gigantes
19:59tecnológicos estadounidenses
20:00nunca se ponían de acuerdo
20:01en nada
20:02pues en dos días
20:02resulta que todo el mundo
20:03está de acuerdo
20:05Google Alphabet
20:05ha dicho que está de acuerdo
20:07OpenEyes
20:08a Maltman también
20:09hasta Elon Musk
20:10ha dicho que está de acuerdo
20:11con un tweet
20:12por supuesto
20:12yo creo que eso
20:14no es coincidencia
20:15hay intereses económicos
20:16detrás
20:16está claro
20:17pero sí que creo que
20:18igual es la oportunidad
20:19para Europa
20:20para posicionarse
20:21en la carrera global
20:22por lo que ha dicho Carlos
20:23porque
20:24tenemos unas exigencias
20:26en Europa
20:27que si bien
20:29nosotros apostamos
20:30por el concepto
20:30de la corregulación
20:31que lo suyo
20:32hubiese sido regular
20:33en base a sistemas
20:35de IA ya en producción
20:36pues porque sí
20:37porque la IA
20:38tiene riesgos
20:39y pues con el símil
20:40del fuego
20:41que utiliza mucho
20:41el presidente
20:42de nuestra empresa
20:43Andrés Pedreño
20:44pues el fuego quema
20:45pero para aprender
20:46a dominar el fuego
20:47hay que quemarse
20:48y los humanos
20:49hace miles de años
20:50cuando descubrieron
20:51el fuego
20:51pues se quemaron
20:52evaluaron sus riesgos
20:54aprendieron a dominarlo
20:55y ya pues
20:56consiguieron avanzar
20:57la humanidad
20:58gracias al fuego
21:00pues lo mismo
21:00con la IA
21:02quizás la única crítica
21:03que podemos dar
21:04al reglamento
21:05de inteligencia artificial
21:06y a la agencia española
21:07de supervisión
21:08es que ha llegado
21:10demasiado pronto
21:11porque no tenemos
21:12tantos casos de uso
21:13en producción
21:13tantas empresas de IA
21:15tanto tejido empresarial
21:16de IA
21:16como para en realidad
21:18analizar estos casos de uso
21:20ahora ha llegado pronto
21:21y como dice Carlos
21:22se puede volver
21:23una ventaja competitiva
21:24para nosotros
21:25¿por qué?
21:25porque a la hora de diseñar
21:27estos sistemas
21:28de inteligencia artificial
21:29puede haber un codiseño
21:31del abogado
21:32del tecnólogo
21:33y siempre con el usuario
21:34o el ciudadano
21:35en mente
21:36¿no?
21:36en quien vaya a usar
21:37ese sistema
21:37de inteligencia artificial
21:38ahí el reto
21:40pues evidentemente
21:41es la potencia
21:42de cálculo
21:44en IA Soberana
21:45pues tenemos
21:46modelos soberanos
21:47sí
21:47y ahí en España
21:48está Alia
21:49el modelo soberano español
21:50que cumple su función
21:51y que ya se integra
21:54dentro de sistemas
21:54de IA en producción
21:56en Francia
21:56tiene Mistral
21:57que también es soberano
22:00pero claro
22:00compite
22:01contra
22:02grandes modelos
22:03a una escala
22:05con una capacidad
22:07de cómputo
22:07y una capacidad
22:07de inversión
22:08en ese cómputo
22:09que los modelos
22:10soberanos no tienen
22:11entonces como dice Carlos
22:11si esos casos de uso
22:12de alguna manera
22:14se pivota
22:15hacia casos de uso
22:17más pequeños
22:18menos complejos
22:18pero igual de productivos
22:20y que funcionen
22:21igual de bien
22:22pues ahí puede ser
22:23una baza competitiva
22:25este punto conecta
22:26justo con otro asunto
22:27que comentábamos
22:28en una charla anterior
22:29que me pareció
22:30muy interesante
22:31es la defensa
22:32de los casos de uso
22:33con la IA
22:33que tenemos
22:34en muchas empresas
22:36aspectos que nos diferencian
22:38más innovadores
22:39más disruptivos
22:40y también otros
22:40que son más sensibles
22:41que también
22:42hay que proteger
22:43quizás no estamos siendo
22:44igual un poco cenizos
22:45y un poco negativos
22:46pero me gustaría saber
22:47qué se puede hacer
22:49pues para defender
22:49estos casos de uso
22:51para marcar la diferencia
22:54y que no haya
22:55de repente también
22:56una legislación
22:56demasiado rápida
22:58que venga
22:58demasiado
23:01anticipada
23:01que corte las alas
23:04¿Tú que a mí?
23:05Vale
23:06Ahora voy a ser pesimista
23:09En la regulación europea
23:10siempre ocurre
23:11lo de siempre
23:12entra
23:13dar un plazo
23:13digamos
23:14de carencia
23:15etc
23:15y nunca tenemos
23:16ni idea
23:16de qué es lo que
23:17va a decir el regulador
23:18en este caso
23:18hay un regulador
23:19horizontal
23:19y ahora hay reguladores
23:20verticales por sectores
23:22pues el Banco España
23:23en fin
23:25la Dirección General
23:25de Seguros
23:26en fin
23:26entonces ¿qué ocurre?
23:27que ahora mismo
23:28las empresas españolas
23:29que están intentando innovar
23:30no saben muy bien
23:32si tienen el reglamento
23:33o sea no que es un sistema
23:34de alto riesgo
23:35desde luego
23:35pero no saben muy bien
23:36cómo defender la legalidad
23:38de un caso de uso
23:38es decir
23:39yo cojo casos de uso
23:40de que
23:40yo que sé
23:41pues para darme
23:42antes una ayuda
23:43una subvención
23:44en una catástrofe
23:45como la Dana
23:45voy a coger
23:46y voy a pre dar
23:48la subvención
23:49pero claro
23:49estoy siendo discriminatorio
23:51respecto al que no se la doy
23:52cuando
23:52como nadie sabe
23:54cómo hacerlo
23:54entonces
23:55¿qué es lo que nosotros
23:57defendemos?
23:57bueno pues en todos
23:58casos de uso
23:58va a haber casos de uso
24:00digamos de una manera
24:01más burocráticos
24:02una traducción
24:03algo
24:03que difícilmente
24:05te vas a meter en lío
24:06y va a haber casos de uso
24:07muy sensibles
24:08no porque sean complejos
24:09sino porque toquen datos
24:10personales de salud
24:11o de lo que sea
24:11gente
24:12y casos de uso
24:13innovadores
24:14nosotros decimos
24:15que hay que proteger
24:16los dos
24:16los que son muy sensibles
24:19asegurándote
24:19que te vais a algún tipo
24:20de referencia internacional
24:21metodología
24:23etcétera
24:23como ISOs
24:24que aunque no sean
24:25norma jurídica
24:26son norma técnica
24:27y por tanto
24:28nosotros
24:28a raíz de eso
24:29hemos hecho una metodología
24:30que las incluye
24:31y tenemos una metodología
24:32y luego ir también
24:33al caso innovador
24:34que es el divertido
24:34si estamos aquí en la IA
24:35es para ser mejores
24:36que los americanos
24:37los chinos
24:42etcétera
24:45tienes que construir
24:48tu argumento de defensa
24:49desde el principio
24:50entonces tienes que empezar a decir
24:52cuáles son los riesgos
24:53que has visto
24:53cómo tú has pensado mitigarlos
24:55y cómo lo has hecho
24:55conforme a una serie
24:57de estándares internacionales
24:58y luego cuando venga
24:59el regulador detrás
25:00y diga
25:00pues no estoy de acuerdo
25:01lo quiero hacer de otra manera
25:02tú lo único que podrás decir es
25:03ya
25:03pero yo he cogido
25:04una serie de directrices
25:06internacionales
25:06he sido diligente
25:07y como mínimo
25:08yo adaptaré
25:09mi caso de uso
25:09a futuro
25:10pero no me lo pare
25:11porque me para la empresa
25:12o no me sancione
25:13porque entonces
25:14no me voy a atrever
25:15a volver a hacerlo
25:15entonces la idea
25:16que yo le diría
25:16a las empresas
25:17es
25:18los casos de uso
25:19que sean jugosos
25:20planteate
25:21simplemente el ejercicio
25:22de defenderlos
25:22si alguien te viene a preguntar
25:23oye pero esto
25:24qué hace
25:24cómo lo hace
25:26es decir
25:27transparencia
25:28explicabilidad
25:28etcétera
25:28que esté preparado
25:29para que venga un señor
25:30y diga
25:30como usted ha aplicado IA
25:32quiero que me lo explique
25:33bueno pues
25:34hacer ese ejercicio
25:35de explicarlo por primera vez
25:36y meterte en el caso
25:38de tener que decírselo
25:40a alguien
25:40cómo lo he hecho de bien
25:41porque está todo bien
25:42pues adelantarlo
25:43y hacerlo
25:45protocolizarlo
25:45y tenerlo
25:45es decir
25:46preparar una defensa
25:47para que cuando un señor
25:48venga y diga
25:48no ahora lo vamos a hacer así
25:49pues yo lo he hecho asado
25:51pero lo he hecho bien
25:52o en cualquier caso
25:53yo puedo explicar
25:54cómo lo he hecho
25:55como decían en la mesa
25:56de salud
25:57prevenir
25:57mejor que curar
25:59y desde luego
25:59cuando antes
26:00empiecen a trabajar
26:01pues cualquier
26:04circunstancia posterior
26:05pues mucho mejor
26:06me gustaría también
26:07pasar de las musas
26:08al teatro
26:08¿qué recomendarías
26:09a una pyme
26:10desde tu punto de vista
26:11que quiera acercarse
26:12a la IA
26:14a los chatbots
26:15así
26:16para
26:16para acertar?
26:20bueno
26:20yo creo que lo primero
26:21es
26:22lo que ha dicho Carlos
26:23gestionar el riesgo
26:24porque a una pyme
26:25le preocupa bastante
26:26también
26:27o sea
26:27y lo estamos viendo
26:29en los últimos tres años
26:30la diferencia
26:32pero creo que lo primordial
26:33es la ilusión
26:34y eso también lo vemos
26:35en el tejido
26:36de pymes españolas
26:37la mayoría de nuestros clientes
26:39que son pymes
26:41pues se aborda
26:42la inteligencia artificial
26:43de uno de dos prismas
26:44el primero es el prisma
26:45del riesgo
26:46y del miedo
26:47y de la competencia
26:49está haciendo esto
26:49y o hago yo esto
26:51o me quedo atrás
26:52y eso pues es válido
26:54pero también está
26:55el otro prisma
26:56que es el de
26:56la ilusión
26:58el de establecer
26:59una estrategia
27:00de inteligencia artificial
27:01no pensar solo
27:02en el caso de uso
27:03sino en el inventario
27:04de casos de uso
27:05que voy a tener
27:06en el mundo
27:07de posibilidades
27:08que se abre
27:09con la inteligencia artificial
27:10específicamente
27:11para las pymes
27:12porque si algo ha conseguido
27:14es democratizar
27:16una herramienta
27:17que bueno
27:19es que a día de hoy
27:20la estamos infrapagando
27:21y por eso
27:22no declaran beneficios
27:24las grandes empresas
27:25tecnológicas
27:25porque es muy barato
27:27para lo que en realidad
27:28produce
27:28y eso para las pymes
27:30pues es un mundo
27:31de posibilidades
27:32y luego
27:33que esa ilusión
27:34se acompañe
27:35con talento
27:36y yo aquí
27:37por enlazar un poco
27:38con lo que se ha comentado
27:39en la anterior mesa
27:40sí que decir
27:41que estoy
27:42un tanto desacuerdo
27:43con el componente junior
27:45yo en nuestra empresa
27:49aprendo una barbaridad
27:50con la persona
27:51que acaba de salir
27:52de la universidad
27:54ha cursado
27:55en la universidad
27:56ya con la guía generativa
27:58y sale de la universidad
27:59con una herramienta
28:00que se ha integrado
28:01en su proceso de estudiar
28:03eso para una empresa
28:04tecnológica
28:05nosotros tenemos muy cerca
28:06a los programadores
28:07los programadores
28:08que salen
28:09y que han empezado
28:10y han aprendido
28:11a programar
28:12ya con la guía generativa
28:13son un mundo
28:14completamente distinto
28:15al programador senior
28:16que lleva 30 años
28:17picando código
28:18y escribiendo código
28:19y programando
28:20y los propios
28:22programadores senior
28:23de hecho
28:23hay empresas
28:25de los pocos unicornios
28:26de IA que tenemos
28:27en Europa
28:28herramientas
28:29de IA jurídica
28:30que nos han contado
28:32ya que toda la base
28:34de sus empleados
28:34de programadores
28:35son juniors
28:36absolutamente todos
28:37juniors
28:38que los llaman
28:39pipe coders
28:40que hacen coding
28:42con IA generativa
28:43que programan
28:43con IA generativa
28:44y que son capaces
28:46de producir
28:46tal nivel de output
28:49producen tanto
28:50con la misma herramienta
28:52que a mí
28:54me ilusiona mucho
28:55como joven
28:56si me lo permitís
28:57ver la cantera
28:59que viene
29:00con la herramienta
29:01que tienen ya
29:02tan embedida
29:02y que yo igual
29:03por poner un ejemplo
29:05que creo que
29:05entenderemos todos
29:06yo igual
29:07me creo muy productivo
29:08y muy listo
29:09por tener en una pantalla
29:10el Word
29:11y en un complemento
29:13dentro del Word
29:13tener a Cloud
29:14y sin embargo
29:15sale uno que acaba
29:16de estudiar
29:17AD informática
29:18un doble grado
29:19y resulta que
29:20tiene un ecosistema
29:21de agentes
29:22un agente está encargado
29:23de hacer la proposición económica
29:25otro agente está encargado
29:27de recoger datos
29:27que respaldan a la propuesta
29:30y otro agente está encargado
29:31de maquetar el documento
29:33para que quede bonito
29:33y yo eso personalmente
29:35aprendo un montón
29:38con los juniors
29:40que se han graduado
29:42con la IA generativa
29:43como herramienta ya embedida
29:44pues agradece
29:46esa positividad
29:46sin duda alguna
29:47pasamos de los nativos digitales
29:49ya a nativos
29:50de IA generativa
29:51que pueden marcar
29:52la diferencia
29:53desde el mundo
29:54de los despachos de abogados
29:55como
29:56como tiene que
29:57actuar
29:58un gran despacho de abogado
29:59para ser traductor
30:00entre
30:00como digo
30:01la tecnología
30:02el cumplimiento normativo
30:03el compliance
30:04que también está muy
30:05en boga
30:06yo creo que
30:08he metido
30:09un poco el debate
30:10bueno
30:10el tema
30:10cuando he explicado
30:11lo que hay que hacer ver
30:13a los tecnólogos
30:14es que
30:16el principal problema
30:17que tenemos
30:17es que tenemos
30:18una tecnología disruptiva
30:19que está en manos
30:20de terceros
30:21y que lo que hace
30:22la tecnología
30:23no es nuestro
30:24porque entonces
30:25el paradigma cambia
30:26cambia en el sentido
30:27de cómo protejo yo
30:28a mi compañía
30:29para que todo aquello
30:30que genere mi know-how
30:31se quede
30:31entonces
30:31yo creo que en general
30:32esa es la primera conversación
30:33donde los tecnólogos
30:34se dan cuenta
30:34que los abogados
30:35por una vez
30:35les están enseñando cosas
30:36que en cierto modo
30:38son obvias
30:39pero que la gente confunde
30:40por ejemplo
30:41en la tecnología
30:42tú hablas de redes de agentes
30:44etcétera
30:44hacerse uno
30:45ahora un ecosistema
30:47es relativamente fácil
30:48porque todo es gratis
30:49pero esto está basado
30:50en licencias
30:51open source
30:53donde no es todo es gratis
30:54significa que no pagas
30:55pero no es lo mismo
30:56que gratis
30:56entonces si hay un problema
30:57esas licencias
30:58no de alguna manera
31:00no renuncian
31:01a los derechos
31:02de propiedad intelectual
31:03simplemente te dicen
31:04que no tienes que pagar
31:06pero si que tienes que poner
31:07el código en común
31:08o si que no puedes hacer
31:08determinadas cosas
31:09etcétera
31:09entonces por ejemplo
31:10los modelos meta
31:11hay una cláusula famosa
31:12que los abogados
31:12hemos diseñado tal
31:14y que va por la cuarta
31:15interpretación
31:15porque nadie lo entiende
31:16pero a partir
31:17sabemos una cosa
31:18cuando haya 700 millones
31:19de máquinas
31:20que no sabemos
31:20si son los agentes
31:20conectadas
31:21esa licencia
31:22deja de tener efecto
31:23y debes negociar
31:24una licencia
31:25vis a vis
31:25con meta
31:26entonces yo ya me imagino
31:27la gran compañía
31:28con 700 millones
31:29de atelaciones
31:30todo en gratis
31:31y de repente dice
31:32meta
31:32no ahora pagar
31:33por clic
31:33por decir una tontería
31:35eso cuando tú
31:36se lo pones
31:36a un tecnólogo
31:37y le dices
31:38y por cierto
31:38si utilizas
31:39open source meta
31:40no la puedes cruzar
31:41con ninguna otra
31:41porque hay una cláusula
31:42que lo impide
31:43y dice
31:43¿dónde lo pone?
31:43aquí
31:44y entonces se queda blanco
31:45porque le ha montado
31:46a sus agentes
31:47eso es un poco
31:48el sentido de decir
31:49el abogado
31:52tiene que trabajar
31:53con el tecnólogo
31:54desde dos puntos de vista
31:55uno
31:55el regulatorio
31:56al principio
31:57cuando vas a hacer
31:57un caso de uso
31:58te voy a decir
31:58qué tecnología
31:59a lo mejor
32:00no cumple con la ley
32:01y dos
32:02desde un punto de vista
32:03de resiliencia
32:03que llamamos
32:04júrica operativa
32:05que esa tecnología
32:06le sirva a la empresa
32:08no que estés metiendo
32:09un caballo de Troya
32:10porque ahora
32:10lo que no tiene sentido
32:12en este mundo
32:13es que una tecnología
32:14que se ha hecho universal
32:15en el sentido
32:15que tú puedes dar instrucciones
32:16a una inteligencia
32:18a través de escribir
32:20sin tener conocimientos
32:20ni de programación
32:21ni de nada
32:21de tal manera
32:22que todo el mundo
32:22utilizamos ahora
32:23chat GPT
32:23lo que no puede tener sentido
32:25es que
32:27nos da un resultado
32:27excelente
32:28y sin embargo
32:28parece que es gratis
32:30eso no es gratis
32:31eso es un modelo
32:32de explotación
32:33que aún no hemos
32:34terminado de entender
32:35entonces igual
32:36que se aplica
32:37al individuo
32:38hay que aplicarlo
32:39a la empresa
32:40y en la empresa
32:40al tecnólogo
32:41hay que decirle
32:41si está muy bien
32:42todo lo que puede hacer
32:43la tecnología
32:43pero cuánto cuesta
32:45cuánto cuesta legalmente
32:47sobre todo
32:47cuánto cuesta
32:48también desde un punto
32:49de vista económico
32:51desde un punto
32:51de vista de resiliencia
32:52en Europa
32:53como tenemos
32:54tantas normativas
32:54tenemos una
32:55se llama Dora
32:56no es nombre
32:56de tormenta perfecta
32:57que habla de
32:59la sostenibilidad
33:00en el sistema financiero
33:01porque se han dado cuenta
33:02que por ejemplo
33:04no pueden estar
33:05empiezas a hacer
33:06otro criterio
33:07de soberanía
33:07no puedes estar
33:08en proveedores
33:08tecnológicos
33:10extranjeros
33:10si no tienes
33:11la cadena
33:11de proveedores
33:12auditada
33:12porque si aquello
33:13falla
33:14yo no le puedo
33:15sancionar al proveedor
33:16porque está fuera
33:16de la Unión Europea
33:17lo tienes que tener
33:18asegurado
33:18entonces una de las cosas
33:19que es
33:19es de alguna manera
33:21analizar la cadena
33:22pues esto es lo mismo
33:24en IA
33:24aunque no estés
33:26en el sector financiero
33:26tu cadena
33:27te lleva a un extranjero
33:29y él produce todo
33:30porque claro
33:31ten en cuenta
33:31que en muchas
33:32casas de IA
33:33hay una superdelegación
33:34yo ya no sé
33:35yo ya no hago presupuestos
33:37pero ¿quién lo hace?
33:37lo hace el de allí
33:39si eso te lo paran
33:40al tecnólogo
33:41el abogado
33:41le tiene que decir
33:42te lo pueden parar
33:42por contrato
33:44cuidado
33:45busquemos sistemas
33:46alternativos
33:46migración
33:47que los contratos
33:47haya posibilidades
33:48entonces yo creo
33:49que al tecnólogo
33:51le somos muy útiles
33:52porque le enseñamos riesgos
33:54que no son los riesgos
33:55típicamente jurídicos
33:56sino que son riesgos
33:57de la operativa
33:58el día a día
33:58de la empresa
34:00pues muy interesante
34:01ese punto
34:02de que cuando algo es gratis
34:04siempre se ha dicho
34:05¿no?
34:05que el producto es uno mismo
34:06y que estás cediendo datos
34:08y estás pues dando
34:10información pues muy muy valiosa
34:12¿no?
34:13y ahora también es interesante
34:14¿no?
34:14como se empieza también
34:15a ver publicidad
34:16dentro de las IAS
34:18¿no?
34:19que en chat GPT
34:20por ejemplo
34:20¿no?
34:21porque efectivamente
34:22luego también
34:23es otro debate
34:24y otro mundo
34:25el tema de los centros
34:28de datos
34:28¿no?
34:28y cómo cuesta muchísimo
34:29e incluso contamina
34:31mover todas estas cantidades
34:33de datos
34:33¿no?
34:34¿cómo lo ves
34:35desde tu perspectiva
34:36que seguro que es interesante?
34:38No, tú sabes
34:39Yo 100% de acuerdo
34:40con Carlos
34:41creo que hacen falta
34:43más abogados
34:44como Carlos
34:46en el sentido
34:46en el sentido
34:47de que entienda
34:48primero la necesidad
34:50que hay para implantar
34:50la tecnología
34:52los riesgos que hay
34:53en la implantación
34:54de esa tecnología
34:55y luego que tenga
34:57una noción
34:58de los componentes
35:01tecnológicos
35:01que conformen
35:02a la solución
35:02¿no?
35:03que yo creo que
35:03eso Carlos
35:04tú lo entiendes
35:05a la perfección
35:06y que
35:07por otro lado
35:08el tecnólogo
35:09tiene que aprender
35:10a flexibilizar
35:11un poco
35:11las decisiones binarias
35:13de desarrollo técnico
35:15¿no?
35:15o sea
35:15porque el tecnólogo
35:16piensa en uno y dos
35:18piensa en sí y no
35:19el abogado
35:20piensa en depende
35:21o sí pero
35:22o no pero
35:23y yo creo que
35:24ahí está la correlación
35:26en el codiseño
35:27en aceptar
35:29que a veces
35:30no se va a poder diseñar
35:31el sistema más productivo
35:33del mundo
35:33pero que un sistema productivo
35:35con garantías jurídicas
35:36es mejor
35:37que un sistema
35:39que no pueda ponerse
35:40en producción
35:42y luego
35:43sí que decir
35:44que en ese sentido
35:45el que el tecnólogo
35:47se adapte
35:48y el abogado
35:49también se adapte
35:50significa que
35:52el ciudadano
35:53el usuario
35:53el usuario
35:54el cliente
35:55también tiene que aceptar
35:57que parte de ese riesgo
35:58convive en el uso
36:00de la propia solución
36:01¿no?
36:01yo creo que eso es algo más
36:02cultural
36:03y que vendrá
36:03con tiempo
36:04creo que en los jóvenes
36:06ya se está viendo
36:07pues que
36:07la IA generativa
36:08es una herramienta
36:09ya 100% incrustada
36:11en sus vidas
36:12pero en el resto
36:13de la población
36:14quizás tarde
36:14un poco más en llegar
36:16¿no?
36:17cuando llegue
36:17tendremos que
36:19de alguna manera
36:19y creo que la regulación
36:21forma parte
36:21de esa decisión
36:23pero promover
36:24un uso ético
36:25fiable
36:25y positivo
36:27de la IA
36:28¿no?
36:28que eso
36:29se está intentando
36:31pero por supuesto
36:32va a ser un reto
36:33también
36:34pues vamos a ir terminando
36:35si os parece
36:36con una reflexión final
36:37yo sin duda
36:38creo que muchas veces
36:39hasta que no ocurra
36:40algo muy gordo
36:41no nos daremos cuenta
36:42¿no?
36:42hasta que uno de esos riesgos
36:43no haya sido previsto
36:45¿no?
36:45y suceda algo
36:47me da la impresión
36:48que la humanidad
36:49o la sociedad actual
36:50no nos damos por
36:52notificados
36:53y no actuamos
36:54¿no?
36:55¿cómo lo ves
36:55de aquí a unos años?
36:57¿cómo?
36:58una pregunta muy abierta
36:59¿no?
37:00pero
37:00pues no sé
37:01diría que
37:02hay cierto riesgo
37:03de que los abogados
37:04no se extingan
37:06pero que
37:07haya muchos abogados
37:08que les piden en medio
37:09hablábamos antes
37:10del abogado nativo
37:11en IA
37:12que es cierto
37:13que ahora hay un
37:14yo creo un efecto
37:15meramente coyuntural
37:16que es
37:16que parece que
37:17sobran juniors
37:18o que no hace falta
37:19tantos juniors
37:19yo creo que eso
37:20va a desaparecer
37:21porque por un lado
37:21los clientes
37:22nos van a decir
37:23bájame los fees
37:24porque esto que
37:25que estaba haciendo
37:26tu junior
37:27ya no lo hace una persona
37:27lo hace una máquina
37:28y a mí no me cobres
37:29por esto
37:29y estoy tirando
37:30porque esto va a ocurrir
37:31está ocurriendo de hecho
37:33entonces
37:33va a ocurrir
37:34que los juniors
37:35van a tener que entrar
37:35porque son a los que
37:36les pagamos menos
37:37perdón
37:37para aprender a hacer
37:39cosas distintas
37:40y para darnos funciones
37:41de valor distinto
37:42porque si no
37:43tal
37:43o sea que por un lado
37:45yo no creo que vayan
37:46a desaparecer la abogacía
37:48pero sí que se va
37:48a transformar
37:49de una manera radical
37:50y entonces ahí
37:51llegamos a las personas
37:52como dice mi compañera
37:53Victoria
37:53es muy importante
37:55como cada uno
37:56cada uno
37:56individualmente
37:57afronta la IA
37:58y la IA
37:59también lo ha dicho
38:00alguien
38:00es
38:00lo ha dicho
38:01el concejal
38:02es una herramienta
38:04brutal
38:04para los seniors
38:05porque yo
38:06puedo enseñarle una IA
38:07y no tengo que saber
38:09programación ni nada
38:09a que me haga
38:10determinadas tareas
38:11de la manera que a mí me gusta
38:12entonces por ejemplo
38:13puede leer todo lo que yo quiera
38:14que le diga que le lea
38:15y que me avise
38:16cuando por ejemplo
38:17sale algo
38:18eso evidentemente
38:19ya no lo hace mi junior
38:20lo hace la IA
38:20pero la IA
38:20la hace como yo quiero
38:21y luego puede coger
38:23mis primeras ideas
38:24de textos
38:24no de decir
38:25quiero hablar de esto
38:26pero no
38:26hazme un presupuesto
38:27si no quiero que me hagas un presupuesto
38:29teniendo en cuenta
38:29que me gusta a mí
38:31y que me genera una primera idea
38:32que es mía
38:35simplemente ejecutada
38:36y variada
38:37a una velocidad
38:38brutal
38:39no, cámbiamelo
38:39pónmelo de siete colores
38:40en todos los idiomas
38:41etcétera
38:42y que yo tenga unos resultados
38:43de una labor de escribiente
38:45que entonces aparece
38:46lo que llamamos
38:47nuestro agente personal
38:48y además
38:49el agente personal
38:50va a estar en los móviles
38:50así que
38:51nos podemos ir acostumbrando
38:52es decir
38:52va a cambiar de manera radical
38:54aquel que aprenda
38:55a utilizarla
38:56aquel que nazca
38:57utilizando la IA
38:58pues va a tener otras capacidades
39:00aquel que aprenda
39:01a utilizar la IA
39:01hoy en día
39:03va a estar en una venda
39:04posible muchísimo mejor
39:05de aquel otro
39:06que no la aprenda
39:07y como todos empezamos de cero
39:09eso es cuestión de ponerse
39:12antes también comentábamos
39:13en la tertulia anterior
39:14que en todos los sectores
39:15lo hemos visto
39:16en el periodismo
39:17desde la imprenta
39:18que también parecía
39:19que iba a acabar
39:20con los escribanos
39:21luego la radio
39:22luego la televisión
39:23y siempre nos vamos transformando
39:25y las tareas se mantienen
39:26pues cambia la forma
39:27de desarrollarlas
39:29¿con qué reflexión te quedas?
39:30en este momento
39:31tan apasionante
39:32que vemos
39:32que se quiere frenar
39:34la IA
39:34que dicen que
39:35se está usando
39:36para desarrollar
39:37armas químicas
39:38armas terroristas
39:40que pueda acabar
39:41con la humanidad
39:42¿eres más bien optimista?
39:44yo por la parte
39:45que me toca
39:46soy más optimista
39:47sí, sí
39:47pero
39:47y de hecho
39:48pues
39:50entiendo que puedan haber
39:51esos riesgos
39:52pero por no
39:53pensar tanto
39:54en lo negativo
39:56pues la IA
39:56también puede llevar
39:57la cura al cáncer
39:59la IA
40:00también puede
40:02hacer unos avances
40:03en biotecnología
40:04enormes
40:05y yo creo que
40:07el kit de la cuestión
40:08está más
40:08en lo positivo
40:09que podemos llevar a cabo
40:10con la tecnología
40:12¿no?
40:12yo creo que es imposible
40:14de predecir el futuro
40:15y el desarrollo
40:16de la IA
40:18nuestro presidente
40:19sí que acaba
40:19de escribir un libro
40:21y está recién publicado
40:23que es el manual
40:23de la IA
40:25del futuro
40:26y el manual
40:26de supervivencia
40:27y la tesis principal
40:29del libro
40:29sí que establece
40:30que lo que mayor impacto
40:32va a tener
40:33es la oferta
40:34y la demanda
40:35¿no?
40:35o sea al final
40:35la IA democratiza
40:37el poder ofrecer
40:38servicios y productos
40:39entonces va a llegar
40:40un momento
40:41donde el mercado
40:42está repleto
40:43de ofertas
40:44y esas ofertas
40:46pues serán
40:46desde empresas
40:47hasta particulares
40:48hasta individuos
40:49hasta alguien
40:50que ha hecho algo
40:51en el salón
40:51de su casa
40:52y de repente
40:53es un servicio
40:53o un producto
40:54que ya está
40:54en el mercado
40:55y la cuestión
40:57es ver cómo
40:57la demanda
40:58se comporta
40:59con ese incremento
41:00de oferta
41:02yo personalmente
41:03no tengo ni idea
41:03de lo que va a pasar
41:04creo que los mayores
41:05expertos de inteligencia
41:06artificial
41:07también dicen
41:08que no saben
41:08lo que va a pasar
41:09Jan Lecum
41:09por ejemplo
41:10sí que tranquiliza
41:11dice que no estamos
41:12cerca de la IA
41:14general todavía
41:14que la IA general
41:15es esa IA
41:16distópica
41:17que nos ha pintado
41:18tantas veces Hollywood
41:20o positiva
41:21pero una IA
41:21con conciencia
41:22aún estamos lejos
41:23de llegar
41:24a ese tipo
41:25de avances
41:25pero sí que estamos
41:27cada vez más avanzando
41:28en la IA autónoma
41:30en los agentes autónomos
41:31y en los casos de uso
41:32que no requieran
41:35tecnológicamente hablando
41:36no jurídicamente
41:36de una supervisión
41:38y input humana
41:39continuada
41:41muy bien
41:42pues con eso
41:43nos quedamos
41:43que siempre estará
41:44una persona detrás
41:45David Carlos
41:46muchísimas gracias
41:47gracias
41:52gracias a Carlos
41:53gracias a David
41:53gracias a Fernal
41:55la verdad es que
41:56todas esas cosas que vemos
41:57en la ciencia ficción
41:57hemos visto en las películas
41:59de la ciencia ficción
42:02de la ciencia ficción
42:02de la ciencia ficción
42:04gracias a todos
Comentarios