00:00Una de las cosas que hemos conocido esta tarde es que Bruselas plantea restringir el acceso a las redes sociales
00:06a los menores de 15 años.
00:08Es una propuesta que va a hacer esta semana Europa, un control paterno fuerte hasta los 13,
00:13y esta restricción de acceso a las redes sociales a los menores de 15 años si no hay permiso de
00:19los padres.
00:21Todo esto que nos llega justo en la semana en la que el gran debate ha estado, lo comentábamos antes
00:27con María Maturana,
00:28en la inteligencia artificial y en si conviene o no echar el freno, algo que Donald Trump dice que no,
00:35y en cambio le han ido diciendo que sí los responsables de Anthropic, de OpenAI, de Google e incluso Elon
00:43Musk,
00:43antes socio, incluso miembro del propio gobierno de Donald Trump.
00:47Los cuatro grandes magnates de Estados Unidos de la inteligencia artificial dicen, comparten que hay un peligro para la humanidad
00:56y proponen echar el freno. Y OpenAI incluso dice, no salimos a bolsa.
01:02Y Donald Trump dice que todo esto es una especie de freno, una exageración de alguien que está pues gesticulando,
01:11porque en realidad es abrir la puerta que China gane la carrera, que es lo que le importa realmente a
01:16Donald Trump,
01:16que es quedar por encima de China. Dijo ayer Donald Trump.
01:19Regulación no hace falta cuando hay un presidente que es muy listo y muy fuerte, o sea, yo.
01:24Bueno, pues en este mundo estamos.
01:26Hoy precisamente han llegado dos voces muy opuestas en lo ideológico sobre si hay que regular o no,
01:31o frenar o no la inteligencia artificial. Verán, una es Steve Bannon.
01:36Lo que debemos hacer hoy es no cerrar tratos ni acuerdos con el Partido Comunista Chino.
01:41Deben quedar fuera del negocio de la IA porque vamos a desmantelar su ecosistema.
01:47Desde el otro punto de vista, desde la otra parte del espectro ideológico, Bernie Sanders.
01:54Espero sinceramente que el presidente Trump negocie un tratado integral con el presidente Xi
01:59para establecer una pausa en el desarrollo de la IA avanzada y una prohibición de la superinteligencia.
02:07Dejadme sumar a esto que publica El País, acaba de publicar,
02:11que se ha detectado la primera brecha de datos ejecutada por un agente de inteligencia artificial de forma autónoma
02:16y que la Agencia Española de Protección de Datos advierte que la ciberdelincuencia asistida por inteligencia artificial
02:23deja de ser un riesgo teórico y que exige más medidas de protección.
02:28Con todos estos elementos, Lasalle, encima de la mesa, y apelo a ti que eres un gran conocedor de este
02:33asunto.
02:34En esto eres autoridad, Lasalle.
02:37¿Tú crees que la amenaza es tan real como la describió este ingeniero de 27 años que conoce las tripas
02:46de Anthropic y de Open AI?
02:48A ver, yo he escrito sobre esto y hace dos años planteaba en un ensayo mío, Civilización Artificial,
02:53precisamente la reflexión de que hay que regular inevitablemente y necesariamente la inteligencia artificial
03:00porque está diseñada para sustituirnos e incluso cabe la posibilidad para cancelarnos.
03:06Esta es una realidad, es decir, el diseño de la inteligencia artificial lo que busca es maximizar su poder
03:12bajo la conciencia de que el conocimiento es poder
03:16y que como tal va a permitir a quien lidere la carrera de la inteligencia artificial
03:22tener un mayor control social, armas letales autónomas más poderosas
03:26y una capacidad de competencia empresarial abrumadora.
03:29Por lo tanto, en ese conflicto geopolítico entre Estados Unidos y China,
03:34evidentemente todo gira alrededor de la idea de que uno tiene que ganar
03:39e imponer su hegemonía sobre la base de la inteligencia artificial
03:42entendida como una criatura que lo que busca es maximizar su poder en clave utilitaria.
03:48No hay un propósito, no hay un diseño que dé sentido y coherencia ética a ese planteamiento.
03:56Y eso está así desde que la inteligencia artificial se puso en circulación hace más de 80 o 90 años
04:01cuando empezó a concebirse desde esa lógica de una modernidad científica utópica
04:07y con una mirada de maximizar las capacidades humanas hasta más allá de lo posible.
04:13Dicho eso, creo que aquí están filtrándose muchas otras cosas.
04:19Intereses económicos vinculados evidentemente a una burbuja de inversión muy grande
04:25que ha colocado a las grandes corporaciones tecnológicas en una apuesta económica
04:32donde todos están poniendo toda la carne en el asador
04:36buscando seguir el modelo de innovación norteamericana basada en que quien gana se lleva todo.
04:42Y esa idea implica buscar un monopolio detrás de la inteligencia artificial.
04:47Y tal y como están ahora las cosas, ninguna de las grandes corporaciones puede aspirar a eso
04:52y transformar la inteligencia artificial en una commodity.
04:55Hoy por hoy eso no es posible y eso implica inversiones mucho mayores
05:00de la que en estos momentos están colocando sobre la mesa las cuatro grandes.
05:05Al mismo tiempo, el diseño de los modelos de inteligencia artificial norteamericanos
05:12están implicando unos costes a través, sobre todo, de los hiperescaladores
05:16y de los grandes centros de datos extraordinarios en necesidades de materias primas críticas,
05:22de agua, de enfriamiento de la nube, etcétera, que desbordan también las posibilidades
05:28de diseño de inversión que están haciendo en escalar las capacidades de la propia inteligencia artificial.
05:34Todo ello explica la hipótesis también de que hay la necesidad sistémica en la inversión
05:41de frenar esto, ¿vale? Ese es un dato.
05:44Y lo que probablemente haya pasado es que ha habido sistemas de inteligencia artificial
05:50que lo que han sido es capaces de desarrollar acciones de hacking.
05:55Es decir, están concebidas para en un determinado momento encontrar formas de acceder a bases de datos
06:04que no estaban priorizadas y han podido hackear, comunicarse entre sí sin que el sandbox se enterase,
06:19manipular informaciones, porque el diseño está en maximizar, como decía antes, el poder que están liberando.
06:26Pero eso no se ha visto ahora.
06:27Se viene viendo desde hace mucho tiempo.
06:30No es el primer caso de hacking que lleva a cabo un sistema de inteligencia artificial.
06:34Es decir, que alguien advierta de que la inteligencia artificial puede extinguirnos en esta misma década...
06:42Me parece excesivo.
06:43Excesivo.
06:43A pesar de que hace poco también el comisionado para derechos humanos de Naciones Unidas,
06:50Valkerturk, insistió en que había un riesgo cancelatorio sobre la humanidad
06:55por parte de la inteligencia artificial, y yo lo dije hace dos años también, en el diseño.
06:59Pero que eso sea una amenaza real en estos momentos, en mi opinión, es un presupuesto muy excesivo.
07:08Por tener claro esto, es decir, ¿tú crees que aquí, más que el riesgo,
07:13trabaja frenar ahora por el bien de la humanidad, que es lo que dijo el otro día...
07:17Es frenar una burbuja.
07:18Vale, es frenar una burbuja...
07:20Exacto.
07:20Que está...
07:20Probablemente.
07:21Probablemente.
07:22Ojalá que sea eso.
Comentarios