00:00¿Qué tal? ¿Cómo están? Bienvenidos a
00:11el 15 del día de hoy. Me da mucho
00:13gusto tener conmigo a Daniel, a
00:15Daniel Iderati. Daniel, ¿Cómo
00:17estás? Con este libro que ganó el
00:19ensayo Genotrías y que provoca
00:21demasiadas preguntas para 15
00:23minutos. Se llama una teoría
00:24crítica de la inteligencia
00:26artificial a una mirada
00:28profunda
00:30que tiene que ver con esto que
00:33estamos viviendo. Dices al
00:36principio del libro, lo marqué
00:37cuando leía esto y quiero empezar
00:39por ahí. Dice, ¿Qué tal si
00:41empezamos a tener una relación
00:42menos histérica con todo esto?
00:45¿No? Quiero que expliques a quien
00:48nos está viendo, ¿A qué te
00:49refieres con esto? Bueno, cuando
00:51una tecnología se desarrolla a
00:53gran velocidad, como es el caso
00:55de esta ahora mismo, pensé
00:58también en otros momentos los que
01:00había energía nuclear o el
01:02desarrollo de la automatización en
01:04la revolución industrial, el
01:06automovilismo, etcétera. Siempre
01:08que ha habido un gran avance, se
01:12han disparado los miedos y las
01:14expectativas positivas. Seguramente
01:17en otros momentos de más
01:18tranquilidad, de desarrollo más
01:20lento, todo eso se suaviza. Pero
01:23ahora mismo estamos en un momento
01:25con el desarrollo sobre todo de la
01:27inteligencia artificial generativa
01:28en el que vamos a tener, vamos a
01:31hostilar, también en parte porque
01:32los medios de comunicación hablan
01:34fundamentalmente de los éxitos y de
01:36las amenazas, pero no hablan del
01:38trabajo cotidiano de los
01:39desarrolladores, que suele ser
01:40bastante rutinario y lleno de
01:42fracasos.
01:42Arrancas el libro y es parte, digamos,
01:47que está en todos los ensayos de la
01:51democracia, es decir, de lo que está
01:53pasando con la democracia un poco en
01:55el mundo y la relación con esto que
02:00se llama inteligencia artificial y
02:02más tecnologías expectativas.
02:04dedíjame un ratito a que nos
02:07entiendan por qué hay una relación
02:09profunda de estas dos cosas en estos
02:11tiempos.
02:12Sí, a mí me, toda mi carrera
02:14profesional lo que me ha interesado es
02:15la democracia y el gobierno, la
02:19política, cómo se hace, ¿no?
02:21Y una intuición que yo tenía desde
02:25hace mucho tiempo es que la política
02:28tal y como se hace no se ha tomado en
02:32serio la complejidad del mundo que
02:33tenemos delantero.
02:35Estudié esa complejidad desde el
02:38punto de vista del espacio, los
02:39espacios, desde el punto de vista del
02:40tiempo, desde el punto de vista de
02:42Europa también, la complejidad de la
02:44democracia en Europa, el del
02:46conocimiento y me faltaba por
02:49examinar la complejidad
02:51tecnológica porque esta tecnología o
02:55este conjunto de tecnologías no son
02:58las típicas tecnologías de las
03:02que surgió la democracia. La
03:04democracia surgió de la democracia
03:06moderna, surgió de una tecnología que
03:09es la imprenta y gracias a la
03:12imprenta se configuró un sujeto libre,
03:15lector, crítico, etcétera. Pensemos,
03:21comparemos una imprenta de la galaxia
03:23Gutenberg con un algoritmo
03:25contemporáneo, no tiene nada que ver,
03:27¿no? Y por tanto, este es el escenario
03:31en el que estamos.
03:33Porque, porque dices en alguna parte como
03:37la inteligencia artificial parece para
03:39que llegue a ella hacerlo todo más
03:41sencillo, ¿no? Y esto ayuda, ¿no? Es decir,
03:44la hace casi más atractiva, ¿no? Es decir,
03:47también dices bien claramente, cuidado, la
03:49inteligencia artificial no tiene nada que
03:50ver con la inteligencia humana, ¿no? Entre
03:53otras cosas porque no tiene contexto, ¿no?
03:55Que es fundamental, ¿no?
03:58Sí, seguramente cuando a esto se le
04:02bautizó como inteligencia y como
04:05artificial no se tenía gran conciencia
04:07del error que se estaba cometiendo, el
04:10error o la exageración. Un conjunto de
04:14informáticos en los años 60 del siglo
04:18pasado quería dinero de los
04:20de los gobiernos y seguramente si lo
04:24hubieran llamado a esto cibernética de
04:26segundo grado no hubieran conseguido
04:27un peso, ¿no? Lo llamaron inteligencia
04:31y artificial y ninguna de las dos cosas
04:33es verdad. Ni esto es tan inteligente
04:36ni es tan artificial. No es una
04:39inteligencia comparable a la de los
04:41humanos, es una inteligencia distinta que
04:43tiene que ver con la computación, el
04:44manejo de datos fantástico y
04:47importantísimo y útil y no es
04:49artificial en el sentido de que es muy
04:52material, mucho más material de lo que
04:54quieren hacernos creer. Tiene un gran
04:56gasto tecnológico, tiene un impacto
04:58ecológico muy fuerte, hay humanos
05:01detrás de lo que parece una tecnología
05:03automatizada.
05:05Los que hacen eso, ¿no?
05:08Hay lo que se ha denominado, una
05:10expresión que me gusta mucho,
05:12trabajadores fantasmas, ¿no? Los
05:13ghost workers, que están en un sitio que
05:16no sabemos dónde y están acreditando
05:18nuestras, nuestros, nuestro uso y
05:22nuestra relación con los algoritmos.
05:24Creo que partimos ya de un punto de
05:26vista equivocado, que es precisamente lo
05:27que está en el origen de esa histeria a
05:30la que te referías al principio.
05:31Y yo lo que creo es que además hay una
05:35preocupación generacional. ¿Qué quiero
05:37decir? Yo fui en la universidad sin
05:40este aparato. De hecho, de milagro
05:42inmité, yo me acuerdo cuando vi una
05:45computadora dije, ah, voy a poder escribir
05:47mi tesis aquí, o sea, ya no tengo que
05:49usar una máquina, ¿no? Pero la nueva
05:52generación, ¿no? En España alguna parte
05:55has dicho como, perdón, la democracia se
05:58construyó sin inteligencia artificial en
06:00España, ¿no? Y del tal. Pero la nueva
06:02generación para la que esto es casi
06:04natural, ¿qué ves? Como que, como que
06:09para ellos la inteligencia artificial es
06:10esto que ya existe y que, ¿cómo
06:12criticamos? Es un aparato más de nuestra
06:15vida, ¿no?
06:17Mira, sí sabemos que no existían estas
06:19cosas, es lo que quiero decir, ¿no?
06:20Sí. Bueno, yo, yo había acabado la
06:23tesis doctoral cuando empezaron los
06:28ordenadores y yo no me atrevo a hacer
06:30ninguna profecía porque soy muy mal
06:33profeta, tan mal profeta que en aquel
06:34momento pensé, qué bien, yo ya he hecho
06:36la tesis doctoral, no voy a necesitar
06:38estos aparatos, ¿no? Fíjate que
06:40predicción más sofisticada era yo capaz
06:45de hacer. Hoy venía en el coche oyendo
06:49un programa de radio en el que se
06:50hablaba del escándalo de que en España
06:53hay, ya se están anunciando las redes
06:55sociales, etcétera, empresas que hacen
06:58los trabajos de fin de grado para los
07:00estudiantes a través de la inteligencia
07:03artificial y tal. Y bueno, y parecía
07:06como que era la primera vez que se
07:07asistía a un fenómeno de ese estilo.
07:10Yo recuerdo que mi padre que daba una
07:12asignatura que era proyectos de
07:14ingeniería, decía, me llegan, la mitad de
07:17los proyectos que me llegan los ha hecho
07:18otro. Te estoy hablando de los años 70
07:21del siglo pasado. Es decir, que esa idea de
07:23copiar es muy vieja. Lo mismo que la idea
07:27de mentir. Parece que lo de mentir se lo
07:29ha inventado ahora Donald Trump y las
07:33redes sociales. Lo de mentir es tan viejo
07:34como la humanidad. Simplemente hay una
07:36tecnología que la hace más fácil, más
07:38asequible, más barata, más anónima.
07:41Pero realmente estamos, me gusta
07:42subrayar la continuidad de estos nuevos
07:45escenarios con cosas que ya eran muy
07:48conocidas.
07:50Sí, que ya veíamos. Sí.
07:51Claro.
07:52Cuando yo vi a mi tesis, había unos que se
07:54te acercaban y te decían, por tantos
07:55pesos, hay un señor que te la hace.
07:58Claro, claro.
07:59Y eso era, te la hacía analógicamente.
08:03Ahora, está claro que este entusiasmo, tú
08:06decías, los medios todo lo ven como, uy, el
08:08futuro y tal. Y tú haces una teoría
08:10crítica, porque, ¿dónde verías los ejes
08:13para empezar, por lo menos, a decir,
08:16eh, esto no es así, cuidado aquí, cómo
08:19avanzamos? ¿Dónde están los ejes de ver
08:22críticamente a este nuevo, a esta nueva,
08:25a esto que es absolutamente nuevo y a este
08:27entorno?
08:28Bueno, yo, mira, yo te contestaría de la
08:30siguiente manera. Creo que nos hemos
08:33convertido en algo así como unos
08:35sonambulistas digitales. Es decir,
08:38imagínate un sonámbulo que se levanta
08:41por la noche y va a un sitio y al día
08:42siguiente no es consciente, ¿no? Bueno,
08:44esa idea del sonambulismo me parece que
08:46es muy ilustrativa de nuestra situación.
08:49Tenemos una tecnología que es ubicua,
08:52silenciosa, que prácticamente no requiere
08:55nuestra aprobación. De vez en cuando nos
08:58dicen que si estamos de acuerdo con los
08:59cookies, pero muchas veces ni nos lo
09:01preguntan y, por tanto, mi punto de
09:05partida sería, hagamos de esto algo
09:08reflexivo. Despierta.
09:12Pregúntate si esa comodidad que
09:16adquieres con el comercio online o con
09:19la distancia o que nos permite hablar a
09:22tanta distancia tú y yo, no lo estaremos
09:25pagando con alguna reducción de nuestra
09:28libertad. Hagamos de esto algo
09:30reflexivo, objeto de nuestra reflexión.
09:33Sí, pero pensemos alrededor de eso, ¿no? Es
09:37decir, pensemos lo que está pasando más
09:39allá de que el algoritmo y la
09:42inteligencia artificial y todos los
09:43datos que hemos entregado sin saberlo
09:46hagan que sea muy fácil usarlo, ¿no? Es
09:49decir, la facilidad también es un problema,
09:51¿no?
09:52Exactamente, eso es. O sea, yo creo que
09:54todo lo que, todo el desafío que esto,
09:58los conjuntos de desafíos que esto nos
09:59plantea requieren que cada uno haga bien
10:02su trabajo y los periodistas tienen que
10:04hacer un análisis de esto, los
10:07legisladores tienen que legislarlo bien,
10:10razonablemente, los políticos tienen que
10:13ponerse de acuerdo en ciertas directrices,
10:16los filósofos tenemos que hacer un
10:18trabajo conceptual. Debemos explicar a
10:21nuestros contemporáneos, en la medida de
10:25nuestras posibilidades, claro, en qué
10:27consiste inteligencia, qué tipo de control
10:31es compatible con esta tecnología, qué
10:34gobernanza, qué impacto en la democracia
10:37va a tener, y eso es lo que yo, eso es lo
10:39que yo pretendía fundamentalmente con mi
10:41libro, no tanto resolver problemas que
10:43corresponden más bien a los legisladores, a
10:45los gobernantes, como a verificar
10:47conceptos, porque a veces la
10:50clarificación conceptual es muy importante
10:53y es una especie de ansiolítico para
10:56ese tipo de sociedad nerviosa en la que
10:57estamos.
10:58Porque en alguna parte, en alguno de los
11:01ensayos, también dices, porque si se va,
11:03esto está construyendo un nuevo contrato
11:05social, o está cambiando el contrato
11:07social asumido en la sub, ¿no?, en muchas
11:09comunidades, ¿no?
11:11Sí, el contrato social, tal como lo hemos
11:14pensado, era un contrato entre los
11:16humanos vivos, contemporáneos, y
11:19seguramente, por el paso del tiempo, nos
11:21hemos dado cuenta, por ejemplo, de que en
11:23ese contrato social teníamos que
11:24incluir a los todavía no vivos, no
11:26existentes, y hay un llamado contrato
11:28intergeneracional, que en virtud del cual
11:31nosotros identificamos ciertas
11:33obligaciones respecto incluso de gente
11:36que todavía no existe, en términos de
11:38medio ambiente, sostenibilidad de las
11:41pensiones, de la energía, etcétera.
11:43Bueno, pues, incluso hemos llegado a
11:45pensar un cierto contrato con el mundo
11:47animal, y de hecho la ecología
11:49implica un cierto reconocimiento de
11:52derechos a seres no humanos, ¿no?
11:53Bueno, mi idea es, y en uno de los
11:56capítulos lo explico ampliamente,
11:58¿por qué no pensar que, en relación
12:01con las máquinas, sobre todo estas
12:03máquinas sofisticadas, que no son
12:04simplemente instrumentos en nuestras
12:06manos, sino que tienen un cierto nivel
12:08de agencia, ¿por qué no pensar que
12:10tenemos que ir a un mundo híbrido?
12:13No me parece una buena idea la de
12:17concebir esto como un combate entre
12:20humanos contra máquinas. Más que esto,
12:23me parece mucho más interesante que
12:24todo esto, el que pensemos que hay, de
12:27hecho, ya una hibridación humanos-
12:29máquinas, y esa hibridación la tenemos
12:31que gobernar y la tenemos que gestionar
12:34con cierta inteligencia y con criterios
12:37de justicia.
12:37Una teoría crítica de la inteligencia
12:41artificial, que además ganó el premio
12:43de ensayo genio. Tú ya está en Alex
12:44Gutenberg, ya está a la venta en México
12:46en todas partes. Daniel, te mando un
12:48abrazo hasta allá. Gracias, muchas
12:49gracias. Muchísimas gracias, y muy
12:51amable por la atención que habéis
12:53prestado a mi libro.
12:53Gracias.
Comentarios