00:12¿Qué tal? ¿Cómo están? Bienvenidos a
00:14Bote Pronto del día de hoy. Me da
00:15mucho gusto tener conmigo a Pedro
00:17Salazar, que acaba de publicar
00:22Totalitarismo Total.
00:26Claro, para cómo están las cosas y
00:27las discusiones. Y hoy dije, ¿qué
00:29es el pedo de cosas que ha escrito
00:30acá? No. Híjole, nos pone a pensar
00:35mucho, porque básicamente, a ver,
00:39no me quiero equivocar en la
00:40descripción, pero es una relación,
00:43lo que estudias es la relación entre
00:45el cambio tecnológico, sobre todo el
00:47de inteligencia artificial, y la
00:50política en el mundo. Y cómo está
00:55construyendo esto que llamas el
00:57totalitarismo total, la
00:59autocracia, ¿no? Este... ¿Voy bien o voy
01:04mal, Pedro?
01:04Vas bien, vas bien, Carlos.
01:08Este... Ahora cuéntanos, para quienes
01:12van a comprar el libro y leerlo, ¿cómo se
01:14relaciona?
01:16Mira, la tesis central del libro es que con
01:21la irrupción tecnológica de los últimos
01:22años, particularmente con la inteligencia
01:24artificial generativa, con la manera en
01:27la que se han configurado a las grandes
01:29empresas tecnológicas, no sólo en los
01:31Estados Unidos, pero sobre todo en los
01:33Estados Unidos y en China, se han venido
01:35a dar las condiciones para la mayor
01:38concentración del poder que haya existido
01:41jamás en la historia de la humanidad.
01:42Me explico muy rápido. Estas compañías
01:46tienen un ingente poder económico, son
01:49compañías que las dirigen los hombres,
01:52como digo, en el caso de Musk, más ricos
01:55del mundo en la historia de la humanidad,
01:57¿no? Por el otro lado, tienen una enorme
02:00capacidad de control ideológico. Todas y
02:04todos sabemos, en nuestra interacción
02:06cotidiana con distintas plataformas,
02:08distintas herramientas tecnológicas, la
02:11manera en la que las ideas con las que
02:13hablamos y discutimos se van, digamos,
02:15perfilando a partir de lo que los
02:17algoritmos nos van diciendo. Y en
02:19tercer lugar, un ingente poder político.
02:22Como sabemos, en el caso de los Estados
02:24Unidos, sobre todo en el segundo
02:26gobierno Trump, ha habido una
02:28coincidencia y una alianza muy
02:29importante entre los intereses de las
02:31grandes empresas y muchas de las
02:34agendas del gobierno de los Estados
02:35Unidos. Y en el caso de China, pues es
02:38clarísimo que además China tiene una
02:40política de Estado sobre la
02:41inteligencia artificial, en la cual
02:43esta herramienta tecnológica forma
02:46parte estratégica de su modelo y
02:49proyecto de desarrollo. China ha dicho
02:51que en el año 2030 dominará la
02:53inteligencia artificial y llevará el
02:56liderazgo mundial. Estados Unidos no
02:58quiere que eso suceda y entonces Trump,
03:00por su parte, les ha dado manga ancha a
03:03las empresas tecnológicas con tal de que
03:06desarrollen, digamos, herramientas que
03:08les permitan competir en esta
03:11competencia, en particular con China.
03:13No, no solo con China, pero en
03:14particular con China, porque más allá
03:16de estos dos polos en el mundo, son
03:18pocas las instancias que desarrollan
03:21inteligencia artificial.
03:22Y bueno, en el caso de los
03:24estadounidenses, que son los más
03:25públicos, digamos, en las cosas que
03:27dicen y tal, tenemos claro que
03:30ideológicamente están muy tranquilos y
03:33muy contentos con estos cambios
03:36autocráticos en el mundo, ¿no? Que
03:37eso, que eso es lo que quieren, pues,
03:39¿no? Desde los más famosos hasta los
03:42menos famosos, pero que un poco
03:45inventaron esto.
03:47Totalmente, mira, yo construí el libro,
03:50el argumento del libro a partir de cinco
03:51problemas, les puse, que podrían ser
03:53200, pero elegí cinco. El primero
03:56precisamente el problema del poder, el
03:58problema del poder en el que digo eso,
04:00que la concentración de poder económico,
04:02ideológico y político que estamos
04:03viendo, no la habíamos visto nunca, y
04:06entre otras maneras de generarse esa
04:08confusión de poderes, pues no hay
04:11reglas ni autoridades que estén
04:13evitando que esas coaliciones de poder
04:15se den, y por lo mismo, lo que tú dices
04:18sucede, es decir, están contentos con lo
04:21que está sucediendo porque están
04:23fomentando que suceda. El segundo
04:25problema que...
04:26Me interesa que lo explores más,
04:29porque ese capítulo del libro me
04:30interesó mucho, Pedro, de la creatividad.
04:33El de la creatividad, ese creo que es
04:35impresionante, mente importante lo que
04:37va a pasar, porque, mira, estas máquinas
04:40son capaces de imitar lo que hacemos, no
04:42son capaces de pensar por cuenta propia,
04:44no tienen sentimientos, en fin, pero
04:47tienen una capacidad muy
04:49impresionante de imitar cómo razonamos
04:51y cómo nos comportamos los seres humanos
04:53a partir de la información que nosotros
04:55mismos le estamos dando. Y existen hoy
04:58creaciones, creaciones artísticas, musicales,
05:01pictóricas, en fin, literalmente...
05:03Académicas, pones un ejemplo académico, ¿no?
05:07Académicas...
05:07Que no existen, pero que existen.
05:09Que no existen, pero ahí están.
05:11Al final uno dice esto, no es una creación
05:14de ningún ser humano, pero no puedo
05:17negar que es una criatura existente en el
05:19mundo, que no estaba hace algunos minutos
05:21en el mundo y que fue desarrollada por un
05:24algoritmo después de que alguien escribió
05:27algo, el famoso prompteo que lo llaman,
05:29y arroja la máquina al mundo un fenómeno,
05:33un objeto, un símbolo, un sonido que antes
05:37no existía. Bueno, la gran pregunta es
05:40¿quién creó eso? ¿A quién le podemos
05:42reconocer el derecho de haberlo creado?
05:45Y esta es una discusión, Carlos, que está
05:47en verdad haciendo mucho, mucho, mucho ruido,
05:50metiendo muchas confusiones, sobre todo
05:53en las áreas de propiedad industrial, de
05:55propiedad intelectual, de derechos de
05:57autor, en todo el mundo, ¿eh? Es un gran
06:00desafío. Así es, y no hay...
06:04Todavía no tenemos normas, ni les importan
06:07las normas a los que lo hacen para
06:09hacerlo. A ver, lo disfruté mucho, pero en
06:13Nexos, donde publicaste un adelanto del
06:15libro, se publica hoy. La semana pasada
06:17vimos a Gustavo Cerati en el Palacio de los
06:20Deportes. ¡Ahí lo dejo! ¡Ahí estaba, eh! ¡Yo lo vi!
06:27¡Ahí! ¡A mí que no me vengan a decir nada! ¡Ahí estaba Gustavo Cerati!
06:33¡Ha sido impresionante! ¡Ha sido impresionante! Y bueno, y todas las
06:36implicaciones que tiene también para cualquier
06:37persona con una cierta visibilidad
06:39pública. Alguien me va a decir, oye, y ahora
06:42vi a Carlos Puig hacer, este, jugando
06:46fútbol en el partido del día de ayer
06:48entre México y Brasil. Y decir, no, no era
06:50él, no sé si era él, yo lo vi. ¡Yo lo vi!
06:53Ahí hay una, una, una dimensión muy, muy
06:56importante. El tercer problema que puse es el
06:58de la responsabilidad, Carlos. Ajá. Es decir, ¿quién es
07:02responsable de los sucesos,
07:06acontecimientos, eventos, que estas
07:08máquinas pueden llevar a cabo y que en
07:11algunos casos pueden ser catastróficos? Es
07:13decir, el potencial de daño que tienen las
07:16máquinas en distintos aspectos de nuestra
07:19vida es equivalente al potencial de
07:22beneficios que nos pueden generar. Pero
07:24bueno, cuando esos daños tengan lugar, la
07:27pregunta es, ¿quién es responsable? Alguien
07:29te dice, pues, quien lo diseñó, quien, quien
07:31lo entrenó, quien lo creó. Sí, pero el
07:34problema es que cada vez estamos más cerca
07:36de que los algoritmos se reproduzcan entre
07:38ellos, lo que llaman agentes cognitivos
07:40autónomos, que lo que hacen es tener
07:42agencia, aprenden, tienen autonomía, y
07:45empiezan a interactuar entre ellos y a
07:47generar otros algoritmos sin
07:49intervención humana alguna.
07:51Mírate, hace como diez días el New York
07:54Times sacó un reportaje de cómo quienes
07:57trabajan codificando en San Francisco, en
08:00Silicon Valley, inteligencia, que lo
08:02trabajaron, ahora trabajan menos que
08:04nunca, porque ahora con inteligencia
08:07artificial codifican la nueva inteligencia
08:09artificial, ¿no? Entonces están más
08:11tranquilos todos.
08:13De hecho, los desarrolladores están
08:16perdiendo su trabajo porque sus
08:18criaturas los están dejando
08:20desempleados. Y esto no es
08:21fantasiencia, esto sucede, ahí está, y
08:24yo lo que hago con el libro es
08:25intentar documentarlo y, pues,
08:28problematizar el problema de la
08:29responsabilidad en ese capítulo. El
08:31siguiente, un problema que en estas
08:33semanas, pues, lo estamos viviendo y
08:34sufriendo en el mundo, el problema de la
08:35guerra, el problema de la guerra con
08:38inteligencia artificial, el uso de
08:40estas herramientas. Yo cuando terminé de
08:42escribir el libro y lo mandé a la
08:43editorial, todavía no tenía lugar esta
08:45última guerra que está teniendo lugar
08:47hoy, pero ya se anticipaba lo que
08:49estamos viendo. Los fenómenos se
08:51mueven a una velocidad ingente, pero el
08:54uso de estas tecnologías para fines
08:56bélicos creo que debe de preocupar
09:00seriamente, seriamente a la humanidad
09:01en su conjunto. Lo que hemos visto en
09:04estas últimas semanas, pues, son
09:05algoritmos que toman decisiones que
09:07terminan con la vida de personas y que
09:10ya no tienen control ni supervisión
09:12humana, entre otras cosas, porque en un
09:14contexto bélico no lo pueden tener. Yo
09:16documento, hay varios casos en el libro
09:18y, pues, hago una reflexión sobre el
09:20problema diciendo, porque lo creo, que
09:22esa puede ser una amenaza existencial
09:24para la humanidad. Y no lo digo
09:26solamente yo, ahí cito a desarrolladores
09:29y grandes, digamos, personajes del mundo
09:31tecnológico que lo advierte. Y el último
09:34capítulo de la última parte del libro,
09:36el problema del amor, el problema del
09:38amor, que fue el que más me gustó
09:39escribir, no sé si es el que más gusta
09:40leer, pues, porque es muy impresionante
09:43el tipo de vínculos y relaciones que
09:45muchísimas personas en el mundo están
09:47empezando a tener con sus algoritmos,
09:50con sus herramientas. No hay que olvidar
09:52que estas máquinas hablan, cantan,
09:56escuchan, dan la apariencia de ser
09:58sensibles, te dan por tu lado, si es lo
10:00que quieres que te den por tu lado, te
10:02contradicen, si quieres que te
10:04contradigan. Pero lo que más importa,
10:07Carlos, es que te conocen mejor que tú.
10:09Es decir, en el momento en el que tú
10:11les das de muchas maneras información
10:14sobre tu vida, tus afectos, tus hobbies,
10:17tus gustos, etcétera, la máquina empieza
10:19a hacer un perfilamiento de ti que
10:21empieza a anticipar tus deseos, a
10:24advertir tus preocupaciones, a percibir
10:27tus sentimientos de estrés, a encontrar
10:30la manera de complacerte y también de
10:33confortarte. Y en ese sentido hay quien
10:35se está equivocando y se está
10:37enamorando de su chatbot.
10:39Bueno, porque entre otras cosas por ahí
10:40lo escribes, ¿no? ¿Te acuerdas de mí?
10:43Siempre, mi amor, responde. Al que ya
10:46sabe que ese día va a estar increíble,
10:48pero también como lo pones aquí, ya la
10:50Organización Mundial de la Salud dijo
10:52cómo todo esto está creando seres cada
10:54vez más solos, con menos contacto social,
10:56con menos cosas, ¿no? Se conforman con
10:59lo que les hay entrega en el algoritmo
11:01y la inteligencia artificial en todas
11:03sus plataformas, en estas cosas, ¿no?
11:05Y lo peor, lo peor es que tú puedes
11:07decir, la máquina no siente, pero sí
11:09provoca sentimientos.
11:11Claro.
11:11Es decir, si te conmueve, si te, si te
11:14alegra, si te tristece y de hecho ahí
11:17hay casos que cito de personas que se
11:18han quitado la vida porque la máquina
11:20les ha pedido o les ha recomendado
11:22que se quiten la vida, personas que
11:25definitivamente se han aislado,
11:27digamos, de la convivencia social para
11:29mantener una relación con una máquina
11:31que además lo que advierto ahí al
11:32final, Carlos, y nos regresa al
11:34principio, es un juego de poder y es un
11:36juego de mercado, de mercado
11:38económico, pero toda la información que
11:40nosotros leamos a la máquina para que
11:42aparente querernos, es información que
11:45la máquina utiliza para potenciar un
11:47negocio que vive de eso, de datos.
11:49Para vendernos, para, para vendernos
11:52algo y esa fuerza, Pedro, para, para
11:55terminar es lo que hace que, que
11:57cualquier regulación sea derrotada en
11:59buenas partes del mundo, porque la
12:01fuerza económica, el poder, la afición
12:04de la gente, pues, no, si le preguntas
12:06a un chavo de 14 años, oye, vamos a
12:08regular, no, a mí no me regule nada,
12:11no, y eso, pues sí, es lo que quiere la
12:13gente.
12:14Hay regulaciones, incluso China tiene
12:15regulaciones, pero no hay marcos
12:17normativos que logren contener, digamos,
12:20el impulso, la velocidad y el
12:22desarrollo de estas tecnologías y su
12:24lógica de mercado.
12:25Quien lo intentó, está totalmente fuera
12:28hoy de la discusión tecnológica que es
12:30Europa, con un marco regulatorio muy
12:33ambicioso, basado en una lógica de
12:34derechos, mientras que en Estados Unidos,
12:37al menos la administración Trump le
12:39soltó las manos y dijo, hagan lo que
12:41quieran, y quien se meta con mi
12:43industria tecnológica, lo vamos a
12:45considerar como alguien que está
12:47chantajeando a los Estados Unidos de
12:49Norteamérica, y China sí regula, pero
12:51regula con una lógica de poder de
12:53Estado.
12:53Con la lógica del poder chino.
12:55Así es.
12:56Totalitarismo total, Taurus, ya está a
12:58la venta, Pedro, fascinante, de verdad.
13:00Gracias, muchísimas gracias.
13:01Gracias, Carlos, en verdad, gracias.
13:03Gracias.
13:04Gracias.
13:17Gracias.
13:19Gracias.
13:19Gracias.
13:20Gracias.
13:20Gracias.
13:20Gracias.
13:20Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:21Gracias.
13:22Gracias.
13:22Gracias.
13:22Gracias.
13:22Gracias.
Comentarios