- hace 2 minutos
OpenAI y Antropic advierten sobre riesgos de IA, pero expertos revelan que sistemas actuales carecen de automejora recursiva y no escapan control humano. El verdadero peligro: vigilancia masiva y acceso a datos financieros, no máquinas rebeldes.
Categoría
🗞
NoticiasTranscripción
00:00La inteligencia artificial, ya lo decíamos antes de la pausa, ha generado preocupación ante la posibilidad de que pueda representar
00:05una amenaza para la humanidad.
00:06Sin embargo, especialistas señalan que los sistemas actuales no tienen voluntad propia ni capacidad para poder escapar del control humano.
00:13Y el riesgo más inmediato estaría en el uso de estas tecnologías para procesar grandes cantidades de información,
00:19así como para facilitar tareas de vigilancia y localización que pueden poner en riesgo la privacidad.
00:24¿Sobre estos riesgos y qué tan real es la posibilidad de que la inteligencia artificial represente una amenaza para la
00:31humanidad?
00:31Vamos a hablar con el doctor Alexandro López González, especialista en inteligencia artificial de la Universidad Iberoamericana de aquí de
00:38la Ciudad de México.
00:39Doctor, ¿cómo estás? Buenas tardes.
00:42Hola, buenas tardes, Rodrigo. Un saludo para ti y para toda tu audiencia.
00:45También, pues doctor, después de lo que pasó del ex empleado de Antropic y que bueno, evidentemente hubo pues mucho
00:54énfasis,
00:54sobre todo por cómo ha evolucionado por parte de todas las grandes tecnológicas en el alcance del mejor, entre comillas,
01:02o el más óptimo avance de la inteligencia artificial, pues hubo una crisis o una duda sobre qué tanto tiene
01:11el alcance de la inteligencia artificial.
01:13¿Cómo lo ve?
01:15Bueno, es interesante el ambiente geopolítico y económico en el cual estamos viendo estas declaraciones por parte de las empresas
01:25líderes en Estados Unidos
01:27sobre la inteligencia artificial, sus CEOs, Darío Amodei y Sam Altman.
01:34Es muy curioso, ¿no? El momento en el que lo están haciendo.
01:38La gran realidad es que la IA hoy por hoy no piensa, no razona, sí es muy avanzada, pero en
01:45ciertos aspectos muy concretos.
01:48Entonces, una IA que te sirve para hacer videos solamente te sirve para hacer video,
01:52mientras que una IA que te sirve para hacer hackeos, pues solamente sirve para hacer hackeos.
01:57Y de lo que ellos están hablando es que ya hay, o ellos están desarrollando estas inteligencias artificiales
02:03que serían de propósito general y que se pueden automejorar, que tienen esto que se llama automejora recursiva.
02:12La automejora recursiva significa que puede ir entrenándose ella misma para mejorar a un ritmo que los humanos no vamos
02:20a poder seguir.
02:22Esto hoy por hoy, en realidad, no haría dado muestras de que existe.
02:26Hay algunas IA que se pueden ir mejorando poco a poco, pero solamente en un ámbito.
02:31Entonces, una IA que te sirve para hacer videos o un chatbot como ChatGPT,
02:36en realidad no te va a servir para hacer hackeos de ciberseguridad,
02:39o no te va a servir para hacer investigación, no te va a servir para todas las tareas.
02:44Puedes solamente hacer una tarea para la que fue diseñada, son de propósito específico.
02:49Entonces, la gran realidad es que no está sucediendo hoy por hoy esta idea o este planteamiento que nos están
02:56dando
02:57de que ya son muy peligrosas, son muy avanzadas.
03:00No, en realidad todavía no logramos esto.
03:03Ahora, también veíamos ahorita que mencionabas, doctor, el tema del ambiente geopolítico.
03:09Pues es el mismo Antropical que ha tenido también esta disputa con el tema del Pentágono,
03:14no sobre todo el tema de la seguridad, ya no solamente hablamos del mismo ChatGPT o el COD que tenemos
03:20aquí a través de esto,
03:21sino ya pudiera representar algo de manera de seguridad interna,
03:26y por supuesto que esto pudiera vulnerar a otros gobiernos.
03:30Y también, por supuesto, el tema del acceso financiero y el acceso a este tipo de cuentas,
03:38que creo que eso, más allá de los memes que se puedan hacer o las respuestas rápidas que podamos tener,
03:44el riesgo inminente sería hasta dónde con estas supercomputadoras, que ahorita no tienen la capacidad,
03:50pero pudieran hacer algún o buscar alguna laguna dentro de estos servicios financieros y sistemas de seguridad.
03:59¿Cómo lo ves?
03:59Sí, como bien lo dice Rodrigo, ahorita Estados Unidos está en una carrera, en una competencia geopolítica con China,
04:06que puja para ser la siguiente potencia mundial, y pues tienen una pugna muy fuerte.
04:15La principal área de pugna, aparte obviamente del terreno militar, que también incluye la parte militar,
04:21pues es el desarrollo de la inteligencia artificial.
04:23Entonces, empresas como OpenAI, empresas como Antropic que están haciendo estos desarrollos.
04:29Es muy curioso porque el desarrollo que están haciendo hoy por hoy no es rentable.
04:36Hoy por hoy, con las suscripciones que nosotros podemos comprarles o con lo que las empresas les dan de proyectos
04:42para la automatización de sus sistemas, esto no les genera suficiente dinero para lo que los inversionistas les han dado.
04:50¿Quién probablemente les pueda dar ese dinero?
04:52Los gobiernos, Estados Unidos principalmente.
04:55Entonces, cuando una empresa como Antropic empieza a pregonar que tiene las IAS más peligrosas,
05:01las IAS más desarrolladas, pues obviamente le está hablando bonito,
05:05le está hablando al oído de Estados Unidos para que se la puedan comprar,
05:08para que realmente le puedan entregar un montón de dinero,
05:11y Estados Unidos se sienta seguro de su competencia contra China.
05:16China está tomando un camino bastante diferente porque está liberando todo.
05:20Todo lo está mandando a código abierto para que cualquier persona la pueda inspeccionar, la pueda utilizar,
05:25y es una forma bastante distinta de utilizar este poder blando,
05:29de realmente tener un poder muy distinto.
05:32Entonces, ahorita que estas empresas empiezan a decir, a hablar del fin del mundo,
05:36empiezan a decir que sus IAS son las más poderosas y que se vuelven inteligentes y que se salen de
05:41control,
05:42pues en realidad hay mucho que cuestionar acerca de por qué lo están haciendo.
05:46Si lo están haciendo para venderle mejor al gobierno,
05:49o si lo están haciendo para que su posición al salir a bolsa sea muy alta
05:54y puedan tener una capitalización por parte de los inversionistas en bolsa muy alta.
06:00Y eso es creo que, yo creo que eso es lo que ellos están tratando de hacer,
06:04metiéndole miedo a las personas acerca de lo peligrosos que pueden ser.
06:08Ahora, también vemos por otra parte, mencionas a China, que es clave,
06:13sobre todo cuando en esta carrera de la inteligencia artificial,
06:16Europa también está tratando de hacer este tipo de regulaciones,
06:19pienso en Francia, por ejemplo, Inglaterra, ¿no?
06:22Mahó también ahí con Francia ha sido muy enfático sobre todo el tema de las leyes,
06:26pero falta un arco regulatorio,
06:28y creo que eso tendría que ser no solamente de manera regional,
06:31de este lado del accidente, ya también era de cada país,
06:36pero sí tendría que haber un consenso,
06:38tanto en China, Estados Unidos, Unión Europea,
06:42de un marco regulatorio de cuáles son las capacidades y limitaciones
06:44que pudieran tener, más allá de lo que se pueda lograr con la inteligencia artificial,
06:50sí tendrían que tener un stop hasta cierta barrera, ¿no?
06:54Sí, claro, obviamente todo producto, en este caso la inteligencia artificial
06:58la consideramos un producto, todo producto debería estar reglamentado
07:02por leyes gubernamentales, ¿no?
07:05Que puedan ejercer poder sobre las leyes, sobre esta clase de productos, ¿no?
07:10De cómo van a llegar al consumidor, cómo van a ser usadas,
07:13pero lo interesante de esto es lo que está haciendo China,
07:17que está liberando todos los sistemas.
07:19Cuando liberas un sistema, lo dejas que cualquier persona lo pueda usar,
07:24cualquier persona que lo toma puede hacerle un escrutinio profundo,
07:28cualquier científico o ingeniero puede hacerle un escrutinio muy profundo,
07:33al igual que cualquier artículo científico o a cualquier desarrollo científico,
07:37pues lo vas a someter a un montón de personas, expertos y no expertos,
07:41que lo prueben.
07:42Ahí es cuando puedes encontrar si la inteligencia artificial
07:45está siendo utilizada para el mal,
07:47si puede ser abusada para cosas nefastas, nefarias,
07:52o que nos pueden dañar a la sociedad.
07:55Entonces, no solamente necesitamos una regulación,
07:58sino que el camino del código abierto,
08:01de que todos los científicos, todas las empresas,
08:04liberen su código,
08:05creo que eso nos daría una mayor certeza y seguridad
08:08de que lo que se está haciendo es ético y puede ayudar a la sociedad.
08:14Al fin y al cabo de cuentas, lo que queremos es siempre elegir a lo humano,
08:18elegir realmente que pueda ayudar a la sociedad,
08:21que pueda desarrollarlo y liberarlo,
08:23aparte de la reglamentación,
08:25para que todos podamos verlo,
08:28podamos usarlo y darle un escrutinio detallado.
08:31Creo que ese sería el camino para garantizar que una tecnología
08:34que nos pueda ayudar muchísimo,
08:36sea segura, no sea utilizada para el mal.
08:39Nos ayude en medicina, nos ayude en ingeniería,
08:43nos ayude en ciencias, en filosofía,
08:44en todas las demás áreas productivas del humano
08:48para mejorar a la sociedad.
08:50Ahora, me da mucha risa y es un debate que ha existido
08:55y permeado también entre muchos analistas.
08:58Ahorita mencionabas el tema de lo humano quiere lo humano,
09:02y en teoría sí, pero también hay una corriente
09:04en donde el humano ya no quiere tener contacto con lo humano
09:06y quiere la automatización y quiere lo último que quiera tener contacto.
09:11Pienso, por ejemplo, el tema de las cajas rápidas,
09:14donde lo último que hacen es tener contacto con alguien
09:17y por más que sea una fila, a lo mejor hasta dos veces más larga,
09:22prefieren no tener este contacto con la gente,
09:25también prefieren no tener contacto con el tema del dinero.
09:30Pienso, por ejemplo, ciudades sumamente desarrolladas,
09:32el tema de California,
09:33que si fuera un país sería la quinta economía del mundo,
09:36que prácticamente el contacto entre personas se pierde.
09:40Pero bueno, todo eso cambia cuando la mano de obra
09:44y no hay trabajos,
09:46y entonces viene este doble discurso de que necesitamos personas,
09:50porque no hay una fuerza laboral
09:52o hay una gran parte de la población que está siendo desplazada.
09:55Pero bueno, no sé, eso también me ha dado mucha risa,
10:00sobre todo el tema de los humanos quieren humanos,
10:03necesitan humanos,
10:04pero hay una corriente que no los necesita
10:06y luego no los quiere.
10:08Entonces es también ahí este debate que se tiene ahorita
10:12con la inteligencia artificial.
10:14Sí, claro, definitivamente, como lo dices tú, Rodrigo,
10:17es un periodo de adaptación.
10:20Yo creo que como sociedad nos hemos ido adaptando
10:23a todas las tecnologías a lo largo de la historia.
10:27Cuando salió la imprenta de Gutenberg,
10:29las personas decían que leer iba a dañar a las personas,
10:32que se iba a perder la tradición oral.
10:34Cuando salieron el rock,
10:37los vieron serán personas que las había mandado Satanás.
10:42Los Rolling Stones no se diga.
10:43Todas las tecnologías, la radio, la televisión, el Internet,
10:48todos los videojuegos también,
10:50todas crearon incertidumbre
10:52y después nos adaptamos a todas,
10:54viéndoles lados buenos, lados malos,
10:56pero al fin y al cabo nos adaptamos.
10:58El problema de hoy es que las tecnologías
11:01vienen muy rápido, muy cerca,
11:03entonces nos ha tomado tiempo adaptarnos
11:05y esta es otra tecnología que nos va a ayudar,
11:09pero sí, tal vez necesitamos hacer adaptaciones
11:11a nivel social, a nivel económico, a nivel laboral.
11:14Seguramente tendremos que hacer muchas adaptaciones.
11:17Obviamente no tenemos ahorita todo resuelto,
11:20pero también esta parte que tú hablas
11:22de la deshumanización es muy importante, ¿no?
11:25Y por eso tenemos que entender
11:27algunas expresiones sociales como lo que son,
11:31búsqueda de unirnos,
11:34de poder juntarnos y trabajar juntos.
11:37Inclusive podemos ver expresiones sociales
11:40como ahorita los chicos que están haciendo
11:42este Farmear Aura,
11:44pues se están dejando de utilizar el celular,
11:46se están reuniendo en parques, en plazas,
11:48en universidades a jugar juntos,
11:51a Farmear Aura, a hacer su...
11:52Esto es una respuesta social
11:55y lejos de demonizarlos
11:57o decirles ninis o cualquier otra cosa,
12:00lo que tenemos que hacer es ver
12:01que no solamente ellos tienen que hacer
12:03estas reuniones,
12:04también nosotros como adultos, papás, hermanos,
12:07tías, tíos,
12:09todos deberíamos estar empezando a hacer
12:11cosas distintas que nos den
12:13una satisfacción social,
12:15una unión y una cohesión social
12:17que nos permita sobrellevar
12:19estas nuevas tecnologías
12:21y estos nuevos sistemas
12:22que tendremos que ir adaptando poco a poco
12:24para seguir sintiéndonos útiles,
12:27seguir generando valor
12:28y poder salir adelante como sociedad.
12:31Valor también, ¿no?
12:32Ahorita que cuando vemos estos memes
12:34muy tropicalizados aquí en México,
12:36México superando la IA, ¿no?
12:38Que no es inteligencia artificial,
12:39realmente son las personas
12:41teniendo contacto,
12:42sacando de contexto cualquier cosa
12:43y que, bueno, termina siendo más poderoso
12:45que cualquier meme generado
12:46con inteligencia artificial.
12:48Por hablar de un tema banal, ¿no?
12:50Porque también me parece
12:51que hay cosas muy positivas
12:52en cuanto al tema de trabajo
12:55y el aprovechamiento
12:57que se le puede sacar.
12:58Pero bueno, doctor,
12:59le agradecemos
12:59que el gobierno nos haya tomado
13:00la comunicación
13:01para tratar de entender,
13:02sobre todo,
13:04tratar de calmar
13:05esas paparruchadas
13:06que de repente hay,
13:07noticias falsas, ¿no?
13:08Me parece que cuando
13:09un ejecutivo de Antropic
13:11sale a hablar
13:12y lo hace en un tono,
13:13no digamos que falso,
13:15pero sí fuera de proporción,
13:17pues se enciende las alarmas.
13:19Pues muchísimas gracias, Rodrigo.
13:20Con gusto estar contigo.
13:21Gracias, doctor.
13:22Buena tarde.
13:24Gracias.
13:24Gracias.
13:25Gracias.
13:25Gracias.
13:29Gracias.
13:30Gracias.
Comentarios