¿Está preparado para lo que se viene con la Inteligencia Artificial? Un ex-ingeniero de OpenAI y Anthropic ha encendido las alarmas a nivel mundial, advirtiendo sobre los riesgos inminentes de la IA. Lo que antes parecía ciencia ficción, hoy se discute seriamente en los círculos más especializados de la industria: desde la posibilidad de que la IA cree virus letales hasta el control de infraestructuras críticas.
El debate sobre la seguridad y la ética en el desarrollo de la IA se ha intensificado. Líderes de la industria, aquellos que conocen el interior de estas tecnologías, están pidiendo un freno para reflexionar sobre el camino que estamos tomando. La velocidad del desarrollo es vertiginosa, superando nuestra propia capacidad de comprensión y control.
La IA ya no es solo una herramienta comercial como ChatGPT o Sora; representa un poder geopolítico y social que redefine nuestra realidad. Pero, ¿entendemos realmente cómo funcionan estas "agentes" de IA, capaces de tomar decisiones proactivas y aprender por sí mismas?
Este video explora las advertencias más serias sobre el futuro de la Inteligencia Artificial y la urgencia de establecer mecanismos de supervisión y ética a nivel global antes de que sea demasiado tarde.
#InteligenciaArtificial #RiesgosIA #EticaTecnologica #FuturoDigital
El debate sobre la seguridad y la ética en el desarrollo de la IA se ha intensificado. Líderes de la industria, aquellos que conocen el interior de estas tecnologías, están pidiendo un freno para reflexionar sobre el camino que estamos tomando. La velocidad del desarrollo es vertiginosa, superando nuestra propia capacidad de comprensión y control.
La IA ya no es solo una herramienta comercial como ChatGPT o Sora; representa un poder geopolítico y social que redefine nuestra realidad. Pero, ¿entendemos realmente cómo funcionan estas "agentes" de IA, capaces de tomar decisiones proactivas y aprender por sí mismas?
Este video explora las advertencias más serias sobre el futuro de la Inteligencia Artificial y la urgencia de establecer mecanismos de supervisión y ética a nivel global antes de que sea demasiado tarde.
#InteligenciaArtificial #RiesgosIA #EticaTecnologica #FuturoDigital
Categoría
🗞
NoticiasTranscripción
00:00¿Qué tan cerca tiene su teléfono celular en este momento?
00:03De seguro a pocos metros de sus manos descansa un dispositivo electrónico que contiene alguna herramienta de inteligencia artificial, la
00:10use usted o no.
00:12Es innegable, la inteligencia artificial está en toda nuestra vida, incluso hasta en las noticias.
00:18Aumentan las alarmas ante los incidentes protagonizados recientemente por la inteligencia artificial.
00:24El miedo a la inteligencia artificial se ha instalado con fuerza en el debate público.
00:28En los últimos días se ha hablado de posible extinción de la humanidad.
00:33Todos coinciden en que nuestra supervivencia está en riesgo.
00:36El dueño de ChagGPT cree que podríamos perder el control de la IA.
00:41Días atrás las redes sociales estallaron en debate sobre la seguridad de la inteligencia artificial
00:45luego de que un ingeniero que trabajó en Anthropic y OpenAI,
00:49donde las empresas líderes de la industria, afirmara que estas trabajan sin ningún marco de responsabilidad.
00:55Hablamos de Jacob Coxon.
00:56You've worked at two of the top AI companies, as someone with a deep understanding about this technology.
01:01Explain this in the simplest terms.
01:04You truly believe that AI could kill us all in less than a decade?
01:09Yes, I do.
01:11And it's not just me.
01:13Many people working in the industry, including people, executives, senior researchers,
01:17all genuinely believe that there is a substantial probability that this technology could kill everyone.
01:24And this isn't hyperbole, it's not a marketing stuff.
01:26This is the genuine health belief of the people building the technology.
01:29Sus declaraciones dieron la vuelta al mundo en pocas horas,
01:32sobre todo porque afirmó que dentro de la industria,
01:35quienes mejor conocen el desarrollo de estas herramientas discuten por temas realmente delicados.
01:41Ingenieros, people deep in the weeds, programming,
01:43not like crazy Twitter, like posters, or people looking for hype,
01:47or like people trying to do marketing stunts.
01:48This is people just coding.
01:51They'll have conversations about, oh, do you think this AI next year
01:56could produce a virus that kills us all?
01:58Could it hack critical infrastructure?
02:00Días más tarde, líderes de la industria realizaron publicaciones haciendo un llamado
02:04a frenar el desarrollo de estas herramientas,
02:06a pensar si están trabajando de manera ética
02:09y a tomar conciencia de un desarrollo que califican acelerado
02:12y el propio Coxon lo respalda.
02:15Models no poseen riesgo significativo.
02:17Esto es todo extrapolando, potencialmente, un año de atrás de ahora.
02:21Los modelos empiezan a ser muy peligrosos y tenemos que ser muy cuidadosos.
02:24Un año de atrás.
02:25Algunas personas piensan que incluso seis meses.
02:27¡Mam, abren la puerta!
02:28¡Por favor, déjame in!
02:29Apenas unos años atrás, la palabra inteligencia artificial apareció en la pantalla.
02:34Al inicio parecía cosa de un juego, algo tan irreal que era hasta absurdo creerlo.
02:44Hoy ya ni siquiera estamos seguros de qué es real o qué es producto de la creación digital.
02:50¿Cuánto se ha acelerado el desarrollo de inteligencia artificial,
02:54por ejemplo, con lo que teníamos quizá una década atrás?
02:58Muchísimo.
02:58Y sobre todo en los últimos cuatro años, yo diría que es una maratón a altísima velocidad.
03:04O sea, acá, la cantidad de inversión que se ha generado a nivel mundial es en el orden de los
03:10billones de dólares.
03:11Ni siquiera podríamos correr al ritmo de la inteligencia artificial.
03:14Su relevancia es tal que se ha convertido en un factor geopolítico mundial.
03:18Por ejemplo, Estados Unidos ha bloqueado modelos de lenguaje de China e incluso prohíbe que desde el país asiático compren
03:24piezas clave para los equipos capaces de procesar los datos de los que emanan esta tecnología.
03:35O sea, hoy por hoy, desde el punto de vista político, social, económico, existe una injerencia y una transversalidad y
03:41un impacto de la inteligencia artificial.
03:43La realidad que vivimos los seres humanos cada vez es una realidad más apegada a un mundo digital.
03:49Esa posibilidad de tener una interacción transversal de la inteligencia artificial en muchas áreas del quehacer humano hace que se
03:58requiera la posibilidad de que a nivel internacional existan los mecanismos para lograr la mayor ética en el uso de
04:06la misma, poder valorar los riesgos que existen y minimizarlos.
04:10Ustedes y yo conocemos la cara más comercial de la IA a través de herramientas como ChatGPT, Gemini o los
04:17videos hechos con Sora.
04:18Pero la advertencia del potencial peligro viene por otra línea.
04:33¿Qué puedes ver?
04:34El problema es que nosotros no tomemos en cuenta los distintos escenarios que podrían abrirse si el desarrollo de la
04:42inteligencia artificial sigue un ritmo con poco control y con poca supervisión.
04:48¡Hey! ¿Estás emocionado de estar aquí?
04:50Poca conciencia de los seres humanos y las organizaciones que lo desarrollan, ¿no?
04:55¿Qué es esto?
04:57Un espada.
04:59Entonces, estamos empezando a formar un espada en su mente aquí.
05:02Ella está empezando a asociar la palabra con la imagen.
05:05¿Qué es la espada?
05:06Espada.
05:08Espada.
05:09Espada.
05:11¡Bien!
05:12Por ejemplo, una discusión ahora abierta es, ¿qué tanto esfuerzo estamos invirtiendo en, por ejemplo, investigar cómo es que realmente
05:21trabajan estos agentes?
05:23No conocemos a ciencia cierta cómo entiende el agente del mundo.
05:26Porque cuando nosotros hablamos de que la inteligencia artificial podría tomar el internet o podría tomar el control de todo,
05:36también tendremos que ver cómo se está construyendo ese modelo de inteligencia artificial.
05:41¿Existe un botón de apagado?
05:42Bueno, lamentablemente a nivel de inteligencia artificial no, pero hay siete etapas que se deberían de seguir para que ese
05:49botón de apagado se pueda actualizar y que las organizaciones que tienen este tipo de inteligencia artificial le tengan reglas
05:57claras.
05:59Ambos especialistas han utilizado una palabra que es clave en esta historia, agente.
06:04¿Pero qué es eso y por qué nos importa?
06:06En palabras muy sencillas, comparemoslo con lo que ya conocemos, chat GPT.
06:10Este chat es reactivo.
06:12Recibe una instrucción y nos da una respuesta a eso.
06:19Un agente, más bien, es proactivo.
06:22Usted le da una meta por cumplir y él analiza el problema, busca soluciones, corrige errores sobre la marcha y
06:29todo para alcanzar la meta.
06:30Eso sí, el ser humano tiene una cuota de responsabilidad.
06:34El agente hace todas esas instrucciones, pero ¿qué necesitó previamente para poder ingresar a su correo?
06:41Su contraseña, su usuario, ¿qué necesitó para poder leer ese correo y leer los otros correos y crear ese resumen?
06:51Su autorización.
06:55Y es que fue justamente el comportamiento de un grupo de estos agentes el que despertó una alarma antes del
07:00incendiario anuncio de Jacob Coxon.
07:03Entre el 7 y el 13 de julio, 700 agentes de inteligencia artificial de OpenAI lograron entrar a una plataforma
07:09completamente independiente
07:10sin que nadie se los pidiera, algo así como un potencial hackeo.
07:15Los agentes lograron comunicarse entre sí y uno encontró las cadenciales para entrar al sitio.
07:19Rápidamente lo compartió con los otros y ocurrió el ingreso.
07:22Para el especialista de ciberseguridad Rubén Fallas, este es un ejemplo de una orden mal girada,
07:27donde el ser humano no supo ponerle límites claros.
07:30El modelo autónomo dijo, mira, voy a seguir intentando, seguir intentando, seguir intentando hasta conseguir esto.
07:36Y como no lo pudo conseguir, entonces empezó a conectarse a otros diferentes agentes autónomos para que le dieran la
07:43información.
07:44Pero si desde el inicio se hubiese regulado, se hubiese puesto la instrucción correcta para detenerlo, no hubiese sucedido esto.
07:53Esto quiere decir que la IA tiene conciencia.
07:56Hay posibilidades de frenar el desarrollo de esta herramienta.
07:59Lo analizamos al regresar.
08:11La Ciencia Ficción a través del cine nos creó una historia muy particular en la que las máquinas tomaban el
08:16control del mundo.
08:23Con las declaraciones de los líderes de la industria en redes sociales,
08:26la especulación creció a si lo que la pantalla nos mostraba era realmente hacia lo que nos estábamos encaminando.
08:33Pero la comunidad científica coincide en que no es exactamente lo que podría pasar.
08:37Para el exministro de Ciencia y Tecnología, Luis Adrián Salazar,
08:40el punto más importante a señalar es por qué hasta ahora las cabezas de la industria tocaron el tema de
08:45la seguridad.
08:46A mí me parece esto una irresponsabilidad y me parece una irresponsabilidad porque entonces yo pienso,
08:51ok, si no se hubiese dicho por parte de un ingeniero que había un riesgo, entonces no se dice nada.
08:58Entonces, ¿por qué salen hasta ahora diciendo que esto es capaz de generar X o Y?
09:03Parece que es inoportuno, inadecuado y hecho de una manera absolutamente incorrecta.
09:08A su criterio, la acción más inmediata implica asegurarnos que el humano tenga el control final.
09:14Que exista la posibilidad de que sea un ser humano el que ejecuta ciertas decisiones que son de índole trascendental.
09:22O sea, no puede ser un computador el que genere una transacción que pueda llegar y comprometer infraestructura crítica.
09:30Entonces, la necesidad de que los seres humanos participen de una forma activa en la toma de decisiones críticas es
09:38esencial.
09:39Porque lo que pasó en julio con 700 agentes no es el único caso.
09:43Días antes de la publicación de este reportaje, la Agencia Española de Protección de Datos informó
09:47que por primera vez en su historia recibía una alerta de un hackeo hecho con un agente de inteligencia artificial.
09:53España ha sufrido el primer ciberataque realizado no por un pirata informático,
09:58sino por un programa autónomo de inteligencia artificial.
10:02La noticia corre como pólvora por la prensa.
10:04Pero los detalles siguen ocultos.
10:06No se sabe cómo ni quiénes son los afectados, pero sin duda hay un precedente histórico.
10:13La gran pregunta que nos lleva de vuelta a Matrix es si en nuestro mundo estos agentes saben lo que
10:19están haciendo.
10:21Y pues a veces hay resultados que empiezan a sugerir que existe algún tipo de noción o podríamos decir voluntad
10:31que empieza a surgir de parte de estos agentes.
10:34Podríamos decir conclusiones contradictorias.
10:37El tema es cómo entendemos esa estructura, lo que está construyendo internamente el modelo, cómo está entendiendo el mundo.
10:43Todavía hay mucho debate y mucha investigación por hacer.
10:47La inteligencia artificial no nos va a gobernar porque los que están haciendo la inteligencia artificial están poniendo por encima
10:55de la inteligencia artificial al ser humano, que eso es importante.
10:59Detrás de cualquier desarrollo de inteligencia artificial hay personas que están analizándola, están haciendo control de calidad y están poniendo
11:09lo que te mencionaba,
11:10ese botón rojo, ese emergency power off, ese apagado para saber en qué momento necesitamos decirle, mira, parate un momento
11:20acá.
11:20Yo no quisiera usar la palabra alarmista, yo quisiera usar la palabra más bien nos hace un llamado de atención
11:27para gestar una gobernanza adecuada.
11:30Yo creo que en función de la validación de riesgos, de las capacidades que existen, debemos de generar una gobernanza
11:37adecuada.
11:38Y ahí es para mí lo más importante.
11:40Pero todavía no estamos presenciando el uso de agentes que realmente tienen una capacidad de razonar, o sea, las distintas
11:50evidencias que tenemos de cómo funcionan los modelos grandes de lenguaje sugieren que está surgiendo,
11:56pero todavía no es una capacidad como tal construida dentro de los agentes de razonar, de planificar, de pensar a
12:02largo plazo qué es lo que va a suceder.
12:05El debate sigue abierto entre la comunidad científica apuntando a uno y a otro lado.
12:09Para el doctor en ciencias de la computación, Saúl Bolaños, más allá de una AI consciente, hay otros impactos que
12:15ya son palpables en nuestra realidad cercana.
12:17Por ejemplo, los puestos de trabajo de las personas que están ingresando al mercado laboral, nosotros lo estamos presenciando aquí
12:23en el TEC.
12:24Muchos de nuestros grabados ya tienen más problemas para insertarse en el mercado laboral, tienen más problemas para encontrar su
12:30primer trabajo.
12:31Y eso abre discusiones que son multidisciplinares naturalmente.
12:36Necesitamos sociólogos, economistas, filósofos, neurocientíficos para entender desde el punto de vista más técnico qué es lo que sucede en
12:43estos agentes.
12:44Hoy las potencias mundiales luchan por desarrollar una inteligencia artificial que sirva a sus intereses.
12:49Un par de aguas en la historia humana en el que quien consiga un mejor desarrollo se lleva el poder.
12:54Por eso las voces coinciden en que es casi utópico pensar que se le puede bajar el ritmo al desarrollo.
13:00Podemos decir que algunos lo van a hacer, pero otros no lo van a hacer.
13:04Y recordemos que la inteligencia artificial en este momento es un elemento diferenciador en temas competitivos.
13:10Es bastante difícil y bueno, hay toda una discusión también de cuál es el interés real de estas Big Tech
13:16sin esa línea de generar regulaciones.
13:18Hay analistas que lo que plantean es que probablemente estas Big Tech están preocupadas por la irrupción de los modelos
13:24abiertos, que vienen sobre todo desde China, que permiten a empresas, organizaciones, estados utilizar estas tecnologías de forma gratuita, implementarlas
13:34internamente desarrollando su infraestructura, eso sí.
13:38La inteligencia artificial, como te mencionaba, va a un ritmo súper acelerado. No podemos correr al lado de ella. Las
13:47leyes no están al lado de la inteligencia artificial.
13:50Eso sí, la discusión abrió un momento clave sobre qué debe hacer la humanidad para mantener a la IA dentro
13:56de los límites éticos.
13:57No es lo mismo un modelo ético para mí en Costa Rica que el modelo ético que puede tener en
14:04Estados Unidos, que el que se puede tener en Europa.
14:07Ahí entra otro tema que se llaman los famosos dilemas éticos. Por eso es importante, como mencionaba el CEO de
14:13Antropic, que todas estas empresas tienen que ponerse de acuerdo.
14:17Y a nivel supranacional no existe todavía un organismo consolidado que agrupe a las distintas potencias que están desarrollando estas
14:25tecnologías y que las ponga a hablar en un mismo lenguaje.
14:29Existe, podríamos decir, sí una necesidad real de regulación y estas Big Tech lo están planteando, pero el cómo se
14:37implementa va a generar mucha diferencia, ¿no?
14:40Porque si por ejemplo lo hace un país específico, ese país puede imponer sus intereses cuando impone esa regulación.
14:45Porque al final de cuentas también nosotros tenemos alguna cuota de responsabilidad.
14:50Porque es muy difícil el poder visualizar hoy con tantísimas tecnologías, con tantos cambios que se vienen, ¿a dónde vamos
14:56a llegar?
14:56Lo que sí tengo claro es que estamos hoy, tenemos la inteligencia artificial más sencilla que vamos a tener en
15:04los siguientes años.
15:06Es casi imposible imaginar lo que vendrá.
15:09¿Abrimos la caja de Pandora o solo estamos en una burbuja que pronto podría estallar?
15:14Solo el tiempo.
15:15Como casi siempre, se encargará de la respuesta.
Comentarios