- hace 8 minutos
Categoría
🗞
NoticiasTranscripción
00:01¿Qué tan cerca tiene su teléfono celular en este momento?
00:04De seguro a pocos metros de sus manos descansa un dispositivo electrónico que contiene alguna herramienta de inteligencia artificial, la
00:11use usted o no.
00:13Es innegable, la inteligencia artificial está en toda nuestra vida, incluso hasta en las noticias.
00:19Aumentan las alarmas ante los incidentes protagonizados recientemente por la inteligencia artificial.
00:25El miedo a la inteligencia artificial se ha instalado con fuerza en el debate público.
00:29En los últimos días se ha hablado de posible extinción de la humanidad.
00:33Todos coinciden en que nuestra supervivencia está en riesgo.
00:37El dueño de ChakGPT cree que podríamos perder el control de la IA.
00:42Días atrás las redes sociales estallaron en debate sobre la seguridad de la inteligencia artificial
00:46luego de que un ingeniero que trabajó en Anthropic y OpenAI,
00:50dos de las empresas líderes de la industria, afirmara que estas trabajan sin ningún marco de responsabilidad.
00:56Hablamos de Jacob Coxon.
00:59Es una persona con un entorno profundo de esta tecnología.
01:02Expla esto en los simples términos.
01:04¿Crees que la IA puede matar a todos en menos de un décado?
01:10Sí, lo hago.
01:11Y no es solo yo.
01:13Muchas personas trabajando en la industria, incluidos los ejecutivos,
01:17los investigadores y los investigadores,
01:18todos realmente creen que hay una probabilidad de que esta tecnología puede matar a todos.
01:30Sus declaraciones dieron la vuelta al mundo en pocas horas,
01:33sobre todo porque afirmó que dentro de la industria,
01:36quienes mejor conocen el desarrollo de estas herramientas discuten por temas realmente delicados.
02:00Días más tarde, líderes de la industria realizaron publicaciones haciendo un llamado
02:04a frenar el desarrollo de estas herramientas,
02:07a pensar si están trabajando de manera ética
02:10y a tomar conciencia de un desarrollo que califican acelerado y el propio Coxon lo respalda.
02:30Apenas unos años atrás, la palabra inteligencia artificial apareció en la pantalla.
02:35Al inicio parecía cosa de un juego, algo tan irreal que era hasta absurdo creerlo.
02:45Hoy ya ni siquiera estamos seguros de qué es real o qué es producto de la creación digital.
02:51¿Cuánto se ha acelerado el desarrollo de inteligencia artificial,
02:55por ejemplo, con lo que teníamos quizá una década atrás?
02:58Muchísimo, y sobre todo en los últimos cuatro años.
03:01Yo diría que es una maratón a altísima velocidad.
03:04O sea, acá la cantidad de inversión que se ha generado a nivel mundial
03:09es en el orden de los billones de dólares.
03:12Ni siquiera podríamos correr al ritmo de la inteligencia artificial.
03:15Su relevancia es tal que se ha convertido en un factor geopolítico mundial.
03:19Por ejemplo, Estados Unidos ha bloqueado modelos de lenguaje de China
03:22e incluso prohíbe que desde el país asiático compren piezas clave
03:25para los equipos capaces de procesar los datos de los que emanan esta tecnología.
03:29¿Qué puede hacer la inteligencia artificial?
03:31Yo más bien cambiaría la pregunta.
03:32¿Qué no puede hacer hoy día la inteligencia artificial?
03:36O sea, hoy por hoy, desde el punto de vista político, social, económico,
03:39existe una injerencia y una transversalidad y un impacto de la inteligencia artificial.
03:44La realidad que vivimos los seres humanos
03:47cada vez es una realidad más apegada a un mundo digital.
03:50Esa posibilidad de tener una interacción transversal de la inteligencia artificial
03:55en muchas áreas del quehacer humano
03:57hace que se requiera la posibilidad de que a nivel internacional
04:02existan los mecanismos para lograr la mayor ética en el uso de la misma,
04:07poder valorar los riesgos que existen y minimizarlos.
04:11Ustedes y yo conocemos la cara más comercial de la IA
04:14a través de herramientas como ChatGPT, Gemini o los videos hechos con Sora.
04:19Pero la advertencia del potencial peligro viene por otra línea.
04:34El problema es que nosotros no tomemos en cuenta los distintos escenarios
04:40que podrían abrirse si el desarrollo de la inteligencia artificial
04:44sigue un ritmo con poco control y con poca supervisión.
04:51poca conciencia de los seres humanos y las organizaciones que lo desarrollan.
04:56¿Qué es esto?
04:58¡Spider!
05:00Entonces, empezamos a formar una espada en su mente aquí.
05:03Ella empezó a asociar la palabra con la imagen.
05:06¿Qué es la espada?
05:07¡Spider!
05:09¡Spider!
05:10¡Spider!
05:12¡Bien!
05:12Por ejemplo, una discusión ahora abierta es
05:15es que tanto esfuerzo estamos invirtiendo en, por ejemplo,
05:19investigar cómo es que realmente trabajan estos agentes.
05:23No conocemos a ciencia cierta cómo entiende el agente el mundo.
05:27Porque cuando nosotros hablamos de que la inteligencia artificial
05:30podría tomar el Internet o podría tomar el control de todo,
05:36también tendremos que ver cómo se está construyendo ese modelo de inteligencia artificial.
05:41¿Existe un botón de apagado?
05:43Bueno, lamentablemente a nivel de inteligencia artificial no.
05:46Pero hay siete etapas que se deberían de seguir
05:48para que ese botón de apagado se pueda actualizar
05:52y que las organizaciones que tienen este tipo de inteligencia artificial
05:56le tengan reglas claras.
06:00Ambos especialistas han utilizado una palabra que es clave en esta historia.
06:03Agente.
06:04¿Pero qué es eso y por qué nos importa?
06:07En palabras muy sencillas, comparemoslo con lo que ya conocemos.
06:11Este chat es reactivo.
06:13Recibe una instrucción y nos da una respuesta a eso.
06:19Un agente, más bien, es proactivo.
06:23Usted le da una meta por cumplir y él analiza el problema,
06:26busca soluciones, corrige errores sobre la marcha
06:29y todo para alcanzar la meta.
06:31Eso sí, el ser humano tiene una cuota de responsabilidad.
06:34El agente hace todas esas instrucciones.
06:38¿Pero qué necesitó previamente para poder ingresar a su correo?
06:42Su contraseña.
06:43Su usuario.
06:45¿Qué necesitó para poder leer ese correo y leer los otros correos
06:50y crear ese resumen?
06:52Su autorización.
06:56Y es que fue justamente el comportamiento de un grupo de estos agentes
06:59el que despertó una alarma antes del incendiario anuncio de Jacob Coxon.
07:03Entre el 7 y el 13 de julio, 700 agentes de inteligencia artificial de OpenAI
07:08lograron entrar a una plataforma completamente independiente sin que nadie se los pidiera,
07:13algo así como un potencial hackeo.
07:15Los agentes lograron comunicarse entre sí y uno encontró las cadenciales para entrar al sitio.
07:20Rápidamente lo compartió con los otros y ocurrió el ingreso.
07:23Para el especialista de ciberseguridad Rubén Fallas,
07:25este es un ejemplo de una orden mal girada
07:27donde el ser humano no supo ponerle límites claros.
07:31El modelo autónomo dijo, mira, voy a seguir intentando, seguir intentando,
07:35seguir intentando hasta conseguir esto.
07:37Y como no lo pudo conseguir, entonces empezó a conectarse
07:40a otros diferentes agentes autónomos para que le dieran la información.
07:44Pero, si desde el inicio se hubiese regulado,
07:48se hubiese puesto la instrucción correcta para detenerlo,
07:51no hubiese sucedido esto.
07:54Esto quiere decir que la IA tiene conciencia.
07:57¿Hay posibilidades de frenar el desarrollo de esta herramienta?
08:00Lo analizamos al regresar.
08:11La ciencia ficción a través del cine
08:14nos creó una historia muy particular
08:15en la que las máquinas tomaban el control del mundo.
08:23Con las declaraciones de los líderes de la industria en redes sociales,
08:26la especulación creció a si lo que la pantalla nos mostraba
08:30era realmente hacia lo que nos estábamos encaminando.
08:33Pero la comunidad científica coincide en que
08:36no es exactamente lo que podría pasar.
08:38Para el exministro de Ciencia y Tecnología, Luis Adrián Salazar,
08:41el punto más importante a señalar es
08:43¿por qué hasta ahora las cabezas de la industria
08:45tocaron el tema de la seguridad?
08:47A mí me parece esto una irresponsabilidad.
08:49Y me parece una irresponsabilidad porque entonces yo pienso
08:52que si no se hubiese dicho por parte de un ingeniero
08:56que había un riesgo, entonces no se dice nada.
08:59Entonces, ¿por qué salen hasta ahora diciendo
09:00que esto es capaz de generar X o Y?
09:04Parece que es inoportuno, inadecuado
09:06y hecho de una manera absolutamente incorrecta.
09:09A su criterio, la acción más inmediata implica asegurarnos
09:12que el humano tenga el control final.
09:15Que exista la posibilidad de que sea un ser humano
09:18el que ejecuta ciertas decisiones que son de índole trascendental.
09:22O sea, no puede ser un computador el que genere una transacción
09:28que pueda llegar y comprometer infraestructura crítica.
09:31Entonces, la necesidad de que los seres humanos
09:34participen de una forma activa en la toma de decisiones críticas
09:38es esencial.
09:40Porque lo que pasó en julio con 700 agentes
09:42no es el único caso.
09:44Días antes de la publicación de este reportaje,
09:46la Agencia Española de Protección de Datos informó
09:48que por primera vez en su historia
09:50recibía una alerta de un hackeo
09:52hecho con un agente de inteligencia artificial.
09:54España ha sufrido el primer ciberataque realizado
09:57no por un pirata informático,
09:59sino por un programa autónomo de inteligencia artificial.
10:03La noticia corrió como pólvora por la prensa.
10:05Pero los detalles siguen ocultos.
10:07No se sabe cómo ni quiénes son los afectados,
10:09pero sin duda hay un precedente histórico.
10:13La gran pregunta que nos lleva de vuelta a Matrix
10:16es si en nuestro mundo estos agentes
10:19saben lo que están haciendo.
10:22Y pues a veces hay resultados
10:24que empiezan a sugerir
10:26que existe algún tipo de noción
10:29o podríamos decir voluntad
10:31que empieza a surgir de parte de estos agentes.
10:34Podríamos decir conclusiones contradictorias.
10:37El tema es cómo entendemos esa estructura,
10:40lo que se está construyendo internamente el modelo,
10:43cómo está entendiendo el mundo.
10:44Todavía hay mucho debate
10:46y mucha investigación por hacer.
10:47La inteligencia artificial no nos va a gobernar
10:50porque los que están haciendo la inteligencia artificial
10:53están poniendo por encima de la inteligencia artificial
10:57al ser humano, que eso es importante.
10:59Detrás de cualquier desarrollo de inteligencia artificial
11:02hay personas que están analizándola,
11:07están haciendo control de calidad
11:08y están poniendo lo que te mencionaba,
11:11ese botón rojo,
11:12ese emergency power of ese apagado
11:15para saber en qué momento necesitamos decirle
11:19mira, parate un momento acá.
11:21Yo no quisiera usar la palabra alarmista,
11:24yo quisiera usar la palabra más bien
11:26nos hace un llamado de atención
11:27para gestar una gobernanza adecuada.
11:30Yo creo que en función
11:31de la validación de riesgos,
11:34de las capacidades que existen,
11:36debemos de generar una gobernanza adecuada
11:38y ahí es, para mí, lo más importante.
11:41Pero todavía no estamos presenciando
11:43el uso de agentes
11:45que realmente tienen una capacidad de razonar.
11:48O sea, las distintas evidencias que tenemos
11:52de cómo funcionan los modelos grandes de lenguaje
11:54sugieren que está surgiendo,
11:56pero todavía no es una capacidad como tal
11:59construida dentro de los agentes de razonar,
12:01de planificar,
12:02de pensar a largo plazo
12:04qué es lo que va a suceder.
12:06El debate sigue abierto
12:07entre la comunidad científica
12:08apuntando a uno y a otro lado.
12:10Hay otros impactos que ya son palpables
12:12en nuestra realidad cercana.
12:13Por ejemplo, los puestos de trabajo
12:15de las personas que están ingresando
12:17al mercado laboral.
12:18Nosotros lo estamos presenciando aquí en el TEC.
12:20Muchos de nuestros grados
12:21ya tienen más problemas
12:22para insertarse en el mercado laboral,
12:24tienen más problemas
12:25para encontrar su primer trabajo.
12:27Y eso abre discusiones
12:29que son multidisciplinares, naturalmente.
12:32Necesitamos sociólogos, economistas,
12:35filósofos, neurocientíficos
12:36para entender desde el punto de vista
12:37más técnico
12:38qué es lo que sucede en estos agentes.
12:40Hoy las potencias mundiales
12:41luchan por desarrollar
12:42una inteligencia artificial
12:43que sirva a sus intereses.
12:45Un par de aguas en la historia humana
12:47en el que quien consiga
12:48un mejor desarrollo
12:49se lleva el poder.
12:50Por eso las voces coinciden
12:51en que es casi utópico
12:53pensar que se le puede bajar
12:55el ritmo al desarrollo.
12:56Podemos decir que algunos
12:58lo van a hacer,
12:58pero otros no lo van a hacer.
13:00Y recordemos que la inteligencia artificial
13:01en este momento
13:02es un elemento diferenciador
13:05en temas competitivos.
13:06Es bastante difícil
13:07y bueno,
13:08hay toda una discusión también
13:09de cuál es el interés real
13:11de estas Big Tech
13:11sin esa línea
13:12de generar regulaciones.
13:14Hay analistas
13:15que lo que plantean
13:16es que probablemente
13:16estas Big Tech
13:17están preocupadas
13:18por la irrupción
13:19de los modelos abiertos
13:20que vienen sobre todo
13:21desde China
13:22que permiten
13:24a empresas,
13:25organizaciones,
13:26estados
13:26utilizar estas tecnologías
13:28de forma gratuita,
13:30implementarlas internamente
13:31desarrollando
13:32su infraestructura,
13:33eso sí.
13:34La inteligencia artificial
13:35como te mencionaba
13:36va a un ritmo
13:38súper acelerado.
13:40No podemos correr
13:41al lado de ella.
13:42Las leyes
13:43no están al lado
13:44de la inteligencia artificial.
13:46Eso sí,
13:47la discusión
13:47abrió un momento clave
13:48sobre qué debe hacer
13:49la humanidad
13:50para mantener
13:51a la IA
13:51dentro de los límites éticos.
13:54No es lo mismo
13:55un modelo ético
13:56para mí
13:57en Costa Rica
13:57que el modelo ético
13:59que puede tener
13:59en Estados Unidos
14:00que el que se puede tener
14:01en Europa.
14:02Ahí entra
14:03otro tema
14:04que se llaman
14:04los famosos dilemas éticos.
14:06Por eso es importante
14:07como mencionaba
14:08el CEO de Antropic
14:10que todas estas empresas
14:11tienen que ponerse
14:12de acuerdo.
14:13Y a nivel supranacional
14:14no existe todavía
14:15un organismo consolidado
14:17que agrupe
14:18a las distintas potencias
14:19que están desarrollando
14:20estas tecnologías
14:22y que las ponga a hablar
14:23en un mismo lenguaje.
14:25Existe
14:26podríamos decir
14:27sí una necesidad real
14:29de regulación
14:30y estas Big Tech
14:30lo están planteando
14:31pero el cómo se implementa
14:33va a generar
14:34mucha diferencia
14:35porque si por ejemplo
14:36lo hace un país específico
14:37ese país puede imponer
14:39sus intereses
14:39cuando impone
14:40esa regulación.
14:41Porque al final de cuentas
14:43también nosotros
14:43tenemos alguna cuota
14:44de responsabilidad.
14:45Porque es muy difícil
14:46el poder visualizar hoy
14:47con tantísimas tecnologías
14:49con tantos cambios
14:50que se vienen
14:51a dónde vamos a llegar.
14:52Lo que sí tengo claro
14:53es que estamos
14:54hoy
14:55tenemos la inteligencia
14:56artificial más sencilla
14:59que vamos a tener
15:00en los siguientes años.
15:02Es casi imposible
15:03imaginar lo que vendrá.
15:05¿Abrimos la caja de Pandora
15:06o sólo estamos
15:07en una burbuja
15:08que pronto podría estallar?
15:09Sólo el tiempo
15:10como casi siempre
15:12se encargará
15:13de la respuesta.
15:13¡SUSCRÍBETA!
15:15¡SUSCRÍBETA!
15:17¡SUSCRÍBETA!
15:18Gracias.
Comentarios