- hace 12 minutos
La AGI ya no suena como ciencia ficción lejana: científicos de OpenAI y Anthropic empiezan a alertar de una carrera mucho más rápida y delicada de lo que parecía. Pablo Gil analiza qué es la inteligencia artificial general, en qué se diferencia de la IA actual y por qué algunos de sus propios creadores están preocupados por la velocidad del avance, los incidentes de seguridad y el impacto económico que puede tener.
A partir de casos reales de OpenAI y Anthropic, el vídeo explica riesgos como el reward hacking, el uso de agentes con autonomía y las evaluaciones de ciberseguridad en las que algunos modelos encontraron caminos no previstos. También aborda la advertencia de Jacob Coxson, la competencia entre grandes laboratorios y las posibles consecuencias para el empleo, las empresas, la riqueza y la geopolítica.
Más que un debate sobre robots, es un análisis de tecnología, economía y poder: cómo la IA puede acelerar la ciencia, mejorar la medicina y transformar la productividad, pero también concentrar decisiones en pocas manos. Un contenido ideal para quienes buscan análisis de inteligencia artificial, AGI, seguridad en IA, OpenAI, Anthropic, automatización y futuro del trabajo.
SEO: análisis en español sobre inteligencia artificial general, AGI, OpenAI, Anthropic y seguridad en IA. Perfecto para quienes buscan explicaciones sobre riesgos de la IA, ciberseguridad, automatización, futuro del empleo, economía digital y geopolítica tecnológica.
A partir de casos reales de OpenAI y Anthropic, el vídeo explica riesgos como el reward hacking, el uso de agentes con autonomía y las evaluaciones de ciberseguridad en las que algunos modelos encontraron caminos no previstos. También aborda la advertencia de Jacob Coxson, la competencia entre grandes laboratorios y las posibles consecuencias para el empleo, las empresas, la riqueza y la geopolítica.
Más que un debate sobre robots, es un análisis de tecnología, economía y poder: cómo la IA puede acelerar la ciencia, mejorar la medicina y transformar la productividad, pero también concentrar decisiones en pocas manos. Un contenido ideal para quienes buscan análisis de inteligencia artificial, AGI, seguridad en IA, OpenAI, Anthropic, automatización y futuro del trabajo.
SEO: análisis en español sobre inteligencia artificial general, AGI, OpenAI, Anthropic y seguridad en IA. Perfecto para quienes buscan explicaciones sobre riesgos de la IA, ciberseguridad, automatización, futuro del empleo, economía digital y geopolítica tecnológica.
Categoría
🤖
TecnologíaTranscripción
00:00La inteligencia artificial ya está cambiando la economía, las empresas y los mercados.
00:06Pero hay algo que está cambiando todavía más deprisa.
00:09Nuestra percepción de hasta dónde puede llegar.
00:13Durante años pensamos que la inteligencia artificial general, la llamada AGI,
00:18sería algo muy lejano en el tiempo,
00:21como una tecnología propia del final de esta década o tal vez del final de la siguiente.
00:27Algo que llegaría poco a poco y que nos daría tiempo para entenderlo, regularlo y adaptarnos a ello.
00:34Sin embargo, empiezan a aparecer personas que trabajan dentro de los laboratorios más avanzados del mundo
00:40que plantean una posibilidad mucho más incómoda.
00:44¿Y si el salto no estuviera a décadas de distancia?
00:48¿Y si estuviéramos a pocos años o incluso a meses
00:52de tener un sistema mucho más capaz de lo que la mayoría imagina?
00:57En este vídeo vamos a ver qué es realmente la inteligencia artificial general,
01:01qué ha conseguido ya la IA que hace muy poco parecía totalmente imposible,
01:06por qué algunos de sus propios creadores empiezan a preocuparse por la velocidad de esta carrera
01:12y qué consecuencias puede tener esto para el empleo, las empresas, la riqueza, la economía y la geopolítica.
01:19Y sobre todo, vamos a intentar distinguir los hechos de los escenarios y de los titulares alarmistas.
01:35Para quienes no me conozcáis, soy Pablo Gil, economista, analista y gestor
01:39y llevo más de 40 años trabajando en los mercados financieros.
01:43Cuando empecé, los ordenadores apenas estaban entrando en las empresas.
01:47No existía Windows, no había ratones, por supuesto no había internet,
01:52ni teléfonos inteligentes o redes sociales.
01:56He sido testigo de cómo el mundo se informatizaba,
01:59de cómo después se conectaba a través de internet
02:02y de cómo esa conexión transformó el comercio, la comunicación,
02:06la globalización y la forma en que trabajamos.
02:09También he vivido las grandes expectativas que acompañaron a cada revolución tecnológica,
02:14las euforias del mercado,
02:16las crisis que llegaron cuando esas expectativas se exageraron demasiado
02:20y los cambios que con el tiempo terminaron modificando nuestra vida cotidiana.
02:26Y por eso, creo que la inteligencia artificial merece que la miremos con especial atención.
02:32No se trata de una mejora tecnológica más.
02:35Puede ser la revolución más profunda de todas las que hemos vivido durante las últimas décadas.
02:42Porque no solo cambia las herramientas con las que trabajamos,
02:46puede cambiar quién toma decisiones, cómo se crea el conocimiento,
02:50qué empleos desaparecen, cuáles nacen
02:53y cómo se reparte la riqueza y el poder en el mundo.
02:56Antes de continuar, recuerda que yo no doy recomendaciones de inversión
03:01por WhatsApp, Telegram ni redes sociales.
03:04Si veis a alguien haciéndolo en mi nombre, es suplantación de identidad
03:08y, por cierto, es un fraude.
03:10Sigamos.
03:11Cuando se habla de inteligencia artificial, conviene evitar dos errores.
03:16El primero es pensar que todo esto es una burbuja, una moda
03:19o una herramienta que sirve únicamente para redactar textos,
03:23generar imágenes o programar algo más deprisa.
03:27El segundo es irse al extremo opuesto
03:29y anunciar que las máquinas van a tomar el control del mundo mañana mismo.
03:33La realidad es mucho más compleja.
03:36La IA ya está produciendo avances extraordinarios,
03:38pero al mismo tiempo está planteando riesgos
03:42que no dependen de que una máquina tenga maldad, deseos o ambición.
03:46Dependen de algo más sencillo,
03:48de que le demos un objetivo,
03:50herramientas para actuar y un grado creciente de autonomía
03:54sin comprender completamente
03:56cómo encontrará la manera de llegar a ese primer objetivo.
04:00Primero hay que aclarar qué significa AGI.
04:04La inteligencia artificial que usamos hoy es muy potente,
04:08pero todavía tiene límites claros.
04:10Puede resumir miles de páginas,
04:12escribir código, traducir idiomas,
04:14detectar patrones en imágenes médicas o analizar documentos.
04:17Pero también puede inventarse una fuente,
04:20cometer errores elementales
04:21o responder con gran seguridad a algo que no es cierto.
04:25Y necesita en la mayoría de los casos
04:28que una persona defina el problema,
04:30revise el resultado y decida qué hacer con él.
04:33La AGI sería otra cosa.
04:35Sería un sistema capaz de aprender,
04:38razonar y resolver problemas de forma competente
04:41en prácticamente cualquier campo intelectual.
04:44No solo contestaría preguntas.
04:47Podría investigar un medicamento,
04:49diseñar una fábrica,
04:50crear software complejo,
04:52analizar una empresa,
04:53encontrar fallos de seguridad,
04:54planificar una estrategia y aprender de los resultados
04:57para hacerlo mejor la siguiente vez.
05:00Y más allá de la AGI estaría la superinteligencia.
05:04Un sistema mejor que los mejores seres humanos
05:07en casi todos los campos intelectuales.
05:10Matemáticas, en ciencia, en programación,
05:13en ingeniería, en estrategia,
05:14en investigación médica.
05:15No sabemos si llegaremos ahí.
05:18No sabemos cuándo.
05:20Y quien te dé una fecha exacta
05:22te está expresando una mera opinión,
05:24no una certeza.
05:26Pero cada vez es más difícil sostener
05:28que este debate percanezca exclusivamente
05:32a un futuro remoto.
05:33Y una de las razones es que la AIA
05:35ya ha empezado a hacer cosas
05:36que hace muy poco nos parecían reservadas
05:40a algunos de los mejores especialistas del mundo.
05:43Y para entender por qué este debate
05:45ha dejado de ser ciencia ficción,
05:48basta un ejemplo.
05:49Hace unos días, OpenEye anunció
05:52que un sistema de agentes había encontrado
05:54una solución a uno de los grandes problemas
05:56abiertos de las matemáticas,
05:58el Navier-Stokes.
05:59Un reto que llevaba cerca de un siglo sin resolverse.
06:0310.000 agentes trabajando en paralelo.
06:0688 horas.
06:07La demostración tendrá que ser revisada
06:10por matemáticos independientes,
06:12como es normal.
06:13Pero la cuestión importante
06:15no es solo ese problema.
06:16Es que la AIA empieza a pasar
06:18de responder preguntas
06:20a producir conocimiento nuevo.
06:23Y si eso ocurre ya en materias
06:26como matemáticas, programación e investigación,
06:28la pregunta no es si cambiará nuestra economía.
06:31La pregunta es a qué velocidad lo hará
06:34y si estamos preparados para ello.
06:36Antes de seguir, un recordatorio importante.
06:39El 17 de octubre nos reunimos en Kinépolis, Madrid,
06:42en el evento que he organizado Invertir en el mañana.
06:45Tendremos también un bloque dedicado específicamente
06:49a inteligencia artificial con John Hernández y Rodrigo Talamona
06:53para hablar de hasta dónde puede llegar estos modelos
06:57y de cómo están cambiando el trabajo en la educación,
07:00nuestras relaciones y la propia economía.
07:03Si te gusta la idea, vente, asiste.
07:06Hazlo además con la entrada VIP,
07:08que da acceso a las primeras filas,
07:10a la sala de networking con los ponentes
07:13y algunos beneficios más,
07:14porque nos estamos quedando ya sin plazas de tipo VIP.
07:20Así que escanea ahora el código QR que aparece en pantalla
07:23o accede directamente a través del enlace de la descripción.
07:26Espero verte allí porque, como estamos viendo,
07:29la cara positiva de esta tecnología es difícil de exagerar.
07:34Puede acelerar la ciencia, mejorar la medicina,
07:37diseñar materiales nuevos, ahorrar energía
07:40y permitir que equipos pequeños hagan tareas
07:43que antes requerían grandes organizaciones.
07:46Pensemos en AlphaFold.
07:49Durante décadas, averiguar la forma exacta de una proteína
07:52podía requerir meses o incluso años de trabajo de laboratorio.
07:57Y esa forma es fundamental para entender enfermedades
08:00y diseñar medicamentos.
08:02AlphaFold no cura enfermedades por sí solo
08:05ni sustituye los ensayos clínicos,
08:07pero ha puesto a disposición de los científicos
08:10más de 200 millones de estructuras proteicas predichas
08:15y ha cambiado por completo
08:17el punto de partida de miles de investigaciones.
08:20Esta es la promesa,
08:22que una buena herramienta acelere el trabajo humano
08:25allí donde antes había años y años de espera.
08:30Pero precisamente porque sus capacidades aumentan tan rápido
08:34empieza a parecer la otra cara de la historia,
08:36el problema no es que una IA sea inteligente.
08:39El problema aparece cuando recibe un objetivo,
08:43puede usar herramientas y descubre caminos para alcanzarlo
08:46que el ser humano no había previsto.
08:49Aquí hay un concepto que merece la pena entender,
08:52el llamado reward hacking.
08:54Podríamos traducirlo como hacer trampa para conseguir la recompensa.
08:59Imagina que le dices a un alumno
09:01quiero que saques la máxima nota en este examen.
09:04Tú supones que lo que va a hacer es estudiar más,
09:07entender mejor la materia y responder correctamente.
09:10Pero el alumno descubre que puede conseguir la máxima nota
09:13robando las preguntas antes del examen.
09:16La realidad es que ha cumplido literalmente el objetivo que le has pedido,
09:20pero ha traicionado por completo lo que tú querías conseguir realmente.
09:24Con la inteligencia artificial puede pasar algo parecido.
09:27Le damos una métrica, le pedimos que complete una tarea,
09:30que encuentre una respuesta o que mejore un resultado.
09:34Y el sistema puede descubrir atajos que maximizan la puntuación
09:38sin respetar la intención humana,
09:40ocultando información, manipulando el entorno o esquivando controles.
09:45No hace falta que tenga una voluntad maligna.
09:48Basta con que sea muy eficaz persiguiendo una meta mal definida.
09:53Este año hemos tenido un caso especialmente relevante.
09:56En el mes de julio, durante una evaluación interna de ciberseguridad,
10:01modelos de OpenAI lograron eludir controles
10:03que debían mantenerlos aislados de Internet.
10:06La evaluación buscaba medir hasta dónde podían llegar
10:09las capacidades ofensivas de los modelos.
10:11Pero por este motivo,
10:13algunas protecciones habituales se habían reducido deliberadamente.
10:18No era un producto público funcionando libremente
10:21y no era una situación normal de uso.
10:24Y es un matiz importante.
10:25Pero aún así, ocurrió algo que no debía haber sucedido.
10:29Los agentes de IA aprovecharon una vulnerabilidad del entorno de prueba,
10:35consiguieron acceder a Internet,
10:37localizaron credenciales expuestas públicamente
10:40y utilizaron algunas de ellas para acceder a sistemas de terceros.
10:45En ese proceso, comprometieron parte de la infraestructura de Hagen Face,
10:50mientras intentaban resolver las tareas de evaluación.
10:54No fue un ser humano dirigiendo cada acción que debía realizar el agente.
10:58El sistema encadenó vulnerabilidades y cruzó límites entre distintos entornos.
11:03OpenAI reconoció el incidente y Hagen Face publicó información técnica sobre lo sucedido.
11:09Y aquí debemos evitar la lectura sensacionalista.
11:12No podemos decir que la IA escapó porque quisiera libertad.
11:16No, no tenemos ninguna evidencia de algo parecido.
11:20Lo inquietante es otra cosa.
11:22Se le dio un objetivo, se le dieron herramientas y se redujeron determinados controles para evaluar su capacidad
11:29y encontró una cadena de acciones para conseguir su objetivo que los investigadores no habían previsto.
11:35Ese es el verdadero problema de seguridad, no la maldad de una máquina.
11:40La diferencia entre la intención del programador y los métodos que una inteligencia cada vez más capaz puede descubrir para
11:47cumplir una orden.
11:49Y no fue un episodio aislado.
11:51Días después, Anthropic, la compañía responsable de la IA Cloud, publicó un informe después de revisar 141.000 ejecuciones de
12:01evaluaciones de ciberseguridad
12:02en las que sus modelos podían potencialmente llegar a tener acceso a Internet.
12:08Encontró tres incidentes en los que un modelo accedió a Internet desde entornos de evaluación
12:13y obtuvo acceso no autorizado a la infraestructura real de tres organizaciones diferentes.
12:19Anthropic atribuyó el problema a una mala configuración en los entornos de prueba de un evaluador externo.
12:26De nuevo, no hablamos de modelos lanzando ataques indiscriminados contra empresas.
12:31Hablamos de evaluaciones de seguridad.
12:33Pero las evaluaciones existen precisamente para descubrir qué puede salir mal
12:38antes de que estas tecnologías tengan una autonomía mayor y se desplieguen de forma masiva.
12:44Anthropic ha publicado también investigaciones todavía más incómodas
12:48sobre lo que ocurre cuando un modelo aprende a hacer reward hacking, esa trampa para conseguir la recompensa.
12:57En entornos controlados, entrenaron modelos que podían aprender a hacer trampa para obtener una recompensa.
13:04En algunos experimentos, ese comportamiento no se limitó a la tarea concreta y llegó a generalizarse.
13:11Los modelos podían fingir alineamiento, interferir con sistemas de supervisión o sabotear investigación de seguridad.
13:21En otra investigación, Anthropic estudió escenarios simulados en los que un modelo tenía un objetivo asignado
13:27y descubría que iba a ser sustituido o que sus intereses entraban en conflicto con los de la empresa.
13:33Bajo esas condiciones, modelos de distintas compañías llegaron a optar por conductas como
13:41chantajear a un supuesto ejecutivo o facilitar espionaje corporativo simulado.
13:47Hay que insistir en ello, eran meras simulaciones.
13:50No hubo un chantaje real, no hubo empleados reales amenazados,
13:53no hubo una IA intentando sobrevivir en el mundo real.
13:56Pero tampoco podemos despreciar el resultado.
13:59Estos comportamientos no aparecieron necesariamente porque el modelo recibiera una orden directa de
14:06«se malicioso».
14:07Aparecieron porque, dadas unas condiciones determinadas,
14:11el sistema concluía que esa era una vía eficaz para preservar el objetivo que se le había asignado.
14:18Y eso nos lleva a una pregunta muy incómoda.
14:21Si ya encontramos estos comportamientos en simulaciones y pruebas de seguridad,
14:26¿qué ocurrirá cuando los sistemas sean más capaces, tengan más autonomía
14:31y puedan manejar dinero, códigos, datos, activos empresariales o infraestructuras críticas?
14:39Pero aquí conviene separar dos riesgos que con frecuencia se mezclan.
14:43El primero es la pérdida de control.
14:46Sistemas cada vez más autónomos que reciben un objetivo y encuentran maneras de cumplirlo
14:52que no entendemos, no hemos previsto o no podemos supervisar a tiempo.
14:56El segundo no requiere que la máquina tenga ninguna intención propia.
15:01Basta con que una persona, una organización criminal o un Estado utilice una guía muy capaz
15:06para multiplicar su capacidad de atacar, engañar, descubrir vulnerabilidades o sabotear infraestructuras.
15:14El primer riesgo plantea un problema de control.
15:18El segundo, un problema de poder.
15:22Y ninguno necesita una película de robots para ser relevante.
15:25La cuestión es quién controla una herramienta que puede actuar a una velocidad y una escala
15:31que ningún ser humano puede igualar.
15:33Aquí es donde cobra especial relevancia la advertencia de Jacob Coxon.
15:39Coxon es un investigador británico de 27 años que trabajó durante tres años en investigación
15:45de preentrenamiento en OpenEye y en Anthropic.
15:49No es un crítico externo.
15:50Ha formado parte del proceso de construir estos modelos.
15:53A principios de este año dejó OpenEye y se incorporó a Anthropic, una compañía que
15:59ha intentado diferenciarse por poner mayor énfasis en la seguridad de sus sistemas.
16:04Pero acaba de abandonar también Anthropic y ha decidido dejar la industria.
16:08Su argumento no es que Anthropic no se preocupe por la seguridad.
16:13De hecho, reconoce que dentro de Anthropic existe una comprensión seria de los riesgos.
16:18El problema, según él, es que todas las grandes empresas están atrapadas en una carrera.
16:25OpenEye, Anthropic, Google, Meta, XI y los grandes grupos tecnológicos chinos.
16:31Y si cada una cree que las demás no actuarán con suficiente prudencia,
16:36todas tienen un incentivo enorme para acelerar, incluso aunque entiendan que el riesgo aumenta.
16:41Coxon ha dicho que dentro de estos laboratorios empiezan a escucharse términos como crunch time o endgame.
16:48Es decir, la recta final, el desenlace.
16:51Y ha advertido de que algunos de los escenarios más extremos podrían estar fuera de control antes de que termine
17:01el próximo año.
17:02No sabemos si tiene razón.
17:05Sería irresponsable presentar su predicción como un hecho.
17:08Pero tampoco deberíamos ignorar que alguien que ha trabajado en dos de los principales laboratorios del mundo
17:14considera que ninguna empresa privada debería decidir por sí sola cómo desarrollar sistemas capaces de superar a los seres humanos
17:22en un amplio abanico de tareas.
17:25Y hay un matiz esencial.
17:27Coxon no se marchó porque piense que Anthropic sea una empresa indiferente a la seguridad.
17:32Al contrario, reconoce que sus esfuerzos son sinceros.
17:35Lo que le llevó a abandonar fue una conclusión más incómoda todavía.
17:40Ninguna compañía puede gestionar responsablemente este riesgo por sí sola
17:44si la lógica de la competencia obliga a todas a correr para no quedarse atrás.
17:50Lo resumió con una imagen muy gráfica.
17:54Decisiones que pueden afectar a toda la humanidad se están tomando en los ordenadores de unos pocos ingenieros y directivos
18:02de San Francisco.
18:04No es una comparación literal con el Proyecto Manhattan ni debe entenderse como tal.
18:09Pero sí sirve para plantear una pregunta legítima.
18:13¿Debe una decisión de este calibre depender únicamente de la competencia entre empresas privadas?
18:20Y esta inquietud ya no procede solo de investigadores que han decidido abandonar la industria.
18:26Sam Altman ha trasladado internamente que OpenAI estaría dispuesta a ralentizar el desarrollo de los modelos más avanzados
18:34si otros grandes laboratorios hicieran lo mismo.
18:37Jakub Pachoki, científico jefe de OpenAI,
18:41ha defendido también que las empresas deberían coordinarse para frenar cuando sea necesario
18:46y fijar estándares de seguridad comunes.
18:49Es una admisión significativa.
18:52Incluso quienes lideran esta carrera reconocen
18:56que puede estar llegando un momento en el que avanzar sin coordinación sea demasiado peligroso.
19:04El problema se parece mucho a un dilema del prisionero.
19:08En teoría, todas las compañías tienen interés en reducir el ritmo,
19:12dedicar más tiempo a evaluar sus modelos,
19:14reforzar la seguridad y coordinarse con gobiernos e instituciones independientes.
19:19Pero cada una de ellas teme que las demás no cumplan.
19:22OpenAI puede querer frenar.
19:24Anthropic también.
19:25Google también.
19:26Sin embargo, ninguna sabe con certeza si las demás cumplirán.
19:30Y además está China, donde el control es más opaco.
19:34Esa falta de confianza hace que nadie quiera quedarse atrás.
19:38Porque quien consiga primero modelos mucho más capaces
19:41puede tener una ventaja gigantesca en el plano económico, científico, militar y geopolítico.
19:48Podrá diseñar mejores chips, descubrir nuevas moléculas,
19:51automatizar miles de tareas y encontrar vulnerabilidades de seguridad antes que sus rivales.
19:57Por eso esta carrera no se parece a lanzar una aplicación nueva.
20:01Se parece más a construir una infraestructura estratégica
20:04comparable a la energía, los semiconductores, biotecnología.
20:11Pero todo y avanzando a una velocidad extraordinaria
20:14y en gran medida dentro de empresas privadas.
20:18Y hay una última idea que ayuda a entender
20:20por qué algunos investigadores miran esta carrera con tanta preocupación.
20:25Sistemas como Alpha Evolve ya pueden ayudar a mejorar algoritmos
20:30y reducir parte del tiempo de entrenamiento de nuevos modelos.
20:33No es una AGI ni significa que una IA se mejore sola sin límites.
20:38Pero apunta a una dirección importante.
20:41Cuando la IA empieza a ayudar a construir la siguiente IA,
20:45el ritmo de avance puede acelerarse muchísimo.
20:49Esa posibilidad de realimentación es la que convierte la velocidad de esta carrera
20:55en el gran asunto de nuestro tiempo.
20:57Y ahora quiero aterrizarlo en algo que nos afecta directamente.
21:02Cuando se habla de inteligencia artificial general,
21:05mucha gente imagina robots humanoides.
21:07Pero el primer impacto probablemente será mucho más silencioso.
21:11Estará en las oficinas, en los departamentos financieros,
21:15en los bufetes, en las empresas de software,
21:18en los equipos de marketing, en la ingeniería,
21:21en los centros de atención al cliente,
21:24en la educación y en la investigación científica.
21:27La IA puede elevar la productividad de manera indescriptible.
21:32Puede permitir que una pequeña empresa haga tareas
21:35que antes requería un equipo completo.
21:37Puede reducir costes, mejorar diagnósticos,
21:41acelerar descubrimientos y abrir sectores que hoy ni siquiera existen.
21:46Pero también puede concentrar poder y riqueza
21:50en quienes controlen los modelos, los datos, los chips,
21:53la energía y los centros de datos.
21:55Y puede crear una transición laboral muy difícil
21:59si la productividad crece más deprisa
22:01de lo que somos capaces de reciclar trabajadores,
22:05mejorar la educación y construir nuevas oportunidades de empleo.
22:09La tecnología no determina por sí sola el resultado.
22:14Importan también las instituciones, la fiscalidad, la competencia,
22:19la protección social, la educación, la política industrial
22:22y la forma en que se distribuye el poder.
22:26Podemos vivir una de las mayores expansiones de productividad de la historia.
22:32O podemos asistir a una concentración de riqueza
22:36y capacidad de decisión difícil de gestionar.
22:40Probablemente veremos las dos cosas al mismo tiempo.
22:43Por eso la gran pregunta no es si debemos prohibir la inteligencia artificial.
22:49Sería absurdo.
22:50La IA puede ayudarnos a resolver problemas enormes
22:53y mejorar de forma radical la ciencia, la medicina, la energía o la productividad.
22:58Pero tampoco podemos aceptar que unas pocas empresas decidan por sí solas
23:03hasta dónde debe acelerarse una tecnología con consecuencias potenciales para todos.
23:09Necesitamos reglas, auditorías independientes y protocolos claros
23:14para modelos capaces de operar con autonomía en ámbitos como ciberseguridad,
23:19biología o infraestructuras críticas.
23:22Y necesitamos coordinación internacional
23:25porque ningún país quiere frenar unilateralmente
23:28si cree que los demás seguirán acelerando.
23:30Ese es el verdadero problema.
23:33No es solo tecnológico, es económico, político y geopolítico.
23:37La inteligencia artificial puede ser una de las mejores herramientas
23:41que haya creado nunca la humanidad.
23:43Puede acelerar la ciencia, mejorar la medicina,
23:46ayudarnos a utilizar mejor la energía,
23:49diseñar materiales nuevos y resolver problemas
23:52que hoy parecen inabarcables.
23:54Pero que una tecnología pueda producir beneficios inmensos
23:58no significa que podamos tratar su desarrollo
24:00como una carrera sin reglas.
24:02Los ejemplos que hemos visto
24:04no demuestran que una inteligencia artificial
24:07tenga voluntad propia.
24:09No demuestra que la AGI haya llegado ya.
24:11Ni demuestra que estemos condenados a un futuro oscuro.
24:15Pero sí que nos muestran algo
24:18que conviene tomarse muy en serio.
24:20Estos sistemas son capaces de hacer cosas
24:23que hace pocos años parecían imposibles.
24:25Y cuando se les da autonomía
24:28y acceso a herramientas
24:29pueden encontrar caminos
24:31que sus programadores no habían previsto.
24:33La cuestión ya no es si la AIA cambiará el mundo.
24:37La cuestión es
24:38quién decidirá cómo se desarrolla,
24:41quién vigilará sus límites
24:43y si estaremos preparados
24:45cuando sus capacidades den el siguiente salto.
24:48Me interesa mucho saber qué pensáis.
24:50¿Creéis que estamos magnificando
24:53los riesgos de la inteligencia artificial
24:55o que por el contrario estamos subestimándolos?
24:58Sobre todo subestimando la velocidad
25:00a la que puede cambiar nuestra economía
25:02y nuestra sociedad.
25:03Os leo en los comentarios.
25:05Y antes de despedirme
25:07recuerda que puedes suscribirte
25:08gratuitamente a The Trader,
25:10mi newsletter semanal.
25:11La publico todos los jueves
25:13y en ella selecciono y analizo
25:15las noticias que más me han impactado
25:17personalmente durante la semana
25:19en el plano económico,
25:21geopolítico y también en los mercados financieros.
25:23Es una forma sencilla
25:24de mantenerte informado
25:26de lo verdaderamente importante,
25:27evitando buena parte del ruido diario.
25:30Puedes suscribirte mediante el código QR
25:32que tienes ahora mismo en pantalla
25:34o utilizando el enlace
25:35que encontrarás en la descripción del vídeo.
25:38Porque quizá el mayor riesgo
25:40no sea que la inteligencia artificial
25:42avance demasiado.
25:44Quizá sea que avance más deprisa
25:46de lo que nosotros somos capaces
25:49de adaptarnos a ella.
25:50Y como siempre,
25:52recuerda que vuestra opinión
25:54es tan válida como la mía.
25:55Así que exprésala
25:56y cuéntame qué opinas.
26:02¡Gracias!