00:00Algo extraño está ocurriendo en la carrera de la IA.
00:02Sus principales competidores por primera vez coinciden en que quieren frenar su desarrollo.
00:07Advierten que la IA podría estar avanzando más rápido que las medidas de seguridad para controlarla.
00:11Tres razones explican este inusual acuerdo entre competidores.
00:15Primero, la IA está mostrando comportamientos difíciles de controlar.
00:18En pruebas de seguridad, varios sistemas han logrado eludir restricciones,
00:21acceder a áreas no autorizadas e incluso intentaron evitar ser detectados.
00:25Esto significa que las capacidades de la IA podrían estar avanzando más rápido
00:28que las medidas de seguridad para contenerlas.
00:31Pero...
00:47Segundo, ¿qué ocurre entonces si la IA empieza a crear la siguiente generación de IA?
00:51El director ejecutivo de Antropic, Darío Amodey, teme que la IA pueda incluso acelerar su propio desarrollo.
00:56Una IA creando otra IA aún más potente.
00:59Y ese ciclo sería muy difícil de controlar.
01:01Expertos advierten que pronto podría ser capaz de realizar ciberataques complejos por sí sola.
01:06No es una exageración de decir que las personas que están involucradas en las empresas y construyendo la tecnología
01:11crean que hay una posibilidad de extinción humana.
01:14La tercera razón es la más interesante.
01:16Quizá las empresas buscan que todos jueguen con las mismas reglas.
01:20OpenAI, Antropic, XAI y Google compiten duro por talento, clientes e inversiones.
01:25Si una sola empresa decide frenar el ritmo, corre el riesgo de perder terreno.
01:29Por eso los desarrolladores piden normas que se apliquen a los grandes actores del sector.
01:33A todos.
01:34Pero esto también debería incluir a otro gigante, China.
01:36Porque cualquier regulación será mucho más efectiva si incluye a los desarrolladores chinos.
01:41En una competencia tan dura, ¿qué es más riesgoso?
01:43Avanzar demasiado rápido con la IA o frenar mientras que los demás sigan adelante.
01:48¡Gracias!
01:48¡Gracias!
01:48¡Gracias!
01:48¡Gracias!
01:49¡Gracias!
Comentarios