00:00La empresa de inteligencia artificial Antropic advirtió el jueves que hay indicios de que los modelos más recientes podrían escapar
00:08del control humano.
00:10Por eso cree que sería bueno para el mundo disminuir o pausar temporalmente su desarrollo,
00:16para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología.
00:23En un informe difundido el jueves, la firma desarrolladora de la herramienta Claude advirtió de todas formas que la medida
00:30tiene que ser global,
00:32ya que si solo una empresa frena, sus rivales podrían simplemente adelantarse en la carrera.
00:39Antropic comparó el problema con los tratados de control de armas nucleares,
00:43aunque admitió que un acuerdo sobre el tema sería aún más difícil de abordar,
00:48ya que el entrenamiento de la IA es mucho más fácil de ocultar que un silo de misiles
00:53y la tentación de seguir adelante en silencio sería enorme.
00:58Según la compañía, datos internos muestran que la IA acelera de manera dramática su propio desarrollo
01:05y eventualmente podría llevar a lo que los investigadores llaman superación recursiva,
01:10la idea de que un sistema de IA pueda enseñarse a sí mismo a ser más inteligente.
01:16El pedido de la empresa ha sido rechazado por otros actores de la industria y funcionarios de la Casa Blanca
01:22al considerar que se enfoca en los peores escenarios y que exagera los riesgos.
01:28Argumentan además que disminuir el desarrollo de la IA podría ceder una ventaja significativa a China.
01:35De todas formas, el presidente Donald Trump dijo que en su reciente visita a Pekín
01:40se discutió la posibilidad de cooperar con el gigante asiático en asuntos de seguridad de la inteligencia artificial.
01:47La Casa Blanca también ha reconocido el poder del modelo Maitos de Antropik
01:52que no se ha puesto a disposición del público en general
01:55y que solo se utiliza en un pequeño número de organizaciones seleccionadas.
02:00Gracias.
02:01Gracias.
02:01Gracias por ver el video.
Comentarios