Saltar al reproductorSaltar al contenido principal
  • hace 7 semanas
Investigador de Anthropic renuncia por riesgos existenciales de IA. Jacob Coxon acusa a empresas de avanzar sin garantías de seguridad hacia superinteligencia automejorable. Jefe de seguridad calcula +10% probabilidad de extinción en próxima década.

Categoría

🗞
Noticias
Transcripción
00:00Jacob Coxon, investigador de 27 años, renunció ayer a Antropic apenas dos meses después de llegar desde OpenA.
00:08En un mensaje viral en X, acusó a ambas empresas de avanzar irresponsablemente hacia una posible superinteligencia
00:15capaz de mejorarse a sí misma, sin contar con garantías suficientes de seguridad.
00:21La polémica aumentó cuando Evan Hovenger, responsable de un equipo de seguridad de Antropic,
00:26respaldó sus críticas y afirmó que calcula en más de 10% la posibilidad de que la IA pueda acabar
00:34con la humanidad en la próxima década.
00:36También reconoció que la empresa aún no tiene un plan claro para alinear y controlar una futura superinteligencia.
00:44Coxon sostiene que OpenA no dimensiona completamente los riesgos,
00:49mientras Antropic sí los entiende, pero continúa por temor a quedarse atrás frente a sus competidores.
00:55Su renuncia se suma a otra salida de investigadores preocupados por la seguridad de la IA.

Recomendada