00:00Primero, podemos perder control de la futuro a la AI.
00:04El riesgo es que se mueve tan rápido que la gente no puede seguir lo que está sucediendo o intervenir
00:09cuando necesito.
00:10Esto obviamente sería terrible.
00:12La industria debe no aceptar demasiado riesgo de tecnológico solo porque los beneficios son demasiado grandes
00:16y que se sienten demasiado importantes a la velocidad.
00:19Beating empresas en la carrera competitiva no es una razón para hacer las decisiones,
00:22ni lo que creemos que estamos lockedando en la carrera donde no podemos hacer eso.
00:25Tenemos unilaterally slowedado en el pasado.
00:28No queremos construir sistemas.
00:30Creo que es importante que todo el mundo evite construir sistemas
00:32donde no podemos hacer las garantías de alineación, monitoreo y garantías de seguridad que debemos.
00:37Necesitamos entender lo que estos sistemas están haciendo
00:39y tener evidencia que van a hacer lo que la gente intende
00:42incluso si se vuelve muy, muy inteligente.
00:45Especialmente si se vuelve muy, muy inteligente.
00:47No importa si la gente pone la risca de catástrofe a 10% o 1% o 12% o
00:520.1%.
00:53None de estos niveles son remotamente aceptable.
00:55Y no deberíamos trainar modelos que no podamos hacer un extremo strong case
00:58que podamos mantenerlo bajo control de la humanidad.
01:01Así que es uno de los que las cosas pueden ir mal.
01:04En la otra dirección, estos sistemas podrían concentrar demasiado mucho poder
01:07en too few hands.
01:09No solo persona o compañero o país
01:11debería poder usar el más poderoso AI modelos
01:14para imponer su mundo en todos los demás.
01:17A compañero o país que cree que solo puede ser confiado con esta tecnología
01:20puede usar esa creación para justificar casi todo lo demás.
01:23Tenemos que rejeitar esa lógica
01:25incluso cuando es conveniente para cualquier actor.
