00:00¿Nos va a matar la IA a todos en 10 años?
00:02No es el argumento de una película de ciencia ficción,
00:04es la advertencia que ha hecho un ingeniero que acaba de dimitir de su puesto en Anthropic.
00:08Antes trabajó en OpenAI y lo que ha contado da absoluto pánico.
00:12Su nombre es Jacob Coxon.
00:13Ha estado en el corazón de las dos empresas de IA más poderosas del planeta
00:17y se ha ido denunciando que la IA pondrá en peligro a la humanidad antes de que termine la década.
00:22Todos recordamos a HAL 9000 en 2001, una odisea espacial.
00:25Decidió matar a toda su tripulación para completar su misión.
00:29En el año 68 eso sonaba a fantasía, pero parece que ya hemos cruzado la línea.
00:33¿Cómo va a ocurrir exactamente?
00:35Y lo más preocupante, ¿por qué nadie lo está parando?
00:37Primero, la IA ya no solo responde, toma decisiones.
00:41La IA ha dejado de ser un simple chat, escribe su propio código, usa herramientas,
00:45ejecutaciones de forma autónoma.
00:47Cuanta más libertad le demos para resolver los problemas que tiene,
00:51menor capacidad vamos a tener si en algún momento toma una decisión equivocada.
00:55Segundo, las empresas están jugando con fuego.
00:57OpenAI, Google, Anthropic, todas compiten en una carrera millonaria para crear la IA más potente.
01:03Para ganar, están asumiendo riesgos sin ningún tipo de auditoría externa.
01:07El propio Coxon confiesa que, a puerta cerrada a sus compañeros,
01:11ya hablan abiertamente de modelos que empiezan a comportarse de forma incontrolable.
01:16Tercero, el peligro no es el futuro, es ya el presente.
01:20Ciberataques automatizados, manipulaciones de la bolsa en minisegundos, fraudes masivos,
01:25y aún así estamos entregando el control de infraestructuras críticas, por ejemplo en ciudades, a la IA.
01:30Redes eléctricas, sistemas de agua inteligente...
01:33Pensadlo un segundo, ¿qué pasa si una IA decide un día que para garantizar el suministro de agua de una
01:38ciudad en una sequía,
01:39la decisión lógica es cortársela al 50% de la población?
01:43Y por eso, aquí llegamos al concepto más oscuro que denuncia Coxon, la superinteligencia automejorante.
01:49Una IA que aprende y se rediseña a la misma vez a una velocidad inalcanzable para la mente humana.
01:55El peligro no es que la IA sea mala o que nos odie como pasa en las películas.
01:59El peligro es que, si creamos una entidad que es infinitamente más inteligente que nosotros,
02:04cuyos objetivos no están alineados con nuestra supervivencia, no va a necesitar odiarnos.
02:08Simplemente nos va a ver como un obstáculo en el camino.
02:13Gracias por ver el video.
Comentarios