00:08Tenemos dos grandes desafíos. Tenemos la posibilidad de una pérdida de control,
00:13un accidente o alguna otra situación grave que podría salir mal. Tenemos la posibilidad
00:17de una excesiva concentración de poder. Y la gente teme que quienes desarrollan la IA
00:22puedan imponer su visión del mundo. ¿La IA nos matará a todos? Para decirlo sin rodeos,
00:33¿cómo ocurriría eso? La respuesta simple es que la inteligencia es lo que nos da poder sobre el
00:39mundo y sobre todas las demás especies de la Tierra. Y si creamos algo más inteligente que
00:45nosotros, entonces será más poderoso que nosotros. Y será difícil mantener para siempre el control
00:50sobre algo mucho más poderoso de lo que somos. Si no les importan en absoluto los seres humanos,
01:00bueno, ese es el tipo de situación que podría llevar a la extinción humana de la misma manera
01:05que los humanos llevaron a muchas otras especies a la extinción. No porque quisiéramos específicamente
01:10hacerlo, sino porque no nos importaban y por eso invadimos sus hábitats para construir otras cosas.
01:16No necesita matarnos. Que un robot derribe tu puerta y te dispare. Basta con destruir los sistemas
01:22que nos mantienen con vida en la sociedad moderna. Imaginen que todos esos sistemas dejan de funcionar
01:27simultáneamente. Eso sería un evento con víctimas masivas, incluso en Estados Unidos y más aún en los
01:33países en desarrollo. Creo que lo que me preocupa ahora y lo que probablemente también reflejan
01:40estas preocupaciones sobre la extinción humana, es que actualmente las empresas tienen mucho poder
01:46y realmente no están rindiendo cuentas por sus prácticas. Y creo que eso crea una tormenta perfecta.
01:58Si pensamos en este crecimiento y en el poder de estas herramientas no de forma lineal, sino como un
02:03crecimiento exponencial, podríamos estar no a años de distancia, sino a meses de distancia. Nuevamente,
02:10creo que parte de esta conversación sobre la extinción humana es exagerada. Pero la idea de que estos
02:15enjambres de agentes de IA puedan superar las barreras y tomar el control de un sistema bancario,
02:21de suministro de agua o, Dios no lo quiera, de un hospital, dependiendo de cómo se formuló el prompt,
02:27esa es una posibilidad lo suficientemente real como para que sea irresponsable no incluir la seguridad
02:32en este proceso.
Comentarios