00:00En los últimos días se ha hecho eco el nombre de Jacob Corxson, un joven investigador y trabajador en Antropic,
00:06una de las empresas de inteligencia artificial más potentes del momento, que dimitía de su empleo y dejaba un mensaje
00:11que no tardaba en revolucionar las redes sociales.
00:14La gente que está construyendo IA realmente cree que podría matarnos a todos antes de finales de esta década.
00:19Pero, ¿cómo de real es esto?
00:20Bueno, lo que está haciendo realmente es una doble proyección.
00:23Está diciendo, bueno, tenemos los sistemas de IA que hay ahora mismo, no tienen ese riesgo, pero él habla de
00:29lo que puede pasar cuando la siguiente generación esté ayudando a construir la siguiente generación de después
00:33y cómo eso puede llevar a una paulatina pérdida de control sobre lo que hagan las inteligencias artificiales.
00:40El vicerector de investigación y transferencia de la UNIR pide calma ante estos mensajes tan alarmantes, ya que muchos factores
00:45tendrían que descontrolarse para llegar a extremos así.
00:47Si bien es verdad que muchas cosas tienen que pasar para llegar a eso y hay oportunidades de irlas controlando.
00:53La inteligencia artificial, que uno de sus principales riesgos es el uso que le damos, por el momento no va
00:57a acabar con la humanidad, aunque no es fácil saberlo de aquí a unos años.
01:01No se debe leer desde una perspectiva totalmente catastrofista.
01:04Es una proyección sobre una proyección de lo que podremos hacer dentro de varias generaciones.
01:10Es verdad que, como las generaciones cada vez son más cortas, pues cada vez es más difícil predecir cuánto vamos
01:16a avanzar en los próximos 10 años.
01:18Ante estos riesgos reales, el alineamiento de los futuros sistemas, es decir, cómo le enseñamos a razonar,
01:22se presenta como uno de los principales desafíos para evitar también cualquier catástrofe futura.
Comentarios