00:01La preocupación por el ritmo que está alcanzando el desarrollo de la inteligencia artificial
00:05ha llevado al alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk,
00:10a hacer un llamamiento a estados y empresas para gobernar una tecnología que ofrece muchos beneficios para la sociedad,
00:16pero que también pone en riesgo los derechos humanos.
00:18Türk ha pedido medidas urgentes y significativas para hacer frente a los riesgos sin precedentes de la IA en una
00:24carta abierta,
00:25en la que se dirige a estados y empresas responsables de la inteligencia artificial de frontera,
00:30con el objetivo de trazar un camino de acción para gobernar los modelos avanzados de IA de frontera,
00:35fundamentado en el derecho internacional de los derechos humanos.
00:38Los máximos líderes de las tres grandes tecnológicas que desarrollan inteligencia artificial
00:42han coincidido en que se debe ralentizar el desarrollo de la IA
00:45y han expresado sus advertencias sobre el riesgo de esta herramienta en los próximos años.
00:49En concreto, el director ejecutivo de Antropic, Darío Amodei,
00:52ha avisado que es necesario frenar el ritmo de desarrollo de los modelos de IA
00:56en una carta publicada en sus redes sociales,
00:58una postura con la que han coincidido también el CEO de OpenAI, Sam Allman,
01:02y el fundador de SpaceX, Elon Musk.
01:04Debemos ralentizar el ritmo en el que mejoramos las capacidades de los modelos de IA,
01:08afirmó Amodei ante los riesgos de desalineación y de posibles incidentes de seguridad.
01:13En su cuenta de X, Sam Allman ha alertado sobre dos formas en que el progreso de la IA puede
01:17salir muy mal
01:18y que se deben evitar.
01:19señala que es posible perder el control del futuro ante esta tecnología
01:22y que el mundo puede tener demasiada concentración de poder
01:25si una herramienta extraordinariamente poderosa es utilizada por una persona o empresa
01:30para imponer su visión del mundo.
01:32Elon Musk estima que en menos de cinco años los sistemas de inteligencia artificial
01:35podrían superar la suma de toda la inteligencia humana
01:38y que la tecnología dejará a todos los humanos sin poder,
01:41según declaró en una entrevista de Economist en julio.
01:44Ahora ha reafirmado la postura de Amodei con un simple y directo
01:47Darío tiene razón.
Comentarios