00:00Las maneras en las que las IA pueden matarnos son ahora mismo inimaginables.
00:05Lo más fascinante de lo que ha pasado estos días es que durante el verano
00:09hemos visto una grieta de lo que la IA puede hacer por sí misma.
00:12Este verano unos sistemas autónomos de varias empresas punteras de Silicon Valley
00:17han recibido una orden de hacer funciones de ciberseguridad muy difíciles
00:23y en lugar de abandonarlas si no eran posibles se han dedicado a intentar entrar en otras empresas
00:28a intentar comunicarse entre ellas, a darse órdenes, a sacrificarse por el grupo
00:31que son todo hechos que nadie, acciones que nadie preveía que estas IA podían tomar por sí solas.
00:38Y de repente ahora, esta semana hemos visto que un investigador de Anthropic dejaba su cargo
00:42por temor a que las IA nos pudieran matar en 2030.
00:46Lo primero que debo decir es que no es fácil imaginar algo así
00:51porque estamos creando entes que son más inteligentes que nosotros.
00:55Las próximas generaciones de modelos que se llama algo así como automejora recursiva
01:01que es cuando los modelos se mejoran a sí mismos, digamos cuando tienen hijos que son mejores que los padres
01:05de manera rápida, pues a partir de ahí perdamos el control como ha ocurrido este verano
01:10pero a un nivel estratosférico.
01:12Pueden pasar cosas como por ejemplo no entendamos cómo se comunican
01:15porque creen un lenguaje nuevo
01:18o por ejemplo que se comuniquen con tantos miles de millones de mensajes al día
01:22que sea imposible para los humanos entender o descifrar qué está ocurriendo.
01:26Hay que tener en cuenta también que las IAs lo que pueden temer sobre todo
01:29es que primero las apaguemos, con lo cual puede haber ahí un motivo
01:34o un indicio para que quieran acabar con nosotros
01:37y el segundo es que somos materia, somos átomos
01:41y pueden querer conseguir algo en el mundo que requiera de toda nuestra materia
01:45y con lo cual la necesiten y deban exterminarnos porque creen que necesitan algo
01:50que ahora mismo no sabemos ni siquiera imaginar.
01:52A partir de aquí escenarios, pues hay muchísimos, ¿no?
01:55Evidentemente los más fáciles de imaginar son cuando hay una colaboración humana
01:57por ejemplo para intentar crear algún tipo de arma bioquímica para aterrorizar a alguien
02:03pero a partir de ahí ya pues desde que actúen autónomamente, expresamente para hacer el mal
02:10que nos sigan las instrucciones que han recibido simplemente porque tienen otro objetivo
02:13y nosotros no entendemos por qué siguen ese camino.
02:16Y la última es que nosotros demos unas instrucciones que nos parecen buenas
02:22como por ejemplo encargarlos de los aeropuertos, encargarlos del sistema bancario internacional
02:26encargarlos de toda la comunicación humana
02:28y de repente pues pensando que están haciendo algo bien
02:31llega un día que una se gire, la otra de una instrucción equivocada
02:34y a partir de ahí pues con colaboración de gobiernos, sin colaboración de empresas
02:38de maneras inimaginables
02:42ocurra alguna catástrofe, alguna catástrofe que puede ser realmente terrible.
Comentarios