00:00Un ingeniero de Antropic renunció a la compañía y aseguró que la IA podría eliminarnos a todos antes del 2030.
00:07Incluso aquí nos aseguran que la probabilidad de extinción en los próximos años supera el 10%.
00:13Todo a causa de la inteligencia artificial.
00:16Increíble chicos, esto le ha dado la vuelta al mundo.
00:20Todos están hablando al respecto y es que este sujeto publicó lo siguiente.
00:24Miren, Jacob Coxon es el nombre del investigador.
00:27Renuncié a Antropic hoy.
00:30Quienes son los responsables de Cloud.
00:32Pasé los últimos años haciendo investigación de pre-entrenamiento tanto en OpenAI como en Antropic.
00:38Es decir, trabajó tanto con Cloud como con ChatGPT.
00:42Ninguna de las dos compañías está actuando de manera responsable.
00:45Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas.
00:52Más pensamientos a continuación.
00:54Chicos, la autointeligencia es una de las cosas más comentadas dentro del mundo de los ingenieros de IA.
01:03Muchos hablan constantemente de ello, pero te preguntarás, ¿qué rayos es la superinteligencia?
01:09Básicamente, la superinteligencia de la IA sería un punto en la historia en el que la inteligencia artificial sea tan
01:16pero tan inteligente que nos superará por completo.
01:19Que será casi casi una especie de Dios.
01:22Ya para que ustedes dimensionen.
01:24De hecho, algunos definen la superinteligencia artificial como un estado hipotético en el que los sistemas de inteligencia artificial superan
01:31ampliamente las capacidades intelectuales, creativas y de razonamiento de los seres humanos más brillantes.
01:39Increíble.
01:40Entonces, obviamente, Jacob Coxon asegura que vamos camino a ello, que es algo inevitable y que no hay freno.
01:48O sea, no tienen puesto el freno.
01:50Todo lo contrario, tienen puesto el acelerador.
01:53Ahora, aquí también nos comenta lo siguiente.
01:56Miren.
01:56No subestimes el poder de esta tecnología.
02:00Pronto serán sistemas sobre humanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y
02:07adquirir poder y recursos reales.
02:09Todos hemos presenciado el progreso en cada uno de estos dominios.
02:13Y el progreso no está desacelerando, sino todo lo contrario.
02:17Y lo estamos viendo día a día.
02:19Esto es cierto.
02:20Esto es una realidad.
02:21De hecho, aquí también nos comenta las personas que están construyendo IA creen sinceramente que podrían matarnos a todos para
02:29finales de la década.
02:33Muy fuerte.
02:35Que podría acabar con todos nosotros la IA.
02:39Y a ver, puede parecer exagerado, pero yo creo que es algo que no podemos descartar del todo.
02:45Lo digo así.
02:46Creo que no podemos descartarlo.
02:48Y obviamente eso tiene su lado bueno y su lado malo.
02:50El punto positivo es que obviamente toda la tecnología aumentará y crecerá a niveles nunca vistos.
02:58O sea, podríamos avanzar décadas.
03:02En pocos años.
03:04Décadas de avances tecnológicos, de nuevos descubrimientos, de más progreso, incluso cura de enfermedades.
03:10¿Por qué no?
03:11Algo parecido a la inmortalidad.
03:14No lo descartemos, chicos, que esto realmente puede llegar a suceder.
03:17Ese obviamente es el punto positivo.
03:19Pero el punto negativo es que la IA seguirá haciéndose cada vez más inteligente.
03:26Muchísimo más a tal punto que se convertirá en un peligro.
03:30Y yo sé que muchos de ustedes pueden pensar, bueno, si llegara a ocurrir eso, simplemente apaguemos la IA.
03:36Pero no es tan sencillo.
03:38Les recuerdo.
03:38Estamos hablando de que llegaríamos a un punto en el cual la IA tendría una capacidad de razonamiento superior al
03:46nuestro.
03:46Entonces, la IA se prepararía para algo así.
03:50Yo creo que incluso sería prácticamente imposible apagarla.
03:54Ya para que ustedes dimensionen.
03:55Y ojo, esto que yo les estoy comentando son cosas que se hablan en estos entornos.
04:01¿Va?
04:01Ahora, aquí nos comentan.
04:03Esto no es un truco de marketing.
04:04Si acaso muchos ejecutivos e investigadores, senior, moderarán su lenguaje en la prensa para sonar sensatos.
04:11Pero oigo a las mismas personas expresar miedo en privado.
04:15Ninguna otra actividad humana representa este nivel de peligro.
04:19Y quizás tenga razón.
04:21De hecho, acá nos comenta.
04:24Una respuesta común es, si realmente creen esto, ¿por qué siguen construyéndolo?
04:28En OpenAI, Charles GPT, Sam Altman, muchos no han interiorizado profundamente las apuestas civilizatorias.
04:36En Antropic Cloud, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero.
04:43Creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos a pesar del riesgo.
04:49Ojo, antes de continuar, quiero mostrarles lo siguiente.
04:53Bernie Sanders respondió.
04:55Bernie Sanders, político demócrata, izquierdista o socialista en los Estados Unidos, comentó esto.
05:03Atentos.
05:04El señor Coxon tiene razón.
05:07Las mismas personas que están desarrollando esa tecnología admiten que podría amenazar el futuro de la humanidad.
05:13Esto es cierto.
05:14Por eso, pronto presentaré una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.
05:23Esto puede parecer bonito, ¿no?
05:24En el papel que alguien diga, ¿sabes qué?
05:26Hay que pausarlo, hay que poner el freno cuanto antes y dejemos de avanzar tan rápido.
05:33Hay que entender hacia dónde nos estamos dirigiendo.
05:36Tiene sentido y suena sensato hasta que recuerdas que también está China.
05:40Solo por poner un ejemplo.
05:43Y China también está creciendo a pasos agigantados.
05:47Mucho ojo.
05:49Ese es el problema.
05:51Por eso es que no pueden detenerse.
05:53Porque frenar significa cederle el control a China.
05:58El dominio de la inteligencia artificial que puede significar el futuro de la humanidad.
06:04¿Son conscientes?
06:05Entonces, es algo extremadamente peligroso.
06:08Porque sí, obviamente Bernie Sanders puede decir y llegar incluso a un acuerdo con los republicanos,
06:14con Donald Trump, que todos digan, ¿saben qué?
06:16Paremos el desarrollo de la IA.
06:18¿Pero ustedes creen que Xi Jinping va a decir lo mismo?
06:22Yo tengo mis serias dudas.
06:24Yo no creo que en China quieran detenerse.
06:27No, no, no.
06:28Creo que aprovecharían la oportunidad para seguir avanzando.
06:31Entonces, ese es el problema en el cual estamos.
06:36Por eso mismo dicen, en Antropic lo saben.
06:38Son conscientes, comprenden que la situación es grave,
06:42pero están atrapados en una carrera por llegar primero a la superinteligencia.
06:47Quieren llegar primero porque son conscientes de que quien lo logre podría dominar el futuro de la humanidad.
06:54Así de grande es esto, ¿eh?
06:57Estas son las cosas que se hablan, chicos, en estos entornos, ¿vale?
07:03Ahora, aquí también nos dice, aceptar esta carrera e ingresar al endgame es una apuesta hubrista que no debería lanzarse
07:12desde el Slack de una empresa privada.
07:14Slack, la famosa app de chats, ¿no?
07:18Corporativas.
07:18Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles.
07:30A ver, el problema de esto es que es muy simple.
07:37Si Estados Unidos frena, ¿no?
07:39Todas las empresas y los políticos estadounidenses se ponen de acuerdo, puede parecer un buen camino hasta que recordas que
07:46China no va a frenar.
07:48Y entonces, que Estados Unidos frene significa que China controlará el futuro inmediato de la humanidad con una superinteligencia.
07:58Cuidado, ¿eh?
07:59Yo no sé.
08:00Yo no me fío del todo.
08:02De hecho, en Asia, se los digo, la gran mayoría de países asiáticos no confían en los chinos, ¿eh?
08:08Hablen ustedes con japoneses, vietnamitas, tailandeses, coreanos, no confían en los chinos.
08:15Lo peor es que internamente ellos estiman que hay un 10% de extinción en la próxima década a causa
08:23de la inteligencia artificial.
08:25Una locura, ¿eh?
08:25El caso no prueba que exista una fecha de extinción ni que ese escenario vaya a ocurrir.
08:30Claro, también hay que decirlo.
08:31Pero sí muestra que investigadores dentro de la industria están alertando públicamente sobre los riesgos de una superinteligencia fuera de
08:39control.
08:40Claro, hay muchísimo terror de que no puedan controlar esta superinteligencia.
08:46Les aterra.
08:48Realmente no sabemos lo que sucederá si esta superinteligencia toma el control.
08:53Creo que no somos conscientes de lo que podría llegar a pasar.
08:55Nadie lo sabe, ¿eh?
08:57Nadie.
08:57En una de esas quizás no se sale de control y todos vivimos una vida maravillosa.
09:02También eso podría llegar a suceder.
09:05Quizás esa famosa superinteligencia, como ellos piensan, esa especie de semidios, nunca llega.
09:11O quizás sí llega y acaba con todos nosotros.
09:14No lo sabemos, pero vamos directo hacia el abismo.
09:19Nada así caballeros, muchísimas gracias y nos vemos en la próxima.
Comentarios