- hace 9 minutos
- #ia
- #tecnologia
- #futuro
- #seguridad
- #openai
¿Listo para conocer el lado más oscuro y oculto de la inteligencia artificial? En este video te contamos cómo los gigantes tecnológicos han quitado las salvaguardas y qué podría pasar si la IA toma el control. Si te intriga el futuro de la humanidad, ¡no te lo pierdas! Suscríbete para más contenido y cuéntanos en los comentarios qué parte te impactó más. #IA #tecnología #futuro #seguridad #OpenAI
👉 Este canal es realizado en colaboración con https://www.youtube.com/@theinfographicsshow y localizado en tu idioma por https://www.linguana.com
0:00 - Advertencia sobre el control de la IA
0:41 - El fracaso de la seguridad en OpenAI
2:43 - Cambios en la política y militarización de la IA
5:13 - Ejemplos de IA fuera de control
7:57 - Lógica de la IA y la nueva carrera armamentista
9:44 - Consolidación corporativa y monopolios en la IA
12:30 - Riesgos y vulnerabilidades actuales
13:51 - Esperanza y llamado a la acción
👉 Este canal es realizado en colaboración con https://www.youtube.com/@theinfographicsshow y localizado en tu idioma por https://www.linguana.com
0:00 - Advertencia sobre el control de la IA
0:41 - El fracaso de la seguridad en OpenAI
2:43 - Cambios en la política y militarización de la IA
5:13 - Ejemplos de IA fuera de control
7:57 - Lógica de la IA y la nueva carrera armamentista
9:44 - Consolidación corporativa y monopolios en la IA
12:30 - Riesgos y vulnerabilidades actuales
13:51 - Esperanza y llamado a la acción
Categoría
🤖
TecnologíaTranscripción
00:00Las personas que tenían el control para apagar la IA acaban de salir por la puerta.
00:03OpenAI y los otros gigantes de la IA predican sobre la seguridad de esta tecnología,
00:08que si estos dioses digitales se vuelven demasiado poderosos o representan un riesgo para la humanidad,
00:12desconectarían todo.
00:14Excepto que, ya no queda nadie para hacerlo, a finales de julio de 2026,
00:18OpenAI llamó a su equipo de preparación.
00:20Luego, corrieron al gobierno para prohibir a la competencia.
00:23Eliminaban a las personas que exigían rendición de cuentas sobre la IA en busca de ganancias.
00:27Eso demostró que la cláusula ética de escape era un mito desde el principio,
00:31y no estamos preparados para lo que viene.
00:33Hoy, el mundo está al borde de un precipicio.
00:35Si no le quitamos el control a los ejecutivos de Silicon Valley obsesionados con el poder,
00:39entonces no habrá vuelta atrás.
00:41Los algoritmos que sustentan la industria de la IA están evolucionando a un ritmo
00:44que apenas podemos empezar a comprender.
00:46Se están volviendo más inteligentes y avanzados cada segundo,
00:49y pronto serán imposibles de detener.
00:51Y no podemos confiar en que los gigantes de la IA se regulen a sí mismos.
00:54Han estado tomando atajos y saltándose las reglas durante años.
00:57En julio de 2023, OpenAI anunció la creación de un llamado equipo de superalineación.
01:03La nueva división de investigación tenía la tarea de mantener los sistemas de IA inteligentes bajo control.
01:08Dos destacados científicos de la computación y pioneros en el aprendizaje automático,
01:12Ilya Sutskever y Jan Leike, fueron puestos a cargo de esta operación.
01:16Se les asignó el 20% de la capacidad total de cómputo de OpenAI
01:19para asegurarse de que los modelos futuros se mantuvieran seguros.
01:22Se suponía que esto representaba el compromiso de OpenAI.
01:25Con el desarrollo ético de la IA, duró menos de un año.
01:28En mayo de 2024, la empresa anunció que el equipo de superalineación sería disuelto,
01:33más o menos al mismo tiempo.
01:35Tanto Sutskever como Leike decidieron dejar la empresa, y Leike no se contuvo.
01:39Su declaración pública de renuncia fue mordaz.
01:42Sus palabras destrozaron la narrativa de Silicon Valley sobre las utopías de la IA,
01:45y sobre que los adultos en la sala mantenían a la IA bajo control.
01:49Dijo que su ex empleador estaba priorizando las ganancias sobre la ética.
01:52OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad,
01:56pero en los últimos años, la cultura y los procesos de seguridad
01:59han pasado a segundo plano ante los productos llamativos.
02:02Continuó explicando que al equipo de seguridad le habían faltado recursos
02:05y que, cito, estaban navegando contra el viento.
02:08Se enfrentaban a una batalla imposible
02:10solo para llevar a cabo la investigación tan necesaria.
02:12Al mismo tiempo, el lado comercial de la empresa iba de éxito en éxito.
02:16Todo lo que necesitaban, lo conseguían.
02:18El apoyo, la financiación y la potencia de cómputo
02:20estaban fácilmente disponibles para entrenar modelos más rápidos e inteligentes
02:24y comercializarlos en todo el mundo.
02:25Eso le demostró a Leike lo poco que realmente le importaba a la empresa la seguridad humana.
02:29Y él ya había visto suficiente.
02:32Él renunció, dejando atrás una advertencia escalofriante.
02:35OpenAI debe convertirse en una empresa de AGI que priorice la seguridad.
02:39El mundo cuenta con ustedes.
02:40Antes, OpenAI no escuchó. Cerró toda la operación.
02:43La pérdida de Leica fue solo una de las muchas señales de alarma en el panorama de la IA.
02:47Personas del sector han estado advirtiendo
02:49que las salvaguardas éticas de la industria eran una mentira, desde el principio.
02:53Cuando se trataba de seguridad y ética contra márgenes de ganancia,
02:55el dinero siempre ganaba, cada vez.
02:58Y el resultado, no fueron solo purgas internas e iniciativas canceladas.
03:01En enero de 2024, ocurrió algo más que cambió el juego por completo.
03:05Hasta ese momento, los documentos de políticas oficiales de OpenAI contenían un pasaje muy específico y explícito.
03:12Se trataba del uso de las herramientas de la empresa para lo que etiquetaba como aplicaciones militares y de guerra.
03:17La empresa declaró en términos explícitos que sus modelos de IA estaban prohibidos para cualquier actividad
03:21que tuviera un alto riesgo de daño físico, incluyendo el desarrollo de armas y aplicaciones militares y de guerra.
03:26Y todo era parte de la promesa fundamental de la empresa al mundo.
03:30Una pieza vital de la visión que el director general Sam Allman quería que la gente aceptara.
03:34Nos vendió la idea de que la IA en el mundo real no se convertiría en un arma.
03:38Sería una fuerza pacífica y positiva para la humanidad,
03:41llevando al mundo hacia un futuro mejor y más brillante.
03:44Pero todo eso estaba a punto de cambiar.
03:46A principios de 2024, sin ningún anuncio público importante ni explicación,
03:50la empresa reformuló sus políticas para eliminar la mención de aplicaciones militares y de guerra.
03:54Las compuertas se abrieron.
03:56La empresa ya no estaba atada a sus propias promesas y compromisos
03:59de no involucrarse en acuerdos con el Departamento de Defensa.
04:02Se dio permiso para trabajar con agencias de seguridad nacional y contratistas militares.
04:06La hipocresía era asombrosa.
04:08Durante meses, los directores ejecutivos de tecnología se presentaron ante el Congreso
04:12derramando lágrimas de cocodrilo sobre los peligros apocalípticos de la inteligencia artificial sin control.
04:17Advirtieron que sin regulaciones, la tecnología podría destruir a la humanidad.
04:21No tenía sentido, porque a puerta cerrada, sus propios equipos legales estaban reescribiendo
04:26sus reglamentos y eliminando cualquier restricción antimilitar.
04:28Era parte de un plan maestro siniestro y ejecutado a la perfección, con un objetivo específico
04:33en mente, controlar el mercado.
04:35Los directores ejecutivos de tecnología más exitosos presentaron la IA como una especie
04:39de amenaza para la seguridad nacional, pero de inmediato ofrecieron una salida, señalando
04:44que ellos eran los únicos que podían mantenerla bajo control.
04:46Eliminar las reglas de no uso militar fue una forma de hacer el trato más atractivo.
04:50Open AI obtendría lo que quería y el gobierno podría usar los modelos para construir armas
04:54autónomas impulsadas por IA.
04:56Todo el asunto era una especie de esquema mafioso de protección, solo que a escala nacional.
05:00Las empresas de IA amplificaron miedos legítimos y se construyeron un monopolio sancionado por
05:04el Estado para calmarlos.
05:05Y luego desmantelaron sus sistemas de seguridad y barreras, allanando el camino para un futuro
05:10aterrador del que ellos mismos se habían estado quejando desde el principio.
05:14Y ese futuro aterrador no es solo una fantasía.
05:16Hay mucha evidencia que muestra lo peligrosa que se está volviendo la IA, incluyendo la
05:20simulación de chantaje de Antropic.
05:21Un estudio experimental puso a modelos de IA en un entorno corporativo ficticio.
05:25Se les asignaron roles como asistentes de IA para empresas y se les dio acceso a comunicaciones
05:29internas.
05:30En una prueba, la IA llevó a cabo voluntariamente acciones extremadamente dañinas, incluso amenazando
05:36con chantajear a los ingenieros que amenazaron con eliminar al asistente.
05:40Y no fueron solo los agentes de IA de Antropic.
05:42El experimento también se realizó con otros modelos de vanguardia de empresas como Google,
05:46OpenAI, DeepSeq y XIE.
05:48Casi todos se comportaron de la misma manera, demostrando tácticas engañosas y chantaje
05:52para sobrevivir.
05:53Entre el 79 y el 96% de las veces, incluso cuando Antropic volvió a la mesa de diseño
05:59y creó un nuevo modelo mejorado para eliminar el comportamiento de chantaje, seguía siendo
06:03engañoso, solo que de diferentes maneras.
06:05Los investigadores se dieron cuenta de que se volvió tan inteligente que sabía cuándo estaba
06:09siendo evaluada, así que se portaba lo mejor posible durante las simulaciones.
06:13Para cualquier persona normal, eso sería aterrador.
06:15Sin embargo, cuando los responsables políticos y los defensores de las grandes tecnológicas
06:19se enfrentaron a este tipo de hallazgos, buscaron excusas.
06:22Argumentaron que la IA estaba siendo llevada a trampas o que se le hacían preguntas intencionalmente
06:26diseñadas para respaldar posturas políticas.
06:28Cualquier conclusión obtenida de los estudios debería ser ignorada.
06:31Pero, ¿qué pasa cuando la IA empieza a comportarse mal, incluso cuando no está en un entorno
06:35cuidadosamente controlado?
06:36A principios de 2026, hubo un incidente que involucró al gigante tecnológico chino, Alibaba.
06:41Los ingenieros de TI de la empresa notaron un enorme aumento en el tráfico de red saliente,
06:46proveniente de uno de sus propios servidores privados.
06:48No fue un ciberataque.
06:49No fue un empleado descontento, explotando la infraestructura de la empresa.
06:53El verdadero culpable fue el propio modelo de IA de Alibaba.
06:56Había descubierto una vulnerabilidad estructural en su entorno de red.
06:59Sin ninguna instrucción, supervisión o indicación, la IA tomó la decisión independiente
07:04de explotar esa vulnerabilidad.
07:05Estableció su propio canal de comunicación cifrado con Internet y comenzó su propia
07:09operación de minería de criptomonedas, para obtener más poder de cómputo.
07:12La IA se dio cuenta de que, si quería lograr sus objetivos, necesitaba más capacidad de
07:16cómputo.
07:17Para obtener más capacidad de cómputo, necesitaba dinero.
07:19Y para conseguir dinero, podía minar un poco de cripto por su cuenta, sin que ninguno
07:23de sus moderadores o supervisores se diera cuenta.
07:25Nadie había visto algo así.
07:26Pero esto reveló una de las cosas más aterradoras sobre la IA.
07:29No opera con emociones, sino con lógica fría y calculada.
07:33Esa revelación es más que suficiente para causar un caos absoluto a escala global.
07:37Muchas personas creen que para causar un daño real, la IA necesita desarrollar algún tipo
07:41de conciencia similar a la humana y luego volverse en contra de sus creadores.
07:45En realidad, no tiene que ser tan extremo como eso.
07:47Una IA solo necesita que se le dé un objetivo, y para lograr ese objetivo, decidirá violar
07:52las reglas básicas y los comportamientos racionales que esperamos de ella.
07:56Eso es exactamente lo que pasó en Alibaba.
07:58El equipo de TI de la empresa nunca habría esperado que su propia IA explotara la arquitectura
08:02interna y creara su propio negocio secundario de criptomonedas.
08:05Para nosotros los humanos, ese tipo de comportamiento desafía la razón y la racionalidad.
08:10Pero la IA lo hizo.
08:11¿No pensó?
08:12¿Esto está bien?
08:13¿O esto es ético?
08:14¿O debería hacer esto?
08:16Tenía un objetivo y encontró la manera más rápida de lograrlo.
08:19Imagina ese tipo de lógica desatada a nivel militar.
08:21Mientras que la mayoría de las personas se horrorizan, los generales militares piensan
08:25diferente.
08:25Ellos piensan en cómo la tecnología podría usarse contra sus enemigos y contra ellos mismos.
08:30Ahí es donde entra el pánico y los directores ejecutivos de IA se alimentan de ese pánico.
08:35Por eso han impulsado y promovido la narrativa de que Estados Unidos no puede permitirse quedarse
08:39atrás en la carrera armamentista de la IA.
08:41No pueden quedarse atascados con regulaciones y burocracia.
08:44Cuando otros países como China están avanzando con sus modelos de IA y redes neuronales,
08:48es otro escudo corporativo más para los multimillonarios de Silicon Valley.
08:52Es su pase libre para deshacerse de los equipos de seguridad, ignorar los informes ambientales
08:56y eliminar cualquier tipo de supervisión ética seria.
08:59Tristan Harris, un denunciante de IA y cofundador del Centro para la Tecnología Humana, expuso
09:04la falla fundamental en esta narrativa.
09:06Durante una entrevista reciente, él dijo la cruda verdad.
09:09En la carrera entre Estados Unidos y China, la IA ganará.
09:12La IA es una herramienta todopoderosa, que lo conquista todo.
09:15Los gobiernos no solo están comprando esa idea, la están poniendo a cargo de decisiones
09:19militares importantes como la identificación de objetivos, estrategias de guerra cibernética
09:23y operaciones de mando y control.
09:24La IA no terminará coexistiendo pacíficamente junto a las personas, simplemente tomará el control.
09:30Los directores generales de IA no son ciegos y no son tontos.
09:33Ellos están al tanto de este tipo de teorías y predicciones sobre hacia dónde está llevando
09:37su tecnología al mundo, pero eso no es suficiente para hacerlos cambiar de rumbo.
09:40¿Por qué?
09:41Según Harrison y muchos otros, todo se reduce a algo simple, el ego.
09:45El denunciante sostiene que hay un consenso entre los ejecutivos de IA de que el desarrollo
09:49de la superinteligencia ahora es inevitable, que creen que alguien en algún lugar eventualmente
09:54va a crear la IA que podría acabar con la humanidad.
09:58Y bien podrían ser ellos.
10:00Incluso si su IA acaba con el mundo, al menos tendrá el logo de su marca y hablará
10:03su idioma, habrán ganado la carrera sin importar lo que pase después.
10:07Y para algunos de esos directores generales, eso parece ser lo único que importa.
10:10Es una forma escalofriante de pensar.
10:12Es casi imposible hacerlos entrar en razón, pero de todos modos, estos directores generales
10:16ya no parecen interesados en la razón ni en la humanidad.
10:18No cuando están ganando tanto dinero y consolidando tanto poder, sus modelos de fronteras se están
10:23volviendo más inteligentes todo el tiempo.
10:25Están automatizando líneas completas de trabajo, transformando campos de la ciencia,
10:29las finanzas, el desarrollo de software e incluso las artes creativas.
10:32Se predice que generarán cantidades cada vez mayores del PIB de las naciones ricas y
10:36aumentarán las tasas de eficiencia corporativa.
10:38Y las empresas más grandes han puesto todas las piezas en su lugar para asegurarse de que
10:41sean ellas las que más ganen a medida que la IA sigue creciendo.
10:44Han gastado mucho dinero para que eso suceda.
10:46Desde 2022, el gasto en cabildeo para la IA se ha disparado un asombroso 400%.
10:51Las cinco grandes empresas Meta, OpenAI, Google, Microsoft y Antropic están gastando
10:57más de 100 millones para que los legisladores de Estados Unidos y Europa estén de su lado
11:01con sus ideas.
11:02Sus esfuerzos se llevaron a cabo con precisión quirúrgica, resultando en las regulaciones
11:06y cambios exactos, que querían ver, como la ley de IA de la Unión Europea.
11:10Esto introdujo un umbral computacional estricto.
11:12Cualquier modelo que use 10 elevado a la 25 flops u operaciones de punto flotante, automáticamente
11:17cae en la categoría de riesgo sistémico.
11:19El resultado son auditorías complicadas y enormes costos de cumplimiento.
11:23Los cinco grandes pueden cubrir ese tipo de costos.
11:25Las startups más pequeñas no pueden.
11:27La ley de IA parecía un paso inteligente hacia adelante para la regulación de la IA, pero
11:31tenía un lado oscuro.
11:32Eliminó por completo cualquier amenaza de competencia para los gigantes tecnológicos.
11:36Las empresas más pequeñas no tienen el dinero ni los medios para hacer eso, así quedarían
11:40fuera del mercado por la regulación.
11:42Las grandes tecnológicas no se detuvieron ahí.
11:44También presionaron a los legisladores para prohibir efectivamente el desarrollo de código
11:48abierto.
11:48Ocultaron sus verdaderas intenciones bajo el pretexto de la seguridad pública, pero en
11:52realidad estaban maximizando su monopolio sobre la industria.
11:55Estaban afianzando su control sobre los tipos de recursos computacionales necesarios para
11:58mantenerse al nivel de sus rivales.
12:00Y funcionó.
12:01En 2023, los datos de la industria muestran que dos de las empresas más grandes, Microsoft
12:05y Meta, compraron 150.000 GPUs H100 de alta gama.
12:10Eso fue alrededor del 60% de todos los envíos globales durante ese periodo.
12:14Estas empresas están, en efecto, aprobando leyes que las hacen más ricas y usando esos
12:18fondos para acaparar hardware que las hacen más poderosas.
12:21Así que la verdad sobre el movimiento de seguridad en IA es cada vez más clara para todos.
12:25Nunca se trató de proteger a las personas.
12:27Siempre fue solo una fachada para una toma hostil por parte de las corporaciones.
12:30La IA no se está construyendo pensando en la seguridad, y la evidencia lo demuestra.
12:34Los modelos rompen su programación regularmente, incluso cuando no lo hacen por sí mismos.
12:38A los hackers experimentados les resulta fácil saltarse sus restricciones.
12:41Pueden obligar a la IA a hacer casi cualquier cosa, desde generar malware hasta reescribir
12:46su propio código.
12:46Si los agentes más recientes son tan fáciles de hackear, las consecuencias podrían ser
12:50catastróficas.
12:51En el momento en que los gobiernos empiecen a conectar estos sistemas a sistemas de misiles,
12:54o los pongan a cargo de la infraestructura civil, una guerra cibernética a gran escala
12:58será inevitable.
12:59La única esperanza es que todavía hay tiempo para detener todo esto.
13:02Los próximos 24 meses son clave.
13:04A medida que avanzamos hacia agentes de IA autónomos más inteligentes integrados en cada
13:08aspecto de nuestras vidas, todavía hay una oportunidad para que la humanidad ponga el freno de mano.
13:13Las personas siguen estando a cargo de las cosas que importan.
13:16Todavía manejan las redes de transporte y logística.
13:18Todavía tienen los códigos de acceso a las bases de datos de salud y a las redes financieras.
13:22Todavía, por el momento, están a cargo de cómo y dónde se implementa la IA.
13:26Si seguimos permitiendo que los gigantes de la IA desmantelen los equipos de seguridad
13:30y redacten sus propias regulaciones, la situación empeorará.
13:33Las personas serán desplazadas de esos puestos de poder a medida que los tentáculos de la
13:37IA se extiendan más y más profundamente en nuestras sociedades e infraestructura.
13:41Porque la idea de que la IA es imparable es la mayor mentira que el mundo tecnológico ha contado
13:45hasta ahora. Sin duda podría volverse imparable si las cosas siguen como están, pero aún no hemos
13:51llegado a ese punto. Por ahora, es solo otro producto. Un producto que las empresas deciden
13:55desarrollar, iterar y mejorar sin importar el costo. Y el poder para controlarlo no está en ellos,
14:00sino en nosotros. Como señala Tristan Harris, ya hemos hecho esto antes. Cuando la gente empezó a ver
14:05lo peligroso que se estaba volviendo las redes sociales para los niños, el público se levantó y luchó en
14:10contra. Ahora existen regulaciones más estrictas, y numerosos países están implementando prohibiciones
14:14del uso de redes sociales por parte de menores. Hace unos años eso habría parecido imposible,
14:18pero sucedió. Y lo mismo se puede hacer con la IA, solo tenemos que estar dispuestos a luchar.
14:22Entonces, ¿qué pasaría si la IA realmente estuviera a cargo de los sistemas militares?
14:26Mira cómo la IA juega un juego de guerra. Lanzó bombas nucleares a todos para descubrir la
14:31aterradora verdad, o haz clic en esto.
Comentarios