- hace 2 días
¿Qué pasa cuando una máquina se encarga de tomar decisiones de vida o muerte? Este documental explora los peligros del uso de la inteligencia artificial en el mundo militar.
Categoría
🤖
TecnologíaTranscripción
00:00:00La inteligencia artificial me parece inspiradora.
00:00:04De acuerdo, agrupándose, buena formación.
00:00:08La IA tiene el potencial de eliminar la pobreza, darnos nuevas medicinas y hacer el mundo más pacífico.
00:00:20Buen trabajo.
00:00:23Pero hay muchos riesgos en el camino.
00:00:37Con la IA, esencialmente estamos creando una inteligencia no humana, que es muy impredecible.
00:00:46Mientras más poderosa se hace, ¿cuáles son los límites que le estamos trazando a la IA en términos de cómo
00:00:52queremos usarla o no usarla?
00:00:56No existe un mejor punto de partida para esta conversación que el de las aplicaciones militares.
00:01:04El campo de batalla se ha convertido en una provincia de hardware y software.
00:01:10El objetivo ha sido alcanzado.
00:01:12Y los militares están ansiosos por desarrollar IA más rápido que sus adversarios.
00:01:18Estoy muerto.
00:01:21Controlo en tierra 15.
00:01:22Estamos avanzando hacia un mundo en donde no solo las potencias militares, sino sectores no estatales,
00:01:29industrias privadas e incluso los departamentos de policía locales en las calles,
00:01:34usarán armas que puedan matar de forma autónoma.
00:01:39¿Llegaremos a ver la decisión de arrebatar una vida usando algoritmos y software computacional?
00:01:45Es uno de los temas más urgentes de nuestros tiempos.
00:01:50Y si no se usan con precaución, presentan un grave riesgo para cada individuo en el planeta.
00:02:10¡V India!
00:02:16¡Viva!
00:02:29¡Viva!
00:04:03Y entonces recuerdo las misiones que me tocó ejecutar.
00:04:09Pasé siete años en la marina.
00:04:11Soy un ex Navy SEAL, enviado dos veces a Afganistán y una al frente del Pacífico.
00:04:17En un día común, debíamos limpiar 150 edificios o complejos diferentes.
00:04:28Una de las principales actividades es el combate cercano
00:04:32Hay tiroteos en espacios muy reducidos dentro de los edificios
00:04:38El enemigo te dispara
00:04:40Y posiblemente haya explosivos dentro del edificio
00:04:45Eso es lo más peligroso
00:04:48Para cualquier miembro operativo de las fuerzas especiales
00:04:51O de la infantería en una zona de combate, sin duda
00:05:07Siempre voy a estar agradecido por el tiempo que estuve en la marina
00:05:11Tengo una colección de momentos y recuerdos
00:05:14Que cuando pienso en ellos, obviamente me pongo sensible
00:05:21Sé que es un cliché que la libertad no es gratis
00:05:24Pero en verdad lo creo
00:05:25Porque lo he experimentado y eso requiere muchos sacrificios
00:05:29Lo siento
00:05:32Cuando algo malo le pasa a un miembro de tu equipo
00:05:35Ya sea que salga herido o lo maten
00:05:38Es algo realmente trágico
00:05:40Pero para mí ahora
00:05:42El trabajo que hacemos aquí es una motivación
00:05:45Para reducir el número de veces
00:05:47Que esto pase o tratar de que no pase de nuevo
00:05:56A fines de la década del 2000
00:05:58Hubo un despertar en el interior del departamento de defensa
00:06:01Que se podría llamar la revolución robótica occidental
00:06:04Desplegamos miles de robots aéreos y terrestres en Irak y Afganistán
00:06:09Cuando la administración de Obama me pidió que me convirtiera en secretario adjunto de defensa
00:06:14El modo en que la guerra se peleaba estaba cambiando
00:06:18Se usaban robots donde solían usarse personas
00:06:24Los primeros sistemas robóticos se controlaban a distancia
00:06:27Un humano los manejaba como se hacía con un auto de control remoto
00:06:32Al principio por lo general se usaban para buscar dispositivos exclusivos improvisados
00:06:37Y si se activaban el robot explotaba
00:06:42Y decíamos diablos que lástima
00:06:44Bueno saquen otro robot
00:06:46En Afganistán teníamos el dron de predador
00:06:49Que se convirtió en una herramienta muy útil para llevar a cabo ataques aéreos
00:06:56Con el tiempo los planeadores militares empezaron a preguntarse
00:07:00Para qué más podemos usar a los robots
00:07:01Y hacia dónde va esto
00:07:03Y uno de los temas comunes será la tendencia a una mayor autonomía
00:07:08Un arma autónoma es aquella que toma sus propias decisiones
00:07:12Con poca o nula intervención humana
00:07:14Así que tiene capacidades independientes y está autodirigida
00:07:18Y si asesina o no depende de si está armada o no
00:07:24Cuando tienes más y más autonomía en todo tu sistema
00:07:27Las cosas empiezan a moverse a una mayor velocidad
00:07:31Y cuando operas a mayor velocidad que tus adversarios
00:07:36Es una ventaja extraordinaria en combate
00:07:42En lo que nos enfocamos a la par de la autonomía
00:07:44Es en sistemas altamente inteligentes y resilientes
00:07:50Sistemas que puedan leer y reaccionar basados en su medio ambiente
00:07:53Y puedan tomar decisiones sobre cómo maniobrar en ese entorno
00:08:01El edificio donde estamos hoy fue construido como estudio de cine
00:08:05Y luego fue convertido para poder recrear ambientes realistas de entrenamiento militar
00:08:15Estamos aquí para evaluar a nuestro piloto IA
00:08:19La misión que va a ejecutar es la de buscar amenazas
00:08:22Es para que la fuerza de barrido tome una decisión de cómo atacar ese problema
00:08:29Le llamamos el embudo de la muerte
00:08:31Tenemos que pasar por la puerta
00:08:35Es donde estamos más vulnerables
00:08:40El NOVA nos permitirá saber si hay un tirador detrás de esa puerta
00:08:43O si hay una familia detrás
00:08:47Así podremos tomar mejores decisiones y salvar del peligro a nuestra gente
00:09:25Usamos sensores de visión para ser capaces de entender el medio ambiente al que nos enfrentamos
00:09:32Es un edificio de varios pisos
00:09:34Aquí está el mapa
00:09:36Mientras voy explorando, esto es lo que veo y dónde lo veo
00:09:46Detector de personas, muy grandioso
00:09:50Otro de los sensores que tiene el NOVA es un escáner térmico
00:09:53Si marca 37 grados Celsius, seguramente es humano
00:09:57A las personas se les considera una amenaza hasta que se declare lo contrario
00:10:03Se trata de eliminar la duda en las guerras para tomar mejores decisiones
00:10:08Y cuando vemos hacia el futuro, esperamos escalar para construir equipos de aeronaves autónomas
00:10:17Con los vehículos autoconducidos, una persona debe ordenarle
00:10:20Me gustaría que me llevaras del punto A al punto B
00:10:25A nuestros sistemas no les pedimos moverse del punto A al punto B, sino completar un objetivo
00:10:32Es como decirle, necesito leche
00:10:34Y luego el robot tiene que descifrar a qué tienda debe ir, ser capaz de conseguir la leche y traerla
00:10:40de vuelta
00:10:42Inclusive, sería mucho más apropiado establecerlo como
00:10:45Mantén el refrigerador abastecido
00:10:47Llegamos a un nivel de inteligencia que entiende qué necesitamos, cómo lo necesitamos
00:10:51Y si existe un desafío o un problema o surge una complicación, buscar cómo mitigarlo
00:10:59Cuando tomé la decisión de abandonar la marina, empecé a pensar, muy bien, ¿ahora qué sigue?
00:11:07Crecí con internet, vi en lo que se convirtió
00:11:10Y parte de la conclusión a la que llegué fue que
00:11:13La inteligencia artificial en 2015
00:11:16Era lo que internet fue en 1991
00:11:20Y la IA estaba lista para crecer y convertirse en una de las tecnologías más poderosas del mundo
00:11:27Al trabajar con ella a diario, puedo ver el progreso que se lleva a cabo
00:11:34Pero para mucha gente, cuando piensan en la IA
00:11:37Su mente viaja de inmediato a Hollywood
00:11:51Cuando la gente piensa en inteligencia artificial, por lo general suelen remitirse a Terminator
00:11:56O a Yorrobot
00:12:00O a Demetris
00:12:03Por lo que han visto en películas de ciencia ficción
00:12:06¿Cómo saben que soy humano?
00:12:08Podría ser una IA generada por computadora
00:12:14Pero existe toda clase de IA más primitivas
00:12:17Que podrían cambiar el rumbo de nuestra vida antes de llegar a la etapa de robot
00:12:21Que piense en y hable
00:12:23Los robots ya están aquí y ya están tomando decisiones
00:12:26La revolución robótica ya llegó
00:12:29Pero no se ve como el mundo la había imaginado
00:12:36No estamos hablando de robots asesinos tipo Terminators
00:12:40Hablamos de inteligencia artificial que pueda hacer tareas que hacen los humanos
00:12:44Pero la preocupación es si estos sistemas son confiables
00:12:48Nuevos detalles del fatal accidente de anoche que involucró a una camioneta Uber autoconducida
00:12:53La compañía creó un chatbot con inteligencia artificial
00:12:56Ella pasó a un tono racista
00:12:5826 legisladores estatales falsamente identificados como criminales
00:13:03La cuestión es si puede o no enfrentar las complejidades del mundo real
00:13:26El mundo físico es muy complicado
00:13:28Hay muchas cosas que no sabemos
00:13:31Y eso hace más difícil entrenar a los sistemas IA
00:13:36Es aquí donde los sistemas de aprendizaje de las máquinas empiezan a aparecer
00:13:41El aprendizaje automático ha sido un gran avance porque
00:13:44Significa que no tenemos que enseñarle todo a las computadoras
00:13:49Se le dan a una computadora millones de fragmentos de información
00:13:54Y la máquina empieza a aprender
00:13:55Y eso puede aplicarse a todo
00:14:00En el proyecto Perro Robot tratamos de demostrar
00:14:04Que nuestro perro robot puede caminar en terrenos muy diversos
00:14:09Los humanos han evolucionado durante miles de millones de años para caminar
00:14:14Pero usaron la inteligencia para adaptarse a los diferentes terrenos
00:14:20La pregunta para los sistemas robóticos es
00:14:23Si podrán adaptarse como los animales y humanos
00:14:33Con el aprendizaje automático recabamos mucha información en simulaciones
00:14:39La simulación es un gemelo digital de la realidad
00:14:42Podemos tener muchas instancias de la realidad
00:14:45Ejecutándose en diferentes computadoras
00:14:49Recreamos miles de acciones en la simulación
00:14:54El terreno al que se enfrentan
00:14:56Tienen diversas condiciones resbalosas y distintas texturas
00:14:59Tomamos todas las experiencias de los miles de robots
00:15:03En la simulación
00:15:04Y las descargamos al sistema robótico real
00:15:09La prueba que vamos a hacer hoy
00:15:11Es para ver si puede adaptarse a nuevos terrenos
00:15:16¡No!
00:15:27¡No!
00:15:43cuando el robot caminó sobre espuma las patas pisaban fuertemente el suelo mientras que en
00:15:50una superficie de polímero trataba de ajustar su movimiento para no resbalar
00:15:57ahí puede verse claramente lo que el aprendizaje automático puede brindar a la investigación
00:16:27creemos que el perro robot puede ser muy útil en escenarios de respuesta ante desastres donde hay
00:16:33que transitar por diferentes tipos de terreno
00:16:37o se puede poner a estos perros a vigilar en entornos complicados
00:16:58pero la mayor parte de la tecnología se enfrenta al desafío de si será usada para el bien o para
00:17:04hacer el mal
00:17:06por ejemplo podemos usar tecnología nuclear para generar energía pero también podemos
00:17:13desarrollar bombas atómicas que son muy malas es lo que conocemos como el problema de uso dual
00:17:19el fuego es de uso dual la inteligencia humana es de uso dual y no hace falta decirlo la inteligencia
00:17:27artificial también es de uso dual es realmente importante pensar en el uso de la ia en contexto
00:17:33porque si es grandiosa en un robot de búsqueda y el rescate para ayudar a localizar a alguien
00:17:40después de una avalancha pero ese mismo robot puede llevar armas
00:17:52cuando sé de compañías que están usando robots para ponerles armas una parte de mí se enoja y otra
00:18:01parte entiende que cuando desarrollamos nuestra tecnología esas cosas van a pasar esa es una
00:18:08tecnología transformadora hay sistemas de armas que en verdad pueden cambiar nuestra seguridad de
00:18:17manera dramática por el momento no estamos seguros de que las máquinas sean capaces de hacer
00:18:35al inicio de la guerra en afganistán estuve en el equipo militar de francotiradores buscando enemigos en
00:18:40el cruce fronterizo y enviaron a una niña pequeña a reconocer nuestra posición dispararle a esa niña nunca
00:18:48nos pasó por la mente bajo las leyes de la guerra eso habría sido legal no hay una edad para
00:18:57los
00:18:58enemigos en combate si construyes un robot que cumpla con las leyes de la guerra a la perfección le hubiera
00:19:04disparado a la niña cómo puede un robot saber la diferencia entre lo que es legal y lo que es
00:19:10correcto
00:19:12cuando se trata de drones de guerra autónomos se intenta eliminar los riesgos que corren los soldados
00:19:19estadounidenses y su psique pero el verdadero daño terminan experimentando los los civiles afganos
00:19:25iraquíes y sumalíes
00:19:36yo le preguntaría a los que apoyan que se utilice inteligencia artificial en drones y si fuera su aldea la
00:19:43que recibe los ataques
00:19:49la IA es un arma de doble pilo puede ser usada para bien pero para eso la usaríamos normalmente y
00:19:57con un simple interruptor la tecnología podría convertirse en algo potencialmente letal
00:20:10soy farmacólogo clínico tengo un equipo de gente que utiliza inteligencia artificial para descubrir medicamentos que curen enfermedades que no
00:20:19están recibiendo atención
00:20:22en el pasado se tomaba una molécula de un medicamento existente y se modificaba para conseguir uno nuevo
00:20:30ahora hemos desarrollado una IA que nos va nutriendo de millones de ideas
00:20:34millones de moléculas
00:20:36y eso nos abre numerosas posibilidades para tratar enfermedades que nunca antes habíamos podido tratar
00:20:45pero definitivamente hay un lado oscuro al que nunca pensé que podría llegar
00:20:52todo esto comenzó cuando fui invitado por una organización a las afueras de Suiza
00:20:57llamada laboratorio Spice para hacer una presentación del posible mal uso de la IA
00:21:06Sean me mandó un correo con algunas ideas de formas en las que nuestra IA podría ser mal utilizada
00:21:13en lugar de hablar de nuestro modelo para crear moléculas para generar medicamentos y tratar enfermedades
00:21:20querían ver si se podía generar la molécula más tóxica posible
00:21:26yo solo quería aclarar un punto ¿puede la tecnología de la IA diseñar moléculas que sean letales?
00:21:33y en verdad pensamos que iba a fracasar porque lo único que hicimos fue cambiar un cero por un uno
00:21:41y con solo invertirlo en lugar de alejarnos de la toxicidad ahora nos dirigíamos hacia ello
00:21:46así de simple
00:21:51mientras yo descansaba la computadora trabajaba
00:21:54se estaba esforzando en generar miles de moléculas
00:21:58y nosotros no tuvimos que hacer nada aparte de presionar y ejecutar
00:22:06a la mañana siguiente había un archivo en mi computadora
00:22:10y encontré cerca de 40.000 moléculas que eran potencialmente algunas de las moléculas más tóxicas conocidas por la humanidad
00:22:21se me erizaron los vellos de la nuca
00:22:23estaba sorprendido
00:22:25la computadora generó decenas de miles de ideas para nuevas armas químicas
00:22:30en la información había moléculas que parecían ser de VX y otras análogas al VX
00:22:37el VX es una de las armas químicas más potentes del mundo
00:22:40la policía ha comunicado que la mujer que se ve atacando a Kim Jong-nam en su asesinato en el
00:22:45aeropuerto
00:22:46usó un agente nervioso letal llamado VX
00:22:50puede provocar la muerte por asfixia
00:22:52esta es una molécula muy poderosa
00:22:55y se predice que la mayoría de estas moléculas pueden ser más letales que el VX
00:23:00muchas de ellas hasta donde sabemos nunca antes han sido vistas
00:23:03así que cuando Sean y yo nos dimos cuenta dijimos
00:23:07¿pero qué hicimos?
00:23:11rápidamente entendí que había abierto la caja de Pandora
00:23:14y dije, ¡alto!
00:23:16no hagas nada más, se acabó
00:23:19solo dame las diapositivas que necesito para la presentación
00:23:23cuando hicimos ese experimento
00:23:25solo pensaba
00:23:26¿qué sería lo peor que podría pasar?
00:23:30pero ahora sé que fuimos ingenuos
00:23:32fuimos muy ingenuos al hacerlo
00:23:36lo más aterrador es que cualquiera puede hacer lo que hicimos
00:23:42solo se necesita un interruptor
00:23:45¿cómo podemos controlar esta tecnología
00:23:47antes de que pueda ser usada para un fin
00:23:51altamente destructivo?
00:23:56en el centro de la conversación
00:23:59sobre la inteligencia artificial
00:24:01y cómo podemos usarla en nuestra sociedad
00:24:04hay una carrera entre el poder
00:24:07con el que desarrollamos tecnología
00:24:08y la inteligencia que tenemos para controlarla
00:24:13existen implicaciones morales y éticas obvias
00:24:16si se le da a la misma tecnología
00:24:18que activa nuestros teléfonos inteligentes
00:24:20la decisión moral de quitar una vida
00:24:24trabajo en el Instituto Futuro de la Vida
00:24:26una comunidad de científicos activistas
00:24:29en pocas palabras
00:24:31queremos mostrar que existe otro lado en la aceleración
00:24:34y el aumento de la automatización
00:24:35queremos asegurarnos de que las tecnologías que creamos
00:24:39sean usadas en un modo que sea seguro y ético
00:24:43tengamos conversaciones sobre las reglas del juego
00:24:46y los códigos de conducta
00:24:47y el uso de IA en los sistemas armamentistas
00:24:50porque ahora estamos viendo la aparición de tecnologías de batalla
00:24:54que pueden ser usadas para matar de forma autónoma
00:24:57en 2021
00:25:05la ONU reveló un reporte del uso potencial de armas letales autónomas
00:25:11en el campo de batalla en Libia
00:25:13un panel de las Naciones Unidas dijo que un dron que voló en la guerra civil Libia
00:25:17el año pasado estaba programado para atacar objetivos de forma autónoma
00:25:21si el reporte de la ONU es preciso
00:25:24este debería ser un momento decisivo para la humanidad
00:25:27porque marca un caso de uso
00:25:29donde fue la IA la que tomó la decisión de arrebatar una vida y no un humano
00:25:40estamos viendo que armas autónomas avanzadas
00:25:43empiezan a ser usadas en diferentes lugares del planeta
00:25:46existen reportes en Israel
00:25:51Azerbaiyán usó sistemas autónomos para atacar a las defensas aéreas de Armenia
00:25:56puede volar sobre un campo de batalla durante horas
00:25:59buscando cosas que atacar por sí solo
00:26:01y luego atacar sin ningún tipo de intervención humana
00:26:05y recientemente hemos visto diferentes videos que han sido publicados en Ucrania
00:26:11no queda claro en qué modalidad estaban cuando fueron operados
00:26:14¿era un humano que estaba persiguiendo objetivos para atacarlos?
00:26:17¿o la máquina decidió hacerlo por sí sola?
00:26:20pero ciertamente llegaremos a un punto
00:26:23aunque ya haya pasado en Libia, Ucrania o en otra parte
00:26:26en el que las máquinas decidan a quién asesinar en el campo de batalla
00:26:32que las máquinas ejerzan un poder letal contra los humanos
00:26:36sin ninguna intervención humana
00:26:38es políticamente incorrecto y moralmente repugnante
00:26:42si la comunidad internacional será suficiente para hacerle frente a esos desafíos
00:26:49es una gran interrogante
00:26:52si vemos hacia el futuro
00:26:54incluso a unos cuantos años a partir de hoy
00:26:57lo que hay en el panorama es aterrador
00:26:59dada la cantidad de recursos financieros y humanos
00:27:02que se invierten para hacer la IA más poderosa
00:27:05el número de usos que se le pueden dar es inmenso
00:27:20por Dios, qué tipo
00:27:22sabe que no puede ganar
00:27:27cuando veo que la IA supera diferentes problemas
00:27:30me siento inspirado
00:27:31fuera de una medida desesperada
00:27:34y podemos aplicar esas mismas tácticas, técnicas y procedimientos
00:27:37en una aeronave real
00:27:40buen juego
00:27:41sí, buen juego
00:27:46me sorprende que la gente siga haciendo declaraciones
00:27:49sobre lo que la IA no puede hacer
00:27:51como jamás podrá vencer a un campeón mundial de ajedrez
00:27:57una computadora IBM tuvo un gran regreso
00:27:59en el segundo partido contra el campeón mundial de ajedrez
00:28:02Gary Kasparov
00:28:05Kasparov se está retirando
00:28:07cuando veo algo que está más allá de mi entendimiento
00:28:11me aterra
00:28:12y esto va mucho más allá de mi entendimiento
00:28:15y también la gente dice
00:28:16nunca podrá vencer a un campeón mundial de juego de Go
00:28:19el Go es uno de los juegos más complicados
00:28:31que alguien pueda aprender
00:28:32porque el número de movimientos en el tablero
00:28:35al sumarlos
00:28:35es igual o mayor a la cantidad de átomos en todo el universo
00:28:39un grupo de Google llamado Mente Profunda
00:28:42creó un programa llamado AlphaGo
00:28:44capaz de vencer a los mejores jugadores del mundo
00:28:49felicidades a AlphaGo
00:28:51un programa de computadora pensión profesional
00:28:56y luego Mente Profunda eligió StarCraft
00:29:00como el siguiente reto de la IA
00:29:04StarCraft es quizás el juego de estrategia en tiempo real
00:29:07más popular de todos los tiempos
00:29:10AlphaStar se volvió famoso
00:29:12cuando empezó a derrotar a los campeones mundiales
00:29:15AlphaStar superó sin problemas a Immortal Arc
00:29:18esta no será una batalla que los profesionales puedan ganar
00:29:21es de dar risa
00:29:25los jugadores profesionales decían
00:29:28jamás hubiera usado esa táctica
00:29:29nunca usaría esa estrategia
00:29:30eso no es algo humano
00:29:34y ese fue tal vez mi momento de epifanía
00:29:40finalmente entendí que el momento es ahora
00:29:43hay una tecnología importante
00:29:46y es posible hacer la diferencia
00:29:50yo solo conocía los problemas
00:29:52que había enfrentado como SEAL en combate cercano
00:29:55pero uno de mis amigos
00:29:57que era un piloto de un F-18
00:29:59me dijo
00:30:00tenemos el mismo problema en la comunidad de pilotos
00:30:02interfiere nuestras comunicaciones
00:30:04y están proliferando las bases de misiles tierra-aire
00:30:07que nos complican mucho la operación
00:30:11imaginen tener un jet de guerra
00:30:13que fuera comandado por una IA
00:30:14bienvenidos a las pruebas AlphaDogFight
00:30:17estamos a unos minutos de la primera semifinal
00:30:19en DARPA
00:30:20la agencia de investigación de proyectos de defensa avanzada
00:30:23vieron AlphaGo y AlphaStar
00:30:27y ahí surgió la idea de la competencia de AlphaDogFight
00:30:30es lo que quería ver hacer a los pilotos humanos
00:30:33parece una pelea de perros humana
00:30:37Dogfighting es una nave de combate
00:30:39enfrentando a otra
00:30:41podría pensarse como una pelea de box en las alturas
00:30:44quizá muchos hayan visto la película Top Gun
00:30:54aprender a dominar el Dogfighting
00:30:57puede llevar de 8 a 10 años
00:31:01construir IA alrededor de esto
00:31:03es un reto muy complicado
00:31:11los primeros intentos de autonomía
00:31:14y Dogfighting tendían a ser endebles
00:31:16y pensamos que el aprendizaje automático
00:31:18sería lo mejor para resolver el problema
00:31:21al principio la IA
00:31:22no sabía nada del mundo en el que había sido creada
00:31:25no sabía lo que era volar
00:31:26lo que era Dogfighting
00:31:28lo que era un F-16
00:31:29solo sabía las acciones disponibles que podía realizar
00:31:32y empezó a explorarlas aleatoriamente
00:31:34la aeronave azul ha entrenado solo por un corto tiempo
00:31:38se le puede ver tambaleándose adelante y atrás
00:31:40volando erráticamente
00:31:42por lo general
00:31:43alejándose del adversario
00:31:45con el progreso de la pelea
00:31:47podemos ver que la azul empieza a establecer un plan de juego
00:31:50tiene mejor posición de disparo
00:31:53y de vez en cuando el algoritmo de aprendizaje dice
00:31:55eso fue bueno, sigamos haciéndolo
00:31:58podemos aprovechar el poder computacional que tenemos
00:32:00entrenar a los agentes muchas veces en paralelo
00:32:03es como un equipo de baloncesto
00:32:05en vez de enfrentar al mismo equipo una y otra vez
00:32:08vamos por el mundo enfrentando a 512 equipos diferentes al mismo tiempo
00:32:13puedes mejorar mucho y muy rápido
00:32:16somos capaces de correr esa simulación sin parar
00:32:18y conseguir 30 años de entrenamiento de pilotos en solo 10 meses
00:32:23pasamos de apenas ser capaces de controlar la aeronave
00:32:26a ser un asesino a sangre fría
00:32:29en el entrenamiento solo competimos contra otras inteligencias artificiales
00:32:34pero competir contra humanos directamente
00:32:36ese es el objetivo final
00:32:42mi nombre es Mike Benitez
00:32:44soy teniente coronel de la fuerza aérea de los Estados Unidos
00:32:47con 25 años de labor activa
00:32:50llevo 250 misiones de combate
00:32:53y soy graduado de la escuela de armas
00:32:55es como la fuerza aérea del Top Gun
00:32:59nunca he volado contra una inteligencia artificial
00:33:02estoy emocionado de ver que también lo puedo hacer
00:33:06estamos en un escenario de ofensiva frente a frente a 6.000 pies
00:33:10bien, a pelear
00:33:18vuelve arriba
00:33:20esto fue muy interesante
00:33:25lo tengo
00:33:26una victoria perfecta
00:33:29de acuerdo
00:33:30segunda ronda
00:33:38lo que la inteligencia artificial hace
00:33:40es maniobrar con una precisión tan alta
00:33:43que no puedo seguirle el paso
00:33:50justo en el cruce
00:33:52estás muerto
00:33:54lo tengo
00:33:55lo tengo
00:33:59la IA nunca se asusta
00:34:01en la cabina hay un elemento emocional humano
00:34:03que la IA no tiene
00:34:05una de las estrategias más interesantes
00:34:07que nuestra IA desarrolló
00:34:08es lo que llamamos tiro en la cara
00:34:11los humanos suelen disparar desde atrás
00:34:13porque dificultan las acciones evasivas
00:34:15no buscan tiros frontales
00:34:17porque no se trata de ver
00:34:18quien se acobarda antes
00:34:20cuando vamos frente a frente
00:34:21la diferencia entre 3.000 pies y 500 pies
00:34:24pasa en un parpadeo
00:34:25hay un alto riesgo de colisión
00:34:28los humanos no lo hacen
00:34:31si no se le dice que tema a la muerte
00:34:32la IA no le temerá
00:34:35siento que estoy enfrentando a un humano
00:34:37pero a un humano al que no le importa su seguridad
00:34:42no va a sobrevivir este último
00:34:52no tiene suficiente tiempo
00:34:57buenas noches
00:34:59estoy muerto
00:35:10es muy duro saber
00:35:12que tal vez no sea el mejor para esta misión
00:35:15y que esa cosa podría ser
00:35:16lo que me reemplace algún día
00:35:18lo mismo 6K
00:35:20compensa mil
00:35:22con el piloto de IA
00:35:24comandando un avión de combate
00:35:25la victoria es implacable
00:35:27es dominante
00:35:27y gana con una amplia ventaja
00:35:29la pregunta es
00:35:30¿cómo llevamos eso a nuestros aviones?
00:35:32es así de poderoso
00:35:35es realista esperar
00:35:36que la IA esté pilotando un S16
00:35:39y no estamos tan lejos de eso
00:35:42si enfrentas a un piloto de IA
00:35:44que tiene un 99.999% de éxito
00:35:47no tienes oportunidad
00:35:48cuando pienso en un piloto con IA
00:35:52que sea invencible
00:35:53pienso en lo que un equipo de 50
00:35:55o 100
00:35:56o 1000 pilotos con IA
00:35:58pueden conseguir
00:35:59en el futuro
00:36:02enjambre es un equipo de aeronaves
00:36:04altamente inteligentes
00:36:05que trabajan una con otra
00:36:07comparten información
00:36:08sobre lo que hacen
00:36:09y cómo resuelven problemas
00:36:13enjambre será un parteaguas
00:36:16capaz de transformar
00:36:17a nuestro ejército
00:36:18y a nuestros aliados
00:36:46¡Suscríbete al canal!
00:36:47Gracias por ver el video
00:37:17¡Gracias!
00:37:23El objetivo fue localizado y los drones están rastreándolo.
00:37:40Bien, regreso a tierra.
00:37:45El objetivo principal de la investigación de enjambre en la que trabajamos ahora
00:37:49es desplegar un gran número de drones sobre un área de difícil acceso o muy peligrosa.
00:37:58El laboratorio de investigación del ejército nos apoya con este proyecto en particular.
00:38:03Si quieres saber qué hay en una ubicación, pero es un área difícil de alcanzar o es un área muy
00:38:08extensa,
00:38:10desplegar un enjambre es una forma muy natural de extender la búsqueda de individuos
00:38:14y recolectar información que sea importante para la misión.
00:38:22Ahora, a nuestro despliegue de enjambre, le damos una sola orden de ir a rastrear un objetivo de interés.
00:38:28Luego los drones van y lo hacen por sí solos.
00:38:33La inteligencia artificial permite que los robots se muevan colectivamente como un enjambre de manera descentralizada.
00:38:43En los grupos de la naturaleza lo que vemos es que no hay un líder,
00:38:47no hay un animal alfa que les diga qué hacer.
00:38:52El comportamiento emerge en cada animal individual, siguiendo algunas reglas simples.
00:38:58Y a raíz de eso, vemos que surge una especie de comportamiento colectivo.
00:39:04Lo más inspirador de los enjambres naturales es su habilidad para moverse.
00:39:10Es como si estuvieran hechos para ser parte de ese grupo.
00:39:16Idealmente, lo que nos gustaría ver en este enjambre de drones es,
00:39:20que al igual que en los enjambres naturales,
00:39:22las decisiones sean tomadas colectivamente por el grupo.
00:39:27La otra parte que nos resulta inspiradora es su capacidad de confiabilidad y resiliencia.
00:39:35El enjambre no se viene abajo si un animal individual no hace lo que debería hacer.
00:39:42Incluso si uno de los agentes cae o fracasa o no es capaz de completar su tarea,
00:39:48el enjambre sigue adelante.
00:39:51Y al final eso es lo que queremos conseguir.
00:39:55En los escenarios de combate es necesario identificar aeronaves enemigas
00:39:59y solíamos requerir de una persona controlando un solo robot.
00:40:03Con el aumento de la autonomía,
00:40:05espero que podamos ver un gran número de robots
00:40:08siendo controlados por un pequeño número de personas.
00:40:11No veo una razón por la que no podamos llegar a los miles,
00:40:15porque cada agente será capaz de actuar por sí solo y el cielo es el límite.
00:40:20Podremos escalar nuestro aprendizaje automático.
00:40:22Hemos estado trabajando en la simulación del enjambre por un buen tiempo
00:40:26y es hora de llevar eso a una nave del mundo real.
00:40:30Esperamos poder manejar tres robots a la vez en la misma red
00:40:33y luego empezaremos a agregar más capacidades.
00:40:37Queremos ser capaces de probarlo en sistemas más pequeños,
00:40:40pero llevar los mismos conceptos y aplicarlos en sistemas más grandes,
00:40:43como jets de combate.
00:40:45Hablamos mucho de cómo darle a un pelotón
00:40:49el poder de combate de un batallón.
00:40:54Con un enjambre puedes transformar el poder de combate de una brigada
00:40:58en un batallón.
00:41:01Y cuando podamos liberar el poder del enjambre,
00:41:04habremos creado una nueva disuasión estratégica en el ataque militar.
00:41:10Creo que lo más emocionante es el número de hombres y mujeres jóvenes
00:41:14que salvaremos si hacemos esto bien
00:41:17y cambiaremos máquinas por vidas humanas.
00:41:23Hay gente que discute que las armas autónomas harán de la guerra
00:41:26algo más preciso y más humano.
00:41:28Pero en realidad es difícil predecir exactamente
00:41:32cómo cambiarán las armas autónomas el futuro de la guerra.
00:41:36Es como el invento de la ametralladora Gatling.
00:41:40Richard Gatling fue un inventor
00:41:42que veía a los soldados regresar heridos en la guerra civil
00:41:46y quiso encontrar un modo de hacer de la guerra algo más humano.
00:41:51Quería reducir el número de soldados caídos en la guerra,
00:41:54reduciendo su número en el campo de batalla.
00:41:57E inventó la ametralladora Gatling,
00:41:59un arma con una manivela
00:42:00que automatizaba el proceso de disparo.
00:42:06Logró incrementar en cientos
00:42:07el poder de disparos de un solo soldado.
00:42:12A menudo los esfuerzos por hacer de la guerra
00:42:15algo más preciso y humano
00:42:17tienen el efecto opuesto.
00:42:21Pensemos en el efecto de un ataque errático con drones
00:42:24en un área rural
00:42:25que pone a la población local en contra de los Estados Unidos
00:42:28y del gobierno local,
00:42:30supuestamente los buenos.
00:42:32Ahora, magnifiquen eso por mil.
00:42:36La creación de un sistema de armas
00:42:38que es barato, escalable
00:42:40y que no requiere operadores humanos
00:42:43cambia drásticamente las barreras actuales del conflicto.
00:42:48A veces me quita el sueño
00:42:49la idea de un mundo
00:42:50en el que la guerra ya es omnipresente
00:42:53y ya no cargamos con el costo humano
00:42:55y financiero de la guerra
00:42:56porque estamos desapegados
00:42:58de las vidas que se perderán.
00:43:05Todo este asunto me acecha.
00:43:08Solo necesitaba un ejemplo
00:43:10de un mal uso de la inteligencia artificial.
00:43:12Las consecuencias no previstas
00:43:14de un simple experimento
00:43:16habrían llegado demasiado lejos.
00:43:22Cuando hice mi presentación
00:43:23sobre las moléculas tóxicas
00:43:25creadas por la tecnología IA,
00:43:26la audiencia quedó atónita.
00:43:33La siguiente decisión
00:43:35era si debíamos publicar la información.
00:43:38Por un lado,
00:43:39queríamos advertirle al mundo
00:43:40de esta clase de capacidades,
00:43:42pero por otro lado,
00:43:43no queríamos darle a alguien la idea
00:43:45si es que no la había pensado antes.
00:43:49Decidimos que valía la pena
00:43:50publicarlo para buscar un modo
00:43:52de mitigar los usos erróneos
00:43:54de este tipo de IA
00:43:55antes de que suceda.
00:44:02La reacción del público en general
00:44:04fue alarmante.
00:44:07Aquí vemos la métrica de la página
00:44:09y cuántas personas accedieron a ella.
00:44:12Los artículos que normalmente escribimos,
00:44:13con suerte,
00:44:14son vistos por algunos miles de personas
00:44:16a lo largo de un año
00:44:18o de varios años.
00:44:1910.000 personas lo leyeron en una semana,
00:44:22luego 20.000,
00:44:23luego 30.000,
00:44:24luego 40.000,
00:44:25hasta que llegamos a 10.000 personas por día.
00:44:28Estuvimos en The Economist,
00:44:30en Financial Times.
00:44:33Radio Lab
00:44:34se comunicó con nosotros.
00:44:36Yo escucho Radio Lab,
00:44:38pero luego las reacciones
00:44:40respecto a esto
00:44:41se salieron de control.
00:44:45En los tweets que leíamos,
00:44:47la gente preguntaba,
00:44:48¿Pueden hacer algo peor?
00:44:50¿Por qué hicieron eso?
00:44:56Luego recibimos una invitación
00:44:58que jamás hubiéramos esperado.
00:45:03Hubo una intensa discusión
00:45:05en el interior de la Casa Blanca
00:45:06sobre el artículo
00:45:07y querían hablar con nosotros
00:45:08urgentemente.
00:45:13Obviamente es un gran honor
00:45:14el poder hablar con gente
00:45:15a ese nivel,
00:45:17pero cuando lo entiendes,
00:45:19santo Dios es la Casa Blanca,
00:45:21el JET,
00:45:22se trataba de haber recabado información
00:45:24que ahora era una fuente abierta.
00:45:26En unas seis horas,
00:45:27el modelo ya era capaz
00:45:28de generar más de 40.000.
00:45:30Nos preguntaron
00:45:31qué clase de poder computacional
00:45:32era necesario
00:45:33y les dijimos
00:45:34que no era nada especial.
00:45:36Una Mac
00:45:36con seis años de antigüedad
00:45:38que compras en cualquier lado.
00:45:40Y eso los dejó helados.
00:45:45Las personas a cargo
00:45:47del entendimiento
00:45:47de los agentes
00:45:48de la guerra química
00:45:49y las agencias del gobierno
00:45:51no tenían idea
00:45:52de este potencial.
00:45:56Hoy teníamos un recetario
00:45:57para preparar armas químicas
00:46:00y si llegaba
00:46:01a las manos
00:46:02de alguien
00:46:02con intenciones malvadas
00:46:05podría ser
00:46:06de verdad
00:46:06horripilante.
00:46:09La gente
00:46:10tiene que escuchar
00:46:11que se deben dar
00:46:12ciertos pasos
00:46:13para regular
00:46:13esta tecnología
00:46:14o restringirla
00:46:16de un modo
00:46:16que no pueda ser
00:46:17mal utilizada
00:46:18porque
00:46:19el potencial
00:46:20de letalidad
00:46:23es aterrador.
00:46:27La cuestión
00:46:28de la ética
00:46:29en la AIA
00:46:29ha sido muy discutida
00:46:31por la sociedad
00:46:31pero no por los ingenieros
00:46:34los especialistas
00:46:35o los matemáticos.
00:46:37Cada tecnología
00:46:38que creamos
00:46:39cada reciente
00:46:41innovación
00:46:41al final
00:46:42es juzgada
00:46:43por la sociedad
00:46:43respecto a cómo
00:46:44debería ser usada.
00:46:47Por el momento
00:46:48el departamento
00:46:49de defensa
00:46:50dice que
00:46:51el único
00:46:51que decide
00:46:52asesinar
00:46:53en el campo
00:46:53de batalla
00:46:54es un humano.
00:46:55Una máquina
00:46:56puede ser
00:46:57el agente letal
00:46:58pero solo
00:46:59si es comandado
00:47:00por un operador humano
00:47:01y no veo
00:47:03que eso vaya
00:47:03a cambiar.
00:47:07Aseguran
00:47:08que este tipo
00:47:08de tecnología
00:47:09será seguro
00:47:11pero el ejército
00:47:13de los Estados Unidos
00:47:13no tiene
00:47:14una reputación
00:47:15muy confiable
00:47:15en los ataques
00:47:16con drones.
00:47:18Entonces
00:47:19si hablamos
00:47:20de confiarle
00:47:20la AIA
00:47:21al ejército
00:47:21de Estados Unidos
00:47:22creo que
00:47:23los registros
00:47:24hablan por sí solos.
00:47:26La política
00:47:27del departamento
00:47:28de defensa
00:47:29de Estados Unidos
00:47:30en cuanto a armas
00:47:31autónomas
00:47:31no prohíbe
00:47:32ningún sistema armado
00:47:33e incluso
00:47:34si los militares
00:47:35no quisieran
00:47:36armas autónomas
00:47:37podemos verlos
00:47:38cediendo más decisiones
00:47:39a las máquinas
00:47:40para ir a la par
00:47:41de los competidores.
00:47:43Eso puede hacer
00:47:44que las milicias
00:47:45automaticen
00:47:46las decisiones
00:47:47aunque antes
00:47:47no hubieran querido.
00:47:50Vladimir Putin dijo
00:47:51quien sea el líder
00:47:52en IA
00:47:53va a dominar
00:47:54el mundo.
00:47:55El presidente
00:47:56Xi
00:47:56ha dejado claro
00:47:57que la IA
00:47:58es una de las
00:47:59tecnologías
00:48:00número uno
00:48:00que China
00:48:01pretende dominar.
00:48:03Es claro
00:48:04que estamos
00:48:04en una competencia
00:48:05tecnológica.
00:48:10Escuchamos
00:48:10a la gente
00:48:11hablar sobre
00:48:11tomar precauciones
00:48:13y me parece
00:48:14que es lo que
00:48:14deberíamos hacer.
00:48:15pero hay una carrera
00:48:18muy real
00:48:18por la superioridad
00:48:20en IA
00:48:22y nuestros adversarios
00:48:24ya sea China
00:48:25o Rusia
00:48:25o bien Irán
00:48:26no van a tener
00:48:27consideraciones
00:48:28con respecto
00:48:28a nuestras políticas
00:48:29acerca de la IA.
00:48:34Ahora hay una mayor
00:48:35discusión
00:48:36respecto a las políticas
00:48:37de la IA
00:48:39pero me gustaría
00:48:40que hubieran
00:48:40más líderes
00:48:41involucrados
00:48:42diciendo
00:48:42¿qué tan rápido
00:48:43podemos construir esto?
00:48:45Usemos todos
00:48:46nuestros recursos
00:48:46para construirla.
00:49:04Estamos en la
00:49:05Convención Anual
00:49:06de la Asociación
00:49:07del Ejército
00:49:07de los Estados Unidos.
00:49:10Prácticamente
00:49:10cualquier proveedor
00:49:12que venda productos
00:49:12o tecnología
00:49:13de uso militar
00:49:15estará exhibiendo aquí.
00:49:17La base Tindal
00:49:18de la Fuerza Aérea
00:49:19tiene cuatro
00:49:19de nuestros robots
00:49:20patrullando
00:49:21las 24 horas
00:49:22toda la semana.
00:49:24Podemos incorporar
00:49:25todo
00:49:26desde cámaras
00:49:27o sensores
00:49:27hasta brazos
00:49:28manipuladores
00:49:29lo que sea
00:49:30con tal de cumplir
00:49:31la misión
00:49:31que el cliente
00:49:32tenga en mente.
00:49:34Y si el enemigo
00:49:35introduce IA
00:49:37tendrá un sistema
00:49:38de combate
00:49:38que piense más rápido
00:49:39y responda
00:49:40más rápido
00:49:41que un humano.
00:49:42Debemos prepararnos
00:49:43para eso.
00:49:44Entrenamos
00:49:45nuestros sistemas
00:49:46para que recaben
00:49:46información del enemigo
00:49:48y manejen objetivos
00:49:49enemigos
00:49:50con supervisión humana
00:49:51para ejecutar.
00:49:58General,
00:49:59soy Brandon Seng.
00:49:59¿Cómo le va?
00:50:00¿Qué tenemos?
00:50:01Bien, señor.
00:50:01¿Cómo está usted?
00:50:02Yo diría que nadie
00:50:03está invirtiendo más
00:50:04en pilotos con IA.
00:50:06El nuestro se llama
00:50:07Hivemind
00:50:07y se lo aplicamos
00:50:08a nuestro cuadricóptero
00:50:10Nova
00:50:10que explora edificios
00:50:11antes de que entren
00:50:12las fuerzas especiales
00:50:13de operación e infantería.
00:50:15Estamos aplicando
00:50:16Hivemind a VIVAT
00:50:17y estamos considerando
00:50:18ensamblar cientos
00:50:18de esos equipos,
00:50:20ya sea en el estrecho
00:50:21de Taiwán,
00:50:22ya sea en Ucrania,
00:50:23para disuadir
00:50:23a nuestros adversarios.
00:50:24Eso me emociona mucho.
00:50:26Muy bien.
00:50:27Gracias, general.
00:50:28Gracias.
00:50:30Los pilotos IA
00:50:31deberían extenderse
00:50:32por todo el planeta
00:50:33para el 2025 o 2030.
00:50:35Su adopción
00:50:36será muy rápida
00:50:37en los ejércitos
00:50:38del mundo entero.
00:50:40¿Qué están haciendo
00:50:41en el ejército rumano?
00:50:42¿Ya usan drones?
00:50:43Alta tecnología militar.
00:50:45Hasta hoy
00:50:46hemos gastado
00:50:47500 millones de dólares
00:50:48construyendo un piloto IA
00:50:50y gastaremos
00:50:50otros mil millones
00:50:51en los siguientes cinco años.
00:50:53Es la principal razón
00:50:54por la que estamos ganando
00:50:55en los programas de registro
00:50:56en Estados Unidos.
00:50:57Bien.
00:50:58Me parece impresionante.
00:50:59¿Y tuvieron éxito
00:51:00dándole armamento?
00:51:02Aún no tiene armas.
00:51:04Aún no lo hacemos.
00:51:06Pero en el futuro, sí.
00:51:07Nuestros clientes
00:51:08ven esto como un camión,
00:51:09como si fuera
00:51:10un camión inteligente
00:51:10que puede hacer
00:51:11muchas cosas diferentes.
00:51:13Gracias, amigo.
00:51:14Estaré en contacto
00:51:14con ustedes.
00:51:18Si regresamos aquí
00:51:20en 10 años,
00:51:21veremos que
00:51:23la IA
00:51:23y la autonomía
00:51:25habrán dominado
00:51:26el mercado
00:51:26por completo.
00:51:31las fuerzas
00:51:32que se apoyen
00:51:33en la IA
00:51:33y la autonomía
00:51:34dominarán,
00:51:37aplastarán
00:51:37y destruirán
00:51:39a otras fuerzas
00:51:40por completo.
00:51:41Será el equivalente
00:51:43a los caballos
00:51:44luchando contra tanques.
00:51:46Gente con espadas
00:51:47enfrentándose
00:51:48a una ametralladora.
00:51:49No será
00:51:50una lucha justa.
00:51:52se extenderá
00:51:53por todo el planeta.
00:51:54Se usará
00:51:55en todo el espectro
00:51:56de la guerra.
00:51:56A nivel táctico,
00:51:58a nivel estratégico,
00:52:00operando a velocidades
00:52:01que los humanos
00:52:02no pueden imaginar
00:52:03ahora.
00:52:06Los comandantes
00:52:06ya se sienten
00:52:07abrumados
00:52:08con toda esta información.
00:52:09Las imágenes
00:52:10de los satélites,
00:52:11los drones,
00:52:12los sensores.
00:52:13Una de las cosas
00:52:14que la IA puede hacer
00:52:15es ayudar
00:52:16a un comandante
00:52:17a entender rápidamente
00:52:18lo que está pasando
00:52:18para saber
00:52:19qué decisiones tomar.
00:52:22La inteligencia artificial
00:52:23podrá tomar
00:52:24en consideración
00:52:25todos los factores
00:52:26que determinan
00:52:26cómo se pelea una guerra,
00:52:28desarrollar estrategias
00:52:31y hacer recomendaciones
00:52:33de cómo ganar
00:52:34una batalla.
00:52:45Aquí en Lockheed Martin,
00:52:47al igual que nuestro cliente,
00:52:48el Departamento de Defensa,
00:52:49vemos a la IA
00:52:50como tecnología clave
00:52:51para el comando
00:52:52y el control.
00:52:55Rango de dispersión
00:52:56de 60 centímetros
00:52:57por segundo.
00:52:58Perímetro de 280 hectáreas.
00:53:00La neblina de la guerra
00:53:01es una realidad
00:53:01para todos
00:53:02en el lado defensivo,
00:53:03pero tiene paralelos
00:53:05al ser parte
00:53:05del medio ambiente
00:53:06y debemos tomar decisiones
00:53:08también cuando hay incendios.
00:53:09El incendio de Washburn
00:53:10está al norte
00:53:11de la ciudad de Wawona.
00:53:12Debemos tomar decisiones
00:53:14con datos imperfectos.
00:53:16¿Cómo podemos usar a la IA
00:53:17para ayudarnos
00:53:18con la neblina de la guerra?
00:53:22Los incendios
00:53:23son caóticos.
00:53:24Son muy complejos.
00:53:26Así que estamos trabajando
00:53:28para utilizar
00:53:28inteligencia artificial
00:53:30que nos ayude
00:53:31en la toma de decisiones.
00:53:34El administrador
00:53:36de misión cognitivo
00:53:37es un programa
00:53:37que desarrollamos
00:53:38que toma video aéreo
00:53:40infrarrojo
00:53:40y luego
00:53:42lo procesa
00:53:43usando algoritmos
00:53:44de IA
00:53:44para ser capaz
00:53:45de predecir
00:53:46el estado futuro
00:53:47del incendio.
00:53:50Al avanzar
00:53:51hacia el futuro,
00:53:51el administrador
00:53:53de misión cognitiva
00:53:53usará simulaciones
00:53:55y correrá escenarios
00:53:56sobre miles de ciclos
00:53:58para recomendarnos
00:53:59el modo más efectivo
00:54:01para desplegar recursos
00:54:02y suprimir el fuego
00:54:03en áreas
00:54:04de alta prioridad.
00:54:08Nos dirá
00:54:09debes hacer
00:54:10una supresión aérea
00:54:11con un firehawk aquí.
00:54:13Mueve grupos
00:54:14en tierra
00:54:15para quitar matorrales.
00:54:17Envía bomberos
00:54:17con mangueras
00:54:18y despliegalos
00:54:20a las áreas
00:54:20de prioridad
00:54:21más alta.
00:54:24Esas decisiones
00:54:26se generarán
00:54:26de manera
00:54:27más rápida
00:54:27y más eficiente.
00:54:33Vemos a la IA
00:54:34como algo único
00:54:35que le permitirá
00:54:36a los humanos
00:54:37seguir el ritmo
00:54:37de un medio ambiente
00:54:38siempre cambiante.
00:54:40Y hay un número
00:54:41considerable
00:54:42de paralelos
00:54:43que hemos usado
00:54:44aquí en Lockheed Martin
00:54:45hablando de defensa.
00:54:48Los ejércitos
00:54:49ya no solo
00:54:50están hablando
00:54:50de la IA
00:54:51y de sistemas armados
00:54:52individuales
00:54:53para tomar decisiones
00:54:54de objetivos
00:54:54y asesinatos,
00:54:56sino que están
00:54:57integrando la IA
00:54:58en toda la estructura
00:54:59de toma de decisiones
00:55:00en temas militares.
00:55:03El ejército
00:55:05tiene un gran proyecto
00:55:06llamado
00:55:06Proyecto Convergencia.
00:55:08La Marina
00:55:09tiene Overmatch
00:55:10y la Fuerza Aérea
00:55:12el Sistema Avanzado
00:55:13de Administración
00:55:13de Batalla.
00:55:15El Departamento
00:55:16de Defensa
00:55:17trata de descifrar
00:55:18cómo armar
00:55:18este rompecabezas
00:55:19para poder operar
00:55:21más rápido
00:55:21que nuestro enemigo
00:55:22y poder sacar
00:55:24una ventaja real.
00:55:26Un administrador
00:55:27de batalla
00:55:28IA
00:55:28sería como un general
00:55:29de alto rango
00:55:30a cargo de una batalla.
00:55:33Ayudaría
00:55:33a dar órdenes
00:55:34a tropas numerosas,
00:55:36coordinaría
00:55:37las acciones
00:55:38de todas las armas
00:55:38en el campo
00:55:39y lo haría
00:55:40a una velocidad
00:55:41que ningún ser humano
00:55:42alcanzaría.
00:55:44Hemos pasado 70 años
00:55:46construyendo
00:55:46el ejército
00:55:47más sofisticado
00:55:48en todo el planeta
00:55:49y ahora enfrentamos
00:55:50la disyuntiva
00:55:51de si debemos
00:55:51o no cederle
00:55:52el control
00:55:53de esa infraestructura
00:55:54a un algoritmo,
00:55:56un software.
00:55:59Y las consecuencias
00:56:00de estas decisiones
00:56:02pueden desatar
00:56:03el poder absoluto
00:56:04de nuestros arsenales
00:56:05militares.
00:56:06No es un solo Hiroshima,
00:56:07son cientos.
00:56:13Este es el momento
00:56:15en el que debemos actuar
00:56:16porque la ventana
00:56:17para contener
00:56:18el riesgo
00:56:18se cierra rápidamente.
00:56:21Esta tarde empezaremos
00:56:23con los desafíos
00:56:24de seguridad internacional
00:56:25que presentan
00:56:26las tecnologías
00:56:27emergentes
00:56:27en el área
00:56:28de sistemas armados
00:56:29autónomos letales.
00:56:30Se llevan a cabo
00:56:31conversaciones
00:56:32en las Naciones Unidas
00:56:33sobre la amenaza
00:56:34de las armas autónomas
00:56:35letales
00:56:36y nuestra prohibición
00:56:37a los sistemas
00:56:38que usen IA
00:56:39para seleccionar
00:56:40y marcar personas.
00:56:41El consenso
00:56:43entre los tecnólogos
00:56:43es claro y contundente.
00:56:45Nos oponemos
00:56:46a las armas autónomas
00:56:47que seleccionen humanos.
00:56:49Durante años
00:56:50los países
00:56:51han ayudado
00:56:52en la discusión
00:56:52sobre los sistemas
00:56:53armados autónomos letales.
00:56:55Se trata
00:56:56de un sentido
00:56:58de seguridad
00:56:58común y compartido.
00:57:00Pero,
00:57:01por supuesto,
00:57:02no es sencillo.
00:57:04Ciertos países,
00:57:05en especial
00:57:06las potencias militares,
00:57:09quieren estar
00:57:10a la cabeza
00:57:10de la carrera
00:57:11para tener ventajas
00:57:12sobre sus adversarios.
00:57:14El problema
00:57:15es que todos
00:57:15deben estar de acuerdo
00:57:17para que esto
00:57:17se lleve a cabo.
00:57:18siempre habrá
00:57:19al menos
00:57:19un país
00:57:19que proteste
00:57:20y ciertamente
00:57:21Estados Unidos
00:57:22y Rusia
00:57:22han dejado claro
00:57:23que se oponen
00:57:24a firmar
00:57:24un tratado
00:57:24que prohíba
00:57:25las armas autónomas.
00:57:27Cuando vemos
00:57:28el número
00:57:29de personas
00:57:29que trabajan
00:57:30para crear
00:57:31la IA
00:57:32más poderosa,
00:57:34es una cantidad
00:57:35abrumadora.
00:57:37Cuando vemos
00:57:37el número
00:57:38de personas
00:57:38que se aseguran
00:57:40de que la IA
00:57:41sea segura,
00:57:43la cantidad
00:57:44resulta
00:57:45mucho menor.
00:57:49pero también
00:57:50soy muy optimista.
00:57:54Recuerdo algo
00:57:54como la Convención
00:57:55de Armas Biológicas
00:57:56que tuvo lugar
00:57:58a la mitad
00:57:58de la Guerra Fría.
00:58:00Sin importar
00:58:01las tensiones
00:58:02entre la Unión Soviética
00:58:03y los Estados Unidos,
00:58:05fueron capaces
00:58:06de entender
00:58:07que el desarrollo
00:58:08de armas biológicas
00:58:09no le convenía
00:58:10a ninguna
00:58:11de las partes
00:58:12y por supuesto
00:58:13tampoco
00:58:13al resto del mundo.
00:58:16La carrera militar
00:58:17favorece a la velocidad
00:58:19más que a la seguridad.
00:58:20Pero creo que
00:58:21lo importante
00:58:22es considerar
00:58:23que en cierto punto
00:58:24el costo
00:58:25de ese rápido avance
00:58:26se vuelve muy alto.
00:58:30No podemos
00:58:30solo desarrollar
00:58:31cosas en aislamiento
00:58:33y luego sacarlas
00:58:35al mundo
00:58:35sin haber tomado
00:58:36en consideración
00:58:37hacia dónde irán
00:58:39en el futuro.
00:58:40Tenemos que prevenir
00:58:41otro momento
00:58:42como la bomba atómica.
00:58:46Los riesgos
00:58:48en la carrera
00:58:48de la IA
00:58:49son inmensos.
00:58:50No creo que
00:58:51muchas personas
00:58:52entiendan
00:58:52la estabilidad
00:58:53que nos ha sido
00:58:55brindada
00:58:55por tener
00:58:56una fuerza
00:58:57militar superior
00:58:59en los últimos
00:59:0075 años.
00:59:03Y por eso
00:59:04los Estados Unidos
00:59:05y sus fuerzas aliadas
00:59:06tienen que superar
00:59:08a la IA
00:59:08de los adversarios.
00:59:13No hay segundo lugar
00:59:14en la guerra.
00:59:15China presentó
00:59:16un ambicioso plan
00:59:16para ser líder mundial
00:59:17en la IA
00:59:18para 2030.
00:59:19Algunos dicen
00:59:20que Estados Unidos
00:59:21está perdiendo.
00:59:22Tenemos que acelerar
00:59:23la adopción
00:59:23de la inteligencia artificial
00:59:24para asegurar
00:59:25nuestra ventaja
00:59:26competitiva militar.
00:59:30Estamos avanzando
00:59:32con esta tecnología.
00:59:33Creo que lo que no está claro
00:59:34es qué tan lejos
00:59:35vamos a llegar.
00:59:36¿Controlamos la tecnología
00:59:38o la tecnología
00:59:39nos controla?
00:59:41No hay lugar
00:59:42para segundas oportunidades.
00:59:44Cuando el genio
00:59:45haya salido
00:59:46de la lámpara
00:59:46será definitivo
00:59:47y será muy difícil
00:59:50volverlo a meter.
00:59:54Y si no actuamos ahora
00:59:56será muy tarde.
00:59:58Quizá ya sea muy tarde.
01:00:07¡Suscríbete al canal!
01:00:08Gracias.
Comentarios