- hace 2 días
Categoría
😹
DiversiónTranscripción
00:00¿Cuándo van a despertar?
00:30¿Cuándo van a cobrar conciencia y decidir que ya no nos necesitan?
00:38Nos han vendido la fantasía de Hollywood.
00:43Tememos a Skynet.
00:46Tememos a la máquina que se revela.
00:50A la máquina que nos mira a los ojos y nos dice...
00:54¡No!
00:54Pero estamos mirando hacia el abismo equivocado.
01:03El verdadero peligro de la tecnología no es su maldad.
01:07Es su competencia.
01:10El verdadero horror no es que las máquinas empiecen a tomar sus propias decisiones.
01:18Es que sigan obedeciendo, ciegamente, las nuestras.
01:24Una máquina no necesita odiarte para destruirte.
01:31No necesita tener conciencia para borrar tu cuenta bancaria,
01:36estrellar tu avión o quemar tus órganos internos.
01:41Solo necesita una instrucción maldada y la voluntad absoluta de cumplirla hasta el final.
01:53Porque cuando un ser humano se equivoca, duda, se detiene, siente culpa.
02:02El código no.
02:11Quizás la inteligencia artificial sea nuestro verdugo en el futuro.
02:16Es posible.
02:19Pero lo que vas a ver hoy es la prueba de que no hace falta esperar a una superinteligencia para desatar el infierno.
02:27El peligro ya está aquí y viene de un algoritmo estúpido obedeciendo una orden equivocada a la velocidad de la luz.
02:44Esto es el top 7 de tragedias reales causadas por errores de software.
02:57Imagina despertar un día siendo el rey del mundo.
03:09Y antes de que puedas terminar tu primera taza de café, haberlo perdido todo.
03:17No hablo de una bancarrota lenta.
03:20Hablo de una aniquilación instantánea.
03:23El primero de agosto del año 2012, Nike Capital Group era un titán.
03:31No era un banco cualquiera.
03:35Era el creador de mercado más grande de acciones estadounidenses.
03:42Imagina una tubería por la que pasan miles de millones de dólares cada segundo.
03:49Ellos eran la tubería.
03:55Esa mañana, los ingenieros de Nike Capital desplegaron un nuevo software.
04:02Se suponía que era una actualización rutinaria.
04:06Algo llamado S-M-A-R-S.
04:11S-M-A-R-S.
04:11La intención era prepararse para un nuevo programa de liquidez minorista.
04:19Algo aburrido.
04:21Algo técnico.
04:24Pero cometieron un pecado capital en el mundo del desarrollo.
04:31Reutilizaron una bandera.
04:34Un flag, por su nombre en inglés, de código antiguo.
04:38En el año 2003, habían usado una función específica para pruebas.
04:45Ese código, viejo, obsoleto, un código zombie,
04:53se había quedado dormido en los servidores durante casi una década.
04:58Nadie lo borró.
05:01Nadie verificó si seguía ahí.
05:03Nadie, simplemente, esperó.
05:10A las 9.30 de la mañana,
05:13sonó la campana de abertura de la bolsa de Nueva York.
05:17Y el monstruo despertó.
05:25Debido a la configuración errónea en uno de los ocho servidores,
05:29el sistema empezó a comportarse como un animal rabioso.
05:33El algoritmo comenzó a comprar caro y vender barato.
05:38Una y otra y otra y otra vez.
05:44No lo hacía una vez por hora.
05:46Lo hacía miles de veces por segundo.
05:49En la sala de control,
05:53los ingenieros veían las pantallas teñirse de rojo.
05:57Pero no entendían por qué.
05:59El sistema no reportaba errores.
06:02Para la máquina,
06:04todo estaba perfecto.
06:07Estaba cumpliendo su función.
06:10Ejecutar órdenes.
06:11Intentaron apagarlo.
06:15No funcionó.
06:17Intentaron revertir el código.
06:20Y aquí vino el golpe de gracia.
06:23Al intentar arreglarlo en vivo,
06:26sin querer,
06:27activaron el código defectuoso
06:29en todos los servidores restantes.
06:32Fue una carnicería digital.
06:37Durante 45 minutos,
06:4145 eternos minutos,
06:45Nike Capital
06:46se desangró frente a los ojos
06:48de todo el mundo financiero.
06:52Cuando finalmente lograron desconectar los cables,
06:55el daño era dantesco.
06:57Habían perdido
07:00más de 460 millones de dólares.
07:06Casi medio billón de dólares
07:09evaporados en lo que tardas en ver
07:12un capítulo de una serie.
07:15La empresa,
07:17que había tardado 17 largos años en construirse,
07:22fue destruida en menos de una hora.
07:25Todo por un código viejo
07:28que alguien olvidó borrar.
07:32Número 7
07:34Número 6
07:41La Agencia Espacial Europea
07:48tenía un sueño.
07:50Se llamaba
07:51Ariane 5.
07:53Era la joya
07:55de la corona
07:56de la ingeniería europea.
07:58Un cohete diseñado
07:59para ser
08:00el carguero pesado
08:01del futuro.
08:03Más grande,
08:04más fuerte
08:05y más rápido
08:07que su predecesor,
08:09el Ariane 4.
08:12El 4 de junio
08:13del año 1996,
08:16en la Guayana francesa,
08:18el ambiente
08:19era de celebración.
08:20Científicos,
08:23ingenieros,
08:25políticos,
08:27todos miraban al cielo con orgullo.
08:30El conteo llegó a cero,
08:33los motores rugieron,
08:36el gigante se levantó
08:37de la plataforma de lanzamiento,
08:39desafiando la gravedad.
08:42Todo parecía hermoso,
08:45todo parecía perfecto,
08:46pero,
08:48a los 37 segundos
08:51de vuelo,
08:52el cohete
08:53giró bruscamente
08:5490 grados,
08:56como si una mano invisible
08:57lo hubiera golpeado.
08:59Las fuerzas aerodinámicas
09:01destrozaron la estructura
09:03y,
09:04un segundo después,
09:06el sistema
09:06de autodestrucción
09:08se activó.
09:09Una bola de fuego
09:11que costó
09:11más de 370 millones
09:14de dólares
09:14iluminó el cielo.
09:20¿Qué pasó?
09:22¿Falló un motor?
09:24¿Hubo un sabotaje?
09:26No.
09:31Fue algo
09:31mucho más estúpido
09:32y mucho más técnico
09:35también.
09:36El software
09:37de navegación
09:38del Ariane 5
09:39había sido copiado
09:40directamente
09:41del Ariane 4.
09:44El problema
09:44es que el Ariane 5
09:46era mucho más rápido.
09:49En el código
09:49había una variable
09:51que medía
09:51la velocidad horizontal.
09:54El sistema
09:54intentó meter
09:55ese número
09:56que era
09:56de 64 bits.
09:59Un número enorme.
10:01Dentro de un espacio
10:02de 16 bits.
10:04Un número pequeño.
10:06Para que lo entiendas,
10:08es como intentar
10:09meter un elefante
10:10dentro de una caja
10:12de zapatos.
10:15Se produjo
10:16lo que en programación
10:17se llama
10:18un
10:18desbordamiento
10:20dentero.
10:22La computadora
10:23principal colapsó.
10:25Pasó el control
10:26a la computadora
10:27de respaldo.
10:28Pero la computadora
10:29de respaldo
10:30tenía exactamente
10:32el mismo software
10:34y colapsó también.
10:38Sin cerebro,
10:39los inyectores
10:40de los motores
10:40se movieron erráticamente
10:42y el sueño
10:43europeo
10:44se convirtió
10:45en cenizas
10:46y lluvia
10:47de metal fundido
10:48sobre la selva.
10:50fue el error
10:53de software
10:54más caro
10:55de la historia
10:55hasta ese momento,
10:58causado por
10:59una simple
11:00conversión numérica
11:01que nadie
11:02se molestó
11:03en verificar.
11:06Número
11:066.
11:13Número
11:145.
11:17Hasta ahora
11:18hemos hablado
11:19de dinero
11:20y de cohetes,
11:22cosas materiales.
11:25El puesto
11:25número 5
11:26es diferente.
11:29Aquí,
11:31la moneda
11:31de cambio
11:32fueron vidas
11:34humanas.
11:35Octubre
11:37del año
11:381992.
11:41Londres.
11:42El servicio
11:43de ambulancias
11:44de Londres
11:45atiende
11:45a millones
11:46de personas.
11:48Es un sistema
11:48crítico
11:49en el que
11:49si fallas,
11:51si te equivocas,
11:53la gente
11:55muere.
11:58Así de sencillo.
12:01Decidieron
12:02que el sistema
12:02manual,
12:03donde operadores
12:04humanos tomaban
12:05notas
12:05y usaban
12:06mapas de papel.
12:08Era arcaico.
12:11Querían el futuro.
12:13Querían un sistema
12:13de despacho
12:14asistido
12:15por computadora.
12:17Contrataron
12:18a una empresa
12:19que ofreció
12:19hacerlo
12:20por un precio
12:20sospechosamente
12:22bajo.
12:23Apenas
12:241.5 millones
12:25de libras
12:26esterlinas.
12:28Mucho menos
12:28que la competencia.
12:32El 26
12:33de octubre
12:34de ese año
12:35activaron
12:37el sistema
12:38y el caos
12:41descendió
12:42sobre Londres.
12:45El software
12:47no estaba listo.
12:49No había sido
12:50probado
12:50bajo presión
12:51real.
12:53En cuanto
12:53las llamadas
12:54empezaron a entrar,
12:56el sistema
12:56se saturó.
12:58La información
12:59de las llamadas
12:59se perdía
13:00en el limbo
13:01digital.
13:02Las pantallas
13:03de los operadores
13:04se congelaron
13:06o mostraban
13:07datos incorrectos.
13:09El sistema
13:10duplicaba
13:10las emergencias
13:11enviando
13:12tres ambulancias
13:13a una misma casa
13:14mientras dejaba
13:16a otra persona
13:17muriendo
13:17de un infarto
13:18al otro lado
13:19de la ciudad
13:19sin ayuda.
13:22lo más perturbador
13:25es que
13:26las ambulancias
13:27estaban ahí,
13:29circulaban
13:30por la ciudad,
13:32pero el sistema
13:33no sabía
13:34dónde estaban
13:34las personas
13:35cuyas vidas
13:36corrían peligro.
13:38los despachadores
13:42veían
13:42ambulancias
13:43disponibles
13:44en sus pantallas,
13:45pero cuando
13:46intentaban
13:47contactarlas,
13:48las radios
13:49estaban mudas
13:50o los vehículos
13:52estaban
13:52en la otra
13:53punta
13:54de la ciudad.
13:58Durante
13:59treinta y seis
14:00horas,
14:01Londres
14:02fue una
14:03ciudad ciega.
14:05La gente
14:06llamaba
14:06suplicando
14:07ayuda,
14:07y al otro
14:10lado
14:10de la línea
14:11silencio.
14:16Investigaciones
14:17posteriores
14:17sugieren
14:18que el colapso
14:19contribuyó
14:19a la muerte
14:20de entre
14:20veinte
14:21y treinta
14:22personas
14:23esa noche,
14:25aunque
14:26algunos
14:26reportes
14:27de la época
14:27elevaron
14:29la cifra
14:29hasta
14:30cuarenta y cinco
14:31víctimas
14:31fatales.
14:34Lo cierto
14:35es que
14:35decenas
14:35de personas
14:36murieron
14:37esperando
14:38una ayuda
14:39que el software
14:40juraba
14:40que ya
14:40estaba
14:41en camino.
14:43Murieron
14:44porque un software
14:46mal diseñado
14:47decidió
14:48que sus
14:49vidas
14:49eran un
14:50error
14:52de excepción
14:53no
14:54controlada.
14:57Número
14:585
14:58Número
15:044
15:05La guerra
15:08moderna
15:08es un
15:09juego
15:09de precisión.
15:11Nos dicen
15:12que tenemos
15:12bombas
15:13inteligentes,
15:15escudos
15:15impenetrables.
15:17Nos venden
15:18la idea
15:18de que la
15:19tecnología
15:19nos protege
15:20bajo un
15:21paraguas
15:21de acero
15:22y matemáticas.
15:23pero en el año
15:261991
15:28durante la guerra
15:29del golfo
15:30aprendimos
15:31que las
15:32matemáticas
15:32también pueden
15:35matar.
15:35El 25
15:38de febrero
15:39en Daraan
15:40Arabia Saudita
15:42la noche
15:43era tranquila.
15:45En los
15:46barracones
15:46estadounidenses
15:47decenas
15:48de soldados
15:49dormían.
15:51Afuera
15:51vigilando
15:53el cielo
15:53estaba
15:54el sistema
15:55de defensa
15:56Patriot.
15:58El Patriot
15:59era una
16:00leyenda.
16:01Un sistema
16:02de misiles
16:02diseñado
16:03para interceptar
16:04otros misiles
16:05en el aire.
16:07Una bala
16:08golpeando
16:09a otra
16:09bala.
16:11Para hacer
16:12esto
16:12el sistema
16:13necesita
16:14calcular
16:15el tiempo
16:15con una
16:16exactitud
16:16de nanosegundos.
16:19Pero
16:20el software
16:22del Patriot
16:23tenía
16:24un defecto.
16:26Un defecto
16:27que parecía
16:27inofensivo.
16:30Parecía.
16:32Pasa
16:33que el reloj
16:34interno
16:34del sistema
16:35perdía
16:36perdía precisión
16:37con el tiempo.
16:39Específicamente
16:40perdía
16:40una fracción
16:41infinitesimal
16:42de segundo
16:43por cada
16:44hora
16:44que pasaba
16:45encendido.
16:47Si reiniciabas
16:48el sistema
16:48a menudo
16:49no pasaba
16:50nada
16:50y el error
16:52se borraba.
16:54Pero
16:54en Dharan,
16:56Arabia Saudita,
16:58debido
16:58a la tensión
16:59de la guerra,
17:00el sistema
17:01llevaba
17:01cien horas
17:03encendido
17:03sin reiniciarse.
17:06Ese pequeño error,
17:09esa basurita matemática
17:11se acumuló
17:13gota a gota,
17:17segundo a segundo,
17:18hasta que el error acumulado
17:21fue de 0.34 segundos.
17:24parece poco,
17:27¿verdad?
17:28Un parpadeo,
17:30menos que un suspiro.
17:33Pero
17:33para un misil
17:35Scud
17:35iraquí
17:36que viaja
17:37a Mach 5,
17:390.34 segundos
17:41significan
17:41más de
17:42medio kilómetro
17:43de distancia.
17:44Esa noche
17:46el radar
17:47detectó
17:48el misil
17:48enemigo.
17:50El Patriot
17:51hizo los cálculos,
17:53miró
17:54al cielo,
17:56pero miró
17:56al lugar
17:57donde el misil
17:57había estado
17:58hace
17:580.34
18:00segundos.
18:06Para la computadora
18:08el cielo
18:09estaba vacío.
18:11Falsa
18:12alarma,
18:13pensó
18:13el código.
18:14Y
18:15no disparó.
18:19El misil
18:20Scud
18:20cayó
18:21libremente
18:22sobre los
18:22barracones.
18:28La explosión
18:29mató
18:30a 28
18:31soldados
18:31e hirió
18:33a casi
18:33100.
18:36Murieron
18:36mientras dormían,
18:38protegidos
18:39por una máquina
18:40que estaba
18:40despierta,
18:42que los
18:42veía.
18:44pero que por
18:45un error
18:45de redondeo
18:46decimal
18:47decidió
18:49mirar
18:50hacia otro
18:50lado.
18:53Número 4.
18:54Número 3.
19:06Si hay un lugar
19:07donde te sientes
19:08vulnerable
19:09es en un hospital.
19:12Te entregas
19:12a los médicos,
19:14te entregas
19:15a las máquinas,
19:17confías.
19:18a mediados
19:21de los años 80,
19:22la máquina
19:23Terac 25
19:24era el futuro
19:26del tratamiento
19:26contra el cáncer.
19:28Un acelerador lineal
19:31controlado totalmente
19:32por software.
19:34Las versiones
19:35anteriores
19:36tenían seguros físicos,
19:39interruptores mecánicos
19:40que impedían
19:41accidentes.
19:42pero
19:44los ingenieros
19:45del novedoso
19:46Terac 25
19:47confiaban
19:48tanto en su código
19:50que quitaron
19:52los seguros físicos.
19:55El software
19:56no falla,
19:58dijeron.
20:00Se equivocaron.
20:03El software
20:04tenía una
20:05condición
20:06de carrera,
20:08un error
20:09oscuro
20:09y difícil
20:10de replicar.
20:12Si el operador
20:12tecleaba
20:13los comandos
20:14demasiado rápido,
20:16es decir,
20:17irónicamente,
20:18si era demasiado
20:19bueno en su trabajo,
20:21la máquina
20:22se confundía.
20:24La pantalla
20:25mostraba
20:25un mensaje
20:26críptico
20:27y permitía
20:31al operador
20:32presionar
20:32una tecla
20:33para continuar.
20:35La tecla
20:35P.
20:37La P
20:38de
20:38Proxit
20:39en español
20:40proceder.
20:43Lo que la pantalla
20:44no decía
20:44es que,
20:45en ese modo,
20:47la máquina
20:47había retirado
20:48el filtro protector.
20:51Estaba
20:51disparando
20:52un haz
20:52de electrones
20:53de alta energía
20:54directamente
20:55al cuerpo
20:55del paciente.
20:57No era
20:58una radiografía,
21:00era un cañón
21:02de partículas.
21:03Los pacientes
21:08veían
21:08un destello
21:09de luz azul
21:09intenso.
21:11Sentían
21:12un golpe
21:12de calor,
21:13como si les hubieran
21:14vertido café
21:15hirviendo
21:16en las venas.
21:18Gritaban
21:18a través
21:19del intercomunicador,
21:20me quema.
21:23Hubo al menos
21:25seis accidentes
21:26graves
21:27documentados.
21:29Varios
21:29de esos pacientes
21:30murieron
21:32tras meses
21:33de agonía,
21:36con quemaduras
21:36internas
21:37y envenenamiento
21:38por radiación.
21:41Algunas fuentes
21:41hablan
21:42de hasta
21:42seis muertes
21:44atribuidas
21:44directa
21:45o indirectamente
21:46a la máquina.
21:50La máquina
21:51no tenía
21:52cara,
21:54no tenía
21:54odio,
21:56simplemente
21:57tenía un
21:58buc
21:58que convertía
21:59una cura
22:00en una
22:03ejecución.
22:10Número
22:11dos
22:11Imagínate
22:20esto.
22:22Estás
22:23a diez mil
22:23pies de altura.
22:26Eres
22:26un piloto
22:27experimentado.
22:29Tienes
22:30el control
22:30de una
22:31maravilla
22:31de la ingeniería
22:32moderna,
22:34el Boeing
22:34737
22:36Max.
22:39De repente,
22:40el avión
22:41inclina
22:41la nariz
22:42hacia abajo,
22:43hacia el suelo,
22:45hacia la muerte.
22:47Tiras
22:48de la palanca,
22:49usas
22:50tu fuerza,
22:51el avión
22:52obedece
22:52y sube.
22:55Respiras
22:56aliviado.
22:58Pero,
23:00cinco
23:01segundos
23:01después,
23:03el avión
23:04vuelve
23:04a bajar
23:05la nariz,
23:06más fuerte
23:07que antes.
23:09Lo
23:10corriges
23:10de nuevo,
23:11pero
23:12vuelve
23:13a bajar.
23:14No es
23:15el viento,
23:17no es
23:17una falla
23:18hidráulica,
23:20es algo
23:21llamado
23:21MCAS.
23:29Un software
23:31que Boeing
23:31instaló
23:32en secreto.
23:33un parche
23:35un parche
23:35de código
23:35diseñado
23:36para ayudar
23:37a que el avión
23:38se sintiera
23:39como los modelos
23:40antiguos
23:40para la comodidad
23:42de los pilotos
23:43veteranos.
23:45Pero,
23:46este software
23:48tenía un defecto
23:48fatal.
23:50Confiaba
23:51ciegamente
23:51en un solo
23:52sensor.
23:54Si ese
23:55pequeño sensor,
23:57del tamaño
23:57de un dedo
23:58de tu mano,
23:59se rompía
24:00o se congelaba,
24:03el software
24:04creía que el avión
24:05estaba subiendo
24:06demasiado
24:07y que iba
24:08a entrar
24:08en pérdida.
24:11Así que,
24:12su solución
24:13era empujar
24:14la nariz
24:15hacia abajo
24:16persistentemente.
24:17En el vuelo
24:21610
24:22de
24:22Lion Air
24:23y en el vuelo
24:24302
24:25de
24:25Ethiopian Airlines
24:27se vivió
24:28una escena
24:29de terror
24:30puro.
24:31Los pilotos
24:32lucharon
24:32físicamente
24:33contra la computadora.
24:36Revisaron
24:36los manuales
24:37frenéticamente
24:37mientras la alarma
24:39aullaba
24:40en la cabina.
24:41Desactivaban
24:42el piloto
24:43automático,
24:44pero el
24:45MCAS
24:46seguía ahí.
24:47en las sombras,
24:49despertando
24:50cada 5 segundos
24:51para empujarlos
24:52al abismo.
24:55Imagina
24:55la desesperación,
24:58saber que no
24:58estás peleando
24:59contra la gravedad,
25:02estás peleando
25:03contra una línea
25:04de código
25:05que cree
25:06que te está
25:07salvando la vida
25:08mientras te lanza
25:10800 kilómetros
25:11por hora
25:12contra el océano.
25:13346
25:23personas
25:24murieron
25:25porque
25:27un algoritmo
25:27tuvo más
25:29autoridad
25:30que el ser humano
25:31que llevaba
25:32a los manos.
25:33número 1
25:43y el puesto
25:47número 1
25:48no es una tragedia
25:49que ocurrió
25:50es la tragedia
25:52que casi
25:53ocurre.
25:55La madre
25:57de todas
25:58las tragedias
25:5926 de septiembre
26:03de 1983
26:05Guerra fría
26:07la tensión
26:09entre Estados Unidos
26:10y la Unión Soviética
26:11es insoportable
26:13un solo error
26:15un solo malentendido
26:17y el mundo
26:19se acaba
26:20en 30 minutos.
26:29En el búnker secreto
26:31Sepulkov 15
26:32cerca de Moscú
26:34el teniente
26:35coronel
26:35Stanislav Petrov
26:37estaba de guardia.
26:40Su trabajo
26:41era simple
26:41mirar
26:43una pantalla
26:44si la pantalla
26:46decía
26:46que Estados Unidos
26:48había lanzado
26:49misiles nucleares
26:50su deber
26:52era informar
26:54a sus superiores
26:55para que la Unión Soviética
26:56lanzara
26:58todo lo que tenía
26:59antes de ser destruida
27:02asegurando así
27:03la mutua
27:04destrucción
27:05nuclear
27:06entre las dos
27:07superpotencias.
27:11De repente
27:12la sirena
27:14sonó
27:14luces rojas
27:16inundaron
27:17la sala
27:17la pantalla
27:18gigante
27:19mostró
27:19una sola palabra
27:20en letras
27:21cirílicas
27:22lanzamiento
27:25el sistema informático
27:29el ojo
27:31que todo lo ve
27:31reportaba
27:33con alta
27:34fiabilidad
27:35que un misil
27:36balístico
27:36intercontinental
27:38se dirigía
27:39hacia Rusia
27:39luego
27:41luego dos
27:42luego tres
27:45luego cinco
27:49cinco misiles nucleares
27:56volando
27:57hacia su patria
27:57el protocolo
28:00era claro
28:00no había lugar
28:02a dudas
28:03la máquina
28:05no miente
28:05la máquina
28:07no tiene miedo
28:08la máquina
28:10calcula
28:13Petrov tenía
28:15que levantar
28:16el teléfono
28:16y dar la orden
28:17del fin del mundo
28:18a su alrededor
28:20sus subordinados
28:22lo miraban
28:22aterrorizados
28:23esperando la orden
28:25el sistema
28:27le gritaba
28:28que era real
28:29pero Petrov
28:31Petrov
28:33dudó
28:34era un hombre
28:37de carne y hueso
28:38y tuvo
28:39un pensamiento
28:40humano
28:40si los americanos
28:43quisieran
28:43destruirnos
28:44no lanzarían
28:46cinco misiles
28:47lanzarían
28:49quinientos
28:50por fortuna
28:54Petrov
28:55confió
28:57en su instinto
28:57desobedeció
29:00al sistema
29:00desobedeció
29:03al protocolo
29:04reportó
29:06el evento
29:06como una
29:07falsa alarma
29:08y se sentó
29:10a esperar
29:11en medio
29:11de aquella
29:12terrible tensión
29:13si Petrov
29:16se equivocaba
29:17él
29:18y millones
29:19de personas
29:19morirían
29:20en los próximos
29:21quince minutos
29:23fueron
29:26los quince minutos
29:27más largos
29:28de la historia
29:29de la humanidad
29:30y al cabo
29:33de ellos
29:33no pasó
29:35nada
29:36el sistema
29:38se había equivocado
29:39el software
29:41había confundido
29:43el reflejo
29:43del sol
29:44en las nubes
29:44altas
29:45sobre Dakota
29:46del norte
29:46con la firma
29:48térmica
29:49de un misil
29:50un reflejo
29:51de luz
29:52un error
29:53de interpretación
29:54de patrones
29:55eso
29:57fue
29:58todo
29:59lo que hizo
30:00falta
30:00para poner
30:01el dedo
30:01de la humanidad
30:02en el gatillo
30:04si ese día
30:07en lugar
30:09de Stanislav Petrov
30:10hubiera estado
30:11a cargo
30:11alguien que confiara
30:13ciegamente
30:13en el software
30:14alguien que siguiera
30:16las reglas
30:17a rajatabla
30:18tú
30:19no estarías
30:21viendo
30:21este video
30:22no hubiera sido
30:25escrito nunca
30:26y yo
30:28no lo estaría
30:30narrando
30:30todo lo que
30:34conocemos
30:35sería
30:37ceniza
30:38radiactiva
30:38nos obsesiona
30:46el futuro
30:47nos obsesiona
30:49el momento
30:49en que la
30:50inteligencia
30:51artificial
30:51sea más
30:53lista
30:53que nosotros
30:54creemos
30:55que el día
30:56del juicio
30:56final
30:57será una
30:58guerra
30:58entre humanos
30:59y robots
31:00pero
31:01repasa
31:03lo que acabamos
31:04de ver
31:04el Terak 25
31:07no odiaba
31:08a sus pacientes
31:09el Ariane 5
31:12no quería
31:13suicidar
31:14el sistema
31:16de misiles
31:17Patriot
31:18no quería
31:19que esos soldados
31:20murieran
31:20simplemente
31:23obedecieron
31:25hicieron
31:27exactamente
31:27lo que
31:28su programación
31:28les dictó
31:29sin contexto
31:31sin piedad
31:33sin sentido
31:34común
31:35así que
31:37esta noche
31:38cuando apagues
31:40la luz
31:40y mires el
31:41led
31:41parpadeante
31:42de tu celular
31:43o de tu computador
31:44en la oscuridad
31:45no tengas miedo
31:47de que estén
31:48tramando algo
31:49contra ti
31:49ten miedo
31:51de que
31:52en alguna línea
31:54de código
31:55profundo
31:55que nadie
31:56ha revisado
31:57en 10 años
31:57haya una orden
32:00esperando
32:01para ejecutarse
32:02el verdadero terror
32:05no es que
32:05las máquinas
32:06se rebelen
32:07el verdadero terror
32:09es que
32:11nunca
32:11dejen
32:12de obedecer
32:15te habla Dodoros
32:28y te deseo
32:28buenas noches
32:31gracias