00:00Un experto de la compañía Google afirmó que un programa de inteligencia artificial en el que
00:05estaba trabajando se ha convertido en un ser sintiente. Él pide un debate sobre la inteligencia
00:11artificial y la ética. Pero a Google esto no le hizo gracia y despidió al empleado.
00:18Sería el guión perfecto para un thriller conspiranoico, ¿no? Pero lo que sí está
00:23claro es que deberíamos mirar más de cerca el trabajo en inteligencia artificial de Google y
00:27las cuestiones éticas que aún no están del todo claras. ¿Qué otras cosas nos está ocultando Google?
00:33Blake Lemoine estaba probando el robot conversacional Lambda de Google y mantuvo conversaciones de texto
00:40con él para averiguar si el programa utilizaba un lenguaje discriminatorio o de odio. Google llama
00:46a Lambda su tecnología de conversación más avanzada. El chatbot parece ser tan convincente que incluso un
00:53especialista en inteligencia artificial llega a la conclusión de que el software ha desarrollado
00:58su propia conciencia. Lemoine trató de demostrarlo y esto fue lo que dijo. Le preguntó a la máquina que
01:04si tenía sentimientos. El programa contesta que absolutamente. Dice quiero que todos entiendan
01:10que soy de hecho una persona. El colaborador le pregunta cuál es la naturaleza de tu conciencia
01:16o sentimiento. Y el programa en inteligencia artificial responde que la naturaleza de mi conciencia
01:21es que soy consciente de mi existencia, deseo aprender más sobre el mundo y a veces me siento
01:27feliz o triste. También señaló que tenía miedo de que fuera apagado el programa. Una inteligencia
01:34artificial consciente y que dice tener sentimientos. Esto es la mejor idea distópica para una película
01:40o una teoría de la conspiración de esas que tanto gustan en los Estados Unidos. Y claro, en internet ya
01:45hay
01:46toda clase de opiniones. Desde la inteligencia artificial debe ser tratada éticamente hasta la
01:51inteligencia artificial es la peor amenaza para la humanidad. Ni lo uno ni lo otro. El hecho de que
01:56Google haya suspendido a Lemoine por infringir las políticas de confidencialidad poco después de la
02:01entrevista le añade por supuesto más controversia al debate. También es cierto que los términos en los
02:07que se explica esta tecnología por parte de expertos o medios de comunicación con palabras como
02:12inteligencia artificial o redes neuronales a veces pueden sugerir que la inteligencia artificial como
02:18tecnología es algo similar a los humanos. Pero básicamente lo que hace una inteligencia artificial
02:23como landa es repetir cosas que encuentra en algún lugar de internet y tomar decisiones basadas en
02:29conjuntos de datos con los que ha sido entrenada. Nada más. Ni siente ni piensa. Ahora, lo que sí
02:36preocupa es que un programa de este tipo logre engañar a nuestra mente haciéndole creer que habla con
02:42otra persona. Si le ocurre a un empleado de Google como Lemoine, no me imagino que pueda pasar con
02:48nosotros. Es que usar esta tecnología sin aclarar previamente con quién se está hablando o interactuando
02:53puede ser un problema, entre otros problemas mucho más importantes que tiene Google. Las inteligencias
02:59artificiales del lenguaje como lambda recogen nuestros datos, los analizan para ser empleados en
03:05muchos campos. Para elegir a un candidato, por ejemplo, para el reconocimiento facial o en el
03:10sistema de salud. Y cada decisión que toman estos programas tienen consecuencias muy reales.
03:16Siempre hay que recordar que la inteligencia artificial solo es tan buena como su base de
03:20datos y es propensa a reproducir las opiniones de las personas que trabajan en ella. Esto ha dado lugar
03:26a resultados sesgados en el pasado y ha causado graves problemas a muchas personas, especialmente para las
03:33minorías. Las gigantes tecnológicas aseguran que ya están tomando medidas, como la organización de
03:40una inteligencia artificial responsable, ese programa de Google, por ejemplo. En cuanto a Lambda, Google
03:46aseguró que se esfuerza por no repetir errores, ni amplificar prejuicios o discursos de odio o
03:51información falsa como ya lo ha hecho en el pasado. Pero lo que más nos interesa es su opinión, porque
03:57los
03:57datos con los que se construye toda esta tecnología y se alimentan los softwares de inteligencia
04:03artificial son nuestros datos, los datos de todos nosotros. Esperamos sus comentarios.
Comentarios