00:00Seguimos en nuestro habitual recorrido por los confines del conocimiento y la socialización del saber.
00:23Para nuestros pueblos de la patria grande, esto es Atomoon,
00:26un sesgo algorítmico ocurre
00:29cuando un sistema informático refleja los prejuicios
00:32o desigualdades presentes en los datos con los que fue programado.
00:37Su impacto es tal que a menudo pasan inadvertidos
00:40en nuestra sociedad hiperconectada,
00:43especialmente en el caso de los usuarios de redes sociales,
00:46llegando a crear burbujas de filtro
00:49que nos muestran información
00:50que confirma nuestras creencias preexistentes,
00:54limitando nuestra exposición a diferentes puntos de vista
00:58y fomentando la polarización,
01:01un tema que profundizamos en nuestra Bitácora Cognitiva de la Semana.
01:05Acá los detalles, viajeros y viajeras del saber.
01:17Los algoritmos asociados a una gran red invisible
01:19permea casi todos los aspectos de la vida cotidiana,
01:22desde las redes sociales
01:24hasta los sistemas de recomendación de productos,
01:26pasando por la toma de decisiones en ámbitos
01:28como la justicia o la contratación.
01:30Su influencia es tan profunda que a menudo pasa desapercibida,
01:33pero sus efectos son tangibles
01:35y tienen implicaciones importantes para la sociedad hiperconectada.
01:39Al igual que las personas,
01:41los algoritmos pueden tener puntos ciegos fundamentales.
01:45El sesgo algorítmico se refiere a los errores sistemáticos
01:48que cometen los algoritmos
01:50debido a la mala calidad de los datos de entrenamiento
01:53y a los sesgos de los programadores humanos.
01:55Estos patrones sistemáticos de error en los procedimientos informáticos
01:59pueden arrojar resultados discriminatorios o injustos.
02:02Estos sesgos, mediados con inteligencia artificial,
02:05se originan a partir de la información
02:07con la que se programan los algoritmos,
02:09los cuales pueden reflejar prejuicios sociales,
02:13culturales o históricos, inclusive vinculados al género.
02:17Entre los ejemplos más comunes sobre estos sesgos,
02:20se puede mencionar cuando los datos utilizados
02:22para programar los algoritmos
02:24no son representativos de la población en general,
02:27como los empleados en reconocimiento facial
02:29entre una persona con rasgos caucásicos
02:32y una de origen africano.
02:34Un algoritmo de noticias que muestra al usuario
02:36principalmente artículos que refuerzan sus particularidades políticas,
02:40creando una cámara de eco.
02:42El uso de algoritmos de contratación
02:44que favorece a candidatos de algunas universidades
02:47o con determinadas experiencias laborales,
02:50perpetuando desigualdades en el mercado laboral.
02:53Las referencias utilizadas
02:54para entrenar las secuencias de pasos lógicos
02:57pueden contener errores o imprecisiones en la medición,
03:00ya que cuando éste se orienta para evaluar el riesgo de crédito,
03:04no considera factores como la riqueza generacional
03:07o la discriminación salarial.
03:08Los datos sesgados y las muestras de datos pequeños
03:11pueden generar resultados inexactos,
03:14sin embargo, los humanos deciden qué tipos de datos recopilar,
03:17cuánta información se necesita
03:19y si los resultados cumplen con sus estándares.
03:21En consecuencia,
03:22si los equipos no prueban sus programaciones,
03:25pueden avanzar con datos defectuosos o incompletos
03:28e impedir que los algoritmos tomen decisiones precisas.
03:31Los expertos advierten que si no se controlan,
03:34los algoritmos sesgados pueden llevar a decisiones
03:37que pueden tener un impacto colectivo
03:39y disparar en grupos de personas,
03:41incluso sin la intención del programador de discriminar.
03:44Por tanto, la exploración de las consecuencias previstas
03:47e imprevistas de los algoritmos es necesaria y oportuna,
03:51en particular porque las políticas públicas actuales
03:54pueden no ser suficientes para identificar,
03:56mitigar y remediar las consecuencias en las y los consumidores.
04:01Para mitigar los sesgos algorítmicos,
04:03es necesario adoptar un enfoque multidisciplinario
04:06que involucre a expertos en tecnología, ética,
04:09sociología y otras disciplinas.
04:12A continuación, se presentan algunas medidas
04:14a considerar en el siguiente gráfico.
04:22Datos de alta calidad.
04:23Es fundamental utilizarlos para la programación de los algoritmos.
04:28Transparencia.
04:29Los algoritmos deben ser diáfanos y auditables
04:33para identificar y corregir los sesgos.
04:36Diversidad.
04:37Los equipos que desarrollan algoritmos
04:39deben ser amplios para garantizar diversas perspectivas.
04:44Evaluación continua.
04:45Los algoritmos deben ser evaluados constantemente
04:48para detectar y reparar los posibles sesgos.
04:52Regulación.
04:53Es necesario establecer marcos regulatorios
04:56que establezcan estándares para el desarrollo y uso de algoritmos.
05:00En los últimos años,
05:02la sociedad global comenzó a lidiar con la medida
05:05en que estos sesgos humanos pudieran abrirse paso
05:08en los sistemas de inteligencia artificial,
05:11dejando resultados perjudiciales.
05:13Esto en un momento en que muchas empresas
05:15buscan implementar estas aplicaciones en sus operaciones.
05:19Hace que ser muy conscientes de estos riesgos
05:22y trabajar para reducirlos sea una prioridad urgente.
05:26El sesgo es responsabilidad de todos en general,
05:29ya que perjudica a quienes sufren discriminación
05:32al reducir la capacidad de las personas
05:34para participar en la economía y la sociedad.
05:37Los líderes empresariales y organizacionales
05:41deben asegurarse de que los sistemas de inteligencia artificial
05:44que utilizan mejoren la toma de decisiones humanas
05:46y tienen la tarea de fomentar el progreso en la investigación
05:49y las normas que reducirán el sesgo de la IA.
05:52El modelo más preciso para predecir el comportamiento
05:55de grandes grupos de personas
05:56podría dar lugar a resultados injustos
05:59para los integrantes de subconjuntos más específicos.
06:02Para evitarlo, los científicos de datos
06:05pueden utilizar herramientas de auditoría
06:07creando modelos más precisos y justos.
06:09Aunque los equipos de ciencia de datos prueben algoritmos
06:12repetidamente antes de lanzar un producto,
06:15es imposible conocer el comportamiento real de estos
06:18hasta que se coloca para la interacción.
06:20Probar algoritmos y tecnologías de IA después de su lanzamiento
06:24es esencial para crear una imagen precisa
06:27del rendimiento de los algoritmos.
06:29La IA tiene muchos beneficios potenciales para la empresa,
06:33la economía y el abordaje de los desafíos sociales
06:36más urgentes de la sociedad,
06:38incluido el impacto de los sesgos humanos.
06:40Pero eso solo será posible si las y los usuarios confían
06:44en que estos sistemas produzcan resultados imparciales.
06:48De tal manera que la IA puede ayudar a los seres humanos
06:51a combatir los sesgos,
06:52pero solo si trabajan juntos para abordarlos
06:55y tener las respuestas adecuadas
06:57ante denuncias particulares y colectivas.
