00:00Bueno, y la preocupación por regular el tema de la inteligencia artificial, pues no es exclusivo de México, es un
00:06tema que se está discutiendo en todo el mundo.
00:09Y de hecho la ONU organizó este 6 y 7 de julio el diálogo global sobre gobernanza de la inteligencia
00:16artificial.
00:17¿Con qué finalidad? Crear en el mundo reglas comunes que regulen la inteligencia artificial y reduzcan la brecha tecnológica.
00:26Sin embargo, la tecnología nunca ha sido neutral y siempre ha tenido un sesgo de género.
00:34Para conocer más acerca de los alcances de este encuentro y sobre todo verlo a través de la perspectiva de
00:41género, saludamos a Aimee Vega Montiel, comunicóloga, académica, activista, feminista y participante de este diálogo global.
00:49Muy buenas tardes Aimee.
00:54Hola, ¿qué tal? Muy buenas tardes Héctor y al equipo de Milenio. Muchas gracias por el espacio.
00:58Pues preguntándote Aimee, tú tuviste la oportunidad de estar en estos diálogos y hay preocupación sobre cómo se está regulando
01:09la inteligencia artificial porque muchas veces no se considera que hay una condicionante patriarcal y machista en la forma en
01:20la que se hacen estas leyes a menudo.
01:25Así es, Héctor, participamos desde la Alianza Global de Medios y Género, de la mano de la red de universidades
01:34UNESCO, UNITWIN, Ingenieros de Medios y Nuevas Tecnologías,
01:38y la World Association for Christian Communication, WAC, que es la que encabeza el Monitorio Global de Medios y Género
01:44cada cinco años.
01:46Hicimos un llamado, presentamos un posicionamiento urgente tanto a Estados parte como a los sectores que han participado en este
01:58diálogo global de la gobernanza de la inteligencia artificial
02:01y llamamos la atención en efecto sobre lo que tú has señalado desde un principio y es que lo sabemos
02:08históricamente la tecnología no es neutral, la tecnología tiene marca de género, privilegia al poder masculino
02:14y por lo tanto los debates en torno a la gobernanza de la inteligencia artificial no giran en torno a
02:23esos conceptos, a marcos nuevos,
02:29sino seguimos discutiendo en torno exactamente a los mismos problemas que son poder, desigualdad, discriminación y violencia.
02:37Entre los principales desafíos que identificamos relacionados con el desarrollo de la inteligencia artificial se encuentran la erosión del derecho
02:46a la privacidad,
02:48la profundización de la discriminación y la desigualdad social, los riesgos para la libertad de expresión y el acceso a
02:53la información,
02:55las amenazas a la transparencia y la rendición de cuentas, los daños estructurales a la autonomía y la autodeterminación,
03:00así como los daños colectivos y sociales. En particular hicimos un llamado a estos sectores a que pongan atención en
03:12los desafíos
03:13y los riesgos que representa para la integridad de mujeres y niñas como son, por un lado, el sesgo algorítmico
03:19y la discriminación,
03:20esto se refiere a que los sistemas entrenados con datos históricos reproducen con frecuencia la desigualdad de género
03:26en lugar de corregirla y esto se produce en resultados discriminatorios para las mujeres en ámbitos como son los procesos
03:36de contratación,
03:37el acceso a créditos bancarios, el diagnóstico médico y la asignación de recursos.
03:42También lo que está sucediendo con la IA es la agudización de la desigualdad económica,
03:50la automatización impulsada por la inteligencia artificial afecta de manera desproporcionada a los sectores
03:55donde las mujeres están sobrerepresentadas, incluidos los trabajos administrativos y de servicios,
04:01y esta dinámica corre el riesgo de ampliar las brechas económicas de género ya existentes
04:06y limitar el acceso a las mujeres a empleos bien remunerados.
04:09Otro de los desafíos está relacionado con la vigilancia de afectaciones a la privacidad.
04:15Tecnologías, por ejemplo, como el reconocimiento facial, presentan menores niveles de precisión
04:20cuando se aplican a mujeres. Estas imprecisiones aumentan la probabilidad de identificaciones erróneas
04:27en actividades policiales y otros contextos de alto impacto,
04:31socavando el derecho a las mujeres a la privacidad y al debido proceso.
04:35Y bueno, esta dimensión tan problemática relacionada con la violencia contra las mujeres y el acoso en línea,
04:41donde las herramientas de inteligencia artificial son utilizadas cada vez más
04:45para generar imágenes, estos contenidos deepfake, automatizar contenidos misóginos
04:51y amplificar campañas de acoso dirigido.
04:54Entonces, un problema fundamental asociado a estos que he mencionado
04:59y sobre el cual llamamos la atención es la falta de datos disponibles,
05:05es decir, ni los estados parte ni los sistemas de Naciones Unidas
05:10están documentando la desigualdad de género en el ámbito de la inteligencia artificial,
05:14así como mecanismos de rendición de cuenta,
05:17lo que dificulta la gobernanza de esta tecnología,
05:20cuyos principios deberían situar los derechos humanos de las mujeres y las niñas en el centro.
05:25Y en este contexto se presta escasa atención a la relación entre innovación y derechos humanos,
05:32y aquí cito a Diler Mecanela, director de política digital de la UNESCO,
05:38quien señalaba el viernes pasado que la innovación debería entenderse precisamente
05:43como un medio para garantizar la protección de estos derechos.
05:47Entonces, entre las recomendaciones que hemos hecho desde estas organizaciones,
05:52incluimos la urgente necesidad de realizar investigaciones
05:56que fundamenten la formulación de políticas públicas,
05:59el desarrollo de estos marcos normativos,
06:01proponer mecanismos de regulación.
06:04Esto tiene que ver con el hecho de que los propios estados
06:07han dejado en las manos de estas empresas, de estas plataformas,
06:11la autorregulación.
06:12Y lo hemos visto sistemáticamente en este país.
06:15Por ejemplo, la presidenta de la República
06:18anunció hace un par de meses un acuerdo con las plataformas,
06:22pero en lo que suelen quedar estos acuerdos es en letra muerta
06:27porque lo que se requiere aquí es que el Estado recupere su papel
06:32en la regulación de estos sectores.
06:34También llamamos la atención sobre la urgente necesidad
06:37de implementar marcos de transparencia algorítmica
06:40con perspectiva de género,
06:41incorporando mecanismos como auditorías independientes
06:45realizadas por terceros,
06:46la alfabetización en inteligencia artificial
06:49con un enfoque de género,
06:50y finalmente combatir la violencia contra las mujeres
06:54y la impunidad y garantizar condiciones seguras
06:56para que las mujeres y las niñas participen
06:59en todas las dimensiones de este ecosistema digital.
07:02Sin duda es un reto enorme
07:04el poder regular a estas transnacionales tecnológicas
07:09en una nueva fase del capitalismo.
07:12Pero acabas de tocar un tema también muy relevante.
07:15Lo que no se cuenta es como si no existiera.
07:18No hay datos sobre estas brechas de género,
07:22sobre estos sesgos.
07:25Y mucho se refleja en la comunicación,
07:29que tampoco los medios atienden estos temas
07:32y se genera una zona de silencio,
07:37una zona cerrada.
07:40Así es, así es.
07:42Y lo has dicho muy bien.
07:44Desde eso, desde el feminismo,
07:46hemos hecho este llamado de atención sistemáticamente
07:51acerca de que lo que no se cuenta no existe.
07:53Y en muchos países,
07:55y México no es la excepción,
07:57hemos asistido al desmantelamiento
07:59de mecanismos de derechos humanos
08:02que nos llevó muchas décadas construir,
08:05como por ejemplo son estos sistemas de registro
08:08en el marco del INEGI,
08:10que nos permitieron documentar
08:13durante por lo menos dos décadas en nuestro país
08:16la desigualdad de género en distintos aspectos,
08:19en distintas dimensiones,
08:21y con los recortes presupuestales
08:23esta ha sido una de las áreas principalmente afectadas.
08:30Entonces, el punto para estas organizaciones
08:33que levantamos la voz a través de este llamado
08:37es el colocar al centro del diseño
08:42de cualquier sistema de regulación
08:44y de política pública relacionado
08:46con la inteligencia artificial,
08:48derechos humanos de las mujeres y las niñas.
08:49Por supuesto.
08:50Bien, Aime, pues parte de lo que se discutió ahora
08:54sobre la gobernanza de la IA,
08:56te agradecemos mucho esta participación
08:58y sin duda, pues un tema muy amplio
09:00que hay que ir documentando periódicamente.
09:02Gracias, Aime.
09:06Yo les agradezco a ustedes. Hasta luego.
09:09Hasta luego.
09:10Es Aime Vega Montiel, investigadora de la...
09:20Aime Vega Montiel, investigadora de la...
09:23Gracias.
Comentarios