- hace 10 meses
Aimar Bretos entrevista a Airí Dordas, directora de la iniciativa Memorias Sintéticas
Categoría
🗞
NoticiasTranscripción
00:00Airi Dordas, buenas noches.
00:01Buenas noches, ¿qué tal?
00:02¿Cómo estás?
00:03Muy bien.
00:03Airi, eres directora de la iniciativa Memorias Sintéticas,
00:07que es un proyecto para recuperar, a través de la inteligencia artificial,
00:11recuerdos visuales perdidos o no documentados.
00:15Explícame cómo lo hacéis.
00:17Pues sí, básicamente utilizamos herramientas de inteligencia artificial generativa
00:23para poder crear imágenes de recuerdos personales
00:28que no han existido nunca o que se han perdido.
00:30Es decir, lo que hace unos años igual hubiera hecho un artista o un dibujante,
00:37ahora lo puede hacer la inteligencia artificial.
00:40Y a partir de una conversación con alguien que quiere recuperar de forma visual
00:45un recuerdo, una memoria, podemos generar una imagen que represente esa emoción,
00:50esa historia que hay detrás de ese recuerdo, de esa memoria.
00:53¿Cuál es el proceso?
00:54Esa persona os cuenta lo que recuerda y vosotros de alguna manera le dais esa forma
00:59a través de la inteligencia artificial.
01:00Exactamente.
01:01Es decir, en una entrevista de Memorias Sintéticas normalmente hay tres personas.
01:05La persona que quiere recuperar la memoria,
01:08el entrevistador o entrevistadora, que podría ser alguien como tú.
01:12Luego el prompter o la prompter,
01:15que es como de estas nuevas profesiones que están emergiendo,
01:19que es la persona que es especialista en la inteligencia artificial y quien va a traducir
01:24esa historia oral en un prompt, una indicación que le vamos a dar a la inteligencia artificial
01:30para que genere las imágenes.
01:32Lo imagino un poco como los retratistas de la policía,
01:34que van ahí, según lo que va contando el testigo, van creando.
01:39Totalmente, claro.
01:40Y esto antes se hacía a mano y tomaba un tiempo y además con las limitaciones
01:45de tener que hacer algo a mano.
01:47Luego en estas entrevistas de Memorias Sintéticas se genera en realidad
01:50como un proceso muy iterativo en que una vez la persona ha contado su recuerdo
01:55y la ha descrito, gracias a la ayuda de la persona entrevistadora
01:58que también le hace preguntas que ayudan a describir visualmente ese momento,
02:03el prompter va generando imágenes y cuando tiene unas primeras cuatro imágenes
02:08que cree que son representativas de lo que la persona está contando, se las enseña.
02:13Con esta exposición a la memoria, la persona que está recordando empieza a recordar más
02:18y empieza a conectar más también con la emoción detrás de ese momento.
02:22Y a partir de ahí empieza como este proceso iterativo en que la persona va dando más detalles,
02:26va dando feedback, va diciendo, oye, igual esto no era tan así,
02:30la mesa no era de plástico, era de madera, o las paredes en realidad eran como mucho más oscuras,
02:36o no estaba en un sitio interior sino que estaba en una terraza
02:39y a partir de aquí el prompter va mejorando el prompt, va mejorando la indicación,
02:44va generando nuevas imágenes porque esto se puede hacer en cuestión de segundos
02:47hasta que conseguimos una imagen que la persona dice, sí, esto es, esto es lo que representa mi recuerdo.
02:54Esto es mi recuerdo, esto es lo que representa mi recuerdo.
02:57¿Tú consideras que esa imagen es memoria?
03:00Esa imagen nosotros le llamamos vectores de memoria, es decir, son imágenes imperfectas,
03:07son imágenes que recuerdan más a una pintura al óleo que a una foto,
03:11y su labor es ayudar a esa persona que la ha construido con la ayuda del prompter
03:19a poder explicar esa historia con algo tangible,
03:23o a poder utilizar ese artefacto tangible para conectar con ese momento.
03:29¿Cómo es la sensación de la persona que os está narrando su recuerdo
03:34en el momento en el que por primera vez ve algo visual parecido a su recuerdo?
03:42La verdad es que es bastante emocionante verlo porque es una sensación de,
03:48incluso como de descanso, sabes, de, guau, sí, esto es,
03:53y de repente tengo algo visual que puedo utilizar para seguir contando esta historia
03:58y que igual, ¿no?, la gente mayor que ha contado esas historias una y otra vez
04:02en las sobremesas, en su familia, sus nietos,
04:06y que igual sentía que no les estaban entendiendo, que tal,
04:09de repente es como, uff, tengo algo que puedo enseñar y que va a seguir,
04:16o sea, que se va a preservar, ¿no?
04:18Por el hecho de poder tener algo tangible que represente esa historia o esa memoria,
04:23a la persona le da la sensación de que ese recuerdo va a perdurar más.
04:27Ya. ¿Siempre se consigue llegar a algo que se parece?
04:33No. No, la verdad es que en la mayoría de los casos sí.
04:39También es verdad que con estos dos o tres años que llevamos de iniciativa
04:42hemos ido mejorando mucho el proceso de entrevista,
04:45de cómo hacer el prompt para que nos dé una imagen que sea representativa,
04:50pero es verdad que a veces no funciona y principalmente es por dos razones.
04:57Una vez es una razón muy personal, ¿no?, de personas que igual o nosotros
05:02no hemos hecho bien la gestión de expectativas o por un tema de personalidad
05:06que buscan algo como muy perfecto, ¿no?, buscan la foto esa que no la vamos a conseguir
05:11porque nosotros somos muy claros, ¿no?, no recreamos fotos perfectas de ese momento,
05:16recreamos imágenes representativas de ese momento.
05:19Y a veces pues hay gente que no conecta con la metodología y está bien.
05:24La otra razón por la que a veces nos pasa que no funciona
05:27es por el hecho de que la inteligencia artificial generativa es por defecto esesgada.
05:34Entonces, como sabéis, la tecnología de inteligencia artificial generativa
05:38no deja de ser una tecnología predictiva y estadística
05:41que lo que hace es intentar darte una respuesta a la pregunta que le planteas
05:46en base a los datos a los que puede acceder en Internet.
05:52Internet ha estado creado en los últimos 30 años principalmente por países del norte global.
06:01Entonces, cuando intenta representar una imagen de estos países, ¿no?,
06:05de Estados Unidos, de Europa, en la mayoría de las veces te da…
06:08Ahí no hay problema, ¿no?
06:09Ahí no hay problema.
06:10Te da unas imágenes que son representativas de esa cultura,
06:14pero, por ejemplo, cuando intentas reconstruir una imagen
06:17que nos ha pasado hace muy poco de una comunidad indígena de Sudáfrica,
06:22es muy difícil que la máquina, digamos, te dé un resultado
06:27que para esa comunidad sea relevante a nivel cultural, ¿no?,
06:31que puedan conectar con eso a nivel de cómo son, pues,
06:34los diferentes elementos que representan una cultura
06:37desde la vestimenta, los elementos de una casa
06:44o los elementos de un paisaje incluso, ¿no?
06:47O sea, que la inteligencia artificial también sigue atendiendo a clichés
06:50cuando habla de culturas en las que no ha sido educada.
06:55Yo diría que es el mayor riesgo de esta tecnología
06:59que es que es por defecto esto sesgada
07:01y que puede, si no tienes una mirada crítica
07:04o no puedes hacer un proceso de entrenamiento cultural,
07:09que es lo que estamos haciendo ahora,
07:10el riesgo es que perpetúe el estereotipo,
07:14que perpetúe el sesgo que tenemos a nivel informativo en la sociedad.
07:19Vosotros lleváis a lo físico, digamos, a lo tangible,
07:23recuerdos que por definición son subjetivos de las personas,
07:28porque yo ahora tengo recuerdos de experiencias
07:31que efectivamente viví hace 15 años,
07:33pero posiblemente si las comparara con la experiencia de mi vida,
07:36si comparara mis recuerdos actuales con aquella experiencia,
07:39se parecerían con una castaña, ¿no?
07:41Los he ido performando mucho dentro de mí.
07:44Para vosotros es importante que lo que recreáis
07:48y lleváis a la imagen sea cierto, o no tiene por qué,
07:53con que responda al pensamiento que esa persona tiene
07:56de aquel momento es suficiente.
08:01Para nosotros el objetivo principal es que ese proceso,
08:05este artefacto que creamos,
08:07sea útil para la persona que lo está creando.
08:10Y reconociendo, como tú dices,
08:12que es una memoria personal y subjetiva,
08:14para nosotros el factor de éxito es que esa persona
08:17sienta que eso representa su recuerdo.
08:19En ningún momento las memorias sintéticas que estamos generando
08:23pretenden ser un artefacto que sea como portador de la verdad.
08:31Es decir, simplemente es un artefacto que ayuda
08:33a la narrativa personal o comunitaria de una comunidad.
08:37Y esto es algo que también intentamos ser muy transparentes con ello.
08:41Entonces, de hecho, nos ha pasado alguna vez
08:43que han venido dos personas a la vez a reconstruir memorias,
08:47una pareja, por ejemplo, de gente mayor.
08:48Colisión de memorias.
08:50Y era como la co-creación con el entrevistador,
08:55el prompter y las dos personas.
08:57Y claramente era una pareja que cada uno recordaba
09:00completamente distinta, de forma distinta al momento.
09:03Porque lo que dicen los expertos es que en realidad
09:06nuestra memoria está hecha de emociones.
09:10O sea, es decir, tú recuerdas más la emoción
09:12que hay detrás de esa historia que los detalles exactos.
09:15Y obviamente cuando hay una experiencia en la que han participado
09:19más de dos personas, pues si les preguntas,
09:22cada uno tendrá su versión de la historia.
09:24Esto es como es, es como recordamos.
09:27Y entonces esta anécdota que recuerdo
09:30era muy divertida ver cómo las dos personas de la pareja
09:34eran como, no, pero si era así, no, pero si era este color,
09:37no era otro.
09:37Y al final fue, acabamos, fue como un consenso, ¿sabes?
09:42Fue como un consenso de llegar a una imagen en el que los dos...
09:45Recuerdos intermedios, ¿no?
09:46Exacto, exacto.
09:48Recuerdos de aproximación.
09:49¿Cualquiera puede reservar una sesión para que se le recree
09:53por inteligencia artificial un recuerdo?
09:56Ojalá te pudiera decir que sí.
09:58Es decir, el proyecto en sí nació como un proyecto
10:02de investigación interna dentro de nuestro estudio.
10:06Empezamos haciendo experimentos con nuestros abuelos,
10:09de hecho, en el estudio.
10:11Y tuvimos la suerte el año pasado de poder abrir
10:13en el Museo del Diseño de Barcelona
10:15la primera oficina pública de memorias sintéticas.
10:18Y esto estuvo abierto durante tres meses.
10:21Y en ese momento sí que la gente podía programar una entrevista
10:24para poder ir allí,
10:25y dar un servicio al servicio de la ciudadanía de Barcelona
10:29para que pudieran ir a reconstruir memorias.
10:33Ahora mismo estamos en un momento del proyecto
10:35en el que estamos intentando buscar financiación estable
10:38para poder abrir de forma sistemática estos espacios públicos
10:42para que las personas puedan hacer esta reconstrucción de memorias.
10:46Lo que estamos haciendo de momento es,
10:48a través de organizaciones que quieren experimentar
10:51con nuestra metodología,
10:52dar este servicio a los usuarios de estas organizaciones,
10:55ya sean hospitales o museos principalmente.
10:59Y a la vez estamos intentando,
11:02es que estamos como explorando diferentes vías
11:04de cómo podemos hacer llegar esto a la gente.
11:07Sí que es verdad que además esta tecnología
11:09está disponible a todo el mundo.
11:11Entonces, lo que nosotros hemos hecho es
11:12intentar darle un uso diferente
11:16y una metodología que permite reconstruir
11:20estas imágenes de recuerdos.
11:22Pero con poca formación, digamos,
11:27cualquier podría utilizar cualquier de las herramientas
11:30de inteligencia artificial generativa para crear una imagen.
11:33Cuando creáis esa imagen respecto a un recuerdo mío,
11:35¿quién pasa a ser dueño de mi recuerdo?
11:39Esta es una buena pregunta.
11:41Depende de la plataforma que estés utilizando.
11:44Cada, o sea, esto, como sabéis,
11:47la tecnología de inteligencia artificial
11:48está avanzando a un paso gigante
11:51y la regulación va por detrás, ¿no?
11:53Bueno, como casi siempre.
11:55Entonces, dependiendo de la plataforma
11:57con quien estés trabajando,
11:59tienen unas,
12:01sus políticas propias de copyright.
12:05Pero en principio,
12:07lo que más prevale es que
12:08cualquier imagen de inteligencia artificial
12:10no tiene copyright.
12:11Entonces, la imagen obviamente
12:15se entrega a la persona
12:16de forma física y digital,
12:18pero a nivel legal de momento
12:22no tiene copyright.
12:24Todo el mundo entiende que sí,
12:27que cuando llega un recuerdo
12:28es un recuerdo positivo.
12:31¿O no tiene por qué?
12:33No tiene por qué.
12:35Sí que es verdad que
12:36son recuerdos especiales,
12:39cargados de mucha emoción.
12:41En general son positivos también, ¿no?
12:43Obviamente esto está
12:44a la elección de la persona.
12:47Nosotros normalmente
12:48empezamos siempre preguntando
12:50¿cuál es tu primer recuerdo?
12:54¿Cuál es...?
12:55De la infancia.
12:55De la infancia.
12:56Vale.
12:56¿Cuál es tu primer recuerdo?
12:58Y aquí...
12:59Lo que pasa es que los recuerdos
12:59de la infancia al final
13:00nunca son nuestros recuerdos.
13:01Son recuerdos respecto
13:02a lo que nos han contado, ¿no?
13:03Pero es una historia
13:04que para ti es especial.
13:05Ya.
13:05Y esto es suficiente
13:08para empezar a indagar
13:11en las memorias de una persona.
13:12Luego a veces
13:13no se recuerda
13:14este primer recuerdo
13:15o no es suficientemente especial,
13:17pero la persona
13:17te va contando
13:18sobre su vida
13:19y a través de la historia
13:21personal de cada uno
13:21pues vas identificando
13:23esos momentos especiales.
13:26Luego me decías
13:26si todos los recuerdos
13:27son positivos.
13:28También hemos tenido
13:29recuerdos,
13:31bueno,
13:31hubo una anécdota muy buena
13:33de una persona
13:34que se acercó
13:34a la oficina
13:35del Museo del Diseño
13:37que nos pedía
13:38reconstruir
13:40la contraseña
13:41de su ordenador
13:41porque la había olvidado.
13:45¿Lo conseguisteis?
13:46No,
13:46obviamente no.
13:49Pero no,
13:51es divertido.
13:52Luego,
13:53anécdotas
13:54más curiosas
13:56o que te plantean también
13:57o nos han planteado
13:58cuestiones éticas
14:00fue, por ejemplo,
14:01una persona
14:01que quiso reconstruir
14:03un recuerdo
14:03que en realidad
14:05no había existido
14:06y ella decía
14:07y que nunca existirá.
14:08Y ella quería
14:09reconstruir una imagen
14:11de la persona
14:12que la había abusado
14:13estando en un juicio
14:14en el que no había pasado
14:16y probablemente
14:17nunca pasaría.
14:18Y en ese momento
14:19me acuerdo
14:20que el equipo
14:21nos planteó
14:21la pregunta
14:22de
14:22¿podemos hacer esto
14:24o no?
14:27La verdad es que
14:28siendo muy transparentes
14:28con ella
14:29de cuál era
14:31nuestro ámbito
14:32de trabajo
14:33y el objetivo
14:35del propio proyecto
14:35al final
14:37es lo que
14:37te comentaba antes
14:38para nosotros
14:39no deja de ser
14:40dar una herramienta
14:42a una persona
14:42para contar su historia
14:44y a veces
14:45pues esta herramienta
14:46te ayuda
14:46simplemente a recordar
14:47o esta historia
14:48te ayuda
14:49a curar
14:50en cierta forma.
14:52entonces
14:52no siendo
14:55el objetivo
14:55del proyecto
14:56esto
14:56sí que es verdad
14:57que me gustaría
14:57dejarlo claro
14:58decidimos
15:00viendo que ella
15:01era muy consciente
15:02de lo que estaba
15:02haciendo
15:03pues tirar hacia adelante
15:04y animarla
15:06además
15:07que utilizará
15:07esta imagen
15:09probablemente
15:09con su terapeuta
15:10o con profesionales
15:11que la pudieran ayudar
15:12a trabajar
15:13esa historia
15:14que obviamente
15:14estaba cargada
15:15de traumas.
15:16Más allá de este caso
15:17concreto
15:17¿os genera
15:19alguna duda ética?
15:20¿lo que hacéis?
15:24Sí, varias
15:25sí, sí
15:27por un lado
15:28está el uso
15:29de la tecnología
15:29en sí
15:30que como sabéis
15:31es una tecnología
15:32que según
15:34con qué plataformas
15:35que no son
15:36abiertas
15:37o sea de código abierto
15:38son plataformas
15:40bastante opacas
15:41en cuanto
15:42a sus algoritmos
15:43en cuanto
15:43a su impacto
15:44en el medio ambiente
15:46entonces
15:46en este caso
15:47la propia tecnología
15:49nos genera
15:50debates éticos
15:52por eso siempre
15:52somos muy transparentes
15:53con qué plataformas
15:55qué algoritmos
15:56y qué modelos
15:57utilizamos
15:58también somos
16:00transparentes
16:01reconociendo
16:01que hay algunas preguntas
16:02a las que no tenemos
16:03respuesta aún
16:04y luego
16:06a nivel
16:07de la propia
16:08metodología
16:09de generar
16:10imágenes
16:10que representan
16:12memorias
16:13subjetivas
16:14pues nos han planteado
16:15muchísimo
16:15esta pregunta
16:16de
16:17lo que tú decías
16:18apuntabas
16:19al principio
16:20al final
16:21es una memoria
16:21subjetiva
16:22esto puede
16:23no ser la realidad
16:24y la verdad
16:26es que la forma
16:27en que tenemos
16:27de plantear
16:29estas dudas
16:30que son
16:33absolutamente
16:33ilícitas
16:34es decir
16:34nosotros somos
16:35muy transparentes
16:35con lo que
16:37estamos generando
16:38es decir
16:38es una imagen
16:40creada por
16:41inteligencia artificial
16:42que representa
16:43una memoria
16:43totalmente subjetiva
16:44esto en ningún caso
16:46puede servir
16:47para
16:48decir
16:50esto fue así
16:51entonces
16:52pues como cualquier otra herramienta
16:54de este tipo
16:55hay que ser transparente
16:57y
16:57luego cuando
16:59utilizamos
16:59estas memorias
17:00en instalaciones artísticas
17:02o exposiciones
17:02para representar
17:04narrativas
17:05colectivas
17:06pues lo importante aquí
17:07es no sólo mostrar
17:08estas narrativas
17:09personales
17:10sino poder dar
17:11un contexto histórico
17:12y social
17:12a estas narrativas
17:14que estamos intentando
17:15explicar
17:16o visibilizar
17:17¿y crees que
17:18a medio largo plazo
17:19por lo que estáis viendo
17:21de cómo funciona
17:22esta tecnología
17:22podría
17:23hablábamos antes
17:24de los retratistas
17:25de la policía
17:26¿crees que
17:27a no mucho tardar
17:28podría llegar a utilizarse
17:29por ejemplo
17:29para la reconstrucción
17:30de la escena de un crimen
17:31de la que no hay imágenes
17:33pero
17:34que se pueda
17:35reconstruir
17:36con los testimonios
17:37de las personas
17:38allí presentes?
17:40es que probablemente
17:41esto ya se está haciendo
17:42¿no?
17:43porque realmente
17:44es decir
17:46lo desconozco
17:47pero imagino
17:48que
17:49estas herramientas
17:52de inteligencia artificial
17:53están disponibles
17:56para todo el mundo
17:56imagino que
17:57la policía
17:58acostumbra ser
17:59también uno de los órganos
18:00que primero
18:01tienen acceso
18:02a este tipo de tecnologías
18:04así que imagino
18:04que en cierta forma
18:06se está utilizando
18:07ya
18:07cuando
18:08cuando voy a hablar
18:10de vuestro proyecto
18:11se me vino a la cabeza
18:12un cuento de Borges
18:14que es Funes el Memorioso
18:15en el que el protagonista
18:17lo recuerda todo
18:19recuerda cada detalle
18:20de su existencia
18:21y al final termina colapsando
18:22precisamente por eso
18:23los humanos
18:25no necesitamos
18:25también
18:26poder olvidar
18:27para poder seguir viviendo
18:29sin duda
18:31sin duda
18:31sin duda
18:32de hecho
18:33yo creo que
18:35lo que hemos descubierto
18:36a través de nuestro proyecto
18:37es que además
18:38cada uno recuerda
18:39lo que quiere
18:40antes lo decías tú también
18:41y no lo quiere recordar todo
18:43y de hecho
18:44una de las prácticas éticas
18:46que nosotros siempre planteamos
18:48cuando hacemos
18:48formación a equipos
18:50para reconstruir memorias
18:51es
18:52en ningún momento
18:53hay que forzar
18:54a la persona
18:55a recordar nada
18:56esto es un proceso
18:59absolutamente libre
19:00y si una persona
19:03no quiere ir
19:04hacia un recuerdo
19:05no hay que forzarla
19:07y a veces
19:08hay personas
19:08que quieren reconstruir
19:10una imagen
19:10y otras que quieren
19:11construir 10
19:12y obviamente
19:15como es algo
19:18en nuestro caso
19:18la iniciativa
19:19es algo
19:19que está abierta
19:21a todo el mundo
19:21y solo se acerca
19:22a esas personas
19:23que quieren recordar
19:24o que quieren generar
19:24una imagen
19:25entonces
19:25muy a favor
19:27de obviamente
19:29el respeto
19:30a la libertad
19:31de cada uno
19:31a recordar
19:32o olvidar
19:32lo que quiera
19:33recordar
19:34o olvidar
19:34Airi Dordas
19:35muchísimas gracias
19:36y buenas noches
19:37a ti
19:37muchas gracias
19:38buenas noches
19:39gracias
19:40a ti
19:40gracias
19:41a ti
Comentarios