00:00El Papa León XIV, en su visita a España, ha hecho hincapié en que es necesaria una inteligencia artificial humanizada.
00:06Por eso hoy nos acompaña aquí Roberto Aguirre, que es responsable de tecnología de Human Eye.
00:11Muchas gracias por estar con nosotros.
00:12Gracias por tenernos.
00:13E Íñigo Benito, responsable de innovación de Human Eye. Gracias también por estar aquí.
00:16Buenas tardes, gracias a vosotros.
00:18¿Qué diferencia la inteligencia artificial convencional, por llamarlo de alguna forma,
00:23de la inteligencia artificial humanizada, que es a la que se refiere el Papa
00:26y en la que vosotros en vuestra startup trabajáis?
00:30Básicamente, una inteligencia artificial humanizada se refiere a aquella que es una tecnología que ayuda a las personas,
00:39no la sustituye, porque ahora lo que te puedes encontrar es que la tendencia es a que la inteligencia artificial
00:48quite de en medio a las personas y la parte de humanizada precisamente es porque nosotros creemos que es la
00:56que ayuda a las personas.
00:58Hablaba de que esta tecnología puede ser una aliada o un verdugo.
01:02¿Esto en la práctica en qué se traduce?
01:04Pues en la práctica se traduce básicamente como casi toda la tecnología.
01:08Y es que si se utiliza mal, por ejemplo, para etiquetar personas o tomar decisiones automáticas sin que intervenga una
01:19persona,
01:20puede tomar malas decisiones o puede llegar a discriminar a la gente.
01:25Bien utilizada puede ayudarte a mejorar a ti como persona, por ejemplo, detectando en nuestro caso cuáles son tus factores
01:34de personalidad que deberías de mejorar
01:36o cuáles son las cosas, capacidades que tienes y que podrías explotar mejor.
01:43Vosotros trabajáis en la evaluación de docentes y de alumnado.
01:46¿Cómo se hace para trabajar esa inteligencia artificial sin caer en lo que hablaba él?
01:52¿Sin etiquetas, sin encasillar a las personas? ¿Eso es fácil o no?
01:55Bueno, al final es un poco el propósito y el objetivo que tú tengas.
02:00Trabajamos con muchos centros educativos y universidades en los que al final la evaluación es solo un punto de partida
02:07para trabajar esas competencias que importan.
02:09Entonces, depende de ti.
02:11Nosotros siempre decimos que nuestra inteligencia artificial no etiqueta, no es algo que es la única verdad,
02:16sino que aporta más información al profesional para que a partir de ese punto se puedan trabajar las competencias
02:21y teniendo mayor información se pueda acompañar mejor, que eso es lo que hacen los docentes con sus estudiantes a
02:27lo largo de todas sus carreras, sus estudios,
02:28o incluso dentro de la propia universidad, pues con el equipo docente o dentro de los colegios, pues con el
02:33equipo docente.
02:34¿Y qué aporta vuestro sistema dependiendo, o bueno, en este caso, diferente a un orientador educativo que no puede obtenerlo
02:43por sí solo?
02:44Bueno, realmente un educador o un orientador también puede obtenerlo, lo que le falta es tiempo, ¿no?
02:49Pensando en servicios de empleo, orientadores, en ámbito de la FP también, muchas veces necesitan mucho tiempo en una entrevista
02:57para obtener toda la información que nosotros podemos dar en segundos.
03:00Analizar 35 competencias emocionales a golpe de botón casi inmediato, pues es algo que para ellos, como punto de partida
03:06en una entrevista,
03:07para orientar a esa persona que está desempleada o a ese estudiante que va a salir del mercado laboral,
03:11pues un punto de partida muy, muy interesante y que les ayuda a ellos a centrarse en lo que verdaderamente
03:16es importante,
03:17que es la persona, conocerla un poquito mejor, darle el contexto,
03:20y eso sumado a lo que nosotros aportamos, pues hace que se aproveche mucho más.
03:25¿Y se corre el riesgo de que el estudiante pueda ser juzgado por un algoritmo?
03:29Bueno, realmente juzgado, juzgado, no va a ser, ¿no?
03:34La evaluación, al fin y al cabo, pues es una evaluación, pero nosotros siempre decimos que no es la única
03:39verdad
03:40y que sobre todo que nunca decide.
03:42Hacemos mucho, mucho hincapié en que es siempre el profesional el que tiene que tomar la decisión
03:46y también un poco ligado con lo que comentaba el Papa León en su encíclica, ¿no?
03:51Pues que al final es la tecnología la que tiene que estar para el desarrollo humano
03:56y no la persona hacia la tecnología, ¿no?
03:59En vuestro caso, ¿qué aspectos son los que se asemejan también a esa encíclica?
04:06En general coincidimos bastante en los puntos que destaca,
04:11pero sobre todo yo creo que lo más importante es destacar que una persona
04:17su dignidad no puede quedar reducida a un número
04:20porque se pierde todo el aspecto humano de la persona
04:23y no refleja a la persona realmente.
04:28Luego, la parte también fundamental de lo que comenta es el tema de la decisión.
04:34Dejar tomar decisiones a automatismo, sea en estos cuales sea,
04:38en este caso estamos hablando de inteligencia artificial,
04:41conlleva el riesgo de no saber cómo funcionan realmente bien
04:44y además no tiene un contexto humano, o sea, tiene los datos que tú le aportes
04:50y eso es un riesgo.
04:52Y luego, por supuesto, el objetivo es que esto sirva para que la gente mejore
04:58y para que mejore su vida, no para que la coarte
05:02y para que estas personas con más información,
05:05porque al fin y al cabo lo que proporciona la inteligencia artificial
05:08es más información, no es la única información.
05:12Reconocéis que la inteligencia artificial tiene cierto grado de opacidad,
05:16¿cómo se puede romper con eso?
05:18Al final, todos los sistemas, digamos, tecnológicos
05:22tienen una cierta opacidad, sobre todo para el gran público.
05:26La forma, digamos, de evitar que eso sean cajas negras
05:30es básicamente que haya unos controles, que hay unas reglas
05:34y que sean transparentes y que haya una evaluación continua
05:38de lo que hace y de cómo se diseña.
05:42Porque al fin y al cabo, una inteligencia artificial,
05:45si en este caso estamos hablando, nosotros no utilizamos generativa,
05:48pero las más famosas, las generativas, es muy importante cómo se entrenan.
05:54Entonces, si tú a una inteligencia artificial aprendes con datos sesgados,
06:00va a tener un sesgo.
06:01Entonces, es muy importante evaluar cómo se crea esa inteligencia artificial
06:06y cuáles son sus resultados y cómo se usa.
06:10Pero eso depende de los humanos, no depende de las inteligencias artificiales.
06:13También os dedicáis a la selección de personal.
06:16¿Cómo analizáis los candidatos a través de la inteligencia artificial
06:19y a través de textos escritos?
06:21Sí, bueno, a ver, más bien son las empresas que utilizan la herramienta
06:26para selección o para formación interna también.
06:29Al final, volvemos un poco a lo mismo.
06:31No es ese propósito que le quieras dar a la herramienta.
06:34En selección, nosotros siempre decimos que esto no sirve para descartar.
06:37Esto sirve como más aporte de información para poder elegir mejor.
06:42Muchas veces hablamos de procesos de selección, de empleo,
06:45para orientar a esa persona o enfocarla de verdad en aquel empleo que encaja mejor.
06:52Si yo tengo un mapa de competencias objetivo rápido
06:54que me puede indicar mejor hacia dónde va a ir esta persona,
06:57puedo saber mejor cómo se va a desempeñar.
07:00También es importante porque muchas veces decimos que se contrata a veces por aptitud
07:05y se despide por actitud.
07:07También es muy importante tener en cuenta la forma de ser de las personas
07:10porque tiene un impacto directo en nuestro desempeño profesional, lógicamente,
07:14y en cualquier otro, el académico y el vital.
07:17¿Existe riesgo de que una empresa dependa mucho de la inteligencia artificial?
07:21Por supuesto.
07:23Al final es una tecnología.
07:26Entonces, la tendencia es aprovechar la tecnología al máximo posible.
07:31Y el problema no es que vaya a depender mucho,
07:34es cómo se trabaja con ella.
07:36Como he dicho antes, el tema es que tú puedes depender de una tecnología,
07:42en este caso la inteligencia artificial,
07:43pero tienes que controlar esa tecnología y no tiene que ser al contrario.
07:48¿Y cómo os imagináis la relación de las personas y la inteligencia artificial
07:51de aquí a 10 años?
07:52Porque esto va rapidísimo.
07:54De hecho, a mí lo de 10 años me parece como muy futurista.
07:58Si me preguntas de aquí al año que viene...
08:00Vale.
08:01No, pero en realidad no estamos...
08:05Los que ya hemos vivido mucho tiempo y hemos pasado, digamos,
08:09por toda esta evolución de este último siglo y parte de la anterior,
08:14hemos visto que esto mismo ha pasado también con Internet, por ejemplo.
08:18Internet no existía y ha pasado a estar en todos nuestros hogares
08:23hasta en el frigorífico, de una forma absolutamente transparente.
08:27Entonces, al igual que se han hecho, digamos, reglas y normativa
08:32para utilizar esta Internet, habrá que hacer reglas y normativa
08:38para utilizar una inteligencia artificial que va a estar en todos los sitios
08:41y que prácticamente va a ser magia para nosotros.
08:45Pues Roberto Íñigo, muchas gracias por estar hoy aquí con nosotros
08:47y nada, a ver cómo evoluciona de aquí a un mes la inteligencia artificial, ¿no?
08:51Sí, porque ayer ya sacaron un nuevo modelo de inteligencia artificial Antropic,
08:54por ejemplo.
08:55Por eso te decía que 10 años...
08:57¡Uf!
08:59Muchas gracias a los dos.
09:00Muchas gracias a ti.
09:01Gracias.
Comentarios