Saltar al reproductor
Saltar al contenido principal
Buscar
Iniciar sesión
Ver en pantalla completa
Me gusta
Añadir marcador
Compartir
Más
Añadir a la lista de reproducción
Denunciar
Así entran los agentes de IA en compras y selección de personal
LDTecnociencia
Seguir
hace 2 días
Las compañías adoptan agentes autónomos mientras crecen las dudas sobre control, transparencia y dependencia tecnológica.
Categoría
🗞
Noticias
Transcripción
Mostrar la transcripción completa del vídeo
00:00
Cada vez estamos acostumbrándonos más a que nos atiendan máquinas con inteligencia artificial
00:12
en determinados servicios y es cierto que muchas veces preferimos la fiabilidad y la agilidad de
00:20
la máquina, incluso el anonimato que ofrece a la hora de interactuar con ellas frente a una persona.
00:26
También es verdad que hay empresas que se pasan tres pueblos y se me viene a la mente una famosa empresa
00:33
que ha comprado la mitad o más de los hospitales de España que para todas las gestiones telefónicas
00:39
ha puesto una IA que no es capaz de generar excepciones, que no tramita nada y que deja absolutamente indefenso
00:47
al paciente. Pero bueno, esa es otra película de la que hablaremos otro día. Hoy me gustaría hablar de cómo
00:54
los agentes de IA están sustituyendo a las personas en muchos servicios y qué implicaciones tiene todo eso.
01:02
Para empezar, la lógica inicial es la pérdida de puestos de trabajo. Donde antes teníamos determinadas
01:09
personas atendiendo telefónicamente o a correos electrónicos, a incidencias, etcétera, pues ahora
01:14
tenemos a una máquina que con inteligencia artificial simula esa interacción. Ese es un riesgo que hay que
01:21
gestionar. Va a haber muchísimas personas que progresivamente se van a ir yendo al paro y tendrán que reciclarse
01:27
en otro tipo de empleos si es que los hay. Pero hay más riesgos. Hay un segundo riesgo que es el de pérdida
01:33
de control. Cuando ponemos una máquina en un servicio de asistencia y lo dejamos como un agente autónomo,
01:41
tenemos que garantizarnos que existe un botoncito digital para ponerlo en control manual.
01:48
Y muchas veces esto no se hace. Si por el motivo que fuera la máquina se desconectara,
01:54
se volviera loca, fallara, se apagara, el servicio se cae. Y ya estamos cada vez más acostumbrados
02:00
a que empresas y servicios se denieguen, pues no se puede prestar el servicio porque se ha caído
02:06
la máquina. Y esto no debería ocurrir. Siempre debería haber un mecanismo para pasarlo a control
02:12
manual y que una persona pues pueda retomar el control, aunque sea parcialmente. Hay otro punto
02:19
también importante, un riesgo importante, que es la opacidad de estos sistemas. Los sistemas de
02:24
inteligencia artificial son cajas negras y todos los expertos estamos hartos en todo el mundo de
02:29
decir que son cajas negras. Se autoconfiguran por dentro y nadie puede saber qué está haciendo
02:36
qué dentro de ese sistema. Es como si quisiéramos entender dónde está nuestro pensamiento dentro
02:42
del cerebro. Es imposible.
02:44
Pues esto se traduce a una opacidad. Cuando un sistema de IA responde a alguien, a un paciente,
02:50
a un cliente sobre alguna cuestión, pues nadie puede saber por qué ha respondido eso y por qué no.
02:57
Solamente se pueden poner barreras al final. Pues oye, no vayas a responder nunca así.
03:01
Pero esto es un filtro. Si la salida sale, pues la borro. Pero es imposible dar explicaciones sobre un
03:08
servicio. Y eso pues no es ideal para una empresa que debería mantener el control de su negocio.
03:15
También hay otro problema adicional, que son los sesgos. Las máquinas de inteligencia artificial
03:21
están entrenadas con datos. Muchas veces, la mayoría de las veces, desconocemos qué datos son los que se han
03:28
utilizado para entrenar las máquinas. ¿Por qué? Porque o lo hace un proveedor global, tipo ChatGPT,
03:34
tipo Microsoft, tipo Google, tipo Amazon, que entrena con los datos que le da la gana y no dice
03:39
cuáles son. O dos, porque lo hace un tercero, un proveedor, que utiliza una base de datos a la que no
03:46
nos da acceso ni nos da visibilidad. Con lo cual, no sabemos realmente con qué está aprendiendo esa
03:50
máquina a contestar a nuestros clientes. Eso también es otro riesgo que hay que tener en cuenta. Y además,
03:55
ese riesgo se transforma en un riesgo de homogeneización. Vamos hacia una masa gris
04:01
universal como humanidad, porque todo está siendo gobernado con la inteligencia artificial.
04:07
La inteligencia artificial se está alimentando globalmente de los mismos datos y está produciendo
04:11
salidas cada vez más parecidas para todos. Da igual que estemos aquí, que estemos en Singapur.
04:17
Con lo cual, de nuevo, una falta o un riesgo que hay que tener en cuenta a la hora de implantar
04:23
esas soluciones en un negocio. Pero hay más. Otro riesgo que tienen los sistemas de inteligencia
04:29
artificial es debido a su rapidez, a su escalabilidad. Como son tan masivos, son tan rápidos
04:36
dando respuestas, cualquier fallo se multiplica. Antes de que uno pueda parar y corregir, pues
04:41
a lo mejor el fallo se ha extendido a miles y miles de clientes o de operaciones. También
04:46
hay un problema de fraude, suplantación. Pues al final estamos poniendo una máquina que la empresa
04:53
no está controlando al 100%. Es una máquina que procede, una IA que procede de un tercero y que podría
05:00
en un determinado momento responder hacia unos intereses extraños que alguien programara desde
05:05
fuera o ser vulnerable a ciertos ataques. Al final, cuando uno contrata con un megaproveedor,
05:11
ese megaproveedor, por defecto, está siendo atacado por alguien en cada minuto del día.
05:18
Pues todas estas cuestiones se traducen en un riesgo potencial, además de falta de privacidad.
05:24
Ese anonimato que decíamos al principio que nos puede dar la máquina, pues a lo mejor cuando
05:29
interactuamos con una máquina, con un agente de IA en un servicio de una empresa, esa información
05:34
privada se está filtrando a una base de datos central del proveedor que esté prestando el servicio
05:40
y que no somos conscientes de a dónde se está yendo otra vez de nuevo esa información,
05:45
a qué otros servicios, a qué otros países, a qué otras empresas. Y esto enlaza totalmente con el riesgo
05:51
de dependencia tecnológica. Parece que el mercado de la inteligencia artificial es como los inmortales,
05:58
solo puede quedar uno. Cada vez hay más luchas encarnecidas entre unos y otros, más fusiones,
06:03
más adquisiciones, cada vez quedan menos proveedores globales con más fuerza cada uno.
06:09
Al final esto, para cualquier negocio, para cualquier empresa, supone una dependencia
06:13
tecnológica. Una vez que uno se casa e implanta sistemas, agentes de IA en un determinado servicio,
06:20
es muy difícil poder cambiar de proveedor el día de mañana. Y eso lo sabe el proveedor y se aprovecha
06:26
de ello. Toda esta dinámica está provocando un cambio cultural acelerado. Las personas estamos
06:33
comportándonos de manera diferente y creo que todos somos conscientes de que cuando uno
06:38
interacciona con los demás, no es lo mismo que hace cinco años, la gente se comporta de manera
06:43
diferente y los sistemas de IA están provocando ese cambio cultural acelerado que debemos saber
06:48
gestionar también como sociedad. Probablemente no hay ningún político, yo por lo menos no conozco a
06:53
ninguno, que esté siendo consciente de que esto hay que gestionarlo y gobernarlo desde arriba,
06:58
desde las instituciones, pero a día de hoy se obvia por completo. Y por último, existe el problema de
07:05
exigencia de responsabilidad. Aunque ya se están sacando leyes que indican que los sistemas, los
07:11
agentes de IA siempre tienen que tener un humano como responsable por detrás, la realidad es que
07:17
cuando una empresa implanta un agente de IA y ese agente de IA falla y el cliente se queja, la respuesta
07:23
es que lo ha dicho la IA, yo no puedo hacer nada. Y esa ausencia de responsabilidad, pues también
07:29
tiene derivadas, porque al final la cultura dentro de las empresas es la cultura de la irresponsabilidad.
07:36
Como las máquinas lo hacen todo y son incontrolables y los pocos humanos que quedamos dentro de la
07:41
empresa, pues no tenemos capacidad ninguna sobre lo que dice la máquina, pues si la máquina hace lo que
07:45
le da la gana, pues será responsabilidad de la máquina. Como la máquina no tiene responsabilidad
07:49
jurídica ninguna, ni puede hacer frente a nada, pues ya está. Ahí se diluye cualquier responsabilidad
07:55
y vete a los tribunales, que además, tal como los tenemos en nuestro país, pues a lo mejor te atienden
08:00
dentro de un año, dentro de dos, o a lo mejor hasta después de muerto, como ocurre muchas veces.
08:05
Pues estamos en un escenario de indefensión. Creo que todo este panorama es un panorama de riesgos
08:12
altísimo, pero siempre, como dicen los orientales, un riesgo es una oportunidad, con lo cual la oportunidad
08:18
es enorme. Quien lo sepa hacer bien, quien sepa prestar un servicio con agentes de IA realmente
08:23
correcto, pues va a tener una posición muy privilegiada y aunque las personas, los ciudadanos,
08:31
al principio estemos un poco abrumados y tengamos que adaptarnos a esta nueva realidad dominada
08:37
por los agentes de IA, pues poco a poco seremos cada vez más exigentes con ellos y quien lo haga
08:42
bien, pues será premiado y quien lo haga mal, pues desaparecerá del mapa. Esa es mi predicción,
08:47
pero mientras tanto, el consejo, por supuesto, es mucho cuidado con los agentes de IA y seamos
08:54
cada vez más exigentes con las empresas que implantan agentes de IA y son absolutamente
08:59
irresponsables porque al final ellos, ellas, dependen de nosotros como clientes. Si lo hacen
09:05
mal, deberíamos castigarlos. Hasta el próximo vídeo.
Sé la primera persona en añadir un comentario
Añade tu comentario
Recomendada
0:42
|
Próximamente
Oliver Rowland, el campeón de la Fórmula E, desde dentro
Marca
hace 4 horas
0:58
Mario Suárez defiende a Koke: "El jugador más infravalorado de LaLiga"
Marca
hace 3 horas
2:10
"El acta de la expulsión de Antony miente"
Estadio deportivo
hace 4 horas
2:05
"Todo lo que no se está corriendo con Pellegrini lo han hecho con Isco"
Estadio deportivo
hace 4 horas
1:08
"Koke sigue sin decir nada como futbolista"
Estadio deportivo
hace 4 horas
2:00
El Museu de les Ciències celebra su 25 aniversario con un espectáculo musical sobre Hubble
cienciaplus
hace 2 semanas
0:58
Impactante imagen de la creciente cola del cometa interestelar 3I/ATLAS
cienciaplus
hace 3 meses
31:14
Mundo Natural: T20-E17: ¿En España se hace deporte?
LDTecnociencia
hace 1 día
32:05
Mundo Natural T20-E16: Los tres cimientos de la salud
LDTecnociencia
hace 2 días
10:55
El fraude del consenso climático: científicos lo desmontan en 1 minuto
LDTecnociencia
hace 3 días
32:37
Mundo Natural T20-E15: ¿Envejece el hígado?
LDTecnociencia
hace 1 semana
6:18
El peligro oculto de la validación biométrica: lo que los grandes dictadores no pudieron ni soñar
LDTecnociencia
hace 1 semana
0:37
Un robot ruso se desploma en plena presentación y deja en evidencia sus fallos
LDTecnociencia
hace 1 semana
4:28
Nature muestra el fracaso del Acuerdo de París: ya no cumple sus propios objetivos climáticos
LDTecnociencia
hace 1 semana
5:12
Silenciados por un algoritmo: el vacío legal de las redes sociales
LDTecnociencia
hace 2 semanas
5:53
Cumbre climática COP30: la autopista de la hipocresía climática en Belém, capital mundial del ecopostureo
LDTecnociencia
hace 2 semanas
1:47
Así fue el nacimiento del primer rinoceronte blanco de Bioparc Valencia
LDTecnociencia
hace 3 semanas
31:47
Mundo Natural T20-E13: Las malas digestiones y sus causas
LDTecnociencia
hace 3 semanas
31:58
Mundo Natural T20-E12: La vitamina que más energía nos da
LDTecnociencia
hace 3 semanas
4:44
Por qué Sánchez ordenó intervenir 200 centrales eléctricas para evitar otro apagón
LDTecnociencia
hace 3 semanas
31:48
Mundo Natural T20-E11: El sistema nervioso y las enfermedades de la piel
LDTecnociencia
hace 3 semanas
7:31
¿Estelas químicas o estelas de condensación? La verdad científica detrás del mito
LDTecnociencia
hace 3 semanas
32:24
Mundo Natural T20-E10: ¿Cómo cuidar nuestra memoria?
LDTecnociencia
hace 4 semanas
32:30
Mundo Natural T20-E9: Factores detrás de los accidentes cardiovasculares
LDTecnociencia
hace 4 semanas
17:19
"Tu cara ya entrena una IA y tú ni lo sabes": así están usando tus datos sin permiso
LDTecnociencia
hace 4 semanas
Sé la primera persona en añadir un comentario