- hace 2 horas
Healt Innovators | Más allá del algoritmo
Categoría
🦄
CreatividadTranscripción
00:00Continuamos en este evento tan especial en el Health Innovators.
00:04Soy Nacho Girón, un placer sumarme justamente a esta transmisión
00:08para tener una primera charla realmente, créanme, interesantísima.
00:12Estamos aquí con Gabriel Novik, que es director del Executive MBA en Salud del IAE
00:17y además director de Swiss Medical Group, con quien vamos a hablar mucho
00:23de inteligencia artificial. Gabriel, antes que nada, un placer.
00:26Gracias, Nacho, ¿cómo estás?
00:27Arrancar por un disparador general que creo que nos va a acomodar esta conversación
00:30que tiene que ver con la inteligencia artificial, de la cual se habla mucho.
00:33¿Quién ya no conoce algo, obviamente, de inteligencia artificial,
00:37como una revolución tecnológica?
00:39Pero te quiero preguntar, ¿cómo se escribe esa transformación digital
00:42en los servicios de salud, que es lo que estamos abordando hoy en día,
00:45especialmente después del 2020, 2021?
00:49Es decir, especialmente después de la pandemia, ¿no?
00:52Bueno, muy buena pregunta para empezar.
00:54La transformación digital en salud no escapa al resto de las transformaciones
00:59y, sin duda, la pandemia catalizó todo el proceso de transformación,
01:02empujado por drivers, te diría, tecnológicos, que fundamentalmente fue la información,
01:09la conectividad y la portabilidad, tener todos esos tres drivers tecnológicos
01:12y quizá tres antropológicos, que es la personalización, la centralidad,
01:17cada uno quiere tener el mensaje que quiere y la inmediatez, y tenerlo rápido.
01:21Con esos drivers se empujó a transformaciones en otros sectores y, particularmente, en salud.
01:26Salud también, lo que fue ocurriendo después de miles de años,
01:32es un cambio, tal vez, de la relación entre las personas con el sistema de salud,
01:36que siempre, digamos, durante todos esos años, quizás de Hipócrates era bidireccional
01:41y de vuelta con el profesional unifocal y también unicanal, ¿no?
01:47Nos encontramos en el consultorio, sin embargo, a lo largo de estos últimos años,
01:52eso se transformó multifocal, vos te relacionás con muchos actores a la vez,
01:57omnicanal, no solamente a través de la consulta, multidireccional y, sobre todo, multiagente.
02:04En el multiagente, porque ahora aparecieron agentes autónomos de orientación clínica.
02:09O sea, pasamos a tener muchos multis.
02:10Muchos multis y multiagente, porque ya no es solamente un profesional vivo o persona,
02:15sino agentes autónomos que acompañan el proceso de asistencia médica.
02:21Dentro de lo que es, obviamente, el vínculo entre la inteligencia artificial y la salud y sus innovaciones,
02:28¿cuáles dirías que son los ámbitos, pueden ser varios desde ya,
02:31donde sentís que esta inteligencia está desplegando quizás su mayor potencial?
02:37Esto por dimensiones, hice una lista larguísima.
02:40Creo que, por un lado, tenés la industria, el desarrollo de productos,
02:45la industria de la salud y el resto, el mundo de los servicios.
02:49En la industria, seguramente, vamos a tener a lo largo del día muchas conversaciones
02:54en lo que tiene que ver con desarrollo de productos y suministros.
02:58Desde la industria farmacéutica y desarrollo de nuevas drogas, nuevos vehículos, por supuesto,
03:03y drogas de diseño.
03:05En el área de servicios, quizás separar tres grupos.
03:07Lo que tiene que ver con la operación de los servicios de salud,
03:09o de los sistemas de salud, no necesariamente privados,
03:13los sistemas de salud en general.
03:14Lo que tiene que ver con la operación, lo que tiene que ver con los servicios,
03:17la capacidad que tiene la inteligencia artificial para gestionar información
03:22con estos tres debes que digo, próxima, inmediata y personalizada,
03:26de información que hoy los sistemas de salud son muy complejos de navegar.
03:31Y eso es un elemento importante.
03:32Y el último, y quizás el que más requiere un gobierno más delicado,
03:37es el de la gestión clínica.
03:39Fundamentalmente, servicios diagnósticos y prácticas.
03:44Servicios prácticos orientados por AI.
03:46Que ese es el área más delicada porque es el que está en contacto directo con los pacientes.
03:50Mirá, qué interesante esos focos que abrí, porque ahora los vamos a retomar.
03:54Ahora, tenés, yo recién cuando te presentaba, quedaba claro que tenés mucha experiencia académica
03:58y también, obviamente, experiencia en gestión médica, nombramos, ¿no?
04:02El IAE y Swiss Medical.
04:05¿Qué dirías, digo, sobre todo por ahí al que no está, o la que no está tan empapada
04:10en este concepto que es la gobernarsa en AI, en inteligencia artificial?
04:14¿Y cuáles son, si se te ocurren, los pilares, me gusta esa palabra,
04:19que debería tener justamente un modelo de gobernanza que tiene que acompañar
04:25la evolución constante de la inteligencia artificial sin frenarla, ¿no?
04:29Por supuesto, sí.
04:29O sin frenar su potencial.
04:31Por supuesto, por supuesto.
04:32Esta es una pregunta muy interesante, porque la inteligencia artificial sin duda que es
04:41embriagadora en cierta medida, ¿no?
04:43Todo nos envuelve, porque es empática, porque nos resuelve, porque son esos mismos tres dragos,
04:48porque nos da respuestas inmediatas, próximas a lo que le preguntamos.
04:51Sin embargo, dividiría dos partes.
04:57Lo que es la inteligencia artificial preinterativa, preinterativa, cuando uno está en el laboratorio
05:03diseñando una solución, sobre todo esto para las organizaciones que diseñan sus soluciones, ¿no?
05:08Y en ese caso hay que tener en cuenta que no es mucho más que una arquitectura de correlaciones
05:17sobre una base de datos finita, no mucho más que eso.
05:20Esto puede quizá deprivarlo de todo el glamour que tiene la inteligencia artificial cuando
05:24se despliega en el terreno, ¿no?
05:26Y empieza a jugar.
05:27Parece tener más sofisticación.
05:29Pero es eso.
05:30Y esto es un punto crítico de la gobernanza, porque en ese momento el peso que tiene, la
05:37forma en que se alimenta con datos y la naturaleza de esos datos, las dimensiones con las que se
05:43curan esos datos, no solo en términos de corrección, sino en términos de equidad, representatividad,
05:48de sesgos. Y la inteligencia, la intencionalidad, los sesgos involuntados de quienes entrenan
05:53esa primera etapa son fundamentales. Se lleva nuestra impronta. Por eso, digamos, esencialmente
05:59la gobernanza tiene que inscribirse en un proceso en el cual los que diseñan esas soluciones
06:05tienen responsabilidad. Cosas que nos olvidamos. Entonces, es un mandato de las organizaciones
06:11tener presente que en ese diseño es un diseño volitivo. Quienes diseñan las soluciones
06:17deciden qué datos se incorporan, con qué dónde comer a las soluciones y cómo orientan
06:23ese inicio. Agregado a una segunda etapa que es la iterativa, que es cuando se larga
06:30y ahí es donde gana contexto, evolución y una semántica con sentido.
06:35Y todo subrayo esto porque es el principal desafío sin ir limitando quizás el potencial
06:41que casi día a día va teniendo.
06:43En absoluto. De hecho, es muy interesante esto que decís porque todas estas consideraciones
06:48aplican a la parte más dura que decís. Una organización que se inscribe en el compromiso
06:54de desarrollar un agente que ayude directamente a la atención clínica. Como dije, esta es
06:58la columna más extrema, si querés, de riesgo y responsabilidad. Después tenés un montón
07:03de procesos operativos en los cuales... Pero hay otra capa que es la individual, que no juega
07:10acá. ¿Qué es el hecho? Que las organizaciones hoy están sujetas a que una proporción grande...
07:16Hay varios informes interesantes, uno de la MIT reciente, que habla que hasta el 80%
07:20de las soluciones dentro de una organización son de uso shadow AI. Vuelan por debajo del radar.
07:26Es la inteligencia artificial que forma parte de nuestra arquitectura cognitiva extra...
07:31digamos, extracraniana, por llamarlo. Una extensión. Hay un ensayo muy interesante de hace ya
07:37varios años, de extended mind, que habla de eso, de que asistentes cognitivos externos.
07:43La inteligencia artificial cumple tanto ese rol que hoy las organizaciones tienen un desafío
07:48de gobierno de cómo articular esta AI en las sombras que cada uno de nosotros lleva de nuevo.
07:55Próxima, personalizada e inmediata.
07:57Muy claro. Me empiezo a meter con algunas cosas que son puntuales y que se desprenden precisamente
08:01quizás tus primeras definiciones. ¿Qué rol tienen que desempeñar los profesionales de la salud
08:07justamente en la validación y en la supervisión, seguramente esto le va a interesar a mucha gente,
08:13de la inteligencia artificial?
08:14Es fundamental.
08:15Es un tema tan sensible como la salud, obvio.
08:18Fundamental. Es fundamental para ganar perspectiva de que no es solamente un tema tecnológico.
08:23Lo es. Pero al fin del día es un tema de responsabilidad de los profesionales que tienen que cuidar
08:30por personas. Entonces es ineludible ese rol y es un rol que tiene que potenciarse.
08:35Tienen que participar no solo en la curiadería de la información, sino en el desarrollo y el entrenamiento
08:43de estas soluciones y el monitoreo post-implementación, que es fundamental.
08:46Bueno, y de ahí me agarro para una difícil. Casi que vine para hacerte esta pregunta porque me interesa muchísimo,
08:51que es ¿quién responde ante un error de diagnóstico terapéutico que puede derivar como matriz
08:58de una recomendación algorítmica? El médico, la empresa, el desarrollador tecnológico.
09:03Me parece fabuloso este asunto.
09:05Ese es un dilema global. Muchos de estos temas que estamos hablando son dilemas globales
09:09y que no tienen una respuesta.
09:11¿Que se están desarrollando ahora mismo?
09:12Sí, se vienen desarrollando. Se vienen desarrollando y son parte de los grandes dilemas.
09:20Y no está resuelto. En definitiva, en lo que tiene que ver con EIDI aplicado a la atención clínica,
09:28a la atención, a ese cuadrante de servicios clínicos, el último responsable es el profesional
09:33o el equipo de salud. Porque es el responsable del cuidado. Son asistentes cognitivos.
09:40O sea, el ser humano que está al lado del paciente. Lo que no exime a las organizaciones
09:45y que no exime a los desarrollos. Pero cada uno en su ámbito de incumbencia.
09:49En definitiva, desde el punto de vista de la responsabilidad profesional en la Argentina
09:52y en otros países. Estados Unidos es igual. Recién hay una cuota de exploración de responsabilidad
09:58algorítmica en la Unión Europea. Pero es un territorio que ahora se está escribiendo
10:04a una velocidad que a todos nos plantea el desafío de si la dimensión humanística,
10:09la dimensión regulatoria, la dimensión ética, van a estar a la altura de la velocidad
10:14del desarrollo tecnológico.
10:16Claro, pueden ir en distintas velocidades.
10:18Y es altamente probable que así sea.
10:21Porque es mucho más fácil, tal vez, desarrollar un algoritmo y entrenar un algoritmo
10:26que lograr este tipo de acuerdos.
10:28Y te hago esta repregunta. ¿Puede ser que te haga esta misma consulta en un año
10:32y la respuesta haya cambiado?
10:33Por supuesto. Sin duda. De nuevo, lo que se viene demostrando es que la evolución
10:39del conocimiento, si querés, la evolución del sentido de las cosas es mucho más lento
10:43que la evolución tecnológica. Entonces, hay que hacer un esfuerzo extra de conciencia
10:48en este sentido.
10:49Bien. ¿Estás para otra difícil?
10:51Dale.
10:51¿Estamos preparados para auditar, ajustar si se quiere, incluso retirar, sacar un sistema
10:59de inteligencia artificial si genera efectos no deseados?
11:03Bueno, deberíamos estar. Digamos, es mandatorio estarlo.
11:11Yo, como comentaste, soy director de Swiss Medical, que tiene ya un recorrido en desarrollo
11:19de inteligencia artificial dentro de los procesos de servicio.
11:23Hay un esquema de gobernanza instrumentado para justamente llevar esto.
11:28Y muchas organizaciones lo tienen. Pero, por ejemplo, un elemento que vos dijiste,
11:34para evaluar soluciones no hay. Hay agencias de evaluación de tecnología.
11:39Se sabe, la Argentina está en el proceso de constituir una.
11:42Digamos, hay agencias en todo el mundo.
11:44Pero no hay una evaluación de tecnología metodológica, como ocurre con los fármacos,
11:50para ver que está imbuido dentro de una inteligencia artificial.
11:54O sea, los protocolos se están creando ahora.
11:56Porque es sumamente difícil. Si uno piensa que todo esto se constituyó y después se evolucionó.
12:01Hacer el tracking. Hay metodologías que existen, OpenAI tiene una solución,
12:06para hacer el traqueo de la forma en que la inteligencia piensa.
12:09Pero hay muchos elementos que van surgiendo en el proceso,
12:13desde sesgos hasta de todo tipo de desvíos que están comprobados.
12:18Hay artículos ya sobre eso, que es muy difícil monitorear la evolución, además.
12:22No solo la constitución, sino la evolución.
12:24Ahora, y agarrado a eso, ¿le podemos o le deberíamos exigir a los sistemas
12:30de inteligencia artificial el mismo nivel, por ahí, de evidencia médica
12:35que se le pide a un fármaco? ¿Y eso ya está súper protocolarizado hace decenas de años?
12:40Deberíamos apuntar a eso.
12:41Deberíamos apuntar a eso.
12:44Y se va avanzando en esa dirección y es muy probable que se llegue
12:49a institucionalizar este tipo de evaluaciones que van a ser necesarias.
12:53En este momento, en el mundo es un desafío.
12:56En el mundo es un desafío.
12:58Y organizaciones que, muy potentes, reciben muchas soluciones de terceros,
13:04porque no se desarrollan in-house, aplicables a la salud.
13:07Y es todo un desafío mantener la evaluación de esas soluciones.
13:10Por integridad de los datos, lógica de los algoritmos, lógica del desarrollo,
13:14que no tenga desvíos.
13:16Incluso que los outcomes de esas inteligencias sean acordes a los valores
13:20de la organización, a las regulaciones locales.
13:23O sea, es un desafío que tiene que estar puesto sobre la mesa.
13:26Y así como había arrancado hace un ratito por una mirada general,
13:30quiero cerrar también con tu expertise para consultarte cuál debería ser
13:35la mirada del líder que conduzca este proceso de transformación,
13:40justamente en este contexto tan lleno de complejidades y desafíos.
13:45Quizás es lo esencia.
13:46Pensar en la tecnología hoy, por la tecnología misma, especialmente en salud,
13:53sería limitante.
13:54El gobierno de la inteligencia artificial debe ser parte de la conciencia
13:59de las organizaciones, teniendo como fin último, en definitiva,
14:03que la tecnología tiene que estar al servicio de cuidar a la persona,
14:07al equipo de salud, a la comunidad, y ese es el fin trascendente
14:10de la tecnología y toda innovación que se vincule con la salud de las personas.
14:15Bien.
14:16No les mentí.
14:16No interesante.
14:17Hiper interesante lo que acabamos de chabar con Gabriel Novik,
14:20a quien le agradecemos muchísimo.
14:21Muchas gracias.
14:22Hasta el próximo placer.
14:22Gracias.
14:23Gracias.
Recomendada
12:37
14:28
14:51
13:41
16:41
20:06
14:31
14:38
13:52
16:05
16:47
13:53
1:32
14:53
19:07
13:08
2:36
Sé la primera persona en añadir un comentario