- hace 1 hora
En conversación con Exitosa, César Beltrán, docente de ingeniería de la PUCP, abordó el tema acerca de los peligros que puede desencadenar la inteligencia artificial. Explicó que en grandes empresas como Open AI sueltan agentes inteligentes a los que se les otorga un objetivo tal y como sucedió con el hackeo de la plataforma Hugging Face en julio del presente año. Deslizó la posibilidad de que debido a los cambios en la tecnología puede que la IA “llegue a las mismas capacidades humanas”.
Noticias del Perú y actualidad, política.
Sigue nuestras noticias, entrevistas y novedades desde todas nuestras plataformas digitales:
Instagram → / exitosape
Twitter → / exitosape
Facebook → / exitosanoticias
Web → http://exitosanoticias.pe/
WhatsApp: 940 800 800
"Exitosa: La voz de los que no tienen voz"
Noticias del Perú y actualidad, política.
Sigue nuestras noticias, entrevistas y novedades desde todas nuestras plataformas digitales:
Instagram → / exitosape
Twitter → / exitosape
Facebook → / exitosanoticias
Web → http://exitosanoticias.pe/
WhatsApp: 940 800 800
"Exitosa: La voz de los que no tienen voz"
Categoría
🗞
NoticiasTranscripción
00:00en determinado momento.
00:01Bueno, ya son, claro, son al extremo, así es, sí, sí.
00:06No, pero por el momento, somos agentes que todavía están bajo el control.
00:12Yo digo todavía, porque uno nunca sabe si en el fondo,
00:15con toda la tecnología que estamos desarrollando
00:17y los cambios que estamos teniendo a diario,
00:19pues en algún momento lleguemos a que estos agentes
00:23y la misma tecnología de inteligencia artificial
00:25llegue a las mismas capacidades humanas que tenemos.
00:28En el fondo, no dejan de ser una herramienta, ¿no?
00:32O sea, es software, una herramienta que, bueno,
00:34en algún momento lo podemos apagar,
00:36pero nadie asegura que se pueda salir al control.
00:41Se está hablando hoy en el mundo entero
00:45de la crisis que hay con respecto a la pérdida,
00:50a la posible pérdida de control sobre la inteligencia artificial.
00:54Y está con nosotros César Beltrán,
00:56que es docente de ingeniería de la Pontificia Universidad Católica del Perú
01:00y una especialista en este tema.
01:02Bienvenido.
01:03Nicolás, muchas gracias por la invitación.
01:06Sí, para también complementar,
01:08soy el coordinador del grupo de inteligencia artificial
01:10de la Universidad Católica de la sección de ingeniería informática.
01:14Comencemos por esto que ha dado la vuelta al mundo,
01:17sobre todo el día de ayer, ¿no es cierto?
01:18Donde hasta Elon Musk está advirtiendo sobre los peligros de la inteligencia artificial, ¿no?
01:24¿Qué es lo que está pasando?
01:26¿Cuál fue este incidente que ocurrió
01:28donde se supone que la inteligencia artificial de repente empezó a actuar
01:32sin instrucción humana
01:34y produjo una especie de hackeo, ¿no es cierto?,
01:38de instituciones, empresas.
01:39Sí, lo que sucede es que se desarrollan ciertos experimentos
01:43dentro de las organizaciones,
01:44como estas empresas grandes como OpenAI,
01:48Google mismo, ¿no?
01:49Y ellos sueltan agentes,
01:51que son agentes inteligentes,
01:53a los cuales se les otorga un objetivo a cumplir
01:55y ellos buscan obtener ese objetivo.
01:58Y en ese transcurso,
02:01ellos pueden encontrar distintas,
02:03digamos, salidas,
02:05si se quiere llamar así,
02:06backdoors,
02:07donde ellos han comenzado a conversar,
02:09han encontrado una página que estaba sin uso, por decir,
02:12y comenzaron a establecer conversaciones
02:14con el fin de poder determinar
02:17qué actividades estaban desarrollando
02:20y, bueno,
02:21y ahí comenzaron a poder encontrar
02:24algunas salidas
02:26para poder hackear algunas páginas
02:28con el fin de cumplir con el objetivo
02:30que se les había encomendado.
02:31Ese es la, en el fondo,
02:33el transcurso.
02:34Eso quiere decir que empezaron a actuar
02:35por su propia iniciativa.
02:37Y es que estos modelos
02:39o estos agentes
02:40comienzan a intercambiar información.
02:42Es que si tú les das un objetivo
02:45a estos modelos,
02:47ellos buscan alcanzar el objetivo.
02:50Entonces,
02:51la cuestión está
02:52en que se han soltado muchos agentes
02:54bajo este esquema
02:55de conseguir objetivos.
02:56Ha sido un experimento
02:57que ha estado desarrollando OpenAI
02:58y, bueno,
03:01obviamente han roto
03:02cuestiones de seguridad.
03:04Por ejemplo,
03:05la página HackingFace,
03:06que es una página
03:07donde se almacenan
03:08y se publican
03:09todos los modelos
03:10de inteligencia artificial
03:11que salen a diario,
03:12salen modelos
03:13y ellos han descargado
03:14bases de datos,
03:15han agarrado un modelo
03:16y han comenzado a hackear,
03:18a tratar de tomar el control.
03:19Pero, bueno,
03:20es en el fondo
03:21es eso, ¿no?
03:23Porque lo que está diciendo
03:25uno de ellos
03:26que lo vi en una entrevista
03:27en CNN
03:27es que puede destruir
03:28a la humanidad
03:29en determinado momento.
03:31Bueno, ya son,
03:32claro,
03:32son al extremo.
03:34Así es,
03:34sí, sí.
03:35No,
03:36pero por el momento
03:38somos agentes
03:39que todavía
03:40están bajo el control.
03:41Yo digo todavía
03:42porque uno nunca sabe
03:43si en el fondo
03:44con toda la tecnología
03:45que estamos desarrollando
03:46y los cambios
03:46que estamos teniendo
03:47a diario,
03:48pues en algún momento
03:49lleguemos
03:50a que estos agentes
03:52y la misma tecnología
03:54de inteligencia artificial
03:55llegue a las mismas
03:56capacidades humanas
03:57que tenemos.
03:58En el fondo
03:59no dejan de ser
04:00una herramienta,
04:01¿no?
04:01O sea,
04:01es software,
04:02una herramienta
04:02que, bueno,
04:03en algún momento
04:04lo podemos apagar,
04:05pero nadie asegura
04:08que se pueda salir
04:08al control.
04:08El problema es que
04:09va a llegar un momento
04:10en que tal vez
04:10ya no los podamos apagar
04:11porque tomaron
04:12Ese es un problema,
04:13claro,
04:14así es,
04:14ese es un problema
04:15que en algún momento
04:16se puedan salir
04:17del control.
04:19Vamos a ver
04:20lo que ha estado pasando
04:22que ya son señales
04:23de un manejo
04:24no sé si previo
04:25a la inteligencia artificial
04:26que es,
04:26por ejemplo,
04:27este direccionamiento
04:29que es fantástico,
04:30¿no?
04:30A mí me pasa
04:31que estoy hablando
04:32de un tema
04:33y no es,
04:35y tengo el teléfono
04:36y de repente
04:37en el teléfono
04:37empieza a llegar
04:38información
04:39sobre ese tema
04:40del que he estado hablando.
04:42Yo no le he pedido
04:43información
04:44y me la dan,
04:45¿no?
04:46Eso quiere decir
04:46que hay un registro.
04:49Nos está escuchando.
04:51Cada vez que uno
04:52abre un aplicativo,
04:54el aplicativo
04:55comienza a tomar control
04:56de muchos
04:57de los sensores
04:58que tenemos
04:58en el celular.
04:59Dentro de ellos,
05:00por ejemplo,
05:01el micrófono.
05:02Entonces,
05:02cuando uno
05:03instala un aplicativo,
05:05puede ser
05:05estas redes sociales
05:06que tenemos
05:07de uso diario,
05:08no leemos
05:10todas las letritas
05:11que nos dicen
05:11y aceptamos
05:13completamente
05:13todos los términos
05:14que nos colocan.
05:15Dentro de esos términos
05:17está que ellos
05:17pueden utilizar
05:18nuestra información,
05:19pueden captar
05:19toda la información
05:20que estamos nosotros,
05:21nuestras comunicaciones,
05:22y entonces
05:24el micrófono
05:25del dispositivo
05:27está abierto
05:27cuando uno
05:28instala
05:29ese aplicativo.
05:31Y el aplicativo
05:32está constantemente
05:33escuchando
05:33todo lo que
05:34estamos conversando.
05:35Y eso que
05:35empieza a registrar
05:36qué temas
05:37son los que
05:37te interesan,
05:38qué asuntos
05:39te interesan,
05:40qué personas,
05:40y te empiezan
05:41a bombardear
05:41con esa información
05:43que se supone
05:43que es de tu interés.
05:45Exacto.
05:45Ahora,
05:45el problema
05:46es que
05:46no solamente
05:47ocurre esto,
05:48sino que,
05:49por ejemplo,
05:50es notable
05:51que cuando
05:52yo al comienzo
05:53del programa
05:53el día de hoy
05:54decía,
05:54con este uso
05:55perverso
05:55de los bots,
05:56¿no?
05:57Por ejemplo,
05:59tú eres una persona
06:00que expresó
06:01en algún momento
06:02o apoyó
06:04una postura
06:05racista
06:06o contra
06:06los inmigrantes
06:08o contra
06:09las mujeres
06:10o justificando
06:11la violencia,
06:13te empieza
06:14a llegar
06:14información
06:15que refuerza
06:16esa postura.
06:18Es que
06:18lo que hacen
06:19estos aplicativos
06:21es crear
06:22un perfil
06:23del usuario,
06:25crear ese perfil
06:26del usuario
06:27de acuerdo
06:27a los intereses,
06:28las características
06:29que tiene,
06:29sus opiniones,
06:31sus temores,
06:33todo ello.
06:33Entonces,
06:34estas redes sociales
06:35lo que hacen
06:35es te crean
06:36un perfil
06:37por todas
06:38las comunicaciones
06:39que tienes
06:39y de acuerdo
06:40a ese perfil
06:41que ellos
06:41desarrollan
06:42de tu persona,
06:43pues te mandan
06:45información
06:45que es de tu interés.
06:46En este tema
06:47de los antivacunas,
06:48de repente
06:49tú entras
06:50y te entraste
06:52a informarte
06:53sobre si las vacunas
06:54hacen daño o no
06:55y a partir
06:56de ese momento
06:56te empieza
06:57a llegar
06:57una cantidad
06:58de información
06:59antivacunas,
07:01no pseudocientífica
07:02además,
07:03para que reforzar
07:04eso,
07:05que eso,
07:05que tú,
07:06ese prejuicio
07:06que tú tienes,
07:07es verdad.
07:07No,
07:07y hay empresas,
07:09organismos
07:09que justamente
07:11pagan,
07:11por ejemplo,
07:12porque esa información
07:13llegue a esas personas
07:14y es que
07:14los aplicativos
07:16de redes sociales
07:16viven de eso.
07:18¿Por qué?
07:18Uno coloca
07:20la información
07:21personal nuestra
07:22y luego
07:23estos aplicativos
07:24hay empresas
07:25que quieren,
07:26por ejemplo,
07:27no sé,
07:27distribuir un producto,
07:29¿no?
07:29Generar algo
07:29o venderlo
07:32o llegar a ese público.
07:34Entonces,
07:35lo que hacen
07:35estos aplicativos
07:36tienen segmentado
07:37a todos los usuarios
07:38que utilizamos
07:39esas redes sociales
07:40y a ese segmento,
07:42porque finalmente
07:43es un agrupamiento
07:44que tenemos,
07:45que ellos desarrollan,
07:46le lanzan,
07:47¿no?
07:47Esa,
07:48esas propagandas
07:50o intereses.
07:51Pero todo
07:51para reforzar
07:52esa conducta,
07:54ese prejuicio,
07:55esa postura
07:57ideológica,
07:58religiosa,
07:59incluso esos fanatismos,
08:01¿no es cierto?
08:01Así es.
08:02Por eso que
08:04muchos gobiernos
08:05como el gobierno
08:05de Estados Unidos,
08:06por ejemplo,
08:07en una oportunidad
08:09hizo
08:11hacer que el TikTok,
08:12porque TikTok
08:12es una empresa
08:13china,
08:15¿no?
08:15Que esté,
08:17todos sus servidores
08:18estén
08:19en Estados Unidos.
08:20Y es más,
08:21que sea una empresa
08:22norteamericana
08:23la que tenga el gobierno
08:24de la empresa,
08:27¿no?
08:27Pero al final
08:28no pudo conseguirlo.
08:29¿Por qué?
08:30Porque saben
08:31perfectamente
08:32que este tipo
08:34de redes sociales
08:34pueden hacer,
08:37pueden sesgar
08:38la opinión
08:38de las personas,
08:39porque les puedes
08:40estar enviando
08:43videos subliminales,
08:43¿no?
08:44Y entonces
08:44el pensamiento
08:45de las personas
08:45va cambiando,
08:46va cambiando,
08:47¿no?
08:47De acuerdo a la información
08:48que le va llegando
08:48y eso a través
08:50de los algoritmos
08:50puede ser manejado.
08:51Y el uso,
08:52por ejemplo,
08:52de campañas electorales,
08:54está acreditado
08:54que las últimas
08:55campañas electorales,
08:56bueno,
08:57no solamente
08:57de hace ya
08:59hace tiempo,
09:00se ha ido
09:02perfeccionando,
09:02es decir,
09:03hay gente
09:03que te presta
09:04el servicio
09:06que entiendo
09:06que se lo ofrecieron
09:07hasta que
09:08parece que no
09:09llegaron a un acuerdo,
09:10pero que ha funcionado
09:11en otras elecciones
09:12presidenciales,
09:13¿no?
09:13No solamente a ella,
09:13yo creo que a varios
09:14les han ofrecido
09:15y bueno,
09:16pero eso ya hace tiempo
09:18que se usa,
09:19solamente que ahora
09:20con las herramientas
09:21que tenemos
09:21de inteligencia artificial
09:22que están mucho
09:23más potentes,
09:24ya la segmentación,
09:26el llegar
09:28al darle
09:29la información
09:31particular,
09:32¿no?
09:32A cada persona
09:34que le interesa
09:35ya está mucho
09:36más perfeccionado.
09:37Antes era un grupo,
09:38¿no?
09:38Pero si tú tienes
09:39una postura
09:41a favor de alguien,
09:42te la van a reforzar,
09:43si tú tienes
09:44una postura a favor
09:45del otro,
09:45van a tratar
09:46de debilitarla.
09:47O si quieres
09:48cambiarle la postura
09:48al otro.
09:49Por supuesto,
09:49cambiarle,
09:50darle información
09:50negativa
09:53sistemáticamente
09:53utilizando
09:54otra información
09:56que han sacado
09:56de ti mismo.
09:57Alguna preocupación
09:58tuya que pueda
09:59cuestionar
10:00tu decisión
10:00de votar
10:01por el candidato
10:01porque pensabas
10:02votar.
10:03O por empujar
10:04a los indecisos
10:05a votar
10:06de determinada
10:06manera
10:07en función
10:08de,
10:09digamos,
10:09promover
10:10prejuicios
10:11contra uno
10:11y darle
10:14virtudes
10:15que no tiene
10:15a otros,
10:16¿no?
10:16Eso en
10:17psicología social
10:18se hace
10:19un buen tiempo
10:20eso,
10:20¿no?
10:20Es más,
10:21desde que nació
10:21la televisión
10:22se hace
10:22eso.
10:22Tenemos,
10:23tenemos,
10:24bueno,
10:25el otro día
10:25hablaba con el
10:26escritor Sacheri
10:27que es una maravilla
10:29tenerlo acá,
10:30el escritor
10:30de El secreto
10:32de sus ojos,
10:33esta novela
10:33que terminó
10:34en película
10:34que ganó
10:35el Oscar
10:36con Darín,
10:37una actuación
10:37brutal,
10:38y él está
10:39preocupado
10:40por la inteligencia
10:40artificial
10:41porque ya está
10:42pasando,
10:42por ejemplo,
10:43en los medios
10:43de comunicación,
10:44hay medios
10:45de comunicación
10:46donde por lo menos
10:47la mitad
10:47de los textos
10:48que leemos
10:48lo ha hecho
10:49la inteligencia
10:49artificial.
10:50Y eso también
10:51pasa en la industria
10:52de software
10:53donde yo trabajo.
10:55Ahora,
10:56prácticamente,
10:56no hay empresa
10:57de desarrollo
10:58de software
10:58que no use
10:59inteligencia artificial.
11:01Prácticamente,
11:02toda la parte
11:03de desarrollo
11:04se ha automatizado
11:05y el trabajo
11:07que antes
11:08un par
11:08de desarrolladores
11:10humanos
11:11hacía en un par
11:13de meses,
11:13ahora se hace
11:14una cuestión
11:15de horas.
11:16Bueno,
11:16le ha pasado
11:17a las grandes
11:18auditoras internacionales
11:19que operan
11:20en el Perú,
11:20¿no?
11:21Todas han tenido
11:22que aceptar
11:22que han hecho
11:22uso
11:23de la inteligencia
11:23artificial
11:24y que los ha llevado
11:25a la comisión
11:26de errores,
11:26¿no es cierto?
11:27Y es que
11:28la cuestión está
11:29en que
11:30si nos ponemos
11:31a analizar
11:32todas aquellas
11:33tareas operativas
11:35que en cualquier
11:36profesión
11:37desarrollábamos,
11:38ahora se está
11:39automatizando
11:40con inteligencia
11:41artificial.
11:42No,
11:42dice,
11:42por ejemplo,
11:43escríbeme una
11:44carta notarial,
11:46hazme una
11:48escritura
11:48de transferencia
11:49vehicular,
11:51es decir,
11:53los notarios
11:53se van a quedar
11:54sin chamba.
11:55Pero esa era
11:55tarea operativa.
11:56Los contadores
11:57se van a quedar
11:57sin chamba.
11:58Es tarea operativa,
11:59es tarea operativa,
12:01o sea,
12:02hacer un escrito
12:05prácticamente
12:05era repetir
12:06lo que
12:07ese notario
12:08ya había hecho
12:09como 30,
12:1040 o 50 veces
12:11antes.
12:12Solo agarraba
12:13un patrón
12:14y rellenaba
12:15con los datos
12:16de los nuevos,
12:18yo que sé,
12:18usuarios que está teniendo
12:19y
12:20porque no
12:21cambiaba mucho
12:22de sus otros escritos.
12:23Pero es que hace
12:24cosas impresionantes
12:25porque
12:26yo he visto
12:27el otro día
12:27me mostraron,
12:28por ejemplo,
12:29muestras una habitación
12:30y dice,
12:30por favor,
12:31quiero hacer
12:31una escenografía
12:34en este espacio
12:35de tales características
12:36y te diseña
12:37una escenografía
12:38y dejaste sin chamba
12:39a los escenógrafos
12:40y a los arquitectos.
12:42Y a los arquitectos.
12:44Es una cosa...
12:45No,
12:45le das la fachada
12:46de una casa,
12:46quiero que me cambies
12:47la fachada
12:48de esta casa
12:49y te la da,
12:49¿no?
12:50O sea,
12:50es lo que estamos viviendo
12:53y todavía...
12:54Pero eso va a suponer
12:56que muchísima gente
12:57se va a quedar
12:57sin trabajo.
12:58Ese es el lado negativo,
13:00¿no?
13:00Del lado social
13:01de la tecnología.
13:03¿Por qué?
13:04Porque eso demuestra
13:07que como sociedad
13:08no estamos preparados
13:09para este tipo
13:10de tecnología.
13:11Y si nos vamos
13:12como país,
13:13tampoco estamos
13:14haciendo la tarea
13:15de poder...
13:15Pero se acaba
13:16de aprobar
13:16la ley
13:17y el reglamento
13:18sobre el uso
13:20de la inteligencia artificial,
13:21¿no?
13:22Bueno,
13:23ahí hay un problema.
13:24Creo que primero
13:24estamos colocando
13:25la carreta
13:26delante de los caballos.
13:29Estamos legislando
13:30algo que nosotros
13:31no desarrollamos.
13:33Estamos creando
13:34todo un marco
13:35regulatorio,
13:37copiando inclusive
13:38marcos regulatorios
13:40de Europa,
13:41¿no?
13:42Cuando la misma
13:43Unión Europea
13:45ahora está
13:46retrocediendo
13:47en poder
13:48aplicar
13:49ese marco
13:50regulatorio
13:50que ha hecho,
13:51¿no?
13:52Yo creo que
13:52tenemos que ir
13:54primero
13:56desarrollando
13:56los factores
13:57habilitantes
13:58que hagan
13:59de que nosotros
14:00no seamos
14:02simples usuarios
14:03de la tecnología,
14:03sino también
14:04desarrollemos
14:05esa tecnología.
14:06Porque
14:07la verdad que
14:08ponernos a legislar,
14:10a poner marcos
14:11regulatorios
14:12sobre algo
14:12que nosotros
14:13no desarrollamos,
14:14eso es fácil.
14:15Pero
14:16hacer
14:17toda la base
14:18para poder
14:19crear esta tecnología
14:20que ni siquiera
14:20es cara,
14:21no es una tecnología
14:22cara,
14:23porque
14:25simplemente
14:25necesitamos
14:26muy buena capacidad
14:27intelectual
14:28de personas
14:29y necesitamos
14:31también
14:31una buena
14:32organización
14:33de los datos,
14:34¿no?
14:34Que no lo tenemos
14:35y tenemos,
14:36necesitamos una buena
14:37conectividad
14:38que tampoco
14:39la tenemos.
14:40Entonces,
14:40los factores
14:41habilitantes
14:42para desarrollar
14:42la inteligencia
14:43artificial
14:43en el Perú
14:44no tenemos
14:45ese desarrollo,
14:46no lo estamos
14:47teniendo.
14:47Se están creando
14:49leyes,
14:50se ha aprobado
14:51la Estrategia
14:52Nacional
14:52de Inteligencia
14:53Artificial
14:53que parece
14:55que lo hicieron
14:56en un cuarto,
14:57¿no?
14:58Porque los especialistas
14:59en el tema
15:00nunca hemos sido
15:00convocados.
15:02Pero entonces,
15:03¿quién ha hecho?
15:03Es que eso no se sabe
15:04tampoco,
15:05porque cuando tú
15:06haces una estrategia
15:06nacional,
15:07se entiende
15:08de qué...
15:09Vas a construir
15:10la experiencia
15:11y el conocimiento
15:12de los especialistas
15:14en el tema.
15:14Y tienes que convocar
15:15a varios,
15:16¿no?
15:16De pronto,
15:17nosotros recibimos
15:18una invitación
15:19para la presentación
15:21de la Estrategia
15:21Nacional.
15:22Para que se entere.
15:23Exacto,
15:24¿no?
15:24O sea,
15:24como para hacer
15:25el cheque
15:25lo estamos presentando.
15:26Pero,
15:27más allá de eso,
15:28si analizamos
15:29ese documento,
15:30está claramente
15:32un documento
15:33sobre algo
15:34que nosotros
15:36no somos,
15:37estamos
15:39tratando
15:39a la Inteligencia
15:40Artificial
15:40como si fuésemos
15:41los desarrolladores
15:43o un país
15:45que es de punta
15:46en Inteligencia
15:46Artificial
15:47cuando no es así.
15:48Ahora,
15:48hay una disputa,
15:49se plantó
15:50con la visita
15:51de Marco Rubio
15:51también sobre
15:53los compromisos
15:54con respecto,
15:54o sea,
15:55Estados Unidos
15:56quiere que todo
15:56lo que tenga que ver
15:57con Inteligencia
15:58Artificial
15:58sea con ellos,
15:59con sus tecnologías,
16:00¿no es cierto?
16:00Es que es tecnología,
16:01pero los chinos
16:03tienen la propia
16:03también,
16:04¿no es cierto?
16:04A mí me van a creer
16:05lo mismo.
16:06Así es,
16:06así es.
16:07Y al final,
16:09todos los demás países,
16:10especialmente países
16:11de hacer mundistas
16:12como nosotros,
16:13simplemente vamos
16:13a ser usuarios.
16:14Y algún desarrollo
16:15que quisiéramos hacer,
16:17y esa es una gran falencia
16:18de la legislación
16:18que se está haciendo,
16:20dice que los que
16:21hacemos desarrollo
16:22de Inteligencia Artificial
16:23tenemos que mostrar
16:24nuestro código,
16:25tenemos que mostrar
16:26cómo estamos entrenando
16:27los modelos,
16:28tenemos que ser transparentes,
16:30pero cuando todas las APIs,
16:32que son estos aplicativos
16:33que simplemente jalamos
16:34para poder hacer
16:35nuestros desarrollos,
16:36han sido entrenados,
16:38han sido desarrollados
16:39afuera.
16:40Entonces,
16:41¿cómo un desarrollador
16:42de Sodor aquí en el país
16:44que le piden transparencia,
16:46que utilizamos APIs
16:48que no son desarrolladas
16:49aquí en el país,
16:50qué va a mostrar?
16:52O sea,
16:52eso es una total contradicción.
16:54No hay un criterio
16:57para poder
16:59establecer esta legislación,
17:01porque finalmente
17:02va a quedar como todo,
17:04en un tema de cascarón
17:06nada más,
17:07y no se le está dando
17:09ningún presupuesto
17:10para poder siquiera
17:12desarrollar
17:12un objetivo
17:13de la Estrategia Nacional
17:14de Inteligencia Artificial.
17:15Claro,
17:16el problema César
17:17es que estamos,
17:18yo el otro día
17:18llamaba la atención
17:19sobre una situación
17:20muy penosa.
17:21Nosotros estamos
17:22en un punto
17:23en el que estamos discutiendo
17:24que 8 millones de peruanos
17:25no terminaron el colegio,
17:27que los colegios
17:27no tienen baños,
17:28que 25 mil colegios
17:29lo ha dicho
17:30el propio Ministro de Educación
17:31que traerlos abajo
17:32y construir nuevos.
17:34Eso es lo que estamos discutiendo,
17:36en vez de estar discutiendo
17:37lo que está discutiendo
17:38en el mundo,
17:39cómo incorporamos
17:40en la currícula
17:41la inteligencia artificial
17:42y cómo entrenamos
17:44a nuestros ciudadanos
17:45para un manejo responsable
17:46de la nueva tecnología.
17:46Ese es un punto
17:47importantísimo,
17:48porque cada vez que uno
17:49usa estos chatbots
17:52y las personas
17:54creen que en el fondo
17:55están interactuando
17:56con un ser,
17:59¿no?
18:00Nosotros,
18:00por ejemplo,
18:01que tenemos algo
18:02de conocimiento
18:03sobre cómo funcionan
18:04estos chatbots,
18:06sabemos que es un bot,
18:07sabemos que es un algoritmo,
18:08pero no todos
18:09piensan así,
18:10no todos.
18:11Entonces,
18:12es importantísimo
18:13que desde el colegio
18:14lo que siempre
18:15nosotros también
18:16hemos defendido
18:17es que se establezca
18:18el pensamiento
18:20computacional
18:21desde el jardín,
18:22desde la primaria,
18:24¿no?
18:24Y establecer
18:25el pensamiento
18:26computacional
18:27desde el colegio,
18:28la universidad,
18:30es hacer que cada vez
18:31que uno utilice
18:32estos algoritmos,
18:33estos chatbots,
18:35sabe lo que está
18:36pasando por dentro.
18:37No necesariamente
18:38cómo es que
18:39es la base de datos
18:41que está funcionando,
18:42sino sabe cómo
18:43es la lógica
18:44de funcionamiento
18:44de estos modelos.
18:46Entonces,
18:46ya no va a estar
18:47con ese afán
18:48de que quien le está
18:49respondiendo
18:50es un ente
18:51súper dotado,
18:52yo que sé
18:53que tiene
18:54todo el conocimiento
18:55y que te va a resolver
18:56los problemas
18:57que uno tiene.
18:59Simplemente
19:00es una herramienta.
19:01Pero cada vez
19:01está más generalizado.
19:03No chat GPT,
19:04me duele la cabeza
19:04que tomo.
19:06No adelgazo,
19:07dame consejos.
19:08Y hay que tener
19:09mucho cuidado
19:10con que...
19:11Le pregunta
19:12sobre todo,
19:13¿no es cierto?
19:13Al chat GPT
19:14como si fuera
19:15un médico,
19:16un ingeniero,
19:16un abogado,
19:18o sea,
19:18está reemplazando...
19:19Y ahí hay un problema
19:20y justamente
19:22ayer conversaba
19:22con una colega mía
19:24que es del área
19:24de marketing,
19:26publicidad.
19:27Me dice,
19:27yo utilizo
19:28todo lo que es
19:29estos modelos,
19:30me dicen,
19:31de lenguaje,
19:32pero hay que tener
19:33conocimiento.
19:34Hay que tener
19:35conocimiento
19:36para poder
19:37sacarle provecho
19:38a estas herramientas.
19:40Porque si yo
19:40lo voy a utilizar
19:41como un simple
19:41pron,
19:42quiero esto,
19:43quiero lo otro,
19:43quiero por acá,
19:43y le hago caso
19:44a todo lo que me dice,
19:46recuerden que estos
19:47modelos sufren
19:47de lo que son
19:48alucinaciones,
19:49¿no?
19:50Al final,
19:51estos modelos
19:52lo que te están dando
19:53son respuestas
19:54probabilísticas,
19:55o sea,
19:55en el fondo
19:56es matemática.
19:57Es respuesta
19:58probabilística
19:58de todo lo que es
20:00la base...
20:00Toda la información
20:01que ha podido recoger
20:03por probabilidad
20:04es lo más cercano
20:06a lo que podría ocurrir.
20:07Así es.
20:08Pero de repente
20:09te faltó un factor
20:10que tienes una precondición
20:11y te matan
20:12porque te mandaron
20:12un medicamento
20:13que tú nunca debiste
20:14tomar.
20:14Exacto,
20:15y si no eres especialista,
20:18no tienes el conocimiento
20:19como para poder hacer
20:20los pron
20:21y sacarle provecho
20:22a estas herramientas,
20:23pues va a ser eso.
20:25O sea,
20:26vamos a tener
20:26muchos problemas
20:27de gente
20:28que tal vez
20:29se automedica
20:30porque le dijo
20:31el chat GPT
20:31o gente que inclusive
20:33yo que sé
20:34tiene problemas mentales
20:35para este
20:36y quiere
20:36y piensa
20:37de que es un ser
20:38con el que están
20:38interactuando.
20:39O sea,
20:40eso puede provocar
20:41muchos problemas
20:42y por eso
20:43que lo que necesitamos
20:44es bastante
20:45educación.
20:46El asunto es que
20:47sea un instrumento
20:49para mejorar
20:50la calidad de vida
20:52y el progreso
20:53de la humanidad,
20:55la cantidad
20:55de tiempo libre
20:56que deberíamos tener
20:57los seres humanos
20:58para disfrutar
20:59de la existencia,
21:01¿no es cierto?
21:01Para eso debe servir.
21:02Por ejemplo,
21:02el otro día
21:03Sacheri decía
21:03que en determinado
21:06momento
21:09la inteligencia
21:10artificial puede
21:10escribir un libro
21:11donde tú le dices
21:13escríbeme una novela
21:14sobre Sacheri
21:15que se refiere
21:16a mi ley
21:17porque él escribe
21:18sobre momentos
21:20históricos.
21:21Al estilo
21:21Vargas Llosa.
21:22No,
21:23o al estilo Sacheri.
21:24Escríbeme como Sacheri
21:25una película.
21:26Así es.
21:27Entonces,
21:28la inteligencia
21:28artificial revisa
21:29todos los libros
21:30de Sacheri
21:30y reproduce
21:31su estilo,
21:32su giro,
21:32sus analogías
21:34y te escribe
21:35un libro
21:35sobre mi ley
21:36que tú lo lees
21:37y esto lo escribió
21:38Sacheri.
21:38Así es.
21:39Lo dejó sin chambas
21:40Sacheri.
21:41Pero él decía
21:41por el otro lado
21:42que la inteligencia
21:43artificial usada
21:44adecuadamente
21:45nos puede ayudar
21:46a encontrar la cura
21:47contra el cáncer.
21:48Lo que nos tomaría
21:49años,
21:50como tú dices,
21:51se puede resolver
21:51ahora en horas.
21:52Es que de eso
21:53se trata.
21:54Al final,
21:54esta tecnología
21:56es una herramienta.
21:59¿Por qué?
22:00Porque finalmente
22:01somos las personas
22:02quienes la vamos a usar.
22:04Igual como cualquier
22:05otra herramienta
22:06tecnológica
22:06que tenemos
22:07a disposición.
22:08Porque si queremos,
22:09si somos personas
22:10de mal,
22:12vamos a utilizar
22:12la herramienta
22:13para hacer el mal.
22:14Pero como la mayoría
22:16de las personas
22:17en nuestra sociedad
22:18somos personas
22:19de bien,
22:19usamos la herramienta
22:20para el bien,
22:21para el bien social,
22:22para poder hacer,
22:23para mejorar
22:24como personas,
22:24para mejorar
22:25como sociedad.
22:26Porque finalmente
22:27es una herramienta.
22:29Nadie te está diciendo
22:29que ella te va a matar,
22:31que va a hacer.
22:32No, no, no.
22:33Sino tú estás usando
22:34la herramienta,
22:35tú con tus cualidades
22:37de persona,
22:38sabes el uso
22:38que le vas a dar
22:39y tú puedes sacarle
22:40provecho a esa herramienta
22:42para tú mejorar
22:43profesionalmente
22:44como persona
22:45y todo, ¿no?
22:46Entonces,
22:46ese es en el fondo
22:47el tema,
22:48porque no deja
22:49de ser una herramienta.
22:51César,
22:52muchas gracias
22:52por estar con nosotros.
22:53César Beltrán,
22:54tú eres...
22:55Soy doctor
22:56en ciencias de la computación.
22:58Ciencias de la computación.
22:59Y especialista.
23:00Eres director
23:01del...
23:02Del Laboratorio
23:03de Inteligencia Artificial.
23:04Del Laboratorio
23:04de Inteligencia Artificial
23:05de la Pontificia
23:06Universidad Católica.
23:07Así es.
23:08Y creo que
23:09como país,
23:10creo que tenemos
23:11que emular
23:12a nuestro vecino
23:12más próximo
23:13que es Chile.
23:14Chile también
23:15ha establecido
23:16su estrategia nacional
23:17de Inteligencia Artificial.
23:18Es más,
23:19la semana pasada
23:20ha retrocedido
23:21en la legislación
23:22que estaban desarrollando
23:23que era también
23:24una copia de Europa
23:25y han dicho
23:26no,
23:28vamos a ser
23:29un país
23:30que no solamente
23:31sea usuario
23:32de la tecnología,
23:34sino queremos ser
23:35un país
23:35que también desarrolle
23:36la tecnología.
23:37Y ahí
23:38Chile está
23:39estableciendo las bases
23:41para poder
23:41ser ese tipo
23:42de país.
23:43Está capacitando
23:44gente,
23:45tiene doctorados,
23:46tiene posgrados
23:47en ciencias
23:47de la computación.
23:48Aquí en el Perú
23:49no tenemos
23:50posgrados,
23:50no tenemos
23:51un lugar
23:51donde capacitar
23:53a especialistas
23:53en Inteligencia Artificial.
23:55En la Católica
23:56lo tenemos,
23:56pero como diríamos,
23:58no,
23:58una flor
23:59no hace
23:59el verano.
24:01Tanto me gustaría
24:02de que en todas
24:03las universidades
24:04hubiese un laboratorio
24:05de Inteligencia Artificial.
24:06tengamos nosotros
24:09repatriados
24:10especialistas
24:11en IA
24:11que hay ahí
24:12en el mundo
24:12peruanos
24:13que están afuera
24:13que quisieran regresar,
24:15pero no tenemos
24:17la disponibilidad,
24:18no estamos creando
24:19el espacio
24:19como para que ellos
24:20regresen.
24:21Entonces,
24:21yo creo que hay
24:22mucho,
24:23mucho pan por reganar
24:24y toda esa legislación
24:25que está haciendo,
24:26bueno,
24:26la verdad que
24:27para mí
24:28es un saludo
24:29a la bandera,
24:30todo va a quedar
24:30en cuestión declarativa
24:31y bueno,
24:33si no hacemos algo,
24:34no invertimos
24:35un sol
24:36en siquiera
24:38desarrollar
24:38uno de los objetivos
24:39que tiene
24:39la estrategia nacional,
24:40pues vamos a seguir
24:41en lo mismo.
24:41Muchas gracias César
24:43una vez más
24:43por estar con nosotros.
Comentarios