00:00La renuncia de Jacob Coxon a la empresa The Anthropic dedicada a la investigación y desarrollada de inteligencia artificial
00:06se acudió al mundo tecnológico con sus declaraciones luego de que alertara que la inteligencia artificial
00:13escapará del control humano en pocos años.
00:15El pánico revivó el debate sobre el fin del mundo, pero algunos analistas cuestionan los verdaderos motivos de la denuncia.
00:22Para hablarnos sobre esto tenemos al profesor del tecnológico de Monterrey, Miguel González Mendoza,
00:26el cual agradecemos estar con nosotros.
00:28Miguel, ¿cómo estás? Buenas tardes.
00:30¿Qué tal? Muy buenas tardes, Rodrigo. Es un gusto estar aquí con ustedes.
00:33Oye, pues veíamos ahí las declaraciones que, por cierto, cuando Anthropic la saca,
00:40bueno, más bien el ex colaborador de Anthropic, como lo veíamos ahorita, sale a los medios,
00:44sobre todo porque lo dijo en CBS, lo replicaron en CNN, prácticamente se amplificó
00:50y luego le dio la vuelta al mundo sobre que iban a desaparecer o iban a terminar con parte de
00:55la población,
00:56pues generó un debate sobre todo porque el miedo de raíz ya estaba, es decir, las capacidades de la inteligencia
01:03artificial
01:03y cuáles pudieran ser los conocimientos ocultos que hay ahí.
01:08¿Cómo ves esta declaración entendiendo que, bueno, venía también de una salida no muy elegante, digamos, de Anthropic
01:17y que a lo mejor pudo haber sido un tanto tendenciosa?
01:21Claro. Bueno, aquí lo interesante es que lo importante no es la renuncia, sino que él, obviamente,
01:27Jacob ya era un ex, pues obviamente un ex colaborador de OpenAI y después con Anthropic.
01:35Con Anthropic lo que hizo es que, al final de cuentas, después de dos años de haber trabajado,
01:40lo que hizo fue, pues, al haber participado en el desarrollo de estos modelos avanzados de IA,
01:47pues realmente viene con advertencias muy interesantes, es decir, no es realmente que sea un observador externo
01:53o un activista, sino que realmente estuvo dentro.
01:56Y cuando esas advertencias vienen desde adentro de esos laboratorios líderes,
02:01pues obviamente traen toda esa atención.
02:03Pero realmente aquí lo importante es decir hoy en día si realmente la IA puede extinguir a la humanidad, ¿no?
02:10Realmente desde una perspectiva actual, científica, no hay evidencia de que los modelos actuales
02:16representen ese riesgo existencial inmediato.
02:20Realmente lo dice porque el ritmo de desarrollo de estas herramientas puede ser tal que al final de la década
02:27o incluso algunos de sus compañeros que también lo han comentado,
02:30que en una década podríamos tener básicamente riesgos en varias, digamos, aristas, ¿no?
02:37Eso es lo que realmente llama la atención.
02:40El miedo central para los especialistas en inteligencia artificial es el problema de alineación.
02:46Es decir, ¿qué tanto va a poder seguir esta alineación o, bueno, esta métrica que le ponen
02:52y no va a desviarse o va a encontrar de alguna manera la inteligencia artificial?
02:58No la de ahorita, lo decía en un artículo por parte de Money Watch de CBS,
03:04es las próximas versiones de la inteligencia artificial.
03:09Sí, por supuesto, el riesgo no viene básicamente de esa tecnología, viene básicamente de ese ritmo con el que se
03:16desarrolla.
03:17¿Por qué? Pues porque los incentivos económicos y geopolíticos para llegar primero,
03:22para ver quién tiene la IA más potencia, más potente, perdón, pues hace que esa competencia actual
03:28pues realmente no solamente entre empresas sino también en países por liderar esa próxima generación de IA
03:33puede llegar a reducir esos márgenes de seguridad.
03:36Y entonces, pues con estos márgenes de seguridad podríamos llegar un poquito con respecto a lo que pasó
03:42en las últimas semanas o meses, que fue de que, pues obviamente algunas de estas mejoras
03:49o nuevos modelos que todavía no están al público, pues realmente son tan potentes
03:54como para poder escapar, digamos, de las islas, de estos sandboxes que les llaman
03:58para poder básicamente ganar en todas estas pruebas que le colocan, pruebas básicamente sobre todo de seguridad.
04:06Ahí es donde realmente, pues podemos verlo un poco más latente, sobre todo porque
04:11eventualmente lo que hizo fue conectarlo con riesgos en bioseguridad o seguridad nacional, ¿de acuerdo?
04:17Claro, sí, sobre todo con el tema, por ejemplo, del Pentágono, ¿no?
04:20Que tenían ahí el tema ahí con la Unión Americana y también el tema de algunos hackeos internos,
04:24luego también, pues mucha preocupación por parte de la comunidad internacional, de decir, bueno,
04:30¿cómo sabemos que el Pentágono no está utilizando la inteligencia artificial para hackear nuestros sistemas de defensa?
04:35Entre otras cosas, quiero citar a Wendy Hall, encargada de informática británica de las Naciones Unidas,
04:41donde decía, Antropic no está o no tiene la capacidad hoy en día para poder detectar la superinteligencia,
04:49es decir, para poder controlarla.
04:50Y si el mismo desarrollador como Antrópico, en este caso, Claude, Open AI con Sam Altman,
04:57no pueden controlar lo que ellos mismos están creando, ¿cómo podemos tener la certeza de que va a haber algún
05:03externo
05:03o algún gobierno que pueda regular este tipo de superinteligencia?
05:08Sí, correcto. En estos momentos, bueno, primero hay que poner un primer, digamos, alcance, que es real.
05:15Es decir, las máquinas actuales y con el ritmo que llevamos, realmente en una década no vamos a llegar a
05:20esa superinteligencia.
05:22Realmente tendríamos que sufrir o experimentar un salto tecnológico muy importante como para decir,
05:28sí, eventualmente las máquinas están llegando a ese nivel de superinteligencia.
05:33Realmente, llegando a la superinteligencia como nosotros los humanos lo conocemos.
05:39Entonces, de ahí, obviamente, lo que nosotros tenemos, dado que realmente el ritmo que estamos experimentando hoy en día
05:44pareciera que vamos a alcanzar eso, realmente lo que están haciendo las máquinas es simular este nivel de, digamos,
05:54que no puedo llamar el razonamiento, pero sí de inferencia con el conocimiento que tenemos.
05:59Ahora, eso es con respecto a la máquina, pero obviamente está la regulación.
06:05Lamentablemente la regulación no está yendo tan rápido como quisiéramos,
06:08pero sí que ya están saliendo todas estas líneas como lo está haciendo la Unión Europea, los Estados Unidos o
06:13incluso la misma China.
06:15En México, obviamente, ya existen, pero básicamente lo que están haciendo los gobiernos es tratar de llegar a un nivel
06:21tal,
06:21lo han comprendido, tal que no se frene la innovación, pero tampoco sea tan laxa como para poder llegar a
06:29estos niveles,
06:30básicamente, de falta de control.
06:32Entonces, aquí lo que se tiene es que, pues, se deja mucho a lo que pasa con las personas,
06:38es decir, pues, ¿qué te frena a ti el no tener, por ejemplo, una herramienta, cualquiera que éste sea,
06:45y utilizarla de una manera bélica?
06:47Entonces, aquí, básicamente, el hecho de que estas nuevas herramientas puedan, básicamente, utilizarse por cualquiera,
06:55pues, obviamente, es en manos equivocadas que puede tener estos, básicamente, estos posibles, digamos, escenarios,
07:03catastróficos.
07:04Entonces, sí, pues, en estos momentos seguimos dependiendo de estas grandes compañías para una autorregulación,
07:11obviamente, con la regulación externa, básicamente, de los gobiernos,
07:16y, obviamente, el poder ir visualizando qué se puede y qué no se puede hacer.
07:21Y, obviamente, qué es lo que hacen público y lo que no hacen público,
07:24porque también en estas nuevas empresas, no solamente las gigantes como OpenAI, OneTropic,
07:30sino que también hay otros, incluso, versiones chinas, europeas, que pueden llegar a niveles muy interesantes.
07:37Y aquí, digamos, para reflexionar es, pues, imagínense a una persona que, básicamente, pues, le dicen así,
07:44pues, puedes aquí hacer lo que necesites.
07:47Vamos a, básicamente, a hackear y nadie te va a perseguir.
07:52Básicamente, vas a ser completamente desconocido.
07:55El límite que te da es la parte moral, la parte ética.
07:59Y, de alguna manera, nosotros tenemos que replicar esa parte moral y ética
08:03que pueda, básicamente, gobernar el desarrollo de estos nuevos modelos.
08:12Y, de ahí, pues, obviamente, pues, tenemos que ir midiendo un poco esa báscula entre lo que se puede y
08:18lo que no se puede.
08:19Hay un escepticismo, sobre todo, para la gente que dice, bueno, la inteligencia artificial está en la nube,
08:24o no existe, o no la tenemos tangible.
08:26Pero, conforme vaya avanzando, el problema sería que llegue a sistemas financieros ya más evolucionados,
08:33a sistemas de salud, a cuestiones de infraestructura.
08:37Y, ahí, ya tendría, de cierta manera, contacto con lo físico.
08:42Que eso es a lo que se refiere Jacob Cox, ¿no?
08:44Jacob Cox, de destruir o matar a la realidad.
08:48Porque ya tendría, en alguna variación, acceso a lo físico para poder empezar a generar estragos.
08:55Claro, claro.
08:56Ahí, obviamente, pues, muchas compañías, organizaciones y gobiernos van a tener que tocar el tema muy en serio para conectar
09:05la IA.
09:05Básicamente, como, por ejemplo, bioseguridad y seguridad nacional.
09:10Obviamente, lo que nosotros ya estamos experimentando de una manera más rápida son esos ciberataques automatizados,
09:16o, por ejemplo, con las elecciones que pueden atacar a nivel de desinformación a gran escala.
09:22Es decir, mover la opinión de las personas, una manipulación social, obviamente.
09:27Obviamente, eventualmente, que ha sucedido, vulnerar infraestructuras críticas.
09:32Por ejemplo, pues, nadie pensó que se pudiera vulnerar.
09:35Pasó en varios lugares en Estados Unidos, donde las plantas de potabilización, pues, obviamente se vieron atacadas.
09:42Y eso, pues, obviamente, pues, es infraestructura crítica.
09:46Entonces, eventualmente, esto pudiera llegar a, obviamente, automatizar algunas actividades de una manera, pues, no tan buena, ¿no?
09:53Es decir, a nivel criminal.
09:54Y eso es lo que nosotros debemos de ir asegurando las organizaciones, a medida de que si se quieren tecnificar,
10:00obviamente van a tener que llegar a un cierto nivel también de ciberseguridad.
10:04Así es.
10:04De ahí, con la ciberseguridad, van muy de la mano.
10:07Así es.
10:07Miguel, te agradecemos.
10:08Nos has tomado la comunicación.
10:10Entendemos, es un tema muy amplio.
10:12Yo no pude llegar a dar toda la hora, pero tenemos otras cosas.
10:16Pero te agradecemos, nos has tomado la comunicación, para entender lo que fue la nota de la semana a escala
10:21global en el tema de la IA.
10:24Muchas gracias, Rodríguez.
10:25Gracias, Miguel.
Comentarios