00:00Están jugando con nuestras vidas.
00:03Son las palabras de un investigador que trabajó en dos de las compañías de inteligencia artificial más importantes del mundo,
00:11acusando a ambas empresas de competir por desarrollar sistemas cada vez más poderosos sin contar con suficientes garantías de seguridad.
00:20Se trata de Jacob Coxon, especialista de 27 años que anunció su salida de Antropic, compañía responsable de cloud.
00:28En su mensaje difundido a través de X, también cuestionó las decisiones de OpenAI, donde colaboró anteriormente.
00:36Pero, ¿qué tanto dijo Jacob? Quédate para descubrirlo.
00:42El investigador aseguró que los laboratorios están avanzando hacia una inteligencia artificial capaz de superar las capacidades humanas
00:51e intervenir en su propio desarrollo para mejorarse a sí mismas.
00:55En su publicación, Coxon afirmó que algunas de las personas encargadas de construir sistemas avanzados
01:02consideran seriamente la posibilidad de que una inteligencia artificial fuera de control represente una amenaza para la humanidad.
01:10Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década, señaló.
01:18Según él, algunos directivos moderan su discurso cuando hablan públicamente, pero expresan temores mayores durante conversaciones privadas.
01:28Coxon también describió diferencias entre OpenAI y Antropic.
01:31De acuerdo con su versión, parte del personal de OpenAI no habría comprendido completamente las posibles consecuencias de desarrollar una
01:41superinteligencia.
01:43En Antropic, aseguró por otro lado que los riesgos son mejor conocidos.
01:48Aunque la compañía aún así continuaría avanzando, porque considera necesario llegar antes que sus competidores.
01:56En Antropic se entiende bien lo que está en juego, pero están atrapados en una carrera por llegar primero, afirmó.
02:05La publicación generó preocupación y debate entre usuarios debido a que Coxon participó directamente en el entrenamiento de algunos de
02:12los modelos más avanzados de los últimos años.
02:15Por lo que intuyen que lo que dice es verdad.
02:19Pero a todo esto, ¿quién es Jacob Coxon?
02:23Jacob Coxon es un investigador británico especializado en inteligencia artificial y el pre-entrenamiento de modelos,
02:30mediante el cual estos sistemas analizan grandes cantidades de información para aprender patrones, relaciones y estructuras del lenguaje.
02:40Su nombre aparece entre los colaboradores reconocidos por OpenAI en el desarrollo de GPT-4O.
02:46También figura en el informe técnico de GPT-4.5, junto con otros investigadores de la compañía.
02:54Después de su paso por OpenAI, se integró a Antropic, laboratorio fundado por antiguos integrantes de la empresa creadora de
03:02ChatGPT y conocido por desarrollar la familia de modelos cloud.
03:07Coxon aseguró que durante los últimos tres años trabajó en ambas compañías.
03:12Esta experiencia convirtió su renuncia y sus declaraciones en un tema de interés,
03:17pues sus cuestionamientos provienen de alguien que conoció desde dentro una parte del desarrollo de estas tecnologías.
03:25El impacto aumentó después de que Evan Hovinger, responsable de investigación sobre alineación de Antropic,
03:32respaldara públicamente una parte de sus preocupaciones.
03:36Hovinger estimó que existe una probabilidad superior al 10% de que una inteligencia artificial provoque una amenaza existencial durante
03:45la próxima década.
03:46Sin embargo, aclaró que considera bajo el riesgo de los modelos disponibles actualmente
03:52y que su inquietud se concentra en una eventual superinteligencia capaz de mejorar de manera recursiva.
04:01Coxon propone que los laboratorios establezcan acuerdos para reducir la velocidad de desarrollo
04:06e incluso contempla detener temporalmente el aumento de capacidades,
04:11mientras no existan mecanismos suficientes de seguridad.
04:16Pero, ¿tú qué opinas al respecto?
04:18Queremos leerte en los comentarios.
04:20Y no olvides que si te interesa este tipo de contenido, puedes suscribirte al canal,
04:26activar la campanita de notificaciones y dejar tu like para seguir al pendiente de noticias como esta
04:31y, en general, de todo lo que pasa en México y el mundo.
04:45Gracias.
04:45Gracias.
04:46Gracias.
04:46Gracias.
04:46Gracias.
04:46Gracias.
04:46Gracias.
04:47Gracias.
04:47Gracias.
04:47Gracias.
04:47Gracias.
04:47Gracias.
