Jacob Coxon, investigador de Anthropic, dimitió esta semana tras expresar su preocupación por la carrera que mantienen algunas de las principales empresas de inteligencia artificial. Según Coxon, tanto su antigua compañía como su rival, OpenAI, están compitiendo por desarrollar tecnologías que «podrían acabar con todos nosotros antes de que termine la década».Sus declaraciones no parecen ser una opinión aislada dentro de Anthropic. Minutos después de conocerse su dimisión, un empleado actual de la empresa intervino para respaldar públicamente sus preocupaciones. Evan Hubinger, investigador que dirige el trabajo relacionado con la orientación y el control de futuros sistemas de inteligencia artificial, afirmó: «¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!». Además, Hubinger estimó en más de un 10 % la posibilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década.Estas declaraciones han vuelto a poner sobre la mesa uno de los debates más controvertidos relacionados con el rápido desarrollo de la IA. Mientras que estas tecnologías prometen importantes avances en campos como la medicina, la ciencia o la educación, algunos investigadores advierten de que también podrían generar riesgos difíciles de controlar a medida que los sistemas sean cada vez más autónomos y capaces.Como resultado, muchas personas se plantean ahora dos preguntas fundamentales: ¿cómo podría llegar a producirse un escenario de este tipo y por qué algunos de los propios investigadores que desarrollan estas tecnologías consideran que existe un riesgo real?Una de las principales preocupaciones es que los sistemas de IA del futuro puedan alcanzar capacidades muy superiores a las actuales y perseguir objetivos que no coincidan con los intereses humanos. Si no se consigue garantizar que estos sistemas permanezcan bajo control, las consecuencias podrían ser impredecibles y potencialmente irreversibles.
Comentarios