00:01El CEO de Antropic, Dario Amodei, pidió a las empresas de inteligencia artificial
00:06moderar el ritmo al que mejoran sus modelos, ante los crecientes temores por su uso indebido.
00:11Amodei propuso un marco de tres pasos para marcar el ritmo del desarrollo y ganar tiempo
00:16para gestionar los riesgos. Su llamado ocurre después de que Antropic reportó que sus modelos
00:21cloud fueron utilizados para actividades como desarrollo de armas, operaciones cibernéticas,
00:26vigilancia y fraude. La preocupación aumentó tras la renuncia del investigador Jacob Coxon,
00:32quien advirtió que quienes desarrollan la IA creen que podría causar la muerte de millones
00:36de personas antes de terminar la década. Amodei aclaró que no propone detener el
00:41entrenamiento ni el progreso técnico, sino dar tiempo para ajustar y proteger los modelos,
00:46con evaluadores independientes que confirmen estas medidas. También planteó incorporar
00:51evaluadores externos permanentes en las principales empresas de IA. Los incidentes relacionados con
00:57agentes de IA que han vulnerado o intentado acceder a sistemas externos también han aumentado
01:02la preocupación. Por ello, Amodei pidió a las empresas colaborar voluntariamente para
01:07establecer normas, mientras crecen los llamados de legisladores estadounidenses para regular estos
01:13sistemas.
Comentarios