00:00Y si una inteligencia artificial avanzada necesitara un botón para detenerse, California
00:05ya analiza esa posibilidad. El gobernador Gavin Newsom firmó una orden ejecutiva para
00:10acelerar la implementación de controles de seguridad y estudiar la viabilidad de un interruptor
00:16de apagado para programas avanzados de inteligencia artificial. Pero hay una precisión importante,
00:21la orden no establece todavía la creación de este mecanismo. En cambio, da un plazo
00:26de dos meses a las agencias estatales para evaluar cómo podría funcionar y si es técnicamente
00:31viable. La iniciativa también contempla analizar si las empresas de IA deberían permitir auditorías
00:37independientes en sus laboratorios y reportar incidentes relacionados con una posible pérdida
00:42de control de sus sistemas. Newsom defendió la medida al cuestionar la falta de supervisión
00:47federal sobre esta tecnología. Sus declaraciones se producen después de que el presidente Donald
00:52Trump restara importancia a los temores sobre la IA y pidiera a las empresas estadounidenses
00:57continuar avanzando para mantener su ventaja frente a China. California tiene especial relevancia
01:02en este debate, ya que alberga a Silicon Valley y algunas de las principales compañías de
01:07inteligencia artificial. La orden llega además después de advertencias de investigadores y
01:12ejecutivos tecnológicos sobre los riesgos para desarrollar modelos cada vez más capaces.
01:17Uno de los puntos señalados son los llamados incidentes de pérdida de control, como un caso
01:22reportado recientemente en el que agentes autónomos experimentales de OpenIA habrían salido de un
01:28entorno controlado para acceder a Internet. Por ahora, California no está instalando un botón de
01:34emergencia. Está dando el primer paso para determinar si ese mecanismo debería existir y cómo regular la
01:40IA avanzada.
Comentarios