California propone un botón de apagado para modelos de IA de frontera

El gobernador de California, Gavin Newsom, ha propuesto incorporar auditores independientes en los laboratorios tecnológicos que desarrollan inteligencia artificial y crear un botón de apagado de emergencia para los modelos de frontera. La propuesta llega en forma de una orden ejecutiva (N-9-26) que solicita a externos nacionales entregar recomendaciones en un plazo de dos meses.

La medida obliga a empresas como Anthropic, OpenAI y Google a incorporar personal de verificación independiente que realice evaluaciones y auditorías periódicas de sus modelos, y exige que los marcos de trabajo, informes de transparencia y evaluaciones de riesgo sean auditados y validados de forma externa.

Además, la orden crea un mecanismo de apagado de emergencia para los modelos de frontera, cuya eficacia debe ser verificada continuamente por entidades independientes. La propuesta de Newsom también amplía la definición de incidentes de seguridad críticos para incluir situaciones de pérdida de control de los sistemas de IA.

Newsom subraya que California alberga 32 de las 50 principales empresas privadas de IA del mundo, lo que convierte al estado en una jurisdicción clave para establecer estándares de seguridad que equilibren innovación y protección.

Observación: si se implementa, esta sería la primera normativa estadounidense en exigir mecanismos de apagados externos para modelos de IA, lo que podría influir en la legislación federal y en otros estados.