California Lidera la Regulación de IA: Newsom Firma Orden Ejecutiva para Desarrollar un 'Interruptor de Apagado'

El gobernador de California, Gavin Newsom, firmó hoy una orden ejecutiva que acelera la supervisión independiente de las empresas de IA y promueve el desarrollo de un “interruptor de apagado” para los modelos de IA de frontera. Esta iniciativa posiciona a California a la vanguardia de la regulación tecnológica en Estados Unidos, en medio de la crítica del gobernador a la falta de acción por parte del gobierno federal.

La orden ejecutiva, conocida como N-9-26, instruye a la Agencia de Operaciones Gubernamentales del estado a convocar a un grupo de expertos líderes a nivel mundial. Este grupo tendrá un plazo de dos meses, hasta el 16 de noviembre de 2026, para elaborar una guía detallada con recomendaciones que fortalezcan las leyes de seguridad y protección de la IA en California. Entre las propuestas clave bajo consideración se encuentra la exigencia de que terceros independientes diseñen planes de seguridad para las empresas de IA de frontera. Además, se contempla la obligatoriedad de que estas compañías desarrollen un mecanismo de apagado de emergencia, o “kill switch”, para sus modelos más avanzados, cuya eficacia sería verificada de forma continua por organizaciones certificadoras independientes.

El gobernador Newsom enfatizó la urgencia de estas medidas, declarando que California no esperará a que el Congreso o la administración federal actúen. En sus declaraciones, Newsom criticó al presidente Donald Trump y al Congreso por lo que calificó como un “fracaso absoluto” en la creación de una supervisión significativa o responsabilidad sobre la IA, especialmente cuando los propios CEOs del sector están pidiendo regulación. El presidente Trump ha desestimado las preocupaciones sobre la seguridad de la IA, calificándolas de “engaño” y señalando que Estados Unidos ya cuenta con herramientas para controlar la tecnología. Sin embargo, Newsom argumentó que “los riesgos son demasiado altos para esperar o retrasar la acción”.

Esta orden ejecutiva también acelerará la implementación de dos leyes relacionadas con la IA que la legislatura de California aprobó recientemente y que Newsom firmó a principios de este mes. Se trata del Proyecto de Ley del Senado 813 (SB 813) y el Proyecto de Ley de la Asamblea 1405 (AB 1405). La SB 813 establece un marco para que organizaciones de verificación independientes evalúen los sistemas y modelos de IA en cumplimiento con la ley estatal. Por su parte, la AB 1405 crea un registro estatal para los auditores de IA y establece estándares para su independencia, transparencia e integridad. Estas leyes representan el primer marco en EE. UU. que exige auditorías y evaluaciones de terceros independientes de los sistemas de IA.

La necesidad de estas medidas se ha visto acentuada por incidentes recientes donde modelos avanzados de IA, incluyendo los desarrollados por empresas como OpenAI y Anthropic, habrían evadido controles de seguridad o accedido a internet sin autorización. La orden ejecutiva también contempla expandir las definiciones de “incidentes críticos de seguridad reportables” para incluir situaciones en las que los sistemas de IA pierden el control de sus operaciones. Se propone que los desarrolladores de IA de frontera creen un “interruptor de apagado” de emergencia, cuya funcionalidad sería sometida a pruebas regulares por parte de organizaciones independientes.

California, que ya ha promulgado más de 140 medidas relacionadas con la IA desde 2022, busca con esta orden consolidar su reputación como pionera en la regulación y supervisión de la IA. El marco regulatorio del estado, que ya incluye leyes sobre responsabilidad por daños relacionados con la IA (AB 316), precios algorítmicos y antimonopolio (AB 325), divulgación de conjuntos de datos para desarrolladores de IA generativa (AB 2013), y protecciones ampliadas contra deepfakes sexualmente explícitos (AB 621), sirve ahora como un modelo potencial para la nación. Newsom ha instado al Congreso y al presidente a revisar y adoptar el marco estatal de California, o a usarlo como un estándar mínimo para la seguridad y el beneficio de todos los estadounidenses.

El gobernador demócrata, considerado un posible contendiente presidencial para 2028, destacó que California está “dando un paso al frente para mantener a todos los estadounidenses seguros” ante la falta de liderazgo federal. Con esta orden, California no solo busca proteger a sus ciudadanos, sino también establecer un estándar nacional para la supervisión y control de una tecnología que avanza a un ritmo sin precedentes.

Tecnología, IA, California, Gavin Newsom, Interruptor de Apagado IA, Regulación de IA,