El gobernador de California, Gavin Newsom (D), está posicionando al estado para que tome la iniciativa en la supervisión de la IA, incluida la posibilidad de exigir un «interruptor de apagado» para los modelos fronterizos, con una nueva orden ejecutiva emitido el viernes.
La orden de Newsom ordena al estado que convoque a un grupo de expertos que entregarán recomendaciones dentro de dos meses sobre cómo fortalecer las medidas de seguridad de la IA en la ley estatal. Newsom quiere que el grupo considere cómo el estado podría exigir a las empresas de inteligencia artificial que incorporen grupos de verificación independientes en el sitio para auditorías periódicas, sometan sus informes de transparencia y evaluaciones de riesgos a estándares de auditores independientes, creen un «interruptor de apagado» que se verifique rutinariamente como efectivo y se aseguren de que las empresas deban informar «incidentes de pérdida de control», como el ataque de OpenAI a Hugging Face, como incidentes críticos de seguridad. También ordena a una agencia estatal que acelere la implementación de dos leyes recientes que firmó, creando un marco para que verificadores independientes evalúen la seguridad de la IA y un registro estatal de auditores de IA.
Ha habido una oleada de discusiones sobre proyectos de ley en el Congreso a raíz de la publicación del ex investigador antrópico Jacob Coxon. advertencia de una probabilidad de más del 10 por ciento que la IA “podría matar a todos los humanos” en una década. Pero hay pocas esperanzas en Washington de que se pueda aprobar un proyecto de ley sustancial en el corto plazo, dado que la Cámara está en receso hasta noviembre, y las inminentes elecciones de mitad de período hacen que un movimiento legislativo importante en el Senado sea igualmente improbable. Al mismo tiempo, el presidente Donald Trump ha insistido“El único control o ‘barandillas’ que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE (¡Alto coeficiente intelectual!), ¡y Estados Unidos tiene eso, con creces!
Newsom pide al Congreso y a Trump «revisar y adoptar el marco del estado»
Es probable que la orden ejecutiva de Newsom no sea la última que escuchemos de California sobre este tema. El miércoles, planteó la posibilidad de convocar a los legisladores de California a una sesión legislativa especial sobre IA en un entrevista con politicojunto con una posible acción ejecutiva. Específicamente está posicionando la orden como un modelo para la acción federal, pidiendo al Congreso y a Trump “que revisen y adopten el marco del estado, o utilicen su regulación líder a nivel nacional como un piso, no un techo, para el beneficio y la seguridad de todos los estadounidenses”.
«El abyecto fracaso del gobierno federal a la hora de crear cualquier forma significativa de supervisión o rendición de cuentas de la IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de la IA están rogando por una regulación», dijo Newsom en un comunicado. «No estamos esperando para actuar; vamos a acelerar nuestro trabajo sobre una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde. Vamos a hacer esto cuidadosamente pero con rapidez urgente; hay demasiado en juego como para esperar o retrasar la acción».