Gavin Newsom firmó una orden ejecutiva pidiendo a un grupo de trabajo que informe dentro de dos meses sobre el fortalecimiento de las leyes de seguridad de la IA de California, incluido si las empresas deberían construir un interruptor de apagado para los modelos fronterizos. Vetó la SB 1047, que requería que los desarrolladores pudieran implementar rápidamente un cierre total, en septiembre de 2024.
Gavin Newsom firmó una orden ejecutiva el viernes pidiendo a un grupo de trabajo que informe dentro de dos meses sobre cómo fortalecer las leyes de seguridad de la IA en California. Bloomberg informó. Entre las medidas que debería considerar está la de hacer que las empresas construyan un interruptor de emergencia para los modelos de frontera.
Vetó un proyecto de ley que lo requería.
La SB 1047 habría obligado a los desarrolladores de modelos cubiertos a poder “implementar rápidamente un cierre total“parada de funcionamiento y formación adicional. Newsom lo vetó el 29 de septiembre de 2024, argumentando que regulaba los modelos por tamaño y costo en lugar de por para qué se utilizan. El proyecto de ley era la Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial.
Eso fue hace casi dos años exactamente.
La otra idea de la orden es que terceros independientes redacten planes de seguridad para las empresas fronterizas. “No estamos esperando para actuar,» Dijo Newsom. Su oficina no ha dicho quién está en el grupo de trabajo.
Europa no pidió a las empresas que construyeran el interruptor.
Desde el 2 de agosto, la Comisión Europea ha podido restringir, retirar o retirar un modelo de uso general del mercado de la UE, en virtud de una disposición de la Ley de IA que cubierto este mes. El poder reside en el regulador y no en el desarrollador.
No depende de que una empresa implemente nada.
La Ley de IA exige por separado que un ser humano que supervise un sistema de alto riesgo pueda interrumpirlo o detenerlo mediante un botón de parada. Esa regla cubre los sistemas implementados más que los modelos debajo de ellos. Estas obligaciones aún no se aplican.
California está a dos meses de una recomendación.
La brecha con respecto a terceros parece similar. La SB 813 de California le da al estado hasta enero de 2028 para certificar organizaciones capaces de probar modelos fronterizos, mientras que los 60 miembros de Europa panel científico fue nombrado el 1 de junio.
Ninguna de las partes ha decidido quién paga el cálculo. En el único ejemplo que ha funcionado hasta ahora, la factura del probador la pagó la empresa sometida a la prueba.
Newsom ha estado en ambos lados de esto. Fomentó el auge porque dio sus frutos, y a principios de este año promovió una asociación para colocar a Claude de Anthropic en agencias estatales. Anthropic y OpenAI tienen su sede en California y ambos entrarían dentro de lo que recomiende su grupo.