El senador estatal de California, Scott Wiener, presentó el miércoles nuevas enmiendas a su último proyecto de ley, SB 53, que requeriría que las compañías de IA más grandes del mundo publiquen protocolos de seguridad y emitan informes cuando ocurran incidentes de seguridad.
Si se firma en la ley, California sería el primer estado en imponer requisitos de transparencia significativos a los desarrolladores líderes de IA, que probablemente incluye Openai, Google, Anthrope y XAI.
El anterior proyecto de ley de IA del senador Wiener, SB 1047, incluyó requisitos similares para que los desarrolladores de modelos de IA publiquen informes de seguridad. Sin embargo, Silicon Valley luchó ferozmente contra ese proyecto de ley, y finalmente fue vetado por el gobernador Gavin Newsom. El gobernador de California luego pidió a un grupo de líderes de IA, incluido el principal investigador de Stanford y cofundador de World Labs, Fei-Fei Li, para formar un grupo de políticas y establecer objetivos para los esfuerzos de seguridad de la IA del estado.
El Grupo de Política de AI de California publicó recientemente sus recomendaciones finales, citando la necesidad de «requisitos en la industria para publicar información sobre sus sistemas» para establecer un «entorno de evidencia sólido y transparente». La oficina del senador Wiener dijo en un comunicado de prensa que las enmiendas de SB 53 estaban fuertemente influenciadas por este informe.
«El proyecto de ley sigue siendo un trabajo en progreso, y espero trabajar con todas las partes interesadas en las próximas semanas para refinar esta propuesta en la ley más científica y justa que puede ser», dijo el senador Wiener en el comunicado.
SB 53 tiene como objetivo lograr un equilibrio que el gobernador Newsom afirmó que SB 1047 no logró lograr, idealmente, creando requisitos de transparencia significativos para los desarrolladores de IA más grandes sin frustrar el rápido crecimiento de la industria de IA de California.
«Estas son preocupaciones de las que mi organización y otros han estado hablando por un tiempo», dijo Nathan Calvin, vicepresidente de asuntos estatales para el grupo de seguridad sin fines de lucro de IA, Code, en una entrevista con TechCrunch. «Hacer que las empresas explicen al público y al gobierno qué medidas están tomando para abordar estos riesgos se siente como un paso mínimo y razonable que tomar».
El proyecto de ley también crea protecciones de denunciantes para los empleados de AI Labs que creen que la tecnología de su empresa plantea un «riesgo crítico» para la sociedad, definida en el proyecto de ley como contribuyendo a la muerte o lesión de más de 100 personas, o más de $ 1 mil millones en daños.
Además, el proyecto de ley tiene como objetivo crear CalCompute, un clúster de computación en la nube pública para admitir nuevas empresas e investigadores que desarrollan IA a gran escala.
A diferencia de SB 1047, el nuevo proyecto de ley del senador Wiener no hace que los desarrolladores de modelos de IA sean responsables de los daños de sus modelos de IA. SB 53 también fue diseñado para no plantear una carga para las nuevas empresas e investigadores que ajustan los modelos de IA de los desarrolladores líderes de IA, o utilizan modelos de código abierto.
Con las nuevas enmiendas, SB 53 ahora se dirige al Comité de la Asamblea del Estado de California sobre privacidad y protección del consumidor para su aprobación. Si se aprueba allí, el proyecto de ley también tendrá que pasar por varios otros organismos legislativos antes de llegar al escritorio del gobernador Newsom.
En el otro lado de los Estados Unidos, la gobernadora de Nueva York, Kathy Hochul, ahora está considerando un proyecto de ley de seguridad de IA similar, la Ley de aumento, que también requeriría que los grandes desarrolladores de IA publiquen informes de seguridad y seguridad.
El destino de las leyes estatales de IA como la Ley de Aumento y SB 53 estuvo brevemente en peligro, ya que los legisladores federales consideraron una moratoria de IA de 10 años sobre la regulación estatal de IA, un intento de limitar un «mosaico» de las leyes de IA que las empresas tendrían que navegar. Sin embargo, esa propuesta falló en una votación del Senado 99-1 a principios de julio.
«Asegurarse de que la IA se desarrolle de manera segura no debe ser controvertida, debería ser fundamental», dijo Geoff Ralston, ex presidente de Y Combinator, en un comunicado a TechCrunch. «El Congreso debería liderar, exigiendo la transparencia y la responsabilidad de las empresas que construyen modelos fronterizos. Pero sin una acción federal seria a la vista, los estados deben intensificar. El SB 53 de California es un ejemplo reflexivo y bien estructurado de liderazgo estatal».
Hasta este punto, los legisladores no han logrado que las compañías de IA estén a bordo con los requisitos de transparencia obligatoria del estado. Anthrope ha respaldado ampliamente la necesidad de una mayor transparencia en las empresas de IA, e incluso expresó un modesto optimismo sobre las recomendaciones del Grupo de Política de IA de California. Pero empresas como OpenAi, Google y Meta han sido más resistentes a estos esfuerzos.
Los principales desarrolladores de modelos de IA generalmente publican informes de seguridad para sus modelos de inteligencia artificial, pero han sido menos consistentes en los últimos meses. Google, por ejemplo, decidió no publicar un informe de seguridad para su modelo de IA más avanzado jamás publicado, Gemini 2.5 Pro, hasta meses después de que estuviera disponible. Operai también decidió no publicar un informe de seguridad para su modelo GPT-4.1. Más tarde, surgió un estudio de terceros que sugirió que puede estar menos alineado que los modelos de IA anteriores.
SB 53 representa una versión atenuada de las facturas de seguridad de IA anteriores, pero aún podría obligar a las compañías de IA a publicar más información que hoy. Por ahora, observarán de cerca mientras el senador Wiener una vez más prueba esos límites.