OpenAI y Anthropic se enfrentan a una nueva supervisión a medida que la ley de seguridad de IA de Nueva York entra en vigor

Nueva York se está preparando para hacer cumplir una de las leyes de seguridad de IA más importantes del país. El estado abrió un portal de registro el martes, en el que los grandes desarrolladores de IA de vanguardia como Anthropic y OpenAI deberán registrarse antes del 1 de enero de 2027.

La Ley RAISE, el proyecto de ley de seguridad y transparencia de Nueva York, entra en vigor a principios de año. Exige que los grandes desarrolladores fronterizos (empresas con más de 500 millones de dólares en ingresos anuales) publiquen marcos de seguridad en sus sitios web, informen incidentes de seguridad críticos dentro de las 72 horas y emitan informes públicos de transparencia de modelos.

La recién formada Oficina de Innovación, Gobernanza, Integridad y Confianza Digital (DIGIT) implementará la Ley RAISE y supervisará los grandes laboratorios de inteligencia artificial de vanguardia. Las sanciones pueden alcanzar hasta un millón de dólares por una infracción y tres millones de dólares por infracciones posteriores.

El estado también puede emprender acciones coercitivas contra las empresas que no se registren en el nuevo portal, aunque un portavoz se negó a proporcionar detalles.

«Los magnates de la tecnología nos dicen que su visión de la IA es inevitable», dijo la gobernadora Kathy Hochul el martes durante una rueda de prensa. «Nos dicen que nos subamos a bordo o nos quedaremos atrás… Que cualquier daño colateral vale la pena siempre y cuando ganemos la carrera hacia el precipicio de la IA».

El martes, Hochul también inauguró el Centro de Nueva York para la Responsabilidad e Investigación de la IA con sede en la Universidad Binghamton de la Universidad Estatal de Nueva York. El centro evaluará de forma independiente la seguridad y el funcionamiento de los sistemas avanzados de inteligencia artificial y trabajará con DIGIT para revisar los marcos de seguridad de las empresas. Hochul anunció por primera vez el centro en enero con 55 millones de dólares en donaciones y capital.

«Estamos construyendo un modelo nacional para una regulación inteligente y sensata de la IA, un modelo que pone a las comunidades por encima de las corporaciones y a las personas por encima de la tecnología poderosa», dijo Hochul.

La Ley RAISE no es la única ley de seguridad que ha aprobado Nueva York. El año pasado, el estado comenzó a aplicar una ley que exige que los operadores acompañantes de IA informen periódicamente a los usuarios que están hablando con un robot y que hagan esfuerzos razonables para detectar ideas suicidas y autolesiones.

En octubre, Hochul firmó una ley de seguridad de chatbot separada para menores, que restringe comportamientos como interacciones engañosas similares a las de los humanos, respuestas emocionalmente manipuladoras o aduladoras y fomento de comportamientos como el suicidio o los trastornos alimentarios. Esa ley entra en vigor el 1 de junio de 2027.

Otros estados también han aprobado proyectos de ley de transparencia y seguridad de la IA similares a la Ley RAISE. La SB 53 de California, que entró en vigor en enero, exige que los laboratorios fronterizos de inteligencia artificial establezcan y publiquen marcos de seguridad, promulguen protecciones para los denunciantes e informen incidentes críticos de seguridad en un plazo de 15 días. La SB 315 de Illinois, que entrará en vigor a principios de 2027, tiene requisitos similares y además incluye auditorías independientes de cumplimiento de seguridad.