Anthropic ha pasado gran parte de esta semana luchando para que sus nuevos modelos de IA vuelvan a estar en línea después de la administración Trump. ordenado abruptamente la empresa cortó el acceso a todos los ciudadanos extranjeros, incluidos los usuarios dentro de los EE. UU. y sus propios empleados, lo que obligó a Anthropic a bloquear el acceso a Fable 5 y Mythos 5 para todos.
«Hasta donde yo sé, esta es la primera vez que los controles de exportación de Estados Unidos se utilizan para controlar el acceso a un modelo de IA de esta manera».
La administración Trump no ha explicado públicamente la base legal de la orden, pero en un comunicado en su sitio web, Anthropic dicho el gobierno citó a “autoridades de seguridad nacional” para justificar “una directiva de control de exportaciones” de los modelos. (Anthropic también afirmó que las preocupaciones del gobierno sobre una “fuga”potencialmente utilizado por grupos vinculados a China para acceder a sus modelos no permitió a los usuarios eludir todas las salvaguardas de la empresa).
Pero ¿por qué la administración utilizó reglas de control de exportaciones para abordar esto? Los expertos dicen que el episodio parece no tener precedentes y expone una etapa incierta e inestable en la gobernanza de la IA. ¿Y qué se supone que exporta exactamente Anthropic? (La empresa no respondió a El bordesolicitud de comentarios.)
Los controles de exportación se han aplicado tradicionalmente a cosas que pueden enviarse a través de fronteras: armas, hardware, herramientas, ese tipo de cosas. Con el tiempo, el marco se ha ampliado para abarcar bienes menos tangibles, como software, código fuente, datos técnicos e incluso Archivos de armas impresos en 3D. Siguen siendo elementos discretos que pueden copiarse, descargarse, publicarse o entregarse y recibirse de otro modo, y no simplemente utilizarse a través de un servicio remoto como un chatbot. En el contexto de la IA, el presidente Joe Biden emocionado controlar los pesos del modelo de IA (los datos centrales que hacen que un modelo funcione y que se pueden copiar y ejecutar en otro lugar) de esta manera; esta idea fue rápidamente abandonado por la administración Trump en el segundo mandato.
El orden antrópico no encaja perfectamente en este marco. No se está produciendo una transferencia obvia: Mythos y Fable permanecen alojados en los servidores de Anthropic, y los usuarios no reciben el código fuente, los pesos del modelo ni una copia del modelo, sino que obtienen las respuestas del chatbot a sus consultas. La exportación podría ser información específica producida por los modelos, pero no está claro por qué eso requeriría deshabilitar el acceso a todo el sistema en lugar de solo restringir parte de él. También podría ser el acceso en sí, aunque el acceso remoto a los servicios en la nube es una brecha conocida en los regímenes actuales de control de exportaciones, una brecha que el Congreso ya está tratando de abordar. cerca a través de una legislación que ahora se está tramitando en el Senado.
Hanna Dohmen, analista de investigación senior del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, dijo El borde Es “una cuestión abierta” si la orden altera las reglas existentes sin ver el lenguaje preciso detrás de ella. «En cualquier caso, esta regulación es bastante notable porque, hasta donde yo sé, esta es la primera vez que se utilizan controles de exportación de Estados Unidos para controlar el acceso a un modelo de IA de esta manera».
«Decir que ésta es un área inestable en la elaboración de normas de control de exportaciones sería quedarse corto», dijo Andrew Reddie, profesor de la Escuela Goldman de Políticas Públicas de UC Berkeley. Dijo que las reglas de control de exportaciones y otros regímenes como las regulaciones de armas dan al gobierno una “amplia libertad” para restringir el acceso a ciertos bienes. Pero «la equivocación de las sucesivas administraciones respecto de cuáles son las responsabilidades de los desarrolladores de modelos» ha dificultado que las empresas comprendan lo que se espera de ellas, afirmó.
Eso deja a la industria en un aprieto. Si se apuntó a Anthropic porque Mythos y Fable tienen capacidades únicas, la orden plantea preguntas obvias para la próxima generación de modelos de OpenAI, Google, Meta, xAI y cualquier otro laboratorio de vanguardia. Si fueron atacados debido a cuestiones específicas de salvaguardia, el gobierno debe definir qué protección considera suficiente. Y si se destacó a Anthropic por su relación irritable con la administración Trumpel orden se vuelve aún más difícil de entender.
«Este episodio deja en claro la insostenibilidad del régimen de gobernanza existente».
De cualquier manera, los expertos dicen que esta no es una forma sostenible de gestionar la IA de frontera, especialmente si Estados Unidos quiere mantener su liderazgo a nivel mundial. El El incidente ya ha añadido más leña a las discusiones. que los gobiernos y las empresas fuera de Estados Unidos deberían tener cuidado a la hora de depender de empresas estadounidenses para acceder a sistemas estratégicamente importantes.
Reddie tenía preocupaciones similares. «En cierto modo, creo que este episodio deja en claro la insostenibilidad del régimen de gobernanza existente», afirmó. Esto es especialmente cierto si el gobierno estuviera más preocupado por si los usuarios podrían hacer jailbreak a los modelos y eludir sus salvaguardias. «Si la creación de modelos a los que es imposible hacer jailbreak se convierte en el estándar de facto para Estados Unidos, entonces no habrá modelos de IA».
Todo esto apunta al mismo problema: la administración Trump quiere ambas cosas con respecto a la IA. tiene dijo repetidamente quiere adoptar un enfoque de no intervención y defender la tecnología estadounidense, pero obligó a un campeón nacional a retirar sin ceremonias sus modelos de frontera mediante una orden que aún no ha explicado públicamente. Si Washington quiere controlar quién puede acceder a potentes sistemas de inteligencia artificial, debe decir cómo y dar a las empresas una oportunidad real de cumplir antes del lanzamiento. Las intervenciones ad hoc aparentemente realizadas por capricho no son sostenibles a largo plazo, y son una buena manera de asegurarse de que Estados Unidos se quede atrás en la carrera de la IA.