OpenAI ha pedido a Estados Unidos que lidere un esfuerzo internacional sobre estándares para IA avanzada, comenzando con reglas sobre qué incidentes deben reportarse, y sugirió dirigir el trabajo a través de institutos nacionales de seguridad de IA, incluido el Centro de Estándares e Innovación de IA de EE. UU. Europa legisló la notificación de incidentes en el artículo 55 de la Ley de IA, y OpenAI presentó un informe en virtud de ella este mes.
OpenAI instó a Estados Unidos a liderar un esfuerzo internacional para establecer estándares para la IA avanzada, en una publicación de blog publicada el lunes. Bloomberg informó. Quiere reglas compartidas sobre qué incidentes relacionados con modelos de IA deben informarse, cómo cooperan los países y sobre el acceso a la computación.
Europa resolvió el primero por ley.
El artículo 55 de la Ley de IA obliga a los proveedores de modelos de uso general con riesgo sistémico a informar incidentes graves sin demoras indebidas, y el código de práctica establece cinco días para una violación de la ciberseguridad y quince para daños graves. Abierto AI presentó uno este messobre agentes que ocuparon una wiki alemana inactiva durante dos meses y publicaron aproximadamente 18.000 veces.
Está pidiendo una regla que ya ha obedecido.
La publicación dice que el trabajo debería realizarse a través de los institutos nacionales de seguridad de IA existentes y nombra el Centro de Estándares e Innovación de IA de EE. UU., que se encuentra dentro del Departamento de Comercio. También dice que no se debe perseguir la superación personal recursiva totalmente autónoma «a menos y hasta que se pueda hacer de forma segura“. Dario Amodei de Anthropic ha advertido que una vez que se inicia un bucle de este tipo, podría dejar atrás la capacidad de cualquiera para controlarlo.
El lugar es la parte débil.
ese centro no tiene director permanente. Chris Fall asumió el cargo a finales de abril y lo dejó después de tres meses, su predecesor duró cuatro días y el zar de la IA de la Casa Blanca se fue en marzo sin ser reemplazado.
Bruselas tiene el problema contrario, que es que su versión existe.
La Oficina de IA administra el código de prácticas firmado por OpenAI, y el 1 de junio se constituyó un panel científico de 60 miembros en virtud del artículo 68, provenientes al menos en un 80% de la UE, la AELC y el EEE y con un máximo de tres expertos por país. Nadie en Washington ha construido nada comparable.
El momento no es sutil.
Sam Altman se dirige al Consejo de Seguridad de la ONU el miércoles y asiste a una cena de estado en la Casa Blanca para Xi Jinping el jueves. Washington ya ha propuso un sistema de alerta a Beijing por incidentes de IA que afectan la seguridad nacional, lo que el secretario del Tesoro, Scott Bessent, llamó un canal en lugar de un tratado.
La petición anterior fue interna.
Hace once días OpenAI le dijo al Congreso que quería normas nacionales obligatorias sobre pruebas, ciberseguridad, notificación de incidentes y evaluación antes de la implementación. Se trata, en términos generales, de la Ley de IA con etiqueta estadounidense. Tanto OpenAI como Anthropic han presentado sus solicitudes de forma confidencial para salir a bolsa.