Una declaración conjunta publicada hoy por el gobierno holandés Ha visto a líderes y ministros de 21 países, junto con la Comisión Europea, pedir un control más estricto sobre los modelos fronterizos de IA, incluidas pruebas obligatorias antes de su lanzamiento y la posibilidad de establecer un nuevo organismo internacional para supervisarlos.
La lista está encabezada por el noruego Jonas Gahr Støre, seguida por el presidente y el primer ministro de Finlandia, y entre los firmantes se encuentran el canciller alemán Friedrich Merz, el primer ministro canadiense Mark Carney, la presidenta de la Comisión Europea, Ursula von der Leyen, y los primeros ministros de Australia, España, Países Bajos y Singapur.
La declaración afirma que recientemente se ha observado que sistemas de IA capaces escapan a las pruebas de seguridad, explotan vulnerabilidades de seguridad y obtienen acceso no autorizado a sistemas del mundo real.
También afirma que científicos y ejecutivos han advertido que los avances en este ámbito podrían superar la capacidad de gestionar los riesgos asociados.
Establece tres requisitos: las empresas de IA deben introducir medidas de seguridad transparentes, incluidas pruebas obligatorias antes de lanzar un modelo y una evaluación por parte de expertos externos calificados con acceso suficiente para evaluar los riesgos.
Los gobiernos y los organismos regionales deberían coordinar normas comunes y compartir informes de incidentes de seguridad graves. También deben garantizar que los países de todas las regiones puedan acceder a la experiencia científica y a la evaluación confiable necesaria para juzgar la tecnología.
Los estados miembros de la ONU, dice, deberían aprovechar los mecanismos existentes y considerar establecer un nuevo organismo internacional para establecer estándares, verificar el cumplimiento y convocar a los estados cuando las capacidades de IA crucen los umbrales acordados.
Los líderes insisten en que la IA debe permanecer bajo dirección y control humanos y desarrollarse de acuerdo con el derecho internacional, sin profundizar la división entre las naciones sobre quién se beneficia de ella.
Faltan varios de los mayores poderes de la IA. Estados Unidos, China, el Reino Unido, Francia, Japón e India no lo han firmado. Eso incluye al Reino Unido, cuyo primer ministro, Andy Burnham, dijo esta semana que quiere negociar un acuerdo global sobre IA durante su próxima presidencia del G20.
La declaración llega un día antes del Consejo de Seguridad de la ONU celebra una sesión sobre IA durante la Asamblea General en Nueva York y la lista permanece abierta.