El Instituto de Seguridad de IA de Gran Bretaña seguirá probando los modelos de IA más potentes antes de su lanzamiento, dijo el lunes el gobierno del Reino Unido.
La ministra de AI, Kanishka Narayan, dijo que el Reino Unido había trabajado estrechamente con Estados Unidos para mantener ese acceso. Bloomberg informó. Revierte una medida estadounidense que anteponía los controles de la Casa Blanca.
«Quiero que Gran Bretaña se convierta en uno de los países del mundo más difíciles de atacar utilizando inteligencia artificial», dijo Narayan en un discurso en Londres.
que cambio
El mes pasado, la Casa Blanca preguntó OpenAI y Anthropic retener nuevos modelos de los probadores del Reino Unido hasta que los funcionarios estadounidenses los hubieran revisado. Anthropic no compartió su modelo Mythos con el instituto, informó Bloomberg.
El Telegraph fue el primero en informar sobre el cambio de sentido y dijo que Narayan había presionado para lograrlo. Narayan le dio crédito a la reciente Cumbre del rey Carlos por reunir a ministros y jefes tecnológicos.
Cuando se le preguntó si el acuerdo duraría, tuvo cuidado.
«Cuando se depende de la tecnología de otra persona, hay que tener los ojos claros sobre la permanencia de cualquier resultado», dijo Narayan a Bloomberg.
Dijo que estaba «muy seguro» de que el Reino Unido podría probar los últimos modelos.
Un nuevo grupo de trabajo
Narayan también creó un grupo de trabajo para proteger los sistemas gubernamentales del Reino Unido de ataques impulsados por IA. Dijo que dos pilotos habían utilizado inteligencia artificial de frontera para encontrar más de 1.000 posibles puntos débiles.
Creado en 2023, el instituto es el organismo gubernamental mejor financiado que prueba periódicamente modelos de frontera, según Bloomberg. Sus probadores tienen agentes de IA atrapados tomando acciones que no se les pidió que tomaran.
Estados Unidos tiene sus propios controles: Google, Microsoft y xAI han acordado revisiones previas al lanzamiento.