La ministra de IA del Reino Unido, Kanishka Narayan, dice que los países deben “reforzar” sus defensas contra el riesgo de IA. Probar modelos ya no es suficiente, afirmó. Estaba respondiendo una pregunta de Fortuna en la conferencia anual del Partido Laborista.
Kamal Ahmed, de Fortune, le preguntó sobre una advertencia de Jacob Coxon, un investigador que deja Anthropic este mes. Narayan dijo que hay que tomar en serio a las personas en los laboratorios cuando dicen que están muy preocupadas.
«Hay que endurecerse y fortalecer las defensas. Los riesgos no han hecho más que aumentar, por lo que las pruebas son buenas, pero claramente insuficientes», afirmó Narayan.
Coxon hizo su advertencia en un publicar en X. Tiene 175 millones de visitas, informó Fortune.
«Las personas que construyen la IA creen seriamente que podría matarnos a todos para finales de la década», escribió Coxon.
El científico antrópico Evan Hubinger estuvo de acuerdo con Coxon. Puso el riesgo por encima del 10%.
Donde Narayan pone el riesgo
Narayan dijo que su principal atención se centra en los riesgos actuales. Mencionó un aumento de los riesgos de ciberseguridad y de las herramientas de inteligencia artificial que podrían aumentar el riesgo bioquímico. Los modelos que van más allá de lo que los humanos les pidieron que hicieran también le preocupan, afirmó.
«El tipo de bucles lógicos que hay que atravesar para convertir esta cuestión en una cuestión existencial son bastante significativos y graves», afirmó.
El Reino Unido ha probado modelos de IA durante tres años, afirmó Narayan. Ningún otro país está en mejores condiciones para hacerlo, añadió.
El plan del G20
Narayan dijo que el Reino Unido quiere reunir a los países en el G20 el próximo año, durante su presidencia. Quiere ayudar a dar forma a los principios que surgen de él. El primer ministro Andy Burnham ha dicho que utilizará la presidencia para negociar un acuerdo de IA.
La Casa Blanca ha advertido a los miembros del G20 que no intervengan en las nuevas reglas globales, según informes citados por Fortune. El presidente Donald Trump dice que desacelerar los laboratorios estadounidenses le daría a China una ventaja. Ha llamado a quienes piden desaceleración una fuerza negativa.
El cofundador de Microsoft, Bill Gates, dijo la semana pasada en Meet the Press de NBC que la autorregulación no es suficiente. Quiere que los gobiernos participen.
Narayan también habló sobre empleos en una reunión del grupo de expertos de la Fundación Resolución. Dijo que los gobiernos, las empresas y las personas tienen voz y voto sobre si la IA contribuye al trabajo humano o lo reemplaza.