El rey Carlos organizó una cumbre privada el jueves con algunos de los nombres más destacados de AI y el gobierno del Reino Unido, incluido Jensen Huang de Nvidia, líderes de OpenAI y Anthropic, el nuevo ministro de AI del Reino Unido, Kanishka Narayan, e incluso el jefe del servicio de inteligencia exterior del Reino Unido. También estuvo presente Paolo Benanti, que asesora al Papa sobre la IA.
Los comentarios del rey en la cumbre fueron notables porque la familia real suele tener cuidado, por razones constitucionales, de no profundizar demasiado en cuestiones políticas, y la IA es uno de los temas más candentes del mundo en este momento. El rey instó a los líderes en la sala a encontrar una manera de controlar la IA «antes de que sea demasiado tarde», y agregó que el rápido desarrollo de esta tecnología -y su «sustancia»- era «tanto intrigante como profundamente preocupante».
«La IA ya está demostrando una inmensa capacidad para mejorar y salvar vidas», afirmó, citando la medicina y la ciencia como ejemplos. “Sin embargo, quienes han creado estas tecnologías advierten cada vez más que la IA corre el riesgo de desarrollar capacidades más oscuras, tal vez incluso de quitar vidas”. Este comentario se produjo pocos días después de que un investigador de Anthropic renunciara y escribiera en línea que las empresas de inteligencia artificial estaban «compitiendo para construir máquinas que sean mucho más inteligentes que cualquier ser humano» y que la humanidad «quizás no sobreviva a esto».
El rey continuó diciendo que es urgente considerar adecuadamente los «peligros existenciales» de lo que sucedería si esta tecnología cayera en las manos equivocadas y se utilizara de «maneras potencialmente catastróficas».
“¿Seguramente necesitamos suficientes medios de control antes de que sea demasiado tarde?” dijo. Al concluir, el rey Carlos instó a los líderes a encontrar una manera de aprovechar los beneficios de la IA y generar cooperación y consenso internacional para lograr ese resultado. (Este comentario se produce después de que Anthropic cerrara el acceso a sus modelos Fable y Mythos solo a clientes estadounidenses, conmocionando la escena tecnológica europea y dejando a muchos pensando en el concepto de soberanía de la IA).
“La tarea que tienen ante ustedes no es simplemente hacer avanzar la tecnología, sino garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural”, dijo al terminar su discurso. «A medida que abrazamos lo nuevo, no debemos perder lo que es atemporal».
Los medios informan que se quedó unos 20 minutos, dejando que los invitados discutieran estos asuntos entre ellos. Para la cumbre del rey, OpenAI envió a su directora financiera Sarah Friar, mientras que Anthropic envió a Tino Cuéllar, quien lidera los asuntos globales. Cuando se le contactó para hacer comentarios, Cuéllar dijo que la compañía se sentía honrada de haber participado en la discusión y que estaba agradecida al Rey por “convocar a líderes de la industria y voces de toda la sociedad para discutir el papel de la IA al servicio del bien público”.
Esta no es la primera vez que el rey Carlos habla sobre los desafíos y beneficios de la IA, ya que lo hizo antes en 2023 y 2024. Sin embargo, esta cumbre es especialmente oportuna ya que la IA continúa dominando todas las industrias, temas y formas de conversación. Este mes, Sam Altman, Elon Musk y Dario Amodei de Anthropic pidieron una desaceleración en el desarrollo de la IA, pero Huang de Nvidia y el presidente Donald Trump rápidamente rechazaron esos llamados. «Estamos liderando a China en IA», dijo el presidente. «Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así porque quien gana en IA, gana».
Muestra cuán complejo se ha vuelto el asunto, a medida que chocan los intereses de las grandes tecnologías, la política y la sociedad. Durante el año pasado, OpenAI y Anthropic se han burlado de OPI de gran éxito, aunque OpenAI dijo recientemente que sus planes de OPI se estancaron este año debido a que persisten las preocupaciones sobre la seguridad de la IA.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.