Los investigadores de Google y Google DeepMind lanzaron el Instituto DeepMind el miércoles para avanzar en la conversación sobre la inteligencia artificial general (AGI). El instituto incluye al cofundador de DeepMind, Shane Legg, al ejecutivo de Google, James Manyika, y al presidente de Google DeepMind, Demis Hassabis, como directores, con Legg como editor en jefe.
El nuevo instituto tiene como objetivo sacar a la luz los diferentes puntos de vista entre Google, Google DeepMind y la comunidad de investigación global más amplia en torno a AGI. “No siempre estarán de acuerdo y probablemente cambiarán de opinión a medida que salgan a la luz más datos e información en una frontera en rápido movimiento”, decía el anuncio.
La colección inaugural de cuatro ensayos cubre una variedad de temas: políticas económicas para gestionar posibles interrupciones de AGI, preservar el razonamiento de modelos legibles por humanos, principios para el florecimiento humano y un marco para evaluar modelos de IA de frontera.
Un ensayo, de los investigadores de seguridad de DeepMind, Rohin Shah y Anca Dragan, sostiene que la cada vez más pequeña ventana de transparencia de la IA (la capacidad de ver y comprobar el razonamiento paso a paso de un modelo) no es inevitable. A medida que las nuevas arquitecturas hacen que los modelos más potentes sean más difíciles de monitorear, los autores dicen que los desarrolladores y reguladores deberían enfrentar directamente las compensaciones en materia de seguridad. Eso podría significar limitar la “profundidad serial opaca” (la cantidad de cálculo secuencial que un modelo puede realizar sin producir un rastro de razonamiento legible) o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo igual de monitorizables.
En otro ensayo, Hassabis propone un organismo fronterizo de estándares de IA liderado por Estados Unidos para evaluar los modelos de IA más avanzados. Según su marco, los desarrolladores inicialmente enviarían modelos voluntariamente para su revisión hasta 30 días antes de su lanzamiento. Una vez que el sistema de evaluación haya demostrado su eficacia, pasar sus pruebas podría convertirse en un requisito para implementar modelos fronterizos en Estados Unidos.
Al principio, el organismo diseñaría evaluaciones en consulta con empresas de inteligencia artificial, pero eventualmente desarrollaría evaluaciones independientes y no divulgadas (lo que el ensayo llama pruebas «retenidas») para evitar que los laboratorios adapten sus modelos a evaluaciones conocidas. Hassabis dijo que el marco podría “reforzarse si la gravedad de la situación lo exige”, incluyendo potencialmente una desaceleración coordinada entre los desarrolladores de inteligencia artificial de frontera.
Los ensayos llegan cuando el debate sobre seguridad en la industria pasa de declaraciones amplias de preocupación a propuestas concretas de divulgación, escrutinio externo y, si las salvaguardias se quedan atrás, desaceleraciones coordinadas. Ese cambio se aceleró esta semana cuando los líderes de la industria respaldaron elementos del llamado del CEO de Anthropic, Dario Amodei, para «acelerar» el desarrollo fronterizo de la IA.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.