El lunes, OpenAI anunciado impresionante avances en matemáticas, informática y física, junto con lo que la compañía dice es un enfoque en evolución para comunicar sus hallazgos. Pero a pesar de su aparente corrección de rumbo, los investigadores que hablaron con El borde están cada vez más cansados de las payasadas de la empresa.
Han sido unos meses turbulentos entre OpenAI y los matemáticos, que todavía están lidiando con los cientos de preimpresiones. arrojados sin contemplaciones sobre ellos a principios de octubre. Esta vez, OpenAI dice que está trabajando con “pastores” expertos para decidir cuál es la mejor manera de compartir sus últimos avances.
Los tres resultados se refieren a algunos de los problemas sin resolver más importantes en matemáticas, informática y física. Algunos amplían el trabajo anterior de OpenAI y otros abren nuevos caminos. Siguiendo los consejos de los “pastores” de OpenAI, cada uno tiene una estrategia de lanzamiento diferente. Para el resultado matemático, OpenAI publicó el resultado generado por IA, «dejando a los investigadores libres para organizar sus propios esfuerzos para explicar el resultado». Para su hallazgo en informática, OpenAI también reunirá a un grupo externo de investigadores «para explicar el resultado». Mientras tanto, la física no se ha publicado en absoluto y OpenAI dijo que «deferirá» a un grupo externo de expertos la cuestión de cómo publicar los materiales.
- El resultado matemático parece sorprendente. Pretende resolver la conjetura de Kakeya en todas las dimensiones. En términos generales, el problema es qué poco espacio se necesita para girar una aguja o un lápiz en todas direcciones. Una prueba de la versión tridimensional fue uno de los logros por los que Hong Wang, matemático de la Universidad de Nueva York, fue elegido premiado una prestigiosa Medalla Fields a principios de este año. Brendan Hassett, profesor de matemáticas de la Universidad de Brown, dijo El borde La afirmación de OpenAI «parece bien respaldada», aunque enfatizó que aún no había verificado la formalización Lean, un medio para verificar computacionalmente los resultados.
- El resultado de física explora el Modelo Estándar, el marco teórico más completo y exitoso en física. Se trata de cromodinámica cuántica, que describe la fuerza nuclear fuerte, una de las cuatro fuerzas fundamentales de la naturaleza (junto con la fuerza gravitacional, la fuerza electromagnética y la fuerza nuclear débil) y su relación con la teoría de Yang-Mills, piedra angular de la física de partículas moderna. La teoría de Yang-Mills también está en el centro de uno de los siete Problemas del Premio Milenio en matemáticas, aunque el trabajo de OpenAI no aborda la «brecha masiva» no resuelta.
- El resultado final pretende refutar la hipótesis del tiempo exponencial, una suposición ampliamente aceptada en la informática teórica de que ciertos problemas no pueden resolverse sustancialmente más rápido que los enfoques de fuerza bruta. Está estrechamente relacionado con P versus NP, otro problema del Premio del Milenio y uno de los mayores problemas sin resolver en este campo, que pregunta si los problemas cuyas soluciones pueden comprobarse fácilmente también son fáciles de resolver.
Dados los distintos niveles de divulgación y la complejidad de evaluar dicho trabajo, es difícil para los investigadores juzgar plenamente los hallazgos de la empresa. Incluso con toda la información, hacerlo llevaría tiempo. Pero los expertos que hablaron con El borde dijo que hay buenas razones para tomar en serio los resultados y los describió como “enormes”, “grandes avances” y “significativos”.
«No tiene ningún sentido que al principio sólo unos pocos científicos distinguidos puedan examinarlos».
Pero el entusiasmo de los investigadores por la ciencia se vio atenuado por la exasperación por la conducta de OpenAI, un sentimiento familiar después de meses de lo que describen como un aluvión agotador de hallazgos generados por IA. Muchos estaban ansiosos por que la comunidad en general continuara con la ardua tarea de examinar los hallazgos del laboratorio de IA y cuestionaron por qué OpenAI estaba poniendo barreras adicionales al seleccionar expertos para supervisar el proceso.
La mayoría de los expertos El borde habló con satisfacción la decisión de OpenAI de consultar a investigadores externos, pero argumentó que anunciar públicamente los resultados también debería significar poner ese trabajo a disposición de cualquiera para examinarlo. «Me parece bien que publiquen los problemas como lo hicieron hoy», dijo Constantin Kogler, investigador del Instituto de Estudios Avanzados, al celebrar el lote más manejable de tres resultados en comparación con los cientos publicados anteriormente. Pero cuestionó la decisión de restringir el acceso a los expertos elegidos por OpenAI. «No tiene ningún sentido que al principio sólo unos pocos científicos distinguidos puedan examinarlos», afirmó.
«El hecho de que hayan elegido personalmente al grupo es un desastre», dijo Andreas Karch, profesor de física de la Universidad de Texas en Austin. El borde. «Los grandes laboratorios ya tienen suficiente potencia. No deberían elegir ganadores y perdedores». Karch inicialmente sugirió seleccionar investigadores a través de un “proceso competitivo”, aunque reconoció que probablemente produciría un grupo similar, que describió como “de primera categoría”. Posteriormente, cuestionó por qué OpenAI “no puede publicar las pruebas ahora”, además de nombrar a su equipo de expertos. «Esto democratizaría el acceso y al mismo tiempo demostraría que les importa que los resultados sean significativos y comprensibles», dijo.
“Mi sensación es que, ante cualquier enfoque, habrá alguien que se enoje”.
Es exactamente el tipo de control que el Grupo Asesor en Matemáticas e Inteligencia Artificial (AGMAI), un grupo de expertos que tenía OpenAI. previamente se comprometió a consultar sobre cómo compartir sus hallazgos, prevenido contra apenas un día antes del anuncio. “Recomendamos que las empresas de IA no adopten esta práctica”, dijeron, argumentando que seleccionar a ciertas personas para recibir el resultado primero es “innecesario”, toma prestada la reputación de los investigadores seleccionados y corre el riesgo de un acceso desigual, una selección sesgada y retrasos, entre otras cuestiones. En cambio, recomendaron que los laboratorios de IA publiquen resultados en repositorios académicos, con pruebas formalizadas e información sobre cómo se eligieron los problemas, y proporcionen financiación y otro tipo de apoyo a las personas que trabajan en la comprensión de los resultados.
Tras la publicación de los últimos resultados, AGMAI instó a OpenAI a “hacer públicos sin demora los resultados en lenguaje natural y Lean detrás de sus” resultados anunciados en física:
«Si bien estas son cuestiones centrales en física, también son cuestiones importantes en matemáticas. La existencia de la teoría cuántica de Yang-Mills es parte de un problema del Premio del Milenio y la construcción de teorías de campos cuánticos que interactúan en cuatro dimensiones ha sido un objetivo de la física matemática durante décadas.
Sentimos un gran respeto por los científicos a los que OpenAI pidió que lideraran este trabajo. Pero como explicamos en nuestra reciente declaraciónla comprensión debe desarrollarse abiertamente y todos deben tener el mismo acceso. OpenAI ha dicho que retrasó el lanzamiento hasta que se completara la formalización de Lean. Según sus propias palabras, esto ya está completo, por lo que no hay ninguna razón científica para retrasar más la liberación”.
Hacer que los hallazgos estén disponibles abiertamente también podría conducir a una mejor ciencia y fomentar una adopción más amplia de nuevas herramientas como la IA, dijo Hassett. «El hecho de que muchos grupos en todo el mundo luchen con estos resultados apoya la rápida adopción de nuevas herramientas por parte de aquellos que quieran utilizarlas», afirmó.
«Los resultados fundamentales se están resolviendo muy rápidamente sin la contribución humana… los documentos son difíciles de leer y verificar».
Encontrar una manera de comunicarse con los investigadores en los campos en los que OpenAI está invadiendo cada vez más y que satisfaga a todos puede ser imposible. La compañía dice que está experimentando con diferentes enfoques y reconoce que cada uno tiene sus ventajas y desventajas. «Mi sensación es que, cualquiera que sea el enfoque, habrá alguien que se enoje», dijo el matemático de Stanford Jared Duker Lichtman. «Así que es sólo cuestión de encontrar la opción menos ofensiva».
Xiaoyu He, profesor de matemáticas en el Instituto de Tecnología de Georgia, cree que el problema es más profundo que la forma en que OpenAI decide anunciar sus hallazgos. «Los resultados son muy impresionantes», dijo, «pero creo que están haciendo una demostración de que intentan ser responsables y reflexivos sobre cómo publican los resultados sin poder cambiar los problemas principales: que los resultados fundamentales se están resolviendo tan rápidamente sin la contribución humana, y que los documentos son difíciles de leer y verificar».