Después de convertir una serie de resultados matemáticos espectaculares en un crisis reputacionalOpenAI está consultando a matemáticos humanos para que le ayuden a encontrar un camino menos desastroso a seguir.
El lunes, la empresa anunciado un nuevo panel independiente de matemáticos encargado de asesorarlo a ella y a otras empresas de inteligencia artificial sobre sus interacciones con la investigación matemática y la comunidad matemática en general, incluida cómo se presentan y publican los nuevos resultados. Su abrupta llegada tomó por sorpresa a muchos matemáticos. Los investigadores dijeron El borde El grupo es un buen primer paso, pero muchos dijeron que les quedaban preguntas básicas sobre qué hará realmente, cuánta influencia tendrá y si OpenAI realmente lo escuchará, así como preocupaciones sobre si un grupo tan pequeño de investigadores prominentes puede representar a la comunidad matemática en general.
El grupo de nueve miembros está repleto de quienes los investigadores describieron El borde como celebridades en el campo, provenientes de instituciones como Stanford, Harvard, Oxford y Cambridge, con múltiples Medallas Fields y “becas genio” MacArthur entre ellas. Será organizado en Princeton, el Instituto de Estudios Avanzados (IAS) de Nueva Jersey, uno de los centros de investigación matemática más venerados del mundo y antiguo hogar intelectual de figuras como Albert Einstein, John von Neumann y J. Robert Oppenheimer.
«El otro hecho fundamental es que nuestro objetivo general es representar lo mejor posible los intereses de la comunidad matemática».
OpenAI dijo que el grupo, llamado Grupo Asesor en Matemáticas e Inteligencia Artificial (AGMAI), operará de forma independiente, con la libertad de ofrecer asesoramiento que la empresa no haya solicitado, comentar públicamente sobre su impacto en las matemáticas y hacer públicos sus consejos, aunque no proporcionó detalles sobre lo que esto podría implicar. Parece que al grupo se le concederá acceso anticipado a la investigación de OpenAI para poder cumplir su tarea. OpenAI no pagará a los miembros y el grupo puede cambiar su membresía como mejor le parezca, dijo OpenAI. «Su valor depende de que sus miembros puedan ejercer su propio criterio y desafiar el nuestro», dijo la empresa. «El grupo asesorará sobre la revisión y comunicación de los resultados emergentes: ayudará a OpenAI a evaluar su importancia, asesorará sobre cómo coordinar su difusión y asesorará sobre los estándares académicos y profesionales de la investigación matemática. También asesorará sobre cómo nuestras herramientas pueden apoyar la investigación y el aprendizaje matemático».
A pesar de todo el énfasis en la independencia, no está claro cuánta influencia tendrá realmente el grupo o por qué se formó en primer lugar. Simon Machado, investigador de ETH Zurich en Suiza, dijo que todo parecía “envuelto en un misterio” y cuestionó cómo se seleccionaron los nueve miembros. el grupo sitio web básico dice que «se reunió después de que OpenAI se acercó a algunos de sus miembros para establecer un consejo asesor externo», pero que, luego de conversaciones con la compañía, los matemáticos decidieron lanzar un grupo independiente e invitar a otros a unirse. No está claro a qué miembros se acercó inicialmente OpenAI o cómo se seleccionaron los miembros restantes.
en un publicación de blog Publicado el martes, el miembro del grupo asesor Martin Hairer explicó los orígenes del grupo y el pensamiento detrás de él, respondiendo a lo que llamó un “torrente de desinformación” que rodea su formación. «Es obvio que la IA ya ha tenido un impacto profundo en la investigación matemática y plantea numerosas cuestiones sobre la atribución correcta de ideas, la prioridad, la comprensión humana de las ideas, etc.», escribió, añadiendo que no tiene sentido que la comunidad «adopte un enfoque duro de ‘avestruz’ de simplemente ignorar los laboratorios de IA y negarse a hablar con ellos por principio».
Si bien reconoció que el grupo se formó en respuesta a un enfoque de OpenAI, Hairer enfatizó que la compañía no se había puesto en contacto con todos sus miembros y que la organización resultante es «realmente independiente de OpenAI y de cualquier otro de los llamados laboratorios de IA ‘fronterizos'». Más allá de los «obvios requisitos de confidencialidad», dijo que los miembros no han firmado ningún acuerdo restrictivo que rija lo que pueden decir públicamente, y agregó que no reciben ninguna compensación financiera y dependen del apoyo técnico de la IAS.
“El otro hecho fundamental es que nuestro objetivo general es representar lo mejor posible los intereses de la comunidad matemática”, escribió Hairer, profesor de matemáticas en el Imperial College de Londres y en el Instituto Federal Suizo de Tecnología en Lausana (EPFL). Si bien señaló que el grupo no es una muestra representativa de la comunidad, dijo que está “absolutamente seguro de que los nueve nos tomamos esto muy en serio y estamos actuando de buena fe”.
Independientemente de cómo se hayan seleccionado los miembros, el grupo actualmente comprende un cuadro de élite de matemáticos académicos. El pequeño tamaño plantea más dudas sobre si el grupo tiene la amplitud de experiencia necesaria para evaluar todo lo que se le presente, dadas las habilidades y conocimientos altamente especializados necesarios para operar en las fronteras de las matemáticas.
Francesco Fournier-Facio, profesor entrante de matemáticas en la Universidad Heriot-Watt en Escocia, se describió a sí mismo como bastante “ambivalente” acerca del panel, diciendo que un mayor compromiso con los matemáticos “sólo puede mejorar las cosas”. Pero cuestionó si este grupo refleja plenamente la comunidad cuyo trabajo y medios de vida están siendo trastornados por OpenAI. misión para acumular trofeos matemáticos. «Se siente como una torre de marfil», dijo. El borde.
Machado también cuestionó si los miembros del grupo entienden plenamente o pueden hablar con el preocupaciones de la comunidad matemática en general cuando se trata de IA. «Son matemáticos increíbles, pero no sé si son las personas que quiero que me representen en cuestiones más políticas», dijo. Para los matemáticos en sus posiciones y en posiciones similares de élite, Machado dijo: «Creo que la realidad que enfrentan es muy diferente de la realidad que enfrentan la mayoría de los matemáticos en este momento».
Si el grupo puede ganarse la confianza de los matemáticos determinará en última instancia qué tan efectivo será para contener las consecuencias del reciente desfile de errores de OpenAI al anunciar los resultados y, lo que es más importante, suavizar el golpe de lo que sea que la compañía planee anunciar a continuación. En su blog, Hairer dijo que los miembros “sería muy ingenuo si creyera que los laboratorios de IA no intentarán girar todo lo que digamos de una manera que se adapte a su máquina de relaciones públicas, lo que eclipsa cualquier cosa que se nos ocurra”.
Sin embargo, Hairer argumentó que sería hipócrita no participar ahora que OpenAI parece estar haciendo un esfuerzo, particularmente después de que muchos criticaron la conducta y las malas comunicaciones de la empresa. El grupo todavía tiene que decidir qué consejo pretende brindar, dijo, pero hay un problema claro al que está respondiendo: «Es un hecho que las compañías de IA han estado produciendo en los últimos meses algunos resultados matemáticos de alto perfil y que su publicación y difusión han estado muy lejos de ser una práctica matemática aceptable, cualquiera que sea la forma en que se defina».
«Actualmente nos enfrentamos al desafío muy específico de asesorar a OpenAI sobre cómo coordinar la publicación de una gran cantidad de resultados significativos en matemáticas que, según informan, han sido producidos por su modelo interno».
Por ahora, Hairer dijo que el grupo está recopilando opiniones a través de conversaciones con colegas, un público formulario de comentariosy discusión sobre Pruebas y indicacionesun blog que se ha convertido en un foro clave para los matemáticos que analizan el impacto de la IA en este campo.
Pero el mayor desafío del grupo probablemente esté por delante. Al anunciar el grupo asesor, OpenAI casualmente dejó caer la noticia de que su nuevo modelo inédito (el mismo que resolvió el problema del Premio Navier-Stokes Millennium) ahora ha «resuelto más de 100 problemas abiertos de larga data en la mayoría de las áreas de las matemáticas». Anteriormente había dicho que se estaba acercando a otro problema del Premio del Milenio. En su sitio web, el grupo dijo que lidiar con este estancamiento es su primera prioridad: «Actualmente nos enfrentamos al desafío muy específico de asesorar a OpenAI sobre cómo coordinar la publicación de una gran cantidad de resultados significativos en matemáticas que, según informan, han sido producidos por su modelo interno».
En parte, el nuevo esfuerzo por involucrar a los matemáticos es un reconocimiento del monumental desastre de relaciones públicas que supuso su intento, en el que se encontró la empresa. defenderse de las acusaciones de secuestrar a los investigadoressin dar crédito al trabajo humano sobre el que se basaron sus modelos, e incluso robando a quienes los utilizan. Esas controversias llevaron a muchos matemáticos a preguntarse si la empresa entendía (o incluso respetaba) la disciplina y la comunidad en la que se había metido.
Después de los últimos meses y con tanto escrito sobre lo que quieren los matemáticos, Kevin Buzzard, profesor de matemáticas en el Imperial College de Londres, se preguntó por qué OpenAI sentía que necesitaba un organismo de élite para comprender lo que quiere la comunidad. «No fueron pruebas de teoremas difíciles, sino una mejor comprensión de nuestro tema», dijo. «No me queda del todo claro que se necesite un comité de personas brillantes para aclarar el punto».