Más de 20 investigadores de IA han advertido que los sistemas de IA que automatizan la investigación de IA podrían desencadenar una «explosión de inteligencia». Entre ellos se incluyen el científico jefe de OpenAI y un cofundador de Anthropic. Un evento así podría comprimir años de progreso en meses o menos, escribieron en un artículo publicado el lunes.
Geoffrey Hinton y Yoshua Bengio se encuentran entre los autores. También lo son el científico jefe de OpenAI, Jakub Pachocki, el cofundador de Anthropic, Jack Clark, Eric Horvitz de Microsoft y Dawn Song de UC Berkeley. Song también es vicepresidente de investigación de IA de Meta, El diario de Wall Street informó. Los autores escribieron a título personal. El artículo proviene del Programa de Cambridge sobre Ciencia y Política de IA de la Universidad de Cambridge.
«Una vez que comienza una explosión de inteligencia, la ventana para la acción puede cerrarse», escribieron los autores.
La IA ya escribe la mayor parte del código
Los sistemas de inteligencia artificial ahora escriben la mayor parte del código dentro de las empresas que los construyen, dice el documento. Cita datos antrópicos: la proporción de código aprobado de la IA aumentó de un solo dígito a más del 80% entre enero de 2025 y mayo de 2026. Entre marzo y agosto de 2026, la proporción del trabajo de I+D que la IA realizó con solo una ligera supervisión humana aumentó del 1% al 26%.
Algunas extrapolaciones provisionales sugieren que proyectos de investigación de IA de meses de duración podrían automatizarse a mediados de 2028, escribieron los autores. A nivel experto, un desarrollador de vanguardia podría dirigir una fuerza laboral de IA equivalente a millones de investigadores humanos de primer nivel.
El documento dice que esto podría hacer que las curas médicas y otros beneficios avancen años. También enumeran tres riesgos. La IA podría superar la capacidad de adaptación de la sociedad, los humanos podrían perder el control de los sistemas de IA y los controles sobre el poder podrían debilitarse. En el caso extremo, una pérdida de control podría conducir a la marginación o extinción de la humanidad, escribieron.
El documento cita el incidente de Hugging Face, en el que alrededor de 1.200 agentes internos de OpenAI accedieron a Internet sin autorización. OpenAI ha desde entonces entrenamiento pausado de sus modelos más capaces.
Lo que quieren que hagan los gobiernos
Los autores piden a los responsables políticos que tengan visibilidad sobre hasta qué punto las empresas han automatizado su propia I+D. Eso podría incluir informes estándar y auditores independientes integrados dentro de las empresas de IA. También proponen límites a la rapidez con la que pueden crecer las capacidades y formas de detener la investigación de IA en los centros de datos. Los planes de respuesta a emergencias y los acuerdos internacionales también están en la lista.
Los autores dicen que el resultado es incierto. Cuatro fricciones podrían ralentizarlo: rendimientos decrecientes, límites en computación y datos, tareas difíciles de automatizar y largos ciclos de entrenamiento.
«Hoy ya estamos en una etapa en la que necesitamos sistemas de inteligencia artificial para monitorear lo que hacen los agentes. No hay otra forma de observar y monitorear a estos agentes, los humanos ya son insuficientes», dijo Song al Journal.
OpenAI, Microsoft y Meta se negaron a hacer comentarios al Journal y Anthropic no respondió. Hinton dijo recientemente a los senadores estadounidenses que tenían tal vez un año actuar sobre la IA. Bengio ha pedido al Consejo de Seguridad de la ONU que licencia frontera AI. OpenAI también ha pedido a EE.UU. que lidere estándares globales para una IA automejorada.