Box recurre a Nemotron de Nvidia para un nuevo sistema de recuperación de contenido centrado en el agente

En su conferencia de desarrolladores del jueves, Box mostró una nueva característica que integrará el sistema de integración Nemotron de Nvidia en el núcleo de su producto.

Llamada Box Content Retrieval, la nueva característica permite a los agentes responder consultas de manera mucho más efectiva al confiar en los metadatos integrados creados por Nemotron.

Box dice que el resultado para los usuarios son consultas más rápidas, más precisas y menos costosas. La vicepresidenta de software de inteligencia artificial generativa de Nvidia, Kari Briski, dijo a TechCrunch que espera que las consultas sean respondidas cuatro veces más rápido, con un 20% menos de errores y un 90% menos de tokens utilizados.

El sistema estará disponible para todos los clientes de Enterprise Advance de Box y se implementará a principios del próximo año.

«Esto aumenta drásticamente la relevancia de nuestra tecnología de búsqueda para los agentes», dijo el director ejecutivo de Box, Aaron Levie. «En lugar de que un agente tenga que leer cada documento, podemos enviar fragmentos de los documentos que sean más relevantes para la consulta del usuario o cualquier tarea que esté realizando el agente».

La característica es una implementación del proyecto Nemotron Embed de Nvidia, que ofrece modelos de integración de peso abierto para mejorar los sistemas de recuperación automatizados. Los principales laboratorios a menudo han pasado por alto estos modelos, que utilizan LLM para preprocesar datos para que los agentes puedan utilizarlos mejor. El sector ha sido un foco para el proyecto de modelo de código abierto de Nvidia, con su reciente lanzamiento Nemotron en julio superando el punto de referencia RTEB, que mide la calidad de recuperación.

El sistema será más útil cuando se combine con agentes activos, dice Box, y pone el ejemplo de los abogados, quienes aparentemente podrán encontrar cláusulas y precedentes relevantes más fácilmente bajo el nuevo sistema. Debido a que las incorporaciones de Nemotron van más allá de simples palabras clave para mapear conceptos subyacentes, una herramienta de búsqueda puede mostrar temas legales relacionados incluso cuando se utilizan palabras o lenguaje diferentes.

Si bien los modelos Nemotron están disponibles gratuitamente, el sistema también depende en gran medida de los controles de permisos y metadatos preexistentes de Box, lo que hará que sea difícil recrearlos desde cero. «Probablemente estemos integrando cinco tecnologías diferentes en una API simple», dijo Levie a TechCrunch.