El AI Lab PrismML, fundado por investigadores de Caltech y asesorado por Ion Stoica de UC Berkeley, ha creado una versión de sus pequeños modelos de lenguaje para gafas inteligentes que funcionan con chips Snapdragon de Qualcomm.
El miércoles, en la Cumbre Snapdragon de Qualcomm, el fabricante de chips presentó Bonsai LLM de 1 bit de PrismML, que se puede ejecutar localmente en gafas inteligentes con IA integradas en la plataforma Snapdragon AR1 Gen 1.
Como informó anteriormente TechCrunch, la fama de PrismML es que reduce sustancialmente los modelos más grandes (en este caso, 4 veces), al tiempo que conserva casi todo su rendimiento en los puntos de referencia estándar. La versión de gafas inteligentes es un modelo de 2 mil millones de parámetros adaptado a la visión y el lenguaje, de modo que los usuarios puedan preguntar qué están mirando en tiempo real.
El objetivo más amplio de Prism es una IA de peso abierto que se ejecute en dispositivos y haga un mejor uso de la potencia informática que ya tienen. La startup presenta esto como una alternativa a depender de las promesas de privacidad de los laboratorios de inteligencia artificial propietarios y su insaciable necesidad de más computación.
Lanzar un modelo para el chip de Qualcomm es un paso hacia esa visión. Pero todavía no se han anunciado gafas inteligentes con PrismML.