ARIA del Reino Unido probará los servidores de IA basados ​​en luz de Lumai en un centro de datos

El Scaling Inference Lab de ARIA implementará los servidores Iris de Lumai, que utilizan haces de luz para ejecutar cálculos de IA, como su primera plataforma óptica. Lumai afirma grandes ahorros de energía, pero estos no han sido probados de forma independiente. El laboratorio probará los servidores en un centro de datos comercial.

La Agencia de Invenciones e Investigación Avanzada (ARIA) del Reino Unido probará servidores que utilizan luz para ejecutar modelos de IA en un laboratorio que financia, la startup de Oxford Lumai. dijo el martes.

El Scaling Inference Lab, respaldado por 50 millones de libras esterlinas de ARIA y dirigido por la organización sin fines de lucro CommonAI, instalará los servidores Iris de Lumai como su primera plataforma de computación óptica. Los ejecutará en varias máquinas en un centro de datos comercial, para ver cómo se enfrentan a modelos reales de IA, energía y refrigeración.

Lumai, surgido de la Universidad de Oxford en 2021, codifica datos en haces de luz. Sus chips hacen los cálculos pesados ​​detrás de la IA utilizando luz en lugar de transistores de conmutación, mientras que la electrónica normal se encarga del resto. Salience Labs, que también se basa en la investigación de Oxford, recaudó 125 millones de dólares el mes pasado para interruptores ópticos.

La empresa apunta su hardware a “prellenar«, la etapa en la que un modelo lee por primera vez el mensaje de un usuario. Los chips comunes aún producirían la respuesta.

“La tecnología de lumai es la plataforma de computación óptica más madura que evaluamos,”, dijo David Lewis, director de ciencia y tecnología de ARIA.

Lumai afirma que su enfoque podría reducir el uso de energía del centro de datos hasta en un 90%. También dice que el sistema es al menos 16 veces más eficiente energéticamente por solicitud que el silicio solo, cuando se combina con chips estándar. Ninguna de estas cifras ha sido verificada de forma independiente y probarlas es trabajo del laboratorio.

El laboratorio ya alberga la startup británica Oriole, que utiliza luz para vincular chips de IA. Mientras tanto, Nvidia ha gastado miles de millones en conexiones basadas en luz dentro de los centros de datos. Otra startup británica de chips de inferencia, Fractile, está recaudando 6.500 millones de dólares.