Biological Computing Co. (TBC), una startup de San Francisco que cultiva neuronas vivas para mejorar los modelos de IA, se ha asociado con Amazon Web Services para llevar su primer producto comercial, un modelo de vídeo de IA derivado de neuronas, a los clientes que pagan. El modelo de texto a video se ajusta con software en función de cómo esas células procesan la información.
TBC construyó el modelo en un generador de video de código abierto al que no dio nombre. La compañía dice que produce video cinco veces más rápido y con un costo de inferencia un 80% menor que el modelo base, con mejor rendimiento, aunque no ha publicado puntos de referencia y no pudimos verificar las cifras.
Las propias neuronas permanecen en el laboratorio. TBC los usa durante el descubrimiento y luego convierte lo que aprende en una capa de software liviana que agrega menos del 0,1% al modelo subyacente, a diferencia del rack de servidores impulsado por neuronas encendido en Singapur en agosto.
Ese diseño significa que los clientes no necesitan hardware biológico ni cambios en su forma de trabajar. El modelo optimizado se ejecuta en GPU estándar y aceleradores en la nube, con la misma capacidad que una empresa alquilaría para cualquier otro modelo generativo.
En el marco de la asociación, TBC planea ejecutar el modelo en Chips Trainium de Amazonofrézcalo para su implementación en Amazon SageMaker AI e inclúyalo en AWS Marketplace, para que los clientes puedan acceder a él desde los entornos de AWS que ya utilizan.
«Nuestra asociación con AWS lleva la optimización de la IA derivada de neuronas a escala comercial», afirmó Alex Ksendzovsky, director ejecutivo y cofundador de TBC.
Describió la biología como un motor fundamentalmente diferente para encontrar mejores estrategias de optimización a medida que la empresa realiza más experimentos.
«La naturaleza resolvió el problema de la eficiencia informática hace miles de millones de años. La idea de TBC es que podemos aprender de la computadora original (el cerebro humano) para hacer que la IA sea más rápida, más eficiente y más económica», dijo Jason Bennett, vicepresidente y director global de Startups y Venture Capital de AWS.
El argumento comercial de TBC se basa en la economía unitaria. Los resultados más baratos permiten que una plataforma acepte más usuarios sin agregar servidores, una generación más rápida acorta el ciclo creativo y menos clips inutilizables significan menos computación quemada en trabajos que nadie conserva.
«La informática se está convirtiendo en una de las mayores limitaciones de la IA», afirmó Jon Pomeraniec, cofundador y director de operaciones de TBC. «Necesitamos más infraestructura, pero también debemos hacer que cada unidad de computación sea dramáticamente más productiva. Los costos de inferencia más bajos significan que más empresas pueden darse el lujo de construir, escalar y poner a trabajar una IA poderosa».
Cada experimento con células vivas alimenta una biblioteca cada vez mayor de datos de respuesta neuronal y algoritmos candidatos en TBC. Después del video, TBC quiere ejecutar otros modelos y arquitecturas a través del mismo proceso, seguidos de más cargas de trabajo de IA.
Las empresas y los creadores pueden solicitar acceso temprano ahora.