El lunes, Amazon Web Services lanzó una herramienta llamada TorchNeuron que permite a las nuevas empresas de IA mover fácilmente sus aplicaciones de IA al chip de IA de Amazon, Trainium. Al hacerlo, Amazon también está aprovechando directamente la ventaja del software que ha ayudado a Nvidia a convertirse en la opción de hardware predeterminada para aplicaciones de IA y ha estimulado su ascenso como proveedor preferido de hardware de IA.
TorchNeuron trabaja con PyTorch, un conjunto de herramientas gratuito de código abierto que los desarrolladores utilizan para crear, entrenar y ejecutar modelos de IA. Permite que las aplicaciones de IA escritas con PyTorch se ejecuten en Trainium cambiando solo una línea de configuración, según Amazon, sin necesidad de reescribir el código.
Amazon dice que alrededor del 85% de las aplicaciones de inteligencia artificial están escritas con PyTorch. Facebook lo desarrolló originalmente, pero desde 2022 forma parte de la Fundación Linux, que mantiene proyectos de código abierto. Nvidia ha pasado años asegurando que su software CUDA (la infraestructura de software que permite que las aplicaciones se ejecuten en las GPU de Nvidia y su otro hardware) admita perfectamente aplicaciones de IA escritas con PyTorch. Como resultado, el hardware de Nvidia ahora está profundamente integrado en el conjunto de herramientas, esencialmente de forma predeterminada.
TorchNeuron es una adaptación de PyTorch, por lo que los desarrolladores que conocen PyTorch ya saben cómo usarlo. Amazon no es la primera empresa que intenta llevar fácilmente sus chips a la plataforma. Los usuarios de PyTorch también pueden portar sus aplicaciones a GPU AMD o incluso a chips de Apple con un simple cambio de configuración.
Sin embargo, Amazon sostiene que la migración a Trainium no sólo es fácil; También brinda a las nuevas empresas de IA acceso a toda la nube de Amazon. Como era de esperar, AWS afirma que esta es una mejor opción para las empresas emergentes que usar neonubes, muchas de las cuales están vinculadas a Nvidia y su hardware, como Coreweave, Nebius y Firmus.
«Estás construyendo sobre AWS. No estás apostando por un proveedor de computación de un solo propósito y luchando por construir todo lo demás a su alrededor», dijo a TechCrunch Colin Brace, vicepresidente de software tecnológico de AWS Annapurna Labs (la unidad que fabrica los chips personalizados de Amazon) por correo electrónico. «En AWS», continuó, «la infraestructura para pasar del prototipo a la producción ya está ahí, lo que permite al fundador avanzar rápidamente y escalar cuando lo necesite».
AWS dice que debido a que el mismo chip maneja el entrenamiento (enseñar el modelo de IA) y la inferencia (poner a trabajar el modelo terminado, como cuando responde a la pregunta de un usuario), y está estrechamente integrado con la infraestructura de nube que las nuevas empresas necesitan, su nube les ahorrará dinero, incluso si AWS no ofrece el precio más barato por token.
«El valor de Trainium es la relación precio-rendimiento más el hecho de que es una plataforma tanto para capacitación como para inferencia, lo que mejora la economía en una carga de trabajo completa», dijo Brace. «Mire a Deepgram: se trasladaron a Trainium utilizando PyTorch nativo, soporte y están procesando un 70% más de audio por dólar con una precisión de nivel de producción». Deepgram es un proveedor de aplicaciones de voz de IA, un competidor de ElevenLabs.
Pero Amazon no se contenta con ofrecerles a los desarrolladores de aplicaciones PyTorch una opción fácil para migrar a su nube.
Amazon también dice que está presionando a PyTorch para que se centre menos automáticamente en Nvidia, y contribuirá con el código para hacerlo al proyecto principal de PyTorch. En la publicación del blog que anuncia la nueva herramienta, la empresa escribió:
«El enfoque de Amazon se extiende más allá de su propio hardware. La compañía está contribuyendo con cambios en el propio PyTorch, trabajando con la comunidad de PyTorch para eliminar el código que vincula el marco a chips específicos. El objetivo es hacer que PyTorch sea más independiente del hardware para toda la comunidad de desarrolladores, no solo para los usuarios de Trainium».
Si bien esta táctica es indudablemente buena para quienes venden hardware y servicios en la nube que compiten con Nvidia, uno de los objetivos de PyTorch es ocultar todas las molestas dificultades de hacer que el código de IA se ejecute en el hardware. Tendremos que esperar y ver si llevar a Nvidia tan lejos les da a los desarrolladores más opciones y opciones más asequibles, como promete Amazon, o simplemente más dolores de cabeza de configuración.
De cualquier manera, si Amazon logra desvincular profundamente a PyTorch de Nvidia, esto podría tener ramificaciones mucho mayores para el gigante de las GPU que simplemente lidiar con competidores de chips. Como dijo Brace: «La verdadera historia es eliminar el bloqueo que impedía a los desarrolladores tener una opción real».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.