Sam Altman dice que es mejor que la RAM esté en un centro de datos que en su escritorio


«Mucha gente quiere inferencia local. Y de alguna manera, asumen que el problema está resuelto ahora porque vamos a tener modelos de código abierto, vamos a poder ejecutarlos en nuestras computadoras y, por lo tanto, no vamos a necesitar todo el material del centro de datos.

Pero desde una perspectiva de asignación global, en realidad, es bastante terrible que todo el mundo tenga un montón de la limitada oferta mundial de DRAM en su propia computadora y utilizándola el cinco por ciento del tiempo.

Desea la máxima utilización de la nube si está tratando de lidiar con este entorno con suministro tan limitado. Y de alguna manera la intuición de todos, de muchas personas, es lo opuesto a eso”.



Fuente: The Verge

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad