Baseten lanzó joey-1, un 2B de peso abierto”modelo de decisión» que devuelve una respuesta y una probabilidad en lugar de un texto. Cuesta 0,01 dólares por millón de tokens y responde en unos 20 ms, dice Baseten. Se une a los más grandes mamut-1 y elefante-1 lanzados la semana pasada.
Baseten ha lanzado joey-1, un pequeño modelo abierto de IA que responde preguntas de sí o no y de opción múltiple en lugar de escribir texto, la compañía dijo el jueves. Cuesta 0,01 dólares por millón de tokens.
Joey-1 tiene parámetros 2B y se une a los más grandes mamut-1 y elefante-1, que el laboratorio de investigación de Baseten, Base Labs, lanzó la semana pasada. En lugar de escribir una respuesta, los modelos devuelven una respuesta con una puntuación de probabilidad.
Eso los hace más baratos y rápidos para tareas como enrutar tickets de soporte, detectar spam o bloquear mensajes dañinos. IA TypeSafe Jevlanzado en septiembre, funciona de la misma manera.
Baseten dice que joey-1 responde a una solicitud típica de 2000 tokens en 20 milisegundos, aproximadamente 2,5 veces más rápido que elefante-1. Clasificar 10 millones de tickets de soporte al mes costaría alrededor de $50, contra $500 en mammoth-1, dice.
La compañía considera que joey-1 es el modelo de decisión más sólido con 3B o menos parámetros, pero aún no ha publicado las pruebas detrás de esa afirmación. Su tarjeta de modelo ubica a joey-1 en el puesto 37 de 230 modelos en el índice de decisión Jev, la puntuación más alta para modelos bajo parámetros 4B.
Joey-1 está construido sobre el Qwen3.5-2B de Alibaba y fue entrenado en 6,21 millones de ejemplos de decisiones. Microsoft construyó su propio modelo de decisión en Qwen este mes, con un precio de 0,042 dólares por millón de tokens. Sus pesos son gratuitos en Hugging Face bajo la licencia del MIT.
Baseten, que ayuda a las empresas a ejecutar modelos de IA, recaudó 1.500 millones de dólares a una valoración de hasta 13.000 millones de dólares en junio. En septiembre compró inicio de caja de arena Blaxel.