A medida que los modelos de decisión se extienden por la industria, una empresa llamada Musubi tiene una nueva idea sobre cómo ponerlos en práctica: moderar el contenido. El martes, Musubi anunció un modelo de decisión liviano creado para moderación en tiempo real llamado PolicyLM-1.7B, lanzado con pesos abiertos.
La idea es tomar una política de contenido escrita en inglés sencillo y aplicarla a los mensajes en menos de 50 milisegundos. El modelo de Musubi está diseñado para ser similar en costo y velocidad a los sistemas clasificadores de IA que impulsan la moderación en la mayoría de las plataformas sociales, pero debido a que tiene la flexibilidad de un LLM moderno, puede aplicar políticas complejas sin capacitación especial. Aún más importante, el modelo no necesitará nueva capacitación cuando cambie la política, lo que permitirá a los responsables humanos de formular políticas repetir todo lo que necesiten.
Como lo ve el cofundador y director de inteligencia artificial de Musubi, Filip Jankovic, brinda a los administradores de plataformas una forma de etiquetar el contenido de manera proactiva.
«Los equipos de producto simplemente quieren comprender mejor lo que sucede en su plataforma, especialmente porque la cantidad de contenido aumenta exponencialmente», dice Jankovic. «Poder etiquetar todo eso de una manera muy escalable y personalizable es extremadamente útil».
Los modelos de decisión se han convertido en un tema candente en el mundo de la IA desde el lanzamiento de Jev de TypeSafe AI en septiembre, al que poco después siguieron modelos de decisión competidores de OpenAI y Amazon. En lugar de generar texto, un modelo de decisión genera probabilidades de resultado, aunque en este caso el modelo genera un juicio binario: o el contenido está en la categoría o no. Al limitar la salida del modelo a un conjunto de opciones predeterminadas, los modelos de decisión pueden ejecutarse más rápido y más barato que los modelos de lenguaje grandes, manteniendo al mismo tiempo la flexibilidad de la arquitectura del transformador.
Uno de los primeros casos de uso es controlar el mal comportamiento de los agentes de IA, por lo que es natural aplicar la misma tecnología al mal comportamiento humano.
En particular, Jankovic dice que su interés en los modelos de decisión es anterior a Jev y se remonta a un proyecto de 2024 llamado GLiNER (Modelo generalista para el reconocimiento de entidades nombradas) que implementó muchas de las mismas técnicas.
Aún así, Musubi no desconfía de la comparación. En todo caso, la empresa está ansiosa por utilizar el nuevo interés en los modelos de decisión para arrojar luz sobre la moderación de contenido. «Si Jev le llamó la atención, PolicyLM-1.7B es el mismo tipo de modelo, entrenado específicamente para la moderación de contenido, que puede ejecutar usted mismo», se lee en el anuncio del producto.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.