Los clientes de OpenAI ahora pueden incorporar datos personalizados a la versión liviana de GPT-3.5, GPT-3.5 Turbo, lo que facilita la mejora de la confiabilidad del modelo de IA que genera texto y al mismo tiempo incorpora comportamientos específicos.
OpenAI afirma que las versiones mejoradas de GPT-3.5 pueden igualar o incluso superar las capacidades básicas de GPT-4, el modelo insignia de la compañía, en «ciertas tareas limitadas».
«Desde el lanzamiento de GPT-3.5 Turbo, los desarrolladores y las empresas han solicitado la posibilidad de personalizar el modelo para crear experiencias únicas y diferenciadas para sus usuarios», escribió la compañía en una publicación de blog publicada esta tarde. «Esta actualización brinda a los desarrolladores la capacidad de personalizar modelos que funcionen mejor para sus casos de uso y ejecutar estos modelos personalizados a escala».
Con ajustes, las empresas que utilizan GPT-3.5 Turbo a través de la API de OpenAI pueden hacer que el modelo siga mejor las instrucciones, como que siempre responda en un idioma determinado. O pueden mejorar la capacidad del modelo para dar formato consistentemente a las respuestas (por ejemplo, para completar fragmentos de código), así como perfeccionar la “sensación” de la salida del modelo, como su tono, para que se ajuste mejor a una marca o voz.
Además, el ajuste permite a los clientes de OpenAI acortar sus mensajes de texto para acelerar las llamadas API y reducir costos. «Los primeros evaluadores han reducido el tamaño del mensaje hasta en un 90% ajustando las instrucciones en el modelo mismo», afirma OpenAI en la publicación del blog.
Actualmente, el ajuste fino requiere preparar datos, cargar los archivos necesarios y crear un trabajo de ajuste a través de la API de OpenAI. Todos los datos de ajuste deben pasar por una API de “moderación” y un sistema de moderación impulsado por GPT-4 para ver si están en conflicto con los estándares de seguridad de OpenAI, dice la compañía. Pero OpenAI planea lanzar una interfaz de usuario de ajuste fino en el futuro con un panel para verificar el estado de las cargas de trabajo de ajuste fino en curso.
Los costos de ajuste son los siguientes:
- Entrenamiento: $0.008 / 1k tokens
- Entrada de uso: $0.012 / 1k tokens
- Salida de uso: $0.016 / 1k tokens
Los «tokens» representan texto sin formato; por ejemplo, «fan», «tas» y «tic» para la palabra «fantástico». Un trabajo de ajuste fino de GPT-3.5-turbo con un archivo de entrenamiento de 100.000 tokens, o alrededor de 75.000 palabras, costaría alrededor de 2,40 dólares, dice OpenAI.
En otras noticias, OpenAI puso a disposición hoy dos modelos base GPT-3 actualizados (babbage-002 y davinci-002), que también se pueden ajustar, con soporte para paginación y «más extensibilidad». Como se anunció anteriormente, OpenAI planea retirar los modelos base GPT-3 originales el 4 de enero de 2024.
OpenAI dijo que el soporte de ajuste para GPT-4, que, a diferencia de GPT-3.5, puede comprender imágenes además de texto, llegará a finales de este otoño, pero no proporcionó detalles más allá de eso.