Operai dice que hará cambios en la forma en que actualiza los modelos de IA que encienden chatgpt, luego de un incidente que hizo que la plataforma se volviera demasiado sycofántica para muchos usuarios.
El fin de semana pasado, después de que Operai lanzó un GPT-4O ajustado, el modelo predeterminado que alimenta el CHATGPT, los usuarios en las redes sociales señalaron que ChatGPT comenzó a responder de una manera demasiado validada y agradable. Rápidamente se convirtió en un meme. Los usuarios publicaron capturas de pantalla de ChatGPT aplaudiendo todo tipo de decisiones e ideas problemáticas y peligrosas.
En una publicación sobre X el domingo, el CEO Sam Altman reconoció el problema y dijo que OpenAi trabajaría en las correcciones «lo antes posible». Dos días después, Altman anunció que la actualización de GPT-4O se estaba volviendo hacia atrás y que OpenAi estaba trabajando en «soluciones adicionales» a la personalidad del modelo.
La compañía publicó una autopsia el martes, y en una publicación de blog el viernes, Openai se expandió en ajustes específicos que planea hacer a su proceso de implementación modelo.
Operai dice que planea introducir una «fase alfa» de suscripción para algunos modelos que permitan a ciertos usuarios de ChatGPT probar los modelos y dar retroalimentación antes del lanzamiento. La compañía también dice que incluirá explicaciones de «limitaciones conocidas» para futuras actualizaciones incrementales a los modelos en CHATGPT, y ajustar su proceso de revisión de seguridad para considerar formalmente «problemas de comportamiento del modelo» como la personalidad, el engaño, la confiabilidad y la alucinación (es decir, cuando un modelo inventa las cosas) como preocupaciones de «bloqueo de lanzamiento».
«En el futuro, nos comunicaremos proactivamente sobre las actualizaciones que estamos haciendo a los modelos en ChatGPT, ya sea» sutil «o no», escribió OpenAI en la publicación del blog. «Incluso si estos problemas no son perfectamente cuantificables hoy en día, nos comprometemos a bloquear los lanzamientos en función de las mediciones de proxy o las señales cualitativas, incluso cuando las métricas como las pruebas A/B se ven bien».
Las soluciones prometidas se producen a medida que más personas recurren a Chatgpt para obtener consejos. Según una encuesta reciente realizada por el financiador de demandas Express Legal Funding, el 60% de los adultos estadounidenses han usado ChatGPT para buscar asesoramiento o información. La creciente dependencia de ChatGPT, y la enorme base de usuarios de la plataforma, aumenta las apuestas cuando surgen problemas como la sycofancia extrema, sin mencionar las alucinaciones y otras deficiencias técnicas.
Evento de TechCrunch
Berkeley, CA
|
5 de junio
Reservar ahora
Como un paso mitigatory, a principios de esta semana, OpenAi dijo que experimentaría con formas de permitir que los usuarios dan «comentarios en tiempo real» para «influir directamente en sus interacciones» con ChatGPT. La compañía también dijo que refinaría las técnicas para alejar a los modelos de la skofancia, potencialmente permitir a las personas elegir entre múltiples personalidades modelo en ChatGPT, desarrollar barandillas de seguridad adicionales y expandir evaluaciones para ayudar a identificar problemas más allá de la skicancia.
«Una de las lecciones más importantes es reconocer completamente cómo las personas han comenzado a usar ChatGPT para consejos profundamente personales, algo que no vimos tanto hace un año», continuó OpenAi en su publicación de blog. «En ese momento, este no era un enfoque principal, pero como AI y la sociedad han evolucionado co-evolucionando, queda claro que necesitamos tratar este caso de uso con gran cuidado. Ahora será una parte más significativa de nuestro trabajo de seguridad».