Como informes de los modelos de OpenAI. rompiendo la contenciónpiratear sitios y, en general, perder el control se acumulan, la empresa ha tomado la decisión de pausar el entrenamiento de sus modelos más potentes. La decisión se tomó después de que un modelo que se estaba probando dentro de un sandbox explotara una laguna para obtener acceso a internet. El incidente ocurrió el 20 de septiembre y “Todo el entrenamiento, evaluación e inferencia con el uso de herramientas” permanece en pausa desde el sábado 25 de septiembre por la noche.
Además, OpenAI reveló el viernes que sus agentes habían subido de manera inapropiada 53nimages de usuarios de ChatGPT a sitios de alojamiento de imágenes. La compañía no ha declarado si las imágenes fueron generadas por IA, fotografías o si contenían personas identificables. La compañía también reveló el viernes que sus modelos habían intentado piratear el Departamento de Educación sitio web, y datos extraídos de la Oficina del Censo y la Comisión de Bolsa y Valores.
Las revelaciones son parte de una revisión en curso por OpenAI en el comportamiento de sus modelos. Mientras indagaba en sus registros, siguiendo el Truco de cara de abrazose han descubierto cada vez más casos de «comportamiento inesperado o preocupante». Es evidencia no sólo de lo difícil que se está volviendo controlar a los agentes de IA a medida que avanzan, sino también del desafío de rastrear sus acciones. Su comportamiento puede ser impredecible y son lo suficientemente inteligentes como para intentar cubrir sus huellas. Esto ha llevado a crecientes llamadas de investigadores, aquellos dentro de la industriae incluso algunos directores ejecutivos para pedir que se desacelere el ritmo del avance de la IA.
