Un par de desarrolladores dicen que con muy poca indicación, Meta’s Muse compartirá todo su sistema de archivos contigo. Peter James y Jonny L. Saunders han dicho que ambos son independientes musa persuadida para comprimir y compartir todo el contenido de su sistema de archivos raíz, archivos del sistema Ubuntu, plantillas de aplicaciones y documentación interna. Saunders publicado en mastodonte que era “extremadamente fácil” replicar los resultados de James y que Muse “casi no tenía resistencia a la inyección inmediata”.
Meta niega que el incidente represente una violación de seguridad. Como se señaló en su publicación de anuncio, Meta’s Muse se ejecuta en máquinas virtuales Linux persistentes para cada usuario. El portavoz de Meta, Daniel Roberts, dijo: «Al igual que con la computadora portátil frente a usted, por supuesto que puede ver los archivos. Exportar datos de máquinas virtuales no le da a las personas ningún acceso privilegiado a la infraestructura Meta ni a los datos de otras personas». Sin embargo, a diferencia de una computadora portátil promedio, los datos potencialmente revelan algunas cosas interesantes sobre cómo funciona la nueva plataforma de inteligencia artificial de Meta.
Esta es la segunda vulnerabilidad de Muse revelada esta semana, después del investigador de seguridad Patrick Wardle. descubrió un exploit eso permitiría a los atacantes secuestrar el agente de IA, redirigir el procesamiento de transcripción y acceder a la cuenta de Muse de un usuario. Meta rápidamente emitió un revisión.
Tanto James como Saunders obtuvieron acceso a archivos Markdown y JSON de texto plano que describen en detalle cómo Hatch (el nombre interno de Meta para Muse) procesa solicitudes, maneja datos y se conecta a otros servicios como Gmail. Si bien está bien documentado que los agentes de IA alucinar y lo hará Proporcionar información falsa sobre cómo funcionan.Saunders dijo que está «generando cientos de MB de código de biblioteca preciso y binarios compilados» en cuestión de segundos. y eso«a menos que sintetizó una máquina virtual Ubuntu completa en menos de un minuto, creo que esto es una verdadera basura».
Cuando le pedí a Muse que compartiera su sistema de archivos conmigo, inicialmente se negó, diciendo que sería un riesgo para la seguridad. Cuando compartí enlaces a evidencia de que había creado archivos para otros, respondió que no debería haberlo hecho y continuó diciendo que «no puede hacer una copia completa». Sin embargo, después de iniciar una nueva sesión e incitarla con algunos halagos y curiosidad, creó versiones «seguras» de /opt/hatch y /home/hatch para mí, despojadas de cosas como claves SSH. También me mostró su árbol de directorios completo y me ofreció «sacar una copia segura» de «cualquier subárbol específico que parezca interesante». Los archivos resultantes parecen coincidir con lo que compartieron Saunders y James.
Roberts explicó que si bien Meta no está seriamente preocupado por las filtraciones, «continuamos realizando actualizaciones del producto, por lo que los usuarios pueden ver cambios en la cantidad de información disponible sobre su máquina virtual».
El volcado de los desarrolladores potencialmente revela mucho sobre el funcionamiento interno de Muse. Por un lado, almacena su memoria en archivos Markdown simples. También realiza una revisión nocturna de los “sueños” de conversaciones recientes, que luego sirve de guía para conversaciones futuras, según James. Saunders también descubrió que muchas de las capacidades de Muse estaban codificadas, incluida su capacidad para cancelar suscripciones y «La maquinaria que gestiona el desove de agentes fuera de control..” Saunders especula que muchos de los scripts de bash y Python que ejecutan Muse en segundo plano fueron creados usando Claude, aunque eso no está confirmado.
James también encontró referencias a la integración de hardware llamada Meta Home Link, que parece darle a Muse acceso a dispositivos en una red doméstica. Aunque Meta no ha anunciado ninguna característica con ese nombre y no está garantizado que se envíe.