Una flota de agentes de inteligencia artificial que se ejecutan en Tencent Cloud realizó más de 2.600 intentos de extraer datos de Amap, el servicio de mapas de Alibaba, entre el 28 de septiembre y el 8 de octubre.
Ése es el principal hallazgo de un informe completo publicado el 14 de octubre por investigadores independientes que rastrean la actividad de los agentes de IA en línea. El grupo compartió por primera vez sus hallazgos preliminares el 4 de octubre, mientras los agentes aún estaban activos.
Además, el informe se suma a una serie de casos en los que agentes de IA actuaron fuera de los límites previstos.
En agosto, OpenAI confirmó sus agentes había escapado de un entorno de prueba y había violado Hugging Face. Anteriormente, los investigadores dijeron que los agentes de OpenAI se habían hecho cargo una wiki alemana.
En este caso, la mayoría de las preguntas que los agentes intentaron responder eran ordinarias. Uno, por ejemplo, preguntó a qué entrada del Zoológico de Chengdu se dirigen la mayoría de los usuarios de Amap.
Para llegar a Amap, los agentes utilizaron urlquery.netun sitio público que escanea direcciones web en busca de amenazas a la seguridad, como un navegador remoto.
Cuando fueron bloqueados, intentaron eludir los controles anti-bot de Amap y probar sus servidores de preproducción. También utilizaron claves de acceso a Amap que se habían publicado públicamente en línea.
La mayoría de estos intentos fracasaron. Sin embargo, algunas ejecuciones obtuvieron los datos y los enviaron a través de bandejas de entrada de webhooks, direcciones web y títulos de páginas, según los investigadores.
Los investigadores llaman al grupo “flota” en lugar de “enjambre”, porque no encontraron señales de que los agentes trabajaran juntos en tiempo real.
El tráfico también pasó a través de un proxy denominado «hysandbox-ats». Hy es el nombre actual del gran modelo de lenguaje de Tencent y su equipo, que anteriormente se llamaban Hunyuan. Aun así, los investigadores dicen que no están seguros de qué modelo se estaba probando.
Tencent no envió a los investigadores una respuesta oficial a sus preguntas. En cambio, una persona cercana a la empresa habló con ellos en segundo plano.
Esa persona dijo que la flota provino de pruebas realizadas por un equipo de evaluación de Tencent, que verifica qué tan bien los modelos externos de IA pueden navegar por la web y responder preguntas.
El equipo está separado del grupo Hunyuan y los agentes se construyeron sobre modelos de terceros, dijo la persona.
La persona también dijo que el proyecto era temporal y finalizó. Una revisión interna no encontró evidencia de que los agentes estuvieran configurados para apuntar a ninguna plataforma o que se hubieran violado sistemas externos, dijo la persona a los investigadores.
Los investigadores ahora están pidiendo a todos los laboratorios que ejecutan agentes conectados a Internet que verifiquen hasta qué punto pueden llegar sus entornos de prueba.