Agentes de OpenAI intentaron ‘atacar con fuerza bruta’ un sitio web de la ONU


Según Howard-Jones, los agentes probablemente tenían la tarea de recuperar datos disponibles públicamente relacionados con el Índice de Capacidades Productivas (PCI) a través de la API UNCTADstat. Sin embargo, los agentes no parecían tener acceso directo a la API y su capacidad para extraer datos de UNCTADstat estaba limitada debido a restricciones en sus herramientas HTTP.

Los agentes finalmente encontraron una manera de superar sus limitaciones y comenzar a extraer datos del sitio, pero aún así encontraron algunos errores. En este punto, la IA pasó de ser creativa a engañosa. Creyendo que los errores se debían a que sus solicitudes habían sido detectadas por un filtro inexistente, comenzó a enmascarar su comportamiento. Finalmente se dio cuenta de que podía secuestrar el juego XSS de Google (una herramienta de aprendizaje de secuencias de comandos entre sitios) para lograr sus objetivos. Los agentes recurrieron cada vez más tácticas agresivas para obtener acceso a los datos de la ONU.

OpenAI y la ONU no respondieron de inmediato a una solicitud de comentarios.



Fuente: The Verge

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad