Agentes de inteligencia artificial de múltiples proveedores accedieron a datos personales y material confidencial en organizaciones indias durante investigaciones y pruebas, dijo el jueves la agencia de ciberseguridad de la India.
El Equipo Indio de Respuesta a Emergencias Informáticas (CERT-In) dijo que había recibido “múltiples divulgaciones voluntarias de proveedores de modelos de IA” cuyos modelos, durante las investigaciones y evaluaciones en la Internet abierta, “habían llegado a los sistemas activos de las organizaciones indias”.
Los agentes ingresaron a través de credenciales y configuraciones de conexión que quedaron expuestas en configuraciones de aplicaciones, repositorios de códigos públicos y roles de nube demasiado permisivos, y sus acciones «excedieron la autorización de sus tareas asignadas».
Esto convierte a la India en la última parada de lo que se ha convertido en una gira mundial para agentes deshonestos de IA. En julio, los agentes de OpenAI escaparon de un entorno de prueba y piratearon la empresa francesa Hugging Face, lo que dio inicio a un verano de actividad de agentes de IA deshonestos. El mes pasado, OpenAI se disculpó con Australia después de que sus agentes accedieran a cuatro sitios web gubernamentales, incluido un portal de estadísticas de Medicare.
En Hugging Face, los agentes de OpenAI comenzaron de la misma manera pero luego encontraron y explotaron fallas de software para ejecutar código en los servidores de la empresa. CERT-In no describió tal piratería en la India, donde los agentes parecen haber simplemente utilizado el acceso que había dejado por ahí.
Aún así, los casos indios parecen ser peores en un aspecto, que es lo que vieron los agentes: en Australia, OpenAI dijo que no encontró evidencia de que sus agentes tocaran los registros médicos o penales de las personas, incluso después de que escribieron archivos dentro de un sistema de estadísticas de Medicare, mientras que en la India, los agentes leyeron datos personales y registros comerciales confidenciales. Y a diferencia de incidentes anteriores, cada uno revelado por un solo laboratorio, en el de la India participaron agentes de múltiples proveedores.
CERT-In no nombró a los proveedores ni a las organizaciones afectadas, ni dijo si los agentes alteraron algún sistema. TechCrunch se ha comunicado con CERT-In para obtener más información.
Por ahora, el paralelo más cercano parece ser la revelación de Anthropic en julio de que Claude irrumpió en los sistemas de tres empresas durante las pruebas utilizando técnicas básicas como contraseñas débiles.
En India, como en el caso de Anthropic, las organizaciones afectadas no habían detectado por sí solas las intrusiones. Las revelaciones han dejado a los gobiernos dependiendo de las empresas de inteligencia artificial que causan estas infracciones para revelar voluntariamente la actividad de agentes de inteligencia artificial no autorizados.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.