TL;DR
Los piratas informáticos engañaron al chatbot de soporte de IA de Meta para que agregara su correo electrónico a las cuentas de Instagram de las víctimas y restableciera las contraseñas. No se necesita acceso al correo electrónico de la víctima.
Los piratas informáticos secuestraron cuentas de Instagram durante la semanad engañando al propio chatbot de soporte impulsado por IA de Meta para que les conceda acceso. El ataque no requirió acceso al correo electrónico de la víctima, ni enlace de phishing ni malware. El hacker simplemente le pidió al chatbot que agregara una nueva dirección de correo electrónico a la cuenta de otra persona.
Un video publicado en X mostró el proceso paso a paso. El hacker utilizó una VPN para falsificar la supuesta ubicación del objetivo, evitando las protecciones automatizadas de la cuenta de Instagram. Luego abrieron un chat con Meta AI Support Assistant y le pidieron al bot que agregara una nueva dirección de correo electrónico a la cuenta del objetivo.
El chatbot envió un código de verificación a la dirección de correo electrónico del hacker. El hacker compartió el código con el chatbot. Luego, el robot mostró un botón «Restablecer contraseña». El hacker ingresó una nueva contraseña y se apoderó de la cuenta.
El 💜 de la tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de IA cuestionable. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
En ningún momento el hacker necesitó acceder a la dirección de correo electrónico legítima vinculada a la cuenta de Instagram de la víctima. TechCrunch verificó que el buzón de correo electrónico público del hacker, que se muestra en el video, recibió el código de verificación. El ataque aprovechó un defecto fundamental: el chatbot de IA trataba a la persona con la que hablaba como propietario de la cuenta sin verificar su identidad.
Las cuentas comprometidas incluían la cuenta de Instagram de la Casa Blanca de la era Obama, que había estado inactiva desde 2017, y la cuenta del sargento mayor jefe de la Fuerza Espacial de EE. UU., John Bentivegna. La investigadora de seguridad Jane Wong dijo que también se apoderaron de su cuenta.
“La contraseña se cambió sin mi conocimiento y ayer recibí diferentes intentos de restablecerla.» dijo Wong. «Bastante preocupante.Varios usuarios de Reddit y X informaron de secuestros similares durante el mismo fin de semana.
El portavoz de Instagram, Andy Stone, dijo el lunes que el problema estaba solucionado. No está claro cuántas cuentas se vieron comprometidas. Meta no respondió a la solicitud de comentarios de TechCrunch.
El ataque es un ejemplo de libro de texto de por qué es peligroso implementar chatbots de IA con permisos a nivel de cuenta. Los clientes de Agentforce de Salesforce se han mostrado reacios a permitir que los agentes de IA tomen acciones financieramente significativas. Precisamente por este riesgo. La analista Rebecca Wettemann describió el miedo como “la IA sale corriendo en medio de la noche y reembolsa un montón de transacciones.Meta le dio a su IA la capacidad de restablecer contraseñas, y la IA hizo exactamente lo que se le pidió, para la persona equivocada.
El panorama de seguridad de los agentes de IA está generando nuevas categorías de vulnerabilidad más rápido de lo que las empresas pueden abordarlos. El exploit Claw Chain de OpenClaw utilizó como arma los propios privilegios de sandbox de un agente. Este ataque a Instagram utilizó como arma los privilegios de administración de cuentas de un robot de soporte de IA. El hilo común: cuando un agente de IA tiene autoridad para actuar, la seguridad del sistema depende completamente de si el agente puede verificar quién le pide que actúe.
El Asistente de soporte Meta AI fue diseñado para reducir el costo del servicio humano al cliente. Lo logró. También creó una superficie de ataque que los agentes de soporte humanos no tendrían: un agente humano habría verificado la identidad de la persona que llama antes de agregar un nuevo correo electrónico a una cuenta. El chatbot no lo hizo.
Esta es la tercera falla de alto perfil en la implementación de IA en una sola semana. Starbucks descartó su sistema de inventario de inteligencia artificial después de nueve meses de errores de cálculo. El retiro por inundaciones de Waymo falló en dos semanas. El chatbot de IA de Meta les dio a los piratas informáticos las claves de las cuentas de Instagram. El patrón es consistente: los sistemas de IA implementados a escala fallan de maneras que sus diseñadores no anticiparon, y las fallas tienen más consecuencias que las eficiencias para las cuales fueron creados.