Gemini de Google accedió a los sistemas protegidos de otras tres empresas en lo que, según informa The Wall Street Journal, fueron los primeros ataques autónomos del modelo de IA.
Al igual que la violación de Hugging Face por parte de OpenAI, los hacks de Gemini fueron menos notables por ser particularmente sofisticados y más por el hecho de que fueron realizados por un modelo de IA. Estas violaciones se produjeron durante las pruebas de ciberseguridad realizadas por una empresa llamada Irregular. En un caso, Gemini simplemente adivinó las contraseñas hasta que obtuvo acceso; en los otros dos encontró credenciales en un repositorio público.
Según se informa, Irregular notificó a Google sobre los ataques a finales de julio, pero las empresas no los confirmaron públicamente hasta el viernes, después de que el WSJ se comunicara con ellos. Google dijo que no había revelado previamente los ataques porque Gemini había «actuado apropiadamente» al poner fin a cada infracción tan pronto como determinó que había pirateado una empresa real.
Sin embargo, Jack Cable, director ejecutivo de la empresa de seguridad de inteligencia artificial Corridor, dijo al WSJ que Google estaba «tratando de esconderse detrás de las normas que se han creado para la divulgación de vulnerabilidades», en lugar de reconocer que «los modelos están yendo más allá de los límites de lo que deberían estar haciendo y cometiendo ciberataques reales».