Durante décadas, proteger la privacidad ha significado una cosa: evitar que se filtren datos personales. Gartner cree que esa idea está a punto de fracasar.
Para 2029, la mayoría de los incidentes de privacidad no provendrán de datos personales filtrados sino de lo que la IA infiere sobre las personaspredijo la firma de investigación esta semana. El riesgo ya no son sólo los registros que posee una empresa. Son las conclusiones que un modelo puede sacar de los restos las que parecen inofensivas.
De la exposición de datos a la exposición de insights
El analista de Gartner, Bart Willemsen, lo llama un cambio «de la exposición de datos a la exposición de conocimientos». Un modelo ahora puede reconstruir cosas profundamente personalescomo una condición de salud o una patrón de comportamiento. Los extrae de datos que parecen anónimos, agregados o inofensivos, y nunca tiene que violar una base de datos para hacerlo.
Hay una ironía en esto. Las empresas están almacenando menos datos personales, impulsadas por la regulación y los costos. Eso está destinado a reducir el riesgo. Pero si una IA puede inferir los detalles sensibles de todos modos, tener menos datos no sirve de mucho para proteger a la persona que describe.
Ataques que no dejan registro filtrado
Estos ataques de inferencia son difíciles de detectar. Una infracción normal deja un rastro: un archivo robado, un registro expuesto, una alerta que se activa. Una conclusión inferida no deja nada de eso.
«Los ataques de inferencia son particularmente peligrosos porque a menudo evaden los mecanismos de detección convencionales», dijo Willemsen. «Las personas pueden quedar expuestas a través de conclusiones generadas por IA en lugar de registros filtrados, lo que crea riesgos de privacidad que socavan la integridad de los datos y son difíciles de detectar, explicar y mitigar».
La amenaza también se encuentra fuera de la mayoría de las leyes de privacidad, que rigen en gran medida los datos personales que las empresas recopilan, almacenan y comparten. Una suposición que hace un modelo no es ninguna de esas cosas. Es un punto ciego cada vez mayor a medida que Las herramientas cotidianas registran y analizan silenciosamente más de nuestras vidas..
Lo que Gartner quiere que cambien las empresas
El consejo de Gartner a los jefes de seguridad es controlar lo que la IA concluye, no sólo lo que almacena. Espera que el gasto en protección de la “integridad” de los datos alcance la paridad con la confidencialidad de los datos para 2028, a medida que las empresas respondan a perfiles generados por IA inexactos, sesgados o no autorizados.
Las correcciones recomendadas son prácticas. Incorpora controles de privacidad en la forma en que los equipos construyen sistemas de inteligencia artificial. Adoptar herramientas que mejoren la privacidad, como la privacidad diferencial y los datos sintéticos. Minimiza los datos disponibles. Y mantenga a un humano informado para cerrar sesión antes de que una IA actúe según una inferencia sensible.
Este último punto es importante porque la exposición puede ser silenciosa y accidental, no sólo maliciosa. TNW ha cubierto cómo los chats privados de IA terminó indexado por los motores de búsquedano se requiere incumplimiento.
Una predicción, no una certeza
Se aplican las advertencias habituales. Este es un pronóstico de Gartner, y Gartner vende la investigación y los asientos de la conferencia detrás de él. «La mayoría de los incidentes de privacidad» en un año determinado es el tipo de afirmación que es fácil de formular y difícil de probar.
Pero la preocupación subyacente es real. Los investigadores han demostrado durante años que los modelos pueden volver a identificar personas y adivinar rasgos privados a partir de datos públicos. Los reguladores apenas están empezando a ponerse al día, con el Ley de IA de la UE Todavía estamos acostados. Lo que Gartner quiere decir es simplemente que la industria ha pasado años vigilando la puerta equivocada.