Preferiría una etiqueta en el tobillo a usar una aplicación de cuarentena


Australia del Sur ha comenzado un juicio de una nueva aplicación COVID para monitorear las llegadas al estado. El primer ministro de Sudáfrica, Steven Marshall, afirmó que “todos los australianos del sur deberían sentirse muy orgullosos de que somos el piloto nacional de la aplicación de cuarentena domiciliaria”.

Luego se duplicó y se jactó de que estaba «bastante seguro de que la tecnología que hemos desarrollado dentro del gobierno de Australia del Sur se convertirá en el estándar nacional y se implementará en todo el país».

Victoria también ha anunciado inminente «apoyado tecnológicamente”Cuarentena domiciliaria, aunque los detalles siguen sin estar claros. La cuarentena domiciliaria también será disponible para llegadas internacionales, según el primer ministro Scott Morrison.

La aplicación de Australia del Sur ha recibido poca atención en Australia, pero en los EE. UU. La revista Atlantic, de tendencia izquierdista, la llamó «tan orwelliano como cualquiera en el mundo libre”. Puntos de venta de derecha como Fox News y Breitbart También se unió al ataque, y por una vez me encuentro de acuerdo con ellos.

Seguimiento de ubicación y reconocimiento facial

A pesar de las afirmaciones de SA Premier, esta no es la primera aplicación de este tipo que se utiliza en Australia. Un similar aplicación de cuarentena domiciliaria ya está en uso para llegadas a WA, y en algunos casos el Territorio del Norte.

Ambas aplicaciones utilizan software de geolocalización y reconocimiento facial para rastrear e identificar a los que están en cuarentena. Los usuarios deben demostrar que están en casa cuando la aplicación lo solicite al azar.

En SA, tiene 15 minutos para obtener el software de reconocimiento facial y verificar que todavía está en casa. En WA, es más una carrera. Tiene solo 5 minutos antes de arriesgarse a que la policía llame a la puerta.

Otra diferencia es que la aplicación SA es opcional. En la actualidad. La aplicación WA ya es obligatoria para las llegadas desde áreas de alto riesgo como Victoria. Para áreas de riesgo extremo como Nueva Gales del Sur, es directamente en un hotel de cuarentena.

Razones de preocupación

Pero, ¿por qué estamos desarrollando tales aplicaciones de cuarentena domiciliaria en primer lugar, cuando ya tenemos una tecnología barata para hacer esto? Si queremos controlar que la gente esté en casa (y eso es un gran si), ¿no sería una de las etiquetas de tobillo que ya utilizan nuestros servicios correctivos para la detención domiciliaria mucho más simple, más segura y más sólida?

Hay muchas razones para preocuparse por las aplicaciones de cuarentena domiciliaria.

Primero, es probable que sean mucho más fáciles de piratear que las etiquetas de tobillo. ¿Cuántos de nosotros hemos pirateado geobloques para acceder a Netflix en los EE. UU. O para ver otro contenido digital de otro país? Falsificación de la ubicación del GPS en un teléfono inteligente no es mucho más difícil.

En segundo lugar, el software de reconocimiento facial a menudo tiene fallas y con frecuencia está sesgado en contra de las personas de color y en contra de las mujeres. El documental Sesgo codificado hace un gran trabajo deshaciendo estos prejuicios.

El documental Coded Bias explica los defectos habituales del software de reconocimiento facial.

A pesar de años de esfuerzo, incluso los grandes gigantes tecnológicos como Google y Amazon han sido incapaz de eliminar estos sesgos de su software. Tengo pocas esperanzas de que el gobierno de Sudáfrica o la empresa de WA GenVis, los desarrolladores de las dos aplicaciones de cuarentena doméstica de Australia, lo hayan hecho mejor.

De hecho, la Comisión Australiana de Derechos Humanos ha pedido una moratoria sobre el uso de software de reconocimiento facial en entornos de alto riesgo, como la policía, hasta que se establezca una mejor regulación para proteger los derechos humanos y la privacidad.

En tercer lugar, es necesario que haya un debate público y mucho más detallado en torno a cuestiones como la privacidad, y se deben implementar salvaguardas basadas en esta discusión, antes de que se utilice la tecnología.

Con las aplicaciones de registro de COVID, nos prometieron que los datos solo se utilizarían con fines de salud pública. Pero las fuerzas policiales de Australia accedió a esta información para otros fines en al menos seis ocasiones. Esto socava gravemente la confianza del público y el uso de dichas aplicaciones.

Antes de su lanzamiento, la aplicación COVIDSafe de Commonwealth tenía prohibiciones legislativas establecidas sobre el uso de los datos recopilados para cualquier cosa que no sea el rastreo de contactos. Esto quizás nos dio una falsa sensación de seguridad, ya que las aplicaciones de registro COVID producidas por el estado no tenían tales garantías legales. Solo algunos estados han introducido leyes retrospectivamente para proporcionar tales protecciones.

En cuarto lugar, tenemos que preocuparnos por cómo un software como este legitima tecnologías como el reconocimiento facial que, en última instancia, erosionan derechos fundamentales como el derecho a la privacidad.

Si las aplicaciones de cuarentena domiciliaria funcionan correctamente, ¿abrirán la puerta al uso del reconocimiento facial en otros entornos? ¿Para identificar a los ladrones de tiendas? ¿Para proporcionar acceso al bienestar? ¿O a la asistencia sanitaria? ¿A qué mundo orwelliano nos llevará esto?

Los peligros del reconocimiento facial

En China, ya hemos visto software de reconocimiento facial utilizado para monitorear y perseguir a la minoría uigur. En los EE. UU., Al menos tres personas negras ya han terminado injustamente en la cárcel debido a errores de reconocimiento facial.

El reconocimiento facial es una tecnología que es peligrosa si no funciona (como suele ser el caso). Y peligroso si lo hace. Cambia la velocidad, la escala y el costo de la vigilancia.

Con el software de reconocimiento facial detrás de las cámaras de CCTV que se encuentran en muchas esquinas, puede ser rastreado las 24 horas del día, los 7 días de la semana. Ya no eres anónimo cuando sales de compras. O cuando protestas por la importancia de las vidas de los negros o la emergencia climática.

La alta tecnología no es la solución

El software de alta tecnología como el reconocimiento facial no es una solución para los problemas que han plagado la respuesta de Australia a la pandemia. No puede remediar la imposibilidad de comprar suficientes vacunas, la imposibilidad de construir instalaciones de cuarentena dedicadas o las luchas internas y la puntuación entre estados y con el Commonwealth.

Nunca pensé que diría esto pero, en general, creo que preferiría una etiqueta en el tobillo. Y si la imagen de la etiqueta del tobillo le parece demasiado inquietante, podríamos hacer lo que Hong Kong ha hecho y hazlo una pulsera.La conversación

Artículo de Toby Walsh, Profesor de IA en la UNSW, líder del grupo de investigación, UNSW

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.



Fuente: TNW

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Ver Política de cookies
Privacidad