La UE está considerando prohibir la IA para la vigilancia masiva y las puntuaciones de crédito social


La Unión Europea está considerando prohibir el uso de inteligencia artificial para varios propósitos, incluida la vigilancia masiva y las puntuaciones de crédito social. Esto es de acuerdo con una propuesta filtrada que está circulando en línea antes de un anuncio oficial que se espera la próxima semana.

Si se adopta el borrador de la propuesta, la UE tomaría una postura firme sobre ciertas aplicaciones de la IA, diferenciándola de Estados Unidos y China. Algunos casos de uso serían controlados de manera similar a la regulación de la privacidad digital de la UE bajo Legislación GDPR.

Los estados miembros, por ejemplo, deberían establecer juntas de evaluación para probar y validar los sistemas de IA de alto riesgo. Y las empresas que desarrollan o venden software de inteligencia artificial prohibido en la UE, incluidas las que se encuentran en otras partes del mundo, podrían recibir una multa de hasta el 4 por ciento de sus ingresos globales.

Según una copia del borrador visto por El borde, el proyecto de reglamento incluye:

  • Prohibición de la IA para la «vigilancia indiscriminada», incluidos los sistemas que rastrean directamente a las personas en entornos físicos o agregan datos de otras fuentes.
  • Prohibición de los sistemas de inteligencia artificial que crean puntajes de crédito social, lo que significa juzgar la confiabilidad de alguien en función del comportamiento social o los rasgos de personalidad predichos
  • Autorización especial para el uso de «sistemas de identificación biométrica remota» como el reconocimiento facial en espacios públicos
  • Se requieren notificaciones cuando las personas interactúan con un sistema de inteligencia artificial, a menos que esto sea «obvio por las circunstancias y el contexto de uso»
  • Nueva supervisión de los sistemas de inteligencia artificial de «alto riesgo», incluidos los que representan una amenaza directa para la seguridad, como los automóviles autónomos, y los que tienen una alta probabilidad de afectar el sustento de alguien, como los que se utilizan para la contratación laboral, las decisiones judiciales y puntuacion de credito
  • Evaluación de sistemas de alto riesgo antes de que se pongan en servicio, incluida la garantía de que estos sistemas sean explicables a los supervisores humanos y que estén capacitados en conjuntos de datos de «alta calidad» probados para detectar sesgos.
  • La creación de una «Junta Europea de Inteligencia Artificial», compuesta por representantes de cada estado-nación, para ayudar a la comisión a decidir qué sistemas de IA cuentan como «de alto riesgo» y recomendar cambios a las prohibiciones.

Quizás la sección más importante del documento es el artículo 4, que prohíbe ciertos usos de la inteligencia artificial, incluida la vigilancia masiva y las puntuaciones de crédito social. Sin embargo, las reacciones al borrador de los grupos de derechos digitales y los expertos en políticas dicen que esta sección debe mejorarse.

«Las descripciones de los sistemas de IA que se prohibirán son vagas y están llenas de lenguaje que no es claro y crearía un gran espacio para lagunas», dijo Daniel Leufer, analista de políticas para Europa de Access Now. The Verge. Esa sección, dice, está «lejos de ser ideal».

Leufer señala que la prohibición de los sistemas que hacen que las personas «se comporten, se formen una opinión o tomen una decisión en su detrimento» es inútilmente vaga. ¿Cómo decidirían exactamente las leyes nacionales si una decisión perjudica a alguien o no? Por otro lado, dice Leufer, la prohibición de la IA para la vigilancia masiva es «demasiado indulgente». Agrega que la prohibición de los sistemas de crédito social de IA basados ​​en la «confiabilidad» también se define de manera demasiado restringida. Los sistemas de crédito social no tienen que evaluar si alguien es digno de confianza para decidir cosas como su elegibilidad para los beneficios sociales.

En Twitter, Omer Tene, vicepresidente de la organización sin fines de lucro IAPP (Asociación Internacional de Profesionales de la Privacidad), comentó que el reglamento “representa el enfoque típico de Bruselas hacia la nueva tecnología y la innovación. En caso de duda, regule ”. Si se aprueban las propuestas, dijo Tene, se creará un «vasto ecosistema regulatorio», que atraerá no solo a los creadores de sistemas de inteligencia artificial, sino también a importadores, distribuidores y usuarios, y creará una serie de juntas reguladoras, tanto nacionales. y en toda la UE.

No se sabe qué cambios podrían haberse realizado en este borrador de propuesta mientras los responsables políticos de la UE se preparan para el anuncio oficial del 21 de abril. Sin embargo, una vez que se haya propuesto la regulación, estará sujeta a cambios tras la retroalimentación de los eurodiputados y tendrá que implementarse por separado en cada estado-nación.





Fuente: The Verge

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Ver Política de cookies
Privacidad