Después de maratónicas conversaciones «finales» que duraron casi tres días, los legisladores de la Unión Europea lograron esta noche un acuerdo político sobre un marco basado en riesgos para regular la inteligencia artificial. El expediente se propuso originalmente en abril de 2021, pero se necesitaron meses de complicadas negociaciones a tres bandas para llegar a un acuerdo. Este desarrollo significa que una ley de IA paneuropea está definitivamente en camino.
En una conferencia de prensa triunfal pero exhausta en las primeras horas de la noche del viernes/sábado por la mañana, hora local, representantes clave del Parlamento Europeo, el Consejo y la Comisión (los colegisladores del bloque) elogiaron el acuerdo como un logro muy reñido, un logro histórico e histórico. respectivamente.
Llevando a X a tuitea la noticiala presidenta de la UE, Ursula von der Leyen, que hizo de la promulgación de una ley de IA una prioridad clave de su mandato cuando asumió el cargo a finales de 2019, también elogió el acuerdo político como una “primicia mundial”.
Los detalles completos de lo acordado no se confirmarán por completo hasta que se recopile y se haga público un texto final, lo que puede llevar algunas semanas. Pero un comunicado de prensa publicado por el Parlamento Europeo confirma que el acuerdo alcanzado con el Consejo incluye una prohibición total del uso de IA para:
- sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza);
- extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial;
- reconocimiento de emociones en el lugar de trabajo y en instituciones educativas;
- puntuación social basada en comportamiento social o características personales;
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío;
- La IA solía explotar las vulnerabilidades de las personas (por su edad, discapacidad, situación social o económica).
El uso de tecnología de identificación biométrica remota en lugares públicos por parte de las fuerzas del orden no ha sido completamente prohibido, pero el parlamento dijo que los negociadores habían acordado una serie de salvaguardias y excepciones estrechas para limitar el uso de tecnologías como el reconocimiento facial. Esto incluye el requisito de autorización judicial previa, y con usos limitados a listas de delitos “estrictamente definidas”.
El uso retrospectivo (no en tiempo real) de IA de identificación biométrica remota se limitará a «la búsqueda selectiva de una persona condenada o sospechosa de haber cometido un delito grave». Si bien el uso en tiempo real de esta tecnología intrusiva de IA estará limitado en tiempo y ubicación, y solo podrá usarse para los siguientes propósitos:
- búsquedas selectivas de víctimas (secuestro, trata, explotación sexual),
- prevención de una amenaza terrorista específica y presente, o
- la localización o identificación de una persona sospechosa de haber cometido uno de los delitos específicos mencionados en el reglamento (por ejemplo, terrorismo, trata, explotación sexual, asesinato, secuestro, violación, robo a mano armada, participación en una organización criminal, delitos medioambientales).
El paquete acordado también incluye obligaciones para los sistemas de IA que están clasificados como de “alto riesgo” debido a que tienen “un daño potencial significativo a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho”.
“Los eurodiputados lograron incluir una evaluación obligatoria del impacto sobre los derechos fundamentales, entre otros requisitos, aplicables también a los sectores bancario y de seguros. Los sistemas de inteligencia artificial utilizados para influir en el resultado de las elecciones y el comportamiento de los votantes también se clasifican como de alto riesgo”, escribió el parlamento. «Los ciudadanos tendrán derecho a presentar quejas sobre los sistemas de IA y recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos».
También hubo acuerdo sobre un sistema de barreras de “dos niveles” que se aplicará a los sistemas de IA “generales”, como los llamados modelos fundamentales que sustentan el auge viral de las aplicaciones de IA generativa como ChatGPT.
Como informamos anteriormente, el acuerdo alcanzado sobre modelos fundamentales/IA de propósito general (GPAI) incluye algunos requisitos de transparencia para lo que los colegisladores denominaron IA de “nivel bajo”, lo que significa que los fabricantes de modelos deben elaborar documentación técnica y producir (y publicar) información detallada. resúmenes sobre el contenido utilizado para la capacitación con el fin de respaldar el cumplimiento de la ley de derechos de autor de la UE.
Para los GPAI de “alto impacto” (definidos como la cantidad acumulada de computación utilizada para su entrenamiento medida en operaciones de punto flotante es mayor que 10^25) con el llamado “riesgo sistémico” existen obligaciones más estrictas.
«Si estos modelos cumplen ciertos criterios, tendrán que realizar evaluaciones de modelos, evaluar y mitigar riesgos sistémicos, realizar pruebas adversas, informar a la Comisión sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética», escribió el parlamento. «Los eurodiputados también insistieron en que, hasta que se publiquen normas armonizadas de la UE, las GPAI con riesgo sistémico pueden depender de códigos de práctica para cumplir con la regulación».
La Comisión ha estado trabajando con la industria en un Pacto provisional sobre IA durante algunos meses, y hoy confirmó que su objetivo es cerrar la brecha práctica hasta que la Ley de IA entre en vigor.
Si bien los modelos fundamentales/GPAI que se han comercializado enfrentan la regulación según la Ley, la investigación y el desarrollo no están destinados a estar dentro del alcance de la ley, y los modelos de código abierto tendrán requisitos regulatorios más livianos que los de código cerrado, según los pronunciamientos de hoy.
El paquete acordado también promueve entornos de pruebas regulatorios y pruebas en el mundo real que están estableciendo las autoridades nacionales para ayudar a las empresas emergentes y a las pymes a desarrollar y capacitar IA antes de su comercialización.
Las sanciones por incumplimiento pueden dar lugar a multas que van desde 35 millones de euros o el 7 % del volumen de negocios global hasta 7,5 millones de euros o el 1,5 % del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa.
El acuerdo acordado hoy también permite una entrada en vigor gradual después de que se adopte la ley, con seis meses hasta que entren en vigor las normas sobre casos de uso prohibidos; 12 meses para requisitos de transparencia y gobernanza; y 24 meses para todos los demás requisitos. Por lo tanto, es posible que toda la fuerza de la Ley de IA de la UE no se sienta hasta 2026.
Carme Artigas, secretaria de Estado española para cuestiones digitales y de IA, que dirigió las negociaciones del Consejo sobre el expediente de IA mientras el país ocupa la presidencia rotatoria del Consejo desde el verano, elogió el acuerdo sobre el muy disputado expediente como «el mayor hito en el proceso». historia de la información digital en Europa”; tanto para el mercado único digital del bloque, como también, sugirió, “para el mundo”.
«Hemos logrado la primera revelación internacional e inteligencia artificial del mundo», anunció durante una conferencia de prensa posterior a la medianoche para confirmar el acuerdo, y agregó: «Nos sentimos muy orgullosos».
La ley apoyará a los desarrolladores, las nuevas empresas y las futuras empresas en expansión europeas dándoles «seguridad jurídica con seguridad técnica», predijo.
Hablando en nombre del Parlamento Europeo, los coponentes Dragoș Tudorache y Brando Benifei dijeron que su objetivo había sido promulgar una legislación sobre inteligencia artificial que garantizara que el ecosistema se desarrollara con un «enfoque centrado en el ser humano» que respete los derechos fundamentales y los valores europeos. Su evaluación del resultado fue igualmente optimista, citando como logros importantes la inclusión en el texto acordado de una prohibición total del uso de la IA para la vigilancia policial predictiva y la categorización biométrica.
“Finalmente tomamos el camino correcto, defendiendo los derechos fundamentales ante la necesidad que existe para que nuestras democracias soporten cambios tan increíbles”, dijo Benifei. “Somos los primeros en el mundo en tener una legislación horizontal que tiene esta dirección en materia de derechos fundamentales, que apoya el desarrollo de la IA en nuestro continente, y que está actualizada a la frontera de la inteligencia artificial con los modelos más potentes. bajo una clara obligación. Así que creo que cumplimos”.
«Siempre nos han preguntado si hay suficiente protección, si hay suficiente estímulo para la innovación en este texto, y puedo decir que ese equilibrio está ahí», añadió Tudorache. “Tenemos salvaguardias, tenemos todas las disposiciones que necesitamos, la reparación que necesitamos para dar confianza a nuestros ciudadanos en la interacción con la IA, en los productos y servicios con los que interactuarán de ahora en adelante.
“Ahora tenemos que utilizar este plan para buscar la convergencia global porque este es un desafío global para todos. Y creo que con el trabajo que hemos realizado, por difícil que haya sido (y fue difícil, esta fue una negociación maratónica en todos los sentidos, considerando todos los precedentes hasta ahora), pero creo que lo logramos”.
El comisario de Mercado Interior de la UE, Thierry Breton, también contribuyó con sus dos céntimos de euro, describiendo el acuerdo alcanzado poco antes de la medianoche, hora de Bruselas, como “histórico”. “Es un paquete completo. Es un trato completo. Y por eso pasamos tanto tiempo”, entonó. «Esto supone equilibrar la seguridad de los usuarios y la innovación para las empresas emergentes, respetando al mismo tiempo… nuestros derechos fundamentales y nuestros valores europeos».
A pesar de que la UE se ha felicitado visiblemente esta noche por haber logrado un acuerdo sobre las «primeras normas del mundo» en materia de IA, todavía no es el final del camino para el proceso legislativo del bloque, ya que aún quedan algunos pasos formales por recorrer, entre ellos el El texto final se someterá a votaciones en el Parlamento y en el Consejo para adoptarlo. Pero dada la gran división y desacuerdo que ha habido sobre cómo (o incluso si) regular la IA, está claro que los mayores obstáculos han sido desmantelados y el camino para aprobar la Ley de IA de la UE en los próximos meses parece claro.
La Comisión ciertamente está proyectando confianza. Según Breton, el trabajo para implementar el acuerdo comienza inmediatamente con la creación de una Oficina de IA dentro del ejecutivo de la UE que tendrá la tarea de coordinar con los organismos de supervisión de los Estados miembros que necesitarán hacer cumplir las normas sobre las empresas de IA. «Daremos la bienvenida a nuevos colegas… a muchos de ellos», dijo. «Así que trabajaremos, a partir de mañana, para prepararnos».