Así como el sol sale y se pone, algunas cosas son inevitables. Pensemos en la tecnología. En cuanto surge algo nuevo, la gente invariablemente encuentra una forma de abusar de él. En los últimos años, este manto ha recaído sobre la inteligencia artificial (AI) y uno de sus efectos secundarios más preocupantes: el aumento de la pornografía deepfake no consentida.
La idea es tan simple como horrenda: usar tecnología digital para crear imágenes o videos falsos y explícitos de alguien. Si bien esto ha estado en ebullición en Internet durante varios años, las recientes mejoras en las herramientas de inteligencia artificial significan que este tipo de contenido es cada vez más fácil de crear y sustancialmente peor para las víctimas.
Afortunadamente, las autoridades están tomando nota. El Reino Unido anunció la primera ley de este tipo para combatir directamente la pornografía deepfake no consentida a través de una enmienda al proyecto de ley de justicia penalMientras tanto, la UE cuenta con una serie de leyes y directivas que puede utilizar para luchar contra esta maléfica práctica. O al menos esa es la esperanza.
La pregunta es si la regulación es una herramienta eficaz para combatir la pornografía deepfake no consentida y si hay alguna manera de erradicarla por completo.
Una palabra sobre la terminología
El
Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial cuestionable. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
En este punto, quizás te preguntes por qué usamos la frase “pornografía deepfake no consensuada” en lugar del término más común “pornografía deepfake”.
Bueno, la profesora Victoria Baines, una Becario del BCS y Una autoridad líder en ciberseguridad — explica que los activistas de seguridad en línea consideran que acortar el término a “pornografía deepfake” es “minimizar un comportamiento dañino a través de la abreviatura”.
Como señala Baines, “la cuestión es el abuso en línea, no la pornografía”. Cuanto más claros seamos al hablar del tema, más posibilidades tendremos de combatirlo. Y, en ese sentido, echemos un vistazo a cómo los gobiernos están abordando actualmente la pornografía deepfake no consentida.
¿Cuáles son las leyes en el Reino Unido?
Bains dice que a pesar de la próxima enmienda al Proyecto de Ley de Justicia Penal, en el Reino Unido, «ya es un delito penal según la Sección 188 de La Ley de Seguridad en Internet “compartir imágenes íntimas no consensuadas”.
El redacción directa La legislación establece que es ilegal compartir contenido multimedia que “muestre o parezca mostrar” a otra persona en un estado íntimo. Si bien esto cubre en términos generales la pornografía deepfake no consentida, el problema es que ese no es su enfoque principal.
Según Baines, eso es lo que pretende solucionar la nueva enmienda propuesta al proyecto de ley de justicia penal, que “busca criminalizar la creación mediante tecnología digital de imágenes íntimas sin consentimiento, independientemente de si el creador tiene intención de compartirlas”.
En otras palabras, la próxima enmienda se dirige directamente al problema de la pornografía deepfake no consentida. Si bien las leyes existentes podrían aplicarse para procesar a los delincuentes que la cometen, esta nueva enmienda la enfrenta directamente.
Cómo aborda la UE la pornografía deepfake no consentida
“La UE no tiene regulaciones específicas sobre [nonconsensual] “La pornografía deepfake es una práctica muy común”, le dice la profesora Cristina Vanberghen a TNW.
Vanberghen es un experto senior en La Comisión Europeadonde se centra en la IA, Dirección de Medio Ambiente, DSAy la política de ciberseguridad. Ella dice que la pornografía deepfake no consentida se vuelve ilegal a través de las regulaciones existentes, específicamente «una interpretación corroborativa de las reglas sobre GDPR, DSA, leyes nacionales y medidas propuestas como las que existen en IA».
En efecto, “utilizar imágenes y vídeos de alguien en un deepfake sin su consentimiento puede considerarse una violación del RGPD” y la DSA “impone obligaciones más estrictas a las plataformas en línea para eliminar rápidamente el contenido ilegal y la desinformación, que pueden extenderse a la pornografía deepfake”.
Según Asha Allen, directora y secretaria general de CDT EuropaLa UE ha abierto otra vía para luchar contra los contenidos ilegales. En concreto, la adopción de la Directiva sobre la violencia de género.
Allen afirma que esto “convierte la creación y posterior difusión de imágenes deepfake que hacen parecer que una persona está participando en actividades sexualmente explícitas, sin el consentimiento de esa persona, en un delito penal”.
En el papel, se trata de una gran medida, pero hay una diferencia importante entre una directiva como ésta y un reglamento. En palabras de la UEUn reglamento, como los que mencionó Vanberghen, es un acto legislativo vinculante que debe aplicarse en su totalidad en toda la UE.
Una directiva, por otra parte, establece un objetivo. Luego, cada país debe elaborar sus propias leyes sobre cómo alcanzarlo. [it].”En lo que respecta a la directiva sobre violencia de género, los Estados miembros tienen hasta el 14 de junio de 2027 para incorporarla a su legislación o política nacional. Esto, comprensiblemente, plantea una serie de problemas.
La necesidad de claridad contra la pornografía deepfake no consentida
“Es fundamental establecer normas comunes sobre la pornografía deepfake”, afirma Vanberghen. Estas normas deben establecer “límites y repercusiones inequívocos para disuadir la conducta maliciosa” y garantizar que las víctimas tengan vías legales para obtener protección y recursos.
El problema que plantea la adopción de la directiva sobre la violencia de género es que podría dar lugar a normas incoherentes en las distintas jurisdicciones, lo que, a su vez, puede generar debilidades. para que los perpetradores de pornografía deepfake no consentida la exploten, dejando a las víctimas vulnerables.
Un ejemplo de ello es la enmienda del Reino Unido al proyecto de ley de justicia penal. Coalición para poner fin a la violencia contra las mujeres (EVAW) Señala que “el umbral para esta nueva ley se basa en las intenciones del perpetrador”, en lugar de si la víctima de pornografía deepfake no consentida consiente su creación.
Andrea Simon, directora de EVAW, afirma que esto conducirá a “una laguna jurídica enorme” que dará a “los perpetradores una carta para salir de la cárcel sin pagar”, ya que es muy difícil demostrar la intención ante un tribunal. En este estado, la fiscalía tendría que demostrar que el objetivo del creador era específicamente causar alarma, humillación o angustia. Esto, cree Simon, “en última instancia impedirá que las víctimas accedan a la justicia”.
Y ese es el quid de la cuestión: incluso en lugares donde hay regulaciones contra la pornografía deepfake no consentida, todavía debe haber más claridad para proteger adecuadamente a las víctimas.
Lograr que las leyes se aprueben en la UE
Dos cosas parecen claras: la necesidad de una regulación específica y meditada contra la pornografía deepfake no consentida en la UE y el hecho de que, en algún momento, esto sucederá. El problema, explica Allen, es que “el proceso legislativo de la UE es inherentemente largo”, ya que debe pasar por 27 países, siete grupos políticos y el Consejo Europeo. Las cosas no suceden rápidamente en la UE por una razón.
Pero incluso cuando (o si) se implementa una regulación directa contra la pornografía deepfake no consensuada, eso no significa que resolverá todo de inmediato.
Hablando con Bill Eichner de la Centro de Análisis de Políticas Europeas, CEPAdice que Europa “tiende a regular y luego luchar para hacer cumplir las normas debido a la naturaleza fragmentada de la Unión Europea”. Como ejemplo, Apunta hacia el RGPD y cómo le dio “la palabra general sobre Google y Meta a Irlanda, y sobre Amazon a Luxemburgo”, ninguno de los cuales tenía la intención de tomar medidas enérgicas.
Eichner afirma que, con nuevas normativas como la DSA, “han aumentado la aplicación por parte de Bruselas” y han hecho que la administración esté más centralizada. Sin embargo, cree que el problema es de recursos, ya que la parte de la Comisión Europea que se ocupa de normativas como la DSA a menudo está formada por “apenas un puñado de funcionarios”.
Esto, combinado con la estructura de la UE, puede hacer que la aplicación de la ley sea una pesadilla, y no hay motivos para creer que la represión de la pornografía deepfake no consentida sería diferente.
El uso de la tecnología para combatir la pornografía deepfake no consentida
“Creo que detener la pornografía deepfake presenta desafíos importantes, similares a los de la ciberseguridad”, dice Vanberghen. Sin embargo, esto no significa que no podamos combatirla.
Una de las cosas que destaca Vanberghen es el desarrollo de herramientas impulsadas por IA que sean capaces de detectar contenido deepfake, para que los operadores puedan eliminarlo de manera rápida y eficiente.
Allen tiene una opinión similar, pero señala que la creación de estas herramientas debe investigarse en profundidad para que las técnicas utilizadas sean “efectivas, proporcionadas y produzcan resultados equitativos”.
Lamentablemente, es poco probable que la pornografía deepfake no consentida desaparezca por completo de la sociedad. Como dice Vanberghen, “si bien la erradicación total puede ser inalcanzable, se puede lograr una reducción significativa mediante medidas proactivas y esfuerzos colaborativos entre varios sectores”.
Baines, de la BCS, apoya esta idea. Señala que, más allá de las “medidas técnicas y los elementos disuasorios legales, vamos a tener que intentar reducir el estigma de ser víctima de un deepfake creando conciencia de que no se trata de imágenes reales”.
Esfuerzo concertado para combatir el abuso de deepfakes
La idea es que, junto con las medidas técnicas, debe haber un impulso social y educativo contra el contenido ilegal. Si esto se combina con más financiación para quienes buscan procesar a los infractores, podría reducir considerablemente el daño que causa.
En definitiva, la pornografía deepfake no consentida no desaparecerá por sí sola. Se requiere un esfuerzo concertado de todos los sectores del gobierno y de la sociedad para poner de relieve lo que es: abuso.
Se necesitan regulaciones a nivel europeo contra la creación de pornografía deepfake no consentida, pero esto por sí solo no será suficiente. En lugar de eso, debe haber un marco para hacer cumplir estas leyes. La tecnología puede desempeñar un papel vital en esto, pero también se necesita un imperativo cultural: Muy parecido a conducir ebrio.
Sí, a medida que la tecnología evoluciona, inevitablemente se utilizará con fines maliciosos. Sin embargo, las cosas no son tan sencillas. Las mismas herramientas que permiten la actividad maliciosa también pueden impedirla. Puede que no podamos impedir la salida y la puesta del sol, pero sí podemos influir en la forma en que los seres humanos utilizan la tecnología. Esperemos que eso ocurra pronto.