Los algoritmos de detección Deepfake nunca serán suficientes

Es posible que haya visto noticias la semana pasada sobre investigadores que desarrollan herramientas que pueden detectar deepfakes con más del 90 por ciento de precisión. Es reconfortante pensar que con una investigación como esta, el daño causado por las falsificaciones generadas por la IA será limitado. Simplemente ejecute su contenido a través de un detector de fallas profundas y bang, ¡la información errónea desaparece!

Pero el software que puede detectar videos manipulados por la IA solo proporcionará una solución parcial a este problema, dicen los expertos. Al igual que con los virus informáticos o las armas biológicas, la amenaza de los errores profundos es ahora una característica permanente en el paisaje. Y aunque es discutible si las fallas son un gran peligro para una perspectiva politicaellos son ciertamente dañar las vidas de las mujeres Aquí y ahora a través de la propagación de desnudos falsos y la pornografía.

Hao Li, un experto en visión por computadora y profesor asociado de la Universidad del Sur de California, dice El borde que cualquier detector de falso solo funcionará por un corto tiempo. De hecho, dice, "en algún momento es probable que no sea posible detectar (falsificaciones de AI) en absoluto. Por lo tanto, será necesario implementar un tipo de enfoque diferente para resolver esto ".

Li debería saberlo: es parte del equipo que ayudó a diseñar uno de los últimos detectores de falso. Él y sus colegas crearon un algoritmo capaz de detectar ediciones de videos de AI de políticos famosos como Donald Trump y Elizabeth Warren, mediante el seguimiento de pequeños movimientos faciales únicos para cada individuo.

Estos marcadores se conocen como "biometría suave" y son demasiado sutiles para que la IA los imite. Estos incluyen cómo Trump frunce los labios antes de responder una pregunta, o cómo Warren levanta las cejas para enfatizar un punto. El algoritmo aprende a detectar estos movimientos mediante el estudio de imágenes anteriores de individuos, y el resultado es una herramienta que tiene al menos un 92 por ciento de precisión para detectar varios tipos diferentes de errores profundos.

Sin embargo, Li dice que no pasará mucho tiempo hasta que el trabajo sea inútil. Como él y sus colegas describieron en su artículo, la tecnología deepfake se está desarrollando con una dinámica de virus / antivirus.

Toma parpadear En junio de 2018, los investigadores. encontró eso debido a que los sistemas deepfake no fueron entrenados en imágenes de personas con los ojos cerrados, los videos que produjeron presentaban patrones de parpadeo no naturales. Los clones de la IA no parpadearon con la frecuencia suficiente o, a veces, no parpadearon en absoluto – características que se pueden detectar fácilmente con un algoritmo simple.

Pero lo que sucedió después fue algo predecible. "Poco después de que esta técnica forense se hiciera pública, la próxima generación de técnicas de síntesis incorporó el parpadeo en sus sistemas", escribieron Li y sus colegas. En otras palabras: adiós, detector deepfake.

Irónicamente, este ida y vuelta imita la tecnología en el corazón de las fallas profundas: la red de confrontación generativa, o GAN. Este es un tipo de sistema de aprendizaje automático compuesto por dos redes neuronales que funcionan en concierto. Una red genera lo falso y la otra intenta detectarlo, con el contenido rebotando de un lado a otro y mejorando con cada volea. Esta dinámica se replica en el panorama de investigación más amplio, donde cada nuevo papel de detección de Deepfake le da a los creadores de Deepfake un nuevo desafío que superar.

Delip Rao, vicepresidente de investigación de la Fundación AI, está de acuerdo en que el desafío es mucho mayor que la simple detección y dice que estos documentos deben ponerse en perspectiva.

Un algoritmo de detección profunda dio a conocer la semana pasada por ejemplo, contaba con una precisión del 97 por ciento, pero, como señala Rao, ese 3 por ciento aún podría ser perjudicial al pensar en la escala de las plataformas de Internet. "Supongamos que Facebook implementa ese (algoritmo) y suponiendo que Facebook recibe alrededor de 350 millones de imágenes al día, eso es MUCHAS imágenes mal identificadas", dice Rao. "Con cada falso positivo del modelo, está comprometiendo la confianza de los usuarios".

Es increíblemente importante que desarrollemos tecnología que pueda detectar falsificaciones, dice Rao, pero el mayor desafío es hacer que estos métodos sean útiles. Las plataformas sociales aún no han definido claramente sus políticas sobre las fallas profundas, como la lucha de Facebook con un video falso de Mark Zuckerberg recientemente mostrado, y una prohibición absoluta sería imprudente.

"Como mínimo, los videos deben etiquetarse si se detecta algo manipulado, basado en sistemas automatizados", dice Li. Él dice que es solo cuestión de tiempo, sin embargo, antes de que las falsificaciones sean indetectables. "Los videos son solo píxeles, en última instancia".

Rao y sus colegas de la Fundación AI están trabajando en enfoques que incorporan el juicio humano, pero otros argumentan que verificar real Los videos y las imágenes deben ser el punto de partida, en lugar de detectar falsificaciones. Para ello, han desarrollado programas que pueden marca de agua e identificar imágenes tomadas en cámaras, mientras que otros han sugerido el uso de la tecnología blockchain para verificar el contenido de fuentes confiables.

Sin embargo, ninguna de estas técnicas "resolverá" el problema; No mientras el internet exista en su forma actual. Como hemos visto con noticias falsas, solo porque una parte del contenido puede ser fácilmente desmentido no significa que no se haga clic, se lea y se comparta en línea.

Más que cualquier otra cosa, la dinámica que define la web (compartir sin fricción y la monetización de la atención) significa que Deepfakes siempre encontrará una audiencia.

Aproveche las noticias recientes de un desarrollador que crea una aplicación que le permite a cualquiera hacer desnudos falsos De fotografías de mujeres vestidas. Las imágenes resultantes son obviamente fabricaciones. Cuando los miras de cerca, la piel y la carne se vuelven borrosas e indistintas. Pero son lo suficientemente convincentes de un vistazo, y a veces eso es todo lo que se necesita.