Lo siento, la IA no detendrá la difusión de noticias falsas


La desinformación se ha utilizado en guerra y estrategia militar a lo largo del tiempo. Pero es innegable que se está intensificando con el uso de tecnologías inteligentes y redes sociales. Esto se debe a que estas tecnologías de la comunicación brindan una forma relativamente económica y sin barreras para difundir información básicamente en cualquier lugar.

La pregunta del millón de dólares entonces es: ¿Puede este problema de escala y alcance producido tecnológicamente también ser resuelto usando tecnología?

De hecho, el desarrollo continuo de nuevas soluciones tecnológicas, como la inteligencia artificial (IA), puede proporcionar parte de la solución.

Las empresas de tecnología y las empresas de redes sociales están trabajando en la detección automática de noticias falsas a través del procesamiento del lenguaje natural, el aprendizaje automático y el análisis de redes. La idea es que un algoritmo identifique la información como «noticias falsas» y clasificarlo más bajo para disminuir la probabilidad de que los usuarios lo encuentren.

Repetición y exposición

Desde una perspectiva psicológica, La exposición repetida a la misma información hace que sea más probable que alguien la crea.. Cuando la IA detecta desinformación y reduce la frecuencia de su circulación, esto puede romper el ciclo de patrones de consumo de información reforzados.

Sin embargo, la detección de IA sigue siendo poco fiable. Primero, la detección actual se basa en la evaluación del texto (contenido) y su red social para determinar su credibilidad. A pesar de determinar el origen de las fuentes y el patrón de difusión de las noticias falsas, el problema fundamental radica en cómo AI verifica la naturaleza real del contenido.

En teoría, si la cantidad de datos de entrenamiento es suficiente, el modelo de clasificación respaldado por IA podría interpretar si un artículo contiene noticias falsas o no. Sin embargo, la realidad es que hacer tales distinciones requiere conocimiento político, cultural y social previo, o sentido común, del que aún carecen los algoritmos de procesamiento del lenguaje natural.

Además, las noticias falsas pueden tener muchos matices cuando se modifican deliberadamente para «aparecen como noticias reales pero que contienen información falsa o manipuladora, ”Como muestra un estudio previo a la impresión.

Asociaciones humano-IA

El análisis de clasificación también está muy influenciado por el tema: la IA a menudo diferencia los temas, en lugar de realmente el contenido del problema para determinar su autenticidad. Por ejemplo, es más probable que los artículos relacionados con COVID-19 se etiqueten como noticias falsas que otros temas.

Una solución sería emplear personas para que trabajen junto con la inteligencia artificial para verificar la autenticidad de la información. Por ejemplo, en 2018, el Ministerio de Defensa de Lituania desarrolló un programa de inteligencia artificial que “Señala la desinformación dentro de los dos minutos posteriores a su publicación y envía esos informes a especialistas humanos para su posterior análisis.. «

Se podría adoptar un enfoque similar en Canadá estableciendo una unidad o departamento especial nacional para combatir la desinformación, o apoyando a los think tanks, universidades y otros terceros para investigar soluciones de inteligencia artificial para noticias falsas.

Evitando la censura

El control de la difusión de noticias falsas puede, en algunos casos, considerarse censura y una amenaza para la libertad de expresión. Incluso un ser humano puede tener dificultades para juzgar si la información es falsa o no. Entonces, quizás la pregunta más importante es: ¿Quién y qué determina la definición de noticias falsas? ¿Cómo nos aseguramos de que los filtros de IA no nos arrastren a la trampa de los falsos positivos y etiqueten incorrectamente la información como falsa debido a sus datos asociados?

Un sistema de inteligencia artificial para identificar noticias falsas puede tener aplicaciones siniestras. Los gobiernos autoritarios, por ejemplo, pueden utilizar AI como excusa para justificar la eliminación de cualquier artículo o para enjuiciar a personas que no estén a favor de las autoridades. Por lo tanto, cualquier implementación de IA, y cualquier ley o medida relevante que surja de su aplicación, requerirá un sistema transparente con un tercero para monitorearlo.

Los desafíos futuros permanecen ya que la desinformación, especialmente cuando está asociada con la intervención extranjera, es un problema continuo. Es posible que un algoritmo inventado hoy no sea capaz de detectar noticias falsas en el futuro.

Un informe de la BBC sobre los peligros de las falsificaciones profundas.

Por ejemplo, falsificaciones profundas, que son «manipulación digital de audio o video altamente realista y difícil de detectar”- es probable que jueguen un papel más importante en la guerra de información futura. Y la desinformación que se propaga a través de aplicaciones de mensajería como WhatsApp y Signal se está volviendo más difícil de rastrear e interceptar debido al cifrado de extremo a extremo.

Un estudio reciente mostró que El 50 por ciento de los encuestados canadienses recibió noticias falsas a través de aplicaciones de mensajería privada con regularidad.. Regular esto requeriría lograr un equilibrio entre la privacidad, la seguridad individual y la represión de la desinformación.

Si bien definitivamente vale la pena asignar recursos para combatir la desinformación utilizando IA, se necesitan precaución y transparencia dadas las posibles ramificaciones. Desafortunadamente, las nuevas soluciones tecnológicas pueden no ser una solución milagrosa.La conversación

Artículo de Sze-Fung Lee, Asistente de Investigación, Departamento de Estudios de la Información, Universidad McGill y Benjamin C. M. Fung, Profesor y Cátedra de Investigación de Canadá en Minería de Datos para la Ciberseguridad, Universidad McGill

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.



Fuente: TNW

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Ver Política de cookies
Privacidad