Los nuevos modelos de Pangram detectan falsificaciones de IA en imágenes y vídeos, dice

Pangram lanzó Pangram Image 1.0 para imágenes AI y el más rápido Image Flash 1.0 para video. Afirma obtener puntuaciones casi perfectas en sus propias pruebas y un 98,7% en el punto de referencia académico DF26. Ambos están en su aplicación web y API, y Image 1.0 está en su extensión de Chrome.

Pangram, una startup de Nueva York conocida por detectar texto escrito por IA, ha lanzado dos modelos para detectar imágenes y videos de IA, la compañía dijo el miercoles. Pangram Image 1.0 comprueba imágenes fijas, mientras que Pangram Image Flash 1.0, más pequeño y rápido, comprueba el vídeo fotograma a fotograma.

El modelo de imagen también puede dibujar un mapa de calor que muestra dónde se ubica el contenido de IA en una imagen, como un objeto falso agregado a una foto real. Pangram dice que captura el 99,2% de las imágenes de IA y marca erróneamente el 0,27% de las reales.

En su propia prueba, Pangram hizo copias mediante IA de 100 fotografías reales con 12 generadores de imágenes líderes, utilizando indicaciones que coincidían estrechamente con cada original. La imagen 1.0 obtuvo una precisión del 99,96% en ese conjunto. La prueba fue diseñada por Pangram, no por revisores externos.

Para vídeo, Pangram utilizó DF26, un punto de referencia académico de 2.691 clips de personas hablando a la cámara, publicado en septiembre. Sus autores descubrieron que tanto las personas como los principales detectores hicieron poco más que la casualidad para distinguir clips reales de falsos.

Pangram dice que Flash 1.0 obtiene una puntuación del 98,7% en DF26, 29 puntos por delante del siguiente mejor detector.

Los nuevos modelos también funcionan en imágenes más pequeñas, hasta 256 por 256 píxeles desde 512 por 512. Los resultados por debajo de 512 píxeles conllevan una advertencia de menor confianza. Pangram dice que entrena a los modelos para ver a través de la compresión, el desenfoque y el ruido, que las plataformas y las personas que intentan engañar a los detectores pueden agregar.

Image 1.0 ahora se ejecuta en la extensión Chrome de Pangram, que señala contenido de IA en redes sociales, sitios de compras y alquiler. Los usuarios también pueden cargar vídeos en la aplicación web y la API ahora maneja tanto imágenes como vídeos. Las plataformas también están tomando medidas enérgicas: Snapchat se ha detenido Recomendar vídeos de IA. en Destacar.

pangrama recaudó $9 millones en una ronda liderada por Menlo Ventures en julio, cuando mostró por primera vez una vista previa de la detección de imágenes. Su detector de texto ya se está ejecutando. Subpila.

Los detectores de IA todavía cometen errores. En agosto, la herramienta de texto de Pangram marcó el caso de un profesor de Berkeley. artículo de opinión como parcialmente escrito por AI, lo cual ella cuestionó.

Incluso el propio detector de imágenes de Meta. falsificaciones recortadas perdidas de su generador más de la mitad del tiempo en las pruebas de Reuters. En YouTube, una red que pagaba a actores reales para que leyeran guiones de IA vencer a sus detectores.