La oferta de Anthropic para ayudar a proyectos de código abierto a rastrear vulnerabilidades de seguridad con un nuevo servicio llamado Escáner OSS. Dice proyectos de código abierto que optar por obtendrá “análisis de seguridad exhaustivos y periódicos realizados por nuestros modelos más potentes sin costo alguno”. Eso podría significar que los proyectos de código abierto reciban alertas sobre posibles problemas de seguridad antes, pero la desventaja es que los informes de OSS Scanner no incluyen revisión humana:
Los resultados de este escáner de vulnerabilidades opcional se generarán completamente mediante modelos, sin revisión ni clasificación humana. Esto permitirá un escaneo más rápido y frecuente, pero significa que es posible que los informes sean incorrectos o no válidos. Estos informes serán generados por nuestros modelos más sólidos (incluido Claude Mythos) para brindar a los proyectos de código abierto la mayor ventaja defensiva.
OSS Scanner está lejos de ser el primer ayudante de búsqueda de errores de IA que existe. Las herramientas de inteligencia artificial han ayudado a encontrar algunas fallas de seguridad importantes en el software de código abierto en los últimos meses, como el Error de «copia fallida» eso afectó a casi todas las distribuciones de Linux en mayo. Al mismo tiempo, algunos proyectos de código abierto están luchando por mantenerse al día con la repentina avalancha de informes de errores generados por IA. incluido Linus Torvalds e incluso Google.
