La empresa de inteligencia sobre vulnerabilidades VulnCheck publicó recientemente su tercer análisis de seguimiento del programa de seguridad de Anthropic, Project Glasswing. Según las cifras del registro público de Anthropic hasta el 2 de noviembre, en los siete meses desde el lanzamiento de Glasswing se notificaron 37.966 hallazgos, de los cuales solo 7.349 se hicieron públicos, aproximadamente el 19,4 %, y apenas 217 figuran como corregidos.
Cuando Anthropic puso en marcha Glasswing el 7 de abril, afirmó que había encontrado «miles de vulnerabilidades de alto riesgo y críticas» y que las estaba divulgando de forma responsable a los responsables del mantenimiento de proyectos de código abierto. Patrick Garrity, miembro de VulnCheck y autor del artículo, empezó a crear una base de datos de código abierto a mediados de abril para rastrear, una por una, las vulnerabilidades atribuibles a Anthropic.
Casi 12.000 hallazgos nuevos en dos meses; solo 15 reparaciones más
VulnCheck comparó los registros del 8 de septiembre y el 2 de noviembre: el número total de hallazgos pasó de 26.153 a 37.966, es decir, aumentó en 11.813; las vulnerabilidades reparadas pasaron de 202 a 217, solo 15 más; las retiradas, de 245 a 419; y las marcadas como duplicadas, de 2 a 1.670. Durante el mismo período, la tasa de verdaderos positivos indicada en el registro aumentó del 91,4 % al 94,2 %.
Garrity considera que, dado que las cifras de duplicados y retiradas superan a las de reparaciones, mientras que la tasa de verdaderos positivos sigue aumentando, es posible que el sistema de clasificación del registro no refleje esos resultados. También identificó 442 identificadores de vulnerabilidades CVE atribuibles a Anthropic, cerca del 0,5 % del total de 93.450 CVE de este año. De ellos, solo 2 se incluyeron en la lista de vulnerabilidades explotadas en la práctica.
Más de la mitad de los informes recibidos por curl fueron clasificados como no vulnerabilidades
VulnCheck también citó el caso de curl, la herramienta de descarga de código abierto. Hace poco, el mantenedor del proyecto, Daniel Stenberg, indicó que el proyecto había recibido de Anthropic un conjunto de 45 informes de vulnerabilidades. Anthropic consideró que 1 era de riesgo moderado y que el resto eran de riesgo bajo. Cuando se publicó el análisis, de los 34 informes que ya eran públicos, 19 se habían clasificado como no vulnerabilidades, 6 se habían confirmado como de riesgo bajo y 9 seguían en evaluación.
La conclusión de Garrity es que la IA sí es una herramienta útil para encontrar vulnerabilidades, pero las cifras de siete meses no cuadran con lo que se afirmó al lanzar Glasswing, y el trabajo de verificación también se ha trasladado a los mantenedores de código abierto.
Anthropic ya había reconocido que la verificación humana era un cuello de botella
El 8 de octubre, al presentar OSS Scanner, una herramienta de autoservicio para analizar proyectos de código abierto, Anthropic explicó en una publicación oficial que hasta entonces había detectado más de 29.000 posibles vulnerabilidades, pero que solo había revisado manualmente unas 6.000. La empresa admitió que estaba limitada por su «capacidad de verificación humana» y que, a petición de algunos mantenedores, ya había enviado en lote casi 5.000 informes sin verificar.
Anthropic también indicó que los informes de OSS Scanner «son generados íntegramente por modelos, sin revisión ni clasificación humanas» y que pueden contener errores o información no válida, por lo que corresponde a los mantenedores de cada proyecto evaluarlos. Para más información sobre el programa, consulta el artículo anterior: Anthropic ofrece gratuitamente a los proyectos de código abierto análisis de vulnerabilidades con su modelo más potente. Al momento de la publicación, Anthropic no había respondido públicamente al análisis de VulnCheck.
Este artículo, «El programa de vulnerabilidades de Anthropic: 38.000 hallazgos en siete meses, solo 217 reparados», apareció originalmente en .
【Análisis complementario】
【Mi opinión complementaria】
Este incidente pone de manifiesto las limitaciones prácticas de la IA generativa en los ámbitos de la ciberseguridad y la auditoría de código. La IA puede analizar toda la web con gran eficiencia, pero carece de una comprensión profunda del contexto del código, lo que dificulta evitar una elevada tasa de falsos positivos (el fenómeno de las alucinaciones). La «verificación humana» se convierte así en el principal cuello de botella, y los resultados del análisis pasan de ser una «herramienta de eficiencia» a convertirse en una carga que se transfiere a los mantenedores de la comunidad de código abierto. Esto demuestra que, por ahora, la IA debería limitarse a servir como herramienta auxiliar para el análisis preliminar de seguridad y que todavía no puede sustituir por completo a los expertos humanos.
【Impacto en el mercado】
1. **Mercado bursátil estadounidense**:
- **Principales inversores de Anthropic (Amazon y Alphabet)**: impacto **de neutral a ligeramente bajista**. El mercado podría reevaluar el ritmo de comercialización y el rendimiento de la inversión de la IA generativa en aplicaciones que requieren gran precisión.
- **Empresas tradicionales de ciberseguridad (como Palo Alto Networks y CrowdStrike)**: impacto **de neutral a ligeramente alcista**. La elevada tasa de ruido de los análisis realizados exclusivamente con IA pone de relieve que el modelo híbrido de «IA + servicios de expertos» es insustituible y reduce la preocupación del mercado por que la IA generativa desplace rápidamente a los proveedores tradicionales de seguridad.
2. **Mercado bursátil taiwanés**:
- **Sectores de ciberseguridad e integración de sistemas (como Systex y Zero One)**: impacto **neutral**. El efecto sobre los resultados reales será limitado, pero si las empresas aceleran la adopción de herramientas de ciberseguridad basadas en IA, aumentará la demanda de consultoría local y servicios de verificación secundaria.
3. **Mercado de criptomonedas**:
- **Tokens del sector de la IA (como FET y TAO)**: impacto **de ligeramente bajista a neutral**. La «detección y reparación automatizadas de vulnerabilidades en contratos inteligentes mediante IA» es uno de los principales argumentos a favor de las aplicaciones de IA en la cadena. Este incidente podría moderar las expectativas del mercado sobre la implementación a corto plazo de auditorías de seguridad automatizadas con IA.
【Qué observar a continuación】
Si Anthropic logra reducir significativamente los falsos positivos mediante actualizaciones de modelos o el refuerzo de sus algoritmos de filtrado previo, contribuirá a recuperar la confianza del mercado en sus herramientas de seguridad basadas en IA. Por el contrario, si aumenta el rechazo de la comunidad de código abierto a los informes generados por IA, la imagen de marca de Anthropic podría verse perjudicada.
【Aviso de riesgos】
La tecnología de IA evoluciona a una velocidad vertiginosa y los cuellos de botella de los modelos podrían superarse en poco tiempo. Los inversores no deberían sacar conclusiones prematuras sobre la competitividad a largo plazo de las empresas basándose únicamente en un informe de seguimiento.