Este esfuerzo de defensa se valida usando CTI-REALM, un benchmark open-source para tareas de ingeniería de detección en el mundo real. Los resultados muestran mejoras sustanciales en comparación con modelos anteriores, demostrando la capacidad de la IA para la protección a gran escala.
Microsoft ha fortalecido sus bases de seguridad a través de su Secure Future Initiative (SFI) aprovechando la IA para el descubrimiento y la remediación de vulnerabilidades. Están colaborando con líderes de modelos, como Anthropic, mediante Project Glasswing para probar modelos avanzados como Claude Mythos Preview.
Al aplicarse correctamente, estas tecnologías pueden acelerar el descubrimiento de vulnerabilidades, mejorar la ingeniería de detección y reducir el tiempo de mitigación. Es crucial utilizar estas capacidades en soluciones de nivel empresarial para equilibrar la balanza a favor de los defensores.
Estos cambios exigen que las organizaciones reconsideren su exposición, respuesta y riesgo. No obstante, las mismas capacidades que otorgan ventaja a los atacantes también crean una oportunidad única para los defensores.
Los modelos de IA pueden descubrir debilidades de forma autónoma, encadenar múltiples problemas de baja severidad en exploits funcionales de punta a punta y generar código de proof-of-concept funcional. Esto comprime significativamente el intervalo entre el descubrimiento de la vulnerabilidad y su explotación.
Estamos en un punto de inflexión en ciberseguridad. Los recientes avances en las capacidades de los modelos de IA están cambiando fundamentalmente cómo se descubren y explotan las vulnerabilidades.