Casi todas las noticias sobre IA y seguridad tratan de encontrar fallos. El Frontier Red Team de Anthropic ha publicado una investigación sobre otra defensa: usar Claude para localizar código al que un atacante puede llegar pero al que nadie necesita que llegue, y ponerlo detrás de una barrera. La ventaja es que corregir un fallo no dice nada de los que quedan, mientras que reducir lo que un extraño puede tocar rebaja de golpe el riesgo de todos los fallos desconocidos, incluidos los que ya se estén explotando en silencio.
El equipo pasó Claude por 25 proyectos de código abierto en C, C++, Java, PHP y Python, más de cinco millones de líneas en total, en busca de tres patrones: código accesible en la configuración por defecto que no usa ninguna función por defecto, pares de ajustes inofensivos por separado pero peligrosos juntos, y código complejo y sensible que se ejecuta antes de la autenticación o antes de que el usuario actúe. Claude hizo un inventario de más de 17.000 opciones de configuración, 3.842 de ellas relevantes para la seguridad, y encontró 493 problemas. Los once proyectos pensados solo para usuarios autenticados tenían código accesible antes de iniciar sesión. El hallazgo más llamativo fueron 162 combinaciones de ajustes arriesgadas que se aceptaban sin error, aviso ni documentación; en 94 de ellas se desactivaba en silencio un control de seguridad. Un ejemplo: exigir certificados de cliente, combinado con una opción pensada solo para retrasar esa comprobación, la desactivaba por completo, de modo que un servidor configurado para aceptar solo clientes de confianza aceptaba a cualquiera.
El caso estrella es OpenSSH, uno de los códigos en C más auditados del mundo. En la versión 10.4, Claude encontró unas 4.500 líneas de código experimental nuevo para ML-DSA-44, un esquema de firma poscuántico, a las que un cliente sin autenticar podía llegar con la configuración por defecto aunque el algoritmo no estuviera activado. Después detectó dos huecos en la corrección parcial de la 10.5. Los responsables publicaron los cambios completos en la 10.6 y eliminaron aproximadamente una quinta parte del código accesible antes de la autenticación.
Para los equipos de seguridad, es un uso de la IA más duradero que otra ronda de caza de fallos, y encaja con el trabajo sobre superficie de ataque en torno al que se construyen herramientas como Claude Security. Anthropic ha empaquetado el método como una skill de Claude de tres pasadas que está incorporando a su escáner de código abierto.
Los límites se dicen con claridad. Ninguno de los 493 problemas era explotable por sí solo; amplían la exposición, no abren una puerta. Poner barreras a código accesible por defecto puede romper el flujo de trabajo de alguien, así que cada cambio necesita el criterio de un responsable, como ocurrió con las correcciones de OpenSSH. Y son resultados de la propia Anthropic en proyectos que eligió ella.