AI와 보안에 관한 소식은 대부분 버그를 찾는 이야기입니다. Anthropic의 Frontier Red Team은 다른 방어법에 관한 연구를 발표했습니다. 공격자가 닿을 수 있지만 아무도 닿게 할 필요가 없는 코드를 Claude로 찾아내 관문 뒤로 옮기는 것입니다. 장점은 버그 하나를 고쳐도 남은 버그에 대해서는 알 수 없지만, 외부인이 건드릴 수 있는 범위를 줄이면 이미 몰래 악용되고 있을지 모르는 것까지 포함해 알려지지 않은 모든 결함의 위험을 한 번에 낮출 수 있다는 점입니다.
연구팀은 C, C++, Java, PHP, Python으로 된 오픈 소스 프로젝트 25개, 모두 500만 줄이 넘는 코드에 Claude를 돌려 세 가지 패턴을 찾았습니다. 기본 설정에서 닿을 수 있지만 어떤 기본 기능도 쓰지 않는 코드, 하나씩은 무해하지만 함께 쓰면 위험한 설정 쌍, 그리고 인증 전이나 사용자 동작 전에 실행되는 복잡하고 보안상 민감한 코드입니다. Claude는 17,000개가 넘는 설정 항목 목록을 만들었고, 그중 3,842개가 보안과 관련됐으며, 493건의 문제를 찾았습니다. 인증된 사용자만 상대하도록 만든 프로젝트 11개 모두에 로그인 전에 닿을 수 있는 코드가 있었습니다. 가장 눈에 띈 것은 오류도 경고도 문서도 없이 받아들여지는 위험한 설정 조합 162건으로, 그중 94건에서는 보안 통제가 조용히 꺼졌습니다. 예를 들어 클라이언트 인증서를 요구하는 설정과 그 확인을 늦추기만 하려던 옵션을 함께 쓰면 실제로는 확인 자체가 꺼져, 신뢰하는 클라이언트만 받도록 설정한 서버가 누구든 받아들였습니다.
대표 사례는 세계에서 가장 철저히 감사받는 C 코드 가운데 하나인 OpenSSH입니다. Claude는 10.4 버전에서 양자 내성 서명 방식 ML-DSA-44를 위한 새 실험 코드 약 4,500줄을 찾았는데, 이 알고리즘이 켜져 있지 않은데도 기본 설정에서 인증되지 않은 클라이언트가 닿을 수 있었습니다. 이어 10.5 버전의 부분 수정에서 빈틈 두 곳을 짚었습니다. 관리자들은 10.6 버전에서 전체 수정을 내놓아 인증 전에 닿을 수 있던 코드의 약 5분의 1을 없앴습니다.
보안팀에게 이는 또 한 번의 버그 사냥보다 오래가는 AI 활용법이며, Claude Security 같은 도구가 중심에 두는 공격 표면 작업과도 맞아떨어집니다. Anthropic은 이 방법을 세 단계로 도는 Claude 스킬로 묶어 오픈 소스 스캐너에 넣고 있습니다.
한계는 분명히 밝혀져 있습니다. 493건 가운데 혼자서 악용할 수 있는 문제는 하나도 없었으며, 문을 여는 것이 아니라 노출 범위를 넓히는 것입니다. 기본으로 닿는 코드에 관문을 두면 누군가의 작업 흐름이 깨질 수 있으므로, OpenSSH 수정이 그랬듯 변경마다 관리자의 판단이 필요합니다. 또한 이는 Anthropic이 직접 고른 프로젝트에서 낸 자체 결과입니다.