AI 관련 보안 뉴스 대부분은 버그를 찾는 이야기입니다. Google DeepMind의 AlphaProof Code는 적어도 특정 특성에 대해, 수십억 명이 쓰는 코드에 버그가 없음을 증명하는 이야기입니다. DeepMind는 자사 에이전트가 Signal 프로토콜을 뒷받침하는 컴파일된 코드의 핵심 보안 특성을 증명했다고 말합니다. 이 프로토콜은 WhatsApp, Messenger, Google Messages의 암호화 기반이기도 합니다. DeepMind는 이런 프로토콜의 구현이 어떤 방법으로든 형식 검증된 것은 처음이라고 밝힙니다.
작업 방식은 결과만큼 중요합니다. 명세 작성 에이전트가 연구자들과 함께 연구 문헌의 보안 목표를 Lean으로 옮겼고, 검토 에이전트가 초안을 비판했으며, 사람이 모든 명세를 승인했습니다. 그다음 Gemini 4 Carbon 기반의 증명 에이전트가 증명을 썼습니다. 에이전트는 코드베이스의 약 1퍼센트를 사람이 다시 볼 대상으로 표시했고, 나머지는 모두 Lean 커널이 검사했습니다. 함께 공개된 논문에 따르면 5명으로 이뤄진 팀이 4주 동안 이 작업을 했고, 각자 자기 컴퓨터에서 에이전트를 쉬지 않고 돌렸으며 대상은 libsignal 버전 0.105.4였습니다.
회의적인 사람을 설득할 만한 것은 버그 시험입니다. 팀은 이미 고친 실제 버그 두 개를 격리된 코드 사본에 다시 넣었습니다. 두 경우 모두 시스템은 버그가 있는 버전이 안전하지 않다는 기계 검증된 증명을 내놓았습니다. 그중 하나는 이전 세션에서만 복호화되어야 할 메시지를 받은 뒤 libsignal이 비밀 키를 포함한 새 세션 상태를 저장해 버리는 문제였습니다. Signal의 최고기술책임자 Ehren Kret는 이전 검증이 코드의 더 작은 부분만 다뤘으며, 실제 운영 코드를 유효한 Lean 정리로 옮기는 것은 큰 진전이라고 말했습니다.
개발자에게 더 넓은 의미는 형식 증명이 감당할 만한 비용이 되어 간다는 점입니 다. 논문은 검증을 위해 작성된 코드에 전문가들이 수년을 들인 seL4와 CompCert와 비교합니다. 우리가 리뷰한 Lean LSP MCP 같은 도구는 이미 코딩 에이전트가 Lean 검사기를 상대로 작업하게 해 주며, DeepMind도 자체 검증 결과물을 공개합니다.
한계는 분명히 적혀 있습니다. 검증 범위는 일대일 세션 코드이지 Signal 전체가 아닙니다. 기호적 보장은 완벽한 암호를 가정하며, 결과는 Lean 커널과 코드가 호출하는 일부 루틴의 계약을 신뢰합니다. DeepMind 스스로도 이 방법을 확장하려면 더 많은 연구가 필요하다고 말합니다. 그리고 증명은 그것이 증명하는 명세만큼만 강하므로, 사람이 승인한 명세야말로 외부 검토가 가장 필요한 부분입니다.