모질라, AI 에이전트 클로드로 파이어폭스 취약점 271개 발견

글의 목차

AI 에이전트, 소프트웨어 보안의 새 지평을 열다

오래된 난제였던 소프트웨어 취약점 탐지에 AI가 혁신을 가져오다

최근 인공지능 기술의 발전은 단순한 정보 처리 수준을 넘어, 스스로 판단하고 행동하는 ‘에이전트(Agent)’ 개념으로 진화하고 있습니다. 이러한 에이전트 AI의 잠재력이 소프트웨어 보안 분야에서 실제적인 성과로 나타나면서 전 세계 기술 커뮤니티의 이목이 집중되고 있습니다. 특히 웹 브라우저 파이어폭스(Firefox)를 개발하는 모질라(Mozilla)가 앤스로픽(Anthropic)의 클로드 미소스 프리뷰(Claude Mythos Preview)를 활용한 에이전트 AI 파이프라인으로 무려 271개의 이전에 알려지지 않았던 취약점을 발견했다는 소식은 사이버 보안 업계에 큰 반향을 일으키고 있습니다. 이는 한때 개발자들 사이에서 ‘쓸모없는 AI 찌꺼기’로 치부되던 AI 기반 버그 리포트의 인식을 완전히 뒤바꾸는 중대한 사건으로 평가됩니다.

수십 년간 소프트웨어 개발의 고질적인 문제였던 보안 취약점은 복잡성과 규모의 증가로 인해 인간의 힘만으로는 완벽한 탐지가 거의 불가능했습니다. 기존의 자동화된 테스트 방식 역시 한계가 명확했죠. 그러나 모질라의 이번 성과는 에이전트 AI가 단순히 코드를 분석하는 것을 넘어, 스스로 테스트 케이스를 작성하고 실행하여 발견된 잠재적 취약점을 검증하는 ‘자기 검증(Self-verification)’ 단계를 거침으로써 오탐(False Positive)을 획기적으로 줄일 수 있음을 증명했습니다. 이는 AI가 소프트웨어 개발 및 보안 프로세스에 필수적인 역할을 수행할 수 있음을 보여주는 강력한 사례이며, 향후 모든 소프트웨어 개발 생태계에 걸쳐 보안 패러다임의 근본적인 변화를 예고하고 있습니다. 이번 발견은 단순한 기술적 성과를 넘어, AI가 인류의 디지털 생활을 더욱 안전하게 만드는 데 기여할 수 있다는 희망적인 메시지를 던지고 있습니다.

클로드 미소스, 파이어폭스 150에서 271개 취약점 찾아내다

AI 에이전트 시스템, 기존 테스트 방식의 한계를 뛰어넘는 혁신적 성과

모질라 개발팀은 모질라 핵스 블로그(Mozilla Hacks blog)에 게시된 상세한 글을 통해 클로드 미소스 프리뷰를 활용하여 파이어폭스 150에서 271개의 이전에 알려지지 않았던 보안 취약점을 찾아내고 수정하는 과정을 설명했습니다. 이 놀라운 성과는 지난 4월 모질라가 해결한 총 423개의 보안 문제 중 압도적인 비중을 차지합니다. 이는 이전 월별 최대 기록이었던 3월의 76개와 비교했을 때 엄청난 증가폭입니다. 세부 내역을 살펴보면, 파이어폭스 150에서 발견된 271개 버그 외에도, 자체적으로 발견된 나머지 111개 버그 중 약 3분의 1도 미소스 실행을 통해 나온 것이었습니다. 나머지 3분의 2는 동일한 파이프라인에서 다른 모델을 실행하거나 퍼징(fuzzing)과 같은 전통적인 테스트 방법을 통해 발견되었으며, 외부 보고를 통한 취약점은 41개에 불과했습니다. 이는 클로드 미소스 프리뷰가 모질라의 보안 강화 노력에 얼마나 핵심적인 역할을 했는지 명확히 보여줍니다.

불과 몇 달 전만 해도 AI가 생성한 버그 보고서는 개발자들의 검증 시간을 낭비하는 ‘그럴듯하지만 틀린’ 결과물, 즉 ‘쓸모없는 AI 찌꺼기’로 여겨지며 널리 무시되곤 했습니다. 그러나 모질라 개발자들은 이러한 인식을 바꾼 두 가지 핵심 요인으로 ‘더욱 강력해진 모델’과 ‘실제 발견 사항과 노이즈를 분리하는 더 나은 인프라’를 꼽았습니다. 특히 GPT-4와 클로드 소네트 3.5(Claude Sonnet 3.5)를 이용한 초기 ‘읽기 전용’ 코드 분석 시도는 너무 많은 오탐으로 인해 실패로 돌아갔습니다. 모질라에 따르면, 진정한 돌파구는 ‘에이전트 시스템(agentic systems)’에서 나왔습니다. 이 시스템은 AI가 의심되는 버그가 실제로 존재하는지 확인하기 위해 스스로 테스트 케이스를 구축하고 실행할 수 있게 합니다. 이 ‘자기 검증’ 단계가 추측성 보고서를 걸러내는 결정적인 역할을 했습니다.

모질라는 클로드 오푸스 4.6(Claude Opus 4.6)을 사용하여 소규모의 수동 감독 실행으로 시작한 후, 이 프로세스를 여러 가상 머신에 걸쳐 확장하여 각 머신이 단일 파일을 병렬로 확인하도록 했습니다. 팀은 이를 기반으로 보고서를 중복 제거하고, 발견된 사항의 우선순위를 정하며, 수정 사항을 릴리스까지 추적하는 파이프라인을 구축했습니다. 앤스로픽의 프론티어 레드 팀(Frontier Red Team)이 지난 2월 모질라에 초기 취약점들을 보고하면서 시작된 협력은 모질라가 현재 선보이는 파이프라인으로 직접 이어졌습니다. 발견의 신뢰성을 뒷받침하기 위해 모질라는 평소보다 일찍 일부 버그 보고서를 공개했습니다. 여기에는 폼 설명에 사용되는 HTML 레이블(label) 요소의 15년 된 버그, XML 도구 XSLT의 20년 된 버그, 그리고 시스템의 나머지 부분으로부터 웹사이트를 격리하는 보안 메커니즘인 샌드박스(sandbox)를 탈출하는 여러 방법이 포함되어 있었습니다. 예를 들어, 65,535개 이상의 행을 가진 HTML 테이블이 내부 카운터를 오버플로우시키는 버그가 있었고, 심지어 서드파티 라이브러리를 위한 모질라의 추가 샌드박스인 RLBox도 우회되는 사례가 발견되었습니다.

모델이 할 수 없었던 것들도 마찬가지로 중요한 통찰력을 제공했습니다. 여러 공격 시도는 공격자들이 이전에 샌드박스를 탈출하는 데 사용했던 프로토타입 오염(Prototype Pollution)이라는 기술을 목표로 했으나 실패했습니다. 이는 모질라가 수년 전에 내린 아키텍처 결정 덕분이었습니다. 개발자들에게는 기존 방어 체계가 여전히 유효하다는 직접적인 증거를 얻는 것이 새로운 취약점을 발견하는 것만큼이나 가치 있었습니다. 발견된 많은 취약점들은 단독으로는 완전한 공격으로 이어지기 어렵지만, 다른 결함들과 연결될 때 치명적인 위협이 될 수 있습니다. 그리고 이러한 종류의 약점들은 퍼징과 같은 전통적인 테스트 방법으로는 발견하기 어려운 경우가 많으며, AI 분석은 이 부분을 훨씬 더 철저하게 다룹니다.

AI 기반 보안, 개발 프로세스의 핵심으로 자리 잡다

지속적인 통합 및 배포(CI/CD) 파이프라인에 AI 보안 검사 도입 가속화

모질라의 이번 성공 사례는 소프트웨어 개발 및 보안 업계에 중요한 미래 방향성을 제시합니다. 향후 모질라는 이 에이전트 AI 파이프라인을 개발 프로세스에 직접 통합하여, 새로운 코드 커밋이 이루어지기 전에 모든 코드 조각이 자동으로 검사되도록 할 계획입니다. 이는 단순한 사후 감사(post-audit)를 넘어, 개발 초기 단계부터 보안을 내재화하는 시프트 레프트(Shift Left) 전략의 궁극적인 형태로 볼 수 있습니다. 이러한 변화는 소프트웨어 개발 수명 주기(SDLC) 전반에 걸쳐 보안 취약점을 조기에, 그리고 지속적으로 탐지하고 수정함으로써, 최종 제품의 보안 수준을 획기적으로 높일 수 있습니다. 기존의 보안 테스트가 정해진 시점에 이루어지는 ‘스냅샷’ 방식이었다면, AI 에이전트 파이프라인은 ‘실시간 스트리밍’ 방식으로 끊임없이 코드를 감시하는 역할을 수행하게 됩니다.

모질라의 사례는 앤스로픽을 비롯한 주요 대규모 언어 모델(LLM) 개발사들이 단순한 텍스트 생성 기능을 넘어, 더욱 복잡하고 자율적인 ‘에이전트’ 역량을 강화하고 있음을 보여주는 강력한 증거입니다. 오픈AI(OpenAI), 구글(Google) 등 다른 빅테크 기업들 역시 AI 에이전트 기술 개발에 막대한 투자를 하고 있으며, 이는 AI가 특정 도메인 지식을 바탕으로 목표를 설정하고, 계획을 수립하며, 도구를 사용하여 실행하고, 그 결과를 평가하여 개선하는 자율적인 시스템으로 진화하고 있음을 의미합니다. 이러한 에이전트 AI는 사이버 보안뿐만 아니라 금융, 제조, 의료 등 다양한 산업 분야에서 복잡한 문제 해결과 자동화에 핵심적인 역할을 수행할 잠재력을 가지고 있습니다. 특히 소프트웨어 보안 분야에서는 AI 에이전트가 인간 전문가의 통찰력을 보완하고, 반복적이고 지루한 작업을 자동화하며, 인간이 놓치기 쉬운 미묘한 취약점들을 찾아내는 데 기여함으로써, 보안 전문가들의 역량을 한층 강화할 것입니다. 궁극적으로는 AI가 소프트웨어의 ‘면역 시스템’ 역할을 수행하며, 더욱 강력하고 회복력 있는 디지털 생태계를 구축하는 데 필수적인 요소가 될 것입니다.

AI 에이전트, 디지털 보안의 미래를 재정의하다

지속적인 혁신과 윤리적 고려가 동반되어야 할 AI 보안의 길

모질라의 클로드 미소스 프리뷰를 활용한 성공적인 취약점 탐지 사례는 AI 에이전트 기술이 소프트웨어 보안 분야에서 단순한 보조 도구를 넘어, 핵심적인 역할을 수행할 수 있음을 명확히 보여주었습니다. 수십 년간 미발견 상태였던 취약점들을 찾아내고, 기존 방어 체계의 유효성을 검증하며, 전통적인 방식으로는 놓치기 쉬운 복합적인 약점들을 식별하는 AI의 능력은 디지털 보안의 미래를 근본적으로 재정의할 잠재력을 가지고 있습니다. 이는 개발자들에게는 더욱 안전한 코드를 작성하고 배포할 수 있는 강력한 도구를, 기업에게는 향상된 보안 태세와 위험 감소를, 그리고 최종 사용자에게는 더 안전한 소프트웨어 경험을 제공할 것입니다.

그러나 이러한 기술 발전은 동시에 중요한 질문과 고려사항들을 제기합니다. AI가 자율적으로 취약점을 찾아내고 검증하는 능력이 고도화될수록, 이를 악용하려는 시도 또한 증가할 수 있습니다. AI가 선의의 목적으로 사용될 때 인류에게 엄청난 이점을 제공할 수 있지만, 악의적인 행위자들의 손에 들어갈 경우 잠재적으로 파괴적인 결과를 초래할 수도 있습니다. 따라서 AI 보안 기술의 발전은 엄격한 윤리적 지침과 강력한 안전 장치, 그리고 지속적인 인간의 감독 아래 이루어져야 합니다. 또한, AI가 발견한 취약점을 신속하게 패치하고 배포하는 프로세스의 효율성도 함께 강화되어야 합니다. 모질라의 사례는 AI 에이전트가 소프트웨어 보안의 새로운 시대를 열었음을 알리는 신호탄이며, 앞으로 AI 산업계, 개발자, 기업, 정부 등 모든 이해관계자들이 이 기술의 잠재력을 최대한 활용하면서도 발생할 수 있는 위험에 대비하는 균형 잡힌 접근 방식이 요구됩니다.

참고

Maximilian Schreiner, Mozilla’s agentic AI pipeline turns Claude Mythos Preview loose and finds 271 unknown Firefox vulnerabilities