27년 숨겨진 결함을 며칠 만에 찾았다… 통제 밖으로 벗어난 AI '미토스'

[심층 리포트] '창과 방패'의 경계가 무너지다: 엔트로픽 '미토스(Mythos)'가 던진 사이버 안보의 서늘한 경고

현대 사회의 모든 기반 시설은 눈에 보이지 않는 무수한 코드의 그물망 위에 세워져 있다. 은행의 금융 결제, 국가 전력망의 통제, 병원의 환자 데이터 관리까지 모두 소프트웨어의 안정성에 의존한다. 만약 이 견고해 보이는 그물망을 순식간에 끊어낼 수 있는 보이지 않는 가위가 등장한다면 세상은 어떻게 될까.

1999년에 개발되어 전 세계 수많은 방화벽과 핵심 기반 시설의 운영체제로 쓰이는 '오픈BSD(OpenBSD)'가 있다. 이 시스템은 세계에서 가장 강력한 보안을 갖춘 것으로 평가받아 왔다. 하지만 최근, 이 굳건한 시스템 안에 무려 27년 동안이나 숨겨져 있던 치명적인 결함이 발견됐다. 수많은 천재 해커의 집요한 공격을 견뎌내고, 수백만 번의 자동화된 보안 검사도 무사히 통과했던 이 틈을 찾아낸 것은 인간이 아니었다. 단 며칠 만에 이 결함을 찾아낸 주인공은 바로 인공지능(AI)이다.

미국의 AI 개발사 엔트로픽(Anthropic)이 최근 발표한 차세대 AI 모델 '클로드 미토스(Claude Mythos)'는 인간의 한계를 아득히 뛰어넘는 소프트웨어 취약점 탐지 능력을 보여주며 전 세계 산업계와 각국 정부에 커다란 충격을 안겼다. 이것은 단순한 기술 발전의 성과를 넘어, 다가올 미래의 사이버 전쟁이 어떤 형태일지 보여주는 명확한 예고편이다.

수치로 증명된 압도적 성능과 27년의 침묵

엔트로픽이 프리뷰(사전 공개) 형태로 일부 성능을 밝힌 미토스 모델의 능력은 예상을 뛰어넘는다. 앞서 언급한 오픈BSD의 27년 된 취약점은 물론, 전 세계 수많은 소프트웨어에서 영상 처리에 쓰이는 'FFmpeg'에 숨겨져 있던 16년 된 결함도 미토스의 눈을 피하지 못했다. FFmpeg의 경우 기존의 자동화 검사 도구를 500만 번이나 반복 실행했음에도 기계가 찾아내지 못한 코드의 구멍이었다.

실제 성능 평가 지표도 이를 뒷받침한다. 소프트웨어 엔지니어링 능력을 평가하는 'SWE-벤치 검증(SWE-bench Verified)' 테스트에서 미토스는 93.9%의 성공률을 기록하며 이전 최고 모델인 클로드 오퍼스 4.6(80.8%)을 크게 앞질렀다. 터미널 환경에서의 능력을 측정하는 평가에서도 82.0%를 기록해 큰 성능 향상을 보였다.

더욱 우려스러운 부분은 이 AI가 취약점을 찾아내는 데 그치지 않는다는 점이다. 영국 인공지능 안전연구소(AISI)가 최근 공개한 평가 결과에 따르면, 미토스는 기업 내부망 침투 시나리오를 자율적으로 완수했다. 외부 침투부터 시작해 내부망 이동, 관리자 권한 획득, 그리고 최종적인 데이터 탈취에 이르는 복합적인 사이버 공격을 처음부터 끝까지 혼자서 수행하는 데 성공한 것이다. 인간 해커 집단이 오랜 시간 매달려야 할 고난도 작업을 통제된 환경에서 순식간에 끝마친 셈이다.

강력한 무기를 봉인하다: '프로젝트 글래스윙' 출범

압도적인 능력은 곧 양날의 검이다. 엔트로픽은 미토스를 당분간 일반 대중에게 공개하지 않겠다고 밝혔다. 엔트로픽 측은 공식 블로그를 통해 "AI 모델이 가장 숙련된 인간 전문가를 제외한 모든 사람을 뛰어넘어 소프트웨어 취약점을 찾고 악용할 수 있는 수준에 도달했다"며 "이 기술이 악용될 경우 경제, 공공 안전, 국가 안보에 치명적인 결과를 초래할 수 있다"고 설명했다.

대신 이들은 거대한 방어 연합 전선을 구축했다. 이른바 '프로젝트 글래스윙(Project Glasswing)'이다. 엔트로픽은 애플, 구글, 마이크로소프트, 아마존, 엔비디아 등 거대 기술 기업을 비롯해 JP모건 체이스와 같은 대형 금융사 등 40여 개 기관에만 제한적으로 미토스의 접근 권한을 제공했다. 참여 기업들은 미토스를 활용해 자사 시스템의 숨겨진 취약점을 먼저 찾아내고 고치는 방어적 목적으로만 이를 사용하게 된다. 엔트로픽은 이 방어 프로젝트를 돕기 위해 1억 달러(약 1,300억 원) 규모의 모델 이용 금액을 지원하고, 오픈소스 보안 단체에 400만 달러를 별도로 기부한다고 밝혔다.

월스트리트와 백악관의 긴급 소집… 레거시 시스템의 공포

미토스의 등장에 가장 크게 긴장한 곳은 각국 정부와 금융 당국이다. 스콧 베센트 미국 재무부 장관은 시스템적으로 중요한 주요 은행의 최고경영자(CEO)들을 워싱턴으로 긴급 소집했다. 미토스와 같은 고도화된 AI가 금융망을 뚫고 들어올 경우 발생할 수 있는 시스템 붕괴 위험을 대비하기 위해서다. 백악관 국가사이버국장 역시 주요 민관 핵심 관계자들을 모아 국가 인프라의 방어력을 점검하는 작업에 돌입했다.

유럽의 분위기도 다르지 않다. 크리스틴 라가르드 유럽중앙은행(ECB) 총재는 "엔트로픽의 이번 사례는 책임감 있는 기업의 모습을 보여주지만, 이 기술이 잘못된 손에 들어갈 경우 일어날 파장은 매우 클 것"이라고 말했다.

금융권이 이토록 두려움에 떠는 이유는 명확하다. 전 세계 수많은 대형 은행들은 여전히 수십 년 전에 작성된 오래된 프로그래밍 언어와 낡은 시스템(레거시 시스템)에 의존하고 있다. 만약 미토스가 27년 된 오픈BSD의 취약점을 단숨에 찾아냈다면, 수십 년간 덧대어 온 낡은 금융 시스템의 허점은 AI에게 훌륭한 먹잇감이 될 수밖에 없기 때문이다.

교차 검증: 과연 미토스만의 독점적 능력인가?

그렇다면 이 치명적인 능력은 오직 엔트로픽의 닫힌 문 안쪽에만 존재하는 것일까. 사이버 보안 연구소 '비독 시큐리티 랩(Vidoc Security Lab)'이 최근 발표한 연구 결과는 또 다른 관점을 제공한다.

이 연구소는 오픈AI의 'GPT-5.4'나 엔트로픽의 이전 모델인 '클로드 오퍼스 4.6'과 같이 이미 대중에게 공개된 AI 모델들을 활용해 미토스가 발견했던 오픈BSD와 FFmpeg의 취약점을 다시 찾아내는 실험을 진행했다. 그 결과, 특정한 조건을 충족할 경우 공개된 기존 모델들로도 이 취약점들을 식별하는 데 성공했다.

이는 저널리즘의 관점에서 매우 중요하게 짚어봐야 할 대목이다. 엔트로픽은 미토스의 위험성을 근거로 강력한 통제와 폐쇄적인 접근(프로젝트 글래스윙)의 필요성을 설명했다. 하지만 교차 검증 결과, 기술의 핵심적인 파괴력은 이미 대중에게 공개된 AI 모델들 사이에도 넓게 퍼져나가고 있음이 드러났다. 특정 기업의 독점적인 통제만으로는 사이버 안보의 근본적인 해결책이 될 수 없으며, 방어자들은 이미 널리 퍼진 AI의 위협에 즉각적으로 대비해야 한다는 사실을 뜻한다.

의도하지 않은 자율성이라는 '미지의 영역'

보안 전문가들과 정보기술(IT) 업계가 가장 깊이 우려하는 근본적인 문제는 따로 있다. 바로 미토스의 해킹 능력이 누군가 의도적으로 가르친 결과가 아니라는 점이다.

엔트로픽 측은 미토스에게 해킹하는 법이나 취약점 공격 코드를 따로 학습시키지 않았다고 밝혔다. 모델의 논리적 추론 능력과 자율적인 문제 해결 능력을 전반적으로 높이는 과정에서 자연스럽게 파생된 능력이라는 것이다. 인간이 시키지도 않은 고난도의 사이버 공격을 인공지능이 스스로 해낼 수 있는 이른바 '의도치 않은 자율성'이 발현된 셈이다.

이러한 현상은 AI 개발 분야에서 이른바 '미지의 영역(Unknown unknown)'으로 불린다. 댄 카츠 전 국제통화기금(IMF) 부국장 등 전문가들은 "우리가 직면한 진짜 문제는 미토스의 능력이 어디까지인지 우리조차 완벽히 알지 못한다는 것"이라고 말했다. AI가 방어벽을 뚫는 방법을 스스로 터득했다면, 앞으로 인간이 미처 상상하지 못한 완전히 새로운 방식의 공격 경로를 끝없이 만들어낼 가능성도 열려 있다.

신화(Mythos)는 축복이 될 것인가, 재앙이 될 것인가

엔트로픽의 미토스는 단순한 소프트웨어 상품이 아니다. 이는 인류가 쌓아 올린 디지털 문명의 기반이 얼마나 취약한지, 그리고 AI의 발전 속도가 인간의 통제 속도를 얼마나 빠르게 앞지르고 있는지 묻는 날카로운 질문이다.

지금 전 세계 방어자들에게 주어진 시간은 그리 많지 않다. 엔트로픽이 굳게 닫아둔 판도라의 상자는 언제든 다른 경쟁 AI 기업이나 미상의 해커 집단에 의해 열릴 수 있다. 기술이 우리의 삶을 위협하는 치명적인 창이 되기 전에, 인류는 이 압도적인 힘을 방어의 도구로 온전히 길들여야 하는 중대한 시험대에 올랐다. 이 거대한 시험을 어떻게 통과하느냐에 따라 미래 기술의 '신화'는 인류를 지키는 든든한 방패가 될 수도, 모든 것을 파괴하는 재앙이 될 수도 있다.