[비즈한국] 미토스 쇼크 이후 공공과 민간 모두 “AI 공격은 AI로 막는다”는 원칙 아래 대응 체계 재편을 본격화하고 있다. 금융권은 자율형 AI 모의해킹과 AI 기반 보안관제를 도입하고, 공공부문도 AI 시대를 전제로 한 망 보안체계 전환에 속도를 내는 모습이다.
가장 빠르게 움직이는 곳은 금융권이다. 금융은 고객 정보와 자금 흐름이 실시간으로 연결된 국가 핵심 인프라인 만큼 AI가 공격 속도를 높일수록 피해가 가장 먼저 현실화될 수 있는 분야로 꼽힌다.
우리금융그룹은 최근 오펜시브 사이버 보안 기업 티오리의 AI 기반 자율형 블랙박스 모의해킹 솔루션 ‘진트 웹(Xint Web)’을 도입했다. 시스템 내부 정보 없이 실제 해커처럼 서비스 외부를 두드려 약점을 찾는 방식이다. KB금융그룹도 자체 개발한 AI 모의해킹 에이전트와 제로트러스트 기반 보안 체계를 확대 적용하는 등 AI 기반 대응을 강화하고 있다.
한국은행도 미토스 대응 국제 협력체 ‘프로젝트 글래스윙’ 초기 참여 기업인 미국 팔로알토네트웍스 장비를 도입하는 등 공공부문 역시 AI 기반 보안 체계 전환에 나섰다.
“AI 공격은 AI로 막는다”…국내 대응 본격화
기업들이 기술적 대응에 나서는 사이 정부도 제도적 기반 마련에 착수했다. 금융위원회는 미토스 등장 이후 보안 목적 AI 활용에 한해 망분리 규제를 한시적으로 완화하기로 했다. 총자산 10조 원 이상, 상시 종업원 1000명 이상인 49개 금융회사가 대상으로, 보안관리 역량 평가를 거쳐 1년간 규제가 완화된다. 과학기술정보통신부도 앤트로픽과 미토스 접근권 확보를 포함한 협력 방안을 논의하는 등 AI 기반 보안 역량 확보에 집중하고 있다.
전문가들은 미토스 쇼크의 본질을 ‘완전 자동화된 AI 해커의 등장’ 자체보다 보안 업무의 수행 방식이 근본적으로 달라지고 있다는 점에서 찾는다. 빅데이터 분석 AI 기업 S2W의 양종헌 부문장은 “핵심은 완전 자동화가 당장 완성됐다는 것이 아니라 보안 업무의 단가와 속도, 반복 가능성이 바뀌기 시작했다는 점”이라며 “이 변화는 취약점 연구자의 일하는 방식은 물론 소프트웨어 공급망과 패치 관리 체계 전체를 흔들 수 있다”고 지적했다.
보안 영역에서 사람의 경쟁력이 과거에는 취약점을 발견하는 능력에서 나왔다면, 앞으로는 AI가 찾아낸 결과를 검증하고 실제 위험도를 판단해 대응 우선순위를 정하는 역량이 더욱 중요해진다는 설명이다.
AI가 공격과 방어의 상당 부분을 수행하게 되더라도 최종 책임은 결국 사람에게 돌아간다. 기술 발전 못지않게 AI를 관리하는 거버넌스 체계가 강조되는 이유다. 최병호 고려대 AI연구소 교수는 “현실적인 시스템에서는 사람과 AI가 공조를 해야 하고, 공조하는 사람이 책임을 지는 구조가 될 수밖에 없다”고 말했다. 다만 “아직까지 그 거버넌스 시스템이 완성되지 않았기 때문에 이런 사건이 터지면 속수무책”이라며 “전 세계가 1급 보안 시장이 무력화될 가능성이 매우 높은 상태”라고 말했다.
양 부문장은 “기업 입장에서 가장 먼저 필요한 것은 자산과 코드의 가시성”이라며 “어떤 시스템을 운영하고 있는지, 어떤 오픈소스 라이브러리에 의존하고 있는지 모른다면 AI가 찾아낸 취약점도 실제 위험으로 연결하기 어렵다”고 짚었다. AI가 취약점을 대거 찾아내더라도, 그것을 자사 시스템의 실제 위험으로 옮겨 해석할 기초 체력이 없다면 무용지물이라는 얘기다.
유준구 세종연구소 선임연구위원도 관련 보고서에서 “데이터 기반 주요 기반시설 보안의 핵심이 외부 방어벽을 높이는 데 있는 것이 아니라, 내부 계정이 탈취됐을 때 권한을 어떻게 통제하느냐에 있다”고 진단했다. 완벽한 보안을 전제하기보다 공격자가 목표를 달성하기까지 거쳐야 하는 검증 단계를 촘촘하게 설계하는 방향으로 가야 한다는 것이다.
성능보다 ‘접근권·통제력’…정부도 보안 특화 AI에 무게
그렇다면 한국은 미토스급 최상위 모델에 얼마나 다가설 수 있을까. 접근권을 확보했다 하더라도, 국내에서 미토스급 프런티어 모델을 직접 활용하는 건 쉽지 않다는 진단이 나온다. 해외 프런티어 AI가 점차 국가 전략자산으로 관리되면서 접근 자체가 제한될 가능성이 커지고 있어서다.
한국인터넷진흥원(KISA)과 삼성전자, SK텔레콤 등이 앤트로픽으로부터 미토스 접근 권한을 확보했지만, 미국이 프런티어 AI를 전략자산으로 관리하는 방향으로 정책을 전환하면서 장기적으로는 활용 여지가 점차 줄어들 수 있다는 시각이 지배적이다. 지난 6월 미 상무부가 미토스5와 페이블5 일반 모델에 대한 수출 통제를 18일 만에 해제했지만, 이전보다 강화된 세이프가드가 적용되면서 보안 연구에 활용할 수 있는 범위는 오히려 좁아졌기 때문이다.
그렇다고 미토스와 같은 수준의 초거대 모델 개발 경쟁에 뛰어드는 게 현실적인 해법은 아니라는 지적이다. 김호원 한국정보보호학회 회장 겸 부산대 교수는 지난달 9일 사이버보안 발전 방향 모색 세미나에서 “똑같이 미토스를 자체 개발하자고 나서면 자칫 치킨게임에 말릴 수 있고, 외산 모델을 쓰면 데이터 주권 딜레마에 빠진다”며 “여러 AI를 유기적으로 통제하는 에이전트 오케스트레이션 기반의 소형 특화모델(sLLM) 전략이 현실적인 대안이 될 수 있다”고 말했다.
개발 여력도 넉넉하지 않다. 막대한 연산 자원과 투자 비용 때문이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 지난달 취임 1주년 기자간담회에서 “현재 독자 AI 파운데이션 모델 사업에서 지원하는 수준으로는 미토스급 프런티어 모델을 개발하기 어렵다”며 “베라 루빈급 GPU 약 1만 장이 필요할 것으로 보는데, 현재 가격만 약 3조 5000억 원 수준”이라고 언급한 바 있다.
문제는 비용과 기술만이 아니다. 접근 자체가 정치적 판단에 좌우될 수 있다는 점도 새로운 리스크로 떠올랐다. 왕윤종 동덕여대 국제경영학과 교수는 미국의 앤트로픽 접속 차단 사례를 두고 “타국의 생성형 AI 서비스가 하루아침에 중단될 수 있다는 ‘스위치 오프 리스크’가 현실화했다”고 평가했다. 그러면서 “소버린 AI는 시장 경쟁을 위한 수단이 아니라 해외 AI 접근이 제한될 경우를 대비한 국가 차원의 백업 시스템이라는 관점에서 접근할 필요가 있다”고 말했다.
아울러 규제의 예측 가능성이 크게 낮아진 만큼 국내 기업들이 글로벌 고객사와의 계약에 미 행정부의 수출통제 조치를 명시적인 ‘불가항력’ 사유로 삽입해야 한다고도 조언했다.
해외에서는 이미 국가·기업 단위의 대응 체계가 구체화되고 있다. 마이크로소프트(MS)는 지난달 27일 자율형 AI 공격 대응 프로젝트 ‘퍼셉션’과 보안 특화 AI 모델을 공개했고, 한국과학기술원(KAIST) 등이 참여하는 외부 레드팀 연합(EXTRA)을 출범시키는 등 AI 보안 경쟁을 본격화했다.
미토스 쇼크는 AI 성능 경쟁을 넘어 활용과 통제의 경쟁 시대를 예고하고 있다. 국내 역시 기술 확보와 함께 보안 체계와 제도적 대응을 어떻게 구축하느냐가 다음 과제로 남게 됐다.
이에 따라 정부는 독자 AI 파운데이션 모델 사업과 별도로 프런티어 AI 개발 가능성을 검토하는 ‘투트랙 전략’을 구상하는 한편, 기존 모델을 활용한 ‘보안 특화 AI’ 개발을 우선 추진한다는 방침이다. 배 부총리는 “당장 프런티어 모델을 만들지 못하더라도 현재 보유한 모델을 보안 데이터로 미세조정하면 여러 취약점을 점검하는 보안 특화 AI 모델은 만들 수 있다”며 “올해 안에 개발해 공공부문부터 적용을 시작할 계획”이라고 밝혔다.