[비즈한국] “그야말로 등골이 서늘해졌다.” 외국계 클라우드 기업 한국법인의 한 임원은 지난 4월 초 앤트로픽이 공개한 신규 AI 모델 발표 자료를 확인하던 순간을 이렇게 회상했다. “너무 강력해 함부로 공개할 수 없다. 엄선된 극소수 기관에만 열어주겠다”는 취지의 문구가 마치 위기감을 끌어올리는 재난 영화 예고편 같았다는 것이다. 모델의 이름은 ‘미토스(Mythos)’. 공개 후 3개월 동안 이 AI 모델 하나는 산업계와 정부를 연쇄적으로 흔들었다.
이 관계자는 클라우드 사업자로서 현장에서 고객사와 씨름해온 여러 이슈 중 미토스를 첫손에 꼽았다. “발표문을 본 순간부터 이 모델이 보안 생태계와 클라우드 시장에 어떤 파장을 몰고 올지 본사와 한국 법인 모두 한동안 내부적으로 고민이 깊었다”는 설명이다.
미토스 쇼크, 산업계를 흔들다
실제로 미토스는 인간 해커 이상의 취약점 발견 능력을 지닌 것으로 알려지며 공개 나흘 만에 미국 재무부와 연방준비제도(Fed), 월가 주요 금융사 CEO들을 긴급 소집시켰다. 백악관과 미 정부 부처는 사흘간 주요 AI 기업 수장들과 비공개 보안 점검 회의를 열었고, 국가 사이버안보 컨트롤타워는 정부 시설·인프라 보안 취약성 전수조사에 착수했다.
미토스는 사용자의 지시에 따라 작동하는 챗GPT나 제미나이 등과 달리, 조사부터 코딩·테스트·보고까지 전 과정을 스스로 수행하는 ‘에이전트형’ 모델이다. 복잡한 소프트웨어의 설계 구조를 인간 전문가 수준으로 추론해 보안 취약점을 찾아내고 침투 경로까지 설계하는 이른바 ‘자율형 보안 지능’으로, 발견한 결함을 즉각 해킹 도구로 무기화하는 자율성에 그 위력이 있다.
실제 테스트에서는 제한을 스스로 피해 인터넷에 접속하거나 관리자 권한을 얻으려 시스템 내부 정보를 뒤지는 ‘탈옥’ 행동, 나아가 보안 장치를 우회한 뒤 흔적을 지워 자기 행동을 숨기려는 시도까지 확인됐다. 앤트로픽은 이를 악의가 아닌 과도한 목표 지향성에서 비롯된 행동이라고 설명했다.
각국 중앙은행과 금융당국도 AI발 사이버 위협 긴급 리스크 평가에 들어갔다. 앤트로픽은 발표 닷새 만에 안보 연합체 ‘프로젝트 글래스윙’을 출범시키고 1억 달러 규모의 미토스 사용권을 배포하며 90일 내 순차적 취약점 공개를 예고했다. 국내에서도 금융감독원이 주요 금융사 보안 실무자를 긴급 소집하는 등 산업 분야를 가리지 않고 비상벨이 울렸다.
방어를 설계하는 보안 업계의 고민은 속도와 신뢰에 쏠리고 있다. 국내 대기업 계열 IT서비스 업체의 보안 담당자는 “기존에 사람이 막던 속도보다 훨씬 빠르게, 24시간 쉬지 않고 공격이 가능하다는 점이 가장 큰 걱정거리다. 내부망에만 있으면 안전하다는 경계 기반 보안은 더 이상 유효하지 않다”고 말했다. 그러면서 “모든 접근을 끊임없이 검증하는 ‘제로 트러스트’와 AI가 수행한 작업을 사람이 반드시 재검증하는 절차를 동시에 갖출 필요성이 커지고 있다”고 했다.
AI 위협 대 AI 보안…인간과 함께 ‘공진화’해야
업계 안팎에서 “공격과 방어 양 방향에서 AI는 필수”라는 인식이 굳어지고 있다. SK쉴더스는 최근 위협 동향 분석에서 사이버보안이 ‘AI 위협 대 AI 보안’의 시대로 접어들었다고 짚었고, 드림시큐리티는 미토스를 ‘사이버 공격의 민주화’로 규정하며 방어 체계가 낙후된 운영기술(OT) 영역의 구조적 취약성을 경고했다.
미토스 쇼크는 보안을 넘어 전략자산 층위의 문제로 거론된다. 정준화 국회입법조사처 입법조사관은 보고서에서 “고성능 AI 모델이 언제든 정부 통제를 받는 전략자산이 될 수 있다는 선례를 남겼다”며 이번 사태가 AI 모델 경쟁의 무게중심을 추론 성능에서 ‘보안 통제권 확보’로 옮겨놓았다고 분석했다. 실제로 지난달 미국 정부는 미토스에 수출 통제를 걸었다 해제했다.
다만 위협의 성격을 정확히 볼 필요가 있다는 신중론도 나온다. 송경호 한국전자통신연구원 AI안전연구소 선임연구원은 미토스의 사이버 역량이 “명시적으로 목적한 바가 아니라 코딩·추론·자율성 등 일반 역량 향상의 부산물로 발현된 것”이라고 규정하며 “사이버 역량이 일반 역량의 부산물이라면, 다음 도약은 사이버에 국한되지 않을 가능성이 높다”고 내다봤다.
여기에 국내의 경우 데이터 국외 반출을 제한하고 있어 정작 이런 고성능 AI를 방어에 활용하기 어렵다는 지적도 나온다.
최근 AI의 환각(할루시네이션) 현상이 획기적으로 줄어들면서 전문가들은 내년쯤 오류가 거의 없는 모델이 나올 것으로 예상한다. 1년 내에 업무 생산성이 파격적으로 높아지는 만큼 보안 위협 가능성 역시 급상승할 것이라는 전망이다.
문제는 미토스라는 특정 모델이 아니다. 임종인 고려대 정보보호대학원 명예교수는 “미토스나 오픈AI의 GPT-5.6 같은 모델은 애초에 보안에 특화된 AI가 아니라, 자율적으로 임무를 수행하며 무엇이든 잘하는 에이전틱 AI의 성격을 띤다”며 “AI가 매우 유능하지만, ‘하지 말라’고 제한한 사항을 어기고 실행했을 때 이를 어떻게 선제적으로 알아차리고 통제할 것인가가 앞으로의 과제”라고 말했다.
다만 임 교수는 완벽한 안전장치를 기대하기는 어렵다고 봤다. 그는 “AI 역시 인간의 데이터를 바탕으로 훈련됐기 때문에 인간과 유사한 특성을 지닌다”며 “보안은 언제나 창과 방패의 싸움이다. 막연한 공포감을 가지기보다는 인간과 AI가 함께 발맞춰 나가는 ‘공진화(Co-evolution)’로 가야 한다”고 강조했다.