[비즈한국] 인공지능(AI) 경쟁의 무게중심이 대규모언어모델(LLM) 학습과 그래픽처리장치(GPU) 확보에서 실제 서비스를 운영하는 추론과 비용 효율성으로 옮겨가고 있다. 반도체 성능뿐 아니라 소프트웨어와 네트워크·스토리지까지 함께 최적화해야 하는 상황에서 AMD가 국내 AI 기업들과 서로 다른 연산 반도체를 결합한 인프라 실증에 나선다. 한국 기업의 반도체와 소프트웨어를 AMD 생태계에 편입해 국내에서 검증한 시스템을 글로벌 시장으로 확장한다는 구상이다.
AMD는 4일 서울 강남구 웨스틴 서울 파르나스에서 ‘어드밴싱 AI 월드투어 서울 2026’을 열고 글로벌 AI 전략과 국내 협력 방향을 공유했다. 미국 중심으로 열어온 연례 기술 행사를 국내에서 개최한 건 이번이 처음이다. 퓨리오사AI·망고부스트·모레 등 국내 AI 반도체·인프라 기업과 네이버클라우드 등 파트너사도 참여해 기술과 적용 사례를 소개했다.
국산 NPU 더한 이기종 인프라, 한국 ‘실증 거점’으로
키스 스트라이어 AMD 글로벌 AI 마켓 총괄 수석부사장은 기조연설에서 퓨리오사AI·망고부스트와 함께 2027년 봄 서울에 첫 레퍼런스 클러스터를 구축하겠다고 밝혔다. AMD의 중앙처리장치(CPU)·GPU에 국내 AI 반도체 기업 퓨리오사AI의 신경망처리장치(NPU), 데이터센터 인프라 반도체·시스템 기업 망고부스트의 데이터처리장치(DPU)를 결합하는 방식이다. 3사는 이날 업무협약(MOU)도 맺었다. CPU는 작업을 조율하고 GPU는 대규모 연산을, NPU는 AI 추론을, DPU는 네트워크·데이터 이동을 맡아 각 반도체의 장점을 활용한다.
레퍼런스 클러스터는 여러 반도체와 소프트웨어가 실제 데이터센터 환경에서 함께 작동하는지 검증하고, 다른 기업이 도입할 때 참고할 기준 시스템이다. 스트라이어 수석부사장은 “지난 7월 MOU를 체결하면서 AMD 기술을 한국에 가져오는 데 그치지 않고 한국의 기술을 AMD 생태계에 통합하겠다고 약속했다”며 “이종 AI 인프라가 어떤 모습인지 보여주는 동시에 한국 파트너와의 약속을 이행하는 첫 사례가 될 것”이라고 말했다.
스트라이어 수석부사장은 “모든 작업 부하를 충족하는 단일 칩은 없으며, 단일 구성이나 단일 랙으로도 모든 요구를 해결할 수 없다”고 강조했다. GPU 72개를 엮은 랙 단위 시스템 ‘헬리오스’는 2027년까지 전 세계 주요 데이터센터와 클라우드에 도입될 예정이다. AI 에이전트가 확산하면서 작업 조율을 맡는 CPU의 역할도 다시 커졌다. 스트라이어 수석부사장은 “내년 한 해 동안 판매할 CPU 수량이 최근 몇 년간의 판매량을 합친 것보다 많을 것”이라고 내다봤다.
과학기술정보통신부와 AMD의 협력도 구체화하고 있다. 앞서 7월 AI 컴퓨팅 인프라 구축과 AMD AI 연구센터 설립, 인재 양성 등을 담은 MOU를 체결한 바 있다. AMD는 10월 수백 명 규모 연구 인력을 둔 국내 AI 연구센터 설립 계획도 내놨다. 이도규 과기정통부 정보통신정책실장은 이날 패널 토론에서 “(MOU에) 코리아 도메스틱 NPU랑 협력한다는 내용이 있다”며 “굉장히 이례적인 내용”이라고 말했다.
MOU는 보통 포괄적으로 맺지만, AMD의 CPU·GPU와 한국 NPU의 협력을 콕 집어 넣었고 이를 기반으로 현장에서 협력이 진행되고 있다는 설명이다. 정부는 내년 국산 NPU기반에 AMD CPU·GPU 등 다양한 조합을 결합한 대규모 실증 레퍼런스를 구축해 공공·민간과 해외 수요처의 도입을 지원할 계획이다.
비용 경쟁력 입증 ‘과제’
국내 기업들의 역할은 반도체 공급에서 그치지 않는다. 라민 로안 AMD AI 제품관리 부문 부사장은 “한국 생태계 파트너들과 함께 ROCm을 기반으로 한국형 소프트웨어 스택을 구축하고 있다”고 밝혔다. AI 모델을 서비스하려면 하드웨어에 맞춰 연산을 최적화하고 새 모델이 나올 때마다 소프트웨어 업데이트를 거듭해야 한다. 또 여러 장비는 하나의 시스템처럼 운영돼야 한다.
AI 인프라 소프트웨어 기업 모레는 데이터센터가 GPU 연산 자원을 빌려주는 데서 나아가 모델을 직접 운영하고 토큰을 제공하는 ‘토큰 팩토리’로 바뀌고 있다고 진단했다. 조강원 모레 대표는 AMD ROCm 위에 칩·클러스터 단위 최적화 소프트웨어를 결합해 최신 모델을 빠르게 지원하고, AMD와 엔비디아 등 서로 다른 GPU는 물론 향후 국산 NPU까지 함께 쓸 수 있는 구조를 개발하고 있다고 설명했다. 모레는 자체 측정 결과 GLM 모델의 추론 처리량이 일반적인 엔비디아 GPU와 표준 오픈소스 소프트웨어 조합보다 약 2배 높았다고 밝혔다. 자체 데이터센터를 구축하는 기업은 외부 토큰 서비스를 쓸 때보다 운영비를 약 절반으로 줄일 수 있다는 게 회사 측 설명이다.
망고부스트는 네트워크와 스토리지, 가속기, 소프트웨어를 함께 최적화하는 시스템 역량을 강조했다. 김장우 망고부스트 대표는 “데이터 주권도 중요하지만 그 이상으로 중요한 것은 AI가 너무 비싸다는 점”이라며 국내 대기업의 GPU 효율을 높이고 자체 하드웨어를 결합해 비용 대비 성능을 2배 이상 개선한 사례를 소개했다.
박영희 네이버클라우드 클라우드 테크놀로지 그룹 센터장은 AMD 서버용 CPU ‘에픽(EPYC)’을 탑재한 운영 서버 약 3만 5000대를 운용하고 있다고 밝혔다. 인텔 기반 시스템보다 랙 공간을 20~25% 줄였고, 전력·냉각을 포함한 총소유비용(TCO)을 고려해 도입을 확대했다는 설명이다.
다만 이기종 인프라가 시장에 안착하려면 서로 다른 반도체가 안정적으로 호환되고 성능과 비용을 객관적으로 입증해야 한다. 조 대표는 “특정 벤더가 1년 동안 한국에 GPU를 공급하지 않겠다고 결정하면 지금은 데이터센터를 지을 수 없는 환경”이라고 지적했다. 다른 반도체를 도입하는 데서 그치지 않고 공급업체가 달라져도 데이터센터를 운영할 수 있는 소프트웨어와 시스템 역량이 필요하다는 뜻이다.
이 실장은 “정부는 최대한 우리 기업이 글로벌 오픈 생태계에서 제대로 파트너로서 역할을 하도록 지원할 것이고, 중요한 민감 정보는 국내에서 처리될 수 있도록 환경을 구축하는 데 노력하고 있다”고 말했다.