[AI 생존법 찾아라] '범용' 빅테크 틈에서 풀스택LLM으로 기회 노린다

[비즈한국] AI는 이제 선택이 아닌 생존의 문제다. 미국 빅테크 독주 속 중국은 방대한 지원과 인력을 토대로 판을 흔들고 있다. 디지털 인프라 1위의 ‘IT 강국’ 한국은 AI 기술 분야에서 일찌감치 ‘2군’으로 밀려났다. 거대 자본과 데이터를 앞세운 선도국의 각축전이 이어지는 가운데, 국내 AI 스타트업은 틈새시장을 노려 글로벌 경쟁력 확보에 나섰다. 주요 IT 기업들은 AI를 활용한 독자적인 비즈니스 모델 찾기에 분주하다. 대한민국이 글로벌 AI 전쟁에서 살 길은 어디에 있을까. 혁신의 최전선에 선 우리 기업들의 가능성을 탐색한다. 

거대언어모델(LLM)은 대규모 데이터를 학습해 인간처럼 텍스트를 이해하고 생성하는 인공지능(AI)이다. 기본은 다 잘하기 때문에 누가 어떤 질문을 던지더라도 바로 답변을 내놓는다. 하지만 사용자가 기업이라면 어떨까. 기업 입장에서는 상호작용이 되는 똑똑한 ‘두뇌’만으로는 부족하다. 자체 문서와 민감한 고객 데이터, 업무 흐름 등 복잡한 환경에 맞춰 써야 하기 때문이다. 풀스택(full-stack) LLM은 이 두뇌가 실제 비즈니스 환경에서 바로 사용될 수 있도록 LLM 모델 개발부터 배포, 운영·관리까지 전체 시스템과 프로세스를 패키징한 솔루션을 의미한다. 

글로벌 빅테크 대부분이 GPT(오픈AI), 클로드(앤트로픽), 제미나이(구글) 등 LLM 개발에 집중하면서 AI 전쟁은 LLM 중심의 게임이 됐다. 풀스택 LLM은 국내 기업들에게는 기회다. 빅테크는 수준 높은 모델을 제공하지만 실제 서비스를 각 기업에 맞춰서 구성해주지는 않는다. 기업이 AI 전환을 하기 위해서는 맞춤화(커스터마이징) 작업을 알아서 해결하고 사용 기록(로깅), 프라이버시, 보안 문제를 직접 관리해야 하는 셈이다.   

#수제보고서의 ‘종말’ 의사결정도 AI가 맡는 시대 올까

2020년 창업한 AI 스타트업 업스테이지는 국내 풀스택 LLM 선봉에 있는 기업으로 평가된다. 기업의 문서와 형식이 정해지지 않은 데이터들을 디지털화 하는 솔루션 ‘다큐먼트 AI’가 2023년 시장에 공개되고, 지난해 말 출시한 차세대 LLM ‘솔라 프로’가 사업성을 보여주면서 주목을 끌고 있다. 지난해 4월 1000억 원 규모 투자유치를 통해 누적 투자금만 약 1400억 원을 모았고 기업가치 4000억 원 규모로 성장했다. 

업스테이지는 올해 동남아, 일본을 넘어 주요 AI의 본거지 미국으로 풀스택 AI 사업을 확장한다는 계획을 밝혔다. 업무용 AI을 통해 글로벌 AI 업무 표준을 주도한다는 구상이다. 

김성훈 업스테이지 대표는 지난 16일 미디어데이에서 “올해는 사람이 만든 ‘수제보고서’로 일하는 마지막 해가 될 수 있다. 추출한 정보를 엮어서 종합 보고서를 쓰고 ‘의사결정’을 하는 역할도 AI가 맡는 것”이라며 “실제 솔루션을 공급하고 있는 보험사, 금융사 등에서 이 같은 프로세스가 적용 중”이라고 말했다.  

환자 진단서, 보험 약관, 진료비 영수증 등 적게는 수십 장에서 수백 장에 달하는 서류를 확인해야 하는 보험사 정산 업무에서 사람 대신 AI 솔루션이 수술명과 코드를 확인하고 보험금 지급 여부를 판단하는 작업 전반을 맡고 있다는 설명이다. 업스테이지는 KB금융, 한컴, 로앤컴퍼니 등에 서비스를 공급하고 있다. 

각기 다른 형식의 이미지·텍스트를 기계가 읽을 수 있게 바꿔주는 건 업스테이지의 광학문자인식(OCR) 모델 ‘도큐먼트 파스’다. 수집된 데이터를 목적에 맞게 보고서 등 문서로 작성해 주는 역할은 솔라가 담당한다. 두 기술 모두 지속적으로 고도화하고 있다. 업스테이지는 오는 6월 ‘솔라 프로 1.5’ 버전과 ‘사고 사슬(CoT)’를 구현한 첫 추론 모델을 공개할 예정이다. 업스테이지에 따르면 이 모델의 능력은 GPT ‘o 시리즈’, 딥시크 ‘R1’에 필적한다. 도큐먼트 파스와 솔라를 결합한 비전언어모델(VLM) ‘솔라 DocVLM’의 론칭도 예고됐다.  

#빅테크도 업무용 기능 확대, 글로벌 확장 녹록지 않아

태국 국영 통신사에 태국어 특화 LLM을 공급한 사례 등 국내 최초로 해외 소버린 AI를 구축한 경험을 기반으로 현지 LLM 개발과 파트너십 확대에도 집중한다. 미국 현지 법인과 지난달 추가 설립한 일본 법인이 주요 거점이다. 이활석 CTO는 “일본의 문서 관련 시장은 한국보다 10배 이상 크다. 10%만 가져와도 한국 시장 전체를 확보하는 것과 비슷한 규모”라며 “현재 다수의 일본 대기업과 후속 미팅이 진행되고 있다”고 전했다. 

기술력과 소비력은 비교적 낮지만 정부나 국영기업의 자금력이 높은 지역도 공을 들이는 대상이다. 김 대표는 “한국의 금융사와 보험사의 기준을 맞췄다는 점에서 미국 기업들도 호응하고 있다”고 말했다. 

기술 성장은 진행 중이지만 매출 확대와 비용 효율화는 과제다. 업스테이지는 지난해 402억 원의 영업손실을 냈다. 전년(189억 원)의 두 배 이상으로 적자가 확대됐다. 같은 기간 매출은 46억 원에서 139억 원으로 3배 늘었지만 수익화 성과를 내기까지는 갈 길이 멀다. 비중이 큰 그래픽처리장치(GPU) 비용의 영향이다. 회사는 솔라 프로 1.5와 멀티모달의 개발 과정에 GPU를 대량 투입된 것을 적자의 배경으로 설명했다.   

국내외 경쟁은 본격화될 전망이다. 마켓리서치 인텔렉트에 따르면 2024년 45억 달러로 평가된 풀스택 AI 시장 규모는 2032년까지 96억 달러에 이를 것으로 예상된다. 2032년까지 연평균 성장률 8.5%를 기록할 것이라는 전망이다. 업계는 B2B AI 모델의 경우 범용 모델과 다르게 확실한 목적과 수요가 있다고 보고 있다. 기술과 현장을 연결하면 돈이 된다는 시각이다. 다만 OCR부터 LLM까지 풀스택 AI 모델을 모두 자체 개발한 케이스는 흔치 않다. 기술 단계별 협력을 통해 풀스택 시스템을 구축하는 경우가 대부분이다.

AI로 무게 추를 옮긴 국내 통신업계도 풀스택 LLM 분야에 적극적으로 투자하고 있다. AI 전환과 B2B 풀스택 전략의 추진도 함께 진행 중이다. 피라미드형으로 풀스택을 구축 중인 SKT는 AI 인프라를 기반으로 AI전환을 추진하고, 궁극적으로 글로벌 시장 대상 AI 서비스까지 개발하겠다는 구상이다. KT는 자체 AI 모델 '믿:음(Mi:dm)'을 출시하고 기업고객을 대상으로 커스터마이징(맞춤화)할 수 있도록 경량화 전략을 함께 추진한다.​

글로벌 빅테크와 기량을 합친 경쟁자가 늘어나면서 초기 시장에서 주도권을 누가 잡을지 관심이 모인다. 세계 최대 클라우드 기반 데이터 기업 스노우플레이크(Snowflake)는 지난해 6월 엔비디아와 네모(NeMo) 통합 기능을 확대한 데 이어, 지난달 엔비디아와의 파트너십 강화를 통해 풀스택 AI 플랫폼을 제공한다고 발표했다. 네모 리트리버는 기업이 맞춤형 LLM을 기업 데이터에 연결할 수 있는 생성형 AI 서비스다. 스노우플레이크는 자사 플랫폼을 통해 데이터 보안, 개인정보 보호 등을 유지하면서 직접 엔비디아의 네모 리트리버를 활용할 수 있다. ​

최근 빅테크가 AI 에이전트 기능 개선이나 업무용 서비스와의 결합안을 속속 선보이고 있는 것도 녹록지 않은 조건이다. 마이크로소프트는 개인용 ‘MS 365’에 AI 에이전트를 도입했고 구글은 ‘워크스페이스’에 생성형 AI 기능을 추가했다.

[핫클릭]

· [단독] 동원산업, '경영권 분쟁' 고려아연 주식 0.04% 전량 매각
· 한국 찾은 '외국인 환자' 역대 최다, 만족도 낮은 까닭은?
· 알리 '초저가' 찾는 소비자 늘었지만 국내 셀러들은 한숨, 왜?
· '무과장' '읏맨' 만든 OK금융 광고사 뉴데이즈, 금융업으로 '변신'?
· [단독] "수입 사운드바에 낸 관세 돌려줘" 삼성전자, 인천세관 상대 소송 2심도 패소

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>