업스테이지, 효율성 극대화 전략 통했다…다음 방향은

업스테이지가 국내 반도체와 인공지능(AI) 생태계를 잇는 협업 구조로 독자 파운데이션 모델 프로젝트(이하 독파모) 평가에서 호평을 받았다. 퓨리오사AI의 신경망처리장치(NPU)에서 모델을 구동하고, 이를 검색 엔진인 포털 '다음'으로 확장해 검증하려는 점이 강점으로 꼽혔다. 그러나 경쟁사와 비교해 파라미터(매개변수) 규모가 크지 않아 효율성을 유지하면서 절대 성능을 끌어올리는 것이 과제로 꼽힌다. 

20일 과학기술정보통신부에 따르면 전문가위원회는 업스테이지의 국산 AI 모델과 반도체 간 협업 구조를 긍정적으로 평가했다. 전문가위원회는 "퓨리오사AI NPU 협업을 통해 외산 하드웨어 종속성을 완화하고 실제 포털 다음 서비스 환경에서 기술검증(PoC) 형태로 실증한 것은 국산 AI 소프트웨어와 반도체 생태계 결합을 보여준 선도적 사례"라고 평가했다.

업스테이지의 거대언어모델(LLM) '솔라 오픈2'는 2500억개의 파라미터를 보유했다. 다음 단계에 함께 진출한 LG AI연구원과 SK텔레콤의 모델 중에서는 체급 면에서 가장 작다. 여러 전문가 모델 가운데 필요한 일부만 사용하는 혼합전문가(MoE) 구조를 적용해 토큰을 처리할 때는 전체의 6%인 150억개만 활성화하는 효율성을 갖췄다. 이는 3차 평가를 받게 된 LG AI연구원(370억개), SK텔레콤(330억개)과 비교했을 때 효율화에 집중했다는 의미다.

이는 업스테이지의 모델 개발 방향과도 맞닿아 있다. 제한된 자원에서 높은 성능을 내고, 기업이 자체 인프라에 모델을 구축할 수 있도록 배포와 운영 부담을 낮추는 것이 중요한 지표로 작용하고 있는 셈이다. 실제로 업스테이지는 솔라 오픈2 역시 벤치마크 점수만 높은 모델보다 실제 업무에 투입할 수 있는 성능과 비용 구조를 갖춘 모델을 목표로 개발했다고 강조하기도 했다.

솔라 오픈2는 질의응답보다 검색과 도구 호출, 코딩, 문서 작업 등을 거쳐 업무를 끝까지 수행하는 AI 에이전트에 초점을 맞췄다. AI 에이전트는 계획과 실행, 검증과 수정을 반복하기 때문에 챗봇보다 모델 호출 횟수와 토큰 사용량이 많다. 호출할 때마다 전체 파라미터를 사용하면 서비스 비용이 급격히 늘어날 수 있다. 업스테이지가 활성 파라미터를 줄인 것도 에이전트 경제성을 고려한 것으로 풀이된다.

최대 100만개의 토큰을 한 번에 처리할 수 있다는 점도 에이전트 업무를 염두에 둔 설계로 평가된다. 여러 문서와 장기간의 작업 이력을 함께 다루면서도 메모리 부담을 낮추기 위해 일반 어텐션과 선형 어텐션을 결합했다. 어텐션이란 AI 모델이 입력 안에서 특정한 단어, 문장, 이미지를 더 중요하게 볼지 계산하는 방식을 의미한다. 양자화를 적용하면 엔비디아 H200 GPU(그래픽처리장치) 두 장에서 구동할 수 있는 것으로 전해진다. 사실상 효율성에 방점을 찍은 셈이다. 

자국어인 한국어 처리 비용도 줄였다. 솔라 오픈2는 같은 한국어 문장을 글로벌 모델 대비 약 50~80%의 토큰으로 처리한다. 같은 내용을 적은 토큰으로 표현하면 응답 한 건에 필요한 연산량과 비용이 줄고, 한 번에 담을 수 있는 실제 문서 분량은 늘어날 수 있다. 

외부 확장성을 위해 서비스 기반은 넓히고 있다. 다만 3차 평가 경쟁자인 LG AI연구원과 SK텔레콤이 산업 현장 레퍼런스를 계열사 중심으로 선제적으로 확보할 수 있는 점에서는 상대적으로 약한 것으로 평가된다. 업스테이지는 포털 다음을 솔라 기반의 AI 포털로 개편하고, AI 에이전트 플랫폼 타임리에 솔라를 탑재한다는 계획이다. 모델 가중치도 오픈웨이트 방식으로 공개해 기업의 자체 구축과 추가 학습을 허용했다. 범용성 확보를 고려한 행보에 가깝다는 평가다.

다음 단계에서는 에이전트 효율성에 체급을 끌어올리는 이중 과제를 안고 있는 것으로 평가된다. 정부는 3차 평가 정예팀에 대해 엔비디아 B200 GPU 지원 규모를 올해 상반기 768장 수준에서 하반기 1000장 수준으로 확대할 계획이다. 더 많은 데이터와 학습 실험을 활용해 추론과 코딩, 에이전트 성능을 고도화할 여력이 생기는 셈이다. 업스테이지는 애초에 에이전트에 집중해왔으나 체급을 키워도 성능이 더 개선될 지가 중요한 셈이다.

모델을 키우는 과정에서 활성 파라미터와 메모리 사용량까지 늘어나면 업스테이지가 내세운 효율성이 희석될 가능성도 배제할 수 없다. 실제 업무 적용을 강조해 온 업스테이지의 방향성을 유지할 수 있을 지가 관건이다. 검색 엔진인 다음 포털에서의 응답 속도와 거대화될 모델의 운영비용이 과거 수준을 유지할 수 있을 지가 중요한 셈이다.