노타, 업스테이지 ‘솔라’ 경량화…국가대표 AI 활용성 높인다

인공지능(AI) 모델 최적화 기업 노타가 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트 3차수에 진출한 업스테이지 컨소시엄에서 ‘솔라(Solar)’ 계열 모델의 경량화와 최적화를 담당한다. 노타는 20일 모델 성능을 유지하면서 연산·메모리 사용량을 줄이는 기술을 적용해 국산 AI 모델의 인프라 부담과 운영 비용을 낮추고 산업 현장에서의 활용 범위를 확대할 계획이라고 밝혔다.

독자 AI 파운데이션 모델 사업은 국내 기술을 기반으로 글로벌 경쟁력을 갖춘 파운데이션 모델(Foundation Model, 기반 모델)을 개발해 국가대표 AI를 육성하기 위한 정부 프로젝트다. 지난 18일 진행된 2차 평가를 거쳐 업스테이지, 에스케이텔레콤(SK텔레콤·SK Telecom), 엘지 에이아이연구원(LG AI연구원·LG AI Research) 등 3개 컨소시엄이 3차수 진출 대상으로 선정됐다.

노타는 업스테이지 컨소시엄에서 AI 파운데이션 모델 솔라 계열을 국내 인프라에서 효율적으로 운영할 수 있도록 경량화하는 역할을 맡고 있다. 모델의 주요 성능을 유지하면서 연산 자원과 메모리 사용량을 줄여 서로 다른 하드웨어와 서비스 환경에서도 활용할 수 있도록 하는 것이 핵심이다.

정부가 공개한 평가 기준에는 모델의 정량적 성능과 함께 자원 활용 효율성, 사용성과 실용성, 산업·서비스 환경으로의 확장 가능성 등이 포함됐다. 업스테이지 컨소시엄은 국내 플랫폼과 연계한 서비스와 퓨리오사에이아이(FuriosaAI)의 엔피유(NPU·Neural Processing Unit, 신경망처리장치)를 활용해 국산 AI 소프트웨어와 하드웨어를 연계하는 방안을 제시했다.

노타는 2차 단계평가 결과 발표에 앞서 업스테이지의 ‘솔라 오픈 2(Solar Open 2)’를 경량화한 모델을 글로벌 AI 플랫폼 허깅페이스(Hugging Face)에 공개했다. 노타에 따르면 기존에는 엔비디아(NVIDIA) H100 그래픽처리장치(GPU·Graphics Processing Unit) 8장이 필요했던 모델을 2장으로도 구동할 수 있도록 최적화했다. 공개된 경량화 모델은 누적 다운로드 8만 건을 기록했다.

솔라 오픈 2는 2,500억 개의 매개변수를 갖춘 AI 모델이다. 노타는 모델 가중치를 인트4(INT4) 또는 엔브이에프피4(NVFP4) 기반 4비트 형식으로 변환하고 중요도가 상대적으로 낮은 연산 모듈을 선별적으로 정리하는 경량화 기술을 적용했다.

이를 통해 가중치 저장에 필요한 메모리는 기존 500.6기가바이트(GB)에서 117.8GB로 감소했다. 감소 폭은 76.5%다. 메모리 용량을 기준으로 H100 GPU 8장이 필요했던 원본 모델을 2장으로 구동할 수 있는 수준으로 자원 요구량을 낮췄다는 것이 회사 측 설명이다.

초거대 AI 모델은 성능뿐 아니라 실제 구동에 필요한 연산 장비와 메모리, 운영 비용 등이 산업 현장 도입에 영향을 미친다. 이번 경량화로 필요한 GPU 수가 기존의 4분의 1 수준으로 줄어든 만큼 향후 기업과 기관이 제한된 인프라에서도 대규모 AI 모델을 활용할 수 있을지가 주요 관건이 될 전망이다.

채명수 노타 대표는 “국가대표 AI 모델이 다양한 산업 현장에서 비용 효율적으로 활용될 수 있도록 최적화 기술을 지속적으로 고도화할 것”이라며 “업스테이지와 함께 독파모 3차수 평가에서도 좋은 성과를 거둘 수 있도록 최선을 다하겠다”고 말했다.