IT/과학
노타, ‘솔라 오픈2’ 경량화 성공…GPU 8장 필요 모델을 2장으로
뉴스보이
2026.07.27. 20:36
뉴스보이
2026.07.27. 20:36
간단 요약
간단 요약
메모리 사용량을 76.5% 감축해 기업의 인프라 비용 부담을 크게 낮췄습니다.
8월 정부 프로젝트 평가를 앞두고 독보적인 기술력을 입증하며 주목받고 있습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
AI 최적화 기업 노타가 대규모 언어모델(LLM) '솔라 오픈2'의 경량화에 성공했습니다. 이번 최적화로 원본 모델의 가중치 메모리는 기존 500.6GB에서 117.8GB로 약 76.5% 줄어들었습니다.
특히 NVIDIA H100 GPU 8장이 필요했던 원본 모델을 2장 환경에서도 구동할 수 있게 됐습니다. 총 2500억 개의 매개변수 중 작업 시 150억 개만 활성화하는 'MoE(전문가 혼합)' 구조를 채택해 효율성을 극대화했습니다.
김태호 노타 CTO는 이번 성과에 대해 대규모 MoE 모델을 기업이 실제 도입할 수 있는 형태로 최적화했다는 점에 의미가 있다고 설명했습니다. 노타가 참여한 업스테이지 컨소시엄은 오는 8월 정부의 '독자 AI 파운데이션 모델' 프로젝트 2차 단계평가를 앞두고 있습니다.
이번 경량화 모델은 오픈소스 AI 플랫폼인 허깅페이스에서 확인할 수 있습니다. 노타는 'PASCAL MoE'와 '비균일 전역 프루닝' 등 자체 기술을 통해 기업 현장에서의 AI 활용성을 높이는 데 주력하고 있습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
