IT/과학
노타, 中 문샷AI '키미 K3' 경량화 성공…GPU 사용량 절반으로 줄였다
뉴스보이
2026.08.06. 14:06
뉴스보이
2026.08.06. 14:06
간단 요약
간단 요약
비균일 전문가 프루닝 기술을 적용해 고성능 AI 모델의 연산 효율을 극대화했습니다.
기존 8장이 필요했던 GPU를 4장으로 줄여 기업의 인프라 비용 부담을 크게 낮췄습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
AI 모델 경량화 및 최적화 기술 기업 노타가 중국 문샷AI의 초거대 AI 모델 '키미 K3'를 경량화하는 데 성공했습니다. 이번 기술 적용으로 모델 구동에 필요한 그래픽처리장치(GPU) 사용량을 최대 절반까지 줄였습니다.
키미 K3는 매개변수 2조 8천억 개 규모의 프론티어급 모델로, 기존에는 엔비디아의 고성능 GPU인 'B300' 8장이 필수적이었습니다. 노타는 자체 개발한 '비균일 전문가 프루닝' 기술을 통해 이 문제를 해결하며 GPU 소요량을 4장으로 대폭 축소했습니다.
특히 키미 K3는 학습 단계부터 가중치와 활성값이 저비트로 설계되어 일반적인 양자화 방식으로는 추가 압축이 어려웠습니다. 노타의 기술은 고난도 과학·추론 능력을 평가하는 'GPQA Diamond'와 지시 이행 능력을 평가하는 'IFEval' 점수에서 기존 방식 대비 각각 2.52점, 2.22점 높은 성능을 기록했습니다.
앞서 노타가 공개한 업스테이지 '솔라 오픈 2' 경량화 모델이 시장에서 높은 수요를 확인한 바 있어 이번 성과에 대한 기대감도 큽니다. 김태호 노타 최고기술책임자(CTO)는 다양한 프론티어급 AI 모델을 한정된 연산 자원에서도 효율적으로 활용할 수 있도록 기술 적용 범위를 확대하겠다고 밝혔습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
