IT/과학
노타, "AI PC 효율 극대화" 이기종 컴퓨팅 기반 LLM 최적화 성공
뉴스보이
2026.06.04. 15:03
뉴스보이
2026.06.04. 15:03
간단 요약
간단 요약
인텔 루나 레이크 기반 AI PC에서 전력 32% 절감, 처리량 12% 향상을 달성했습니다.
LLM 입력 처리와 답변 생성을 분리하여 GPU와 NPU에 최적 배치한 결과입니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
AI 경량화 및 최적화 전문 기업 노타가 인텔의 최신 인공지능 칩 '루나 레이크' 기반 AI PC에서 LLM(대규모 언어 모델) 최적화에 성공했습니다. 노타는 이기종 컴퓨팅 기반의 '분리형 추론' 기술을 구현하여 AI PC의 효율을 극대화했습니다. 이 기술은 단일 GPU 실행 방식 대비 전력 소비를 약 32% 절감하고 생성 처리량을 약 12% 향상시키는 성과를 보였습니다.
노타는 LLM 실행 과정을 입력 처리와 답변 생성 두 단계로 나누어 분석했습니다. 이후 각 단계의 특성에 맞춰 연산 장치를 최적 배치하는 분리형 추론 방식을 적용했습니다. 이에 따라 연산량이 집중되는 입력 처리는 GPU에, 지속적인 연산이 필요한 답변 생성은 NPU에 할당했습니다.
성능 평가 결과, 단일 NPU 실행 방식과 비교해 첫 응답 지연 시간 또한 약 89% 단축되었습니다. 채명수 노타 대표는 AI PC 시대에는 다양한 연산 장치를 모델 특성에 맞게 조합하는 최적화 역량이 실제 AI 경험을 좌우한다고 밝혔습니다. 노타는 모델 경량화, 런타임 최적화, 하드웨어 최적화 기술을 결합해 온디바이스 AI 실행 효율을 높여나갈 계획입니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
