LG유플러스가 인공지능(AI) 모델 운영 비용을 최대 90%까지 줄이는 기술을 앞세워 내년부터 본격적인 기업용 AI 시장 공략에 나섭니다. 최근 업무를 대신 수행하는 AI 에이전트 도입이 확산하며 기업들의 운영 비용 부담이 커진 상황에서, 비용 효율성을 극대화한 기술로 시장 경쟁력을 확보하겠다는 전략입니다.
핵심은 모델 라우팅과 칩 믹스 기술입니다. 복잡한 작업에는 고성능 모델을, 단순한 작업에는 저렴한 모델을 배분하는 모델 라우팅을 통해 일반 질문 처리 비용은 25% 이상, 코딩 에이전트 비용은 30% 이상 절감했습니다. 또한 엔비디아와 AMD의 그래픽처리장치(GPU), 퓨리오사AI의 신경망처리장치(NPU)를 작업 특성에 맞춰 조합하는 칩 믹스 방식을 도입해 동일 인프라 대비 처리 효율을 4배가량 높였습니다.
모델 경량화 성과도 눈에 띕니다. 양자화와 지식 증류 기술을 활용해 기존 2.4~3GB 수준이던 온디바이스 AI 모델 용량을 800MB까지 축소했습니다. 이상엽 LG유플러스 최고기술책임자(CTO)는 내년부터 기업 고객들이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다고 강조했습니다.