LG유플러스가 인공지능(AI) 토큰 최적화 기술을 앞세워 내년부터 본격적인 B2B 시장 공략에 나섭니다. 단순히 토큰 단가를 낮추는 것을 넘어, AI가 하나의 업무를 완수하는 데 드는 총비용(Task Cost)을 획기적으로 줄이는 것이 이번 사업의 핵심 목표입니다.
실제 기술 검증 결과 성과는 뚜렷합니다. LG유플러스는 코딩 영역의 AI 운영 비용을 기존 대비 90% 이상 절감했습니다. 또한 모델 라우팅을 통해 일반 질문 처리 비용은 25% 이상, 코딩 에이전트 비용은 30% 이상 낮췄습니다. 온디바이스 AI 모델 역시 기존 2.4~3GB에서 800MB 수준으로 경량화하고 처리 효율을 최대 4배까지 끌어올렸습니다.
인프라 효율화를 위해 엔비디아와 AMD의 GPU, 퓨리오사AI의 신경망처리장치(NPU)를 작업 특성에 맞춰 조합하는 '칩 믹스(Chip Mix)' 전략도 추진합니다. 이는 AI 성능이 좋아질수록 소비가 늘어나는 '제번스의 역설'을 극복하고 기업 고객의 비용 부담을 덜어주기 위한 조치입니다.
이상엽 LG유플러스 최고기술책임자(CTO·전무)는 이번 기술이 빅테크 기업들과 모델 성능을 겨루는 경쟁과는 성격이 다르다고 강조했습니다. 앞서 KT와 SK텔레콤 등 경쟁사들도 토큰 관련 플랫폼과 게이트웨이 사업을 제시한 가운데, LG유플러스는 실질적인 비용 절감을 무기로 시장 경쟁에 뛰어들 전망입니다.