데일리 TOP10
LG유플러스, AI 코딩 비용 90% 절감 기술 앞세워 내년 기업용 시장 진출
뉴스보이
2026.11.15. 16:37
뉴스보이
2026.11.15. 16:37
모델 경량화와 칩 믹스 전략을 통한 업무 완결 총비용 감축
1
LG유플러스가 AI 토큰 최적화 기술 성과를 공개하고 내년부터 기업용 B2B 시장에 진출한다고 밝힘.
2
단순한 토큰 단가 인하 경쟁을 넘어 AI가 업무를 끝내는 데 드는 총비용을 낮추는 전략을 내세움.
3
자체 검증 결과 코딩 영역의 운영 비용을 약 90% 절감하고 동일 인프라 대비 처리 효율을 4배 높임.
4
이에 온디바이스 모델을 800MB 수준으로 줄이고 GPU와 NPU를 분산 배치하는 칩 믹스를 적용함.
5
회사는 실전 운영 노하우를 살려 내년부터 제휴형 사업과 자체 인프라 구축 방식을 병행해 추진할 계획임.
AI 운영 비용 낮추는 토큰 최적화 경쟁의 배경
단순 단가 인하보다 업무 완결 비용이 중요해진 이유
연산 비용과 인프라 원가를 크게 낮춘 기술 방식
통신사들의 토큰 사업 경쟁과 향후 진출 계획
단순 단가 인하보다 업무 완결 비용이 중요해진 이유
•
인공지능 서비스의 기본 단가가 낮아지더라도 복잡한 업무를 처리할 때 반복 연산이 늘어나면서 기업의 전체 비용 부담은 오히려 커지고 있습니다. 스스로 업무를 수행하는 인공지능 에이전트는 단계별 추론과 추가 정보 검색을 거치며 최종 답변을 내놓기 전 단계에서 전체 토큰 비용의 80% 이상을 소모합니다.
•
이 때문에 단일 모델의 이용료가 저렴해져도 불필요한 검색과 오류 수정이 반복되면 기업이 청구받는 금액은 눈덩이처럼 불어납니다. 결국 업계에서는 단순한 단가 인하 경쟁보다 하나의 업무를 끝까지 완결하는 데 드는 총비용을 줄이는 기술이 경쟁력의 핵심으로 떠올랐습니다.
연산 비용과 인프라 원가를 크게 낮춘 기술 방식
•
LG유플러스는 작업 난이도에 맞춰 인공지능 모델을 다르게 연결하고 기기 내부 모델을 대폭 줄여 연산 비용을 절감했습니다. 질문 난이도에 따라 최적의 모델로 안내하는 라우팅 기술을 적용해 일반 질문 비용은 25% 이상 줄이고 코딩 작업 비용은 30% 이상 낮췄습니다.
•
기기 자체에서 구동하는 온디바이스 인공지능 모델의 크기도 기존 2.4에서 3기가바이트 수준에서 약 800메가바이트로 크게 줄였습니다. 모델 크기를 줄이면서도 대형 클라우드 모델 대비 95% 이상의 성능을 유지하고 답변 생성 속도는 2배 이상 끌어올렸습니다.
•
또한 질문 분석과 답변 생성 단계를 분리해 엔비디아 반도체와 국산 퓨리오사AI 반도체 등을 작업 특성에 맞게 나누어 맡기는 분산 전략을 도입했습니다. 이러한 연산 최적화를 통해 같은 인프라에서 처리 효율을 4배 높였으며 토큰 소모가 심한 코딩 영역의 운영 비용을 약 90% 줄였습니다.
통신사들의 토큰 사업 경쟁과 향후 진출 계획
•
국내 통신사들은 무선 가입자당 매출 정체를 극복하기 위해 네트워크 과금과 데이터 트래픽 관리 역량을 인공지능 토큰 사업에 접목하고 있습니다. 경쟁 통신사들이 토큰 유통과 중개 플랫폼을 내세우는 상황에서 LG유플러스는 업무 완결 비용 자체를 낮추는 기술을 앞세워 차별화에 나섰습니다.
•
LG유플러스는 통화 에이전트 익시오와 정부 과제인 모두의 AI를 운영하며 대규모 인공지능 연산 자원을 조율하는 노하우를 축적하고 있습니다. 이를 바탕으로 내년부터 외부 플랫폼과 제휴하는 방식과 자체 데이터센터 기반 설루션을 기업에 구축하는 사업을 함께 추진할 계획입니다.
단순 단가 인하보다 업무 완결 비용이 중요해진 이유
•
인공지능 서비스의 기본 단가가 낮아지더라도 복잡한 업무를 처리할 때 반복 연산이 늘어나면서 기업의 전체 비용 부담은 오히려 커지고 있습니다. 스스로 업무를 수행하는 인공지능 에이전트는 단계별 추론과 추가 정보 검색을 거치며 최종 답변을 내놓기 전 단계에서 전체 토큰 비용의 80% 이상을 소모합니다.
•
이 때문에 단일 모델의 이용료가 저렴해져도 불필요한 검색과 오류 수정이 반복되면 기업이 청구받는 금액은 눈덩이처럼 불어납니다. 결국 업계에서는 단순한 단가 인하 경쟁보다 하나의 업무를 끝까지 완결하는 데 드는 총비용을 줄이는 기술이 경쟁력의 핵심으로 떠올랐습니다.
연산 비용과 인프라 원가를 크게 낮춘 기술 방식
•
LG유플러스는 작업 난이도에 맞춰 인공지능 모델을 다르게 연결하고 기기 내부 모델을 대폭 줄여 연산 비용을 절감했습니다. 질문 난이도에 따라 최적의 모델로 안내하는 라우팅 기술을 적용해 일반 질문 비용은 25% 이상 줄이고 코딩 작업 비용은 30% 이상 낮췄습니다.
•
기기 자체에서 구동하는 온디바이스 인공지능 모델의 크기도 기존 2.4에서 3기가바이트 수준에서 약 800메가바이트로 크게 줄였습니다. 모델 크기를 줄이면서도 대형 클라우드 모델 대비 95% 이상의 성능을 유지하고 답변 생성 속도는 2배 이상 끌어올렸습니다.
•
또한 질문 분석과 답변 생성 단계를 분리해 엔비디아 반도체와 국산 퓨리오사AI 반도체 등을 작업 특성에 맞게 나누어 맡기는 분산 전략을 도입했습니다. 이러한 연산 최적화를 통해 같은 인프라에서 처리 효율을 4배 높였으며 토큰 소모가 심한 코딩 영역의 운영 비용을 약 90% 줄였습니다.
통신사들의 토큰 사업 경쟁과 향후 진출 계획
•
국내 통신사들은 무선 가입자당 매출 정체를 극복하기 위해 네트워크 과금과 데이터 트래픽 관리 역량을 인공지능 토큰 사업에 접목하고 있습니다. 경쟁 통신사들이 토큰 유통과 중개 플랫폼을 내세우는 상황에서 LG유플러스는 업무 완결 비용 자체를 낮추는 기술을 앞세워 차별화에 나섰습니다.
•
LG유플러스는 통화 에이전트 익시오와 정부 과제인 모두의 AI를 운영하며 대규모 인공지능 연산 자원을 조율하는 노하우를 축적하고 있습니다. 이를 바탕으로 내년부터 외부 플랫폼과 제휴하는 방식과 자체 데이터센터 기반 설루션을 기업에 구축하는 사업을 함께 추진할 계획입니다.
#LG유플러스
#AI
#온디바이스 AI
#GPU
#NPU
