데일리 TOP10
LG유플러스·옵트에이아이, AI 토큰 최적화로 GPU 처리량 4배 높인다
뉴스보이
2026.10.02. 09:00
뉴스보이
2026.10.02. 09:00
대규모 서버 환경으로 공동 연구 확대 및 자체 인프라 단계적 적용
1
LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 손잡고 AI 토큰 최적화 기술 공동 연구에 나섬.
2
양사는 AI 모델의 연산 과정을 개선해 동일한 GPU 자원에서 처리 가능한 토큰량을 기존 대비 최대 4배 높임.
3
이에 따라 옵트에이아이는 경량화와 고속 구동 기술 개발을 맡고, LG유플러스는 서비스 환경 내 검증과 적용을 담당함.
4
이번 협력은 앞선 스마트폰 온디바이스 AI 경량화 성과에 이어 대규모 서버 GPU 환경으로 연구 범위를 확대한 것임.
5
향후 양사는 확보한 토큰 최적화 기술을 LG유플러스의 자체 AI 서비스와 대규모 인프라 운영에 단계적으로 적용할 계획임.
AI 연산 효율을 높이는 토큰 최적화와 인프라 확대
AI 서비스 시대에 토큰 최적화가 중요해진 이유
스마트폰에서 서버 GPU로 확장된 최적화 기술
자체 AI 서비스와 데이터센터 인프라 적용 계획
AI 서비스 시대에 토큰 최적화가 중요해진 이유
•
생성형 인공지능 서비스가 본격적으로 상용화되면서 실시간 질의응답 처리 비용과 전력 소모를 줄이는 과제가 핵심으로 떠올랐습니다. 인공지능 모델을 학습시키는 단계를 넘어 실제 서비스 환경에서 사용자의 질문에 답하는 추론 연산이 급증했기 때문입니다.
•
여기서 토큰은 인공지능이 문장을 이해하고 답변을 만들어낼 때 처리하는 데이터의 기본 단위입니다. 한정된 연산 자원 안에서 동일한 장비로 더 많은 토큰을 빠르게 처리하는 최적화 기술이 서비스 운영 수익성을 좌우하고 있습니다.
스마트폰에서 서버 GPU로 확장된 최적화 기술
•
LG유플러스와 옵트에이아이는 연산 과정을 개선해 그래픽처리장치에서 처리하는 토큰량을 기존보다 최대 4배로 늘렸습니다. 두 회사는 인공지능 모델이 답변을 만들어내는 계산 방식을 서비스 환경에 맞춰 효율화하여 이 같은 성과를 냈습니다.
•
이번 성과는 앞서 스마트폰 환경에서 진행했던 모델 경량화 연구를 대규모 서버 환경으로 넓힌 결과입니다. 양사는 이전 연구에서 엑사원 기반 소형언어모델을 최적화해 기존 방식 대비 전력 소모를 78% 줄이고 모델 크기를 82% 줄인 바 있습니다.
•
이번 협력에서 옵트에이아이는 모델을 가볍고 빠르게 구동하는 핵심 연구와 개발을 전담합니다. LG유플러스는 실제 서비스 운영 경험을 바탕으로 기술의 완성도를 검증하고 현장에 적용하는 역할을 맡았습니다.
자체 AI 서비스와 데이터센터 인프라 적용 계획
•
양사는 새롭게 확보한 토큰 최적화 기술을 LG유플러스의 자체 인공지능 서비스와 서버 인프라에 단계적으로 적용할 계획입니다. 통화 에이전트 서비스인 익시오를 비롯해 기업용 생성형 인공지능 솔루션 등에 해당 기술이 탑재될 예정입니다.
•
아울러 평촌 데이터센터와 2027년 가동을 목표로 하는 파주 인공지능 데이터센터 등 대규모 인프라 운영 환경으로 적용 범위를 넓혀갈 방침입니다. 지난 1일에는 관련 기술 세미나를 열고 산학연 전문가들과 협력 생태계를 확대하는 논의도 함께 진행했습니다.
AI 서비스 시대에 토큰 최적화가 중요해진 이유
•
생성형 인공지능 서비스가 본격적으로 상용화되면서 실시간 질의응답 처리 비용과 전력 소모를 줄이는 과제가 핵심으로 떠올랐습니다. 인공지능 모델을 학습시키는 단계를 넘어 실제 서비스 환경에서 사용자의 질문에 답하는 추론 연산이 급증했기 때문입니다.
•
여기서 토큰은 인공지능이 문장을 이해하고 답변을 만들어낼 때 처리하는 데이터의 기본 단위입니다. 한정된 연산 자원 안에서 동일한 장비로 더 많은 토큰을 빠르게 처리하는 최적화 기술이 서비스 운영 수익성을 좌우하고 있습니다.
스마트폰에서 서버 GPU로 확장된 최적화 기술
•
LG유플러스와 옵트에이아이는 연산 과정을 개선해 그래픽처리장치에서 처리하는 토큰량을 기존보다 최대 4배로 늘렸습니다. 두 회사는 인공지능 모델이 답변을 만들어내는 계산 방식을 서비스 환경에 맞춰 효율화하여 이 같은 성과를 냈습니다.
•
이번 성과는 앞서 스마트폰 환경에서 진행했던 모델 경량화 연구를 대규모 서버 환경으로 넓힌 결과입니다. 양사는 이전 연구에서 엑사원 기반 소형언어모델을 최적화해 기존 방식 대비 전력 소모를 78% 줄이고 모델 크기를 82% 줄인 바 있습니다.
•
이번 협력에서 옵트에이아이는 모델을 가볍고 빠르게 구동하는 핵심 연구와 개발을 전담합니다. LG유플러스는 실제 서비스 운영 경험을 바탕으로 기술의 완성도를 검증하고 현장에 적용하는 역할을 맡았습니다.
자체 AI 서비스와 데이터센터 인프라 적용 계획
•
양사는 새롭게 확보한 토큰 최적화 기술을 LG유플러스의 자체 인공지능 서비스와 서버 인프라에 단계적으로 적용할 계획입니다. 통화 에이전트 서비스인 익시오를 비롯해 기업용 생성형 인공지능 솔루션 등에 해당 기술이 탑재될 예정입니다.
•
아울러 평촌 데이터센터와 2027년 가동을 목표로 하는 파주 인공지능 데이터센터 등 대규모 인프라 운영 환경으로 적용 범위를 넓혀갈 방침입니다. 지난 1일에는 관련 기술 세미나를 열고 산학연 전문가들과 협력 생태계를 확대하는 논의도 함께 진행했습니다.
#LG유플러스
#옵트에이아이
#GPU
#온디바이스 AI
#AI
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
