IT/과학
7위
LG유플러스, 옵트에이아이와 손잡고 AI 토큰 처리량 최대 4배 확대
뉴스보이
2026.10.02. 09:23
뉴스보이
2026.10.02. 09:23
간단 요약
간단 요약
양사는 AI 모델의 연산 과정을 최적화해 서버 GPU의 토큰 처리 효율을 극대화했습니다.
기존 대비 전력 소모를 78% 줄이고 모델 크기를 82% 축소하는 등 기술력을 입증했습니다.
이 기사는 6개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 6개 언론사의 보도를 교차 검증하여 작성되었습니다.
LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 협력해 AI 운영 효율을 높이는 '토큰 최적화' 기술 확보에 나섭니다. 양사는 AI 모델이 답변을 생성하는 연산 과정을 실제 서비스 환경에 맞게 개선하여, 같은 GPU 환경에서 처리할 수 있는 토큰량을 기존 대비 최대 4배까지 높이는 성과를 거뒀습니다.
이상엽 LG유플러스 CTO는 "AI 경쟁력은 같은 자원으로 얼마나 많은 토큰을 효율적으로 처리하느냐에 달려 있다"고 강조했습니다. 이재호 옵트에이아이 대표 역시 생성형 AI 시대에 운영 효율 확보가 필수적이라고 덧붙였습니다. 실제로 양사는 LG의 초거대 AI '엑사원' 기반 소형언어모델(sLM)에 경량화 기술을 적용해, 전력 소모를 78%, 모델 크기를 82% 줄이는 등 온디바이스 AI 환경에서의 기술력을 입증한 바 있습니다.
기술 교류도 활발합니다. 양사는 지난 2026년 10월 1일 'Efficient AI 테크 세미나'를 공동 개최했습니다. 이 자리에는 퓨리오사AI, 베슬에이아이, 한국전자기술연구원(KETI), 한양대 등 산·학·연 전문가들이 참석해 AI 반도체와 서비스 적용 사례를 공유하며 기술 생태계 확장에 힘을 보탰습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
