데일리 TOP10
LGU+, 속도 4.5배 높인 AI 토큰 최적화로 세계 3대 학회 뉴립스 채택
뉴스보이
2026.10.29. 09:01
뉴스보이
2026.10.29. 09:01
온디바이스 직접 학습 구현과 서버 GPU 영역 확대 계획
1
LG유플러스의 AI 토큰 최적화 연구 논문 2편이 뉴립스 2026 온디바이스 인텔리전스 워크숍에 채택됨.
2
통화 서비스용 모델 최적화를 통해 AI 처리 속도를 약 4.5배 높이고 배터리 소모를 77% 줄임.
3
또한 개인 데이터를 외부 전송하지 않고 스마트폰 안에서 직접 AI를 학습하는 방식을 구현함.
4
실제 스마트폰 환경 검증 결과 서버 학습과 동등한 수준의 AI 모델 정확도를 확인한 상태임.
5
향후 확보한 온디바이스 최적화 기술을 자체 AI 서비스와 서버 GPU 환경으로 확대 적용할 계획임.
기기 안에서 스스로 학습하는 AI의 한계 극복과 확장
스마트폰에서 직접 AI를 학습하기 어려웠던 이유
토큰 최적화가 끌어낸 속도와 배터리 절감 효과
실제 통화 서비스와 서버 인프라로의 확장 계획
스마트폰에서 직접 AI를 학습하기 어려웠던 이유
•
스마트폰 내부에서 인공지능을 직접 학습시키는 작업은 모바일 기기의 제한된 연산 자원과 전력 한계 때문에 매우 까다로웠습니다. 이미 만들어진 모델로 결과를 내는 단순 추론과 달리, 새로운 데이터를 학습하는 과정은 방대한 메모리와 빠른 데이터 전송 속도를 요구합니다.
•
실제로 학습 연산 중에는 수많은 수치 상태를 기기 메모리에 계속 유지해야 해 스마트폰의 처리 장치에 심한 병목 현상이 일어납니다. 이러한 고부하 작업이 길어지면 배터리가 급격히 닳고 기기 과열로 성능이 강제로 떨어져 상용화에 큰 걸림돌이 되었습니다.
토큰 최적화가 끌어낸 속도와 배터리 절감 효과
•
이번 연구는 인공지능이 문맥을 이해하고 답변을 만들 때 쓰는 기본 데이터 단위인 토큰의 처리 구조를 효율적으로 줄여 전력과 연산 부담을 덜어냈습니다. 연산 과정을 가볍게 만들고 처리 흐름을 가속해 모바일 기기에서도 원활히 동작하는 구조를 완성했습니다.
•
그 결과 최신 클라우드 인공지능 수준의 성능을 유지하면서도 처리 속도를 기존 방식보다 약 4.5배 높였습니다. 이와 동시에 배터리 소모량을 기존 대비 약 77% 줄여 전력 부담을 대폭 낮췄습니다.
•
아울러 개인 데이터를 외부 서버로 보내지 않고 기기 안에서 직접 학습을 거치도록 설계했습니다. 실제 스마트폰 환경에서 검증한 결과 대형 서버에서 학습한 모델과 동등한 수준의 높은 정확도를 안정적으로 확보했습니다.
실제 통화 서비스와 서버 인프라로의 확장 계획
•
이번에 입증된 온디바이스 최적화 기술은 실시간 보안 기능을 갖춘 자체 통화 서비스에 탑재되고 향후 대형 서버 인프라로도 확장됩니다. 기기 단말의 부담을 줄이는 기술이 상용 서비스 품질을 높이고 기업의 데이터센터 운영 효율까지 함께 개선하는 방식입니다.
•
채택된 논문 2편은 오는 12월 호주 시드니에서 열리는 세계적 학술대회 뉴립스 2026의 온디바이스 인텔리전스 워크숍에서 공식 발표됩니다. 연구진은 실시간 보이스피싱 탐지 등을 수행하는 온디바이스 통화 서비스 익시오에 해당 성과를 적용해 배터리 걱정 없는 고성능 인공지능을 구현할 계획입니다.
•
나아가 인공지능 모델 최적화 전문기업 옵트에이아이와 협력해 스마트폰에서 검증한 최적화 역량을 서버 그래픽처리장치 영역으로 넓혀가고 있습니다. 연산 개선으로 동일한 장비에서 처리 가능한 데이터양을 늘려 향후 대규모 클라우드 인프라 운영 비용을 절감할 방침입니다.
스마트폰에서 직접 AI를 학습하기 어려웠던 이유
•
스마트폰 내부에서 인공지능을 직접 학습시키는 작업은 모바일 기기의 제한된 연산 자원과 전력 한계 때문에 매우 까다로웠습니다. 이미 만들어진 모델로 결과를 내는 단순 추론과 달리, 새로운 데이터를 학습하는 과정은 방대한 메모리와 빠른 데이터 전송 속도를 요구합니다.
•
실제로 학습 연산 중에는 수많은 수치 상태를 기기 메모리에 계속 유지해야 해 스마트폰의 처리 장치에 심한 병목 현상이 일어납니다. 이러한 고부하 작업이 길어지면 배터리가 급격히 닳고 기기 과열로 성능이 강제로 떨어져 상용화에 큰 걸림돌이 되었습니다.
토큰 최적화가 끌어낸 속도와 배터리 절감 효과
•
이번 연구는 인공지능이 문맥을 이해하고 답변을 만들 때 쓰는 기본 데이터 단위인 토큰의 처리 구조를 효율적으로 줄여 전력과 연산 부담을 덜어냈습니다. 연산 과정을 가볍게 만들고 처리 흐름을 가속해 모바일 기기에서도 원활히 동작하는 구조를 완성했습니다.
•
그 결과 최신 클라우드 인공지능 수준의 성능을 유지하면서도 처리 속도를 기존 방식보다 약 4.5배 높였습니다. 이와 동시에 배터리 소모량을 기존 대비 약 77% 줄여 전력 부담을 대폭 낮췄습니다.
•
아울러 개인 데이터를 외부 서버로 보내지 않고 기기 안에서 직접 학습을 거치도록 설계했습니다. 실제 스마트폰 환경에서 검증한 결과 대형 서버에서 학습한 모델과 동등한 수준의 높은 정확도를 안정적으로 확보했습니다.
실제 통화 서비스와 서버 인프라로의 확장 계획
•
이번에 입증된 온디바이스 최적화 기술은 실시간 보안 기능을 갖춘 자체 통화 서비스에 탑재되고 향후 대형 서버 인프라로도 확장됩니다. 기기 단말의 부담을 줄이는 기술이 상용 서비스 품질을 높이고 기업의 데이터센터 운영 효율까지 함께 개선하는 방식입니다.
•
채택된 논문 2편은 오는 12월 호주 시드니에서 열리는 세계적 학술대회 뉴립스 2026의 온디바이스 인텔리전스 워크숍에서 공식 발표됩니다. 연구진은 실시간 보이스피싱 탐지 등을 수행하는 온디바이스 통화 서비스 익시오에 해당 성과를 적용해 배터리 걱정 없는 고성능 인공지능을 구현할 계획입니다.
•
나아가 인공지능 모델 최적화 전문기업 옵트에이아이와 협력해 스마트폰에서 검증한 최적화 역량을 서버 그래픽처리장치 영역으로 넓혀가고 있습니다. 연산 개선으로 동일한 장비에서 처리 가능한 데이터양을 늘려 향후 대규모 클라우드 인프라 운영 비용을 절감할 방침입니다.
#LG유플러스
#뉴립스
#온디바이스 AI
#인공지능
#GPU
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
