모레, 美 SC26서 차세대 AI 추론 프레임워크 'TIDE' 첫 공개…처리량 1.66배 향상
뉴스보이
2026.11.20. 11:53
뉴스보이
2026.11.20. 11:53
간단 요약
간단 요약
AI 인프라 소프트웨어 전문기업 모레가 대규모 언어모델의 추론 성능을 극대화하는 신기술을 선보였습니다.
이 기술은 추측 디코딩을 활용해 기존 방식보다 처리량을 획기적으로 높이고 학습 시간도 단축했습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
AI 인프라 소프트웨어 전문기업 모레가 미국 시카고에서 열린 슈퍼컴퓨팅 2026(SC26)에서 차세대 AI 추론프레임워크 'TIDE'를 처음 공개했습니다. TIDE는 대규모 언어모델(LLM)의 추론 과정에서 발생하는 비효율을 개선하기 위해 설계된 자기 개선형 프레임워크입니다.
이번 연구 결과에 따르면 TIDE는 추측 디코딩 기술을 적용해 AI 추론 처리량을 기존 대비 최대 1.66배 향상시켰습니다. 특히 대형 모델이 추론 중 생성하는 중간 은닉 상태를 재활용해 보조 모델을 점진적으로 학습시키는 방식으로, 기존 온라인 학습 대비 학습 시간을 최대 3.02배 단축하는 성과를 거뒀습니다.
서로 다른 제조사의 GPU가 혼재된 환경에서도 성능 최적화가 가능합니다. 엔비디아 H100과 AMD MI250을 함께 배치한 환경에서 시스템 전체 처리량이 1.22배 향상되는 결과를 보였습니다. 이는 모레가 주력하는 데이터센터 연산 최적화 소프트웨어 '토큰 팩토리 OS' 개발 과정에서 축적된 기술력을 바탕으로 합니다.
조강원 모레 대표는 "AI 인프라 경쟁력은 고성능 GPU 확보를 넘어 주어진 자원을 얼마나 효율적으로 활용해 더 많은 연산을 처리하느냐에 달려 있다"고 강조했습니다.