IT/과학
라이너, 질문 난이도별 AI 모델 자동 배정으로 LLM 비용 50% 절감
뉴스보이
2026.09.15. 09:58
뉴스보이
2026.09.15. 09:58
간단 요약
간단 요약
질문 난이도에 따라 최적의 모델을 자동 배정해 정답률은 유지하면서 비용을 획기적으로 줄입니다.
복잡한 구현 없이 기존 API를 교체하는 것만으로 즉시 도입이 가능해 기업의 인프라 부담을 낮췄습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
AI 오케스트레이션 솔루션 기업 라이너가 거대언어모델(LLM) 이용 비용을 50% 이상 절감할 수 있는 '라이너 모델 API'를 출시했습니다. 이 서비스는 질문의 난이도를 분석해 적합한 모델을 자동으로 배정하는 기술을 적용한 것이 특징입니다.
실제 사용 환경 데이터 평가 결과, 고성능 모델이 필요한 질의는 43%였으며, 나머지 57%의 일반 질문은 효율적인 모델로 배분됐습니다. 이를 통해 정답률 손실 없이 비용 효율성을 극대화했습니다.
기업은 복잡한 로직 구현 없이 기존 API를 교체하는 것만으로 즉시 적용할 수 있습니다. 김진우 라이너 대표는 신규 모델의 성능과 단가를 매번 검증해야 하는 개발사의 번거로움을 이번 API가 해결해 줄 것이라고 강조했습니다.
이번 기술은 라이너가 검색 및 금융 등 자체 AI 서비스를 운영하며 쌓은 평가 체계와 데이터를 기반으로 합니다. 라이너는 최근 B2B 전담 조직인 'AX 디비전'을 가동하며 기업 시장 공략을 본격화하고 있습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
