경제
“GPT·클로드 통합 운용”…카페24, 120여 개 AI 모델 묶는 'LLM 라우터' 출시
뉴스보이
2026.06.23. 10:06
뉴스보이
2026.06.23. 10:06
간단 요약
간단 요약
요청에 따라 비용, 속도 등을 고려해 최적의 AI 모델을 자동 연결합니다.
AI 모델 키를 직접 관리하며 활용 현황을 실시간 대시보드로 확인할 수 있습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
카페24가 120여 개 인공지능(AI) 모델을 하나의 플랫폼에서 통합 관리하는 'LLM 라우터'를 공개했습니다. 이 서비스는 사용자의 요청에 맞춰 AI 서비스 제공사를 자동으로 연결하며, 비용, 속도, 처리량 등 기준에 따라 최적의 제공사를 선택합니다.
LLM 라우터는 특정 AI 서비스 제공사를 허용하거나 제외하는 기능과 주 모델 응답 불가 시 대체 모델로 자동 전환하는 기능을 지원합니다. 사용자는 실시간 대시보드를 통해 요청 수, 비용, 토큰 사용량 등 AI 활용 현황을 직관적으로 확인할 수 있습니다.
또한, 사용자가 보유한 AI 모델 키를 연결하여 직접 비용을 관리하는 BYOK(Bring Your Own Key) 모드도 제공됩니다. 이재석 카페24 대표는 AI 모델의 증가에 따른 효율적인 연결 및 운영이 중요하다고 강조하며, 사용자들이 AI를 편리하게 활용할 수 있도록 인프라 역할을 충실히 하겠다고 밝혔습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
