데일리 TOP10
500개 AI 모델을 한곳에서…KT, 통합 플랫폼 '토큰팩토리' 공개
뉴스보이
2026.10.27. 10:40
뉴스보이
2026.10.27. 10:40
최적 모델 자동 추천과 토큰 사용량 25% 절감 효과
1
KT가 국내외 500여 개 AI 모델을 한곳에서 이용하고 토큰 단위로 비용을 관리하는 새 플랫폼 ‘토큰팩토리’를 공개함.
2
이를 위해 글로벌 AI 마켓플레이스 1위인 오픈라우터와 국내 최초로 공식 파트너십을 맺고 글로벌 모델을 대거 연동함.
3
자체 개발한 ‘오토 모델 라우터’ 기술은 글로벌 벤치마크 1위를 기록했으며, 업무에 맞춘 최적 모델을 자동 매칭함.
4
여기에 프롬프트 압축 기술을 더해 AI 서비스 이용에 드는 토큰 소비량을 최대 25%까지 절감할 수 있게 됨.
5
국내 데이터센터 기반 추론과 가드레일로 데이터 보안을 강화했으며, 오는 30일 기업 고객을 대상으로 우선 출시됨.
KT가 500개 AI 모델을 묶은 통합 플랫폼을 선보인 이유
기업들은 왜 AI 모델 관리에 어려움을 겪고 있을까
KT 토큰팩토리는 비용을 어떻게 줄여줄까
기업 데이터 유출과 보안 우려는 어떻게 막았을까
앞으로의 출시 일정과 생태계 확장 계획은 무엇일까
기업들은 왜 AI 모델 관리에 어려움을 겪고 있을까
•
기업들이 여러 인공지능 모델을 조합해 쓰려는 이유는 사용량 증가에 따른 비용 부담을 덜고 업무 효율을 높이기 위해서입니다. 실제로 최근 1년 동안 전 세계 인공지능 토큰 소비량은 약 35배나 크게 늘어났습니다.
•
모든 업무에 고성능 모델을 일괄 적용하면 막대한 서비스 이용료가 발생해 기업에 큰 부담이 됩니다. 따라서 복잡한 추론에는 대형 모델을 쓰고 단순 작업에는 소형 경량 모델을 연결하는 기술이 주목받고 있습니다.
•
단일 인공지능 공급자에 의존할 경우 해당 기업의 정책이나 가격 변동에 쉽게 휘둘릴 수 있습니다. 여러 모델을 분산해 활용하면 특정 서비스에 장애가 발생해도 즉시 대체 모델로 전환해 업무를 이어갈 수 있습니다.
KT 토큰팩토리는 비용을 어떻게 줄여줄까
•
KT 토큰팩토리는 글로벌 1위 마켓플레이스인 오픈라우터와 손잡고 500개 이상의 모델을 한곳에서 관리하도록 지원합니다. 사용자는 개별 서비스마다 따로 계약할 필요 없이 단일 플랫폼에서 모델 선택과 결제를 한 번에 처리할 수 있습니다.
•
플랫폼에 적용된 핵심 기술인 오토 모델 라우터는 이용자의 질문을 분석해 가장 알맞은 모델을 자동으로 골라줍니다. 이 기술은 모델 선택 성능을 평가하는 글로벌 벤치마크 대회에서 종합 1위를 기록하며 경쟁력을 인정받았습니다.
•
여기에 입력 문장의 길이를 줄여주는 자체 프롬프트 압축 기술을 함께 적용했습니다. 두 가지 기능을 결합한 결과 인공지능 이용에 들어가는 토큰 사용량을 최대 25%까지 줄일 수 있습니다.
기업 데이터 유출과 보안 우려는 어떻게 막았을까
•
해외 인공지능 서비스를 쓸 때 생기는 데이터 유출 불안을 해소하기 위해 국내 데이터센터에서 직접 연산을 처리하도록 설계했습니다. 민감한 내부 정보가 국외 서버로 넘어가지 않아 데이터 주권에 대한 걱정을 크게 덜 수 있습니다.
•
또한 자체 개발한 가드레일 기술을 도입해 이용자가 입력하는 질문과 모델이 생성한 답변을 모두 점검합니다. 개인정보나 부적절한 표현을 2중으로 검증하여 기업이 안전하게 서비스를 도입할 수 있도록 돕습니다.
앞으로의 출시 일정과 생태계 확장 계획은 무엇일까
•
KT는 오는 10월 30일 비용 관리가 시급한 기업 고객을 대상으로 토큰팩토리를 우선 출시합니다. 서비스 안정화를 거친 뒤 향후에는 일반 개인 고객으로까지 대상 범위를 점차 넓혀갈 계획입니다.
•
동시에 국내외 여러 소프트웨어 기업 및 컨소시엄 참여사들과 협력해 서비스 생태계를 키워나갈 예정입니다. 장기적으로는 국내에서 개발된 우수한 인공지능 모델을 글로벌 마켓에 유통하는 수출 허브 역할까지 목표로 하고 있습니다.
기업들은 왜 AI 모델 관리에 어려움을 겪고 있을까
•
기업들이 여러 인공지능 모델을 조합해 쓰려는 이유는 사용량 증가에 따른 비용 부담을 덜고 업무 효율을 높이기 위해서입니다. 실제로 최근 1년 동안 전 세계 인공지능 토큰 소비량은 약 35배나 크게 늘어났습니다.
•
모든 업무에 고성능 모델을 일괄 적용하면 막대한 서비스 이용료가 발생해 기업에 큰 부담이 됩니다. 따라서 복잡한 추론에는 대형 모델을 쓰고 단순 작업에는 소형 경량 모델을 연결하는 기술이 주목받고 있습니다.
•
단일 인공지능 공급자에 의존할 경우 해당 기업의 정책이나 가격 변동에 쉽게 휘둘릴 수 있습니다. 여러 모델을 분산해 활용하면 특정 서비스에 장애가 발생해도 즉시 대체 모델로 전환해 업무를 이어갈 수 있습니다.
KT 토큰팩토리는 비용을 어떻게 줄여줄까
•
KT 토큰팩토리는 글로벌 1위 마켓플레이스인 오픈라우터와 손잡고 500개 이상의 모델을 한곳에서 관리하도록 지원합니다. 사용자는 개별 서비스마다 따로 계약할 필요 없이 단일 플랫폼에서 모델 선택과 결제를 한 번에 처리할 수 있습니다.
•
플랫폼에 적용된 핵심 기술인 오토 모델 라우터는 이용자의 질문을 분석해 가장 알맞은 모델을 자동으로 골라줍니다. 이 기술은 모델 선택 성능을 평가하는 글로벌 벤치마크 대회에서 종합 1위를 기록하며 경쟁력을 인정받았습니다.
•
여기에 입력 문장의 길이를 줄여주는 자체 프롬프트 압축 기술을 함께 적용했습니다. 두 가지 기능을 결합한 결과 인공지능 이용에 들어가는 토큰 사용량을 최대 25%까지 줄일 수 있습니다.
기업 데이터 유출과 보안 우려는 어떻게 막았을까
•
해외 인공지능 서비스를 쓸 때 생기는 데이터 유출 불안을 해소하기 위해 국내 데이터센터에서 직접 연산을 처리하도록 설계했습니다. 민감한 내부 정보가 국외 서버로 넘어가지 않아 데이터 주권에 대한 걱정을 크게 덜 수 있습니다.
•
또한 자체 개발한 가드레일 기술을 도입해 이용자가 입력하는 질문과 모델이 생성한 답변을 모두 점검합니다. 개인정보나 부적절한 표현을 2중으로 검증하여 기업이 안전하게 서비스를 도입할 수 있도록 돕습니다.
앞으로의 출시 일정과 생태계 확장 계획은 무엇일까
•
KT는 오는 10월 30일 비용 관리가 시급한 기업 고객을 대상으로 토큰팩토리를 우선 출시합니다. 서비스 안정화를 거친 뒤 향후에는 일반 개인 고객으로까지 대상 범위를 점차 넓혀갈 계획입니다.
•
동시에 국내외 여러 소프트웨어 기업 및 컨소시엄 참여사들과 협력해 서비스 생태계를 키워나갈 예정입니다. 장기적으로는 국내에서 개발된 우수한 인공지능 모델을 글로벌 마켓에 유통하는 수출 허브 역할까지 목표로 하고 있습니다.
#토큰팩토리
#KT
#오픈라우터
#AI
#오토 모델 라우터
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
