데일리 TOP10
10위
500개 AI 골라 쓰고 비용 25% 절감... KT, 통합 플랫폼 '토큰팩토리' 공개
뉴스보이
2026.10.27. 15:33
뉴스보이
2026.10.27. 15:33
자체 압축·라우팅 기술을 통한 비용 최적화와 국내 데이터센터 기반 보안 강화
1
KT가 국내외 500여 개 AI 모델을 한곳에서 골라 쓰고 사용량과 비용을 통합 관리하는 플랫폼 '토큰팩토리'를 공개함.
2
자체 개발한 프롬프트 압축 기술로 약 20%, 최적 모델 자동 라우팅으로 약 5%를 줄여 토큰 이용 비용을 최대 25% 절감함.
3
이에 더해 국내 데이터센터 기반의 직접 추론 환경과 가드레일 보안 기술을 구축해 데이터 유출 우려와 주권 침해 문제를 해소함.
4
또한 통신 과금 노하우를 접목해 통신비와 토큰료 통합 청구를 지원하고 토큰 상세 기록(TDR) 체계로 투명한 정산을 제공함.
5
오는 30일 기업 대상 73종 출시를 시작으로 11월 500종 이상 확대 후 내년 3월 개인과 개발자 대상 개방을 추진함.
KT는 왜 AI 유통과 비용 절감 플랫폼을 꺼냈을까
기업들은 왜 AI 모델 관리에 어려움을 겪는가
비용 절감과 데이터 주권은 어떻게 확보했는가
통신사의 과금 노하우는 어떻게 접목되었는가
앞으로의 서비스 출시와 확장 계획은 어떠한가
기업들은 왜 AI 모델 관리에 어려움을 겪는가
•
기업 현장에서는 업무별로 여러 인공지능 모델을 따로 쓰면서 비용이 급증하고 관리에 큰 어려움을 겪고 있습니다. 전 세계 인공지능 사용량이 폭발적으로 늘어난 상황에서 각 부서가 서비스를 제각각 결제해 낭비가 발생하기 때문입니다.
•
실제로 글로벌 중개 플랫폼 통계에 따르면 최근 1년간 인공지능 토큰 처리량은 35배나 폭증해 172조 개에 달했습니다. 여기에 해외 서비스를 이용할 때 사내 기밀이나 개인정보가 국외로 이전되어 유출될 수 있다는 우려도 커졌습니다.
비용 절감과 데이터 주권은 어떻게 확보했는가
•
KT는 자체 개발한 기술을 적용해 인공지능 이용 비용을 최대 25%까지 낮추었습니다. 입력 문장에서 불필요한 단어를 줄여 약 20%를 아끼고, 작업에 맞는 저렴한 모델을 골라주어 약 5%를 추가로 줄입니다.
•
이 기술은 글로벌 평가 대회인 라우터 아레나에서 경쟁력을 인정받으며 모델 선택 성능을 입증받았습니다. 기업은 작업 난이도에 맞춰 가장 저렴하면서도 효과적인 인공지능을 자동으로 추천받을 수 있습니다.
•
동시에 KT는 국내 데이터센터의 그래픽 처리장치를 활용해 7종의 모델을 직접 운영하며 데이터 주권을 지킵니다. 이용자가 입력한 정보 속 개인정보와 유해 표현을 사전에 걸러내는 자체 보안 기술도 함께 갖추었습니다.
통신사의 과금 노하우는 어떻게 접목되었는가
•
KT는 통신 요금을 매기던 오랜 기술을 활용해 인공지능 사용 내역을 투명하게 관리하는 체계를 구축했습니다. 통신 통화 기록처럼 토큰 사용량을 꼼꼼히 기록하여 기업이 부서별 이용료를 손쉽게 정산하도록 돕습니다.
•
요금제는 쓴 만큼 내는 방식과 약정을 맺고 할인받는 기업 전용 방식으로 나누어 통신요금과 함께 한 번에 청구할 수 있습니다. KT는 단순한 중개 수수료에 기대지 않고 자체 데이터센터 운영과 기업용 회선 사업을 연계해 실질적인 수익을 올릴 계획입니다.
앞으로의 서비스 출시와 확장 계획은 어떠한가
•
토큰팩토리는 기업 고객을 시작으로 점차 일반 이용자까지 대상을 넓혀 단계적으로 출시됩니다. KT는 오는 10월 30일에 73종의 인공지능 모델을 갖추고 기업 고객을 상대로 먼저 서비스를 시작합니다.
•
이어서 11월에는 글로벌 중개 서비스와 손을 잡고 제공하는 모델 수를 500개 이상으로 대폭 늘립니다. 내년 3월에는 개인 개발자와 일반 이용자도 구독형 요금제를 통해 자유롭게 이용할 수 있도록 서비스를 전면 개방할 예정입니다.
기업들은 왜 AI 모델 관리에 어려움을 겪는가
•
기업 현장에서는 업무별로 여러 인공지능 모델을 따로 쓰면서 비용이 급증하고 관리에 큰 어려움을 겪고 있습니다. 전 세계 인공지능 사용량이 폭발적으로 늘어난 상황에서 각 부서가 서비스를 제각각 결제해 낭비가 발생하기 때문입니다.
•
실제로 글로벌 중개 플랫폼 통계에 따르면 최근 1년간 인공지능 토큰 처리량은 35배나 폭증해 172조 개에 달했습니다. 여기에 해외 서비스를 이용할 때 사내 기밀이나 개인정보가 국외로 이전되어 유출될 수 있다는 우려도 커졌습니다.
비용 절감과 데이터 주권은 어떻게 확보했는가
•
KT는 자체 개발한 기술을 적용해 인공지능 이용 비용을 최대 25%까지 낮추었습니다. 입력 문장에서 불필요한 단어를 줄여 약 20%를 아끼고, 작업에 맞는 저렴한 모델을 골라주어 약 5%를 추가로 줄입니다.
•
이 기술은 글로벌 평가 대회인 라우터 아레나에서 경쟁력을 인정받으며 모델 선택 성능을 입증받았습니다. 기업은 작업 난이도에 맞춰 가장 저렴하면서도 효과적인 인공지능을 자동으로 추천받을 수 있습니다.
•
동시에 KT는 국내 데이터센터의 그래픽 처리장치를 활용해 7종의 모델을 직접 운영하며 데이터 주권을 지킵니다. 이용자가 입력한 정보 속 개인정보와 유해 표현을 사전에 걸러내는 자체 보안 기술도 함께 갖추었습니다.
통신사의 과금 노하우는 어떻게 접목되었는가
•
KT는 통신 요금을 매기던 오랜 기술을 활용해 인공지능 사용 내역을 투명하게 관리하는 체계를 구축했습니다. 통신 통화 기록처럼 토큰 사용량을 꼼꼼히 기록하여 기업이 부서별 이용료를 손쉽게 정산하도록 돕습니다.
•
요금제는 쓴 만큼 내는 방식과 약정을 맺고 할인받는 기업 전용 방식으로 나누어 통신요금과 함께 한 번에 청구할 수 있습니다. KT는 단순한 중개 수수료에 기대지 않고 자체 데이터센터 운영과 기업용 회선 사업을 연계해 실질적인 수익을 올릴 계획입니다.
앞으로의 서비스 출시와 확장 계획은 어떠한가
•
토큰팩토리는 기업 고객을 시작으로 점차 일반 이용자까지 대상을 넓혀 단계적으로 출시됩니다. KT는 오는 10월 30일에 73종의 인공지능 모델을 갖추고 기업 고객을 상대로 먼저 서비스를 시작합니다.
•
이어서 11월에는 글로벌 중개 서비스와 손을 잡고 제공하는 모델 수를 500개 이상으로 대폭 늘립니다. 내년 3월에는 개인 개발자와 일반 이용자도 구독형 요금제를 통해 자유롭게 이용할 수 있도록 서비스를 전면 개방할 예정입니다.
#토큰팩토리
#KT
#AI
#토큰
#데이터센터
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
