인공지능(AI) 추론 효율화 기업 노타가 AI 에이전트의 작업 흐름을 제어하는 '풀스택 최적화' 기술을 공개했습니다. 기존의 모델 경량화와 그래픽처리장치(GPU) 커널 최적화에 에이전트 실행 제어를 결합해 작업 시간과 연산 자원을 획기적으로 줄인 것이 핵심입니다.
노타는 엔비디아의 전문가용 GPU 'RTX 프로 6000' 4장을 사용하는 환경에서 자체 성능 평가를 진행했습니다. 새로 적용된 '하네스' 최적화 기술은 응답 길이와 파일 수정 이력, 도구 실행 결과 등을 분석해 상황에 맞는 추론 강도를 선택함으로써 불필요한 재검토를 방지합니다.
평가 결과, 울트라 패스트 모드를 적용하면 작업 시간은 최대 47%, 출력 토큰은 최대 60% 단축되는 것으로 나타났습니다. 다만, 오픈소스 코딩 에이전트 '클라인'을 활용한 소프트웨어 오류 수정 평가에서는 문제 해결률이 기존 65.7%에서 62.0%로 하락해 최적화 수준에 따른 성능 차이가 확인되기도 했습니다.
김태호 노타 최고기술책임자(CTO)는 "AI 에이전트가 실제 업무에 도입될수록 모델의 단순 추론 속도보다 하나의 작업을 완료하는 데 필요한 시간과 연산 비용이 더욱 중요해진다"고 설명했습니다. 노타는 이번 기술을 코딩 에이전트를 시작으로 기업용 AI 에이전트와 다양한 생성형 AI 서비스로 확대할 계획입니다.