구글 클라우드가 AI 에이전트 시대의 폭발적인 수요에 대응하기 위해 8세대 TPU 제품군을 확장합니다. 이번에 공개된 신제품은 보안에 특화된 '8tx'와 대규모 연산 처리에 최적화된 '8i Max'입니다. 마크 로메이어 구글 클라우드 AI 및 컴퓨팅 인프라 부문 부사장은 AI 에이전트가 수많은 병렬 작업을 수행하는 시대에 맞춰 인프라 혁신이 필수적이라고 강조했습니다.
보안이 핵심인 'TPU 8tx'는 5세대 AMD 에픽 CPU와 결합해 컨피덴셜 컴퓨팅 기능을 구현했습니다. 이를 통해 연산 처리 중에도 데이터와 모델 가중치를 안전하게 보호하며, 실시간 추론을 위한 저지연 네트워크인 '보드플라이'를 적용해 정부 및 금융 기관의 요구를 충족합니다.
'TPU 8i Max'는 8i 칩 두 개를 결합해 성능을 극대화했습니다. 기존 대비 연산 성능과 SRAM 용량, 고대역폭 메모리(HBM) 대역폭을 2배로 높였으며, 100만 토큰 규모의 컨텍스트를 처리할 수 있어 방대한 데이터를 다루는 대규모 워크로드에 적합합니다.
구글은 이번 신제품 출시를 통해 엔비디아의 시장 독주를 견제하고 풀스택 전략을 강화하고 있습니다. 특히 TPU를 자사 데이터센터뿐만 아니라 고객사의 자체 데이터센터에도 직접 구축할 수 있도록 지원 범위를 넓히며 AI 인프라 시장에서의 영향력을 확대할 방침입니다.