구글이 대용량 추론용 'TPU 8i Max'와 보안 특화 'TPU 8tx'를 새롭게 선보였습니다.
AMD의 5세대 에픽 CPU를 결합해 클라우드 환경에서 하드웨어 기반의 기밀 컴퓨팅을 지원합니다.
이 기사는 8개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 8개 언론사의 보도를 교차 검증하여 작성되었습니다.
구글이 8세대 텐서처리장치(TPU) 제품군에 'TPU 8i Max'와 'TPU 8tx'를 추가하며 AI 가속기 라인업을 4종으로 확대했습니다. 이번 신제품은 AI 에이전트의 대규모 데이터 처리를 지원하고 보안 성능을 강화하는 데 초점을 맞췄습니다.
대용량 AI 추론에 특화된 TPU 8i Max는 기존 TPU 8i 대비 연산 성능과 칩 내부 메모리(SRAM) 용량, 고대역폭 메모리(HBM) 대역폭을 각각 2배로 높였습니다. 특히 100만 토큰 규모의 컨텍스트 처리가 가능해 방대한 정보를 한 번에 분석해야 하는 AI 모델에 최적화되었습니다.
보안을 강화한 TPU 8tx는 AMD의 5세대 에픽(EPYC) 중앙처리장치(CPU)를 결합한 시스템입니다. 클라우드 TPU 최초로 하드웨어 기반 기밀 컴퓨팅을 지원해 데이터와 지식재산 보호를 강화했습니다. 마크 로마이어 구글 클라우드 AI 및 컴퓨팅 인프라 부문 총괄 부사장은 AI 에이전트 운영 시 인프라 차원의 기밀성 유지가 필수적이라고 강조했습니다.
현재 구글의 TPU를 도입한 외부 고객은 연구기관과 금융사 등을 포함해 100곳에 육박합니다. AMD 역시 자사의 에픽 프로세서가 글로벌 클라우드 사업자와 주요 AI 연구소 10곳 이상에서 호스트 CPU로 채택되며 영향력을 넓히고 있습니다. 구글은 개발자들이 기존 파이토치 코드를 수정 없이 사용할 수 있도록 '토치TPU'를 오픈소스로 공개하며 생태계 확장에도 힘쓰고 있습니다.