구글이 9일(현지시간) 인공지능(AI) 연산 반도체 신제품 2종을 공개했습니다. 구글이 AI 연산에 맞춰 직접 설계한 텐서처리장치(TPU)의 새 제품으로, 보안을 강화한 'TPU 8tx'와 처리 속도를 높인 'TPU 8i 맥스'가 나왔습니다.
TPU 8tx는 보안에 초점을 맞춘 칩입니다. 일반적으로 데이터는 저장하거나 전송할 때만 암호화되고, 컴퓨터가 계산하는 순간에는 암호가 풀린 상태로 처리됩니다. 8tx는 계산 도중에도 데이터와 AI 모델의 핵심 정보를 암호화해, 장비를 운영하는 사람도 내용을 볼 수 없도록 설계됐습니다.
TPU 8i 맥스는 칩 2개를 하나로 묶어 계산 능력과 데이터 전송 속도를 각각 2배로 높였습니다. 여러 AI 비서가 대량의 문서와 프로그램 코드를 동시에 처리할 때 생기는 병목을 줄이기 위한 구성입니다. 마크 로마이어 구글 클라우드 AI·컴퓨팅 인프라 부사장은 이를 두고 "고속도로에 차로를 더 놓는 것"이라고 비유했습니다.
.webp)
구글은 지난 4월 학습용 'TPU 8t'와 추론용 'TPU 8i'를 내놓은 뒤 7개월 만에 이번 제품을 선보였습니다. 한 해에 TPU 제품을 4종 출시하는 것은 이번이 처음입니다.
외부 기업까지 공급 확대
TPU는 10여 년 전 구글의 음성 인식과 번역 서비스를 위해 처음 만들어졌습니다. 지금은 외부 기업에 빌려주는 데서 그치지 않고, 고객사의 AI 데이터센터에 직접 설치해 주는 방식으로도 공급하고 있습니다. 엔비디아가 AI 칩을 외부에 공급하는 것과 같은 방식입니다.
구글에 따르면 TPU를 본격적으로 쓰는 고객은 100곳 안팎입니다. 앤트로픽, 애플, 헤지펀드 시타델 등이 여기에 포함됩니다. 엔비디아 GPU를 대량으로 구매해 온 오라클도 TPU 기반 클라우드 서비스를 내놓기로 했습니다.
구글은 AI 서비스가 가동되는 동안 계속 칩을 사용해야 하는 추론 작업의 비용이 크다는 점을 짚었습니다. 이에 따라 범용 GPU 대신 용도별 맞춤 칩을 쓰면 같은 작업을 더 저렴하게 처리할 수 있다고 강조했습니다.
소프트웨어 진입 장벽도 낮췄습니다. 엔비디아 칩은 전용 개발 환경인 '쿠다'를 기반으로 쓰이고 있습니다. 구글은 지난달 메타 등과 함께 만든 '토치 TPU'를 무료로 공개했습니다. 이를 통해 AI 개발자들이 가장 많이 쓰는 도구인 파이토치로 만든 프로그램을 TPU에서 그대로 실행할 수 있게 됐습니다. 로마이어 부사장은 "토치 TPU는 기업의 TPU 도입 범위를 훨씬 넓힐 것"이라고 말했습니다.
.webp)
.webp)