Google Cloud

Google LLC는 Google Cloud Platform(GCP)을 운영하며, 매출액 기준 AWS와 Azure에 이어 세계 세 번째로 큰 클라우드입니다. Google은 AI 칩 공급망에서 독특한 위치를 차지하고 있습니다. AI 컴퓨팅의 하이퍼스케일러 구매자이면서 동시에 현재 6세대로 발전한 Tensor Processing Unit(TPU) 프로그램을 통해 칩 설계자이기도 합니다. Google의 TPU 프로그램은 2013년 내부 프로젝트로 시작되었습니다. 딥러닝의 지배적인 연산인 행렬 곱셈에 CPU와 GPU가 비효율적이라는 인식에서 비롯되어 신경망 추론 워크로드 가속화를 목적으로 하였습니다. 1세대 TPU는 2015년에 내부적으로 배포되었고 2017년에 공개 공개되었습니다. TPU v2에서 TPU v5e/v5p까지 추론 전용에서 데이터센터 규모의 전체 훈련+추론 기능으로 발전하였습니다. TPU 공급망은 다음과 같습니다: ①Google 하드웨어 팀이 칩 아키텍처 및 마이크로아키텍처를 정의; ②Broadcom이 ASIC 설계 파트너로서 물리적 설계 및 테이프아웃 전문성을 제공; ③TSMC가 첨단 노드에서 칩을 제조(TPU v4는 N7, TPU v5e는 N4); ④Quanta Computer 등 ODM이 맞춤형 랙 규모 시스템으로 조립. 이 엔드투엔드 맞춤 스택은 시판 NVIDIA 하드웨어로는 불가능한 방식으로 트랜스포머 워크로드에 최적화된 시스템 효율을 달성하게 해 줍니다. TPU가 최적이 아닌 워크로드, 특히 고객이 NVIDIA로 훈련한 모델을 가져오는 서드파티 AI 모델 서비스의 경우, Google Cloud는 각각 NVIDIA A100, H100, H200 GPU 기반의 A2, A3, A3 Mega 인스턴스를 제공합니다. 따라서 Google은 TPU 개발자임과 동시에 중요한 NVIDIA GPU 고객이기도 합니다. Google과 Broadcom의 깊은 통합(네트워킹 ASIC, 스위치 실리콘, TPU 공동 설계)은 Google-Broadcom-TSMC 삼각관계를 AI 인프라에서 가장 전략적으로 중요한 공급망 관계 중 하나로 만들고 있습니다.