Cerebras Systems

详细简报

Cerebras Systems, Inc.是一家总部位于加利福尼亚州桑尼维尔的私营半导体初创公司，由Andrew Feldman和来自SeaMicro（被AMD收购）及其他半导体公司的资深团队于2016年创立。Cerebras开创了面向AI计算的晶圆级集成概念——将整个硅晶圆作为单片芯片使用而非切割成独立小片——以消除制约GPU集群在大型神经网络模型上性能的芯片间通信开销。 WSE-3（晶圆级引擎3）于2024年3月发布，是Cerebras晶圆级芯片的第三代，也是迄今为止制造的最大商用半导体器件。由台积电5nm工艺制造，WSE-3占用完整的300mm晶圆——46,225 mm²——集成90万个AI优化处理核心、44 GB片上SRAM（21 PB/s的总内存带宽）和7万亿晶体管。相比之下，英伟达H100芯片面积约为814 mm²，约小57倍。WSE-3的核心优势在于所有90万个核心通过片上互连以SRAM速度通信，消除了HBM内存带宽瓶颈和NVLink/InfiniBand延迟，从而加速分布式GPU集群处理每个训练步骤的速度。 对于特定工作负载类型，实际性能提升是显著的。对于能够装入WSE-3的44 GB SRAM的大语言模型训练和推理，Cerebras展示了以每秒token数衡量的训练速度比同等H100集群快10至100倍，并具有完全确定性的延迟——这对于需要可重现时序的科学计算应用极具价值。CS-3系统（容纳一块WSE-3的机架单元）提供约125 petaFLOPS的稀疏计算能力。通过MemoryX（将权重存储卸载到外部DRAM）和SwarmX（提供集群互连网络），多个CS-3单元可以扩展，支持在WSE-3集群配置上训练数千亿参数的模型。 Cerebras的目标市场有意与主流AI云服务商区分。公司专注于制药和生物技术客户（蛋白质折叠、分子动力学和药物发现模型受益于其架构）、国家实验室和政府研究客户（NCAR、阿贡国家实验室和多个能源部站点已部署Cerebras系统），以及通过Cerebras Government部门服务的国防和情报社区客户。2024年9月，Cerebras与阿联酋G42合作提供AI推理算力，2024年底秘密提交纳斯达克IPO申请。 台积电依赖是Cerebras最关键的单一供应链约束。每块WSE-3需要一整片300mm台积电5nm晶圆——与标准芯片订单相比分配量异常大——且晶圆级器件的制造良率管理远比标准芯片复杂，因为会破坏小芯片的缺陷在晶圆级设计中只会成为不可用的核心（通过冗余核心设计解决）。台积电5nm产能与苹果、英伟达、AMD等高优先级客户共享，使Cerebras的晶圆分配取决于其在台积电客户优先队列中的地位。出口管制目前不直接影响Cerebras的产品线（面向美国和盟国客户销售），但任何由地缘政治因素引发的台积电未来产能约束将直接影响其生产。