谷歌推出AI训练与推理专用芯片,再次挑战英伟达

  谷歌将推出一款专用于运行人工智能模型的芯片,以及另一款专用于训练模型的处理器。

谷歌推出AI训练与推理专用芯片,再次挑战英伟达-第1张图片

  亚马逊正在推行类似战略 ,两家公司均通过提供定制芯片作为图形处理器的替代方案,向英伟达发起挑战。

谷歌推出AI训练与推理专用芯片,再次挑战英伟达-第2张图片

  谷歌的新芯片配备了大容量静态随机存取存储器 ,与英伟达即将推出的芯片类似 。

  在推出既能训练人工智能模型又能处理推理工作的芯片多年之后,谷歌正在将这些任务分离到不同的处理器上,这是其在AI硬件领域挑战英伟达的最新举措。

  谷歌周三表示 ,其第八代张量处理单元(TPU)将进行这一改变。两款芯片均将于今年晚些时候上市 。谷歌高级副总裁兼AI与基础设施首席技术官在一篇博客文章中表示:“随着AI智能体的兴起,我们认定业界将受益于针对训练和服务需求分别专用的芯片。”

  今年3月,英伟达大力宣传其即将推出的芯片 ,该芯片凭借从与芯片初创公司Groq达成的200亿美元交易中获得的技术,能够使模型快速回应用户的问题。谷歌是英伟达的大客户,但也提供TPU作为使用其云服务的公司的替代方案 。

  全球大多数顶级科技公司都在进行人工智能定制半导体开发 ,以最大化效率并满足特定应用场景的需求。苹果多年来已在自研iPhone芯片中包含了神经引擎AI组件。微软于1月发布了第二代AI芯片 。上周 ,Meta表示正与博通合作开发多款AI处理器。

  谷歌是这一趋势的先行者。2015年,该公司开始使用自研处理器运行AI模型,并于2018年开始向云客户出租这些处理器 。亚马逊网络服务于2018年推出了用于处理AI请求的Inferentia芯片 ,并于2020年推出了用于训练AI模型的Trainium处理器 。

  DA Davidson分析师在9月估计,TPU业务加上谷歌DeepMind AI集团的价值约为9000亿美元。

  没有一家科技巨头正在取代英伟达,谷歌甚至没有将其新芯片的性能与这家AI芯片领导者的产品进行比较。谷歌确实表示 ,其训练芯片在相同价格下,性能是11月发布的第七代Ironwood TPU的2.8倍,而推理处理器的性能则提高了80% 。

  英伟达表示 ,其即将推出的Groq 3 LPU硬件将利用大容量静态随机存取存储器,本月早些时候申请IPO的AI芯片制造商Cerebras也使用这种存储器。谷歌名为TPU 8i的新型推理芯片也依赖SRAM。每颗芯片包含384兆字节的SRAM,是Ironwood的三倍 。

  谷歌母公司Alphabet首席执行官桑达尔·皮查伊在一篇博客文章中写道 ,该架构旨在“提供同时经济高效地运行数百万个智能体所需的大吞吐量和低延迟”。

  谷歌AI芯片的采用正在加速。谷歌表示,Citadel Securities构建了利用谷歌TPU的量化研究软件,美国能源部全部17个国家实验室都在使用基于这些芯片构建的AI协同科学家软件 。Anthropic已承诺使用数吉瓦的谷歌TPU算力。