谷歌推出AI训练与推理专用芯片,再度向英伟达发起挑战

admin1天前资讯14

  核心要点

谷歌推出AI训练与推理专用芯片,再度向英伟达发起挑战

  过去数年,谷歌一直生产可同时兼顾人工智能模型训练与推理工作的芯片,如今该公司将这两项任务拆分至不同处理器,这是其在 AI 硬件领域对抗英伟达的最新举措。

  谷歌周三宣布,将在第八代张量处理单元(TPU)上实施这一调整。两款芯片均将于今年晚些时候面市。

  谷歌高级副总裁兼 AI 与基础设施首席技术官阿明・瓦赫达特在博客文章中表示:“随着 AI 智能体的兴起,我们认为,市场将从分别针对训练与部署需求进行专项优化的芯片中受益。”

  今年 3 月,英伟达曾大力宣传其即将推出的新款芯片,借助以 200 亿美元收购芯片初创企业 Groq 所获得的技术,该芯片可让模型快速响应用户提问。谷歌是英伟达的大客户,但同时也向使用其云服务的企业提供 TPU 作为替代方案。

  全球多数顶尖科技企业均在自研人工智能专用半导体,以实现效率最大化,并满足特定场景需求。苹果多年来一直在自研 iPhone 芯片中集成神经网络引擎 AI 组件;微软于今年 1 月发布第二代 AI 芯片;上周,Meta 宣布将与博通合作开发多款 AI 处理器。

  谷歌是这一趋势的先行者。2015 年,谷歌开始使用自研处理器运行 AI 模型,并于 2018 年向云服务客户开放租赁。亚马逊云科技 2018 年推出用于处理 AI 请求的 Inferentia 芯片,2020 年又发布用于 AI 模型训练的 Trainium 处理器。

  戴维森分析师去年 9 月估算,TPU 业务加上谷歌 DeepMind AI 部门,总价值约 9000 亿美元。

  目前没有任何一家科技巨头能够取代英伟达,谷歌甚至没有将自家新芯片的性能与这位 AI 芯片龙头的产品进行对标。不过谷歌表示,其训练芯片在同等成本下,性能是去年 11 月发布的第七代艾恩伍德 TPU 的 2.8 倍,推理处理器性能则提升 80%。

  英伟达称,即将推出的 Groq 3 LPU 硬件将搭载大容量静态随机存取存储器(SRAM),本月早些时候提交上市申请的 AI 芯片制造商 Cerebras 也采用该技术。谷歌代号为 TPU 8i 的全新推理芯片同样依赖 SRAM,单颗芯片搭载 384 兆字节 SRAM,容量为艾恩伍德 TPU 的三倍。

  谷歌母公司 Alphabet 首席执行官桑达尔・皮查伊在博客中写道,该架构旨在 “以高性价比实现海量吞吐量与低延迟,满足同时运行数百万智能体的需求”。

  谷歌 AI 芯片的应用规模正在快速扩大。谷歌表示,城堡证券已基于谷歌 TPU 搭建量化研究软件,美国能源部全部 17 家国家实验室均使用基于该芯片开发的 AI 合作科学家软件;Anthropic 也已承诺使用规模达数吉瓦算力的谷歌 TPU。

相关文章

2年期美债收益率在"疲弱"拍卖后飙升

  据蒙特利尔银行称,周二,在一场“疲弱”的拍卖之后,2年期美国国债收益率飙升。该机构表示,非交易商的竞标量低于平均水平。   该收益率最新上涨超过11个基点,至3.944%。此外,10年期美国国债收...

许昌天气(许昌天气预报24小时)

许昌天气(许昌天气预报24小时)

本文目录一览: 1、许昌狗市下雨天有人吗 2、许昌天气预报 3、许昌历史最低温度是多少 4、许昌48小时天气预 5、河南省、许昌市天气预报 6、许昌未来30天天气预报 许昌狗市下...

特朗普:我会“记住”那些不申请关税退款的企业

  核心要点   美国总统唐纳德・特朗普周二在接受 CNBC 采访时表示,对于那些不申请退还他单方面加征、后被最高法院裁定为非法关祱的美国企业,他会 “心怀感激地记住” 他们。   特朗普是在《Squ...

视频|四年亏损10亿元,首都在线总经理年薪660万较前一年翻倍,公司解释:去年业绩达标,绩效足额兑现

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!...

衡水天气(衡水天气预报15天查询)

衡水天气(衡水天气预报15天查询)

本文目录一览: 1、2022年1月29日衡水的天气 2、3月14日衡水的天气情况 3、2021年2月14日衡水的天气 4、2022年2月24日衡水的天气 5、2022年4月21日衡水的...

港股投资就用新浪财经APP!不止是工具,更是你的“投资情报局”

  在刚刚过去的2月,港股市场依旧波谲云诡。美以伊局势突变,恒指单日震幅超2%。有人因错失山东墨龙一日翻倍的机会而拍断大腿,也有人在药明康德的急跌中因为慢了一秒而深陷泥潭。   在这个信息即财富,延迟...