谷歌下月上线A3实例:搭载英伟达H100,可提供26exaFlopsAI

发布时间:2023-09-02 11:29
来源:IT之家   阅读量:18942   

,Google Cloud 在今天召开的云 Next 大会上,宣布下月上线 A3 虚拟机实例。谷歌云在今年 5 月召开的 I / O 开发者大会上宣布 A3 实例,最大的亮点在于配备英伟达 H100 Tensor Core GPU,满足生成式 AI 和大语言模型的需求。

IT之家此前报道,A3 实例采用了第 4 代英特尔至强可扩展处理器、2TB DDR5-4800 内存,以及 8 张英伟达 H100“Hopper”GPU,通过 NVLink 4.0 和 NVSwitch 实现了 3.6 TBps 的对分带宽。

新的 A3 超级计算机“专门用于训练和服务要求最苛刻的人工智能模型,这些模型为当今的生成人工智能和大型语言模型创新提供动力”。据介绍,这款超级计算机可以提供 26 exaFlops 的人工智能性能。

谷歌云在今天的发布会上还介绍了全新的 TPU v5e,是迄今为止最具成本效益和可访问的云 TPU。这些 TPU 或定制 ASIC 旨在加速 AI 和 ML 工作负载。

SDxCentral 报道称,TPU v5e 相比较前代,每美元的训练性能提高了一倍,每美元的推理性能提高了 2.5 倍。

相关阅读:

《谷歌推出 A3 Virtual Machines 超级计算机:搭载英伟达 H100,可提供 26 exaFlops AI 性能》

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

标签:

更多相关文章
  • 法国卢浮宫——关于蒙娜丽莎的一切

    法国卢浮宫——关于蒙娜丽

  • 甘州科技赋能畜牧业高质量发展

    甘州科技赋能畜牧业高质量

  • 两项生物降解新国标6月1日起实施目前市场空间缺口巨大

    两项生物降解新国标6月1

  • 孙兴慜助热刺保留争四希望,有望染指英超金靴

    孙兴慜助热刺保留争四希望

  • 沙特阿美市值超苹果成全球市值最高企业

    沙特阿美市值超苹果成全球

  • 日产:将于5月20日发布纯电微型车,约合人民币10.6万元起

    日产:将于5月20日发布

  • 从“花样两米线”里读出什么

    从“花样两米线”里读出什

  • 由普通制造企业向高新技术企业迈进

    由普通制造企业向高新技术