英伟达发布全球最强AI芯片H200:性能较H100提升近一倍
bb百科11月14日消息,在2023年全球超算大会(SC2023)上,芯片巨头英伟达发布了H100芯片的继任者,也是目前世界最强的AI芯片——H200。
相比于其前任产品H100,H200的性能直接提升了60%到90%。
不仅如此,H200与H100一样都是基于英伟达Hopper架构打造,这也意味着两款芯片可以互相兼容,对于使用H100企业而言,可以无缝更换成最新的H200。
同时H200还是英伟达首款使用HBM3e内存的芯片,速度更快容量更大,更适合用于大语言模型的训练或者推理。
除了HBM3e内存外,H200的内存容量为141GB,带宽从H100的3.35TB/s增加到了4.8TB/s。
H200的性能提升最主要体现在大模型推理表现上,H200 在700亿参数的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。
对于显存密集型HPC应用,H200更高的显存带宽能够确保高效地访问操作数据,与CPU相比,获得结果的时间最多可提升110倍。
英伟达表示H200预计将于2024年第二季度出货,售价还暂未公布,不过在算力荒下,大科技公司们估计还是会疯狂囤货。
相关文章
- 2999元起!索尼PS5轻薄版国行预售:更轻更薄 性能不减
- IGN发PS掌机8分评测再被群嘲:今年最大的笑话!
- 残障人士也能痛快打游戏了!索尼PS5 Access控制器12月6日上市
- AMD 面向高性能工业自动化、机器视觉与边缘应用扩展锐龙嵌入式处理器系列
- 一大波女蜘蛛侠来袭!《蜘蛛女:超感觉醒》首支预告发布:2月上映
- 索尼新PS掌机IGN 8分:比手机体验好多了
- SK海力士推出16GB LPDDR5T内存:9.6Gbps传输速度、vivo X100首发
- 黄仁勋:张忠谋是科技教父 没有他及台积电就没有英伟达
- 英伟达确认:将为中国“定制”三款芯片 本月16日正式推出
- 杜绝精神分裂式内卷!中国芯片设计业现状:3243家企业 55%销售额不足1000万
发表评论
评论列表
- 这篇文章还没有收到评论,赶紧来抢沙发吧~