华为对比英伟达a100 (华为gpu920和英伟达对比)

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

就在英伟达GPU大卖特卖,赚得盆满钵满的时候,华为GPU也正在悄然迎头赶上。

“我特别高兴告诉大家, 华为的GPU能力已经跟英伟达A100一样了 。任正非高度重视,三个联席主席到讯飞做专班工作, 现在已经做到对标英伟达A100 。”

这是近日2023年亚布力论坛夏季高峰会上,科大讯飞创始人兼董事长刘庆峰透露的消息,此话一出,振奋全场。

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

科大讯飞董事长刘庆峰

“我们跟华为发布了讯飞星火一体机,能够在国产平台上自己做训练、做推理,非常了不起”,刘庆峰说, “以前百模大战基本上都是英伟达训练出来的,在企业内部只能做微小的调优和训练,训练模型是比较难的,这一次我们基本上解决掉这个问题了。”

刘庆峰还透露道,“坦白讲,今天我们跟ChatGPT还有差距,但是我们很清楚,10月份就能赶上,明年上半年就对标GPT4,”他强调,“ 这个领域至少不被卡脖子,至少我们不会像大家担心的那样,中国通用人工智能完全被美国甩开 。”

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

华为GPU,性能究竟如何

众所周知,今年在ChatGPT热潮带动下,国产大模型也迎来爆发式增长。据统计,仅2023年1月至7月,国内就有共计64个大模型发布。

在大模型雨后春笋般涌现的同时,智能算力市场需求旺盛,GPU市场供不应求,导致价格也节节攀升。在《每卖一块芯片,英伟达就含泪血赚10倍,黄教主再次强调:不能失去中国市场》一文中,我们曾介绍过,由于英伟达A100和H100的在华销售受限,其中国特制版的A800和H800如今一“芯”难求,价格也水涨船高,一块芯片售价被炒至高达十几万元。

如此情形下,国内急需国产替代GPU来摆脱英伟达缺货而导致的算力掣肘。

2019年8月,华为昇腾(HUAWEI Ascend)910问世,为国产替代GPU注入了一针强心剂, 它是为数不多的能与英伟达A100对标的国产化AI芯片,已经受到不少友商的认可

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

另外,根据英国一名资深芯片工程师James W. Hanlon的盘点对比,整理了全球前十大AI训练芯片排行榜, 华为昇腾910是中国芯片厂商唯一入选的芯片

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

全球十大AI训练芯片榜单,华为昇腾入围(图源:量子位公众号)

据华为官方介绍, 昇腾910是业界算力最强的AI处理器 ,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI性能与能效,架构灵活伸缩,支持云边端全栈全场景应用。

算力方面,昇腾910完全达到设计规格,半精度(FP16)算力达到320 TFLOPS,整数精度(INT8)算力达到640 TOPS,功耗310W。

据华为轮值董事长介绍,“昇腾910”拥有两大亮点。

第一, “昇腾910”是当前全球算力最强、训练速度最快的AI芯片 。AI算力是当前国际顶尖AI芯片的2倍,训练速度也比当前最新最强的芯片提升了50%-100%。

第二,“昇腾910”配套的AI开源计算框架MindSpore更方便AI科学家和工程师使用,该框架可满足终端、边缘计算、云全场景需求,能够更好地保护数据隐私。正如其名,MindSpore框架是开源的,更有利于开发者加入其中,形成更广阔的应用生态。这也是为什么该框架与“昇腾910”搭配性能最佳,可最大化“昇腾910”的算力。

与传统的CPU和GPU相比,华为昇腾具有更高的性能和更低的功耗,能够更好地满足人工智能应用的需求。

自发布以来, 华为昇腾已被广泛应用于包括图像识别、语音识别、自然语言处理等AI应用中,成为了华为人工智能战略的重要组成部分

自2019年发布至今,以昇腾AI芯片为底层算力的智算中心,已有20+城市启动建设,共提供2500P+AI算力。

国内现有城市智算中心中,根据根据各地方政府门户、人民网、36氪等网站公布的数据,以建设数量计, 华为占据整体智算中心约79%的市场份额,在国产AI芯片中处于领先地位。

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100

大模型热潮下,国产GPU能否站上风口?

大模型热潮仍在持续,英伟达因GPU的热销,在第二季度拿出了创造历史的财报,与此同时,还在紧急与台积电商议扩产事宜。但台积电方面表示,今年AI相关需求“爆单”,要到2024年底才能完全解决AI芯片的供应短缺问题。

由于台积电先进封装产能不足,英伟达只好考虑将部分GPU中使用的2.5D封装交给其它供应商。国产GPU能否趁势抓住这一市场空缺机会,站上风口?

我们知道,近年来,我国我国人工智能算力芯片的市场格局主要由英伟达主导,其占据了80%以上的市场份额,一直保持着无可匹敌的竞争优势。然而,随着美国对高性能芯片出口限制措施不断加强,英伟达A100、H100被限售,A800、H800严重缺货, 国产AI芯片肩负起填补市场空缺的重要使命

目前,国内除了华为,壁仞科技、景嘉微、寒武纪等也在GPU赛道发力,取得一定成绩。

不过需要重视的是, 尽管国产GPU在价格方面有一定优势,但在生态建立方面,仍然不如英伟达完善 ,这也使得很多厂商不敢轻易改用国产芯片。

据一家国产GPU厂商销售人员透露,目前国内第一批大模型厂商使用的基本都是英伟达A100、A800的芯片,因为英伟达构建了完善的CUDA生态。“如果你用惯了这个生态,”该销售人员说,“贸然换一个生态,意味着你的学习成本、试错成本、调试成本都会增加,自然没人会想要换了”。

此外,国产芯片在算力上和英伟达的AI芯片仍然存在差距,这意味着,想要达到同样的算力,需要企业购置更多的芯片。对企业而言,就意味着更多的成本支出。

由此可见,国产GPU在与英伟达的竞争中阻力重重,想实现突围并不容易。一位业内人士分析称,在当前“缺芯”的形势下,国内大模型厂商可以在不是特别商业化的场景多给国产芯片机会,支持国产芯片厂商技术迭代,共同营造生态,共同成长。

参考资料:

人民网:应对算力短缺,国产芯片如何变挑战为机遇?

知乎:如何评价刘庆峰所言华为GPU已可对标英伟达A100?

量子位:全球十大AI训练芯片大盘点:华为昇腾910是中国唯一入选

鍗庝负gpu浜у搧鏄惁鑳芥墦璐ヨ嫳浼熻揪,鍗庝负瀵规瘮鑻变紵杈綼100