生成式ai运算需求不断增长,助推gpu大厂辉达(nvidia)股价大涨再创新高。8月中辉达执行长黄仁勋展览时再次力推dgxgh200,是采用gracehopper加速运算卡打造的新一代生成式ai超级芯片,也是辉达首款exaflop等级的dgx超级计算机产品
性能辗压h100达17%
根据9月11日跑分数据,nvidia宣布旗下gh200、h100、l4 gpu与jetson orin同类产品都获得领先表现。
gh200首次提交单一芯片,与单张h100配合英特尔cpu比较后,gh200组合各测试都至少有15%左右提升。nvidia人工智能总监dave salvator新闻发表会表示:grace hopper首次表现非常强劲,与提交h100gpu相比,性能提高17%,而我们已全面领先。
gh200是什么?
官方说明,nvidia gh200是首个将h100 gpu和grace cpu整合在一起的超级芯片,这两者之间再通过带宽高达900gb/s的nvlink-c2c连互连接,扩充性更佳,以超快速度训练深度学习。
nvidia表示gh200有三大特点:
l适用大型模型的庞大内存:为开发人员提供超过500倍内存打造大型模型。
l超节能运算:带宽提升7倍,互连功耗降低逾5倍。
已整合且立即执行:数周内即可打造大型模型。重写后的内容:已经进行了整合并立即开始执行:在几周内就可以建立一个大型模型
多数选手性能比上一代提升至20%
5月computex期间,nvidia ceo黄仁勋提到gh200芯片预定2024年第二季量产。mlperfv3.1基准检验超过13,500个结果,不少提交者性能比3.0基准提高20%以上。
mlperf是让客户评估ai芯片效能的常用工具。
提交者的名单包括华硕、azure、connect tech、dell、富士通、giga computing、google、h3c、hpe、iei、英特尔、英特尔habanalabs、nutanix、甲骨文、高通、quanta cloud technology、sima、supermicro、tta和xfusion等
以上就是惊人跑分曝光,比h100更强!nvidia最强ai芯片gh200是什么?的详细内容。