快科技8月13日消息，除了玩游戏，nvidia的显卡还在ai加速上遥遥领先，不仅科技巨头都在抢a100/h100等显卡，geforce游戏卡也是普通人搞ai炼丹的选择，amd显卡在这方面落后不少。
好消息是amd现在也能追上来了，深度学习领域的华人大神、octoml cto陈天奇带领团队在amd显卡上做出了大模型推理的方案，这意味着业界又有nvidi之外的选择，不用为n卡抢破头、加价而困扰了。
根据他的优化算法，在llama2的7b和13b大模型中，用rx 7900 xtx显卡也能跑出让人满意的性能，性能已经达到了rtx 4090显卡82%或者rtx 3090 ti显卡的94%水平。
不仅是性能追上来了，amd显卡的性价比也要高得多，rx 7900 xtx跟其他两款显卡都是24gb显存，但只要999美元，rtx 4090、rtx 3090 ti分别是1599、1999元，价格高出60-100%。
当然，rx 7900 xtx现在的价格早就松动了，实际售价比999美元便宜不少，而n卡价格一直坚挺。
究其根底，a卡在ai炼丹能力上的提升，尤其是rx 7900 xtx这样的游戏卡能有质变，还是amd最近在rocm软件生态上的改进，以前后者对游戏卡及win平台的支持很差，4月份开始不仅支持windows系统，也加入了对rx 7900及工作站显卡的支持。
同时amd还发布了rocm hip sdk，允许开发者将针对cuda平台开发的代码轻松迁移到amd平台，这有是陈天奇等大神可以在amd显卡上推动ai能力提升的基础。
以上就是华人大神出手 amd显卡ai“炼丹”能力追上来了：rtx 4090八成性能的详细内容。