AMD也能跑大模型 MI300X對比NVIDIA H100/200毫不遜色

? ? NVIDIA長期以來在AI算力領(lǐng)域占據(jù)主導(dǎo)地位，然而據(jù)國外媒體報道，AMD的最 新GPU產(chǎn)品MI300X在性能上終于展現(xiàn)出與NVIDIA H100/200相媲美的實(shí)力。根據(jù)The Information發(fā)布的評測報告，AMD的Instinct MI300X GPU在AI推理基準(zhǔn)測試中的表現(xiàn)與NVIDIA的H100 GPU相當(dāng)，表明AMD在高性能AI計算領(lǐng)域取得了顯著進(jìn)展。

? ? 這份評測報告由MLCommons提供數(shù)據(jù)，測試了AMD的MI300X GPU及NVIDIA的H100和H200 GPU。結(jié)果顯示，在AI推理任務(wù)中，MI300X GPU的性能與H100 GPU不相上下，結(jié)合對GPU成本及系統(tǒng)總成本的估計，MI300X GPU的表現(xiàn)可以與H100和H200 GPU相媲美。

? ? 需要注意的是，這些測試僅使用了來自Meta的Llama 2 70B，盡管測試存在一定局限性，但這一結(jié)果仍然表明AMD的MI300X GPU在處理大型AI模型方面展現(xiàn)了強(qiáng)大的潛力。業(yè)內(nèi)人士對AMD在AI領(lǐng)域的發(fā)展前景持樂觀態(tài)度，認(rèn)為其未來有望進(jìn)入主流市場。

? ? Transformer作者及Cohere公司創(chuàng)始人之一艾丹·戈麥斯也對AMD及其技術(shù)持積極看法，認(rèn)為AMD和其他平臺如Tranium將很快在主流市場中占據(jù)一席之地。