(資料圖片)
北京時間6月14日凌晨，AMD舉辦了“AMD數(shù)據(jù)中心與人工智能技術(shù)首映會”，并在會上推出的AI處理器MI300系列。其中，特別為大語言模型優(yōu)化的MI300X將于今年晚些時候開始向部分客戶發(fā)貨。
AMD首席執(zhí)行官蘇姿豐先介紹MI300A，這是全球首款針對AI和高性能計算（HPC）的加速處理器（APU）加速器。在13個小芯片中遍布1460億個晶體管。相比前代MI250，MI300的性能提高八倍，效率提高五倍。
隨后，蘇姿豐公布了本場發(fā)布會最受關(guān)注的產(chǎn)品——MI300X，這是一款為大語言模型進行了優(yōu)化的版本。
MI300X芯片及其CDNA架構(gòu)是為大型語言模型和其他尖端人工智能模型設計的。
生成式人工智能應用程序的大型語言模型使用大量內(nèi)存，因為它們運行越來越多的計算。AMD演示了MI300X運行400億參數(shù)的Falcon模型。
蘇姿豐表示，MI300X提供的HBM（高帶寬內(nèi)存）密度是英偉達H100的2.4倍，HBM帶寬是競品的1.6倍。這意味著AMD可以運行比英偉達H100更大的模型。單個MI300X可以運行一個參數(shù)多達800億的模型。
AMD還表示，將推出一款I(lǐng)nfinity Architecture，在一個系統(tǒng)中集成8個M1300X加速器。英偉達和谷歌也開發(fā)了類似的系統(tǒng)，將8個或更多GPU集成在一個盒子里，用于人工智能應用。綜合
（責任編輯：王治強 HF013）關(guān)鍵詞：
