高通Cloud AI 100、AMD EPYC™ 7003系列處理器和技嘉服務(wù)器解決方案 共同推動AI推理突破每秒千萬億次運算
AI無疑已經(jīng)成為推動下一代用戶體驗的驅(qū)動力。無論是快速瀏覽喜愛的社交應(yīng)用,還是基于數(shù)萬次AI推理提供的在線購物推薦,幾乎每一項移動終端體驗都與AI密不可分。目前,這些平臺每天承載著數(shù)百萬的用戶量,這又意味著什么呢?它們需要海量性能出眾的高密度服務(wù)器,來提供滿足上述平臺持續(xù)運行所需的AI推理性能。
目前,通過與AMD最新的EPYC™ 7003系列處理器和技嘉科技的最新G292-Z43服務(wù)器解決方案相配合,高通技術(shù)公司正助力性能出眾的機架式服務(wù)器滿足高性能需求。上述企業(yè)在硬件技術(shù)專長領(lǐng)域的結(jié)合,帶來了頂級性能并為現(xiàn)代化數(shù)據(jù)中心樹立全新標桿。高通技術(shù)公司尖端的Cloud AI 100能夠與技嘉服務(wù)器系統(tǒng)完美適配,這將推動眾多出色的AI用例在高速數(shù)據(jù)分析、個性化推薦、智慧城市和5G通信等領(lǐng)域的普及。
技嘉G292-Z43服務(wù)器將支持兩臺AMD EPYCTM 7003系列處理器用于處理負載,以及多個高通Cloud AI 100 PCI-E卡用于支持需要密集計算的應(yīng)用來支持AI推理。高通Cloud AI 100推理加速器支持高達400 TOPS的算力,還擁有突破性的性能功耗比,并且僅通過單個高通Cloud AI 100 PCI-E卡即可實現(xiàn)。試想一下,如果每臺技嘉服務(wù)器最多可搭載16個高通Cloud AI 100 PCI-E推理卡,即可提供高達每秒6.4千萬億次運算(400 TOPS x 16,1 POPS等于1000 TOPS)。這是首次基于高通技術(shù)公司AI技術(shù)的解決方案突破每秒千萬億次運算(POPS)大關(guān)。更值得注意的是,每個服務(wù)器機柜可管理超過19個上述服務(wù)器單元,從而輕松實現(xiàn)超過100 POPS的算力,這充分體現(xiàn)了高通技術(shù)公司在AI領(lǐng)域的強勁實力。欲了解相關(guān)參數(shù),請參考以下信息圖。
更具體來看,單個算力為400 TOPS的HHHL(半高,半長)高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000張圖像進行Resnet50模型分類推理,相當(dāng)于一臺服務(wù)器機柜每秒可處理超過600萬張圖像。如此強大的AI性能有望在全球市場增強并規(guī);瘮U展AI體驗。我們衷心感謝AMD和技嘉科技為實現(xiàn)這一驚人成就所付出的努力。
高通Cloud AI 100 PCI-E卡和搭載AMD EPYCTM 7003系列處理器的技嘉服務(wù)器即將面市,請參考文末產(chǎn)品圖獲取更多信息。
高通Cloud AI是高通技術(shù)公司和/或其子公司的產(chǎn)品。
AMD、AMD剪頭標識、EPYC以及其他相關(guān)產(chǎn)品由Advanced Micro Devices注冊。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設(shè)計:醫(yī)療器械設(shè)計的應(yīng)用案例與方案解析
-
8月14日立即報名>> 【在線研討會】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
精彩回顧立即查看>> 全數(shù)會2025(第六屆)機器人及智能工廠展
-
精彩回顧立即查看>> OFweek 2025 具身機器人動力電池技術(shù)應(yīng)用大會
推薦專題
- 1 AI產(chǎn)業(yè)的新高度!英偉達成為全球首家市值破4萬億美元的公司
- 2 傳魏建軍與賈躍亭合作,長城汽車出海美國
- 3 一文讀懂:到底什么是 “具身智能” ?
- 4 黃仁勛:與雷軍長期合作,共探AI智駕
- 5 具身智能泡沫爭議下,華映資本尋找「穿越周期者」
- 6 中國平安們欲靠AI守“陣地”
- 7 官宣:智元機器人借殼上市,A股人形機器人第一股!
- 8 華為讓渡“三界”銷售主導(dǎo)權(quán),智界高管:終于能全力奔跑了
- 9 借仿生手實現(xiàn)突圍,國產(chǎn)靈巧手破局“不可能三角”
- 10 DeepSeek R2加持,中國AI與芯片產(chǎn)業(yè)迎來新一輪協(xié)同進化