機(jī)器人能否“說(shuō)人話(huà)”?
利用英特爾AVX-512技術(shù)和bfloat16指令,騰訊的科學(xué)家們確保了GRU模塊和Dense運(yùn)算符中粗略部分/精細(xì)部分的所有SGEMV計(jì)算都使用512位矢量進(jìn)行矢量化,并采用bfloat16點(diǎn)積指令;對(duì)于按元素逐個(gè)加/乘等運(yùn)算以及其他非線(xiàn)性激活,都使用最新的英特爾AVX-512 指令運(yùn)行。
在最終都性能測(cè)試中,通過(guò)優(yōu)化,相同質(zhì)量水平(MOS4.5)的文本轉(zhuǎn)語(yǔ)音速度比FP32提升了高達(dá)1.54倍。
此外,騰訊還以 GAN 和 Parallel WaveNet (PWaveNet)為基礎(chǔ),推出了一種改進(jìn)后的模型,并基于第三代英特爾至強(qiáng)可擴(kuò)展處理器對(duì)模型性能進(jìn)行了優(yōu)化,最終使性能與采用FP32相比提升了高達(dá)1.89倍,同時(shí)質(zhì)量水平仍保持不變 (MOS4.4)。
騰訊在TTS領(lǐng)域的進(jìn)展顯示出了人工智能領(lǐng)域的一個(gè)趨勢(shì),那就是科學(xué)家們?cè)絹?lái)越多開(kāi)始利用英特爾深度學(xué)習(xí)加速技術(shù)在CPU平臺(tái)上開(kāi)展工作。
就像騰訊在針對(duì)TTS的探索中獲得了性能提升那樣,第二代和第三代英特爾至強(qiáng)可擴(kuò)展處理器在集成了加速技術(shù)后,已經(jīng)顯著提升了人工智能工作負(fù)載的性能。
在更廣泛的領(lǐng)域內(nèi),我們已經(jīng)能夠清楚地看到這種變化——在效率表現(xiàn)上,由于針對(duì)常見(jiàn)人工智能軟件框架,如TensorFlow和PyTorch、庫(kù)和工具所做的優(yōu)化,CPU平臺(tái)可以幫助保持較高的性能功耗比和性?xún)r(jià)比。
尤其是擴(kuò)展性上,用戶(hù)在設(shè)計(jì)系統(tǒng)時(shí)可以利用如英特爾以太網(wǎng)700系列,和英特爾傲騰內(nèi)存存儲(chǔ)技術(shù),來(lái)優(yōu)化網(wǎng)絡(luò)和內(nèi)存配置。這樣一來(lái),他們就可以在充分利用現(xiàn)有硬件投資的情況下,輕松擴(kuò)展人工智能訓(xùn)練的工作負(fù)載,獲得更高的吞吐量,甚至處理巨大的數(shù)據(jù)集。
不止于處理器平臺(tái)本身,英特爾目前在面向人工智能優(yōu)化的軟件,以及市場(chǎng)就緒型人工智能解決方案兩個(gè)維度,都建立起了差異化的市場(chǎng)優(yōu)勢(shì)。
例如在軟件方面,英特爾2019年2月進(jìn)行的 OpenVINO/ResNet50 INT8 性能測(cè)試顯示,使用 OpenVINO或TensorFlow和英特爾深度學(xué)習(xí)加速技術(shù)時(shí),人工智能推理性能可提高多達(dá) 3.75 倍。
今天,英特爾已經(jīng)攜手解決方案提供商,構(gòu)建了一系列的精選解決方案。這些方案預(yù)先進(jìn)行了配置,并對(duì)工作負(fù)載進(jìn)行了優(yōu)化。這就包括了如基于人工智能推理的英特爾精選解決方案,以及面向在面向在A(yíng)pache Spark上運(yùn)行的BigDL的英特爾精選解決方案等。
這些變化和方案的出現(xiàn)對(duì)于那些希望能從整體業(yè)務(wù)視角,去觀(guān)察人工智能進(jìn)展的機(jī)構(gòu)或企業(yè)的管理層顯然也很有意義——如果只通過(guò)優(yōu)化,就能在一個(gè)通用平臺(tái)上完成所有人工智能的探索和落地,那么投資的價(jià)值就能夠?qū)崿F(xiàn)最大化。
許多企業(yè)做出了這樣的選擇,GE醫(yī)療就是其中一家。作為GE集團(tuán)旗下的醫(yī)療健康業(yè)務(wù)部門(mén),它構(gòu)建了一個(gè)人工智能醫(yī)學(xué)影像部署架構(gòu)。
通過(guò)采用英特爾至強(qiáng)可擴(kuò)展處理器,和英特爾固態(tài)盤(pán),以及多項(xiàng)英特爾關(guān)鍵技術(shù)——例如英特爾深度學(xué)習(xí)開(kāi)發(fā)工具包,和面向深度神經(jīng)網(wǎng)絡(luò)的英特爾數(shù)學(xué)核心函數(shù)庫(kù)等;GE醫(yī)療收獲了未曾預(yù)料到的成果:
這一解決方案最終比基礎(chǔ)解決方案的推理速度提升了多達(dá)14倍,且超過(guò)了GE原定推理目標(biāo)5.9倍。

發(fā)表評(píng)論
登錄
手機(jī)
驗(yàn)證碼
立即登錄即可訪(fǎng)問(wèn)所有OFweek服務(wù)
還不是會(huì)員?免費(fèi)注冊(cè)
忘記密碼請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
8月5日立即報(bào)名>> 【在線(xiàn)會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
-
8月14日立即報(bào)名>> 【在線(xiàn)研討會(huì)】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
精彩回顧立即查看>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠(chǎng)展
-
精彩回顧立即查看>> OFweek 2025 具身機(jī)器人動(dòng)力電池技術(shù)應(yīng)用大會(huì)
推薦專(zhuān)題
- 1 AI產(chǎn)業(yè)的新高度!英偉達(dá)成為全球首家市值破4萬(wàn)億美元的公司
- 2 傳魏建軍與賈躍亭合作,長(zhǎng)城汽車(chē)出海美國(guó)
- 3 一文讀懂:到底什么是 “具身智能” ?
- 4 黃仁勛:與雷軍長(zhǎng)期合作,共探AI智駕
- 5 具身智能泡沫爭(zhēng)議下,華映資本尋找「穿越周期者」
- 6 中國(guó)平安們欲靠AI守“陣地”
- 7 官宣:智元機(jī)器人借殼上市,A股人形機(jī)器人第一股!
- 8 華為讓渡“三界”銷(xiāo)售主導(dǎo)權(quán),智界高管:終于能全力奔跑了
- 9 借仿生手實(shí)現(xiàn)突圍,國(guó)產(chǎn)靈巧手破局“不可能三角”
- 10 DeepSeek R2加持,中國(guó)AI與芯片產(chǎn)業(yè)迎來(lái)新一輪協(xié)同進(jìn)化