CVPR 2020: SGAS,一種基于貪心思想的CNN/GCN網(wǎng)絡(luò)結(jié)構(gòu)搜索算法
根據(jù)這三個(gè)影響邊選擇的三個(gè)因素,我們提出了兩個(gè)選擇指標(biāo):
指標(biāo)1 :具有高的邊重要性和高的邊確定性的邊將被選擇,公式為:
指標(biāo)2:在指標(biāo)1的基礎(chǔ)上,被選擇的邊也應(yīng)該具有較高的穩(wěn)定性:
這里,normalize(·)指 Min-Max標(biāo)準(zhǔn)化。
實(shí)驗(yàn)結(jié)果
我們搜索了CNN和GCN網(wǎng)絡(luò)結(jié)構(gòu),并在CIFAR,ImageNet圖像分類,ModelNet點(diǎn)云分類,PPI生物圖數(shù)據(jù)節(jié)點(diǎn)分類上達(dá)到了SOTA效果。
CNN
我們將SGAS用到CNN的網(wǎng)絡(luò)結(jié)構(gòu)搜索中, CNN網(wǎng)絡(luò)結(jié)構(gòu)由普通單元(normalcell) 和 歸約單元(reduction cell)組成。普通單元保持特征圖大小不變,歸約單元縮小特征圖至. CNN任務(wù)中,搜索空間由8個(gè)運(yùn)算組成:skip-connect,max-pool-3×3, avg-pool-3×3, sep-conv-3×3, sep-conv5×5, dil-conv-3×3,dil-conv-5×5, zero。
SGAS在CIFAR-10的訓(xùn)練集與驗(yàn)證集搜索結(jié)構(gòu),并在測(cè)試集上進(jìn)行測(cè)試,結(jié)果如表1所示:
SGAS在CIFAR-10的訓(xùn)練集與驗(yàn)證集搜索結(jié)構(gòu),并在ImageNet測(cè)試集上進(jìn)行測(cè)試,結(jié)果如表2所示:
我們的SGAS在性能超越了手工設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)以及其他NAS算法。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
-
8月14日立即報(bào)名>> 【在線研討會(huì)】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
精彩回顧立即查看>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
精彩回顧立即查看>> OFweek 2025 具身機(jī)器人動(dòng)力電池技術(shù)應(yīng)用大會(huì)
推薦專題
- 1 AI產(chǎn)業(yè)的新高度!英偉達(dá)成為全球首家市值破4萬(wàn)億美元的公司
- 2 傳魏建軍與賈躍亭合作,長(zhǎng)城汽車(chē)出海美國(guó)
- 3 一文讀懂:到底什么是 “具身智能” ?
- 4 黃仁勛:與雷軍長(zhǎng)期合作,共探AI智駕
- 5 具身智能泡沫爭(zhēng)議下,華映資本尋找「穿越周期者」
- 6 中國(guó)平安們欲靠AI守“陣地”
- 7 官宣:智元機(jī)器人借殼上市,A股人形機(jī)器人第一股!
- 8 華為讓渡“三界”銷售主導(dǎo)權(quán),智界高管:終于能全力奔跑了
- 9 借仿生手實(shí)現(xiàn)突圍,國(guó)產(chǎn)靈巧手破局“不可能三角”
- 10 DeepSeek R2加持,中國(guó)AI與芯片產(chǎn)業(yè)迎來(lái)新一輪協(xié)同進(jìn)化