人工智能倫理與安全研究中心成立
為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患,近日,北京智源人工智能研究院在北京專門成立人工智能倫理與安全研究中心,著力加強(qiáng)人工智能倫理與安全研究,引導(dǎo)行業(yè)健康發(fā)展,中國科學(xué)院自動化研究所曾毅研究員任研究中心主任。
曾毅介紹,研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺、行業(yè)應(yīng)用等開展一系列研究,目前主要包括四大方面:一是低風(fēng)險機(jī)器學(xué)習(xí)模型與平臺的構(gòu)建,建立機(jī)器學(xué)習(xí)模型安全性的評估體系;二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究,實(shí)現(xiàn)人工智能行為與人類價值觀的校準(zhǔn),并在模擬環(huán)境與真實(shí)場景中進(jìn)行驗(yàn)證;三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng),建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級、權(quán)限控制、數(shù)據(jù)審計(jì),最大限度防止數(shù)據(jù)泄密,降低風(fēng)險;四是構(gòu)建人工智能風(fēng)險與安全綜合沙盒平臺,建設(shè)自動檢測平臺,針對數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險類型、影響程度與影響范圍等方面,對人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險與安全綜合檢測與評估,引導(dǎo)行業(yè)健康發(fā)展。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
-
8月14日立即報名>> 【在線研討會】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
精彩回顧立即查看>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
精彩回顧立即查看>> OFweek 2025 具身機(jī)器人動力電池技術(shù)應(yīng)用大會
推薦專題
- 1 AI產(chǎn)業(yè)的新高度!英偉達(dá)成為全球首家市值破4萬億美元的公司
- 2 傳魏建軍與賈躍亭合作,長城汽車出海美國
- 3 一文讀懂:到底什么是 “具身智能” ?
- 4 黃仁勛:與雷軍長期合作,共探AI智駕
- 5 具身智能泡沫爭議下,華映資本尋找「穿越周期者」
- 6 中國平安們欲靠AI守“陣地”
- 7 官宣:智元機(jī)器人借殼上市,A股人形機(jī)器人第一股!
- 8 華為讓渡“三界”銷售主導(dǎo)權(quán),智界高管:終于能全力奔跑了
- 9 借仿生手實(shí)現(xiàn)突圍,國產(chǎn)靈巧手破局“不可能三角”
- 10 DeepSeek R2加持,中國AI與芯片產(chǎn)業(yè)迎來新一輪協(xié)同進(jìn)化