人工智能對(duì)我們來(lái)說(shuō)是非常重要的。

《經(jīng)濟(jì)學(xué)人》智庫(kù)亞洲編輯部主任Charles Ross 用與谷歌合作的一個(gè)調(diào)查數(shù)據(jù)告訴我們?nèi)斯ぶ悄軐?duì)于每個(gè)國(guó)家所帶來(lái)的影響，左邊這幅圖，顯示的是如果國(guó)家能夠持續(xù)對(duì)人工智能產(chǎn)業(yè)采取比較積極投資和政策支持，2030年這些國(guó)家的GDP將得到顯著的更進(jìn)一步的提升。而增長(zhǎng)最快的是澳大利亞，可以增加2．71％的GDP，反之則帶來(lái)非常不利的影響。

但隨著AI研究與應(yīng)用不斷取得突破性進(jìn)展，高性能的復(fù)雜算法、模型及系統(tǒng)普遍卻缺乏決策邏輯的透明度和結(jié)果的可解釋性，導(dǎo)致在涉及需要做出關(guān)鍵決策判斷的國(guó)防、金融、醫(yī)療、法律、網(wǎng)安等領(lǐng)域中，或要求決策合規(guī)的應(yīng)用中，AI技術(shù)及系統(tǒng)難以大范圍應(yīng)用。而XAI（eXplainable Artificial Intelligence）技術(shù)就是主要研究如何使得AI系統(tǒng)的行為對(duì)人類(lèi)更透明、更易懂、更可信。

什么是人工智能的可解釋性

主講嘉賓：菲律賓聯(lián)合銀行人工智能和數(shù)據(jù)資深顧問(wèn)  David Hardoon 博士以汽車(chē)的發(fā)展史為例，深入淺出地解釋了人工智能的可解釋性是一個(gè)什么概念。

它就好像在1914年拿到了一輛福特T型車(chē)，很多駕駛員可以解釋他大部份的工作原理，懂得如何自己修理。而現(xiàn)在當(dāng)我們拿到了一輛特斯拉，我們可能不知道它的運(yùn)作原理，只是知道這個(gè)啟動(dòng)按鈕，踩一下這個(gè)油門(mén)，這輛車(chē)就開(kāi)了。與長(zhǎng)期的汽車(chē)演化歷史相比，AI的出現(xiàn)和廣泛的運(yùn)用是如此的突然，而在如此短暫的時(shí)間里，我們作為使用者，無(wú)法完全了解這個(gè)產(chǎn)業(yè)鏈的相關(guān)信息，所以在可解釋性的第一個(gè)層面，就是回答這個(gè)問(wèn)題：誰(shuí)了解這個(gè)技術(shù)以及它的產(chǎn)業(yè)鏈，誰(shuí)為什么環(huán)節(jié)負(fù)責(zé)，如何負(fù)責(zé)。這將是我們建立信任的基礎(chǔ)。

我們有三個(gè)方面的內(nèi)容需要考慮：

01可解釋性的前提——不同的應(yīng)用場(chǎng)景和交流語(yǔ)境

02解釋的對(duì)象是誰(shuí)？他／她需要了解什么？

03政策和規(guī)范對(duì)人工智能的可解釋性有什么標(biāo)準(zhǔn)？

可解釋性，其實(shí)是人性的需求，也是建立互信的需要。理解這個(gè)底層需求，是非常非常重要的。我們不僅僅討論的是可解釋性，我們實(shí)際上是通過(guò)解釋?zhuān)�通過(guò)讓人了解，去建立彼此的互信。