風(fēng)險(xiǎn)分析

金融服務(wù)公司長(zhǎng)期以來(lái)一直使用統(tǒng)計(jì)模型來(lái)評(píng)估風(fēng)險(xiǎn)——貸款中的信用風(fēng)險(xiǎn)、交易中的金融風(fēng)險(xiǎn)、保險(xiǎn)部門(mén)的精算風(fēng)險(xiǎn)以及所有類(lèi)別的欺詐風(fēng)險(xiǎn)。

BITS銀行政策研究所技術(shù)政策部門(mén)的總裁Chris Feeney說(shuō)，“如今不同的是，這些算法的使用更加廣泛，可用數(shù)據(jù)量、數(shù)據(jù)類(lèi)型和數(shù)據(jù)吞吐量正在改變正在解決的各種問(wèn)題，如果可以收集更多有關(guān)交易的信息，可以更好地避免欺詐�！�

Feeney希望人工智能成為金融公司的一個(gè)重要差異化因素。他說(shuō)，“金融公司必須積極參與，但必須選擇自己的用例�！彼�建議企業(yè)尋找機(jī)會(huì)利用人工智能創(chuàng)造競(jìng)爭(zhēng)優(yōu)勢(shì)，同時(shí)也為消費(fèi)者提供明確的價(jià)值。

他說(shuō)，“這可能是貸款業(yè)務(wù)�，F(xiàn)在有很多關(guān)于使用其他數(shù)據(jù)源向新的人群提供貸款產(chǎn)品的活動(dòng)�！�

他說(shuō)，欺詐分析是另一個(gè)重要的用例。他說(shuō)，“我認(rèn)為人工智能將加快發(fā)現(xiàn)欺詐行為的能力，以避免欺詐，更快地發(fā)現(xiàn)異�；顒�(dòng)。”

Raghav Nyapati最近在全球十大銀行實(shí)施人工智能項(xiàng)目，現(xiàn)在正在創(chuàng)建一家金融技術(shù)初創(chuàng)企業(yè)。他說(shuō)，“人們將會(huì)采用成千上萬(wàn)的應(yīng)用程序。人工智能可以幫助過(guò)濾掉可能存在欺詐或高風(fēng)險(xiǎn)的應(yīng)用程序，只有經(jīng)過(guò)篩選的應(yīng)用程序才會(huì)被代理審核�！�

他解釋說(shuō)，“這些決定需要得到人類(lèi)判斷的支持。我們必須提供負(fù)責(zé)任的人工智能。我們需要利益相關(guān)者回答，客戶要回答。如果出現(xiàn)任何問(wèn)題，銀行必須支付巨額罰金�！�

調(diào)研機(jī)構(gòu)Gartner公司最近的一項(xiàng)調(diào)查顯示，46％的金融服務(wù)公司使用人工智能進(jìn)行欺詐檢測(cè)。

Tabb Group金融科技和歐洲研究主管Monica Summerville表示，在證券行業(yè)，很多公司在交易前和交易后風(fēng)險(xiǎn)分析中使用機(jī)器學(xué)習(xí)。

“以傳統(tǒng)方式進(jìn)行風(fēng)險(xiǎn)分析非常耗費(fèi)計(jì)算量，而且很多機(jī)器學(xué)習(xí)技術(shù)雖然近似，但需要足夠好，而且速度也越來(lái)越快。”她說(shuō)。

在Tabb Group公司最近進(jìn)行的一項(xiàng)調(diào)查中，大多數(shù)證券公司計(jì)劃在未來(lái)12個(gè)月擴(kuò)大對(duì)人工智能的支出。她說(shuō)：“人工智能被列為他們業(yè)務(wù)中最具顛覆性的技術(shù)�！�

Gartner公司指出，人工智能還將影響更復(fù)雜的任務(wù)，如財(cái)務(wù)合同審查或交易發(fā)起。該公司預(yù)測(cè)，到2020年，20％的后臺(tái)工作人員將依賴(lài)人工智能開(kāi)展非常規(guī)工作。

合規(guī)性挑戰(zhàn)

監(jiān)管機(jī)構(gòu)已經(jīng)熟悉監(jiān)督金融機(jī)構(gòu)用于評(píng)估信用風(fēng)險(xiǎn)或發(fā)現(xiàn)可疑行為的模型的困難。例如，模型可能非常復(fù)雜，難以分析�；蛘咚鼈兛赡苁莵�(lái)自第三方供應(yīng)商的專(zhuān)有模型。

有很多方法可以解決這些問(wèn)題，例如對(duì)模型進(jìn)行獨(dú)立審查以及使用補(bǔ)償控制。在某些方面，人工智能驅(qū)動(dòng)的系統(tǒng)可以像傳統(tǒng)的統(tǒng)計(jì)模型一樣對(duì)待，但它們也帶來(lái)了額外的擔(dān)憂。

美聯(lián)儲(chǔ)委員會(huì)成員LaelBrainard在去年的一次演講中說(shuō)，“就其本身而言，人工智能可能在不透明性和可解釋性方面帶來(lái)一些挑戰(zhàn)。認(rèn)識(shí)到在使用人工智能工具時(shí)可能存在一些有利的情況，即使它可能是無(wú)法解釋或不透明的，人工智能工具也應(yīng)受到適當(dāng)?shù)目刂啤！?/p>

她說(shuō)，這包括有關(guān)如何構(gòu)建工具，如何在實(shí)踐中使用以及圍繞數(shù)據(jù)質(zhì)量和適用性的控制。

可解釋性（也被稱(chēng)為黑盒問(wèn)題）是人工智能系統(tǒng)的一個(gè)特殊問(wèn)題。使用傳統(tǒng)的統(tǒng)計(jì)模型，數(shù)據(jù)科學(xué)家選擇對(duì)特定決策或預(yù)測(cè)至關(guān)重要的因素，并決定對(duì)這些因素給予多少權(quán)重。然而，人工智能系統(tǒng)可以識(shí)別以前未知和難以理解的模式。這使得銀行很難遵守監(jiān)管機(jī)構(gòu)的規(guī)定，例如《平等信貸機(jī)會(huì)法》和《公平信貸報(bào)告法》，這兩項(xiàng)法律要求銀行解釋他們?cè)谧龀鰶Q策時(shí)使用的因素。

Brainard補(bǔ)充說(shuō)，“幸運(yùn)的是，人工智能本身可能會(huì)在解決方案中發(fā)揮作用。人工智能社區(qū)正在回應(yīng)在開(kāi)發(fā)‘可解釋的’人工智能工具方面取得的重大進(jìn)展，重點(diǎn)是擴(kuò)大消費(fèi)者獲得信貸的機(jī)會(huì)�！�

Tabb公司的Summerville表示，證券業(yè)也在研究這個(gè)問(wèn)題。她指出，“能在人工智能中構(gòu)建一個(gè)無(wú)偏見(jiàn)的模型嗎？需要能夠解釋公司是如何做出決定的。監(jiān)管機(jī)構(gòu)有興趣確定你不會(huì)意外地引入偏見(jiàn)。”

隨著Synchronomy公司開(kāi)始關(guān)注人工智能和機(jī)器學(xué)習(xí)的信用決策，黑盒問(wèn)題也成為該公司面臨的一個(gè)問(wèn)題。

他說(shuō)，“我們希望在模型中建立可解釋性，并指出做出這些決定的原因。這不容易做到。不能出于歧視性的原因做出決定。例如不再說(shuō)‘我不會(huì)為這個(gè)郵政編碼的人提供信用證明’，因?yàn)檫@是違法的�！�

該公司還花費(fèi)大量精力確保用于培訓(xùn)人工智能模型的原始數(shù)據(jù)不會(huì)有偏差。Simpson說(shuō)，這是公司需要這么多數(shù)據(jù)科學(xué)家的原因之一。

該公司采取的減少偏見(jiàn)的一種方法是從一個(gè)多元化的團(tuán)隊(duì)開(kāi)始。

他說(shuō)，“如果沒(méi)有多元化的團(tuán)隊(duì)，很難確定數(shù)據(jù)中的偏見(jiàn)，因?yàn)槠髽I(yè)的團(tuán)隊(duì)可能存在偏見(jiàn)。這對(duì)銀行來(lái)說(shuō)尤為重要，團(tuán)隊(duì)的多樣性是這個(gè)領(lǐng)域的第一個(gè)也是最好的防御策略�！�