構(gòu)建合乎道德的人工智能是一項(xiàng)極其復(fù)雜的任務(wù)。而當(dāng)利益相關(guān)者意識(shí)到人工智能要與道德規(guī)范相符是局外人的觀點(diǎn)時(shí)，事情就變得更加困難了。

加利福尼亞州月半彎——當(dāng)?shù)匾黄�新聞�?bào)道稱，Clarifa正與美國國防部合作，但有一些員工質(zhì)疑其開發(fā)分析無人機(jī)拍攝視頻的人工智能系統(tǒng)的道德性，對(duì)此，該公司表示，該項(xiàng)目將能挽救平民和士兵的生命。

“Clarifai的使命是通過不斷改進(jìn)人工智能技術(shù)來加速人類的進(jìn)步，”該公司創(chuàng)始人兼首席執(zhí)行官、著名人工智能研究員Matt Zeiler在博客中寫道。后來，在一次新聞媒體采訪中，Zeiler宣布增加了一個(gè)新的管理崗位，這將確保公司的所有項(xiàng)目都符合道德規(guī)范。

隨著活動(dòng)人士、研究人員和記者對(duì)人工智能的崛起表示擔(dān)憂，并對(duì)帶有偏見、欺騙性和惡意的應(yīng)用發(fā)出警告，開發(fā)此類人工智能技術(shù)的公司正在做出回應(yīng)。從像谷歌和微軟這樣的科技巨頭，到斗志昂揚(yáng)的人工智能初創(chuàng)企業(yè)，都在制定企業(yè)原則，旨在確保他們的系統(tǒng)以一種合乎道德的方式設(shè)計(jì)和部署。還有一些公司設(shè)立了道德官員或?qū)彶槲瘑T會(huì)來監(jiān)督這些原則的實(shí)施。

但隨著一些人在質(zhì)疑這些承諾最終能否兌現(xiàn)，緊張的局勢變得愈加嚴(yán)峻。企業(yè)可以改變方式。而理想主義也可能屈服于財(cái)政壓力。一些活動(dòng)人士——甚至是一些企業(yè)——開始辯稱，確保道德規(guī)范實(shí)踐的唯一途徑是通過政府監(jiān)管。

但許多政策專家表示，他們認(rèn)為政府制定的原則不太可能比大公司制定的更具影響力，特別是因?yàn)槊绹鴩�防部在開發(fā)類似技術(shù)時(shí)，有足夠動(dòng)力與中國、俄羅斯和其他國際競爭對(duì)手保持同步。因此，一些人呼吁簽訂禁止使用自主武器的國際條約。

監(jiān)管是否是最好的方法？

Clarifai的員工在他們的公開信中表示，他們不確定監(jiān)管是否是解決人工智能技術(shù)道德問題的最好方法，并且，他們認(rèn)為，直接責(zé)任在于公司本身。

“監(jiān)管會(huì)減慢研究的步伐，而我們這個(gè)物種需要不斷進(jìn)步，才能在今天面臨的許多威脅中生存下來，”他們在寫給Zeiler和公司其他成員的信中寫道，“我們需要有足夠的道德感，讓人們信任我們，才能靠我們自己來實(shí)現(xiàn)這項(xiàng)技術(shù)，因此我們有責(zé)任讓公眾清楚地了解我們的道德規(guī)范原則�！�

但他們的信并沒有達(dá)到預(yù)期的效果。Zeiler解釋說，因?yàn)镃larifai很可能會(huì)致力于自主武器的開發(fā)。幾天后，這封信的作者，也就是之前被任命為道德顧問的Liz O＇Sullivan，離開了公司。

像Whittaker這樣的研究人員和活動(dòng)人士認(rèn)為，這是一個(gè)科技公司的員工可以利用其自身的力量推動(dòng)變革的時(shí)刻。但他們也表示，這必須發(fā)生在公司內(nèi)外都能意識(shí)到道德規(guī)范重要性的情況下。

Whittaker 表示，“我們確實(shí)需要監(jiān)管�！本瓦B微軟的首席法律官Brad Smith也持有相同觀點(diǎn)。