也許彼時(shí)，我們就是另一個(gè)“自然”

會(huì)議中，馬斯克顯然并不試圖讓這番“人工智能威脅論”顯得太過激進(jìn)，也并沒有像普通大眾那樣，抱怨AI監(jiān)管“令人厭煩”，而是嚴(yán)肅地指出“讓AI無拘無束發(fā)展的風(fēng)險(xiǎn)太高”。

與馬克·扎克伯格所持的人工智能“和諧論”不同，多年以來，馬斯克始終在持續(xù)拉響AI警鐘。2014年，他將人工智能開發(fā)人員比作“自認(rèn)為能控制所召喚惡魔”的人類。2015年，他簽署了一份關(guān)于AI軍備競(jìng)賽的預(yù)警信。為了防止AI被一家公司控制，他甚至投資了一個(gè)旨在促進(jìn)AI開源的項(xiàng)目。

然而，硅谷的一些領(lǐng)袖并不贊成他的想法，包括谷歌聯(lián)合創(chuàng)始人拉里·佩奇在內(nèi)，都將AI描述為一種人類可借力的好工具。外媒評(píng)論指出，馬斯克的言論頂多是一種營銷戰(zhàn)略，“他對(duì)品牌宣傳的興趣比拯救世界大得多”。部分參會(huì)政客仍在懷疑發(fā)展中的AI是否具備管理能力，但馬斯克建議，美國政府第一步應(yīng)“洞察”當(dāng)前研究的實(shí)際情況，“一旦意識(shí)到了現(xiàn)狀，人們就會(huì)明白恐懼的含義”。

拋開態(tài)度不一的言論，縱觀現(xiàn)實(shí)，大自然耗費(fèi)百億年孕育出智慧生命，在輝煌顯世了數(shù)千年后，模仿自然的手筆，人類只需短短數(shù)十年便能造出與自身不相上下的人工智能AI，堪稱奇跡。也許，自誕生之日起，人類存在于世間的唯一籌碼便是智慧。唯有用全部的智慧與機(jī)械交換，科學(xué)家理想中的AI才會(huì)成為現(xiàn)實(shí)。

倘若我們依然對(duì)控制權(quán)存有疑惑，想要獲得文明的安全感，那不妨捫心自問：自然成功“控制”了人類嗎？當(dāng)然沒有！因?yàn)樵谌祟愇拿髦�，自然是背景、是環(huán)境、是賴以生存的物質(zhì)資料的來源，是本質(zhì)不同的存在。那么，在人工智能的問題上是否同理，人類對(duì)未來可能產(chǎn)生的“覺醒AI”能夠“完全控制”嗎？

也許彼時(shí)，AI眼中，我們就是另一個(gè)“自然”！

3．怕或不怕 人工智能就在那里

自阿爾法狗橫掃棋壇后，關(guān)于人工智能是福是禍的“口水戰(zhàn)”就沒停過。隨著人工智能技術(shù)的日新月異，相關(guān)爭(zhēng)議不但沒有平息，反而日漸升級(jí)。這不，連臉書網(wǎng)創(chuàng)始人扎克伯格與特斯拉掌門人馬斯克，都因?yàn)樗�互懟起來了�?/p>

日前，先是馬斯克再次提出人工智能對(duì)人類文明是一個(gè)“可怕的問題和威脅”。而后，這一觀點(diǎn)遭到扎克伯格反駁，后者明確表示對(duì)人工智能持樂觀態(tài)度。然后，兩天后馬斯克又懟回去了，說扎克伯格對(duì)人工智能理解“有限”。

扎克伯格和馬斯克都是當(dāng)今科技界引領(lǐng)潮流的人物。他們執(zhí)掌的公司都涉及人工智能業(yè)務(wù)，二人卻對(duì)它持截然相反的態(tài)度，而且因此公開吵起來。只能說明，這確實(shí)是人工智能發(fā)展繞不過去的問題。

到底該對(duì)人工智能持樂觀態(tài)度，還是悲觀態(tài)度？梳理兩種觀點(diǎn)，會(huì)發(fā)現(xiàn)如下規(guī)律�！皹酚^派”更多關(guān)注當(dāng)下，他們認(rèn)為人工智能為社會(huì)帶來眾多好處，沒必要對(duì)它過于恐慌。讓“悲觀派”感到焦慮的是未來。他們擔(dān)心未來人工智能會(huì)帶來失業(yè)，引發(fā)戰(zhàn)爭(zhēng)，甚至導(dǎo)致人類終結(jié)。

平心而論，兩種說法都有道理。一方面，誰也無法否認(rèn)，現(xiàn)階段人工智能為人類帶來的實(shí)惠；另一方面，誰也無法斷定，數(shù)百年后人工智能會(huì)發(fā)展成什么樣。但毋庸置疑的是，無論你樂觀還是悲觀，人工智能時(shí)代已經(jīng)到來，這一趨勢(shì)無法改變。

作為一門技術(shù)，人工智能本身是中性的。它既可以用來為人類造福，也可能給人類帶來困擾。正如互聯(lián)網(wǎng)既可以用來社交、購物，也可以用來散播勒索病毒。所以，與其盲目樂觀，或盲目悲觀，倒不如理性對(duì)待人工智能。

既然它具有革新性，那就充分挖掘其潛能，讓社會(huì)生活更加便捷。要想避免它誤入歧途，那就及時(shí)制定法律法規(guī)和行業(yè)標(biāo)準(zhǔn)，為它營造更好的發(fā)展環(huán)境。如果擔(dān)心它搶飯碗，那就提供更好的社會(huì)保障，讓失業(yè)的人重歸工作。至于千百年以后的事，既然無法預(yù)測(cè)，而未來又始于現(xiàn)在，只能先把當(dāng)下做好。

兩位在科技界舉足輕重的巨擘，為人工智能是否會(huì)帶來災(zāi)難而大打嘴仗之后，不妨想想做點(diǎn)什么，才能保證人工智能的光明未來。

作為一名人工智能研究員，我常常會(huì)想到人類對(duì)人工智能的恐懼。

然而，目前我也很難想象我開發(fā)出來的計(jì)算機(jī)怎么樣才能成為未來世界的怪物。有時(shí)就會(huì)像奧本海默在帶頭建造世界上第一顆核彈之后哀嘆的那樣，我會(huì)想我是否也會(huì)成為“世界的毀滅者”？

我想，我會(huì)在歷史上留名，但確是臭名昭著。那作為一名人工智能科學(xué)家，我在擔(dān)心什么呢？

對(duì)未知的恐懼

由科幻小說作家Arthur Clarke設(shè)想并最后由電影導(dǎo)演Stanley Kubrick制成的計(jì)算機(jī)HAL 9000就是一個(gè)很好的例子。在很多復(fù)雜的系統(tǒng)里，例如泰坦尼克號(hào)、美國航空航天局的航天飛機(jī)、切爾諾貝利核電站，工程師們把許多不同的組件放在一起。設(shè)計(jì)師們可能非常清楚每個(gè)單獨(dú)的元素是如何工作的，但是當(dāng)這些元素連接在一起時(shí)，他們就無法知之甚透，就會(huì)產(chǎn)生意外的后果。

所以不能完全了解的系統(tǒng)，往往會(huì)不受控制并出現(xiàn)意外的后果。一艘輪船的沉沒，兩架航天飛機(jī)的爆炸，遍布?xì)W亞大陸的放射性污染，在每一場(chǎng)災(zāi)難都是一系列小差錯(cuò)導(dǎo)致的大災(zāi)難。

而在我看來，目前人工智能也落入了同樣的境地之中。我們從認(rèn)知科學(xué)中學(xué)習(xí)最新的研究結(jié)果，然后將其轉(zhuǎn)化為一種程序算法并添加到現(xiàn)有的系統(tǒng)中。我們?cè)谶�不了解智能認(rèn)知的情況下，便開始對(duì)人工智能進(jìn)行改造。

例如IBM的沃森和谷歌的Alpha系統(tǒng)，我們將強(qiáng)大的計(jì)算機(jī)能力和人造神經(jīng)系統(tǒng)結(jié)合在一起，幫助他們?nèi)〉昧艘幌盗辛钊梭@嘆的成就。如果這些機(jī)器出了差錯(cuò)，可能出現(xiàn)的結(jié)果是沃森不會(huì)喊“危險(xiǎn)”了或者Alpha不能打敗圍棋大師了，但是這些錯(cuò)誤都不是致命的。

然而，隨著人工智能的設(shè)計(jì)變得更加復(fù)雜，電腦處理器變得更快，它們的技能也會(huì)得到提升。出現(xiàn)意外的風(fēng)險(xiǎn)也在增加，我們的責(zé)任也更重。我們經(jīng)常說“人無完人”，那么我們創(chuàng)造的系統(tǒng)也肯定存在缺陷。

對(duì)濫用的恐懼

目前我正在應(yīng)用“神經(jīng)進(jìn)化法”來開發(fā)人工智能，在可能引發(fā)的意外后果這一方面，我并不十分擔(dān)心。我創(chuàng)造虛擬環(huán)境，開發(fā)數(shù)字生物從而使他們的大腦可以解決日益復(fù)雜的任務(wù)。我們會(huì)評(píng)估這些智能生物的表現(xiàn)，表現(xiàn)最好的會(huì)被挑選出來再次生產(chǎn)并研發(fā)下一代。這樣，經(jīng)過幾代的進(jìn)化，這些機(jī)器生物已經(jīng)逐漸演變出了認(rèn)知能力。

現(xiàn)在，我們正在給這些機(jī)器生物設(shè)定一些非常簡(jiǎn)但的任務(wù)，比如他們可以做簡(jiǎn)單的導(dǎo)航任務(wù)，做一些簡(jiǎn)單的決定等，但很快我們就會(huì)設(shè)計(jì)出能夠執(zhí)行更復(fù)雜任務(wù)更智能的機(jī)器，最終，我們希望可以達(dá)到人類的智力水平。

在這個(gè)過程中，我們會(huì)發(fā)現(xiàn)問題并解決問題。每一代機(jī)器都能更好地處理前幾代機(jī)器曾經(jīng)出現(xiàn)的問題。這幫助我們可以減少在未來他們真正進(jìn)入世界時(shí)出現(xiàn)意外結(jié)果的概率。

此外，這種＂代代相傳“的改良方法還可以幫助我們發(fā)展人工智能的倫理道德。最終我們想要演變出是有可信賴性及利他主義這樣人類道德的人工智能。我們可以設(shè)置一個(gè)虛擬環(huán)境，給那些表現(xiàn)出友善、誠實(shí)和同理心的機(jī)器獎(jiǎng)勵(lì)�？赡苓@也是一種確保我們研發(fā)的是更聽話的仆人或值得信賴的伙伴的方法。同時(shí)也可以減少出現(xiàn)冷酷殺手機(jī)器人的幾率。

雖然這種“神經(jīng)進(jìn)化法”可能降低出現(xiàn)不可控結(jié)果的可能性，但它并不能防止濫用。但這是一個(gè)道德問題，而不是科學(xué)問題。作為一名科學(xué)家，我有說出真相的義務(wù)，我需要報(bào)告我在實(shí)驗(yàn)中發(fā)現(xiàn)的東西，不管這種結(jié)果我想不想說。我的重點(diǎn)不是決定我想要什么，而是將結(jié)果展示出來。