機(jī)器人開(kāi)始“殺人”了。

前不久，亞馬遜公司位于新澤西的運(yùn)營(yíng)中心發(fā)生了這樣一起事故。由于一個(gè)機(jī)器人不小心刺破了防熊噴霧，且噴霧恰好從貨架掉了下來(lái)，導(dǎo)致防熊噴霧中所含的大量濃縮辣椒素釋放出來(lái)，造成了十多名員工呼吸困難，24人住院治療，1人情況十分危急。

盡管最終沒(méi)有人因此而喪失生命，但機(jī)器人的“謀殺”行為還是再次給人類上了嚴(yán)肅的“一課”。

機(jī)器人“殺人”早有前科

其實(shí)機(jī)器人導(dǎo)致人類受傷、乃至死亡的實(shí)例早已數(shù)不勝數(shù)。

早在四十年前的日本廣島，一家工廠的切割機(jī)器人在切鋼板時(shí)，發(fā)生異常，將一名值班工人當(dāng)做鋼板操作，最終導(dǎo)致了工人的死亡；

事故發(fā)生后的第二年，也就是1979年，美國(guó)福特公司在密歇根州的鑄造廠中一名裝配線工人被工業(yè)機(jī)器人手臂擊中身亡。福特被法院裁定賠償該員工家人1000萬(wàn)美元；

到了1982年，日本山梨縣閥門加工廠的工人在調(diào)整停工狀態(tài)的螺紋加工機(jī)器人時(shí)，機(jī)器人突然啟動(dòng)，釀成悲��；

更離奇的是，在1989年，前蘇聯(lián)國(guó)際象棋冠軍古德柯夫和機(jī)器人對(duì)弈時(shí)，古德柯夫連下3局春風(fēng)得意，說(shuō)機(jī)器人的智力是斗不過(guò)人類的。戲劇性的是，機(jī)器人對(duì)手就在這時(shí)突然向金屬棋盤釋放了高強(qiáng)度電流，而古德柯夫的手恰好放在棋盤上。就這樣，知名的國(guó)際象棋大師意外的丟了命。

而發(fā)生在最近也是最著名的事件就是2015年2月英國(guó)首例機(jī)器人心瓣修復(fù)手術(shù)。當(dāng)時(shí)在手術(shù)過(guò)程中達(dá)芬奇機(jī)器人出現(xiàn)了“暴走”情況，不僅把患者的心臟縫錯(cuò)了位置，還戳穿了患者的大動(dòng)脈。由于機(jī)器人主機(jī)運(yùn)行時(shí)聲音很大，主刀醫(yī)生和助理交流只能完全依靠吼，期間，機(jī)械臂還數(shù)次打到了醫(yī)生的手。

雖然，主刀醫(yī)生Nair和助理見(jiàn)狀由機(jī)器人手術(shù)回到了傳統(tǒng)人工手術(shù)，但是正當(dāng)他們要修補(bǔ)機(jī)器人犯下的錯(cuò)誤時(shí)，患者的心臟已經(jīng)非�！八ト酢绷恕Ｒ恢芎�，接受這個(gè)英國(guó)首例機(jī)器人心瓣修復(fù)手術(shù)的患者不幸去世了。

這一事件的爆發(fā)引起了全世界范圍內(nèi)的關(guān)注，也讓原本能夠縫合葡萄皮、突破人手極限、在人手無(wú)法觸及地方可以進(jìn)行操作的達(dá)芬奇機(jī)器人，后續(xù)的推廣應(yīng)用造成了重大影響。英國(guó)最終經(jīng)過(guò)了三年才搞清楚事故的原因。

主刀醫(yī)生Nair承認(rèn)在這一手術(shù)中自己才做醫(yī)用機(jī)器人經(jīng)驗(yàn)不足，心態(tài)過(guò)于著急，在手術(shù)之前根本沒(méi)有完成操作的培訓(xùn)課程。同時(shí)，Nair也承認(rèn)自己沒(méi)有告知患者是英國(guó)首位接受機(jī)器人修復(fù)二尖瓣手術(shù)的患者，手術(shù)存在很高的風(fēng)險(xiǎn)，而采用傳統(tǒng)人工手術(shù)方法存活率會(huì)更高。

雖然由于機(jī)器人所引發(fā)的事故四十年來(lái)不曾斷絕，然而，造成諸多悲劇的最終禍?zhǔn)灼鋵?shí)還是人。

這次亞馬遜機(jī)器人“謀殺”事件也并不例外。

應(yīng)用廣泛但問(wèn)題不小的機(jī)器人

當(dāng)前，機(jī)器人在物流倉(cāng)儲(chǔ)行業(yè)的應(yīng)用已經(jīng)非常廣泛和成熟。如亞馬遜、阿里巴巴、京東、菜鳥(niǎo)網(wǎng)絡(luò)等電商、物流公司都早已通過(guò)大面積使用機(jī)器人實(shí)現(xiàn)了從傳統(tǒng)物流到智慧物流的升級(jí)。機(jī)器人應(yīng)用的環(huán)節(jié)也非常普遍，包括倉(cāng)儲(chǔ)的分揀、打包、傳送、搬運(yùn)等。甚至，就連物流配送最難實(shí)現(xiàn)的自動(dòng)化最后一公里，也有京東、美團(tuán)等試圖通過(guò)無(wú)人車和無(wú)人機(jī)去解決。

與此同時(shí)，倉(cāng)儲(chǔ)物流市場(chǎng)也呈現(xiàn)出井噴式的發(fā)展，有機(jī)構(gòu)預(yù)計(jì)，近年來(lái)國(guó)內(nèi)的智能倉(cāng)儲(chǔ)物流市場(chǎng)規(guī)模將超過(guò)1400億元。

本次發(fā)生事故的亞馬遜倉(cāng)庫(kù)，也早在全球范圍內(nèi)投入使用了超過(guò)10萬(wàn)個(gè)機(jī)器人，機(jī)器人的穩(wěn)定性和安全性應(yīng)該十分可靠，但悲劇還是發(fā)生了。

據(jù)悉，亞馬遜在其配送中心部署的這些機(jī)器人主要用于整理搬運(yùn)物品。目前雖然沒(méi)有引發(fā)這次事故原因詳細(xì)的報(bào)告，但可以預(yù)知的是，引發(fā)事故的原因主要集中于幾個(gè)方面。包括員工上崗之前的培訓(xùn)、機(jī)器人設(shè)備操作是否遵循守則、以及機(jī)器人本身的穩(wěn)定性和智能化是否達(dá)到要求等。

事實(shí)上，人類在使用機(jī)器人的過(guò)程中往往會(huì)存在一些問(wèn)題：

首先，機(jī)器人不夠智能、穩(wěn)定性差。日本、德國(guó)乃至前蘇聯(lián)早年的科技發(fā)展速度較快，因此也較早使用了機(jī)器人這種“黑科技”。但無(wú)奈的是，當(dāng)時(shí)無(wú)論是機(jī)器人的設(shè)計(jì)、穩(wěn)定性都并不成熟和完善，也因此造成了機(jī)器人將工人當(dāng)成鋼板、機(jī)器人意外擊中流水線工人、與國(guó)際象棋冠軍對(duì)弈突然釋放高強(qiáng)度電流等悲劇。

其次，就是人類本身急功近利的心態(tài)、或者操作不當(dāng)?shù)男袨閷?dǎo)致的意外事故。比如，英國(guó)手術(shù)的實(shí)例。以及同樣發(fā)生在2015年7月德國(guó)Baunatal工廠的一場(chǎng)事故。當(dāng)時(shí)一名工人負(fù)責(zé)協(xié)助安裝機(jī)器人身處在安全籠之中，安全籠將工人與操作金屬的機(jī)器人分隔開(kāi)，但意外是另外一名工人也在現(xiàn)場(chǎng)卻未身處安全籠中，所以這名工人被機(jī)器人當(dāng)成了障礙物。由此引發(fā)了悲劇。

此外，還有技術(shù)方面的限制，在無(wú)人駕駛領(lǐng)域也尤其明顯。今年3月，Uber的一輛自動(dòng)駕駛汽車就意外撞死了一名行人。根據(jù)當(dāng)?shù)鼐�察局局長(zhǎng)發(fā)言可知，受害人當(dāng)時(shí)是從陰影中突然出現(xiàn)在馬路上，而任何一種模式下的無(wú)人駕駛都很難避開(kāi)這種碰撞。從技術(shù)角度的解釋就是，無(wú)人駕駛傳感器融合方案的限制，導(dǎo)致在惡劣天氣以及夜晚等情況下視覺(jué)和行人識(shí)別有誤甚至無(wú)法識(shí)別的現(xiàn)狀。

取代人類or解放人類？

在1940年，科幻作家阿西莫夫?yàn)榱朔乐箼C(jī)器人傷害人類提出了“機(jī)器人三原則”：

1．機(jī)器人不能試圖傷害人類，也不能看見(jiàn)人類受傷害袖手旁觀；

2．機(jī)器人應(yīng)該服從人的命令，但不得違反第一原則；

3．機(jī)器人應(yīng)該保護(hù)自己，但不得違反第一、第二原則。

然而，這三個(gè)原則邏輯漏洞明顯，也無(wú)法解決實(shí)際問(wèn)題。隨著機(jī)器人、人工智能的進(jìn)一步應(yīng)用落地，由其引發(fā)的安全問(wèn)題成為了許多人關(guān)注的焦點(diǎn)。甚至，還有一部分業(yè)內(nèi)人士為此感到擔(dān)憂。特斯拉CEO馬斯克就曾經(jīng)在Twitter上表示，“我們要非常小心人工智能，它可能比核武器更危險(xiǎn)” 。史蒂夫·霍金也曾說(shuō)，人工智能可能是一個(gè)“真正的危險(xiǎn)”，機(jī)器人可能會(huì)找到改進(jìn)自己的辦法，而這些改進(jìn)并不總是會(huì)造福人類。”

他認(rèn)為，人工智能的進(jìn)化并不必然是良性的。而一旦機(jī)器人達(dá)到能夠自我進(jìn)化的關(guān)鍵階段，人類就無(wú)法誤測(cè)它們的目標(biāo)是否與人類相同。人工智能可能比人類進(jìn)化速度更快，人類需要確保人工智能的設(shè)計(jì)符合道德倫理規(guī)范，保障措施到位。

因此，在2017年人工智能國(guó)際會(huì)議上，馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克、研發(fā)“阿爾法圍棋”的深度思維公司創(chuàng)始人哈薩比斯等科技界名人兼從業(yè)者簽署了公開(kāi)信，呼吁聯(lián)合國(guó)應(yīng)該像禁止生化武器一樣，禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器和“殺人機(jī)器人”。

而亞馬遜也曾向美國(guó)聯(lián)邦通信委員會(huì)提交過(guò)一份報(bào)告，該報(bào)告表明亞馬遜正在研發(fā)一種保障機(jī)器人安全性的新技術(shù)。該技術(shù)可以通過(guò)定位有效地防止倉(cāng)儲(chǔ)中心的機(jī)器人意外傷人。

其實(shí)，人類對(duì)機(jī)器人的認(rèn)知和期待可謂千人千面。在普通消費(fèi)者眼中，機(jī)器人發(fā)展太慢，不夠“智能”無(wú)法思考；在部分專家眼里機(jī)器人發(fā)展很快，進(jìn)化到最后很可能取代人類。

究竟是取代人類or解放人類？

That is a good question。