又或者是這樣：

而這一切，基于研究者們訓(xùn)練了的圖推理模型（Graph Reasoning Model，GRM），由該模型結(jié)合門(mén)控圖神經(jīng)網(wǎng)絡(luò)（Gated Graph Neural Network，GGNN）對(duì)社會(huì)關(guān)系進(jìn)行處理。

基于此，AI能夠識(shí)別圖片中三者之間的關(guān)系，根據(jù)圖上人物區(qū)域的特征來(lái)初始化關(guān)系節(jié)點(diǎn)，然后用預(yù)先訓(xùn)練的Faster－RCNN探測(cè)器搜索圖像中的語(yǔ)義對(duì)象，并提取其特征，初始化相應(yīng)的對(duì)象節(jié)點(diǎn)；通過(guò)圖傳播節(jié)點(diǎn)消息以充分探索人與上下文對(duì)象的交互，并采用圖注意機(jī)制自適應(yīng)地選擇信息量最大的節(jié)點(diǎn)，以通過(guò)測(cè)量每個(gè)對(duì)象節(jié)點(diǎn)的重要性來(lái)促進(jìn)識(shí)別。

但是，在實(shí)際表現(xiàn)中，AI識(shí)別并未盡如人意。如警方在歐冠決賽采用AI面部識(shí)別匹配潛在犯罪圖像，其錯(cuò)誤率高達(dá)92％，而在人物關(guān)系和性取向識(shí)別領(lǐng)域，其應(yīng)用表現(xiàn)也并不優(yōu)秀。

性取向被識(shí)別后，AI倫理的邊界又在哪里？

《紐約客》曾有這樣一期封面：機(jī)器人已經(jīng)成為了地球的主角，人類(lèi)只能蹲在地上接受機(jī)器人的施舍。每一個(gè)新技術(shù)都會(huì)引發(fā)大家的擔(dān)心，但以往更多是人的體力的延伸，而如若是腦力的延伸、人類(lèi)隱私的延伸，這種擔(dān)憂將會(huì)更加嚴(yán)重。智能相對(duì)論分析師柯鳴認(rèn)為，性取向識(shí)別前，AI還需要解決倫理上的幾大問(wèn)題。

1．僅靠面部識(shí)別太草率

《人格與社會(huì)心理學(xué)》雜志曾對(duì)斯坦福的這個(gè)研究，指出深層神經(jīng)網(wǎng)絡(luò)比人類(lèi)在通過(guò)圖像檢測(cè)性取向判斷中更準(zhǔn)確，研究涉及建立一種計(jì)算機(jī)模型，以識(shí)別研究人員將其稱作為同性戀者的“非典型”特征。

在摘要中，研究人員寫(xiě)道，“我們認(rèn)為人們的臉部特征包涵了更多人腦所無(wú)法判斷的性取向特征。根據(jù)一張圖片，系統(tǒng)（classifier）可以以81％的準(zhǔn)確率區(qū)分男性同性戀者，74％的準(zhǔn)確率區(qū)分女性同性戀者，這比人腦可以完成的判斷準(zhǔn)確率都要高�！�

但是，在距離應(yīng)用過(guò)程中，僅以面部構(gòu)造識(shí)別似乎并沒(méi)有那么“靠譜”。技術(shù)無(wú)法識(shí)別人們的性取向，所謂的技術(shù)未來(lái)只是識(shí)別出網(wǎng)絡(luò)中同性戀者頭像存在相似的某種模式。

而且，此研究存在的一個(gè)問(wèn)題在于，研究的機(jī)制是通過(guò)兩張圖片二選一其中最讓機(jī)器覺(jué)得“更可能是同性戀”的照片，這種對(duì)比判斷其實(shí)是從 50％ 的隨機(jī)幾率開(kāi)始計(jì)算的，因此與單純對(duì)一張圖的分析有著很大的區(qū)別。

這其實(shí)就造成了一個(gè)問(wèn)題，在真正人類(lèi)識(shí)別的時(shí)候，其準(zhǔn)確率有多少，而這種非此即彼的識(shí)別方式，其評(píng)判標(biāo)準(zhǔn)仍有許多地方需要商榷。

2．算法歧視依然是個(gè)“大問(wèn)題”

算法歧視，一直是人工智能應(yīng)用過(guò)程中的一大問(wèn)題，以搜索為例，在谷歌上搜索“CEO”，搜索結(jié)果中沒(méi)有一個(gè)是女性，也沒(méi)有一個(gè)是亞洲人，這是一種潛在的偏見(jiàn)。

顯然，人工智能也并不是真的純“人工”。 機(jī)器學(xué)習(xí)的方式和人類(lèi)學(xué)習(xí)一樣，從文化中提取并吸收社會(huì)結(jié)構(gòu)的常態(tài)，因此其也會(huì)再建、擴(kuò)大并且延續(xù)我們?nèi)祟?lèi)為它們?cè)O(shè)下的道路，而這些道路，一直都將反映現(xiàn)存的社會(huì)常態(tài)。

而無(wú)論是根據(jù)面容來(lái)判斷一個(gè)人是否誠(chéng)實(shí)，或是判斷他的性取向，這些算法都是基于社會(huì)原有生物本質(zhì)主義（biological essentialism），這是一種深信人的性取向等本質(zhì)是根植于人身體的理論。畢竟，一個(gè)AI工具通過(guò)數(shù)據(jù)積累和算法模型可以通過(guò)照片判斷一個(gè)人的性取向，系統(tǒng)準(zhǔn)確率高達(dá)91％，這其中所帶來(lái)的性取向偏見(jiàn)是不能低估的。

今年年初，來(lái)自巴斯大學(xué)和普林斯頓大學(xué)的計(jì)算機(jī)科學(xué)家就曾用類(lèi)似IAT（內(nèi)隱聯(lián)想測(cè)驗(yàn)）的聯(lián)想類(lèi)測(cè)試來(lái)檢測(cè)算法的潛在傾向性，并發(fā)現(xiàn)即使算法也會(huì)對(duì)種族和性別帶有偏見(jiàn)。甚至，連Google 翻譯也難逃偏見(jiàn)，算法“發(fā)現(xiàn)”并“學(xué)習(xí)”了社會(huì)約定俗成的偏見(jiàn)。當(dāng)在特定語(yǔ)言環(huán)境中，一些原本是中性的名詞，如果上下文具有特定形容詞（中性），它會(huì)將中性詞轉(zhuǎn)而翻譯為“他”或“她”。

如今的人工智能還基本局限于完成指定任務(wù)，而有時(shí)候許多實(shí)際應(yīng)用內(nèi)容不是非此即彼的，在許多抉擇中，人類(lèi)選擇依然存在道德困境，如若將決定權(quán)交與算法，其存在的詬病之處更是不言而喻。

3．數(shù)據(jù)使用，掌握“火候”是關(guān)鍵

如果說(shuō)讓AI野蠻生長(zhǎng)是為了解決人們工作效率的問(wèn)題，那么當(dāng)人工智能逐漸落地于各行業(yè)后，“體面”已經(jīng)逐漸取代效率，成為AI應(yīng)用的關(guān)鍵詞。

當(dāng)然，如果企業(yè)能夠全方位的保護(hù)用戶隱私，這既有著技術(shù)上難度，也缺乏一定商業(yè)驅(qū)動(dòng)力，因此，目前來(lái)看，如果平衡兩者之間的關(guān)系才是關(guān)鍵。

實(shí)際上，在牽制巨頭破壞用戶隱私方面，歐洲國(guó)家已經(jīng)走得很遠(yuǎn)，這體現(xiàn)在這些年他們與Facebook、Google等巨頭對(duì)抗的一個(gè)個(gè)集體訴訟案例中：

2014年8月，F(xiàn)acebook在歐洲遭6萬(wàn)人起訴，一位奧地利隱私保護(hù)人士發(fā)起了一項(xiàng)針對(duì)Facebook歐洲子公司的大范圍集體訴訟，指控Facebook違背了歐洲數(shù)據(jù)保護(hù)法律，F(xiàn)B被質(zhì)疑參與了美國(guó)國(guó)家安全局的“棱鏡”項(xiàng)目，收集公共互聯(lián)網(wǎng)使用的個(gè)人數(shù)據(jù)。

今年1月初，德國(guó)政府一家數(shù)據(jù)保護(hù)機(jī)構(gòu)周三表示，該機(jī)構(gòu)已針對(duì)Facebook采取法律行動(dòng)，指控Facebook非法讀取并保存不使用該社交網(wǎng)站的用戶的個(gè)人信息。德國(guó)漢堡數(shù)據(jù)保護(hù)辦公室專(zhuān)員表示，由于Facebook在未經(jīng)許可的情況下收集并保存不使用該社交網(wǎng)站的用戶個(gè)人信息，這有可能導(dǎo)致Facebook被罰款數(shù)萬(wàn)歐元。

顯然，目前用戶對(duì)于自身數(shù)據(jù)的保護(hù)意識(shí)正在不斷加強(qiáng)，其在不斷保護(hù)自身數(shù)據(jù)的同時(shí)也加強(qiáng)隱私防范。畢竟，AI識(shí)別性取向目前只是研究而沒(méi)有落地產(chǎn)品。

而且，從網(wǎng)站上扒圖并不是什么技術(shù)活，讓機(jī)器做選擇題的概念，也像極了十多年前哈佛某個(gè)宅男做的校園選美網(wǎng)站。其中滋味，冷暖自知吧。

智能相對(duì)論：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出深淺。重點(diǎn)關(guān)注領(lǐng)域：AI＋醫(yī)療、機(jī)器人、智能駕駛、AI＋硬件、物聯(lián)網(wǎng)、AI＋金融、AI＋安全、AR／VR、開(kāi)發(fā)者以及背后的芯片、算法、人機(jī)交互等。（智能相對(duì)論 ／ 柯鳴）