AI可解釋性的研究

正如前文所示，該系統(tǒng)通過掃描器網(wǎng)絡(luò)、診斷器網(wǎng)絡(luò)、聚合器網(wǎng)絡(luò)，對AI輔助診斷的可解釋性進行了探索，最終會產(chǎn)生說明文字同ROI同步輸出。

可解釋性圖示

如上圖，a、b顯示的為全片腫瘤檢測結(jié)果，c、d、e則為生成的“特征感知注意圖”，對診斷細節(jié)進行描述。我們可以看到，針對每一張切片，系統(tǒng)在判讀后，除了常規(guī)地將ROI區(qū)域框選出來，還針對不同區(qū)域生成了解釋性文字。

其中，不同特征的文字被使用不同顏色加以區(qū)分，而該描述所對應(yīng)的ROI，都被加以相同顏色的框表示，便于病理醫(yī)生查看時一一對應(yīng)。

該系統(tǒng)描述了觀察到的一定數(shù)量的細胞特征以及特征感知注意圖，注意圖對網(wǎng)絡(luò)觀察到的視覺信息的類型給出了強有力的解釋（圖c－e）。實際上，注意圖包含了框選區(qū)域中每一個像素的權(quán)重，用以確定不同像素對于給定的特征觀察的重要程度，但輸出的內(nèi)容卻并不是令人費解的數(shù)值，而是類似于病理醫(yī)生的判讀依據(jù)。

這樣專業(yè)化的文字表述加強了AI分析病理切片的可信度，當(dāng)人類醫(yī)生與機器診斷結(jié)果不符時，醫(yī)生們也能夠更容易地對比自己與機器的診斷意見到底在何處有所區(qū)別，了解產(chǎn)生區(qū)別的原因，在很大程度上能夠提高診斷準確度。

系統(tǒng)網(wǎng)絡(luò)組件的評估

在算法結(jié)構(gòu)方面，算法的各部分性能在完成后均被予以驗證。

首先，研究人員評估腫瘤和非腫瘤圖像的s－net的腫瘤檢測召回率（非腫瘤圖像表示內(nèi)部沒有突出腫瘤的裁剪的滑動組織區(qū)域）。s－net達到94％的高真陽性（檢測到的腫瘤像素數(shù)／總注釋腫瘤像素）并同時維持95．3％的陰性召回率。

其次，研究人員使用了兩個評估指標驗證了生成的診斷描述的質(zhì)量：雙語評估Understudy（BLEU）和基于共識的圖像描述評估（CIDEr）。而這些驗證結(jié)果顯示，該算法已經(jīng)具備了一定的優(yōu)越性。

此項實驗突破了AI病理三類證審批的關(guān)鍵難點

囿于其決策流程的不可解釋性，“深度學(xué)習(xí)”一直被遵循循證醫(yī)學(xué)指南的臨床醫(yī)生拒之門外，成為了制約醫(yī)學(xué)影像人工智能發(fā)展，特別是獲得三類證審批的關(guān)鍵。

而本次實驗則為人工智能的審批提供新的思路：雖然現(xiàn)階段的人工智能仍不具備推理能力，但我們能將醫(yī)生的推理步驟模塊化，從而模擬推理的過程。此外，本次實驗中的文字匹配過程是按照WHO標準并具有嚴格依據(jù)的，這與許多基于多樣本深度學(xué)習(xí)生成的勾畫不同，實驗的每一個步驟都可由AI提供決策依據(jù)，并非單純概率云下的黑箱運算。

楊林教授現(xiàn)任職于迪英加CEO，這是迪英加科技在三類證申報過程中的一步堅實工作，用于解決CFDA三類證申報中廣泛要求的可解釋行提供了關(guān)鍵的核心技術(shù)解決方案。

在采訪過程之中，楊林教授也對本次實驗的不足之處進行了總結(jié)。首先，由于時間的原因，樣本的選擇檢測本身具有一定的封閉性，隨著持續(xù)數(shù)據(jù)收集的廣度和深度的提升，論文中的工作也一定會有改進之處。

其次，推理流程的劃分是否足夠細致，以及推理過程是否存在偶然性可以進一步論證。

最后，這項研究沒有控制參與病理醫(yī)師的疲勞程度，這可能是影響AUC的獨立因素，需要進一步研究這一系統(tǒng)對不同疲勞水平醫(yī)生的有效性。

總的來說，無論是人工智能技術(shù)，還是本次實驗的病理本身，我們都能看到很多突破的可能。目前的人工智能影像產(chǎn)品仍聚集于放射科，當(dāng)他們嘗試進一步進入臨床相關(guān)科室時，這項技術(shù)同樣需要新的標準對其進行驗證。

此外，AI于病理的運用也遠不局限于切片識別，機體組織樣本中內(nèi)部特征的量化分析與臨床評價；細胞和動物組織樣本的量化分析與藥效關(guān)系；細胞識別與分選；特殊染色結(jié)果的量化分析和臨床治療與預(yù)后也均有AI介入研究。病理于AI是一片看不見的深海。

文 ｜ 趙泓維

網(wǎng)站、公眾號等轉(zhuǎn)載請聯(lián)系授權(quán)