From： Scientific American； 作者：Iris

許多人希望借助深度學(xué)習(xí)來滿足對高質(zhì)量、定制化教育的需求。慕課的出現(xiàn)、數(shù)字設(shè)備的普及，似乎為實現(xiàn)這一愿景奠定了基礎(chǔ)。然而，我們必須要考慮到，AI工具進(jìn)軍教育領(lǐng)域所可能造成的負(fù)面影響，以及應(yīng)如何改進(jìn)研究內(nèi)容，以防止一些意料之外的后果發(fā)生。

算法是AI教學(xué)的核心，它可以持續(xù)跟進(jìn)學(xué)生的學(xué)習(xí)進(jìn)度，并根據(jù)各個學(xué)生的學(xué)習(xí)習(xí)慣調(diào)整教學(xué)計劃，從而給予他們最佳的學(xué)習(xí)體驗。有了AI導(dǎo)師的幫助，學(xué)生們可以在家中學(xué)習(xí)。如今受疫情影響，學(xué)生們必須在家上課，網(wǎng)課得到了空前普及。不過，遠(yuǎn)程教學(xué)的體驗并不太如意。雖然簡單的網(wǎng)絡(luò)授課與AI教學(xué)有所出入，但可以看出，它或許會與我們理想中的概念有很大不同。換言之，AI導(dǎo)師能夠提高教學(xué)的效率，但并不一定能為學(xué)習(xí)者帶來樂趣。

插播

3月5日（周四）晚8點，網(wǎng)易有道技術(shù)總監(jiān)林會杰

來跟你聊聊「人工智能在教育軟硬件工具中的應(yīng)用」

大部分研究人員依然認(rèn)為，只需要克服技術(shù)缺陷，深度學(xué)習(xí)就能為教育界造福。這未免過于武斷了些。事實上，研究的重心更應(yīng)該放在如何降低AI工具可能會產(chǎn)生的風(fēng)險上。AI導(dǎo)師與人類教師的協(xié)同工作，可能是最具安全保障、效率最高的方法之一。

智能教學(xué)系統(tǒng)通用框架

AI教學(xué)的潛在風(fēng)險

AI導(dǎo)師并不能建立起師生間的情感聯(lián)系。除了汲取知識外，學(xué)生還期望在課堂上學(xué)到很多其他東西，比如發(fā)展人際關(guān)系、學(xué)會如何與人相處等。我們許多人都曾與老師構(gòu)建起師生情誼，他們給予我們的人生教誨，有時候遠(yuǎn)比教學(xué)的內(nèi)容要更能讓人受益終生。然而，AI導(dǎo)師并不能為學(xué)生提供這些基于情感支持的互動。

此外，年輕人的社會孤獨感日益加重。研究發(fā)現(xiàn)，上網(wǎng)時間較少、參加社交活動較多的青少年的同理心水平，與其他人相比要高一些。聯(lián)合國教科文組織正在考慮調(diào)整教育方向，以強調(diào)培養(yǎng)學(xué)生的社會情感能力為主要目標(biāo)，而非一味地強迫兒童看著屏幕吸收知識。

不巧的是，AI導(dǎo)師系統(tǒng)的設(shè)計往往是為了最大化學(xué)生上網(wǎng)的效率。除此之外，由機器學(xué)習(xí)驅(qū)動的教學(xué)方式，能夠自動調(diào)整授課方法，以調(diào)節(jié)學(xué)生的注意力，而這可能會破壞學(xué)生進(jìn)行自我調(diào)節(jié)的能力。同樣，習(xí)慣于AI教學(xué)的學(xué)生，可能會很難適應(yīng)現(xiàn)實世界中，那些無法進(jìn)行即時溝通的創(chuàng)造性工作。

我們還必須考慮到這樣一種可能性，即居心叵測的人會利用這項技術(shù)來教授暴力題材的內(nèi)容。比如，恐怖分子會利用它來擴大有關(guān)破壞行為的培訓(xùn)課程的規(guī)模。此外，若要訓(xùn)練AI導(dǎo)師根據(jù)學(xué)生的學(xué)習(xí)習(xí)慣和進(jìn)度來精確地調(diào)整培訓(xùn)方案，研究人員需要收集關(guān)于學(xué)生的心理狀態(tài)和學(xué)習(xí)水平的信息數(shù)據(jù)，進(jìn)行深入的處理和分析。這些私密數(shù)據(jù)，是否會被惡意泄漏呢？

恐怖分子曾在網(wǎng)上直播暴力視頻被記者發(fā)現(xiàn)

網(wǎng)絡(luò)安全和數(shù)據(jù)隱私的缺位，是這個平臺亟需解決的難題之一。而對于接受AI教學(xué)的兒童來說，這一問題更加嚴(yán)峻。Facebook前首席信息安全執(zhí)行官亞歷克斯斯塔莫斯（Alex Stamos）表示：“兒童的隱私泄露， 會加重兒童剝削，比如兒童色情�！币恍�惡意的色情和暴力圖片，也可能會被發(fā)到低年齡學(xué)生的上課平臺，對他們造成不可預(yù)計的傷害。

邁向更美好的前景

這些風(fēng)險的存在，并不代表著AI教學(xué)應(yīng)被全盤否定，相反，它可以繼續(xù)改進(jìn)，發(fā)展成更成熟的線上教學(xué)系統(tǒng)。

首先，為了提高互動效果，教師和AI工具可以展開協(xié)同工作，即教師選擇性采納AI工具提供的教學(xué)建議，工具支持教師對作業(yè)進(jìn)行評分，并跟蹤學(xué)生學(xué)習(xí)進(jìn)度。AI教學(xué)目前在教授以記憶知識為主的課程方面最為有效，而不支持創(chuàng)造性和開放性的課程學(xué)習(xí)�，F(xiàn)實中，在大教室里，教師不可能像鋼琴老師幫助調(diào)整學(xué)生的手的位置那樣，密切關(guān)注每個學(xué)生。因此，工具的監(jiān)控作用是非常必要的。

智能監(jiān)控反饋

當(dāng)前的算法，需要大量的學(xué)生數(shù)據(jù)來支持AI教學(xué)工作的信息反饋。我們需要找到在不動用大量學(xué)生數(shù)據(jù)的情況下完成反饋的方法。低數(shù)據(jù)分析技術(shù)似乎很有前途，可以降低數(shù)據(jù)濫用的風(fēng)險，也不需要調(diào)出囤積了數(shù)百萬學(xué)生的學(xué)習(xí)信息的數(shù)據(jù)庫，來進(jìn)行繁復(fù)的算法解析。

研究人員更應(yīng)該加強兒童安全風(fēng)險方面的檢測，把大量的精力放在開發(fā)內(nèi)容審核工具上。做到這一點，在線學(xué)習(xí)平臺才能實現(xiàn)對所有學(xué)習(xí)者的安全保障。尤其是對兒童和那些暴露于不穩(wěn)定的網(wǎng)絡(luò)環(huán)境中的人來說，有了保障，他們才得以更放心地使用AI教學(xué)系統(tǒng)。

言而總之，深度學(xué)習(xí)在教育領(lǐng)域的應(yīng)用和醫(yī)學(xué)AI工具一樣，在我們看到其潛力的同時，還要堅守這樣的原則：一項優(yōu)質(zhì)技術(shù)的前提，是它不能對人類本身帶來傷害。