越來越多的老師愿意在課堂使用自適應(yīng)學(xué)習(xí)系統(tǒng)，學(xué)校的分析系統(tǒng)也可以通過預(yù)測(cè)提高學(xué)生畢業(yè)率。與此同時(shí)，算法的使用帶來了許多倫理、實(shí)踐和哲學(xué)問題。高等教育引入人工智能到什么程度合適呢？誰(shuí)來決定算法應(yīng)該是什么樣的？

為了探討這些問題，教育技術(shù)資訊網(wǎng)站Edsurge收集了斯坦福大學(xué)教育學(xué)院教育學(xué)助理教授坎迪斯·特爾(Candace Thille)和Civitas learning的聯(lián)合創(chuàng)始人兼首席學(xué)習(xí)官馬克·米利倫(Mark Milliron)，兩位分別就AI進(jìn)入高等教育的痛點(diǎn)發(fā)表了自己的看法，并提出了一些解決方案。

Q: Civitas開發(fā)了用于高等教育的AI系統(tǒng)。馬克，現(xiàn)在使用情況如何，學(xué)生又是怎樣得到幫助的？

馬克·米利倫: 現(xiàn)在的高等教育還處于使用人工智能的初級(jí)階段?？赡苷龔摹皢栘?zé)分析”轉(zhuǎn)變?yōu)椤靶袆?dòng)分析”。目前，高等教育中95％的數(shù)據(jù)工作著重于問責(zé)分析，即向認(rèn)證機(jī)構(gòu)、立法機(jī)構(gòu)和受托人提供數(shù)據(jù)。我們的首席數(shù)據(jù)科學(xué)家來自醫(yī)療保健領(lǐng)域，他打比方說，高教機(jī)構(gòu)似乎癡迷于“尸檢分析”。利用已不在學(xué)校的人的數(shù)據(jù)，通過講故事的方式幫助現(xiàn)有的學(xué)生。

我認(rèn)為我們獲取的數(shù)據(jù)更接近現(xiàn)實(shí)，實(shí)現(xiàn)“行動(dòng)分析”，更好地幫助學(xué)生。我們開始使用預(yù)測(cè)分析，顯示學(xué)生的行動(dòng)軌跡，利用這些數(shù)據(jù)，幫助學(xué)生選擇更好的發(fā)展路徑。特別的，預(yù)測(cè)分析正努力將學(xué)生的未來個(gè)人化，并協(xié)助學(xué)生作出重大決定，同時(shí)在正確的時(shí)間為學(xué)生提供精確的支持和鼓勵(lì)。

馬克·米利倫

這么做一開始是有些痛苦的。我們要先將學(xué)生歸類，然后做各種假設(shè)，基于某一類某一種假設(shè)，以確定學(xué)生做出1、2、3、4……種選擇。從一開始給學(xué)生分類就充滿了風(fēng)險(xiǎn)，同時(shí)其他方面也存在問題。幸好我們已經(jīng)看到越來越多的數(shù)據(jù)，并且越來越精確。學(xué)生所做的，就是利用這些數(shù)據(jù)，為自己的學(xué)業(yè)錦上添花，或?qū)崿F(xiàn)“自救”。

每一個(gè)數(shù)據(jù)都是一個(gè)腳印，把它們拼起來，就是學(xué)生的心路歷程。這是學(xué)生的數(shù)據(jù)，他們的數(shù)據(jù)應(yīng)該被用來幫助他們自己。然而現(xiàn)在學(xué)生的數(shù)據(jù)大多提供給了教育機(jī)構(gòu)，僅僅用來告訴他們一些現(xiàn)象，一些事實(shí)。

Q：坎迪斯，你是使用人工智能和自適應(yīng)學(xué)習(xí)工具的早期先鋒，在卡內(nèi)基梅隆大學(xué)學(xué)習(xí)，又在斯坦福大學(xué)工作。最近有人擔(dān)心，公司提供的AI工具可能成為黑箱，受老師、教育工作者或高等院校的控制。你怎么看？

坎迪斯·特爾:我相信利用這些從學(xué)生日?；顒?dòng)中提取出來的數(shù)據(jù)可以支持學(xué)生學(xué)習(xí)，讓學(xué)生受益，我對(duì)此非常贊賞。我們的工作方式與Civitas的略有不同，我們?yōu)閷W(xué)生學(xué)習(xí)特定學(xué)科時(shí)創(chuàng)造個(gè)性化和適應(yīng)性的學(xué)習(xí)體驗(yàn)。因此，我們的工作方式是，跟蹤學(xué)生在線學(xué)習(xí)時(shí)產(chǎn)生的互動(dòng)信息，把這些信息丟進(jìn)預(yù)測(cè)模型里，預(yù)測(cè)學(xué)生的學(xué)習(xí)軌跡。

我們所做的，是讓AI系統(tǒng)支持教學(xué)決策。我們把預(yù)測(cè)信息反饋給系統(tǒng)或老師，幫助他們洞察學(xué)生學(xué)習(xí)問題出自哪里，以便做出正確的教育決策。

坎迪斯·特爾

怎樣收集數(shù)據(jù)，預(yù)測(cè)模型中應(yīng)包含哪些因素，如何權(quán)衡這些因素，使用何種建模方法或算法，預(yù)測(cè)中要表現(xiàn)哪些信息，以及如何將結(jié)果展現(xiàn)給不同的利益群體？等等。這都是非?；钴S的研究領(lǐng)域，也是新興的學(xué)習(xí)科學(xué)的一部分。

所以我認(rèn)為在學(xué)術(shù)方面，所有這些，特別是模型和算法，不能黑箱操作，它們必須透明，必須能接受同行評(píng)議。同時(shí)，它們必須是具有挑戰(zhàn)性的，這樣我們就清楚地知道，正在做出教育決策的，是那些知道如何做出這種決定的人。如果只是說“相信我們，我們的算法是可行的”，那么我認(rèn)為他們的是煉金術(shù)，不是科學(xué)。

Q：馬克，作為一個(gè)公司領(lǐng)導(dǎo)者，你如何回應(yīng)上一個(gè)問題?

馬克·米利倫:我們絕對(duì)認(rèn)為，想做這種工作的公司，都應(yīng)該確保自己的數(shù)據(jù)科學(xué)預(yù)測(cè)是公平公正公開的。例如，如果你想查看學(xué)生的成長(zhǎng)軌跡，那么工具應(yīng)該展示最佳預(yù)測(cè)以及相應(yīng)的得分和權(quán)重，你就可以看到，哪些變量影響了預(yù)測(cè)結(jié)果。

這么做的一個(gè)原因是，幫助教育者與數(shù)據(jù)互動(dòng)，以對(duì)學(xué)生做出正確的決定。

數(shù)據(jù)應(yīng)該交給那些管理顧問、優(yōu)秀的學(xué)生，以及看得懂?dāng)?shù)據(jù)還會(huì)反思的人，然后發(fā)表到同行評(píng)議期刊上，讓其他人都能看到學(xué)到。但現(xiàn)實(shí)是，目前建模還是一種商業(yè)化的東西，不是尖端科學(xué)，你能讓教育者知道的就是使用了哪些因素，哪些因素是最具預(yù)測(cè)力的，以及它們是如何載入模型的。算法往往是不能公開的，它太重要，事關(guān)模型的正確性和效率。

讓教育工作者思考這些東西目前還做不到。最好建立一些實(shí)踐論壇，供人們分享使用經(jīng)驗(yàn)。

Q：會(huì)有人擔(dān)心學(xué)生和教授誤用數(shù)據(jù)嗎?

坎迪斯·特爾:很多人會(huì)認(rèn)為，“電腦是無偏見的”，或者“它是客觀的”，或者“它說的是真的”。他們沒有意識(shí)到計(jì)算機(jī)算法是由人類編寫的。建模時(shí)，模型中包含哪些因素？如何權(quán)衡這些因素？預(yù)測(cè)時(shí)依據(jù)什么標(biāo)準(zhǔn)得出分?jǐn)?shù)？這些都是人為決定的。

如果我們的數(shù)據(jù)沒有廣泛的代表性，無法在不同環(huán)境里代表大部分學(xué)生，無法適用于特定環(huán)境，那么算法就會(huì)產(chǎn)生有偏差的結(jié)果。

馬克說使用系統(tǒng)的人應(yīng)該真正了解系統(tǒng)告訴他們的內(nèi)容，應(yīng)該會(huì)使用這些系統(tǒng)，這一點(diǎn)我非常贊同。但是我正在考慮制度問題。很多教育機(jī)構(gòu)都承擔(dān)著很大的責(zé)任壓力，而現(xiàn)在問責(zé)制的一個(gè)核心問題就是畢業(yè)率。

假設(shè)我是一名學(xué)生。我想成為一名醫(yī)生，所以報(bào)考一個(gè)醫(yī)學(xué)預(yù)科班。第一年就要學(xué)習(xí)化學(xué)、生物和相關(guān)的所有課程，我有點(diǎn)惶恐，因?yàn)槲覜]有上過高中，我真的屬于這里嗎？我很高興自己能進(jìn)來，但有點(diǎn)懷疑自己是否能適應(yīng)這種學(xué)習(xí)。

第一年的必修課是生物序列和化學(xué)結(jié)構(gòu)，我很討厭這些，而選修課我選了自己很感興趣的拉丁文化研究。我的生物和化學(xué)課程只得了C和D，但選修課學(xué)得很好。導(dǎo)師約我見面，他看了我的預(yù)測(cè)分析，分析表示我在本專業(yè)4到6年里畢業(yè)的概率只有2%，但選修課學(xué)得很好，如果轉(zhuǎn)專業(yè)的話，肯定能獲得更好的成績(jī)，保證4年畢業(yè)。系統(tǒng)和導(dǎo)師都建議我轉(zhuǎn)專業(yè)。

這時(shí)候我肯定想，那都是你們認(rèn)為的。我的理想是成為一名醫(yī)生，我來這里是學(xué)醫(yī)的，不是換專業(yè)的。

這就是數(shù)據(jù)偏見導(dǎo)致的事件。

我關(guān)心的是已經(jīng)處于這樣形勢(shì)下的學(xué)生的想法：“學(xué)校這么照顧我，老師最關(guān)心我的前途，他們也給我看過數(shù)據(jù)（證據(jù)）了，看來我成不了醫(yī)生了，學(xué)醫(yī)真的太難了，我想他們是對(duì)的，我應(yīng)該換專業(yè)?！?/p>

這不僅僅是某個(gè)學(xué)習(xí)者的損失，也是大家的損失。一個(gè)本可以成為了不起的醫(yī)生的學(xué)生卻被數(shù)據(jù)引導(dǎo)著轉(zhuǎn)行了，對(duì)于整個(gè)社會(huì)而言，也是一種損失。

馬克·米利倫:我非常同意這個(gè)觀點(diǎn)。問題是，我們能不能以一種完全不同或更有效的方式使用相同的數(shù)據(jù)。我們要使用設(shè)計(jì)思維，對(duì)那個(gè)學(xué)生說：“如果你真的還想走醫(yī)學(xué)這條路，以你現(xiàn)在的水平，可以先通過這門課程，使用這些資源，這樣你在4~6年畢業(yè)的可能性就增加了一倍?！?/p>

好在我們還處于非常初級(jí)的階段，如果能在這方面建立一個(gè)行為規(guī)范和道德規(guī)范，就能確保事情往好的方向發(fā)展。

坎迪斯·特爾:我們還可以用另一種方式使用這些數(shù)據(jù)，不僅改變學(xué)生，還可以分析機(jī)構(gòu)的教學(xué)模式。如果學(xué)生沒有化學(xué)基礎(chǔ)，那么問題不僅僅是“如何讓這個(gè)學(xué)生與眾不同”了，我們需要看看老師教化學(xué)的方式是否合適，以保證學(xué)生更多地通過。這可能是使用數(shù)據(jù)的另一種方式。

（本文轉(zhuǎn)自智能觀，作者Jeffrey R. Young ）