[摘要]在倡導教育包容與公平的時代背景下，教育面臨著以個性化、自適應為特征的智能技術所帶來的偏見風險。在智能教育產品的研發過程中，潛在的設計偏見、數據偏見和算法偏見會使教育領域面臨多重風險，如教育活動的公平性受阻、教育系統內部的歧視加劇、教育中的多元化特質消解和學生思想窄化。學校、科技公司、監管機構等組織應當攜手共進，提前偵測偏見風險并加強治理，包括：提升研發團隊的教育理解和多元眼光，讓師生成為產品的合作創造者，加強偏見檢測和道德評估過程，建立可解釋、可審查、可糾正的系統優化機制，開展面向師生的人工智能素養教育，確立人工智能在教育中的應用范圍和倫理規范，從而爭取實現人機良性互動，打造多元包容的智能教育環境。

　　[關鍵詞]人工智能教育應用；人工智能倫理；教育包容；算法偏見；數據偏見

　　一、引言

　　當前，關于人工智能教育應用（ArtificialIntelligenceinEducation，簡稱AIED）的討論非常熱烈。無論是作為輔助教學、校園管理的工具，還是學科教育的重要內容，人工智能都為教育發展注入了新動力。有支持者主張，AI是基于真實教育數據做出決策的，較之人類決策更加客觀、公正和權威。然而，真的是這樣嗎？普林斯頓大學的一項研究發現，AI和人類一樣帶有偏見，它們會將女性群體與“家庭”“藝術”掛鉤，將男性群體與“事業”“野心”掛鉤，將有色人種群體與一些令人不悅的詞語掛鉤[1]。隨著AI在各行業中承擔起愈發重要的決策角色，諸如此類的偏見足以對我們的真實世界產生影響，教育領域也不例外。

　　二、研究背景

　　有學者指出：“‘適應與個性’和‘包容與公平’都是現代教育技術發展的重要范疇，但令人驚訝的是，卻鮮有這兩個領域交匯處的研究。”[4]AIED及相應的創新教育模式一方面能夠促進優質資源共享，彌合教育鴻溝，推動教育公平進程；但另一方面，因社會權力結構分布帶來的偏見，可能會因為對適應性教學和個性化學習的追求而被鞏固和加劇。如今，我們站在這個十字路口，應當厘清教育包容與公平和適應與個性之間的關系，充分認識研究AIED中所存在的偏見問題的意義。

　?。ㄒ唬┲悄軙r代下教育包容與公平的新局面

　　包容與公平始終是教育的核心主題。聯合國教科文組織（UNESCO）將“確保包容和公平的優質教育，讓全民終身享有學習機會”作為2030年教育分支的可持續發展目標之一[5]。經濟合作與發展組織（OECD）將教育公平和教育包容作為衡量教育成功的兩項標準[6]。當AI進入教育場景，教育包容與公平的內涵也必將迎來新的變化。只有在確保AIED不會阻礙教育包容與公平的前提條件下，才能真正可持續性地為教育賦能。

　?。ǘ﹤€性化支持與教育歧視的一線之隔

　　實現個性化學習基本上是教育領域終極追求的目標[7]。過去數十年，教育技術越來越強調以學生為導向，推動個性化自適應學習的發展[8]，如智能導師系統、教學機器人、智能學習伙伴、自動化評估系統、虛擬現實技術教育應用、個性化慕課等[9]。但是，當偏見悄悄潛入其中，“因材施教”可能因此變味，與“教育歧視”僅是一線之隔。

　　三、AIED的偏見生成機制

　　有學者指出，社會不公是由社會結構性壁壘和個人認知性壁壘構成的[12]。前者是指歷史上的不公在政策、實踐、價值觀中的滲透；后者是指用于維持社會不公結構的個人層面的思考活動會潛在地加深理解、行為、決策中的刻板印象。這兩層壁壘作用于AIED，使之沿襲甚至強化帶有偏見的社會思考模式，導致學習者被無限循環的偏見所包圍。偏見會貫穿于AIED的生命周期———從系統的初步設計、收集數據、建立數據庫、算法編寫、模型訓練，直至應用落地，可歸納為以下三種生成機制：

　?。ㄒ唬┰O計偏見：特定群體被排除在目標受眾之外有報道稱，尼康某型號的相機在拍攝亞洲人時總是會彈出“是否有人眨眼？”的提示。加納裔美國研究員喬伊·布拉姆維尼（JoyBuolawini）在使用實驗室設備的時候，屢次遭到人臉識別系統的“無視”，某天她帶上了一張白色面具，系統居然成功識別了她的“面部信息”[13]。有些產品在設計之初就忽略了某些特殊群體的存在，致使某些特定學習者群體無法與其他學生同等獲取系統的服務。有研究者指出，這是一個教育發展至今都未曾面臨過的、全新的歧視維度[4]。

　?。ǘ祿姡荷鐣Y構性壁壘的復制與重現數據正在重塑著我們的教育，從課堂分析到成績預測，從招生入學到生涯規劃等，越來越多的教育活動在不斷被數據化。數據科學家維克托·邁爾-舍恩伯格（ViktorMayer-Sch觟nberger）指出，大數據和教育的結合將超越過去那些“力量甚微的創新”而創造真正的變革[15]。用于訓練、學習、挖掘的原始數據是AI系統的基石，其中立程度直接影響系統輸出的結果[16]。

　　四、AIED的偏見風險分析

　　隨著AI逐步深入教育場景，背后的偏見問題在應用過程中漸漸暴露和發酵，社會爭議性事件屢有發生。如果缺乏對偏見問題的敏感度，事前疏于評估偏見風險，可能導致出現范圍更廣、程度更深的負面影響事件。

　　（一）教育活動的公平性受到阻礙

　　隨著AI在教育中的全方位應用，偏見風險會滲透在各類教育活動中。例如：在預測學生下一次統考成績時，某些學生可能因為所在學區的成績差而被系統認定將會表現不佳；一位學生正在回答簡答題時，智能系統的自動糾正功能改變了她的遣詞造句，甚至違背了她原本想表達的意思；AI在與某學生交流時習得了性別歧視并在和其他學生的交流時復制重現......雖然上述情況也許尚未出現，但在未來一旦發生，就很可能引發社會關注，有損教育公平。

　?。ǘ┙逃到y內部的歧視加劇

　　以學生為中心的智能學習環境中，偏見可能會導致特定學生群體遭到排斥，在性別、文化、地域、知識水平、家庭經濟水平等方面加劇群體之間的歧視和隔離。如果說，不透明的全方位數據采集是對學生隱私權的“一次傷害”，那在此基礎上形成帶有偏見的決策和歧視性干預，對學生所造成“二次傷害”的影響則更深更廣。在“算法中立”的幌子下，雖然我們并非有意制造歧視，但是最脆弱的社會階層很可能會受到不公平的對待[27]。有學者發現了針對特定學生群體的價格歧視———在報名某權威的SAT在線輔導服務時，輸入亞洲人社區的郵編，將會被收取更高的費用，高達其他地區學生的兩倍[28]。

　　五、AIED的風險防治策略

　　智能教育產品的每個發展環節都需要關注偏見問題，組建團隊、確定用戶需求、產品設計開發、宣傳推廣、應用落地都須嚴格把關?？缥幕椒☉摫患{入政策制定、產品研發、團隊建設等環節中。學校管理者和決策者、產品設計者和開發者、學生、教師、家長、科研工作者應當攜手推進教育環境包容性和多元化的建設。

　?。ㄒ唬┨嵘邪l團隊的教育理解與多元眼光

　　如果技術人員對于教育過程不夠熟悉，對于教育本質理解不足，缺乏情境體驗和背景知識，就很可能基于錯誤或片面的教育認識在系統開發過程中嵌入自己的偏見，導致算法模型與教學實踐脫節。首先，應該提升研發團隊的教育理解力。智能教育企業應當注重培養員工對教育的正確認識，比如可以邀請教育學領域專家開展面向企業管理者和工程師的講座、工作坊等培訓活動，修正他們在教育方面的認知偏見。其次，研發團隊同質化也是導致偏見的重要原因。因為人們往往難以察覺自身的內隱偏見，對于他人利益敏感度不足，同質化的研發團隊更容易忽視與自身不同的群體需求，收集的數據也更多是來自同群體的樣本。如開發圖像識別系統時，非洲程序員的訓練集里黑人照片更多，而亞洲程序員更多用黃種人的照片。因此，不少倫理專家都提出，組建研發團隊時要關注成員在社會屬性上的異質程度[4]。最后，還應該關注成員之間的學科異質性，構建問題解決的多元眼光。如地域偏見可能不會因為團隊里增加了幾位偏遠地區的成員就被消除，但當團隊中有計算機專家、數據科學家、教育專家、倫理學家等一系列技術和非技術角色時，就能夠更全面地理解教育中的地域偏見問題，從而為尋找創新解決方案提供多元視角。

　　（二）讓師生成為智能教育產品的合作創造者

　　互聯網時代下“共同創造”成為匯聚各方力量的創新模式，師生無疑是教育技術重要的合作創造者[31]。智能教育產品的最終目標是幫助解決教育領域的問題。因此，企業應鼓勵師生群體充分參與產品研發，積極與企業人員對話，清楚地傳達需求和困惑。企業應對典型群體或特殊群體的需求展開充分的調研，邀請具有典型性或者特殊性的教師代表和學生代表，通過問卷、訪談、課堂觀察等方式洞察用戶行為，建立起鮮明的、動態的師生用戶畫像，在此基礎上推進研發進程。

　　結語

　　迄今為止，國內AI在教學中的應用還沒有達到“廣泛”的水平，絕大多數智能教育產品都還處于弱AI的范疇，其中的偏見傾向尚不足以造成嚴重后果。但也許在不遠的未來，AI將會獲得更大的能力，足以左右孩子的教育和成長，控制人類的生活與思想。在感嘆著AI為教育帶來深刻變革與全新機遇，享受著智能化的服務與支持的同時，我們應當時刻保持著對于潛在“紅線”的敏感和警惕。正如哲學家羅伯特·所羅門（RobertSolomon）所說：“我們曾經建立起來的那些關系，最終將會被用來塑造我們。”[34]17

　　參考文獻

　　[1]CALISKANA，BRYSONJJ，NARAYANANA.Semanticsderivedautomaticallyfromlanguagecorporacontainhuman-likebiases[J].Science，2017，356（6334）：183-186.

　　[2]張中學，宋娟.偏見研究的進展[J].心理與行為研究，2007（2）：150-155.

　　[3]王旭.“紅線政策”與美國住房市場的反歧視立法[J].社會科學戰線，2016（5）：89-98.

　　[4]KNOXJ，WANGY，GALLAGHERM.Artificialintelligenceandinclusiveeducation[M].Singapore：Springer，2019.

　　[5]WorldEducatorsForum.Education2030：incheondeclarationandframeworkforactiontowardsinclusiveandequitablequalityeducationandlifelonglearningforall[M].Paris：UnitedNationsEducational，ScientificandCulturalOrganization，2015.

　　[6]劉寶存，屈廖健.PISA2012教育成功和地區的基本經驗[J].比較教育研究，2015，37（6）：14-20，29.

　　沈苑，汪瓊