邁向“十五五” | 破除算法偏見 促進教育公平

黨的十八大以來，以習(xí)近平同志為核心的黨中央高度重視我國人工智能教育發(fā)展。習(xí)近平總書記強調(diào)，要“推進人工智能全學(xué)段教育和全社會通識教育，源源不斷培養(yǎng)高素質(zhì)人才”。黨的二十屆四中全會審議通過的《中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十五個五年規(guī)劃的建議》提出，要“深入實施教育數(shù)字化戰(zhàn)略，優(yōu)化終身學(xué)習(xí)公共服務(wù)”。“十四五”時期，我國積極開展教育數(shù)字化戰(zhàn)略行動，數(shù)智化教學(xué)、智能化學(xué)習(xí)平臺不斷涌現(xiàn)，為教育模式的轉(zhuǎn)變賦予了新的動力。然而，由于技術(shù)接入難題、算法訓(xùn)練局限、算法不透明等因素，智能教育中的算法偏見成為影響教育公平的原因之一。當(dāng)前，算法偏見在一定程度上影響了公民平等受教育權(quán)的實現(xiàn)，因此亟須破除算法偏見壁壘，有效促進教育公平。

依托數(shù)據(jù)分析與算法推薦等數(shù)字技術(shù)，人工智能可以為學(xué)生定制學(xué)習(xí)計劃，推送個性化教育資源，形成普惠教育的新樣態(tài)。然而，目前仍有部分無法負(fù)擔(dān)智能設(shè)備與網(wǎng)絡(luò)服務(wù)的學(xué)生被隔離在智能教育資源之外，并且企業(yè)的數(shù)據(jù)采集多偏向信息化程度高的地區(qū)，導(dǎo)致算法訓(xùn)練數(shù)據(jù)偏差，形成強者愈強的“馬太效應(yīng)”。此外，城鄉(xiāng)和區(qū)域間教育機構(gòu)的數(shù)字化基礎(chǔ)也存在明顯差距，鄉(xiāng)村學(xué)校在設(shè)備更新、平臺運維、師資培訓(xùn)等方面往往相對滯后，也進一步加劇了智能教育資源分配的不均衡。

算法偏見引發(fā)的教育公平問題，是技術(shù)異化在教育領(lǐng)域的集中表現(xiàn)。一方面，數(shù)據(jù)采集、加工、應(yīng)用的過程，實際上是數(shù)字權(quán)力運作的過程。在教育領(lǐng)域的數(shù)據(jù)獲取和訓(xùn)練環(huán)節(jié)，數(shù)據(jù)樣本缺失或采集不全，容易導(dǎo)致算法無法真實反映學(xué)生學(xué)習(xí)特點與需求，形成算法偏見。數(shù)據(jù)偏差與算法自主學(xué)習(xí)融合，使得算法偏見被反復(fù)強化，對部分學(xué)生產(chǎn)生不利影響。它將社會群體差異、文化偏見等因素耦合，轉(zhuǎn)化為看似公平的技術(shù)信息，實則以數(shù)據(jù)技術(shù)的名義掩蓋了教育資源的分配不均。另一方面，算法設(shè)計者的主觀價值介入也會加劇算法偏見。算法設(shè)計中難免摻雜個人偏見或誤解。基于個人主觀偏見的算法設(shè)計，會在數(shù)據(jù)采集、處理與分析環(huán)節(jié)影響數(shù)據(jù)模型的精準(zhǔn)性。然而，教師在使用智能教育系統(tǒng)時難以察覺算法設(shè)計偏見，缺乏有效的溝通反饋機制，導(dǎo)致算法設(shè)計中的錯誤無法及時被糾正。

積極推動人工智能和教育深度融合，需要多層面協(xié)同推進。中共中央、國務(wù)院印發(fā)的《教育強國建設(shè)規(guī)劃綱要（2024—2035年）》強調(diào)了教育數(shù)字化轉(zhuǎn)型的重要性和緊迫性，以及強化數(shù)據(jù)安全、人工智能算法和倫理安全的必要性。在技術(shù)層面，應(yīng)建立公開、透明、可審計的教育算法開發(fā)規(guī)范，提倡“倫理先行”原則，通過多源數(shù)據(jù)融合、聯(lián)邦機器學(xué)習(xí)等技術(shù)手段確保數(shù)據(jù)采集的代表性和多樣性。在行政層面，應(yīng)將數(shù)字教育設(shè)施建設(shè)納入公共服務(wù)范疇，通過設(shè)備支持、網(wǎng)絡(luò)補助等精準(zhǔn)幫扶措施，切實降低技術(shù)使用門檻。同時，應(yīng)健全教育算法的審查與監(jiān)管機制，設(shè)立專業(yè)機構(gòu)開展算法公平性評估，完善反饋與糾偏程序。在法律層面，應(yīng)建立健全對算法偏見的法律規(guī)制。目前，《中華人民共和國個人信息保護法》等法律法規(guī)已對數(shù)據(jù)公正性、準(zhǔn)確性提出了原則性要求，但尚無專門針對智能教育算法偏見的法律規(guī)制。因此，我國應(yīng)進一步出臺或完善智能教育的相關(guān)法律法規(guī)，確保教育算法的公正性、準(zhǔn)確性。同時，建立問責(zé)機制，對造成算法偏見的行為依法問責(zé)。在文化層面，應(yīng)大力推廣全民數(shù)字素養(yǎng)教育，將數(shù)字技能培養(yǎng)納入中小學(xué)基礎(chǔ)課程體系，開展面向教師、家長和社區(qū)的數(shù)字應(yīng)用培訓(xùn)，提升全社會對智能技術(shù)的認(rèn)知能力和使用水平。

人工智能與教育的深度融合，既是一場技術(shù)革命，更是一次教育治理和制度創(chuàng)新的深刻變革。我們應(yīng)堅持“育人為本、技術(shù)為用”的原則，確保技術(shù)應(yīng)用服務(wù)于育人本質(zhì)。通過建立健全多方參與、協(xié)同共治的治理體系，逐步破除算法偏見壁壘，打造更加包容、更有質(zhì)量的智能教育新生態(tài)，大力促進教育公平，為加快建設(shè)教育強國提供堅實支撐。

作者系南京信息工程大學(xué)法學(xué)與公共管理學(xué)院講師；河海大學(xué)法學(xué)院教授

來源：中國社會科學(xué)報

責(zé)任編輯： 王禧玉

新媒體編輯：程可心

如需交流可聯(lián)系我們