防止機(jī)械刷題、不傳播教育焦慮！AI頭部企業(yè)聯(lián)合發(fā)布公約

　　南都訊記者呂虹發(fā)自北京近日，南都記者從中國(guó)民辦教育協(xié)會(huì)獲悉，該協(xié)會(huì)攜手百度、騰訊、科大訊飛等10家人工智能領(lǐng)域頭部企業(yè)，聯(lián)合簽署了《智能體賦能學(xué)生全面成長(zhǎng)公約》（以下簡(jiǎn)稱《公約》），為教育智能體的發(fā)展劃定了清晰的邊界。

　　當(dāng)前，帶有“主體性”特征的教育智能體不但在倫理身份、互動(dòng)方式、學(xué)習(xí)方式及價(jià)值觀念等層面形成沖擊，更使教育實(shí)踐面臨被AI技術(shù)操控取代的風(fēng)險(xiǎn)，迫切需要探尋智能體的倫理邊界。

　　在這一背景下，《公約》提出，教育智能體的發(fā)展應(yīng)有效防范違背教育本質(zhì)的功利化傾向，堅(jiān)決杜絕傳播錯(cuò)誤價(jià)值觀和不良信息，防止機(jī)械重復(fù)刷題，避免加重學(xué)生學(xué)業(yè)負(fù)擔(dān)、限制學(xué)生想象空間、惰化學(xué)生思維。

　　《公約》強(qiáng)調(diào)，教育智能體要嚴(yán)格遵守《未成年人保護(hù)法》《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》等相關(guān)法律法規(guī)及政策要求，對(duì)涉及未成年人的，應(yīng)嚴(yán)格依法落實(shí)數(shù)據(jù)安全及隱私保護(hù)機(jī)制。

　　《公約》倡議，相關(guān)人工智能企業(yè)應(yīng)強(qiáng)化與學(xué)校、家庭的協(xié)同育人，擴(kuò)大資源普惠，不制造惡性競(jìng)爭(zhēng)，不傳播教育焦慮，推動(dòng)在全社會(huì)樹(shù)立科學(xué)的人才觀、成才觀、教育觀。

　　針對(duì)《公約》的出臺(tái)意義，北京師范大學(xué)李玉順教授表示，《公約》出臺(tái)恰逢其時(shí)，將技術(shù)優(yōu)勢(shì)轉(zhuǎn)化為育人效能，將碎片化探索升華為系統(tǒng)性框架，使人工智能與教育融合邁向倫理自覺(jué)與價(jià)值引領(lǐng)新階段。

　　“人工智能教育，尤其是智能體融入教育過(guò)程中，必須確保教育性、科學(xué)性、安全性三大原則?！闭劶啊豆s》所倡導(dǎo)的AI教育精神，北京航空航天大學(xué)熊璋教授特別強(qiáng)調(diào)了“安全至上”原則。他指出，需圍繞AI教育特有的自主性、交互性與學(xué)習(xí)特性，構(gòu)建覆蓋技術(shù)、倫理、數(shù)據(jù)、心理等維度的防護(hù)體系。在規(guī)劃與設(shè)計(jì)之初，就必須秉承“安全至上”的原則，包括不傷害學(xué)習(xí)者、不誤導(dǎo)學(xué)習(xí)者、不泄露學(xué)習(xí)者隱私的全方位安全。“對(duì)學(xué)習(xí)者異常行為的預(yù)警、報(bào)告、疏導(dǎo)也是安全至上的一個(gè)側(cè)面?！?/p>

　　值得注意的是，《公約》適用于所有可能面向中小學(xué)生提供智能體產(chǎn)品或服務(wù)的企業(yè)。涉及的產(chǎn)品和服務(wù)包括但不限于人工智能大模型、自適應(yīng)學(xué)習(xí)系統(tǒng)、虛擬教師等軟件，智能學(xué)習(xí)機(jī)、學(xué)練機(jī)、學(xué)習(xí)教具、可穿戴設(shè)備等硬件，以及基于上述軟硬件的課程、教學(xué)、測(cè)評(píng)、數(shù)據(jù)分析等衍生服務(wù)，覆蓋產(chǎn)品設(shè)計(jì)、算法研發(fā)、模型訓(xùn)練、運(yùn)營(yíng)服務(wù)等全生命周期。

（文章來(lái)源：南方都市報(bào)）

(原標(biāo)題：防止機(jī)械刷題、不傳播教育焦慮！AI頭部企業(yè)聯(lián)合發(fā)布公約)

(責(zé)任編輯：137)