中新經(jīng)緯2月25日電 題：分類(lèi)協(xié)同治理已成引導(dǎo)算法至善關(guān)鍵

作者 陳兵 南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院教授，中新經(jīng)緯研究院特約專(zhuān)家

由中央網(wǎng)信辦等多部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下簡(jiǎn)稱(chēng)《規(guī)定》)，將于2022年3月1日起正式施行。《規(guī)定》的發(fā)布為懲治算法亂象提供了明確且具有針對(duì)性和操作性的法律規(guī)范，對(duì)規(guī)范和促進(jìn)數(shù)字經(jīng)濟(jì)健康發(fā)展具有重大意義。

規(guī)范算法至善

《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》指出，應(yīng)著力強(qiáng)化數(shù)字經(jīng)濟(jì)安全體系：要增強(qiáng)網(wǎng)絡(luò)安全防護(hù)能力；提升數(shù)據(jù)安全保障水平；切實(shí)有效防范各類(lèi)風(fēng)險(xiǎn)。其中算法治理作為整個(gè)數(shù)字經(jīng)濟(jì)整體治理與系統(tǒng)治理的關(guān)鍵環(huán)節(jié)，不僅涉及到市場(chǎng)治理，還涉及到社會(huì)治理與國(guó)家總體安全。正如《規(guī)定》第6條，算法推薦服務(wù)提供者不得利用算法推薦服務(wù)從事危害國(guó)家安全和社會(huì)公共利益、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)；第7條明確要求算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全數(shù)據(jù)安全保護(hù)和個(gè)人信息保護(hù)等管理制度和技術(shù)措施。這在國(guó)家安全層面和個(gè)人信息保護(hù)層面，均對(duì)算法推薦服務(wù)提供者提出了新的要求，為國(guó)家安全、社會(huì)公共利益、個(gè)人隱私等提供了重要制度保障。

在實(shí)踐中，算法服務(wù)提供者往往會(huì)借助算法技術(shù)對(duì)消費(fèi)者用戶(hù)數(shù)據(jù)進(jìn)行分析整理，形成用戶(hù)模型或用戶(hù)標(biāo)簽，并以此為基礎(chǔ)進(jìn)行精準(zhǔn)推送。用戶(hù)模型或用戶(hù)標(biāo)簽雖然可以提高信息推送效率，但是易形成“信息繭房”，使用戶(hù)局限在自己熟悉的領(lǐng)域內(nèi)，滿(mǎn)足于被動(dòng)的知識(shí)積累，無(wú)法獲取全面、客觀(guān)的信息；若將違法和不良信息關(guān)鍵詞記入用戶(hù)興趣點(diǎn)或者作為用戶(hù)標(biāo)簽并據(jù)以推送信息，還可能會(huì)對(duì)用戶(hù)的身心健康產(chǎn)生不利影響。對(duì)此，《規(guī)定》第10條要求算法推薦服務(wù)提供者應(yīng)當(dāng)完善記入用戶(hù)模型的興趣點(diǎn)規(guī)則和用戶(hù)標(biāo)簽管理規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶(hù)興趣點(diǎn)或者作為用戶(hù)標(biāo)簽并據(jù)以推送信息。

當(dāng)前，算法在降低公眾篩選有效信息時(shí)間成本的同時(shí)，也擴(kuò)大了網(wǎng)絡(luò)生態(tài)失衡、失真的風(fēng)險(xiǎn)，操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)的問(wèn)題層出不窮。針對(duì)這些問(wèn)題，《規(guī)定》第14條規(guī)定，算法推薦服務(wù)提供者不得利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶(hù)賬號(hào)或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)，不得利用算法屏蔽信息、過(guò)度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。此規(guī)定將有效規(guī)制借助算法技術(shù)對(duì)社會(huì)輿論產(chǎn)生不良影響的行為，暢通社會(huì)監(jiān)督的渠道。

“以人為本”框定算法應(yīng)用紅線(xiàn)

當(dāng)前，受到疫情影響，傳統(tǒng)行業(yè)的就業(yè)者難以便捷就業(yè)，而以平臺(tái)經(jīng)濟(jì)為基礎(chǔ)的靈活用工形式則吸引了大量的勞動(dòng)者就業(yè)，緩解了民生壓力。外賣(mài)配送員、專(zhuān)車(chē)司機(jī)、網(wǎng)約家政等主體均依靠互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)獲取訂單，但這些勞動(dòng)者的權(quán)益亦可能受到算法不合理的訂單分配、獎(jiǎng)懲規(guī)則及工作時(shí)間安排影響，被迫延長(zhǎng)工作時(shí)間、超出工作強(qiáng)度，或是無(wú)法正常接收訂單。對(duì)此，《規(guī)定》第20條要求，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益，建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法。

當(dāng)下，隨著人工智能技術(shù)的應(yīng)用范圍擴(kuò)大，整個(gè)社會(huì)都向著智能化方向不斷發(fā)展。但是對(duì)于老年人群體來(lái)說(shuō)，由于學(xué)習(xí)能力上也不如年輕人，面對(duì)新興的算法推薦服務(wù)，老人可能難以有效掌握，故無(wú)法享受到算法推薦服務(wù)所帶來(lái)的全新體驗(yàn)，甚至隨著智能化設(shè)備不斷取代傳統(tǒng)的設(shè)備，也給老年人群體帶來(lái)了諸多不便之處。對(duì)此，《規(guī)定》第19條規(guī)定，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)，依法開(kāi)展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置，便利老年人安全使用算法推薦服務(wù)。

此外，由于未成年人尚未形成健全的價(jià)值觀(guān)，難以甄別紛繁復(fù)雜的各類(lèi)信息，易受互聯(lián)網(wǎng)不良信息或應(yīng)用服務(wù)的影響，尤其是網(wǎng)絡(luò)游戲、短視頻等應(yīng)用軟件導(dǎo)致未成年人沉迷的事件迭起，引發(fā)了公眾的廣泛熱議。對(duì)此，《規(guī)定》第18條明確要求，算法推薦服務(wù)提供者應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù)，提供適合未成年人特點(diǎn)的服務(wù)，便利未成年人獲取有益身心健康的信息，不得向未成年人推送影響未成年人身心健康的信息，并且不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。

做好分類(lèi)協(xié)同

千人千面，個(gè)性化應(yīng)用是算法的典型特征，故依據(jù)算法應(yīng)用所涉及的內(nèi)容類(lèi)別、輿論屬性以及用戶(hù)規(guī)模等因素，以及算法應(yīng)用對(duì)網(wǎng)絡(luò)安全可能產(chǎn)生的風(fēng)險(xiǎn)大小，對(duì)社會(huì)產(chǎn)生的損害范圍及程度，對(duì)其進(jìn)行分類(lèi)分級(jí)的治理是當(dāng)前算法治理的主流觀(guān)點(diǎn)和基本理路。如《規(guī)定》第23條明確了分類(lèi)分級(jí)的差異化監(jiān)管制度，要求網(wǎng)信部門(mén)會(huì)同電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門(mén)根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類(lèi)別、用戶(hù)規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶(hù)行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類(lèi)管理。

為進(jìn)一步應(yīng)對(duì)算法千人千面，難于把握的“黑箱”屬性，《規(guī)定》第24條明確了算法備案制度，要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。算法備案制度的建立有助于對(duì)算法推薦服務(wù)形成事前監(jiān)管，更好預(yù)防算法可能帶來(lái)的風(fēng)險(xiǎn)，同時(shí)也有助于在事后根據(jù)備案信息對(duì)服務(wù)提供者進(jìn)行追責(zé)，避免責(zé)任規(guī)避的情況發(fā)生。

同時(shí)，為健全完善數(shù)字經(jīng)濟(jì)治理體系，需進(jìn)一步強(qiáng)化協(xié)同治理和監(jiān)管機(jī)制，增強(qiáng)政府?dāng)?shù)字化治理能力，完善多元共治新格局。

《規(guī)定》第3條中規(guī)定參與算法推薦服務(wù)治理部門(mén)除了國(guó)家網(wǎng)信部門(mén)，還包括電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門(mén)。然而，由于算法推薦服務(wù)往往具有跨區(qū)域、跨領(lǐng)域等特性，在監(jiān)管過(guò)程中亦可能同時(shí)牽涉多個(gè)監(jiān)管部門(mén)或多個(gè)區(qū)域的地方監(jiān)管部門(mén)，因此，為避免在監(jiān)管過(guò)程中因職責(zé)交叉而導(dǎo)致相互推諉的情況發(fā)生，還需建立跨部門(mén)跨區(qū)域的協(xié)同監(jiān)管機(jī)制，建立健全跨部門(mén)、跨區(qū)域執(zhí)法聯(lián)動(dòng)響應(yīng)和協(xié)作機(jī)制，形成監(jiān)管合力。

行業(yè)健康發(fā)展，一方面需要法律規(guī)范和政府監(jiān)管形成外部約束，另一方面也需要行業(yè)自律?！兑?guī)定》第5條明確強(qiáng)調(diào)，要鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度，督促指導(dǎo)算法推薦服務(wù)提供者制定完善服務(wù)規(guī)范、依法提供服務(wù)并接受社會(huì)監(jiān)督。尤其對(duì)當(dāng)前社會(huì)各界普遍關(guān)注的大數(shù)據(jù)殺熟、信息繭房等算法熱點(diǎn)問(wèn)題及其法律責(zé)任進(jìn)行了明確規(guī)范，為建立健全多元共治奠定制度基礎(chǔ)。

目前，中國(guó)以數(shù)字經(jīng)濟(jì)為主要經(jīng)濟(jì)業(yè)態(tài)和行業(yè)的發(fā)展正站在新周期起點(diǎn)之上，數(shù)字經(jīng)濟(jì)由高速增長(zhǎng)階段轉(zhuǎn)向高質(zhì)量發(fā)展階段。治理算法已構(gòu)成保障和促進(jìn)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的重中之重，其不僅關(guān)乎數(shù)字經(jīng)濟(jì)發(fā)展的效率，還涉及數(shù)字經(jīng)濟(jì)運(yùn)行的安全，為此盡快搭建安全規(guī)范，“以人為本”覆蓋算法應(yīng)用全周期、全場(chǎng)景、全流程的分類(lèi)協(xié)同治理機(jī)制及方式方法已成為引導(dǎo)算法至善，激勵(lì)算法創(chuàng)新，釋放算法正效能的關(guān)鍵。(中新經(jīng)緯APP)

中新經(jīng)緯版權(quán)所有，未經(jīng)書(shū)面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。本文不代表中新經(jīng)緯觀(guān)點(diǎn)。

責(zé)任編輯：馬靜