給“算法”立規(guī)矩！3月1日起，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實(shí)施。保護(hù)個(gè)人權(quán)益，維護(hù)國(guó)家安全。算法不能變“算計(jì)”！《新聞1+1》連線中國(guó)信息安全研究院副院長(zhǎng)左曉棟，共同關(guān)注：算法，須依法！

　　規(guī)范算法，聚焦五類應(yīng)用！

　　如何理解這次實(shí)施的規(guī)定，要從“生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類”這五類應(yīng)用去規(guī)范算法的“黑箱”操作？

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：因?yàn)檫@五類應(yīng)用有兩個(gè)特點(diǎn)。①大多數(shù)用戶使用互聯(lián)網(wǎng)，每天都會(huì)經(jīng)歷的這些應(yīng)用。比如我們?cè)L問的信息，新聞信息是算法推薦的，我們使用搜索引擎，搜索引擎呈現(xiàn)的搜索結(jié)果是算法推薦的等等。②因?yàn)榍趾駛€(gè)人權(quán)益乃至危害國(guó)家安全的事件在這些領(lǐng)域多發(fā)。因此要規(guī)范算法的使用，聚焦這五類應(yīng)用，才能很好地從根本上維護(hù)公民在網(wǎng)絡(luò)空間的合法權(quán)益，維護(hù)國(guó)家安全和公共利益。

　　規(guī)范算法推薦，如何保障用戶的知情權(quán)和選擇權(quán)？

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：算法規(guī)定文件要保證用戶的知情權(quán)和選擇權(quán)。但是在實(shí)踐中，的確平臺(tái)擁有者有可能會(huì)規(guī)避這些要求，比如應(yīng)當(dāng)給予用戶提供不使用算法推薦的服務(wù)，或者給用戶提供關(guān)閉算法推薦服務(wù)的選項(xiàng)等。如果用戶提出了這樣的申請(qǐng)，服務(wù)提供者可能就退出服務(wù)，用戶不能用了，這個(gè)是很有可能發(fā)生的。所以首先要在文件的層面上作出嚴(yán)格的規(guī)定，同時(shí)后續(xù)還要嚴(yán)格的執(zhí)法，對(duì)于違反政策規(guī)定的行為要進(jìn)行責(zé)任追究。

　　避免算法變算計(jì)，平臺(tái)企業(yè)的開放、透明是關(guān)鍵

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：有的人說算法是個(gè)“黑箱”問題，這的確給治理帶來了很大的挑戰(zhàn)。因此在3月1日實(shí)施的這份文件，包括此前的一些法律規(guī)定中，都明確了算法一定要做到開放，一定要做到透明。包括給平臺(tái)企業(yè)提出的一些要求，也是要讓他們落實(shí)這方面的法律的責(zé)任義務(wù)。

　　對(duì)“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”進(jìn)行監(jiān)督管理

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中特別對(duì)“具有輿論屬性和社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”作出了要求，主要體現(xiàn)在兩個(gè)方面。

　　①履行備案手續(xù)。3月1日是這個(gè)文件正式實(shí)施的日子，在2月28日國(guó)家網(wǎng)信部門已經(jīng)正式公布了備案的網(wǎng)址。

　　②開展安全評(píng)估。2018年國(guó)家網(wǎng)信部門聯(lián)合有關(guān)部委就已經(jīng)發(fā)布《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》，算法推薦服務(wù)提供者自然屬于這類，應(yīng)該由此進(jìn)行管理，所以要進(jìn)行安全評(píng)估。

　　對(duì)算法推薦管理規(guī)定施行的期待

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：算法推薦是一個(gè)綜合性、全局性問題，還涉及平臺(tái)治理、數(shù)據(jù)安全保護(hù)等多方面。因此3月1日這份文件的實(shí)施，的確是一個(gè)重大進(jìn)步，但這也僅僅是一個(gè)開頭，今后還要繼續(xù)加強(qiáng)工作。比如大家現(xiàn)在反映比較多的，互聯(lián)網(wǎng)企業(yè)制定的平臺(tái)規(guī)則，實(shí)施算法是不是應(yīng)當(dāng)征得社會(huì)同意？在2021年11月國(guó)家網(wǎng)信部門向社會(huì)公開意見的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》中就提到平臺(tái)運(yùn)營(yíng)者應(yīng)當(dāng)對(duì)平臺(tái)規(guī)則、隱私政策和算法征求社會(huì)意見，如果是特大型的互聯(lián)網(wǎng)平臺(tái)，那么所涉及的規(guī)則、隱私政策和算法還應(yīng)當(dāng)征得主管部門批準(zhǔn)，這些動(dòng)作都體現(xiàn)了主管部門在解決算法推薦問題上所做的積極的努力，這些工作還會(huì)持續(xù)下去。總的來講，通過一系列的努力，一段時(shí)間內(nèi)不懈地治理，期待這份規(guī)定能夠切實(shí)保證公民在網(wǎng)絡(luò)中的合法權(quán)益，積極有效的維護(hù)國(guó)家安全和公共利益。

　　如何看待算法誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)的危害性？

　　沉迷網(wǎng)絡(luò)并不是一個(gè)“新鮮詞”，但當(dāng)算法加入，進(jìn)行誘導(dǎo)，后果會(huì)怎樣？

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：算法推薦有一個(gè)特點(diǎn)，就是你喜歡什么，它給你推送什么。青少年往往涉世未深，而且自制力不夠，如果服務(wù)提供者專門針對(duì)青少年的個(gè)人喜好，甚至是一些不健康的喜好，專門推送定制信息，比如某種題材的小說或者游戲，就更容易使青少年沉溺其中不能自拔，后果很嚴(yán)重。

　　監(jiān)管算法，是否會(huì)影響技術(shù)發(fā)展？

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：首先需要明確一點(diǎn)，技術(shù)的發(fā)展是中立的，也就是算法推薦有它存在的必要性。比如說我們?cè)诰W(wǎng)上買衣服的時(shí)候，穿上衣服效果怎么樣，通過虛擬試衣，提供一張照片，形象效果就可以展示出來了，這是好的應(yīng)用。但是也的確存在著一些濫用的情況，有些對(duì)社會(huì)危害還是比較大，所以要讓算法運(yùn)行在法律的軌道上，我們鼓勵(lì)它正確、合理地向上向善應(yīng)用，而需要規(guī)范監(jiān)管的是不當(dāng)?shù)膽?yīng)用，這個(gè)工作必須要進(jìn)行下去。

　　如何理解算法作惡可能會(huì)影響到國(guó)家安全？

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：因?yàn)樗惴ㄓ幸环N功能，就是社會(huì)動(dòng)員能力。如果服務(wù)提供者針對(duì)一批特定的人，專門定制一批特定的政治性信息定向推送，從而影響他們的政治判斷，甚至去動(dòng)員他們從事某種社會(huì)活動(dòng)，這個(gè)后果就可能比較嚴(yán)重。因?yàn)闀?huì)嚴(yán)重影響這些人客觀正確的判斷和認(rèn)知。事實(shí)上，在世界很多地方的政治選舉中，算法推薦都有它的影子，甚至有一些算法推薦的應(yīng)用導(dǎo)致政治選舉結(jié)果被直接改變了。

　　全球首批針對(duì)算法進(jìn)行的綜合性立法

　　中國(guó)信息安全研究院副院長(zhǎng)左曉棟：算法推薦中的“黑箱”算計(jì)問題，是一個(gè)全球各國(guó)面臨的共同問題，而且是一個(gè)發(fā)展中的問題，各國(guó)都在采取措施加以解決。從全球范圍看，我們國(guó)家制定這樣一個(gè)算法管理的規(guī)定，是處于全球首批。制定這個(gè)規(guī)定是基于我們國(guó)家互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展的實(shí)際情況，同時(shí)也基于我們國(guó)家對(duì)互聯(lián)網(wǎng)治理的具體經(jīng)驗(yàn)，而這些產(chǎn)業(yè)發(fā)展的情況，這些治理經(jīng)驗(yàn)往往體現(xiàn)了中國(guó)特色，所以制定這個(gè)規(guī)定，實(shí)際上是我們國(guó)家對(duì)全球互聯(lián)網(wǎng)治理、網(wǎng)絡(luò)空間治理所做的中國(guó)貢獻(xiàn)，體現(xiàn)了中國(guó)智慧。