原標(biāo)題：隨著信息技術(shù)發(fā)展,、大數(shù)據(jù)廣泛應(yīng)用,，算法推薦讓信息傳播更加個性化,、定制化,、智能化,，但也出現(xiàn)了一些亂象——我們需要什么樣的“算法”,？

　　您是否有過類似經(jīng)歷：在求職網(wǎng)站填寫一份有關(guān)工作喜好的調(diào)查,，網(wǎng)站會自動推送匹配的崗位,；打開購物軟件，發(fā)現(xiàn)頁面上多是近期搜索或?yàn)g覽過的商品,；通過App閱讀一條養(yǎng)生信息,，隨后便會經(jīng)常收到養(yǎng)生知識、養(yǎng)生產(chǎn)品的廣告推送……伴隨著信息技術(shù)迅猛發(fā)展,、大數(shù)據(jù)廣泛應(yīng)用,，算法推薦技術(shù)正在將人們帶入個性化、定制化,、智能化更強(qiáng)的信息傳播時代,。

　　因?yàn)樗惴ㄍ扑]，互聯(lián)網(wǎng)平臺越來越能抓住用戶的心，幫助人們更加方便,、精準(zhǔn)地獲取信息,，也牢牢吸引了用戶的注意力。據(jù)不完全統(tǒng)計,，當(dāng)前基于算法的個性化內(nèi)容推送已占整個互聯(lián)網(wǎng)信息內(nèi)容分發(fā)的70%左右,。算法推薦逐漸成為各平臺“基本操作”的同時，諸如低俗劣質(zhì)信息精準(zhǔn)推送,、“大數(shù)據(jù)殺熟”等亂象也凸顯出來,。

　　作為數(shù)字經(jīng)濟(jì)的重要推動力，算法如何實(shí)現(xiàn)更高質(zhì)量發(fā)展,？移動互聯(lián)時代,，我們究竟需要怎樣的“算法”？

　　互聯(lián)網(wǎng)平臺越來越“懂”用戶了嗎,？

　　“看完一個短視頻后,，平臺會自動推薦很多相關(guān)視頻，很方便,�,！痹诒本┮患移髽I(yè)工作的陳輝是某款網(wǎng)絡(luò)對戰(zhàn)游戲的“發(fā)燒友”，平時喜歡通過手機(jī)觀看相關(guān)短視頻來提高操作水平,。他發(fā)現(xiàn),，隨著刷短視頻的頻率增加，平臺推薦的相關(guān)視頻越來越多,，“游戲攻略,、英雄介紹、對戰(zhàn)視頻都有,，電商平臺還會推薦鼠標(biāo),、鍵盤�,！�

　　這些平臺的自動推薦功能,，運(yùn)用了一種叫算法推薦的技術(shù)。這是一種通過人工智能分析和過濾機(jī)制對海量數(shù)據(jù)進(jìn)行深度分析,、完成信息內(nèi)容與用戶精準(zhǔn)匹配的技術(shù),。

　　自從1994年美國明尼蘇達(dá)大學(xué)研究組推出第一個自動化推薦系統(tǒng),，算法推薦技術(shù)如今已深入到資訊,、社交、電商,、短視頻,、搜索引擎等平臺和互聯(lián)網(wǎng)應(yīng)用中。

　　互聯(lián)網(wǎng)平臺變得越來越“懂”用戶,，在極大方便用戶獲取信息的同時,，也容易引發(fā)一些用戶尤其是青少年不同程度的沉迷問題,。

　　“說好只看5分鐘，結(jié)果一刷就是幾小時,�,！辟F州省貴陽市的林忠信說，他12歲的兒子最近迷上刷一些惡搞的短視頻,，不僅影響學(xué)習(xí)成績,，與同伴一起進(jìn)行戶外活動的時間也少了。

　　從去年5月底開始,，全國主要網(wǎng)絡(luò)短視頻平臺中推廣青少年防沉迷系統(tǒng),。在“青少年模式”下，大多數(shù)平臺主要推送教育類,、知識類等有益內(nèi)容,。但是，在缺乏監(jiān)護(hù)人照管監(jiān)督的情況下,，防沉迷系統(tǒng)效果容易打折扣,。

　　有受訪者反映，一些新聞資訊,、網(wǎng)絡(luò)社交等平臺的個性化推送存在“泛娛樂化信息多,、低俗內(nèi)容多、未經(jīng)核實(shí)內(nèi)容多”的“三多”現(xiàn)象,；一些網(wǎng)絡(luò)社交等平臺防沉迷手段較少,，容易導(dǎo)致青少年沉迷和盲目模仿。

　　北京大學(xué)中國社會與發(fā)展研究中心主任邱澤奇對記者表示,，對自我的偏好是人類認(rèn)知偏好的一部分,，“偏好”閱讀可能加速形成“信息繭房”效應(yīng)和“情緒傳染”效應(yīng)，前者易導(dǎo)致視野局限,，后者易使個人情緒受他人感染,。

　　一些喜歡網(wǎng)購的人還可能因遭遇“大數(shù)據(jù)殺熟”而蒙受損失。一些平臺利用算法技術(shù)給不同類型消費(fèi)者數(shù)據(jù)“畫像”,，判斷其偏好,、用戶黏合度、價格敏感度等,，使不同用戶看到的價格或搜索的結(jié)果不同,。通常是老用戶看到的價格比新用戶貴，或搜索到的結(jié)果比新用戶少,。

　　今年“雙11”期間,，北京消費(fèi)者韓女士發(fā)現(xiàn)，她通過某App預(yù)訂一家酒店，“同一時間,，不同手機(jī)”預(yù)訂,，價格相差約1000元。

　　9月中旬,，微博上發(fā)起的一個投票顯示,，有1.5萬人認(rèn)為自己遇到價格明顯差異的情況，占所有投票人員的近八成,。

　　“算法”是中性的,，問題出在人身上

　　算法技術(shù)的重要意義在于，將此前基于人力的“人找信息”轉(zhuǎn)變成基于電腦自動化運(yùn)算的“信息找人”,，既極大解放了人力,，又更高效地完成了人和信息的匹配。

　　從2012年起,，互聯(lián)網(wǎng)平臺今日頭條在業(yè)內(nèi)較早將算法推薦系統(tǒng)應(yīng)用到資訊領(lǐng)域的產(chǎn)品中,，實(shí)現(xiàn)了系統(tǒng)的自動學(xué)習(xí)推薦。據(jù)今日頭條算法架構(gòu)師曹歡歡介紹,，推薦系統(tǒng)綜合考量內(nèi)容特征,、用戶特征、環(huán)境特征等因素進(jìn)行決策,。例如,，環(huán)境特征包括上班期間、上班路上,、下班休息等不同場景下用戶的興趣偏好信息,。

　　為幫助用戶發(fā)現(xiàn)更多興趣點(diǎn)，今日頭條不斷引入多領(lǐng)域的優(yōu)質(zhì)內(nèi)容生產(chǎn)者,，并運(yùn)用算法推薦給用戶,；推出“靈犬”反低俗助手，剔除低俗信息,。推薦系統(tǒng)還增加了消重和打散策略,，前者旨在消除內(nèi)容相似文章推薦，后者降低了同領(lǐng)域或主題文章的推薦頻率,。

　　不過,，在頭部互聯(lián)網(wǎng)平臺切實(shí)嚴(yán)格自律的同時，仍有一些采編流程不規(guī)范,、管理不嚴(yán)的網(wǎng)絡(luò)社交媒體,、新聞客戶端在業(yè)務(wù)導(dǎo)向上走偏了。主要表現(xiàn)在：

　　——向用戶推薦劣質(zhì)信息,。部分平臺為留住用戶,，不斷向用戶推薦其關(guān)注過的相似內(nèi)容，其中摻雜低俗媚俗,、色情暴力,、真假難辨、缺乏深度,、價值觀導(dǎo)向錯亂等信息,。一些互聯(lián)網(wǎng)平臺為增加點(diǎn)擊率和流量，還會進(jìn)行人工推薦,，主動推薦“博眼球”,、打“擦邊球”信息，很多用戶直呼“辣眼睛”,。這反映出一些平臺社會責(zé)任感缺失,，更忽視了價值觀建設(shè)。

　　——增加用戶權(quán)益保護(hù)難度,。一些算法推薦的內(nèi)容過度強(qiáng)化用戶偏好,，影響了用戶對于信息內(nèi)容的自主選擇權(quán)，加劇“信息繭房”效應(yīng),，極易造成個體與社會的隔離,，缺乏對當(dāng)下國情世情的深刻認(rèn)識和判斷。由于依托于用戶瀏覽記錄等數(shù)據(jù),，算法推薦若設(shè)計不當(dāng),，還可能侵犯用戶個人隱私。

　　——進(jìn)行“大數(shù)據(jù)殺熟”,。中國傳媒大學(xué)大數(shù)據(jù)研究中心教授沈浩介紹,，對于算法而言，通過用戶數(shù)據(jù)量以及數(shù)據(jù)更新頻次,，可輕易判斷出是“生客”還是“熟客”,。結(jié)果是平臺大賺，商家,、消費(fèi)者利益受損,，還容易導(dǎo)致壟斷。

　　作為一項(xiàng)技術(shù)應(yīng)用,，算法推薦是中性的,，問題出在設(shè)計者、操作者身上,。

　　一方面,，奉行“流量至上”的單一價值導(dǎo)向。一些平臺為應(yīng)對競爭,，將用戶停留時間作為重要考核指標(biāo),，忽視了自身作為“把關(guān)人”的角色定位,。而“把關(guān)人”必須用積極健康、符合公序良俗的價值觀,，指引算法推薦的設(shè)計和應(yīng)用,，方能確保推送內(nèi)容價值導(dǎo)向正確。

　　另一方面,，過度追求“利益至上”,，利用其信息不對稱優(yōu)勢侵犯消費(fèi)者合法權(quán)益。這是一個需要引起足夠重視的法律問題,。

　　“一些算法的頂層設(shè)計思路存在問題,。”中國社科院信息化研究中心主任姜奇平對記者表示,，英國著名數(shù)學(xué)家,、邏輯學(xué)家圖靈等學(xué)者在勾畫人工智能圖景時提出，人和機(jī)器是對等,、雙向互進(jìn)的關(guān)系,，但現(xiàn)在一些算法設(shè)計呈現(xiàn)出人與機(jī)器的關(guān)系是單項(xiàng)的。比如在大數(shù)據(jù)方面,，迷信相關(guān)分析,，忽略因果分析。在定義算法效率方面,，只把專業(yè)化效率定義為效率,，而實(shí)際上多樣化效率也是一種效率。

　　大數(shù)據(jù),、算法推薦應(yīng)更有“溫度”

　　有網(wǎng)友最近在一個問答平臺發(fā)文稱,，自己在某社交平臺和朋友聊天時提到了一款掃地機(jī)，隨后該平臺出現(xiàn)了掃地機(jī)器人的廣告,。在跟帖中,，很多網(wǎng)友疑問：“平臺是否可能利用算法等技術(shù)，抓取用戶聊天記錄進(jìn)行廣告精準(zhǔn)投放,？”

　　App專項(xiàng)治理工作組專家何延哲今年9月表示,，四部委App專項(xiàng)治理工作組在對App多批次檢測中尚未發(fā)現(xiàn)App有“竊聽”行為。但App“竊聽”在技術(shù)實(shí)現(xiàn)上是有一定可能性的,，相關(guān)部門有必要出臺規(guī)定,，明確企業(yè)進(jìn)行大數(shù)據(jù)“畫像”時能否使用個人語音信息，讓用戶更放心,。

　　從另一角度看,，社會輿論的疑問其實(shí)指向了大數(shù)據(jù)、算法等技術(shù)應(yīng)用的價值導(dǎo)向問題,。如何規(guī)范使用大數(shù)據(jù),、算法技術(shù),，讓其變得更有“溫度”、更讓人放心,？需要建立起一套行之有效的監(jiān)管體系,、評價系統(tǒng)，確保算法設(shè)計者,、操作者以健康、正確,、積極的價值觀,，指引算法推薦的設(shè)計和應(yīng)用。

　　相關(guān)立法和監(jiān)管亟待加強(qiáng),，特別是要強(qiáng)化對算法推薦本身的法治監(jiān)管,。

　　例如，正在公開征求意見的《個人信息保護(hù)法（草案）》規(guī)定,，個人認(rèn)為自動化決策對其權(quán)益造成重大影響的,，有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定。

　　11月10日,，國家市場監(jiān)管總局發(fā)布的《關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南（征求意見稿）》規(guī)定,，基于大數(shù)據(jù)和算法，根據(jù)交易相對人的支付能力,、消費(fèi)偏好,、使用習(xí)慣等，實(shí)行差異性交易價格或者其他交易條件,；對新老交易相對人實(shí)行差異性交易價格或者其他交易條件,；實(shí)行差異性標(biāo)準(zhǔn)、規(guī)則,、算法,；實(shí)行差異性付款條件和交易方式等，都可能被認(rèn)定為“大數(shù)據(jù)殺熟”等不正當(dāng)競爭行為而面臨更嚴(yán)格監(jiān)管,。

　　北京大學(xué)電子商務(wù)法研究中心主任薛軍對記者表示,，應(yīng)針對算法運(yùn)用的場景、對公民基本權(quán)益的影響,，對算法進(jìn)行不同強(qiáng)度的監(jiān)管,。除了法律規(guī)定需更加明確外，可以建立某種社會化的評議機(jī)制,，對平臺運(yùn)用算法產(chǎn)生的后果進(jìn)行評價,，要求平臺基于公共價值予以優(yōu)化。

　　壓實(shí)平臺的社會責(zé)任,。曹歡歡表示,，今日頭條已不完全依賴算法推薦,，而是一個綜合“算法+熱點(diǎn)+搜索+關(guān)注”的通用信息平臺，以幫助用戶拓展興趣,。用戶還可以選擇關(guān)閉“個性化推薦”按鈕或“永久清除歷史行為”,，自主選擇獲取信息的方式。

　　“應(yīng)該在算法技術(shù)內(nèi)講價值倫理,，把人之為人的一面當(dāng)作技術(shù)本身來考慮,，倡導(dǎo)企業(yè)在商業(yè)行為中履行社會責(zé)任�,！苯�奇平認(rèn)為,，對算法推薦技術(shù)和平臺的監(jiān)管應(yīng)確保公平和效率、個人信息開發(fā)與保護(hù),、個人信息與平臺信息等方面的平衡,，在促進(jìn)數(shù)字經(jīng)濟(jì)服務(wù)業(yè)態(tài)健康發(fā)展層面考慮，可按照個性化信息服務(wù)所得和付出的均衡原則進(jìn)行政策調(diào)整,。他建議,，確保消費(fèi)者對信息采集者的服務(wù)好壞有評判權(quán)，使消費(fèi)者始終處于主動地位,。

　　有專家認(rèn)為,，監(jiān)管部門應(yīng)督促企業(yè)調(diào)整業(yè)務(wù)邏輯，將正面價值取向,、用戶高品質(zhì)追求作為關(guān)鍵標(biāo)簽納入算法頂層設(shè)計之中,；政府、學(xué)校,、家長,、平臺各方應(yīng)責(zé)任共擔(dān)，不斷提升青少年網(wǎng)絡(luò)素養(yǎng),。（記者 彭訓(xùn)文）