當前，算法已成為數字社會發(fā)展的新引擎，但也伴生了“信息繭房”、大數據“殺熟”、傳播失真等亂象，加強算法治理備受各界關注——
今天，我們需要什么樣的互聯(lián)網算法
光明網記者 李政葳 雷渺鑫 周仕興
算法是網絡平臺生存發(fā)展的重要技術手段和基礎應用支撐，也是互聯(lián)網及人工智能產業(yè)發(fā)展的關鍵因素。3月30日，在2025中國網絡媒體論壇期間，由中央網信辦網絡綜合治理局主辦，光明網、抖音承辦的“堅持主流價值導向 推動算法向上向善”主題分享會在廣西南寧舉辦。
當天，來自中央和國家機關有關部門，中央新聞單位，中央和地方新聞網站，各地網信辦，主要商業(yè)網站、互聯(lián)網企業(yè)負責人等300余位嘉賓參會。他們一致認為，要不斷凝聚眾智、攜手共治，讓技術既“聰明”又“善良”，共同守護清朗的網絡空間。
強化主流價值，打造良性內容生態(tài)
“2024年下半年微博熱搜前十位的話題里，由媒體主持的熱點話題數量環(huán)比增長90%”“在2024年全年微博熱搜中，社會時事熱點96%來源于媒體”……會上，微博首席執(zhí)行官王高飛分享了這樣一組數據。他表示，媒體在微博獲得大流量的同時，傳播力也得到了充分提升，平臺的輿論引導價值不斷顯現(xiàn)。從2024年開始，微博創(chuàng)建起“媒體共建”機制，讓更多正能量話題登上熱搜，并提供更多流量加持。
當前，互聯(lián)網上內容生態(tài)，已經成為算法治理成效的重要標志。以微博為例，王高飛介紹，除了原創(chuàng)、首發(fā)、“暖”等標簽外，還將“辟謠”“主題宣傳”“官方回應”等標簽開放給媒體，在發(fā)布時可以對內容進行標注；根據媒體做的標注，平臺會對原創(chuàng)內容加權推薦。
不僅微博，當前多家平臺不斷發(fā)揮自身優(yōu)勢，與主流媒體大力合作，擴大優(yōu)質內容影響力?？焓挚萍悸?lián)合創(chuàng)始人楊遠熙介紹，他們逐漸構建了以主流媒體、政務號為核心的正能量矩陣，通過算法優(yōu)化分發(fā)鏈路，擴大優(yōu)質內容的覆蓋面和影響力。
針對“信息繭房”問題，抖音總裁韓尚佑分享了自身體驗——我們在實踐中發(fā)現(xiàn)，如果只推薦單一內容，會使用戶很快厭倦，導致用戶體驗下降。因此，我們將消除“信息繭房”作為一項重要目標，建立了多目標模型，設置了100多個目標，以解決單一目標下系統(tǒng)容易重復推送相似內容的問題；還加強了推薦系統(tǒng)中對搜索行為的應用，讓系統(tǒng)更加實時地根據用戶搜索興趣進行調整。
“以透明化破除信任危機，以多樣化應對信息同質，以系統(tǒng)化實現(xiàn)協(xié)同治理?！彬v訊公司副總裁陳勇也提到，他們正在陸續(xù)構建更豐富的“破繭”功能矩陣，并提供用戶指引，包括便捷關閉個性化推薦、“不感興趣”的負反饋、內容多樣性綜合評估、推薦類目自定義等能力，通過算法迭代和體驗優(yōu)化的雙支點，讓用戶找得到、用得上、有實效。
凈化互聯(lián)網內容生態(tài)，也需要提高算法透明度，為用戶賦權，讓他們了解算法邏輯?！八惴ǖ陌l(fā)展，必須以用戶為中心，保障其知情權、選擇權、隱私權?！睏钸h熙介紹，快手公開熱搜排序規(guī)則，并通過趣味視頻、智能客服等渠道，向用戶普及算法邏輯，確保透明、可監(jiān)督。
小紅書也通過優(yōu)化產品設計，在長期信息流的分發(fā)中，把50%流量分配給用戶。“‘信息繭房’是一個雙向過程，平臺和用戶在內容偏好上，要做到靈活調節(jié)，借助正、負反饋機制，進一步破除‘繭房’?！毙〖t書總編輯、副總裁許磊說。
創(chuàng)新技術驅動，跑出速度展現(xiàn)溫度
隨著生成式人工智能快速發(fā)展，社交媒體逐步向算法和數據主導的智能媒體方向演進。如何順應技術趨勢，驅動算法創(chuàng)新發(fā)展？
楊遠熙提到“技術共治”這一關鍵詞。他認為，要以技術監(jiān)管技術，依托大模型能力實時監(jiān)測推薦偏差，對低質內容實施“智能熔斷”，輔助審核模型訓練，強化內容識別與治理能力；秉持“算法向上向善”理念，加大以人工智能為代表的技術研發(fā)，持續(xù)優(yōu)化算法推薦內容池，保障內容推薦的公平性、透明性、多樣性。
阿里巴巴集團安全總裁錢磊認為，作為數字時代的新質生產力，算法可以從海量數據中發(fā)現(xiàn)和總結新的規(guī)律，讓各類企業(yè)特別是中小企業(yè)享受技術紅利，獲得生產效率的大幅提升。
對此，錢磊提出了“守己利他”的技術理念——“守己”，需要讓人工智能自始至終處于人類的控制之下，確保其生成的內容符合價值觀、具備正能量；“利他”，堅持普惠創(chuàng)新、服務中小企業(yè)的初心，對該企業(yè)的通義大模型進行全尺寸、全模態(tài)、全能力的開源。
技術迭代提升效率的同時，也要做到“有溫度”?！八惴?，已經成為保障騎手權益的重要抓手。當騎手擺脫配送時間的焦慮，在奔波忙碌中擁有更好的工作體驗，算法便不再是那么冰冷的工具?！泵缊F黨委書記、副總裁陳榮凱說。
比如，在配送時間方面，美團已公開“預估送達時間”算法規(guī)則，并且針對遠距離、單量多等配送難度較大的訂單，用預估送達時間段替代預估送達時間點；近期，還將在全國范圍上線“防疲勞”措施，當日跑單超過8小時的騎手將收到防疲勞彈窗提醒，超過12小時將強制下線。
在加強對特定群體關懷方面，陳勇舉例說，視頻號等產品已推出夜間休息提醒等功能，鼓勵用戶健康用網；持續(xù)升級未成年人模式與青少年專屬內容池，幫助未成年人擺脫網絡沉迷；及時推送健康辟謠信息，設立防詐騙等宣傳專區(qū)，幫助老年人提高防范意識；為視障聽障等特殊需求用戶提供無障礙服務模式等。
此外，多家平臺加強行業(yè)聯(lián)動，推動產學研合作，提升算法技術創(chuàng)新能力，加強算法安全研究，提高抵御安全風險能力。比如，快手與清華大學聯(lián)合推出“負責任的內容推薦關鍵技術研究與應用”項目，聚焦解決自身平臺推薦中的視頻曝光偏差等問題；阿里巴巴成立“算法安全藍軍”，與清華大學、復旦大學等高校聯(lián)動，在實戰(zhàn)中提升檢驗防御能力，進一步守護算法安全。
凝聚多方合力，構建共治共享格局
“算法就像我們做菜時放的鹽。我們需要算法創(chuàng)造價值、帶來便利，也要正視算法帶來的諸多挑戰(zhàn)?！标愑乱浴胞}”為喻，建議“用量精準”，只有堅持高效可用、安全可靠、透明可知、自主可控的原則，算法才能在新航路上乘風破浪。
算法紅利不斷惠及廣大網民，但算法治理同樣沒有“旁觀者”，需要政府、平臺、用戶、社會等多方合力，形成“共建共治共享”的治理格局。
為進一步深化互聯(lián)網信息服務算法綜合治理，中央網信辦等四部門于2024年11月聯(lián)合發(fā)布了《關于開展“清朗·網絡平臺算法典型問題治理”專項行動的通知》，明確“信息繭房”、大數據“殺熟”、誘導沉迷等六大整治重點，督促企業(yè)深入對照自查整改，進一步提升算法安全能力。
近些年，多家互聯(lián)網企業(yè)發(fā)力構建“向上向善”算法治理生態(tài)。陳勇認為，需要堅持用戶為本和長期主義，在算法設計底層杜絕短視逐利、過度商業(yè)化、流量饑渴等竭澤而漁的行為。楊遠熙表示，快手通過成立算法安全委員會等措施，全面統(tǒng)籌算法安全管理監(jiān)督工作，構建算法安全、算法糾偏、算法透明體系，實現(xiàn)內容的真實與向善。韓尚佑介紹，抖音“安全與信任中心”網站已試運行上線，面向社會全面公開抖音的算法原理、社區(qū)規(guī)范、治理體系、客戶服務……
在分享會現(xiàn)場，“算法向善”南寧宣言發(fā)布，重點互聯(lián)網企業(yè)代表集體簽署，并承諾：算法的溫度取決于開發(fā)者的態(tài)度，算法的“清朗”源自踐行者的擔當。
在互聯(lián)網發(fā)展日新月異的當下，我們唯有堅持主流價值導向，推動算法向上向善，互聯(lián)網這艘巨輪方能行穩(wěn)致遠。