你是否經(jīng)歷過(guò)這樣的情況：搜索一個(gè)話題后，相關(guān)內(nèi)容便接二連三地出現(xiàn)；關(guān)注了一個(gè)博主，過(guò)兩天就被推薦了該博主的視頻……這些并非偶然，而是“算法”根據(jù)用戶興趣推薦的結(jié)果。
國(guó)家數(shù)據(jù)局發(fā)布數(shù)據(jù)顯示，2024年，我國(guó)數(shù)字經(jīng)濟(jì)核心產(chǎn)業(yè)增加值占GDP比重達(dá)10%左右，集成電路、人工智能、工業(yè)軟件、基礎(chǔ)軟件取得長(zhǎng)足進(jìn)步，智能產(chǎn)品、直播電商等成為消費(fèi)新熱點(diǎn)。
在數(shù)字經(jīng)濟(jì)時(shí)代，算法正深刻地融入我們的日常生活。然而，理解算法需要一定的專業(yè)知識(shí)，因此，提高算法的透明度，能夠有效地驅(qū)散信息的迷霧。
此前，中央網(wǎng)信辦等部門(mén)聯(lián)合發(fā)布的《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》提出，優(yōu)化檢索、排序、推送等規(guī)則的透明度和可解釋性，預(yù)防和減少爭(zhēng)議糾紛。以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、主要運(yùn)行機(jī)制等，確保簡(jiǎn)單、清晰、可理解。
在政策推動(dòng)下，今年，眾多互聯(lián)網(wǎng)平臺(tái)擬面向社會(huì)公開(kāi)算法原理、社區(qū)規(guī)范、治理體系和用戶服務(wù)機(jī)制等信息。
“今年3月，抖音安全與信任中心網(wǎng)站上線試運(yùn)行，網(wǎng)站首次公開(kāi)平臺(tái)推薦算法原理，介紹其如何預(yù)估用戶行為概率，并通過(guò)多目標(biāo)建模等方式實(shí)現(xiàn)更優(yōu)質(zhì)、豐富的內(nèi)容推薦。”抖音相關(guān)負(fù)責(zé)人表示，希望借此讓公眾對(duì)平臺(tái)工作更加親身可感，讓算法更透明、治理更完善、服務(wù)更到位，最終實(shí)現(xiàn)算法、平臺(tái)和社會(huì)生態(tài)共同的向上和向善，讓科技進(jìn)步服務(wù)于人民群眾的美好生活。
在互聯(lián)網(wǎng)高速發(fā)展的今天，算法是高效分發(fā)的工具，如何讓算法向上向善，同時(shí)規(guī)避其可能帶來(lái)的問(wèn)題，社會(huì)普遍關(guān)注。
“抖音更關(guān)注用戶長(zhǎng)期價(jià)值，而非追求短期數(shù)據(jù)，多樣化推薦有助于打破‘信息繭房’，為用戶帶來(lái)更豐富多元、實(shí)用可靠的推薦結(jié)果?！鄙鲜鲐?fù)責(zé)人表示。
“為引導(dǎo)算法打破‘信息繭房’，算法可以在多目標(biāo)建模體系下，設(shè)置專門(mén)的探索維度。一是為用戶盡可能推薦更多樣的內(nèi)容，通過(guò)多樣性打散、多興趣召回、扶持小眾興趣等方法控制相似內(nèi)容出現(xiàn)的頻次；二是幫助用戶探索更多新興趣，采用隨機(jī)推薦、搜索推薦聯(lián)動(dòng)、‘不感興趣’不再展現(xiàn)等多種方式，使推薦更加個(gè)性化和多樣化?！鄙鲜鲐?fù)責(zé)人說(shuō)。
由于算法不懂內(nèi)容語(yǔ)義，在推薦上存在一定缺陷，人工“護(hù)航”也不可或缺?！八惴軐W(xué)習(xí)、預(yù)估用戶行為，但因其對(duì)內(nèi)容語(yǔ)義的理解存在不足，可能導(dǎo)致違法違規(guī)、不良內(nèi)容被推薦傳播。”上述負(fù)責(zé)人表示，算法在真實(shí)使用場(chǎng)景中，要輔以人工治理對(duì)其進(jìn)行約束和規(guī)范。
上述負(fù)責(zé)人介紹，其平臺(tái)內(nèi)容治理體系采用“人工參與+機(jī)器學(xué)習(xí)”相結(jié)合的模式，并組建了專門(mén)的治理團(tuán)隊(duì)為算法設(shè)置“護(hù)欄”。視頻被舉報(bào)、評(píng)論區(qū)出現(xiàn)集中質(zhì)疑、流量激增等情況出現(xiàn)，均可能觸發(fā)“人工+機(jī)器”審核。一旦內(nèi)容在任一環(huán)節(jié)被處置，系統(tǒng)會(huì)立即停止進(jìn)一步推薦和分發(fā)。
算法的背后，是一個(gè)個(gè)具體的人。業(yè)內(nèi)專家表示，未來(lái)，算法與每個(gè)人息息相關(guān)，讓算法更好服務(wù)于人，需要政府、平臺(tái)、用戶、社會(huì)等多方合力，共筑人與算法共生互促的AI生態(tài)，為推動(dòng)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展提供有力支撐。