導(dǎo)讀:這段時(shí)間以來(lái),快手快手全員都處于異常忙碌的大整狀態(tài),有內(nèi)部員工表示,改上
北京西城外圍(高級(jí)資源)真實(shí)外圍女上門外圍大學(xué)生vx《189=4143》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)他們忙到一周都沒(méi)怎么睡覺,長(zhǎng)控宿華在致歉信中提到的制?!巴晟粕鐓^(qū)運(yùn)行規(guī)則”“建立未成年人保護(hù)體系”“打擊和清除低俗色情內(nèi)容”等,也全都在一一對(duì)照改進(jìn)落實(shí)。式封
距離國(guó)家廣播電視總局下發(fā)嚴(yán)肅處理“快手”“今日頭條”的禁萬(wàn)通報(bào),已經(jīng)過(guò)去了十日。名用
這期間,快手“快手”在安卓應(yīng)用商店暫時(shí)下架;“內(nèi)涵段子”永久關(guān)停;火山小視頻、大整西瓜視頻整改升級(jí)。改上
短視頻行業(yè)持續(xù)震動(dòng)。長(zhǎng)控快手CEO宿華發(fā)出致歉信,制模向公眾承認(rèn)錯(cuò)誤,式封并宣布整改。禁萬(wàn)這封致歉信被知名科技評(píng)論作者keso評(píng)論為“誠(chéng)懇到宿華這樣的道歉,真的沒(méi)見過(guò)”。

但光有道歉是不夠的,“低俗”視頻怎么處理、未成年人如何保護(hù)、內(nèi)容審核怎么人機(jī)結(jié)合、價(jià)值觀怎么把握,快手面臨大考。
據(jù)悉,在快手內(nèi)部,
北京西城外圍(高級(jí)資源)真實(shí)外圍女上門外圍大學(xué)生vx《189=4143》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)已經(jīng)達(dá)成共識(shí),就是媒體和監(jiān)管部門提出的問(wèn)題確實(shí)存在,而且正如宿華在致歉信中寫的“是長(zhǎng)久以來(lái)我們一直沒(méi)能重視的問(wèn)題”,快手上下也發(fā)自內(nèi)心覺得需要做一番徹底的反思和整改。
所以,這段時(shí)間以來(lái),快手全員都處于異常忙碌的狀態(tài),有內(nèi)部員工表示,他們忙到一周都沒(méi)怎么睡覺,宿華在致歉信中提到的“完善社區(qū)運(yùn)行規(guī)則”“建立未成年人保護(hù)體系”“打擊和清除低俗色情內(nèi)容”等,也全都在一一對(duì)照改進(jìn)落實(shí)。
從快手內(nèi)部來(lái)說(shuō),也期待通過(guò)這次整改,優(yōu)化和提升社區(qū)品質(zhì),撕掉low和低俗的標(biāo)簽,重塑形象。
為什么“先審后發(fā)”還是出現(xiàn)了問(wèn)題? 快手的內(nèi)容審核壓力,并不是十天前才開始有的。
2018年春節(jié)期間快手用戶單日上傳視頻數(shù)量突破1500萬(wàn)條,每分鐘上傳視頻的峰值達(dá)到43000條,創(chuàng)歷史新高。
這意味著快手原本的2000名內(nèi)容審核員,要在機(jī)器的配合之下,對(duì)每天1500萬(wàn)條視頻內(nèi)容進(jìn)行審核。當(dāng)時(shí)快手對(duì)媒體表示:快手的內(nèi)容評(píng)級(jí)團(tuán)隊(duì)和產(chǎn)品技術(shù)團(tuán)隊(duì)放棄了與家人團(tuán)聚的機(jī)會(huì),只為確保春節(jié)期間包括內(nèi)容審核在內(nèi)的用戶體驗(yàn)“不缺位”。
從節(jié)后的效果來(lái)看,某些時(shí)候,內(nèi)容審核“缺位”了。央視在節(jié)目中指出,快手太負(fù)面,熱捧早孕網(wǎng)紅,直播私奔。
按照快手方面的介紹,快手所有視頻都能做到先審后發(fā)。針對(duì)每條用戶上傳視頻,快手都會(huì)采用“四審三查”機(jī)制。四審包括上傳前預(yù)審、入庫(kù)前一審、發(fā)布前二審、發(fā)布中三審。第一次審核依靠來(lái)自機(jī)器的信息安全體系做判斷,第二次審核就開始引入人工。
除此之外還有三查,即全程官方巡查、全程用戶監(jiān)督、內(nèi)外監(jiān)控體系。
全程官方巡查,指有專職全天候巡邏人員團(tuán)隊(duì),查缺補(bǔ)漏;全程用戶監(jiān)督,建立了一套快捷高效的用戶與其他渠道投訴舉報(bào)體系;內(nèi)外監(jiān)控體系,有內(nèi)外兩套獨(dú)立監(jiān)察體系,互相監(jiān)督。
但為什么百分之百的“先審后發(fā)”還是出現(xiàn)了問(wèn)題?
有視頻平臺(tái)內(nèi)容審核員告知,一般來(lái)說(shuō)人工審核采用的方式是切幀,但現(xiàn)在的很多視頻的制作技巧比較新,比如只有幾個(gè)違規(guī)畫面短暫露出,審核難度較大。
還有一個(gè)問(wèn)題在于:如果未成年媽媽在平臺(tái)上成為一個(gè)現(xiàn)象,那么這與平臺(tái)的審核能力無(wú)關(guān),反而與平臺(tái)的審核原則有關(guān),這也是快手此次整改的一個(gè)主要方向。
在快手,機(jī)器的審核能力也是經(jīng)過(guò)訓(xùn)練的:在以數(shù)千萬(wàn)人工時(shí)計(jì)的案例判斷的基礎(chǔ)上,輔以深度學(xué)習(xí)智能識(shí)別技術(shù),并憑借大量數(shù)據(jù)與長(zhǎng)期實(shí)踐累積,建立了一套信息審核規(guī)則體系。
這套體系將歷史上已經(jīng)完成判定的違規(guī)內(nèi)容與判定標(biāo)準(zhǔn)明確的內(nèi)容,先行過(guò)濾,色情暴力等違法違規(guī)內(nèi)容不得上傳。
但社會(huì)道德問(wèn)題在更新、變化。
“涉及到社會(huì)道德、公序良俗的內(nèi)容判定,是短視頻行業(yè)共同面臨的難題。就快手來(lái)說(shuō),如果已經(jīng)有人工進(jìn)行判定的判例,機(jī)器會(huì)進(jìn)行處理;如果是比較新的狀況,則需要人工先判定,然后再做處理?!笨焓謨?nèi)部人士告訴刺猬公社(ID:ciweigongshe)。
該人士還公開了一組數(shù)據(jù),截止目前快手已經(jīng)清理問(wèn)題短視頻31萬(wàn)條,封禁5.6萬(wàn)名用戶,清理6.5萬(wàn)個(gè)用戶名。

快手也宣布,將在原有2000名專職審核人員的基礎(chǔ)上,招聘3000名本科學(xué)歷并有較強(qiáng)政治敏感度與鑒別能力的審核員,落實(shí)共青團(tuán)員和黨員優(yōu)先政策,提供高于同行薪資,加快建立一支政治堅(jiān)定、業(yè)務(wù)精湛的工作隊(duì)伍,所有審核員都會(huì)在進(jìn)經(jīng)過(guò)專業(yè)培訓(xùn)后上崗。
算法的價(jià)值觀和流量如何均衡? 算法有沒(méi)有價(jià)值觀?
人民日?qǐng)?bào)法人微博對(duì)今日頭條的嚴(yán)厲批評(píng)認(rèn)為:如果一味追求爆款,卻不拆除引發(fā)危機(jī)的“爆破點(diǎn)”;如果貪圖飆車式發(fā)展,卻無(wú)視“剎車”功能失靈;如果只要價(jià)值,不要價(jià)值觀,甚至鼓吹“算法沒(méi)有價(jià)值觀”,就難免出事。產(chǎn)品不能淪為算法的奴隸。


宿華也在致歉信里說(shuō):“社區(qū)運(yùn)行用到的算法是有價(jià)值觀的,因?yàn)樗惴ǖ谋澈笫侨?,算法的價(jià)值觀就是人的價(jià)值觀,算法的缺陷是價(jià)值觀上的缺陷。”
他在致歉信中為正確的價(jià)值觀劃了一個(gè)標(biāo)準(zhǔn):
1.只有符合國(guó)家法律法規(guī)、遵循社會(huì)公序良俗的作品,才能進(jìn)行算法推薦。
2.所有的算法規(guī)則,必須服從健康積極、陽(yáng)光向上的價(jià)值觀。
3.改進(jìn)算法,優(yōu)先推薦個(gè)性化的更符合用戶興趣的正能量作品,放大優(yōu)秀作品的影響力、感染力。
有使用快手習(xí)慣的用戶可能會(huì)發(fā)現(xiàn),整改后,快手的發(fā)現(xiàn)頁(yè)面推薦內(nèi)容短時(shí)間內(nèi)變化較大。主流媒體的聲音被放大。
快手方面統(tǒng)計(jì),在堅(jiān)持社會(huì)主義核心價(jià)值觀指導(dǎo)算法,放大優(yōu)秀作品的影響力、感染力,熱門頁(yè)面下線整改期間,平臺(tái)精心篩選正能量視頻共得到逾170億次曝光,獲得超31億次播放、6900萬(wàn)次雙擊喜歡、9500萬(wàn)條評(píng)論、3400萬(wàn)次分享。

但不管是“正能量視頻”還是“主流媒體的聲音”,實(shí)際上都是放大了人工編輯在推送中的干預(yù)作用。這和算法推薦的邏輯,是相反的,習(xí)慣于快手百分之百算法推薦的用戶,可能會(huì)在短時(shí)間內(nèi)感受到很大的不同。
快手方面對(duì)刺猬公社解釋稱,此次調(diào)整后,用戶使用快手的過(guò)程中,仍然會(huì)收到自己感興趣的內(nèi)容,但發(fā)現(xiàn)頁(yè)正能量的視頻會(huì)有所增加。
另外,快手在保證視頻內(nèi)容符合社會(huì)主義核心價(jià)值觀的前提下,會(huì)按照個(gè)人興趣以及拓展個(gè)人興趣邊界來(lái)推薦視頻內(nèi)容,幫助用戶發(fā)現(xiàn)更廣闊的世界,避免信息繭房。
快手方面還表示,會(huì)尊重用戶的正常表達(dá)權(quán),在保證視頻內(nèi)容符合社會(huì)主義核心價(jià)值觀的前提下,會(huì)把用戶體驗(yàn)放在首位。
如何保護(hù)平臺(tái)上的未成年用戶? 在快手的用戶群中,有一類是特殊的——未成年人。
此前,中央電視臺(tái)曝光快手和火山小視頻推未成年媽媽視頻,也成了整頓的導(dǎo)火索,輿論認(rèn)為,快手和火山小視頻等短視頻平臺(tái)上未成年人的“出格”行為,可能會(huì)對(duì)更多的未成年人形成示范效應(yīng)。
宿華在致歉信中已經(jīng)明確提出,要建立未成年人保護(hù)體系,對(duì)視頻進(jìn)行分級(jí),對(duì)于未成年用戶可能看到的視頻,進(jìn)行嚴(yán)格過(guò)濾,嚴(yán)禁未滿18歲用戶開通直播權(quán)限。

具體措施包括,4月12日起,快手上線“家長(zhǎng)控制模式”,家長(zhǎng)可通過(guò)密碼一鍵開啟/關(guān)閉“兒童鎖”功能,過(guò)濾不適宜未成年觀看的內(nèi)容,并關(guān)閉開啟直播、直播打賞、查找、同城、錢包等功能,從4月13日起,發(fā)現(xiàn)頁(yè)未成年過(guò)濾內(nèi)容池正式上線,該模式將持續(xù)進(jìn)行迭代更新。
,家長(zhǎng)可以通過(guò)設(shè)置密碼,選擇開啟“家長(zhǎng)控制模式”,和未開啟模式相比,頁(yè)面發(fā)生了較大變化,首頁(yè)同城入口消失,“八卦”“消息”“私信”“查找”等功能均無(wú)法使用。
如果是在“家長(zhǎng)控制模式”之下使用快手,平臺(tái)吸引力至少損失三分之一。
一方面無(wú)法主動(dòng)搜索關(guān)注熟人,私信入口被隱藏,除了已經(jīng)互相關(guān)注的朋友,幾乎不能再進(jìn)行定向的社交拓展;另一方面,“消息”功能消失,也就意味著未成年人發(fā)送到平臺(tái)上的視頻,缺乏了一個(gè)獲得點(diǎn)贊提示的窗口,對(duì)激發(fā)用戶的創(chuàng)作能力有較大的影響。
對(duì)快手來(lái)說(shuō),這次整頓其實(shí)是價(jià)值觀的重構(gòu)。平臺(tái)的內(nèi)容審核其實(shí)是存在容錯(cuò)率的,不可能所有違規(guī)視頻都能逃過(guò)審核者的眼睛,應(yīng)該說(shuō),所有的平臺(tái)都存在這個(gè)問(wèn)題。
只是在視頻發(fā)出來(lái)以后,平臺(tái)可以自查,也可以收到來(lái)自用戶的舉報(bào)信息,遺漏視頻很容易得到處理,并不會(huì)引起太大的水花。
但顯然,這次整頓前夕,輿論攻擊的大多數(shù)視頻,在快手等平臺(tái)上都不是個(gè)例,這是審核原則的漏洞,體現(xiàn)出的是平臺(tái)的價(jià)值觀。
從這個(gè)層面上來(lái)看,快手想通過(guò)這次整頓,改變外界形象,確實(shí)是個(gè)還不錯(cuò)的機(jī)會(huì)。