今日頭條推出反低俗小程序APP

　　近日，今日頭條正式推出小軌范工具，“靈犬反低俗助手”成為首批小軌范之一。“靈犬”基于今日頭條反低俗模子，是國內(nèi)首款利用人工智能技術(shù)反低俗的小軌范。用戶在輸入框內(nèi)任意輸入一段文字或文章鏈接，即可檢測(cè)內(nèi)容健康指數(shù)，并給出算法判定功效。

　　在今日頭條App搜索“靈犬”，就可打開“靈犬反低俗助手”小軌范頁面。對(duì)于網(wǎng)民輸入的文字或鏈接，“靈犬”會(huì)進(jìn)步前輩行提取、分詞和語義識(shí)別，然后按照設(shè)定的軌則，輸出對(duì)應(yīng)的分?jǐn)?shù)、評(píng)級(jí)和結(jié)論。這里面，分?jǐn)?shù)指的是“健康概率”，評(píng)級(jí)是“質(zhì)量指數(shù)”，結(jié)論則會(huì)奉告是否可以獲得“算法舉薦”。這是基于算法模子措置低俗內(nèi)容的一般路徑：“收集數(shù)據(jù)-標(biāo)注樣本-訓(xùn)練模子”。在人工智能反復(fù)訓(xùn)練中，靈犬會(huì)實(shí)現(xiàn)自我進(jìn)化。

　　這個(gè)“反低俗”小軌范在實(shí)際應(yīng)用中有何用途呢?對(duì)于創(chuàng)作者來說，輸入之后能夠判斷出本身的作品是否違規(guī)，是否涉嫌色情、抄襲、標(biāo)題黨等，也會(huì)獲得一個(gè)結(jié)論：起這個(gè)標(biāo)題或?qū)戇@篇文章是否會(huì)被舉薦;用戶發(fā)現(xiàn)不良內(nèi)容則可以舉報(bào)，共同沖擊低俗內(nèi)容;此外，“靈犬”系統(tǒng)是智能識(shí)別，本身對(duì)頭條平臺(tái)上的內(nèi)容也會(huì)有個(gè)自動(dòng)的監(jiān)測(cè)過程，過濾掉低俗內(nèi)容。

　　據(jù)領(lǐng)會(huì)，除了運(yùn)用AI等技術(shù)手段，今日頭條今朝也已投入數(shù)千人的專業(yè)審核團(tuán)隊(duì)，并搭建色情、低俗、標(biāo)題黨、虛假信息、低質(zhì)模子180多個(gè)，有效晉升了內(nèi)容審核的效率和精確度。后續(xù)頭條還將對(duì)外開放更多技術(shù)模子，包羅辟謠模子、沖擊標(biāo)題黨模子等。