摘要：第一代鑒黃師正如大家所想的那樣，通過(guò)一雙肉眼鑒別淫穢圖片和視頻。老司機(jī)帶著新司機(jī)在這個(gè)階段，傳統(tǒng)鑒黃師從完成鑒別工作轉(zhuǎn)變到教會(huì)機(jī)器如何識(shí)別的更準(zhǔn)確。

在互聯(lián)網(wǎng)高速發(fā)展的今天，直播平臺(tái)，內(nèi)容社區(qū)，視頻網(wǎng)站等UGC/PGC平臺(tái)蓬勃發(fā)展，如雨后春筍般出現(xiàn)。但巨大的安全隱患也接踵而至，內(nèi)容審核成為企業(yè)最關(guān)鍵的一道防火墻。企業(yè)招聘大量的內(nèi)容審核專員來(lái)應(yīng)對(duì)包括色情、暴力、犯罪等多個(gè)方面的不良內(nèi)容。其中鑒黃師可能是最神秘也最令人遐想的崗位了。

說(shuō)起鑒黃師，大家會(huì)心一笑，看看黃圖還有高收入，簡(jiǎn)直沒(méi)天理。但是在從業(yè)人員看來(lái)，它真的那么令人向往嗎？阿里聚安全小編專訪了負(fù)責(zé)阿里內(nèi)容安全（阿里綠網(wǎng)）的資深賽車手——來(lái)自阿里安全多媒體算法團(tuán)隊(duì)的唐秋。常年戰(zhàn)斗在一線的他，是如何學(xué)習(xí)高超的駕駛技巧？

從鑒黃師到“鑒黃師”
唐秋告訴小編，鑒黃師發(fā)展到今天，它的身份已然有著不同的變化。
第一代鑒黃師正如大家所想的那樣，通過(guò)一雙肉眼鑒別淫穢圖片和視頻。但這份工作并不輕松，他們每天需要完成海量的圖片視頻鑒別。因此長(zhǎng)時(shí)間從事這份工作，不僅對(duì)身體是一種摧殘。觀看太多的色情作品，甚至扭曲的色情作品，還會(huì)對(duì)心理造成極大的創(chuàng)傷，影響正常的性生活和婚姻關(guān)系。

圖片來(lái)源于網(wǎng)絡(luò)

在人工鑒黃成本上升和互聯(lián)網(wǎng)日益猖獗的色情信息的環(huán)境下，第二代“鑒黃師”應(yīng)運(yùn)而生。
第二代“鑒黃師”從人工鑒黃演變到機(jī)器智能鑒黃，通過(guò)人工智能、深度學(xué)習(xí)和大數(shù)據(jù)樣本等技術(shù)，千萬(wàn)張正常圖片與色情圖片的訓(xùn)練模型，最終生成一個(gè)智能鑒黃模型。

智能鑒黃模型生成步驟

上面這張圖的步驟里，制定標(biāo)準(zhǔn)與標(biāo)注數(shù)據(jù)的難度比訓(xùn)練模型更大一些。因?yàn)楝F(xiàn)實(shí)世界是復(fù)雜的，不同的人對(duì)同一張圖片的認(rèn)識(shí)往往不一樣。

打個(gè)比方，女性泳裝圖片，如果以沙灘為背景如何判定，換成室內(nèi)環(huán)境呢？?jī)和膶?xiě)真該如何判斷？

為了制定標(biāo)準(zhǔn)，他們了承受很大的壓力，一旦沒(méi)處理好，會(huì)引起輿論的壓力和監(jiān)管部門(mén)的處罰。阿里內(nèi)容安全團(tuán)隊(duì)的運(yùn)營(yíng)與算法同學(xué)一起討論修訂了數(shù)次才有了初版，并且在后續(xù)打標(biāo)過(guò)程中根據(jù)遇到的問(wèn)題進(jìn)行了幾次增補(bǔ)，標(biāo)準(zhǔn)才穩(wěn)定下來(lái)。

阿里內(nèi)容安全的智能鑒黃技術(shù)使用非常簡(jiǎn)單，輸入一張圖片或視頻，算法模型返回一個(gè)0-100之間的分值。這個(gè)分值非線性地標(biāo)示圖片含色情內(nèi)容的概率：得分99及以上的圖片幾乎可以肯定是色情圖，可以機(jī)器自動(dòng)處理；得分50-99的需要人工審核；得分50以下的認(rèn)為是正常圖，因?yàn)?0分及以上包含了99%以上的色情圖片。

阿里內(nèi)容安全的圖片識(shí)別結(jié)果

在獲取最初的樣本過(guò)程中，唐秋告訴小編一個(gè)數(shù)據(jù)：近2000網(wǎng)站，6000+萬(wàn)疑似色情圖片，1300+萬(wàn)的高質(zhì)量標(biāo)注。他說(shuō)這是智能鑒黃最重要的一塊基石。

“老司機(jī)”帶著“新司機(jī)”
在這個(gè)階段，傳統(tǒng)鑒黃師從完成鑒別工作轉(zhuǎn)變到教會(huì)機(jī)器如何識(shí)別的更準(zhǔn)確。他們給得分在50-99的圖片視頻標(biāo)注“正?！?、“性感”、“色情”的分類，機(jī)器根據(jù)標(biāo)注去學(xué)習(xí)，讓它們變的越來(lái)越聰明。

那么有一個(gè)問(wèn)題：會(huì)出現(xiàn)教會(huì)徒弟，餓死師傅的情況嗎？
“教會(huì)徒弟后，是讓師傅更加輕松。而且，師傅和徒弟可以互相學(xué)習(xí)，共同進(jìn)步”。唐秋告訴阿里聚安全小編，智能審核+人工審核是目前國(guó)內(nèi)互聯(lián)網(wǎng)公司主流的內(nèi)容審核方法。

智能審核為主
智能識(shí)別每天可以處理幾億張圖片，不僅可以節(jié)省企業(yè)大量的人力成本，并且大大提高識(shí)別的準(zhǔn)確率。還能提供音視頻、文字、直播等形式的內(nèi)容檢測(cè)，覆蓋鑒黃、暴恐、涉政、廣告等多種內(nèi)容風(fēng)險(xiǎn)。每一條視頻/信息的發(fā)布，都將經(jīng)過(guò)機(jī)器和人工等多道審核。

以上智能審核的功能可以訪問(wèn)阿里聚安全提供的內(nèi)容安全服務(wù)免費(fèi)測(cè)試體驗(yàn)（http://jaq.alibaba.com/green），企業(yè)可使用戶通過(guò)低成本的一次接入，與OSS、ECS等云產(chǎn)品無(wú)縫對(duì)接。它支撐著阿里系淘寶、支付寶等核心業(yè)務(wù)的內(nèi)容安全。目前微博、熊貓TV、支付寶都在使用阿里內(nèi)容安全功能，覆蓋社交、直播、金融等多個(gè)行業(yè)。

人工審核為輔
雖然在后期機(jī)器識(shí)別越來(lái)越精準(zhǔn)，可以勝任絕大部分的審核工作，但是相比人工審核還是有一定的局限性。因?yàn)闄C(jī)器還很難模擬出正常的用戶體驗(yàn)，很難理解內(nèi)容背后的深意，很難作出準(zhǔn)確的“人的判斷”。并且直播和視頻行業(yè)盛行的今天，機(jī)器檢測(cè)其內(nèi)容的難度較大，還是需要人工來(lái)輔助審核完成。

但隨著智能技術(shù)的更新，識(shí)別效率的提高，人工審核的占比將越來(lái)越低，人工智能或許可以徹底將傳統(tǒng)鑒黃師以及內(nèi)容審核專員解放出來(lái)，最終傳統(tǒng)鑒黃師將會(huì)往第三代發(fā)展。