AI鑒黃師走紅 凈化網(wǎng)絡(luò)環(huán)境意義重大

一位“鑒黃師”的電腦上貼著便簽，上面注明了甄別色情信息的標(biāo)準(zhǔn) 圖/中新網(wǎng)

羊城晚報記者 龔衛(wèi)鋒

前晚，“斗魚直播”一檔名叫《職男職女職播》的綜藝節(jié)目與觀眾見面。這檔節(jié)目每周會請來不同行業(yè)的專家們，為青年人解決職業(yè)困惑。本周是該系列的第二期：上一期在武漢直播，請來的嘉賓是法醫(yī)；這一期在廣州直播，請來的嘉賓身份更具話題性——他們是“AI鑒黃師”。

三位嘉賓中，姜澤榮是互聯(lián)網(wǎng)“圖像識別”領(lǐng)域龍頭企業(yè)“圖普科技”的運(yùn)營總監(jiān)，也是一名“AI鑒黃師”。他這個“老司機(jī)”帶著兩位“小司機(jī)”同事在直播中談笑風(fēng)生，讓觀眾了解到：這份網(wǎng)友眼中很酷的工作，其實(shí)并不輕松；而有了AI人工智能技術(shù)（Artificial Intelligence）的助力，“鑒黃”的效率已經(jīng)大大提高。

背景

“網(wǎng)絡(luò)監(jiān)管加強(qiáng)，

越來越多直播平臺請鑒黃師把關(guān)”

“快播被禁”堪稱2014年的年度事件。2014年4月16日快播科技發(fā)布公告稱，快播將關(guān)閉qvod服務(wù)器，停止基于快播技術(shù)的視頻點(diǎn)播和下載，清理低俗內(nèi)容與涉盜版內(nèi)容。同年8月，全國“掃黃打非”辦公室發(fā)布消息稱，深圳快播科技有限公司網(wǎng)上傳播淫穢色情信息案主要犯罪嫌疑人、快播公司法定代表人兼總經(jīng)理王欣于8月8日被依法抓捕歸案。

“國家非常重視對淫穢色情信息的監(jiān)管，我們公司成立時，就把‘鑒黃’作為公司的重要工作，第一個客戶是迅雷。”姜澤榮透露，當(dāng)時迅雷給了很多數(shù)據(jù)幫他們調(diào)整并優(yōu)化系統(tǒng)，不過，迅雷如何利用系統(tǒng)則不在他們的控制范圍內(nèi)，“迅雷不存儲內(nèi)容，用戶下載并分享的過程中觸發(fā)‘過濾’機(jī)制才有可能被禁，但達(dá)到多少基數(shù)會被禁，我們不知道。”

“AI鑒黃師”與“傳統(tǒng)鑒黃師”通過肉眼瀏覽過濾色情信息不同，他們的工作是將大伙兒從互聯(lián)網(wǎng)上搜集的圖片、視頻進(jìn)行分類整理，分別放入系統(tǒng)“正常”、“性感”、“色情”三大板塊中，“我們調(diào)教機(jī)器去識別色情信息，通過樣本建立模型，最終趨近于達(dá)到人眼識別的效果，原理和AlphaGo一樣。”圖普科技客戶經(jīng)理周耀輝說道。

他們公司現(xiàn)在有上百個客戶，其中直播客戶占了很大的量，這與近兩年直播行業(yè)的急速發(fā)展密不可分。“部分直播平臺為了賺快錢，專門請美女主播滾動直播色情內(nèi)容，結(jié)果上線沒多久就被禁。”圖普科技市場經(jīng)理鄧柯解釋，“對網(wǎng)絡(luò)信息管控比較重視的企業(yè)會走得更遠(yuǎn)。”

國家對直播平臺的監(jiān)管也在逐漸加強(qiáng)，去年4月13日，百度、新浪、搜狐等20余家直播平臺共同發(fā)布《北京網(wǎng)絡(luò)直播行業(yè)自律公約》，承諾網(wǎng)絡(luò)直播房間必須標(biāo)識水印；內(nèi)容存儲時間不少于15天備查；所有主播必須實(shí)名認(rèn)證；對于播出涉槍、涉毒、涉暴、涉黃內(nèi)容的主播，情節(jié)嚴(yán)重的將列入黑名單；審核人員對平臺上的直播內(nèi)容進(jìn)行24小時實(shí)時監(jiān)管。

《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》2016年12月1日起在全國施行，明確禁止互聯(lián)網(wǎng)直播服務(wù)提供者和使用者利用互聯(lián)網(wǎng)直播服務(wù)從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益、傳播淫穢色情等活動。

于是，越來越多的直播平臺開始找“AI鑒黃師”幫助，一旦有主播傳播色情信息、系統(tǒng)判定為“色情”后，會立即通知直播平臺“封號”；系統(tǒng)拿不準(zhǔn)的信息，會被發(fā)送到直播平臺系統(tǒng)中，讓鑒黃師人工判定。通常，從“判定信息為色情”到“查封賬號”，平均用時為30秒。

工作

“機(jī)器幫忙識別色情信息，實(shí)時監(jiān)控直播的越軌舉動”

鄧柯介紹：“視頻直播的利潤空間之大，普通人難以想象。比如一個以喊麥著稱的主播，辦一場活動號稱‘日薪百萬’，很多直播平臺不惜花百萬元甚至千萬元去挖一個TOP級別的主播。”據(jù)悉，一些美女主播為了維持足夠的用戶粘度，常常一段直播長達(dá)兩小時，甚至有人曾表演長達(dá)8小時的絲襪舞，平均每隔三分鐘念一遍感謝粉絲贈送禮物的名單……當(dāng)她們做出一些越軌舉動時，往往能收獲很多禮物，折合成人民幣數(shù)額相當(dāng)可觀，于是一些美女主播不時打打“情色”擦邊球。

去年11月28日，女主播“雪梨槍”因傳播色情視頻內(nèi)容被判有期徒刑4年，給這類突破底線的主播們敲響了警鐘。“利用色情謀利是直播平臺的大忌，以身犯險極易觸犯法律。”周耀輝說。姜澤榮也強(qiáng)調(diào)違法行為是不能容忍的：“人有需求很正常，但釋放途徑要得當(dāng)，利用這一點(diǎn)做違規(guī)、違法的事情很不好。”

周耀輝表示，直播平臺對于“AI鑒黃師”的需求量很大：“因?yàn)橹辈ナ菍?shí)時性的，隨時可能有人做出越軌舉動，機(jī)器（系統(tǒng)）會把視頻實(shí)時導(dǎo)出成一張張圖片，以方便鑒別。”不過，各個平臺的尺度不一樣，姜澤榮說：“我們把機(jī)器給直播平臺使用，但他們在調(diào)用時選擇的尺度是不同的。”

“內(nèi)容管控是個世界性課題，很多人覺得海外網(wǎng)絡(luò)管控很松，可以隨意瀏覽色情網(wǎng)站，其實(shí)這是一種誤解，不少國家和地區(qū)的管控相當(dāng)嚴(yán)格，比如在實(shí)名認(rèn)證的情況下，Google Play對色情是零容忍的，而日本AV有明確的分級制度。”周耀輝指出了人們的一些認(rèn)識誤區(qū)。

有人責(zé)難“鑒黃師”，認(rèn)為他們堵塞了人性的出口。對此姜澤榮持反對意見。他認(rèn)為，在尚未“分級”的情況下，“寧可錯殺一千，也不能放過一個”，而“一刀切”目前看來是必要的，必須防止色情視頻對青少年身心健康的危害，但他們希望另一方面，“性教育”也該完善。他表示：“我們調(diào)查也發(fā)現(xiàn)，很多家長沒有正確引導(dǎo)孩子，一味壓抑也是不對的。”

在機(jī)器和人的努力下，如今色情直播現(xiàn)象明顯少了很多，“我們平臺數(shù)據(jù)顯示，現(xiàn)在直播過程中，出現(xiàn)色情內(nèi)容的比例是萬分之四。”鄧柯說。

感受

“安靜理性適合當(dāng)鑒黃師，

太活潑的人干不了”

“剛開始做這份工作有些不適應(yīng)，當(dāng)你打開屏幕，滿屏都是不堪入目的內(nèi)容，我整個人都凌亂了。”姜澤榮的同事毛毛，是這次斗魚直播節(jié)目《職男職女職播》的一位嘉賓，“美女鑒黃師”的標(biāo)簽讓她在幾位嘉賓中特別搶眼。

姜澤榮被同事稱為“老司機(jī)”，是AI鑒黃的元老。“公司剛成立時，部門只有四個人，加班非常多，一天起碼有六個小時在搜集數(shù)據(jù)，簡單說，就是看黃圖、黃片，然后把它們?nèi)拥綌?shù)據(jù)庫中。”他們部門“技術(shù)宅”居多。“我們在招聘時對性格有要求，太活潑的人當(dāng)不了鑒黃師，性格安靜、理性的人比較適合。”姜澤榮說。

2013年，百度、騰訊、金山等10多個互聯(lián)網(wǎng)公司組成的“安全聯(lián)盟”，公開招聘“首席淫穢色情鑒定官”，條件是年薪20萬元、五險一金、每天有酸奶水果福利，工作內(nèi)容就是對著電腦專職識別色情淫穢網(wǎng)站。很多人覺得這份工作很酷，但隨后也不斷傳出有鑒黃師申請“工傷”索賠的新聞。姜澤榮吐槽道：“說當(dāng)‘鑒黃師’是件很酷的事情的人，都不了解這個職業(yè)。凡事都有個度，什么事都耐不住天天看啊！”姜澤榮解釋，“鑒黃”只是他工作的一部分，他們還在開拓其他智能識別項(xiàng)目。

“我們組有6個人，全是男性，都不會跟外界說自己是‘鑒黃師’，因?yàn)閷芏嗳藖碚f，這不是什么很好的工作，說出去會影響別人對你的看法。但另一方面，凈化網(wǎng)絡(luò)環(huán)境的工作是有意義的。”姜澤榮通常會跟親友說自己是做互聯(lián)網(wǎng)技術(shù)的，如今還有種高大上的說辭——“我在做‘人工智能’。”

(責(zé)編：kita)