映象財經

　　AI扛起清道夫的掃把 

　　近日，多款在線學習類APP被曝光產品內暗藏大量“黃段子”，“學霸君”“小猿搜題”等熱門在線學習軟件均牽涉其中。針對這一問題，全國“掃黃打非”辦公室已協調相關部門進行深入調查，并且會同宣傳、網信、工信、公安、文化、工商、新聞出版廣電等部門，在全國范圍內開展互聯網低俗色情信息專項整治行動。

　　近兩年來，直播平臺、資源共享下載平臺、各類APP，以及各種圖片、視頻社交網站迅速發展，但是魚龍混雜、良莠不齊，面對互聯網上充斥的不健康信息，我們該怎么辦？

　　涉黃與凈化上演貓鼠游戲 人工審核“力不從心” 

　　相信很多人還對“快播被禁”事件記憶猶新。2014年4月中旬快播科技對外宣布，快播會關閉qvod服務器，停止基于快播技術的視頻點播和下載，清理低俗內容與涉盜版內容。

　　在此之后，國家監管政策密集頒布，一個個涉黃平臺被關停。國家對淫穢色情信息的嚴厲監管，也使得網絡行業催生了一個新工種——被網友調侃為“宅男福利職業”的人工鑒黃師。

　　之所以被看作“福利”，是因為他們不但需要涉獵大量黃色圖片、文字、視頻等，而且還能掙高額工資。很多人還記得，4年前，某互聯網公司曾用20萬高薪招聘“首席淫穢色情鑒定官”。

　　但是，看似“風光”的背后是心理和生理的雙重壓力。據科技日報記者了解，一個鑒黃師平均一天要看2萬張圖，同時需要“白加黑、五加二”不間斷工作。“圖普科技”運營總監、“AI鑒黃師”姜澤榮就吐槽：“說當‘鑒黃師’是件美差的人，都不了解這個職業。”

　　對眾多平臺而言，聘請鑒黃師需要巨額投入。阿里安全專家王金廷向科技日報記者表示，一個100人的審核團隊，一年花費要在840萬元左右。但是即使在年薪20萬的誘惑下，每個平臺也只有幾十或者上百個人的監管隊伍。當直播高峰期來臨時，成千上萬的主播在線，讓監管隊伍“力不從心”。

　　AI“清道夫”培訓上崗 用三把尺子鑒定影像 

　　在這樣的前提下，引入“AI鑒黃師”解放一大部分審核師就顯得意義非凡。利用機器替代人工進行基礎的審核工作，對于以視頻和圖片為主的網絡平臺而言，成為了一種剛需。

　　王金廷指出，使用“AI鑒黃師”可以減少90%以上人工成本；可實現精準審核過濾，甚至可達到99%以上的準確率；相對于人工鑒黃3小時輪班輪崗的效率，AI可以24小時不間斷審核，并且“無工傷、無工資”。

　　但是“AI鑒黃師”在上崗前還需要通過工程師的“訓練”才能開始工作。首先人們會給AI輸入海量數據，對它們進行標簽化訓練，告訴它，ABC這樣的情況屬于色情，DEF這樣的情況屬于非色情；然后AI會通過學習，提取ABCDEF的特征來判斷G是不是色情。

　　當然，不同的“AI鑒黃師”工作的技術路線也不盡相同，但“套路”是一致的，一般會通過3方面對實時視頻影像進行分析鑒定：是否有人物，如有，色情概率增加；人形輪廓的膚色比例，如果比較大，色情概率增加；姿態分析，如有性行為姿勢，則色情概率增加。

　　在網絡凈化的道路上，國內多家IT巨頭早已開始布局。阿里的綠網、騰訊的萬象優圖等紛紛下水，創業公司也積極參與凈化業務，“八仙過海，各顯神通”。

　　王金廷是負責“阿里綠網”的產品專家。據介紹，基于深度學習技術及阿里巴巴多年的海量數據支撐，“阿里綠網”可提供圖片、視頻、文字等多媒體的內容風險智能識別服務，在節省90%以上人力成本的同時，該應用支持秒級返回結果，達到99%以上的準確率。

　　騰訊優圖DeepEye智能鑒黃技術，可對目標圖片進行系統識別，準確率高達99.9%。它不僅可以用于靜態圖片的審核，還可以應用到動態的直播業務中，透過對直播流抽幀鑒定處理，讓違規“色情主播”秒進“小黑屋”。

　　機器發力還需人工輔助 AI獨立審核任重道遠 

　　無疑，人工智能介入內容識別是偉大的進步。但上述機器審核都不能獨立進行，還需要人工輔助。

　　在采訪中，關于人工智能何時能獨立扛起審核大旗的疑問，科技日報記者從眾多專家那里得到的比較一致的看法是，“在現有技術條件下，要實現AI完全替代人工尚需時日”。

　　人工智能如此發達，為何還替代不了人？王金廷向記者列舉了人工智能審核時的3個瓶頸。“首先AI需要適應不同行業不同用戶的審核標準，這中間的差異性會非常大，對于人工智能算法的挑戰也很大；其次，針對新出現的變異風險，算法需要有強大的自我學習能力，這也是目前需要解決的問題；最后，要真正實現無人化，人工智能需要達到在沒有人的參與下訓練。”

　　此外，現階段，人工智能還遠未模擬出用戶的真實體驗，涉黃與否，很難作出準確的“人的判斷”。以Google為例，有超過一萬名員工充當著搜索結果評估者的角色。這或許也說明了人工智能“上位”還需加把勁。究其原因，機器檢測到含有敏感詞匯的文字內容，會將其刪除或向用戶發出警告。但對于圖片、視頻的審核，機器無法像對文字內容一樣提取關鍵詞，審核難度較大。

　　“人工智能雖然取得了很大進步，但遠未到徹底替代人的時候。”王金廷認為，隨著技術的進步，人工智能也許會徹底解放人類。不過到了那一天，人工鑒黃師恐怕就要失業了。（記者 王延斌）