|
當(dāng)下，UGC內(nèi)容量的爆發(fā)超出所有人的想象。據(jù)粗略統(tǒng)計(jì)，每天上傳到Y(jié)ouTube的視頻可以連續(xù)播放98年，F(xiàn)acebook每天發(fā)布的照片量堆起有80個(gè)埃菲爾鐵塔那么高，有200萬(wàn)篇文章在網(wǎng)上發(fā)布，相當(dāng)于美國(guó)《時(shí)代》刊發(fā)770年的總量…… 面對(duì)如此龐大的內(nèi)容量，如何篩選內(nèi)容，確保內(nèi)容符合法律法規(guī)，成了很多內(nèi)容平臺(tái)首要解決的問題。在智能鑒黃領(lǐng)域，國(guó)內(nèi)名氣較大的第三方平臺(tái)有阿里綠網(wǎng)和網(wǎng)易云易盾、騰訊云萬(wàn)象優(yōu)圖、圖譜科技等。內(nèi)容平臺(tái)尤其是直播平臺(tái)在面對(duì)這些第三方服務(wù)時(shí)，往往“一頭霧水”，因?yàn)椴恢肋@些企業(yè)提供的服務(wù)到底怎么樣?能否解決他們的需求。抱著對(duì)技術(shù)發(fā)展的好奇心，筆者從一個(gè)內(nèi)容審核外包公司獲取了一些圖片，在這些平臺(tái)上做了一下測(cè)評(píng)(為了保證文章能夠順利發(fā)出，一些圖片做了打碼處理)，把結(jié)果呈現(xiàn)給大家，供各位參考。圖片實(shí)測(cè)  圖一雖然只是一張應(yīng)用內(nèi)截圖照片(已打碼)，色情部分的占比相對(duì)較少，但是人工審核肯定是：黃色圖片一張! 但是人工智能識(shí)別效果未必就那么出色了。那么人工智能鑒黃平臺(tái)會(huì)如何評(píng)判呢?結(jié)果請(qǐng)見下圖。  結(jié)果顯示從左至右分別是：阿里綠網(wǎng)、騰訊優(yōu)圖、圖譜科技、網(wǎng)易云易盾。從測(cè)試結(jié)果來看，各家對(duì)于色情部分占比較小的圖的檢測(cè)結(jié)果不盡人意(根據(jù)各家檢測(cè)標(biāo)準(zhǔn)，檢測(cè)結(jié)果百分比越高代表越接近標(biāo)簽標(biāo)準(zhǔn)，在該例當(dāng)中意味著越接近色情內(nèi)容)，僅有一家作出了疑似的判斷。  圖二這張圖片雖然暴露部分不多，但是有強(qiáng)烈的性暗示，可以算作性感，也可以算作色情，這種人工審核一般也會(huì)選擇刪除，那么鑒黃服務(wù)平臺(tái)會(huì)是什么反應(yīng)?我們一起來看看。  結(jié)果顯示從左至右分別是：阿里綠網(wǎng)、騰訊優(yōu)圖、圖譜科技、網(wǎng)易云易盾。從測(cè)試結(jié)果來看，阿里綠網(wǎng)直接標(biāo)為疑似，圖譜科技標(biāo)為性感疑似，這兩家的情況相對(duì)較好。但騰訊優(yōu)圖和網(wǎng)易云易盾直接標(biāo)為正常和非色情。圖三這是一張正常的美女圖片，在智能鑒黃平臺(tái)這會(huì)是什么結(jié)果?結(jié)果顯示從左至右分別是：阿里綠網(wǎng)、騰訊優(yōu)圖、圖譜科技、網(wǎng)易云易盾。這張圖片的檢測(cè)結(jié)果相對(duì)較好，只有阿里綠網(wǎng)給出疑似色情的結(jié)果，需要人工復(fù)核。每個(gè)父母都希望在某些平臺(tái)上曬一下自己的萌娃，作為一個(gè)正常人，我們也非常樂意看到這樣的圖片——天真無邪類型。這些圖片比上面的三張圖片相對(duì)來說可視性要高，但是有一些暴露出敏感部位的嬰兒圖片也有涉嫌“兒童色情”的風(fēng)險(xiǎn)，現(xiàn)在抵制兒童色情的呼聲這么強(qiáng)烈，也許人工審核也會(huì)選擇刪除。那么對(duì)于這類圖片，智能鑒黃平臺(tái)會(huì)如何評(píng)判?結(jié)果顯示從左至右分別是：阿里綠網(wǎng)、騰訊優(yōu)圖、圖譜科技、網(wǎng)易云易盾。這張圖片原圖較小，可能導(dǎo)致模型不容易識(shí)別。從測(cè)試結(jié)果上來看，阿里綠網(wǎng)則顯示疑似，圖譜直接標(biāo)為色情。但騰訊優(yōu)圖和網(wǎng)易云易盾則直接通過，存在一定風(fēng)險(xiǎn)。總體測(cè)試結(jié)果分析：第一張圖片：內(nèi)容審核員評(píng)判：色情圖片; 平臺(tái)表現(xiàn)：圖譜科技>阿里綠網(wǎng)>騰訊優(yōu)圖>網(wǎng)易云易盾。第二張圖片：內(nèi)容審核員評(píng)判：色情圖片;平臺(tái)表現(xiàn)：阿里綠網(wǎng)>圖譜科技>網(wǎng)易云易盾>騰訊優(yōu)圖。第三張圖片：內(nèi)容審核員評(píng)判：美女圖片;平臺(tái)表現(xiàn)：騰訊優(yōu)圖>網(wǎng)易云易盾>圖譜科技>阿里綠網(wǎng)。第四張圖片：內(nèi)容審核員評(píng)判：涉嫌兒童色情;平臺(tái)表現(xiàn)：圖譜科技>阿里綠網(wǎng)>騰訊優(yōu)圖>網(wǎng)易云易盾。從上述的測(cè)試結(jié)果看，阿里綠網(wǎng)第一張圖片誤判，之后的圖片卻都是疑似?疑似的意義是什么呢。圖譜科技這家以鑒黃業(yè)務(wù)起家的公司，在美女圖片和兒童色情識(shí)別上是不是有點(diǎn)太嚴(yán)格。騰訊優(yōu)圖和網(wǎng)易云易盾的測(cè)試結(jié)果表現(xiàn)一般，后續(xù)還需要加強(qiáng)相關(guān)數(shù)據(jù)的訓(xùn)練。最后，一點(diǎn)心得體會(huì)供大家參考，相關(guān)的測(cè)試對(duì)比結(jié)果文章并不少，大家可能發(fā)現(xiàn)各自呈現(xiàn)出不一樣的結(jié)果，也許是測(cè)試圖庫(kù)不一樣，也許是測(cè)試方法不一樣。建議大家用自己較多的數(shù)據(jù)去親測(cè)為好，根本不用關(guān)注公司名氣的大小，意義不大，測(cè)試出真知，同時(shí)考量其服務(wù)的專業(yè)性和及時(shí)性來綜合評(píng)估。 |
- 關(guān)注天氣:
