|
1. 近日,國家互聯網信息辦公室、公安部指導各地網信部門、公安機關加強對語音社交軟件和涉“深度偽造”技術的互聯網新技術新應用安全評估工作。 近兩年,深度偽造,即deepfake不斷登上新聞頭條,成為一種主要的新興網絡威脅: 比如“假靳東”事件騙局,僅靠合成的語音和視頻就能演變成現象級詐騙;比如2017年,有人制作發布了奧巴馬的deepfake演講視頻,引起全球風波;甚至連美國安全專家都曾發出警告,稱DeepFake可能成為對下屆美國總統大選造成影響的最有威脅的人工智能技術之一。
△國外模仿特朗普的網站 《人工智能時代數字內容治理機遇與挑戰》報告中也指出,如今數字內容深度偽造正威脅社會穩定。政治或經濟利益驅動下的內容造假,大范圍地廣泛傳播或是針對特定人群的精準推送,將惡化數字內容質量,破壞信息傳播秩序,甚至催生或煽動社會極化情緒,誘發各種社會問題。 深度偽造是一種技術手段,所以要對這些數字內容進行治理,必須擁有“魔高一尺,道高一丈”的AI反制技術——鑒偽技術。 2. 據悉,聯合國區域間犯罪與司法研究所人工智能與機器人中心開始研究檢測虛假視頻的技術; 美陸軍作戰能力發展司令部也在積極研發基于云的“VICE”視頻識別系統和基于服務器的“VIBES”語音識別系統,防范深度偽造; 國內目前各大廠商正在全速布局相關領域,遠鑒就已經掌握了優秀的聲紋鑒偽技術,并將其應用于多媒體音視頻分析與處理,幫助合作伙伴有效對多媒體信息進行監控及關聯,完善風險防控機制和措施,對語音、視頻、圖像等多媒體信息全方位作業。 遠鑒的聲紋鑒偽技術通過提取聲音多尺度頻域信息特征,再結合多算法融合分類與判決等技術,能夠對語音產生的真實性、來源真實性等多個維度進行考量和分析,有效防止人聲模仿、語音合成、錄音回放、聲音轉換等行為,達到防范“深度偽造”的目的。在利用來源于多家語音合成平臺的數據進行多次檢測后,遠鑒的檢測準確率高達98.7,效果相當理想。
3. 其實除了深度偽造的風險,直播、短視頻等音視頻社交平臺還存在著很多潛藏的風險——比如人工審核團隊審核不及時、一人多馬甲管理難、違規代播發現難等等問題。音視頻處理與分析能力已經成為了此類應用重要的博弈砝碼,優秀的技術能力能幫助應用更好的鑒別違法違規信息、保護優質內容、大幅提升用戶體驗度。 人工智能時代,數字內容治理的機遇與挑戰將長期并存,技術既可以用來偽造視頻、圖像等內容,也能成為辨別虛假內容的“火眼金睛”。只要及時布局防御技術,加速相關技術研究,就無需恐慌,AI賦能數字內容產業繁榮發展才是大勢所趨。 |
- 關注天氣:
