|
10月24日，國際安全極客大賽GeekPwn 2020在上海完美落幕。本次大賽聚焦云、AI、5G等前沿技術，發起首屆CAAD虛假人臉AI識別大賽，RealAI與清華大學計算機系聯合戰隊TSAIL以絕對的比分優勢拿下該賽目的冠軍。 AI遇上假臉傻傻分不清楚？近年來，“AI換臉”風靡一時引發社會廣泛關注，從最初的侵犯肖像權，到近期犯罪分子使用AI假臉實施犯罪，“AI換臉”正帶來一系列緊迫現實問題：電信詐騙、財產盜刷、偽造色情視頻…… 雖然人眼難辨真假，但通過AI技術卻可以對虛假人臉進行識別，這也成為了現階段計算機視覺領域競相研究的熱點。為此，在今年重磅開啟的賽程中，GeekPwn發起首屆CAAD虛假人臉AI識別大賽，深入挖掘人臉識別現實安全威脅。 比賽中，主辦方為五組選手提供真假混合的視頻、圖片數據，要求選手現場開發出?AI檢測方法，快速識別出圖像以及視頻中的虛假人臉。 同時為了增加比賽的對抗性，主辦方還在決賽中設計了攻防環節：每隊選手既要用自家的?AI模型識別出其他隊伍的假臉，又要用假臉騙過其他隊伍的 AI模型，這樣的設置同時考察了選手利用AI技術識別和造假的能力。經過激烈的比賽，TSAIL聯合戰隊最終以1450分斬獲第一名。 作為這次聯合戰隊的代表成員，RealAI安全算法負責人蕭子豪表示，隨著AI技術在視聽資料領域的快速發展跟普及，“AI換臉”的門檻變得越來越低，普通人也可以上手，而且生成的內容逼真，偽裝性強、欺騙性高，背后的安全隱患不容忽視。 就如GeekPwn主辦方希望通過實戰演練的方式推動更加快速、高效的虛假人臉檢測方法出現，RealAI依托自身積累，深入研究深度偽造內容和真實內容的表征差異性辨識、不同生成途徑的深度偽造內容一致性特征挖掘等問題，于此前推出DeepReal深度偽造內容檢測平臺，能夠快速、精準地對多種格式與質量的圖像與視頻進行真偽鑒別。 在蕭子豪看來，換臉檢測本質上也是“魔高一尺、道高一丈”攻防不斷升級的過程，DeepReal基于大規模的真實和偽造的圖像素材進行訓練，創建大容量神經網絡，簡單來看，通過生成大量更逼真的換臉素材來訓練出更高準確率的檢測技術。整體來看，DeepReal平臺目前具備三大優勢： ?訓練數據量達到百萬級，覆蓋學術深偽數據集、網絡深偽數據集和自研深偽數據集三大類數據形式； ?高準確率，在學術數據集和ZAO等主流方式生成的數據集中達到99以上的準確率； ?高檢測效率，每張圖片的檢測時間可控制在50ms之內，每秒視頻的檢測時間在150ms之內，一天可支持320小時的視頻文件或340萬張圖片文件的檢測。 通過降低虛假內容檢測的技術門檻，DeepReal平臺能夠幫助用戶更好的應對深度偽造帶來的一系列挑戰。除了預防利用AI換臉實施詐騙等犯罪行為，DeepReal平臺還可以協助公安、司法等執法部門鑒別圖片、視頻等物證真偽，以及輔助視頻網站、社交媒體等第三方內容平臺實時檢測虛假信息內容。 憑借在換臉檢測領域的創新技術優勢，RealAI近年來也頻頻現身國內外多場安全挑戰賽。2019年，Facebook、微軟、亞馬遜、麻省理工等知名企業、高校曾聯合發起一場針對深度偽造檢測的挑戰賽Deepfake Detection Challenge，最終RealAI助力清華團隊取得了初賽1、決賽5的優異成績。 包括對抗樣本攻防也是RealAI長期以來深耕的研究方向，在去年GeekPwn大賽中聯合清華團隊斬獲“CAAD CTF圖像對抗樣本挑戰賽”以及“CAAD隱身挑戰賽”兩個賽道的冠軍，并在今年發起的CAAD-AI變臉口罩挑戰賽中勇奪第四名。 作為安全AI領域的代表企業，解決AI潛在安全問題、提升AI安全性是RealAI長期奮斗的目標。未來，RealAI將持續探索前沿安全技術，加速攻防成果落地，為人工智能產業發展提供更加完善的安全防護體系，助力行業穩健成長。 |
- 關注天氣:
?
