AI技术也可以成为虚假图片、虚假视频的“粉碎机-上海交通新闻
点击关闭

智能中国-AI技术也可以成为虚假图片、虚假视频的“粉碎机-上海交通新闻

  • 时间:

女排世界杯四连胜

同時,由於偽造特徵長期處於不斷變化中,沒有統一的模型,這些特性都給微弱信號的捕捉與識別工作增加了難度。因此要在眾多信息內容中識別真偽,並且廣泛而有效地應用AI技術,就要研究「魔高一尺,道高一丈」的AI反制技術,持續研發並不斷升級,為信息安全堡壘築起「銅牆鐵壁」。

當和信息安全產生紛繁的糾葛時,人臉識別技術到底是「天使」還是「魔鬼」?電氣與電子工程師協會(以下簡稱「IEEE」)在北京舉辦的年度媒體交流會上,IEEE高級會員、中科院自動化研究所副研究員、中國人工智能學會理事董晶博士給出了答案。

CNSPHOTO供圖ZAO等軟件或泄露用戶生物信息近期,換臉App「ZAO」一夜爆紅。用戶只需上傳照片,就能不費吹灰之力地與明星「換臉」參演影視劇。

實際上,AI換臉並不是新鮮事。雖然ZAO並未透露其技術細節,但其換臉技術與開源的deepfakes(一款AI換臉軟件)極為相似。deepfakes的核心技術是一種名為生成式對抗網絡(GAN)的框架,該網絡有兩個模塊,一個負責生成偽圖,另一個負責鑒別生成圖片的質量,通過「對抗博弈」的方式不斷進化,達到以假亂真的水平。

然而,要真正藉助AI技術保障信息安全,反將惡意篡改圖片及視頻一軍,目前還需要翻越偽造特徵這座「巨山」。能將偽造特徵在視覺內容中有效地檢測與識別,往往決定了真偽鑒定技術的可靠性。然而,偽造特徵作為一種「微弱信號」,很多時候不易被察覺。

今年世界人工智能大會(WAIC)上發佈了報告《人工智能時代數字內容治理機遇與挑戰》。該報告指出,如今數字內容深度偽造正威脅社會穩定。對此,董晶深表認同,她表示,「在信息爆炸的AI大數據時代,由於數據的易篡改性和易偽造性,大量的虛假信息正嚴重誤導着大眾視聽。在5G時代到來之際,這一負面影響或將被無限放大。要解決這一問題,應及時布局防禦技術,加快人才隊伍建設,促進科研成果與數據庫對學術界開源。」

AI也能成為虛假「粉碎機」雖然數據隱私保護是當前AI技術的發展隱患之一,但AI技術既是可以是「矛」也可以是「盾」,AI技術也可以成為虛假圖片、虛假視頻的「粉碎機」。

董晶介紹,可通過反向利用AI技術,從偽造圖片的蛛絲馬跡中辨別真偽信息。「我們首先需要確定人類視覺系統和計算機視覺系統在識別特定信息的認知特性、機理與計算方法,通過借鑒兩類視覺系統之間的認知以及計算的差異性和關聯性來鑒別圖像真偽。」

看似低門檻的AI娛樂體驗,卻隱含巨大的隱私風險。董晶在接受中國商報記者採訪時表示,ZAO這類軟件實際上技術含量並不高,其主要風險還是在於背後的隱私問題。「由於這些技術都利用了生物信息,而生物信息本身具有不可撤銷性,因此它們一旦被泄露或濫用,就會給用戶帶來嚴峻且永久的後果,甚至會對司法調查、保險鑒定等嚴肅而敏感的地帶造成嚴重衝擊。」

中國商報/中國商網(記者 祖爽)「扎克伯格假視頻」「藏羚羊假照片」等虛假視頻圖片都曾掀起軒然大波,而近日大火的換臉App「ZAO」也引發人們對這種低門檻人臉識別軟件隱私風險的擔憂。

今日关键词:央视批评周琦