編譯 | 禾木木

出品 | AI科技大本營（ID:rgznai100）

Deepfake 是一種 AI換臉工具，現(xiàn)被濫用，從虛假宣傳活動到插入一些違法內(nèi)容，并且篡改后的圖像是難以被檢測到的。

一種新的 AI 工具提供了一項(xiàng)令人驚訝的簡單方法來發(fā)現(xiàn)它們：觀察眼睛反射的光。

該系統(tǒng)是由 Buffalo 大學(xué)的計算機(jī)科學(xué)家創(chuàng)建。在對肖像風(fēng)格照片的測試中，該工具在檢測 Deepfake 偽造圖像方面的有效率為 94%。

該系統(tǒng)在通過分析角膜來曝光偽造的圖片，角膜具有鏡面般的表面，在光線照射下會產(chǎn)生反射圖案。

在相機(jī)拍攝的真實(shí)人臉照片中，兩只眼睛的反射會相似，因?yàn)樗鼈兛吹降氖窍嗤臇|西。但是，由 GAN 合成的 Deepfake 圖像通常無法準(zhǔn)確捕捉到這種相似之處。

相反，它們經(jīng)常表現(xiàn)出不一致，例如會有不同的幾何形狀或不匹配的反射位置。

Deepfake 圖像（右）中的角膜有更大的差異，可能是因?yàn)樗鼈兪峭ㄟ^組合許多照片生成的。

人工智能系統(tǒng)會通過繪制人臉，并分析每個眼球反射的光來搜索這些差異。

它會生成一個分?jǐn)?shù)作為相似性度量。分?jǐn)?shù)越小，這張偽造后的圖片就越有可能是 Deepfake 。

事實(shí)證明，該系統(tǒng)被證明檢測取自 This Person does not Exist 的 Deepfake 方面非常有效，這是一個使用 StyleGAN2 架構(gòu)創(chuàng)建的圖像存儲庫。然而，研究者承認(rèn)它有一些局限性。

該工具最明顯的缺點(diǎn)是它依賴于雙眼的反射光源。這些圖案中的不一致可以通過后期動手處理來修復(fù)，如果圖像中看不到眼睛的話，則該方法將不起作用。

它也僅僅是對肖像圖片有效，如果照片中的人臉沒有看著相機(jī)，系統(tǒng)則可能會產(chǎn)生誤報。研究人員計劃調(diào)查這些問題，以提高方法的有效性。以目前的形式來說，它不會檢測到最復(fù)雜的 Deepfake ，但它仍然可以發(fā)現(xiàn)許多粗糙的。

參考鏈接：

https://thenextweb.com/news/ai-detects-deepfakes-analyzing-light-reflections-in-the-cornea-eyes-gans-thispersondoesnotexist