Reddit最熱：一個專門給不可描述照片加水印的APP被AI破解了！

新智元報道

來源：reddit

編輯：張佳、鵬飛

【新智元導讀】比利時的電信提供商面向青少年推出一款名叫「.comdom」的安全App，可以為發送的照片加上接收者的信息作為水印，防止私密照片二次傳播。但沒想到短短几天就被一組研究人員破解了，完美復現原圖，引發reddit網友熱議。戳右邊鏈接上新智元小程序了解更多！

先問個嚴肅的問題，你有沒有收到過睡在你上鋪的兄弟給你發來的不可描述照片？

一項對10300名18歲以下青少年的調查表明，sexting越來越普遍，15%的青少年表示他們發過。在個別歐美國家，這一比例會更高，比如在比利時，有近50%的15-21歲青少年都干過這種事。

為了防止這些圖片被濫用，比利時的電信提供商Telenet想了個辦法，它與Child Focus合作推出了一個名叫「.comdom」的App。看名字也知道，這個App能讓青少年之間發送簡訊更安全。

簡單來說，它可以給照片加水印。與常見的水印不同，它的水印包含照片接收者的姓名和電話號碼。而且，水印覆蓋了整個照片，用普通的圖像編輯工具（例如Photoshop）很難去除。

這樣一來，如果你發給對方的隱私照片被二次傳播，每個人都會知道是誰幹的了。通過這種方式，Telenet希望可以降低隱私照片被二次傳播的比例。

但是，加了水印就真的安全了嗎？

水印被破解，AI幫大忙

今天，一項破解此App的帖子登上了reddit最熱榜：

安全sexting App無法抵擋AI

短短几天內，幾位來自比利時根特大學IDLab-MEDIA的研究人員開發了一種可自動去除水印的工具，同時保持較高的圖像質量，並附上了他們的效果圖：

使用App加水印後的圖

使用他們的工具去掉水印後的圖

是不是完美還原？如果說後一張圖是原圖相信很多人都會相信。他們是如何做到的呢？答案就是AI。

這項除水印研究由根特大學Peter Lambert教授的IDLab-MEDIA研究小組的研究人員Martijn Courteaux和Hannes Mareen進行（上圖中從左到右的三人）。研究人員可以很容易地找出應用程序是如何構造水印的。然後，他們將水印本身（以多種形式）應用於隨機選取的數千張照片的集合中。最後，在此基礎上，訓練一個相對簡單的人工智慧演算法（神經網路）來找出加水印的照片與其原始照片之間的關係，之後，這個演算法便能夠從該App拍攝的照片中去除水印。

「.comdom的開發人員低估了現代AI技術的力量。」不過，研究人員表示，為了保護使用這個App的人，不會發布他們去除水印的軟體。

去水印事小，社會意義重大！

表面上看，這是又一起「大學生成功破解商業應用」的案例，但其背後的社會意義卻不容小視，尤其是DeepFake技術越來越成熟的今天。所以該新聞一登錄Reddit立即引發社群用戶關注和熱議，我們先來看看大家對此事件都有什麼想法。

DeepFake的擔憂：發照片不露臉也沒」那麼「安全了

從App開發者的角度來看，他們確實找到了一個可行的防止圖片被普通用戶二次傳播的機制。然而在AI從業者看來，這個方式就顯得有點小兒科。

Rhakae：我覺得這個所謂的「安全發送不可描述照片」的功能沒意義好嘛？最有效的方式是 1）堅決不發；2）要發也別露臉。

MuonManLaserJab：除了Rhakae提到的兩點，我覺得還有一個可能更有效的方式。致力於開發圖像偽造軟體，以至於你甚至能給老闆發一段你自己的基情視頻然後說「看，我做的這DeepFake多逼真！」。那麼以後再有類似東西流出的話，大家就都沒興趣了。（簡直是以毒攻毒至高境界！）

Dr_Thrax_Still_Does：不誇張地說，2020年絕對會有一大波能實現頭身互換功能的App甚至是網站，你懂得。而在足夠多圖片的投喂下，AI甚至能做出極度接近真實細節的圖片。

Kautiontape：不露臉雖然並不意味著徹底安全，但起碼相對來說還是更安全一些。因為你沒辦法阻止所有人，但只要能阻止大多數就很不錯了。這個項目的目的是完美去除水印。，那麼我們是否可以認為可以對水印進行重構呢？

MuonManLaserJab：技術總是很難保持隱秘的，演算法遲早會被人識破，有人可以反過來利用這項技術來做壞事。但我相信一個安全模型被人攻破的時候，會迫使技術開發新的升級模型。

schludy：下一步，去掉衣服！

AbsolutelyNotTim：畢生之追求。

睿智的網友正在分析背後的實現原理

LartTheLuser：他們需要使用一組秘密的特殊構造的小波基函數和與加密密鑰相對應的一組小波權重的反向小波變換作為一組橢圓曲線的域參數，該組橢圓曲線的元素只有 .comdom 知道。它們使用多個橢圓曲線，可能有數百個橢圓，以防密鑰泄漏，並且由於具有冗餘性，它們可以隨著時間的推移而循環。

然後，信號將逆小波變換與一些複雜的函數進行卷積，這些函數是通過對抗生成而生成的，這些函數具有非常強大的神經網路，可以對這些信號進行反卷積。

然後進行創建，以便.comdom應用程序通過運行上述過程的逆過程將圖像載入到屏幕時，將水印動態添加到屏幕上。也就是說必須：1）運行強大的神經網路以對反生成的卷積信號進行反卷積。2）使用小波基函數的先驗知識進行小波變換，並獲得橢圓曲線權重的一些子集。3）使用特殊的專用橢圓曲線將各種橢圓曲線分解為分量，並驗證該分量是有效的密鑰，以及與圖片水印內容的哈希對應的代碼。最後使用該哈希值檢索水印的內容並覆蓋在圖像上。

這樣，只要在應用程序或其他參與的應用程序上顯示已知圖像，就會始終對其加水印。唯一的解決方法是解決一個非常困難的AI問題，一個非常困難的信號問題以及一個迄今為止無法破解的加密機制的複雜序列。

我很確定，中央情報局和其他先進的情報機構用的就是這個機制。

毫秒級圖像去噪！英偉達、MIT新AI系統完美去水印

其實，圖片去水印並不是什麼新鮮事。在ICML2018上，英偉達和MIT等機構的研究人員展示了一項圖像降燥技術Noise2Noise，能夠自動去除圖片中的水印、模糊等噪音，幾乎能完美復原，而且渲染時間是毫秒級。

通過這種深度學習去噪方法，無需使用沒有「雜訊」的清晰圖像，就能夠實現完美去水印。效果如下：

團隊使用了來自ImageNet數據集的5萬張圖像來訓練其人工智慧系統，該系統能夠從圖像中去除雜訊，即使它從未見過沒有雜訊的對應圖像。

這個名為「雜訊到雜訊」（Noise2Noise）的AI系統是使用深度學習創建的，它不是基於配對的清晰圖像和雜訊圖像來訓練網路，而是基於配對的雜訊圖像來訓練網路，並且只需要雜訊圖像。計算機生成的圖像和MRI掃描圖像也被用來訓練Noise2Noise。

通過只使用雜訊來訓練Noise2Noise，研究人員希望這種方法可以用於已知含有大量雜訊的圖像，比如天體攝影、核磁共振成像（MRI）或大腦掃描圖像。

從左到右：輸入的雜訊圖像、去噪圖像、和原始圖像

來自IXI數據集的50名人類受試者的近5000張圖像被用於訓練Noise2Noise的MRI圖像去噪能力。在沒有人工雜訊的情況下，結果可能比原始圖像稍微模糊一些，但仍然很好地還原了清晰度。

MRI圖像去噪

Nvidia的研究人員Jacob Munkberg說：「這是一個概念證明，我們在一個公共核磁共振資料庫上進行訓練，但在未來，它可能會顯示出在實際應用中的希望。」

Noise2Noise系統通過使用一個神經網路來實現這一點，該神經網路使用有損的圖像來訓練。它不需要乾淨的圖像，但它需要觀察源圖像兩次。實驗表明，受不同的合成雜訊（加性高斯雜訊、泊松雜訊和binomial雜訊）影響的目標圖像仍能與使用乾淨樣本恢復的圖像有「幾乎相同」的質量。該系統最令人興奮的是，它可以顯著減少圖像渲染所需的時間——毫秒級別。

研究人員在論文中寫道：「我們觀察到，在適當的，常見的情況下，我們可以學習僅從損壞的示例重建信號，而無需觀察乾淨的信號，並且其效果與使用乾淨樣本一樣好。如我們在下文所展示的，從統計角度來看，我們的結論可能是微不足道的，但在實踐中，通過解除對清潔數據可用性的要求，這種方法顯著簡化了學習信號的重建。」

對於給照片加水印和去水印，你怎麼看？

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！