ntext="Article" data-image-id="2281199" data-caption="Deepfake images created by https://thispersondoesnotexist.com/" data-credit="Karras et al. and Nvidia" />

Facebook开发了一种人工智能，它声称可以检测到深击图像，甚至可以逆转工程，以找出它们是如何制作的，也许会追踪其创作者。

深击是由AI创建的完全人造图像。Facebook的新AI着眼于一系列深击中的相似之处，以查看它们是否具有共同的起源，寻找独特的模式，例如图像的颜色频谱中的噪音小斑点或轻微的奇数。

通过识别图像中的次要指纹，Facebook的AI能够辨别出如何设计图像的神经网络的细节，例如模型的大小或训练方式。

塔尔·哈斯纳（Tal Hassner）在Facebook上说：“我认为这是不起作用的。”“只要查看照片，我们将如何能够分辨出深度神经网络具有多少层，或者训练了什么损失功能？”

Hassner和他的同事在100,000张深冰图像的数据库上测试了AI，该数据库由100个不同的生成模型生成的1000张图像。其中一些图像被用来训练模型，而另一些图像则被阻止并作为未知来源的图像呈现给模型。

这有助于测试AI的最终目标。哈斯纳说：“我们正在做的是查看一张照片，并试图估算创建它的生成模型的设计是什么，即使我们以前从未见过该模型。”他拒绝分享AI估计的准确性，但说“我们比随机好”。

“这是指纹的迈出的一大步，” 深色假货和Infocalypse。但是她指出，就像哈斯纳和他的同事一样，AI仅适用于完全人为产生的图像，而许多深击是通过将一张脸粘贴到别人的身体上而创建的视频。

Schick还想知道AI在实验室环境外的有效性，在“野外”中遇到了深层效果。她说：“我们看到的面部检测模型广泛基于学术数据集，并在受控环境中部署。”

哈斯纳（Hassner）拒绝谈论Facebook将如何使用其新的AI，但表示这种工作是一款猫赶出的游戏，反对创造深击的人。他说：“我们正在开发更好的识别模型，而其他人则正在发展越来越更好的生成模型。”“我毫不怀疑在某个时候会有一种完全欺骗我们的方法。”