德国波鸿鲁尔大学(Ruhr-Universität Bochum)的霍斯特·戈尔茨（HorstGörtz）IT安全研究所 和“大规模对手时代的网络安全”(Casa)卓越集群开发出一种有效识别深度伪造图像的新方法。

该团队在2020年7月15日的国际机器学习会议（ICML）上介绍了他们的工作，这是机器学习领域的领先会议之一。此外，研究人员可以在https://github.com/RUB-SysSec/GANDCTAnalysis上免费在线获取其代码，以便其他小组可以重现其结果。 

两种算法的相互作用产生新图像 

伪造图像（deep-fake images）是深度学习中“deep learning”和“fake”的一个合成词，是在计算机模型的帮助下生成的，通常由所谓的“生成性对抗网络”（Generative Adversarial Networks，简称GAN）实现。在这些网络中，两种算法协同工作：第一种算法根据特定的输入数据创建随机图像。第二种算法需要判断图像是否是伪造图像。如果发现图像是伪造的，则第二种算法会向第一种算法发出修改图像的命令-直到不再将其识别为伪造为止。

近年来，这种技术已帮助深度学习算法生成的伪造图像越来越真实。例如，在网站http://www.whichfaceisreal.com上，用户可以检查它们是否能够区分伪造图像和原始图像。
 
在这个跨学科项目中，系统安全主席的Joel Frank，Thorsten Eisenhofer和Thorsten Holz教授与机器学习主席的Asja Fischer教授，以及数字信号处理主席LeaSchönherr和Dorothea Kolossa教授合作。“在虚假新闻时代，如果用户不能将计算机生成的图像与原始图像区分开，那就可能是个问题，”系统安全主席Thorsten Holz教授说。
 
频率分析揭示了典型的“伪影”
 
迄今为止，已经使用复杂的统计方法分析了伪造的图像。Bochum组通过使用离散余弦变换将图像转换到频域中。因此，生成的图像表示为许多不同余弦函数的总和。自然图像主要由低频功能组成。
 
分析表明，GAN生成的图像在高频范围内显示出伪影。例如，伪造图像的频率表示中出现了典型的网格结构。系统安全主席Joel Frank解释说，“我们的实验表明，这些伪像不仅出现在GAN生成的图像中。它们是所有深度学习算法的结构性问题”。Frank补充道 “我们认为研究中描述的伪影将始终告诉我们该图像是否是由机器学习生成的伪造图像。因此，频率分析是自动识别计算机生成图像的有效方法。”