首页 > 最新动态 > 前沿技术 | 如何识别AI生成的深度伪造图像？
最新动态
前沿技术 | 如何识别AI生成的深度伪造图像？
2024-10-3031

 肉眼分辨图片真假可以观察图中手指数量是否正常、眼神是否怪异、发丝看起来是否真实等。生成的照片通常存在光影瑕疵，缺乏曝光等照片基本参数。也可以观察牙齿清晰与否，缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

 更高效的方法是用AI对抗AI。OpenAI宣布将推出一款工具，用于检测由AI图像生成器DALL-E 3创建的图像。微软开发了一种身份验证工具，可以分析照片或视频，并对其是否被操纵给出评分。

深度伪造变得越来越容易，人们也越来越难以分辨真假。
生成式人工智能工具的兴起令欺骗性图片、视频和音频激增，如何识别AI生成的深度伪造图像？
像文生图工具DALL-E、Midjourney和文生视频工具Sora，只需要输入一个请求，系统就会输出图像和视频，深度伪造变得越来越容易，人们也越来越难以分辨真假。这些假图像可能看起来无害，但可以用来诈骗、操纵选举等。例如今年4月印度大选期间，两位宝莱坞演员批评印度总理莫迪的假视频就在网上疯传。
如何识别深度伪造？美联社给出了几个方法。在深度伪造早期，技术并不完美，经常会留下操纵迹象，例如照片中有6个手指的手、眼镜镜片形状不同等明显错误。但随着AI的进步，这种观察变得困难。咨询公司Latent Space Advisory创始人亨利·艾德尔（Henry Ajder）说，一些广为流传的建议，比如在深度伪造视频中寻找人们不自然的眨眼模式不再成立，不过仍有一些迹象可以寻找。一些人工智能深度伪造照片尤其是人物照片有一种电子光泽、“一种美学上的平滑效果”让皮肤看起来“非常光滑”。不过，艾德尔也表示，创造性的提示有时可以消除这种光滑效果以及其他AI操纵的迹象。
信也科技算法科学家吕强对澎湃科技（www.thepaper.cn）表示，要通过肉眼分辨图片是否为合成，可以重点观察图片中的细节，例如观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等，如果一个眼睛看前、一个眼睛看左就有问题。另外，生成的照片通常在光影上存在瑕疵，并缺乏照片基本参数，例如曝光等。
检查阴影和光线的一致性是识别方式之一，通常来讲，拍摄对象的焦点清晰，看起来栩栩如生，但背景中的元素可能没有那么逼真或被修饰过。如果图像中的公众人物做了一些看起来“夸张、不现实或不符合性格”的事，这也可能是深度伪造。此外，换脸是常见的深度伪造方法之一，据美联社报道，可以仔细观察脸部边缘，面部肤色与头部或身体的其他部位是否匹配。如果怀疑一个说话视频是深度伪造，可以观察嘴唇动作是否与音频完美匹配。艾德尔建议观察牙齿是清晰还是模糊、与现实生活中的样子是否一致。网络安全公司诺顿表示，算法可能还不够复杂，无法生成单个牙齿，因此缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。
不过，人工智能发展迅速，大模型正在接受训练，以生产质量越来越高、缺陷越来越少的内容，所以不能保证这些建议在一年后仍然有效。更高效的方法是用AI对抗AI。吕强表示，利用AI的方式识别，首先需要构建一个包括真图和假图的训练数据集，再利用大模型学习两类图片的不同特征，例如用AI学习图片曝光细节，“一张很灰暗的图片出现了一张整体偏白的人脸，这张图片可能就是经过人脸替换的。但有些人对光线不敏感，人眼可能就识别不出来。”当大模型拥有了各类细节的识别能力后，“把这些能力汇总起来，就构成了一个真假图片的辨别矩阵，然后对矩阵结果打分，最终给出来一个真假图片的评判结果。”不过，他也表示，利用AI识别生成图片，算法复杂度并非难点，挑战在数据。“第一可能没有那么多假样本，第二要想让假样本覆盖到很多领域也有挑战。”
目前，微软开发了一种身份验证工具，可以分析照片或视频，并对其是否被操纵给出评分。OpenAI最近也宣布将推出一款工具，用于检测由AI图像生成器DALL-E 3创建的图像。OpenAI表示，在内部测试中，该工具在98%的时间内正确识别了DALL-E 3生成的图像，并且可以最小的影响处理常见修改，如压缩、裁剪和饱和度变化。此外，OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织，并计划提供一个有助于追踪不同媒体来源的标准。芯片制造商英特尔的FakeCatcher则使用算法分析图像像素来确定真假。据CNN今年2月报道，Meta也在努力识别和标记共享在其平台上的由第三方工具创建的AI生成图像。
在国内，商汤数字水印技术可将特定信息嵌入到多模态的数字载体中，支持图像、视频、音频、文本等多模态数字载体，可以隐蔽嵌入水印信息，不影响原始内容质量和用户感知，同时抵御攻击，以免被删除或修改。商汤科技表示，数字水印技术可用于版权保护、防伪溯源等场景，在裁剪、压缩等不同程度干扰下，能保证超过99%的水印提取精度，且不会损失画质精度而影响数据质量。

文章作者：张 静

文章来源：百家号—澎湃新闻

点我访问原文链接