深度伪造人脸图像取证的安全性研究

20250125

信息传输、软件和信息技术服务业

当前，深度伪造人脸图像取证安全的相关技术在理论研究和应用实践中已取得一定的技术成熟度，取得了一定的科技成果，发表了相关高水平论文16篇，申请了3篇相关的发明专利，已授权1项，并搭建了一个相关平台，为科技成果的进一步转化奠定了坚实基础。在技术上，现有的深度伪造取证检测算法已表现出优秀的检测泛化性性能和鲁棒性，主动防御算法已表现出优秀的通用性和跨模型防御能力。在应用开发方面，相关技术正逐步从实验室研究向实际场景应用过渡。

1. 技术成熟程度 （1）深度伪造人脸图像检测技术 本项目所提出的深度伪造人脸图像检测算法已经能够针对常见的伪造模型和伪造方法生成的伪造图像和视频，实现高精度的真伪鉴别。在公开基准数据集（如FaceForensics++、DeepFake Detection Challenge）上实现了优秀的检测率。同时，也能够在检测图像的基础上实现对于多模态融合的伪造比如（音视频）的检测，进一步提升了伪造检测的泛化性，同时对于各种攻击也具有良好的鲁棒性。 （2）深度伪造人脸图像的主动防御技术 主动防御算法在技术上实现了对伪造模型生成过程的中断。其能够产生隐形扰动对图像加以保护，达到在不影响原始图像视觉质量的前提下有效削弱伪造模型生成能力的目的。本项目所实现的主动防御技术能够有效实现在跨模型上的通用防御能力，阻止了伪造的产生，有效保护了图像的安全，弥补了深度伪造取证的不足。
2. 性能指标 （1）多数据集适应性： 支持在多个数据集下进行检测，实现优秀的跨数据集泛化能力。 （2）模型迁移能力：支持从训练的实验环境下通过简单的微调，无需大规模的重新训练，就能够适应新的场景需求。 （3）抗压缩能力：支持在多种压缩比率处理下的伪造检测，以及在多种不同压缩算法下的检测，其均能保持良好的检测率。 （4）多场景适配：深度伪造人脸图像取证和主动防御算法可以适配现有的社交媒体、金融安全、版权保护等应用场景，展现出较强的产业化潜力。
3. 转化阶段 目前，深度伪造人脸图像取证的安全性研究相关技术正处于从实验室成果圆满完成，未来将实现向商业化转化。实验室成果主要集中于理论验证和核心算法开发，已有多篇相关成果发表在顶级学术会议和期刊上，并获得广泛认可。除此以外，本项目申请了4项发明专利，其中，已经有1项已获得许可，相关的技术原型已经在伪造人脸图像取证和主动防御系统上验证成功，为商业化推广提供了技术支撑。 综上，深度伪造人脸图像取证的安全性相关技术已具备较高的技术成熟度和广阔的应用前景。通过后续进一步的探索完善转化机制，可加速技术推广，为深度伪造内容安全和社会信任体系建设提供重要支撑。

为实现深度伪造人脸图像取证的安全性技术的产业化应用，加速相关科技成果转化进程，对于合作方提出以下需求，旨在与潜在合作方共同推动技术落地和商业化发展。具体需求包括资金支持、设备投入以及人员配备等方面。 1.资金需求 技术研发经费：用于后续深度伪造取证技术的优化和产品迭代，包括相关算法模型的改进、检测性能的提升、系统集成开发等，为落地市场提供有力的技术支撑，预计成果许可费用不低于30万元。 2. 设备需求 （1）计算资源支持 需要高性能计算设备，包括NVIDIA 3090 GTX及以上 GPU集群，2TB以上存储硬盘支持，32GB以上设备内存，高性能CPU，从而能够支持大规模模型训练、推理优化和实时检测功能。 （2）硬件设备 包括高分辨率摄像设备、数据采集工具，能够支持高清的真实场景录制，以及支持多模态分析的专用硬件设备。 3. 人员需求 （1）希望被许可方配备具有人工智能、图像处理等相关专业背景的算法工程师3名，能够负责成果的具体实施，并可向许可方提出有关实施合同技术的问题。 （2）在被许可方实施该专利申请技术时，可向许可方要求派出合格的技术人员到被许可方现场进行技术指导。技术指导所涉及的一切费用，包括交通费、伙食费、住宿费均由被许可方承担。

可国（境）内外转让

1. 经济效益 （1）推动相关产业发展 科技成果转化后，可为社交媒体、数字内容平台、金融服务、公共安全、司法鉴定等领域提供强大的技术支撑，进一步完善深度伪造检测和主动防御相关领域的发展，促进人工智能、网络安全和数字版权保护等方向的进步。 （2）市场规模增长 随着深度伪造检测算法的商业化应用，将吸引更多行业客户，带来持续的经济回报。这些科技转化成果可提供基于订阅或按需收费的检测与防御服务，满足不同行业用户的需求，进一步增加收入来源。
2. 社会效益 深度伪造人脸图像的检测与防御技术可广泛应用于反诈骗、反恐、司法取证等场景，可有效鉴别和阻止虚假内容的传播，有助于治理网络内容；并有效防范由深度伪造技术引发的社会风险，提升公共安全管理水平；这些技术被广泛应用，能够减少虚假信息对公众的误导，维护社会信任体系。同时，通过深度伪造人脸图像的主动防御算法，可以从源头上阻止伪造的生成；为社会提供更加安全、可信的数字环境。 3.长远影响 科技成果的成功转化促进学术与技术创新，为相关学科的研究提供新方向，激发更多创新成果的诞生，推动学术界和产业界的深度融合，有助于行业标准化的发展，为未来技术规范的制定和实施奠定基础。除此以外，科技成果的转化不仅能够提升我国在深度伪造取证领域的国际竞争力，还为跨国技术合作提供了基础，推动全球范围内的网络安全共治，实现多方共赢。

北京市自然科学基金面上项目

北京市科学技术委员会;中关村科技园区管理委员会

随着深度伪造人脸图像技术的飞速发展，伪造技术与方法日益多样化，如何有效鉴别图像真伪的取证研究变得尤为重要。然而，当前基于深度学习的伪造图像取证算法存在明显的安全性挑战，主要体现在深度模型的脆弱性上，因其高度依赖训练数据且易受对抗攻击的影响。因此，基于深度伪造人脸图像的取证算法的安全性问题亟需解决。针对这一问题，本项目深入研究伪造人脸图像从伪造生成到传播检测的各个环节，新颖的从取证算法设计与优化、伪造数据分析与生成以及深度伪造人脸图像的主动防御三个方向针对取证安全性展开深入探索和系统性研究。 本项目发表高水平论文16篇，其中SCI期刊12篇，代表性成果发表在本领域的顶级期刊International Journal of Computer Vision （2 篇）、IEEE Trans. on Multimedia（3篇）、IEEE Trans. on Circuits and Systems for Video Technology（3篇）、顶级会议AAAI Conference on??Artificial??Intelligence (AAAI)和IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)上。已获得国家发明专利1项，申请国家发明专利3项，并获得2023年全国电子数据取证大赛二等奖1项。 1）取证算法设计与优化 全方位设计与优化取证模型，提升其在多种场景下的泛化性与鲁棒性：本项目深入分析了影响伪造人脸取证性能不稳定的关键因素，从伪造模型的内在特征出发，提出了基于泛化性提升的深度伪造人脸取证方法与基于鲁棒性提升深度伪造检测框架。创新性的从多尺度、多模态、本质特征挖掘等方面设计伪造检测算法，提升算法的泛化性。相比以往的取证算法，从多视角层面和音素-视素层面进一步提升检测算法的鲁棒性，这些方法克服了以往取证技术在多样化伪造场景下的局限性，显著减少对于训练数据的依赖，增强了对于提升了伪造人脸图像的检测精度。 2）伪造数据分析与生成 挖掘伪造数据生成原理，探索本质线索，增强算法应对未知伪造的能力：基于从伪造数据生成角度，针对深度伪造检测的鉴伪原理，本项目从人脸生成和数据重建出发，提出了抵抗人脸识别的伪造生成技术，挖掘真实样本和伪造样本分布的本质差异，创新性的设计桥接样本技术，有效增强了取证算法应对未知伪造类型的能力。在伪造数据重建角度，增强边缘信息，聚焦伪造区域，增强了取证模型检测伪造图像的能力。 3）深度伪造人脸图像的主动防御 主动防御从根源上阻止伪造产生，保护人脸图像安全：本项目提出的跨模型通用主动防御算法，阻止伪造模型生成成功，实现了从根源上主动防御，有效减少了伪造内容的生成风险。从警示性图样警告伪造的产生、教师学生模型提升通用性以及隐空间调节角度，进一步提升主动防御技术对于不同伪造模型的防御能力，从而有力地提升了深度伪造人脸图像取证的安全性。 综上所述，本项目在多维度推动取证技术的创新发展，尤其在取证安全性方面填补了相关领域的空白，突破了当前伪造图像检测技术的局限性。项目提出的取证算法设计与优化、伪造数据分析与生成以及主动防御方法，代表了当前该领域研究的前沿方向，具有较强的创新性和前瞻性。这些研究成果不仅在深度伪造人脸图像取证的技术水平上实现了重要突破，弥补了取证安全性的相关研究。 在项目开展期间，培养6名博士生，2名在读，4名毕业；19名硕士生，8名在读，11名毕业。本项目共参加重要的国内外学术会议 9人次，集成了多种伪造人脸图像的检测和主动防御方法，搭建“伪造人脸图像取证和主动防御系统”。 在本项目资助期间，课题组申请并获得了国家自然科学基金重点项目“面向深度操纵图像的检测与防御方法研究”，项目负责人为倪蓉蓉，资助金额275万，起止年月为2024年01月01日至2028年12月31日。