英国媒体监管机构通信管理局发布的一份新讨论文件探讨了如何运用不同的工具和技术识别深度伪造内容。
“深度伪造是指故意以假乱真的利用AI生成的视频、图片及音频内容，它们给网络安全性带来了重大威胁，我们已观察到它们被不法分子用于金融诈骗以及传播有关政治人物的虚假信息等等，”英国通信管理局解释道。
2024 年 7 月，英国通信管理局发布了其首份《深度伪造防御》文件，此次的最新文件进一步深入探讨了4种“溯源措施”的优点：水印、来源元数据、AI标签以及上下文标注。这4种措施旨在提供有关AI生成内容创作方式的信息，并且在某些情况下，还能显示该内容是准确还是误导。
与此同时，英国通信管理局的研究显示，85%的成年人支持在线平台为内容添加AI标签，但仅有三分之一（34%）的人曾见过此类标签。
借鉴其新的用户研究、专家访谈、文献综述以及对开源水印工具的3项技术评估，英国通信管理局的最新讨论文件对这些用于识别深度伪造的措施的优点和局限性进行了评估。
该分析揭示了8个应当指导行业、政府以及研究人员的要点：
1. 有证据表明，如果在使用时谨慎操作并进行适当测试，溯源措施能够帮助用户更严谨地对待内容。
2. 不应让用户独自去识别深度伪造内容，平台也应避免将全部检测误导性内容的责任强加给个人。
3. 在向用户传达有关AI的信息时，简单与详细之间达到恰当平衡至关重要。
4. 溯源措施必须涵盖既非完全真实也非完全合成的内容，要说明AI是如何被用于创作内容的，而不仅仅是使用了AI。
5. 溯源措施可能会容易遭到删除和篡改。英国通信管理局的技术测试表明，在对内容进行基本编辑后，水印常常会被去除。
6. 各种溯源措施更大标准化能够提高这些措施的效力并促进其应用。
7. 变化的速度意味着不宜对溯源措施做出笼统的断言。
为应对各种深度伪造，溯源措施应与其它干预措施（如AI分类器和报告机制）结合使用。