AI造假铺天盖地而来，「数字水印」真能反制AI吗？

原创：Roy

来源：元飞船

9月20日，Tik Tok公告表示，他们将在本周推出一款帮助创作者标记AI生成内容的工具，并测试自动标记此类内容的方法。按照TikTok的规定，所有包含AI生成的图像、音频或视频的内容都需要被打上“AI-generated”的标签，以避免误导用户。

而在国内，9月8日，微信珊瑚安全发布了“关于规范‘自媒体’创作者内容标注的公告”，要求创作者规范标注信息来源。在使用深度合成技术生成内容时，需要遵守法律法规及平台规则，并显著标注内容为技术生成。

9月8日，微博和用户最多的短视频平台抖音同时发布了类似的公告，而快手则在9月11日跟进。9月13日，二次创作之风盛行的B站上线了“创作者声明”功能，要求UP主发布包含AI生成内容时添加作者声明，以避免误导观众。

更早一些，今年5月，抖音、小红书等平台均要求创作者在人工智能生成的内容上显著标注，根据实际情况勾选“内容由AI生成”。

各平台对于AI生成的内容都需要进行明确的声明，这无疑为内容添加了一层水印保护。

那么，为什么我们需要数字水印？AI水印该如何添加？在AI泛滥的时代，或许最终还是需要科技来提供可行解法。

AI造假泛滥，难辨真伪

今年，AI绘画新闻领域掀起了一场剧烈的风波，人们热议的“特朗普被抓事件”首当其冲。从一开始，多张描绘特朗普被追捕的图片就在海外社交媒体上流传开来。

其中一张图片描绘了特朗普在前面疲惫地奔跑，执法人员在后面紧追不舍。另一张图片则展示特朗普被纽约市的多名警察围捕，被抓住双手按倒在地，场面十分混乱不堪。

5月22日，一起利用人工智能（AI）实施电信诈骗的典型案例冲上热搜，引发关注。独有偶，5月25日，一起利用AI换脸进行诈骗的事件也受到了媒体曝光。这次诈骗的金额高达245万，而整个诈骗过程仅用了9秒钟。

中央电视台的一名记者找到了一名提供人脸识别软件的卖家，这种人脸动作制作软件和教程的售价仅为1299元。该记者尝试后发现，AI制作出来的人脸能够通过90%的人脸检测应用程序。

与此同时，通过AI绘画和ChatGPT等生成式AI的应用实践，AI对人类社会的负面影响再次被摆放在历史进程的台面上。值得关注的是，早在5月初，AI教父”杰弗里·辛顿（Geoffrey Hinton）就警告称，AI对人类构成的威胁可能比气候变化“更为紧迫”。

目前，作为视觉媒介占据主流使用方式的阅读场景时代，像AI绘画这样的“深度伪造”的生成形式对于人类社会的影响相较于文字，或许更具深远的影响。在这个背景下，首当其冲的是新闻与传播的领域，这也印证了杰弗里·辛顿的预言。

由此可见，DeepFake技术已经深入到了多个领域，而添加水印可以作为一种方式，在真假、虚实之间构筑起一道屏障，以防止混淆视听。

数字水印「反制」AI造假

数字水印（Digital Watermark）是指用于确保数字内容质量和真实性的一种技术。它通常包括将某些特定信息（如文件名、创建日期或作者）嵌入数字内容以验证它们的真实性和准确性，即使用技术手段也很难提取水印，无法删除。

例如，当在网络上传输图像文件时，可以将某种数字水印添加到文件中，以确保它保留它们的原始质量。嵌入后，载体的水印信息不被用户感知，不影响载体观感与质量，只有生产方通过专门的检测器才能复原水印信息，可以有效验明数据真实性、准确性、合法性，

一般来说，数字水印具有以下三种主要特性：

首先是隐蔽性，在将水印嵌入到目标对象后，不会对观察者造成视觉、听觉上的太大影响。

其次是安全性，数字水印自身对于攻击具有抵抗能力，能够抵挡各种未经授权的删除行为和修改行为，不管文件格式如何变化，都不会使水印数据出现丢失问题。

第三是可证明性，数字水印能够帮助辨别相关数字作品是否被保护，同时还可以有效防止数据非法拷贝、真伪辨别以及数据传播。

今年7月，包括谷歌、微软、OpenAI等在内的7家美国科技巨头与官方签署了一项AI安全协议，以一种安全、可靠和透明的方式发展生成式AI。在此背景下，一项重要的技术保护措施就是“数字水印”。谷歌成为了全球首家在生成式AI领域提供这种技术的服务商。

谷歌旗下的AI研究机构DeepMind发布了，全球首个数字水印SynthID，主要作用在于增强由生成式AI产品生成的图片安全性，并帮助用户识别图片来源。未来，这种水印技术将可能被应用于文本、视频、音频等多个领域。

据了解，SynthID可以直接嵌入到谷歌的文本生成图片模型Imagen所合成的图片中，普通人的肉眼无法察觉到它的存在。不论是改变颜色还是添加滤镜等破坏性操作，都无法影响SynthID的正常工作。同时，SynthID也可以识别图片中的水印。

简而言之，SynthID就如同钱币上的防伪标识，它既可以防止图片被伪造，同时又可以检测图片的真伪，大大提高了生成式AI产品的安全性。

SynthID由两种深度学习模型组成，一个用于添加水印，另一个则用于识别水印。这两种模型都在大量的图像数据集上进行了训练和优化，以提高水印的准确性。

1） 添加水印：SynthID可直接将水印嵌入到图片中，人的肉眼无法察觉到，同时也不受滤镜、更改颜色、压缩体积、更改亮度等操作影响。

图片左面有水印，右面无水印

改变颜色，仍然可以识别水印

2）识别水印：SynthID可以识别图片中的水印，并告诉用户该图片是 Imagen模型生成的，还是人工设计。当图片遭遇严重破坏时，例如，更改亮度、删除部分内容等，SynthID可以基于图片的元数据，仍然可以检测到图片中的水印。

不仅是图片或者视频，连AI生成的文字也可以打上数字水印。

此前，马里兰大学的研究人员发布了一篇名为《A watermark for Large Language Models》的研究论文，详细阐述了如何给文本内容添加数字水印。Open AI系统安全性部门的负责人Jan Leike在接受采访时表示，Open AI正在探索的数字水印方法类似于这一研究成果。

这个方法的大概意思是，在生成的句子中增加一些特定单词出现的概率，就可以给句子添加一个“数字水印”，方便检测句子是否由AI生成。值得一提的是，这种办法的“水印”只有从一开始嵌入到大语言模型才有效。

比如，研究人员让ChatGPT生成句子“今天的天气很好，小明在_____”，为了给它加上水印，需要先随机选择一部分单词，像“公园”、“学校”、“天气”作为系统偏好词表。

有水印的版本是“今天的天气非常好，小明在公园打网球”，而无水印版本可能是“今天的天气很好，小明准备去打网球”。生成的句子对于普通人来说看起来没有区别，但通过统计句子中出现的偏好词汇的数量，就可以检测出这个句子是否被加上了数字水印。

当偏好词汇的数值高于一定比例，水印检测器可以判定文本由AI生成。

“数字水印”技术的出现与近年来生成式AI的跨越式发展与使用息息相关。由于生成式AI强大的生成功能，文字、图片、视频、音频作品海量、巨量地生成，这使得传统著作权法规制下的权利边界逐渐变得模糊，也给数据权益保护带来困扰。

AI生成物与在先作品的侵权问题、数据训练合规等问题不断涌现，创作者之间的借鉴和学习，乃至复制、抄袭和侵权的现象也因此加剧并复杂化。

大模型时代，权利保护与技术革新的联系越发紧密。怎样能够让作者保护自己的作品权利，同时从创作中受益，可能最终还是要通过立法来解决，但在目前顶层设计暂时缺位的场景下，类似“数字水印”的技术已经成为作品保护、应用和开发的关键技术手段。

——————— End ———————