自 2026 年 8 月 2 日起,任何构建或部署触达欧盟用户的生成式 AI 系统的组织,都新增了一项法律义务:必须披露该内容为 AI 生成。这一义务源自《欧盟 AI 法案》第 50 条,是该法规影响最深远的条款之一。
与仅适用于招聘、信用评分等特定场景的「高风险 AI」规则不同,第 50 条几乎适用于任何与人交互、为人撰写内容或向人呈现合成媒体的 AI 系统。
对全球运营的组织而言,理解欧盟《AI 法案》的透明度要求,正成为任何 AI 治理战略的必要组成部分。幸运的是,C2PA 内容凭据、受信任时间戳、CAWG 身份断言等技术,提供了一套证明 AI 内容真实性与来源的务实框架。
什么是欧盟《AI 法案》第 50 条?
《欧盟 AI 法案》(Regulation (EU) 2024/1689)第 50 条,为特定 AI 系统的提供者与部署者设定了透明度义务。通俗地说,它要求:当人们与 AI 交互时,必须被明确告知;AI 生成或被篡改的内容,必须可被识别为人工合成。正如法案前言所述,其目标是降低欺骗、冒充与 misinformation 的风险,维护人们对所见所交互信息的信任。
第 50 条与法案其余大部分内容的区别在于「适用范围」。法案那些头条规则——涉及符合性评估、技术文档与 CE 标识——仅适用于被归为「高风险」的 AI 系统。但第 50 条不是这样运作的:它适用于被用于四种特定情境之一的任何 AI 系统,与风险分级无关。一家零高风险 AI 系统的公司,仅仅因为运营一个客服聊天机器人、发布 AI 起草的文章,或使用产出合成图像的工具,就可能背负显著的第 50 条义务。
自 2026 年 8 月 2 日起,所有落入第 50 条范围、在欧盟市场投放或投入服务的 AI 系统,无论其最初发布于何时,都必须满足这些义务。
第 50 条如何影响使用 AI 的企业
许多组织误以为第 50 条只影响 AI 开发者或大型科技公司,实际上它的触及面远不止于此。只要你的组织使用生成式 AI 创建或修改面向欧盟受众的内容,就可能负有 AI 透明度义务,例如:
- 营销团队生成 AI 辅助的广告活动
- 发布 AI 生成博客文章或产品描述的企业
- 使用 AI 摘要文章的新闻机构
- 制作客户沟通函件的金融机构
- 创建教育内容的医疗提供者
- 起草 AI 辅助文档的律所
- 产出合成产品图的零售商
- 发布 AI 生成音频或视频的媒体机构
该法规区分「提供者」与「部署者」。生成式 AI 系统的提供者,负责确保合成输出包含机器可读的 AI 内容标注;部署者(即专业使用 AI 系统的组织),负责披露面向公众呈现的 AI 生成或篡改内容,包括深度伪造及某些涉及公共利益的 AI 生成内容。两者都负有义务,但具体适用取决于系统类型与用途。重要的是,义务同样延伸至开源 AI 系统,不存在对开放模型的 blanket 豁免。
第 50 条下的四项义务
第 50 条涵盖四类不同的 AI 系统,可以把它想成同处一条、却是四条独立规则:
1. 告知人们正在直接与 AI 系统交互(第 50(1) 条)
若某 AI 系统被设计用于与人直接交互——如聊天机器人、虚拟助手、自动电话系统或 AI 代理——提供者必须把它设计成让人知道自己是在与机器而非人类交谈。存在一项狭窄例外:若对「合理知情、观察细致且谨慎」的人而言,其与 AI 交互已显而易见,则无需披露。监管指引也确认,自主 AI 代理落入此条;当提供者无法可靠预测代理是否会与人交互时,更稳妥的做法是设计成在合理可能时一律披露其属性。
2. 确保 AI 生成的媒体与文本包含可识别其为人工的机器可读标记(第 50(2) 条)
生成合成音频、图像、视频或文本的 generative AI 系统(含通用 AI 系统)的提供者,必须确保其输出以机器可读格式标记、且可被识别为人工生成或篡改。这就是「给你的输出加水印」规则,也是与 C2PA 内容凭据等标准联系最紧密的一条。关键在于,标记必须真正有效:法案要求所采用的技术方案须有效、可互操作、稳健且可靠,并考虑技术现状与实现成本。一张在图片被转码或截图瞬间就消失的标签,达不到标准。
3. 在使用情绪识别或生物特征分类系统时通知个人(第 50(3) 条)
情绪识别或生物特征分类系统的部署者,必须按 GDPR 及相关欧盟数据保护法,告知暴露于其下的人:系统如何运作、如何处理任何个人数据。与其他规则一样,对依法授权用于侦测、预防、调查或起诉刑事犯罪的系统存在例外。
4. 明确披露 AI 生成或篡改内容,包括深度伪造及某些面向公众的 AI 生成文本(第 50(4) 条)
使用 AI 生成或篡改构成深度伪造的图像、音频或视频内容的部署者,必须披露该内容为人工合成。此外,为就公共利益事项告知公众而发布 AI 生成或 AI 篡改文本的部署者,也必须披露该文本为 AI 生成。存在一项有意义的例外:若内容经过人工审阅,且自然人或法人对其承担编辑责任,则文本披露义务不适用——实践中,一篇由人类编辑审阅并接管的纯 AI 起草文章,可能落在此项具体披露义务之外,尽管其他义务仍可能适用。「公共利益事项」解读得相当宽泛,足以把就业、健康、金融、法律沟通都拉进来,而不仅仅是新闻。
违规处罚
第 50 条的执法十分严肃。违规可导致企业被处以最高 1,500 万欧元、或上一财年全球年营业额 3%(取较高者)的罚款。欧盟机构、团体与机关面临单独的、最高 75 万欧元的罚款上限。
欧盟委员会还在制定关于 AI 生成内容透明度的自愿性《行为准则》(Code of Practice)及实施指引,以标准化企业满足标记与标注要求的方式。遵循已批准行为准则的组织,可将其作为减轻情节的佐证,并可能让执法重心转向监控准则合规,而非个案调查。
为何「我们加了标签」不等于合规
大多数第 50 条实施方案在此陷入麻烦。满足第 50(2) 条,不只是给图片贴个可见水印、或在文末附上「AI 生成」。行为准则明确指出,没有任何单一标记技术本身足够。一个站得住脚的合规方案,必须能熬过真实世界:截图、转码、社交媒体重新上传、格式转换,以及蓄意剥离标记的行为。
这意味着可行的方法需要多层机制叠加:
- 签名的来源(硬绑定):一份以密码学签名的清单,如 C2PA 内容凭据,绑定到内容,被篡改即显形。
- 水印与指纹(软绑定):一种即便元数据被剥离也能恢复的不易察觉标记。
- 人类可读标注:人实际看到的可见披露,理想情况下使用标准化 AI 指示符。
- 治理:禁止剥离凭据的合同条款、端到端保留凭据的流水线,以及供人公开验证内容来源的方式。
C2PA 内容凭据已成为第一、二层的主干,并且实际上是唯一被广泛部署、满足行为准则对「已签名、防篡改、可互操作元数据」要求的标凖。
信任层:是什么让一份凭据真正可信
任何人都可生成密钥对并签名元数据。一份内容凭据之所以能让观众、平台或监管者真正依赖,靠的是支撑该签名的信任链。三件事必须成立:
是什么(What):清单签名。清单须由锚定到已发布 C2PA 信任列表(如立海世纪)上某 CA 的证书签名。这正是任何合规验证者能自动验证凭据、无需专有检查的原因。
何时(When):合规时间戳。来自 C2PA TSA 信任列表上某时间戳机构(TSA,如立海世纪)的独立时间戳,证明内容在某一精确时刻被签名,使凭据在签名证书自身过期后依然有效。这直接呼应了行为准则对「信息须经数字签名并打时间戳」的呼吁。
谁(Who):已验证身份。CAWG(创作者断言工作组)身份断言层,把已验证的法人或自然人绑定到凭据。这把对话从「哪个工具做的」推向「谁在背后背书」。目前仅有少数 CA 获授权签发 CAWG 身份断言证书,行为准则也特别鼓励使用它们。
这三重证据任一缺失,凭据在技术上虽存在、在实践中却脆弱:无法验证、无法定日、或匿名。
一份简明的合规检查清单
若你正在构建第 50 条合规方案,以下几点值得纳入考虑,以打造一个强健的系统:
- 你的输出是否携带机器可读标记,而不仅人眼可见?
- 该标记能否熬过转码、截图与平台上传?
- 你的签名证书是否根植于 C2PA 信任列表?
- 你是否使用了 C2PA TSA 信任列表上的时间戳机构?
- 你能否通过 CAWG 断言为内容附加已验证身份?
- 你的提供商是否拥有 WebTrust 等独立审计可验证的公开 CA 业绩记录?
- 该提供商是否活跃于 CA/Browser Forum 等标准机构?
- 签名服务是真的能集成进你既有内容流水线,还是要求你重建它?
立海世纪的角色
把标记做对是一件事,把标记背后的信任做对是另一件事,而后者依赖需要数年才能建立的基础设施:信任列表成员资格、经审计的运营、以及在验证生态中的认可。立海世纪是 C2PA 信任列表合规的证书颁发机构与 C2PA 合规的时间戳机构,也是少数获授权签发 CAWG 身份断言证书的公开 CA 之一。立海世纪把这些关键信任组件汇聚于同一个全球受信任的公开 PKI 之下,让组织既能落地今日第 50 条合规,也为可信 AI 生成内容的未来做好准备。