近年来,媒体归属与来源已成为一个日益严峻的问题,尤其在社交媒体上。你的信息流被 AI 生成内容淹没:包括听起来与公众人物一模一样的声音、看似来自可靠来源却系伪造的事件视频,甚至完全由像素堆砌而成的虚拟人格。尽管其中一些内容有趣且看似无害,但另一些却可能产生实实在在的现实后果。

有一项正在制定的关键标准,可能深刻影响数字内容的未来。这项标准就是 C2PA,它正因保护媒体归属与来源信息而在全行业积聚动能。

我们正面临的挑战

我们正以快于任何人预期的速度,失去对我们在线所看所闻内容的信任能力。诚然,自 19 世纪 80 年代以来,人们就一直在制造与传播伪造照片;先进的编辑与篡改工具已存在三十多年;同样,在生成式 AI 到来之前,社交媒体平台上早有 misinformation(虚假信息)流传。然而,此刻标志着三个关键领域的同步推进:

- 生成合成媒体的成本低得多。曾经获取极度受限的昂贵工具,如今高度易得,可在笔记本或手机上运行。

- 这些资源的质量已提升到常人难以区分真实与合成媒体的程度。

- 第三,这些资源的分发渠道如今无处不在且瞬时可达,使伪造或遭篡改的媒体能在任何人质疑其来源之前,触达数百万计的人群。

例如,2024 年初香港发生了一桩众所周知的事件。一家跨国公司的财务员工加入了一场与公司 CFO 及数名同事的视频会议……至少看起来如此。他们指示该员工向一系列账户电汇数百万美元。然而事后发现,那通电话上的每一个人,包括 CFO,都是合成生成的。社会工程与生成式 AI 的合流,代表着企业环境中有史以来最关键的安保风险之一,且预计将在节奏与复杂度上迅速增长。

随着公众愈发意识到深度伪造与伪造内容不仅存在、且愈发令人信服,恶意行为者获得了一件新工具。他们如今可以声称真实证据是假的。人们为应对合成媒体而发展起来的怀疑与防御,反而可被利用。

我们该投资检测技术吗?

如果 AI 能制造伪造媒体,那么 AI 想必也能检测它。投资检测技术看似显而易见,但答案恰恰是「不该」。原因如下:

首先,生成模型进步的速度快于检测模型追赶的速度。检测器每学会识别一种合成媒体新技术,该技术就被喂入生成器的下一轮训练数据。这是一场军备竞赛,进攻方相对防御方具备结构性优势,且差距在持续拉大。

其次,即便世界一流的检测,在规模上也会失效。若检测器准确率为 99%,而合成媒体的量级以百万计,那漏网的 1% 仍是一个庞大数字,仍对公众构成可观风险与重大后果。

第三,也是最重要的一点:检测只在内容已分发之后才起作用。等某样东西被标记为伪造时,那段媒体早已被看到、被分享,并被吸收进公众意识。

除了检测这类单一方案,要成功对抗与伪造媒体相关的风险,需要检测、签名、标记、验证,以及(最重要的)教育协同发力。

利害攸关的更大问题

检测是一种防御姿态,且无论它变得多好,都无法修复人们「看了/听了却能当作没看没听」的事实。如果说有什么,检测越进步,「检测失败」这一说法在说谎者口中也越显得可信。对问题的认知本身,如今成了谎言的基础。且看:

司法法庭依赖证据;新闻业依赖来源;保险业中文件记录即是一切;选举依赖每位候选人实际所言的共享记录。在以上每一个机构中,都存在一条人人可认同其存在的证据基线,即便对其含义存在分歧。

但若那一条基线被移除,你面对的便是不实信息叠加上一个任何不便事实都可被否认的社会。任何令人不安的真相,都可借由谎称「那是 AI」而被打发。其后果远不止社交媒体的标题党内容,而是缓慢侵蚀全球机构赖以运转的根本基础。

超越真相的更多价值

证明何为真实,才是一种真正的进攻姿态。一旦一项资产被创建,你就附上一条关于谁制作了它、它从何而来、使用了哪些工具、以及自那以后如何被改动的记录。这条记录随文件同行。任何人都能验证它,也能看出它是否被篡改。

来源(provenance)向来是真实性的基石。法庭在建立证据保管链时使用它;艺术馆与经销商用它来区分一幅真正的毕加索画作与赝品。一颗带有 Mickey Mantle(米奇·曼托)签名的棒球,其价值不在球本身,而在证明他确曾签名的那纸记录。

尽管来源并非新事物,但让来源为数字媒体在规模上生效却是。这正是未来数年将被解决的技术问题。来源并不宣称内容为真(一家合法新闻机构签发的记录,仍可能错误地描述事件),它提供比真相更有用的东西:关于来源的可靠信息。观众可自由吸收内容,并自行判断其可信度。在数字信任中,我们必须能够 attest(证明)媒体的创建或修改。

C2PA 的到来

C2PA 代表 Coalition for Content Provenance and Authenticity(内容来源与真实性联盟)。

自启动以来,C2PA 的一致性(conformance)已大幅增长,超出其创始成员范围。主要媒体机构、生成式 AI 平台、硬件制造商,以及证书颁发机构——包括立海世纪,C2PA 生态中第一家 publicly trusted CA(公开受信任 CA)——如今都是参与者。立海世纪签发签名者用于将可验证来源绑定到其所创建或修改媒体的证书。