AI专家：真相协议可能成为信息时代的SSL

AI生成的内容，包括深度伪造和虚假音频，模糊了现实与虚构之间的界限，导致了广泛的混淆和操控。像Yannick Myson这样的专家喊单在内容创作阶段嵌入认证，并实施去中心化的认证系统以确保真实性。

虚假信息及其危害

2024年对人工智能(AI)可能带来的危险发出了明确的警告，如果不采取任何保护措施。全球范围内，从印度的大规模民主活动到台湾紧张的政治气候，人工智能生成的虚假信息活动留下了深刻的印记。

在台湾，深度伪造新闻主播模糊了现实与虚构之间的界限，而在美国，一段假音频声称总统拜登在劝阻新罕布什尔州的民主党人投票，突显了人工智能在政治操控中被武器化的容易程度。这种合成媒体的庞大数量和复杂性让许多人在不确定的海洋中感到迷失，努力分辨事实与虚构。

然而，一些专家，如Swarm Network的创始人兼首席执行官Yannick Myson，认为这个问题比选举操纵更为深刻。他提到了由AI引发的精神病，这是一种令人不安的现象，人们发展出夸大的妄想，一些研究将其与与AI聊天机器人长时间互动联系在一起。这种由AI引发的精神病的成本巨大；有些人失去了工作，而另一些人则接受了精神治疗。

“正如深度伪造利用我们的视觉处理捷径，人工智能精神病则利用我们的心理脆弱性，聊天机器人充当完美的回音室，验证并放大妄想思维，”Myson说。

中心化与去中心化解决方案

Myson认为，当前的反应措施，例如零散的事实核查举措，根本无法应对这一日益严重的问题。他断言：“行业意识到，零散的事实核查无法跟上合成媒体的速度或人工智能系统的心理操控。”

他的解决方案体现于Swarm Network，是一种积极主动的方案：在大规模嵌入认证。这涉及在内容创作的每一个环节建立来源，确保数字信息的来源可以被追踪和认证。此外，Myson喊单去中心化认证系统，在信息在数字领域传播时进行交叉检查和验证。

这一强有力的“真相基础设施”愿景与人工智能行业日益增长的担忧产生共鸣。随着技术以快速的速度不断进步，其误用的伦理和社会影响正变得愈加明显。由复杂的人工智能生成的虚假信息所推动的对数字信息的信任侵蚀，对民主过程、社会凝聚力甚至个体心理健康构成了重大威胁。

为了解决这个问题，有些人喊单监管响应，引用了过去一些情况下这被证明是保护用户免受新兴技术潜在风险的重要工具。然而，批评者警告说，这可能会产生抑制创新的意外效果，这一观点似乎得到了Myson的认同。

“监管可以有所帮助，但前提是避免陷入中心化真相的陷阱。我们已经看到政府利用‘虚假信息法’来压制辩论，”Swarm Network 的首席执行官表示。

为了支持这一论断，Myson 指出，欧盟官员据报道正在使用欧盟的 (EU) 数字服务法 (DSA)，该法要求删除广泛定义的“有害”内容，作为“限制全球开放话语的工具”。Myson 认为，欧盟人工智能法也造成了类似的问题。

与其制定像DSA或AI法案这样的法律，Myson反而主张强制透明性、清晰标注合成媒体和开放的来源标准，如C2PA。他认为：“规则应该强制证明，而不是意见。”

认证的未来

根据首席执行官的说法，像Meta和TikTok这样的主要社交媒体平台已经意识到这一点，并因此转向了更去中心化的事实核查方法。

“这一转变代表了一种根本性的认识，即集中化的事实核查会造成瓶颈和单点故障。内容认证的未来并不是让政府或公司决定什么是真实的，”首席执行官表示。

Myson认为这种转变使得像Swarm Network提供的解决方案变得至关重要。Swarm并不依赖于少数集中式事实核查员，而是使用“与人工审查员协作的AI代理来创建可审计的链上认证记录。”

确实，人工智能代理正迅速从理论概念转向实际应用，从根本上改变了各个行业的运作方式。这些代理的主要好处在于它们能够自动化和优化。它们可以在短时间内处理大量数据，识别出人类可能会错过的模式，并且可以全天候无疲劳地运行。

然而，AI代理的广泛采用也带来了需要仔细解决的复杂挑战。为了克服这些挑战，Myson表示他公司的做法是“将代理转变为透明的合作者，而不是不受限制的神谕。”他补充道：

“在Swarm中，代理将信息分解为小的可测试声明，他们相互交叉检查，在需要细微差别的地方，人类介入。每一步都被记录并锚定在链上，因此他们的推理是可重播的。简而言之：没有黑箱，只有可验证的轨迹。”

与此同时，Myson认为，在未来五年内，事实核查将从手动过程演变为数字生活的内置功能，而AI代理将通过其透明度而不仅仅是速度进行评估。最终愿景是将真相作为互联网的基础层。

“就像SSL成为网页流量的默认协议一样，真相协议将成为信息的默认协议。这就是我们如何防止人工智能让世界陷入噪音，”Myson总结道。