张凤怡

当算法实现对“真实”的完美伪造，人类信任的核心基石从感官的沙地滑进意义的绵软流沙，我们正进入一个把伪造当作生产力的时代。AI不只能合成声音、篡改影像，还可编造逻辑连贯、触动心灵的谎言。到2025年之际，从张伯礼院士被恶意代言冒用，到哈尔滨亚冬会遭遇境外 AI 智能体自动化网络攻击，深度伪造已由技术上的奇妙现象演变成一种消解共识的基础力量。“有图有真相”的古老箴言到这里就失效了，这不仅是技术战胜了感官，更是对人类认知基石的一次哲学冲击。我们过去一直深信不疑的视觉及听觉证据，如今大概都是一场用心编排的数字剧目。也许真正意义上的危机并非技术本身，而是我们在沉迷于追逐效率与流量的情境里，是否在不经意之中将判定真实的权利让渡给了算法？当外部的真实变得不可靠，社会赖以维系的信任是否还能找到比感官更可靠的支撑锚点？

感官信任的溃败：我们失去了什么？

这场危机随着AIGC技术高效低成本地生产虚假内容出现指数级扩散。在2025年，仅需要输入关键词，主流AI工具在一分钟之内就能生成要素皆备的新闻报道，结合换脸或对语音进行篡改，一条能让大众陷入误区的视频就此诞生了。有MCN机构被揭露日均炮制数千篇AI假新闻，采用编造重大事故、名人言论手段收割流量，一天就能赚不少钱。其侵蚀范畴从娱乐八卦延展至社会新闻，中国工程院院士张伯礼只好在学术会议上公开打假，提醒公众警戒冒用其形象呈现的AI合成视频。

而危害绝非仅针对个人，在国际地缘政治与冲突的范畴里，AI伪造已蜕变成为一种新型的“认知武器”。2025年，在俄乌起冲突的这个阶段，AI制造出来的虚假视频曾让部队士气不振。在网络形成的空间里，攻击格局已迈入“智能体驱动”阶段，好比在针对哈尔滨亚冬会的一场网络攻击时，境外攻击者借助拥有自主决策能力的AI智能体开展自动化攻击，一部分的恶意代码由AI直接生成。中兴通讯副总裁王继刚发出警示，此类型攻击自主性强、形式多变、攻击覆盖面更大、影响更错综。

这场溃败究其本质是延续千年的“感官经验信任”模式不再有效，我们曾一度坚信镜头不会作假、录音即是证据，但如今不管何种数字内容都可能是一个精心拼凑的“楚门的世界”。公安部网安局揭露，连“台风天深交所牛雕塑被拴”这种与时事结合的图片也是AI合成。当虚假近乎逼近真实，甚至凭借算法精准推送我们的认知偏好时，公众会普遍陷入真实性方面的焦虑以及验证的疲劳状态。信任成本被无限度地往上抬高，怀疑成了数字生存进程里的本能。这并非仅是一场技术危机，更是一场明显的社会心理与认知垮陷——我们丢掉了赖以判别世界的感官坐标体系。

根源与批判：我们为何陷入困境？

危机的根源绝不是技术失控这等浅层的原因，其关键问题是社会运作逻辑异化了。从本质上来看，我们陷入困境是因为效率至上的驱动效应。人类分阶段把判断真伪的认知主权移交到了算法和平台手中，这种权利让渡并非偶然达成，而是流量经济、绩效社会跟注意力竞争共同发挥作用的必然结果。

AI伪造内容出现泛滥的缘由，正是因为它精确地命中了人性弱点与系统漏洞，完成了虚假内容的高效产出与分发。当下主流的应对模式大多仅停留在个案打击以及技术围堵层面，网信部门实施专项整治举措，市场监管相关单位查处虚假广告，司法机关明确裁判尺度。这些努力固然具备重要意义，但还未触及到事情的核心根本。当伪造技术按照指数级速率迭代，而治理手段依然停留在线性响应阶段时，我们正陷入一场“不对称战争”。更值得去警惕的是，某些应对方式无形中进一步增强了系统性依赖，就像过度依赖平台算法实施内容审核，反而有加剧算法黑箱问题的可能，把更多判断权赋予技术寡头手中。

这个问题的焦点在于，我们打算采用工业时代的治理思维，去应对智能时代的认知危机。法律固有的滞后特性与技术迭代的速度形成巨大张力，取证的复杂性与跨国追责的艰难还是存在现实阻碍。公众在信息漩涡里被迫当上“全职侦探”承担本就该系统保障的验证耗费，而认知与治理模式的滞后情况，让社会在技术冲击面前显得惊慌失措、疲于周旋。我们得清醒地认识到，信任危机不是技术发展引发的意外附带效果，而是当前社会系统同智能技术深度不兼容的集中表露。

信任系统：技术、制度、素养与全球协作的四重奏

面临感官防线的毁坏，社会必须开始构建一套不凭借个体感官判断的系统性新型信任机制。这迫使我们从技术、制度、公众素养到全球协作实现一场深刻又困难的重构，其关键是从依赖感官过渡到依赖可验证的系统与规则。

技术的矛与盾：以AI治AI，强化源头认证与全程追溯。

既然AI是产生混乱的源头，治理的基本逻辑就是“以技术去对抗技术”。现阶段AI内容检测虽有发展，但依旧处于和伪造技术军备竞赛的被动跟随状态，更关键的办法是推动“可信认证”贯穿内容的生命周期阶段。2025年9月1日，中国《人工智能生成合成内容标识办法》及配套的强制性国家标准正式开始生效，要求为所有AI生成内容添加显式或隐式标识，宛如给内容套上一张强制性的数字身份证。有关部门协同起草服务提供者编码规则等实践相关指南，意在构建可追溯源头的管理体系。依照中国人工智能产业发展联盟等组织发布的技术指南及实践共识，行业正着力打造覆盖生成、标识、检测、溯源这一系列的治理技术体系，这彰显着治理思路从事后围堵向源头标记与全程追溯的重大转变。

制度的纲与目：法律亮剑、协同治理与挑战应对。

技术标准得借助法律的威力才能真正产生威慑力，2023年起，中国正试图搭建一张渐趋细密的法律之网，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等已铺就基本框架。市场监管部门处理了第一个滥用AI技术发布虚假广告的实例，网信部门实施“清朗·AI谣言整治专项行动”，最高人民法院借助典型案例明晰了AI伪造侵犯人格权的司法裁判规则。但挑战依旧十分严峻，法律固有的滞后情况与技术迭代的速度呈现出很大的张力，取证的复杂特性与跨国追责的困境仍是实际障碍，治理要摆脱单一部门束缚，形成跨部门、跨平台、跨行业的联合协作机制。

素养的破与立：培育“数字时代的批判性公民”。

再周密的技术与制度，最终都得由有判断力的公众去实施。若系统提供了验证工具之际，公众需要具备使用的意愿跟能力，公安部网安局提议的“查来源、辨细节、用工具”等权威四步法，恰恰体现了这种素养。教育体系与媒体要承担起培育公众主动存疑、多方面验证思维习惯的重大责任，在Z世代已然深陷AI谣言信息茧房的当下，媒介素养教育已变为一项急迫的社会工程。

全球的合与竞：无国界挑战与国际治理的必由之路。

AI虚假制造与网络攻击无国界隔阂，各个国家的漏洞都有瞬间转变为全球性风险的可能。世界经济论坛《2025年全球风险报告》把“错误与虚假信息”列为全球前五大威胁，国际合作从可采纳的选项变成了必须采纳的选项。国际刑警组织与中国联合打击恶意软件的行动已取得成果。中国发布的全球首部由政府引领的人工智能伦理与治理白皮书，提出以人为本、安全可控等规则，给全球治理呈上了方案。搭建一个包容有效的全球AI治理体系是应对此信任危机的终极办法，但也肯定是最为坎坷不平的一环。

在创新与规制之间：寻找精妙的动态平衡

在大力构建“系统信任”之际，必须留意可能出现的治理过度情况。技术界和产业界存在一种合理的担心，过于严苛和僵化的标识认证与监管，或许会扼杀技术创新的活力，提高社会运行成本，甚至侵害个人隐私和创作自由。而信任的重塑并非走向另一个极端，打造一个密不透风、扼杀一切的数字牢笼，而是要探寻一种精妙的动态平衡。遵循风险适配与最小必要原则，对于新闻资讯、金融信息、政治言论、医疗健康等涉及公共利益的高风险领域，一定要实行最严格的可追溯和强认证。对于个人娱乐、艺术创作、学术研究等低风险场景，则可以采用更宽松、更具弹性的治理方式，鼓励在合规框架内开展创新探索。

认证机制本身的设计也应当融入隐私保护技术，例如在验证内容真实性时不泄露用户敏感信息的技术。真正的技术创新理应包含对伦理和社会责任的深入考量。中国人工智能产业发展联盟发布行业自律公约，企业研发反AI伪造工具，都表明健康的产业生态需要兼顾发展与安全。正如行业专家所说，解决AI安全问题需要管理好“框、数、人、链”等关键环节，将安全内置于体系之中。最终目标并非阻止AI发展，而是引导其朝着积极向上的方向发展，让可信成为技术的内在属性和核心竞争力。

迈向一个可验证、可共筑的真实未来

AI技术就像一面镜子，反映出人类在追求技术进步时对自身社会根基的潜在冲击。它揭开了真实与虚拟之间那层脆弱的屏障，迫使我们进行一次全面的信任哲学反思。信任不再是基于血缘、地缘或简单经验的自然产物，而是在数字洪流中需要主动设计、精心维护、不断验证的“公共基础设施”。

我们如今站在一个岔路口，一条路通往猜忌众多、共识破裂的“后真相深渊”，另一条路则朝着通过共同努力构建“技术能验证、制度可依靠、公民有素养、全球共治理”的新型信任生态前进。这条路没有捷径，它需要立法者有远见、技术专家有智慧、平台企业负起责任、每位公民保持理性，以及国际社会达成艰难的共识。

当“眼见为实”成为过去，社会信任的基石最终会落在更坚实也更复杂之处：会落在我们共同设计和维护透明可验证系统上，会落在我们共同敬畏和遵守规则、法律与契约精神上，最终则会落在我们人类共同体求真向善、构建可信数字文明的共同意志上。这不是对过去的修补，而是一场面向未来的深刻变革。其成败决定我们能否在技术营造的令人眼花缭乱的幻象中稳住方向，驶向一个值得人类信赖的真实彼岸。

统筹：石闯

编辑：程子鑫   实习生 廖珊