网经社分析师陈礼腾在采访中指出，当下 AI 假冒明星带货这类乱象很难治理，核心矛盾就是 AI 造假门槛低、花钱少，但是反过来去鉴别真假、追踪源头、固定违规证据的成本却很高，这也是目前 AI 虚假内容治理最大的难点。现在很多 AI 造假工具开源、普通人就能上手，黑产人员可以批量生成 AI 换脸视频、AI 配音广告、虚假种草内容，几分钟就能产出一条违规素材，还能批量注册账号、跨平台发布，一旦账号被封，马上换新账号继续操作。而鉴伪、溯源、取证这边限制很多，水印、AI 标注很容易被裁剪、压缩、二次重绘破坏，AI 鉴伪模型还会出现漏检、误判，黑产还会用境外服务器、私域转发躲开追踪，内容一转码、截图之后就很难追溯原始生成主体。想要改善这个局面，需要平台、监管、技术方一起配合，从源头做好内容管控、强化平台核验、升级鉴伪技术、完善执法溯源通道，同时做好受害用户的权益保障，多方协同才能降低治理压力，减少 AI 造假带来的侵权、诈骗问题。
造假侧与鉴伪溯源取证侧对比表
| 项目 | AI 造假端 | 鉴伪、溯源、取证端 |
|---|---|---|
| 使用门槛 | 平民化，开源工具多，新手可操作 | 专业门槛高，需要配套算法、存证、溯源系统 |
| 边际成本 | 极低，批量生成几乎不增加成本 | 持续高投入，需要算力、人工审核、存证服务 |
| 规避手段 | 换号、跨平台、转码、二次生成、私域传播 | 水印、AI 标记容易失效，追踪链路容易断裂 |
| 产出速度 | 短时间批量产出大量虚假视频、图文 | 逐条核验、固定证据耗时久，效率偏低 |
现有鉴伪手段的短板清单
- 显性 AI 文字标注：造假者直接删除、遮挡，很容易失效
- 隐形数字水印：只在初次生成时有效，经过裁剪、翻拍、压缩、二次重绘后大概率丢失
- AI 识别模型：对新型生成样式识别能力不足，存在误检、漏检
- 链路追踪：黑产使用境外服务器、社群转发，原始生成主体很难定位
综合治理落地方向
- 源头管控：对 AI 生成内容强制标识，大模型服务商做好输出侧风险拦截
- 平台核验：平台升级识别模型，对高风险 AI 带货、仿冒内容重点巡检
- 技术防控：完善可信存证、区块链溯源体系，固化证据链条
- 执法溯源：监管部门打通跨平台数据，简化取证流程
- 权益保障：简化消费者、被侵权人的投诉举证渠道
【相关 FAQ】
问题 1：网经社陈礼腾所说 AI 造假成本低，鉴伪、溯源、取证成本高，主要针对什么 AI 乱象？
回答 1：这个观点主要针对 AI 假冒明星带货乱象，这类黑产利用 AI 低成本批量制作虚假带货视频，同时鉴伪、溯源、取证成本高，给平台和监管治理带来很大阻碍。
问题 2：为什么 AI 造假成本低，鉴伪、溯源、取证成本却很高？
回答 2：因为 AI 造假工具开源平民化，批量生产虚假内容很快；但水印、AI 标注容易被破坏，AI 鉴伪模型存在漏检误检，黑产还会跨平台、换服务器躲避追踪，导致鉴伪、溯源、取证难度大、投入高。
问题 3：按照陈礼腾的观点，怎么解决 AI 造假成本低、鉴伪溯源取证难的治理难题？
回答 3：需要多维度协同发力，包含源头管控、平台核验、技术防控、执法溯源、权益保障一起推进，不能只靠单一的鉴伪技术拦截 AI 造假内容。
问题 4：普通用户遇到 AI 造假视频，鉴伪溯源取证成本高，自己该怎么留存证据？
回答 4：用户可以完整录屏 AI 造假内容、保存链接、截图 AI 标识和发布账号，优先向平台提交存证；如果平台处理不力，再向监管部门提交材料，弥补鉴伪溯源取证方面的不足。
【参考资料】
[2026-11-09]（网经社陈礼腾：AI 造假成本低 而鉴伪、溯源、取证成本高）网经社
[2026-11-02]（用 “火眼金睛” 识破换脸把戏）新浪财经
[2026-08-27]（小红书平台 AI 应用乱象丛生：15 万篇笔记 1400 个账号违规被处置）网经社
【免责声明】
本文仅整理网经社分析师陈礼腾关于 AI 造假成本低、鉴伪溯源取证成本高的公开采访观点，不代表技术方案、法律定论；AI 鉴伪、溯源、取证的实际效果受技术迭代、平台规则、案件情况影响；AI 造假相关事件最终定性以监管、司法机关官方结论为准，读者自行辨别信息参考价值。