Deepfake 失控：当“眼见为实”开始失效

潘多拉的盒子

Deepfake 这个词源自一个 Reddit 用户名，但技术很快开源化、工具化——基于自编码器和 GAN 的换脸，从需要博士学位的研究，变成了下载个软件、备点素材就能跑的操作。最早的大规模滥用是伪造名人不雅视频，紧接着是伪造政客发言。眼见为实这条延续了几千年的认知默契，第一次被技术大规模动摇。

为什么治理这么难

• 生成和检测是一对此消彼长的对手——你训练一个检测器，对方就拿它当判别器继续训练生成器，检测方永远慢半拍。
• 技术本身是中性的：同样的换脸技术，影视特效、配音换脸、隐私保护打码都用得上。一刀切禁不掉。
• 传播速度远超澄清速度——一条假视频几小时传遍全网，辟谣的触达连零头都不到。

我的看法

我不认为纯技术能解决技术滥用——指望“更强的检测算法”一劳永逸是幻想。出路更可能是组合拳：内容来源认证（拍摄设备给真实素材签名）、平台层的溯源与标注、法律对恶意伪造的追责、以及最重要的——重建一套不再天真依赖“视频 = 真相”的社会共识。生成式 AI 越强，‘信任’本身就越会成为稀缺品和基础设施。这个判断，未来几年只会越来越对。