深度伪造

深度伪造是什么

深度伪造（Deepfake）指利用深度学习与生成式 AI 技术，合成高度逼真的伪造人脸、声音或视频——典型应用是"AI 换脸"（把 A 的脸换到 B 的视频上）和声音克隆。

技术本身是中性的（影视合成、虚拟主播都在用），但当它被用于冒充他人、造谣、诈骗时，就构成侵权甚至犯罪。

常见形式

• 换脸视频：将目标人脸移植到他人视频中
• 声音克隆：用少量样本克隆某人声线
• 照片级伪造：生成不存在的"真人"照片
• 表情/口型驱动：让静态照片"说话"

主要风险

• 个人侵权：肖像权、名誉权被侵害
• 诈骗升级：AI 换脸/克隆声音冒充亲友或领导实施诈骗
• 信任侵蚀：视频证据的可信度下降
• 内容污染：伪造名人发言、新闻事件

如何识别

• 观察边缘闪烁、眨眼异常、光影不一致
• 用 AI 检测工具（换脸检测模型）
• 关键场合核验来源、多通道确认（电话+视频+身份）

防范与监管

我国已出台《人工智能生成合成内容标识办法》等规定，深度合成内容需显著标识；制作传播假冒他人形象的内容可能承担民事责任乃至刑事责任。

一句话总结

深度伪造把"眼见为实"变成需要打问号——技术进步的同时，标识、检测与法律追责必须跟上，这也是数字信任时代的必修课。