新浪新闻2024年10月11日日发布:一夜走红一天沦陷的AI换脸技术，就这样威胁了我们的隐私

事情起源于一个加班摸鱼的晚上，收到了一条视频消息，一个古装言情剧片段，but定睛一看，这男主角的脸不是发消息的肥宅小伙伴么？！

看水印得知出自AI换脸APP 名字叫ZAO，并且这款软件已经在朋友圈刷了一波屏，毕竟是个新鲜玩意儿，一时间朋友圈熟悉的小伙伴都变成明星。

看大家玩儿的开心，但是AI换脸、肖像授权、数据采集、生物识别、手机号绑定。这几个关键词凑在一起，后背有没有感到一丝凉意？

不过今天我们不谈舆论，聊聊技术和风险

告诉大家一个秘密…视频换脸这个技术，最初其实是应用在小电影上的。

当然，视频换脸虽然应用场景很迷，但也不是突然冒出来的新技术黑科技。

早在2017年，国外Reddit论坛 一个ID名为“DeepFakes”的小伙几首次将自己制作的AI换脸视频发布在网络上。

但是很快就凉凉了。在被Reddit无情封杀后，DeepFakes同志直接开源了AI换脸项目的代码，造福全球宅男并立刻风靡全球。

代码开源后，只要你稍微懂点代码就能在几个小时内做出一部换脸视频。人们为了纪念DeepFakes同志，就用它的ID命名了AI换脸技术，称之为“DeepFakes”

DeepFakes的应用场景

1、拿你的视频去和你的亲朋好友骗钱（都说眼见为实你觉得骗子成功率如何？）

2、拿你的视频去网贷（据实验，很多网贷APP的风控系统并不成熟，视频在手，离负债百万还有多远？）

3、拿你的视频去做任何对方想做的事让你的名声一败涂地。（想象一下自己的脸突然出现在不可描述的小电影里）

不好意思没有想到有什么正能量的应用场景

DeepFakes 相关的网络安全问题

只要AI训练足够多的头像，换什么都不是问题

DeepFakes会引发很多问题，比如定期收集到的大量普通用户数据，即使是在得到用户明确同意的情况下，大多数人也不知道网上有多少他们自己的照片。

未来，虚假视频制作可能会做得越来越好，因此需要政府、企业及个人联合投入更多资源去研究检测DeepFakes假视频的技术。

此外，为应对DeepFakes虚假视频，还有一个比较好解决方案是更好地教育普通大众，“眼见并不为实”

说回ZAO ，在被广泛质疑之后，“ZAO”迅速修改了用户协议，删除了限制用户权利、强制用户无限授权的内容并做出了声明。