图片来源：ZAO
以AI换脸为亮点的ZAO在一夜之间火遍了全网。但在娱乐之余，已经有不少用户发现了这类软件的潜在风险。
先来回顾一下ZAO的玩法：用户可在软件中上传个人照片，通过AI技术，可以将自己的人脸置于平台中用户所选择的影视片段之中，实现用户与“明星”的换脸。由于玩法新奇，ZAO在短时间爬上了苹果应用商店免费榜首位，但争议也同时产生。
最先引起争议的是ZAO用户协议中的一则条款。
ZAO其用户协议中写道：
素材，合成了色情视频。此后这类现象愈演愈烈，由于FakeApp等软件的诞生，进行AI换脸的门槛也越来越低，导致Twitter、Reddit、gif搜索引擎Gfycat等平台都开始封禁这些合成的色情片。据智东西报道，AI换脸在国内也已经形成了一条完整的黑色产业链。从下游成品情色视频、中游定制视频到上游软件及教程，都可以从淘宝、微信等卖家处买到。
ZAO在其版权声明中写道：“ZAO禁止用户随意上传和使用素材，并通过人工审核环节尽力保证ZAO上的内容不侵犯相关权利人的合法权益，尽力保证内容符合相关法律法规规定。”
这样的说辞似乎并不能安抚用户，不少用户担心，自己在AI换脸上传的面部信息会被这类卖家利用。
此外，在道德伦理之外，金融风险同样值得注意。于霄同时提醒这些平台的用户，视频欺诈很有可能成为一种流行的犯罪手段，不法分子一旦掌握手机号、人脸图片等多个信息，对骗术识别能力差的老人有很大的杀伤力，这在技术层面是可行且会真实发生的。
“不说ZAO平台本身会怎样，但早期APP的数据保护措施肯定是不足的，等于是核弹级数据掌握在普通人手中，所以我建议加快隐私数据法律法规建设，同时提示用户应该注意保护自己的声纹和面部图像，尽量不要给任何APP做此类精细化采集。大家在娱乐的同时，要非常谨慎“，于霄说。
