AI换脸app停止访问怎么回事(专家指出这款AI换脸APP有两大风险存在)

AI明星换脸视频的火热让一些互联网公司看到了商机。从8月30日晚开始,名为“ZAO”的换脸软件在社交网络疯狂刷屏。截至31日下午16时,ZAO App仍居iOS应用商店免费App下载量第二位,该App上线不到一天就出现了服务器满负荷的情况。不随着ZAO火爆网络,针对此类换脸应用版权、伦理、隐私安全等问题的质疑声音也越来越大。迅速蹿红的ZAO瞬间站在了舆论的风口浪尖上。微信封杀随之接踵而至,AI换脸app目前已经停止访问。专家指出,这款AI换脸APP有两大风险存在!
AI换脸app停止访问怎么回事(专家指出这款AI换脸APP有两大风险存在)
AI换脸APP停止访问
换脸APP“ZAO”的微信分享链接已停止访问,页面显示“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。
什么是“换脸视频”?
ZAO使用AI技术,用户只需要一张正脸照,就可以替换为影视作品或者小视频中的人物,生成以自己为主角的视频片段。
就是通过这款软件,用户可以将影视剧、综艺节目片段中明星的脸换成自己的照片,因为是AI人工智能技术,所以呈现出的换脸效果比较好,脸部表情自然,效果十分逼真,就像是自己演的一样。
AI换脸怎么操作?
用户注册完成后,系统会提示你选择一张图片——在你的相册中,很多照片不清晰或者非正脸的照片都被系统否决的,不允许上传。在选择完照片后,APP还会要求你进行一项特殊的操作——肖像验证。用户需要在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作,在系统判断你上传的这张照片就是你本人之后,才能进行下一步操作。这一举动是为了避免该技术被恶意运用。
随后,在系统确认后,用户可以在APP中提供的众多模版中选择自己喜欢的,既可以将自己的脸换成经典角色——比如“小李子”“谢耳朵”,也可以将自己换脸成偶像的搭档,还可以与好友两人一起进行换脸。换脸视频制作需要1~10秒,经过肖像权验证的视频可以分享到微信、微博、QQ等平台上,未经验证的视频则无法分享。同时,用户也可以制作GIF动画表情。
隐私泄露风险
昨日,该款软件的用户协议也引发网友争议。有网友认为,协议表示软件方可以利用用户的肖像资料及制作好的视频做任何事,有导致个人隐私泄漏的风险。
此外,用户手机、面部图像等信息也可能会被不法分子利用进行诈骗、盗刷支付宝类金融支付工具等。
有人表示,换脸之后会不会出现财产风险,比如被他人盗刷财产等。针对这个问题,支付宝安全中心给出了答案。
支付宝安全中心表示,目前,网上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。
此外,支付宝安全中心还表示,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。同时,支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作,开通之后才能进行支付,用户也可以随时关闭。而且,即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。
随着科技的发展,人工智能与人类的联系越来越密切。目前各大网络金融平台均有人脸识别系统,该技术应用到解锁、打卡、购物支付等生活场景中,如果有人恶意使用AI换脸技术,个人的隐私和财产都将会受到不同程度的侵害。