走出恐怖谷：AI已能合成难辨真假的人脸照片，还更被信任( 二 ) 本文转自：澎湃新闻看到这张

创建不存在的人脸照片实际上是GAN的一个副产品，其原本的主要目标是训练人工智能识别假脸和一般人脸， Nvidia需要通过自动识别人脸并对其应用其他渲染算法来提高其显卡性能。然而，由于StyleGAN代码是公开的， Uber的一名工程师就利用它创建了一个随机人脸生成器。
对于Deepfake（深度伪造）技术的恶意使用已经在现实中有了诸多体现，比如美国大选中的虚假宣传活动，为勒索而创造的虚假色情内容等等。自Deepfake技术出现以来，鉴别出深度伪造和进一步欺骗鉴别之间已经变成了一场“军备竞赛” 。
现在这项对Deepfake进展的研究使人更加担心其被滥用， “任何人都可以在没有Photoshop或 CGI专业知识的情况下创建合成内容， ”Nightingale表示。
【走出恐怖谷：AI已能合成难辨真假的人脸照片，还更被信任】美国南加州大学视觉智能和多媒体分析实验室主任Wael Abd-Almageed在接受《科学美国人》采访时表示， “另一个担忧是，这些发现会让人觉得深度伪造将变得完全无法检测到，科学家们可能会放弃尝试开发针对深度伪造的对策。”
两位研究者也提出了应对措施，如将强大的水印合并到图像和视频合成网络中，这将为可靠识别提供有效机制。
论文中写道，也许最有害的是，在任何图像和视频都可以伪造的数字世界中，任何不受欢迎的记录的真实性都可能受到质疑。“所以，我们鼓励推进技术发展的人们考虑风险是否大于收益，而不仅仅从技术角度考虑其是否可能实现。”
(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)