API检测失灵，Deepfake与面部识别谁更胜一筹？
这就是说Deepfake基本能骗过现有面部识别服务。
Deepfake正在迅速增长。
关于欧美的反响，大多数人认为这令人不安，不仅是因为这些冒牌可能会在选举期间左右舆论或涉及犯罪，还因为它们已经被滥用，比如用作演员和明星的色情材料。
论文链接：
https://arxiv.org/pdf/2103.00847.pdf
“我们相信我们的研究成果能帮助更好地设计基于网络的应用程序接口以及适当的防御机制，这些都源于打击恶意使用Deepfake技术的迫切需要。”
因为微软和亚马逊的面部识别提供识别明星的服务，研究人员选择了这两家的API作为基准。测量方式是根据这些API返回的人脸相似性评分指标比较他们的性能。
明星相比普通人的可用图像数量多，因此研究人员能够相对容易地从中生成Deepfake。谷歌通过其云视觉API提供名人识别功能，但研究人员表示谷歌拒绝了他们使用该功能的正式请求。
为了了解商业面部识别API会在多大程度上被Deepfake欺骗，研究人员使用的人工智能模型分别在五个不同数据集上经过了训练，其中三个数据集是公开的，另外两个是他们自己创建的——包含了好莱坞电影明星、歌手、运动员和政客的面孔。
研究人员总共从数据集中创建了8119张Deepfake。然后他们从Deepfake的视频中提取一帧人脸图片，让服务器尝试预测哪个名人拍了照片。
最后的结果发现所有的API都很容易被Deepfake技术瞒天过海。Azure Cognitive Services有78%的几率将Deepfake的人脸误认为了目标名人，而亚马逊的Rekognition将伪造图片误认为目标名人的几率达到了68.7%。
这还不算让人大跌眼镜的，在40%的情况下Rekognition还会把深度伪造的明星误认为另一个名人，并且在用作实验的3200个明星中，它给902个Deepfake的评分比真图更高。
同样地，在Azure Cognitive Services的实验中研究人员成功模仿了100位名人中的94位。
两位论文的合著者将他们的攻击成功率归因于Deepfake往往会保留目标视频的原身份。因此，当微软和亚马逊服务犯错时他们往往会给出置信度评分，而亚马逊则表现出“相当高”的易受Deepfake欺骗的程度。
研究人员警告称，假设潜在的人脸识别API无法区分Deepfake的冒名者和真正的用户，它会导致许多隐私、安全和风险，以及大量的欺诈案件。
“语音和视频Deepfake技术可以结合起来制造出多模式的Deepfake，用于实施更强大更真实的网络钓鱼攻击……而且如果商业API未能过滤掉社交媒体上的Deepfake，就会导致虚假信息传播伤害无辜的个人。”
与行业领先企业创新官探讨应用场景的机会来咯
Deepfake检测工具也大型打脸现场了
失败…能感受到检测工具的无奈，“这真的不是阿汤哥吗？”
“语音和视频Deepfake技术可以结合起来制造出多模式的Deepfake，用于实施更强大更真实的网络钓鱼攻击……而且如果商业API未能过滤掉社交媒体上的Deepfake，就会导致虚假信息传播伤害无辜的个人。”
- The End -
4月5日截止报名！赶快上车吧！
扫码观看！
本周上新！
