AI换脸安全争议不可回避然而官方未给出具体下架原因

东方网记者谢敏3月3日报道：“蚂蚁啊嘿嘿，蚂蚁啊呼，蚂蚁啊哈，蚂蚁啊哈哈……”过去一周，在微信朋友圈、微博、抖音等社交媒体平台上，相信很多人都被这神奇的音乐加上夸张的扭动变脸视频震撼到了。

然而，这款名为“AI换脸软件”的热门AI换脸软件，从2月底的苹果App Store免费榜第一，到今天在中国区App Store悄然“下架”。星期。 目前，官方尚未给出具体下架原因。 业内猜测该软件可能涉及隐私、安全等问题。

你体验过AI换脸吗？

这个名字来源于电影《阿凡达》。 创建者是一名开发工程师。 最初，他只是因为疫情期间太无聊，才开发了这款换脸应用并开源。 其实早在去年7月就推出了，但一直不温不火。 直到“蚂蚁啊喂”特效流行之后，这款软件才开始流行起来。

软件运行原理是将别人的脸放到自己的表情上，进行实时驾驶。 用户只需三步：从手机导入人脸图片，选择视频模板，软件会自动生成短视频抖音蚂蚁呀嘿特效怎么做，然后一键保存。 如果你想让照片中的多个人动起来，根据抖音上大多数视频制作教程，你还需要一些编辑软件来辅助。

软件背后用的就是这种强大的AI人脸交换技术，不仅可以生成图片，还可以生成视频。 ，是“deep”（深度机器学习）和“fake photo”（假照片）的组合。 它本质上是图像合成和替换领域深度学习模型的技术框架。 它的出现可以说是人脸交换技术。 一个重要的突破。

AI换脸安全性争议不可避免

然而，就像过去任何换脸人工智能软件一样，它不可避免地会遇到可能的安全和隐私问题。 脸部是非常私密且重要的个人信息，因为换脸软件在使用过程中会收集用户的个人信息，比如照片、面部特征等。 如果通过人工智能技术合成这些信息，一旦泄露、被盗，很可能造成个人财产损失，带来一系列未知的风险。 早前在国内大受欢迎的《ZAO》也因担心隐私泄露而引发公众焦虑和讨论，并在接受工信部约谈后被下架。

对于下架，有网友表示：“技术是好技术，但应该有正确的使用规定，如果没有规定，要谨慎使用。” “AI换脸最大的恐惧就是被不法分子利用。”

2019年11月底，国家网信办、文化和旅游部、国家广播电影电视总局等三部门联合发布《网络音视频信息服务管理规定》，明确“利用基于深度学习、虚拟现实等的虚假图像、音视频等内容，利用视频生成技术制作、发布、传播谣言的，应当及时采取相应措施予以辟谣”等新规定。换脸技术的规定。 规定还指出，利用基于深度学习、虚拟现实等新技术、新应用制作、发布、传播非真实音视频信息的，必须以显着方式标识。 并且该技术不得用于“制作、发布、传播虚假信息”。 此外，规定还强调，相关音视频技术不得用于“侵犯他人名誉权、肖像权、隐私权、知识产权等合法权益”。

任何人工智能技术的运用都是人类科技发展和进步的体现，但任何高科技、新手段的运用，都必须守住法律和道德的底线。 用户在体验该App时应更加谨慎。 不能只顾好玩而忽视信息安全和个人隐私的泄露。 （脱敏）