你应该要懂 TensorFlow! 因为有人可能把你变成A片主角 – 明日頭條

你应该要懂 TensorFlow! 因为有人可能把你变成A片主角

想让你知道:
网络假新闻或合成视频很多,但接下来,你看到的A片或者某某政治人物的谈话,都有可能是假的。

从 2017 年 12 月起,网络出现一种滥用谷歌人工智能 TensorFlow 而合成色情片、电影主角、甚至是政治演讲等等,将公众人物、明星的脸“贴”在色情片主演脸上,效果逼真。

在A片方面,《神奇女侠》主角盖尔·加朵(Gal Gadot)、斯嘉丽·约翰逊、艾玛·沃森、麦茜·威廉姆斯等都遭殃,让人误以为他们跑去“下海拍片”了。

最初这种合成色情片就起源于在线论坛 Reddit,一位 ID 是 deepfakes 的用户将盖尔·加朵的脸用作素材,合成了视频放在了帖子上。很多用户开始关注到该视频,用户 deepfakes 还专门建了个 Reddit 主题,吸引了 9 万用户关注

更多类似视频的出现,推动力来自于 Reddit 用户 deepfakeapp 开发的一款名为 FakeApp 的电脑软件,可以更快速、便捷地制作这类合成视频。

从本质上出发,这类合成视频在技术层面上没有特别的地方。

软件可以对人脸特征进行定位,再将另外一张人脸贴合上去,如果找来的素材质量较高,合成效果很可能不错。类似的合成技术,和 PS、阅后即焚 Snapchat、FaceU、美图秀秀等差别其实不是太大,但合成的时间、效果可能都不会很理想。

但科技公司、科研机构近几年开发的人工智能技术,将这类合成视频的制作成本降到更低了,效果也更好了。

这次事件中,Google 在 2015 年开源的机器学习工具 TensorFlow。用户 deepfakes 和 deepfakeapp 开发的 FakeApp 都用到了 TensorFlow。素材方面,用户通过网络搜索、社交网站的照片都可以找到,确实有不少人在名人的 Instagram 上找素材。

用户 deepfakeapp 称,他开发 FakeApp 的目的是降低门槛,让任何没有技术背景、编程经验的人都可以使用这类合成视频的技术。有些用户用 5 小时左右就能做一个类似的视频出来。

例如,也有人用 FakeApp 这款工具恶搞了尼古拉斯·凯奇,让他成了《夺宝奇兵》主角印第安纳·琼斯、007 等。像华盛顿大学也有类似的研究,通过抓取视频,就可以编造出美国前总统奥巴马在说一段他从未说过的话,效果都挺逼真。

尼古拉斯·凯奇的脸被用作了素材
左边是奥巴马的视频素材,右边是合成的

但最近 1 周,包括社交网站 Twitter、在线论坛 Reddit、gif 搜索引擎 Gfycat 以及聊天工具 Discord 等开始封禁这些合成的色情片。Reddit 调整了网站上的内容条款,禁止青少年非自愿型色情、有性暗示的内容出现,deepfakes 主题也被封禁

即便是色情网站也加入了封禁这类合成视频的行列。最大的色情网站 Pornhub 透露,这种类型的色情片不是自愿,他们会禁止这部分的内容放在网站上。Pornhub 有相当多的这类视频是用户上传上去的。Pornhub 被看作是色情网站里引入新技术最快速的网站之一。

但彻底封禁这部分合成的色情视频可能没多少可行性。用户将这类视频制作成 gif 图片,托放在 Gfycat、imgur 等平台上,Twitter、Reddit 等平台删除没法根绝这类内容的传播。事实上,即便这些互联网公司说要封禁,但还有不少内容留存。在技术上识别这类内容本身也相当难。