AI 大毒瘤：96%的Deepfakes视频涉及色情还搅动多国政局

发表于 5年以前 | 总阅读数：788 次

Deeptrace 是一家位于阿姆斯特丹的网络安全公司，自 2018 年成立以来就致力于研究 Deepfakes 不断发展的功能和造成的威胁。该公司创始人兼首席科学官 Giorgio Patrini 在这份报告的介绍中说道：

无论是视频音频，还是文本，我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。

以下是雷锋网对这份报告的整理：

自 2017 年晚些时候出现以来，Deepfakes 就开始凭借着惊人发展速度、逼真的换脸效果，以及对社会的消极影响而广为人知。

然而，Deepfakes 在今年的发展尤其迅猛。报告数据显示，今年网络上 Deepfakes 视频的数量迅速增长，截至目前为 14678 个，是去年 12 月份（7964 个）的一倍。

在所有的 Deepfakes 视频中，绝大多数视频都涉及色情内容，只有极少一部分视频属于非色情内容，两者的比例分别为 96% 和 4%；而且，在最受欢迎的四大色情网站上（2018 年至今），关于 Deepfakes 的视频观众已经超过 1.3 亿人。

不过，值得注意的是，非色情的 Deepfakes 视频也越来越受欢迎。

具体到受害人（被换脸的目标）的性别、国籍和职业等方面，这家公司也对 5 家色情网站和 14 个相关 YouTube 频道的 Deepfakes 视频进行了统计：

报告显示，在色情网站的 Deepfakes 视频中，女性是唯一的受害者；而在 YouTube 上的 Deepfakes 视频中，女性受害者的比例为 39%，男性受害者的比例为 61%。
国籍层面，YouTube 上以美国、英国、加拿大等西方国家人物为目标的 Deepfakes 视频高达 90%；在色情 Deepfakes 视频方面，美英加三国的女性受害者加起来占总数的一半；但韩国的受害女性（大多是 K-pop 歌手）高达四分之一。
在色情网站上的 Deepfakes 中，受害人的职业也受到关注。只有 1% 的受害人从事新闻与媒体行业，剩下 99% 均来自娱乐业。在 YouTube 上，受害者的职业则更加多元，但娱乐业的人物仍占据大多数，少部分受害人为媒体人、政客和企业家。

Deepfakes 的商业化

2017 年 11 月 2 日，一名 Reddit 用户创造了 Deepfakes，随后这项技术传遍全球。现在，随着相关论坛、工具和服务的出现，Deepfakes 也变得越来越商业化——关于 Deepfakes 视频创作社区和论坛的发展是这一变化的关键驱动力，它们为换脸视频创作者提供了探讨交流的平台，也为创作者之间的合作提供了便利。

Deeptrace 的报告发现，目前，包括 Reddit、4chan、8chan、Voat 在内，关于 Deepfakes 视频创作的社区和论坛有 20 个；其中，有 13 个论坛披露了自己的用户数量，总人数大概在 10 万左右；在这 10 万个用户当中，有 4000 多个用户拥有特权。

Deepfakes 的商业化不仅体现在社区和论坛上，还有新的电脑 App 和服务。不过，就电脑 App 而言，需要使用者具有编程知识以及强大的图形处理器；但由于“手把手教学”式的使用指南的问世，这一现象很快也会发生改变。还有就是定制 Deepfakes 视频的服务，费用则取决于视频的使用目的以及制作的难度。

Deepfakes 的危害和影响

波士顿大学法学教授 Danielle Citron 曾表示，“Deepfakes 已经成为了攻击女性的武器。