您当前的位置:中国科技聚焦网要闻正文

最前哨AI换脸视频不能随意玩了新规下一年起实施

放大字体  缩小字体 发布时间:2019-12-02 11:29:03 作者:责任编辑。王凤仪0768

从换脸技能 Deepfake 初度在论坛呈现,到“神奇女侠”盖尔·加朵的脸被嫁接到成人片女星身上,再到换脸运用 ZAO 一夜间风行朋友圈,仅仅只过了两年。

根据深度学习的 AI 换脸技能正在创造出渐渐的变多真假难辨的视频。但与此一起,AI 造假技能也在繁殖惊惧,这背面是关于隐私、实在、版权等等悬而未决的问题。

监管现已跟了上来。11 月 29 日,国信办引发了《网络音视频信息服务办理规则》(以下简称“规则”),提到了对深度学习视频内容的管控。

规则第 11 条指出,网络音视频信息服务提供者和运用者运用根据深度学习、虚拟现实等的新技能新运用制造、发布、传达非实在音视频信息的,应当以明显方法予以标识;不得运用根据深度学习、虚拟现实等的新技能新运用制造、发布、传达虚伪新闻信息;转载音视频新闻信息的,应当依法转载国家规则范围内的单位发布的音视频新闻信息。

也就是说,一般人和服务商发布非实在 AI 音视频时,要以明显方法标清它运用 AI 技能进行了二度创造,且不得运用它制造假新闻。

在视频共享网站 Bilibili 上,能看到很多素人 UP 主制造的 AI 换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以文娱为意图,制造水平纷歧,运用的视频布景大多是影视剧“名局面”。尽管创造者一般都会标清内容运用了 AI 换脸技能,但常常会被谈论戏弄(夸奖)为“拿原片出来哄人”。

“黑寡妇”的脸被换在了佟湘玉的头上 图片来自:bilibili

徐锦江的脸被换在了雷神的头上 图片来自:bilibili

除此之外,规则还对服务商提出了额定要求,包含“打开安全评价”、“布置非实在音视频辨别技能”、“及时中止传达未明显标识的非实在 AI 音视频内容”、“建立健全驳斥谣言机制”等。新规将于下一年 1 月 1 日起实施。

作为一项“天然生成带有攻击性”的技能,Deepfake 从诞生之日起就伴跟着惊叹声和质疑声。比较国内,海外互联网渠道关于此类“非自愿内容”的展现好像得更苛刻一些。

2018 年 1 月 31 日,Gfycat 从其站点中删去了一切 Deepfake 内容。同年 2 月,Reddit 与 Pornhub 也宣告因违背“非自愿色情”方针而制止此类内容。同月,Twitter 表明将暂停涉嫌发布未经许可的 Deepfake 内容的帐户。2018 年 9 月,Google 也将“非自愿组成色情图片”增加到了其禁令列表中。

2016 年 6 月,一段以 Facebook CEO 马克·扎克伯格(Mark Zuckerberg)的脸为资料的 Deepfake视频在 Facebook 和 Instagram 上传达,Facebook 随后表明,他们不会从其渠道中删去 Deepfake 内容,但这些视频会被第三方标记为假造,然后被下降优先级。

题图来历:bilibili

声明:本站所发布的内容均来源于互联网,目的在于传递信息,但不代表本站赞同其观点及立场,版权归属原作者,如有侵权请联系删除。