第一金融网主办
»您现在的位置: 第一金融网 >> 财经金融 >> 图片新闻 >> 正文

明年1月1日起,AI造假视频不得随意发布

2019/12/2 14:09:20  文章来源:创事记  作者:量子位
文章简介:2017年底,deepfake换脸技术出现以来,各种使用AI技术造假的视频层出不穷。而且随着技术的进步,造假视频已经变得越来越真假难辨,也引发了全球范围内的担忧。

  欢迎关注“创事记”微信订阅号:sinachuangshiji

  文/问耕

  来源:量子位(ID:QbitAI)

  新规来了。

  在这份刚刚印发的《网络音视频信息服务管理规定》中,四次直接提及深度学习,基本可以看做是针对AI造假视频的一次针对性管控。

  2017年底,deepfake换脸技术出现以来,各种使用AI技术造假的视频层出不穷。而且随着技术的进步,造假视频已经变得越来越真假难辨,也引发了全球范围内的担忧。

  现在,不能使用AI技术乱来了。

  国内的各位朋友,再搞AI换脸的视频等操作,请注意这些新规定。

  对普通用户:

  发布非真实AI音视频时,要以显著方式标识出来。

  不得使用AI技术制作假新闻。

  对于服务商,除了上述要求还有:

  上线AI音视频服务,应展开安全评估。

  部署非真实音视频鉴别技术。

  及时停止传播未显著标识的非真实AI音视频内容。

  建立健全辟谣机制。

  相关规定条款,我们截图如下。

  新规定将于明年1月1日起施行。

  《网络音视频信息服务管理规定》的详细内容,可以访问这个页面查看:http://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm

  deepfake“改变”世界

  对于deepfake等基于深度学习的AI技术,全球都在想办法应对。

  毕竟这种技术,可以用来换脸:

  还能用来给身体造假:

  当然动物也不再话下:

  本月,推特发布了首个反deepfake策略草案,并征集公众意见。根据这个草案,如果一份deepfake伪造的内容威胁到某人的人身安全或可能造成严重伤害,将会被删除。

  包括微软、Google等国外公司也在研究如何自动鉴别换脸视频。

  AI造假视频,也是最近几个月美国国会中最有争议的话题之一。此前,美国国际战略研究中心(CSIS)发布报告称,伪造信息正在通过互联网迅速传播,破坏了民主进程。

  来自人民看点的报道中写道:

  Deepfake被认为是一种破坏民主的工具。美国情报界发布的2019年全球威胁评估(Worldwide Threat Assessment)中就警告称,恶意攻击者或战略竞争对手可能会使用deepfake技术或类似的机器学习技术来创建看似逼真但其实是伪造的图片、音频和视频文件来加大针对美国和其盟友的活动的影响。

  CNBC网站在其报道中称,“deepfake”将成为“2020年美国总统选举中的大事件”。就像2016年的“虚假新闻”一样,“deepfake”视频将在2020年的美国大选中,掀起更强大的血雨腥风。

  2019年10月,美国加州州长Gavin Newsom签署AB-730法令,明确指出,如果散布伪造的信息使公众对政治人物的言论、行动产生错误或有害的印象,将是犯罪行为。

  7月,美国弗吉尼亚州也发布了禁止deepfake滥用的禁令:未经当事人允许分享他人的裸露视频、照片属于违法行为,无论该照片或视频是真实的还是伪造的。

  今年6月,斯坦福、普林斯顿等大学发布了一项最新研究:给定任意文本,就能随意改变一段视频里人物说的话。并且,改动关键词后人物口型还能对得奇准无比,丝毫看不出篡改的痕迹。

  除了视频造假,AI在音频造假方面也不在话下。

  来看一个真实的案例。

  有人用AI技术伪造老板的声音,打电话要求转账,结果一家公司上当了,损失了173万元。这家公司,是总部位于英国的一家能源公司。

  要不是因为骗了一次还想立刻骗第二次,这个骗局可能也不会马上曝光。

  毫无破绽的变脸

  如果你还没见识过deepfake的威力,以下是一些网友的大作。

  此前,有一个名为“换脸哥”的B站用户将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸,并且把处理过的视频发在了B站。

  类似的还有,徐锦江换脸海王。

  “吃屎吧,梁非凡”场景中的两位主角换脸:

  把《回家的诱惑》里男主的脸换到了“穿着品如衣服”的女性角色艾莉脸上:

  更多例子就先不举了。

  如果你想试试AI模仿声音的感觉,可以试试搜狗输入法里的“变声”功能。

  如果你想试试AI换脸的感觉,可以试试此前曾在国内外掀起一阵旋风、继而引发广泛争议的App:ZAO。

  One More Thing

  北京下雪了,今天一早,量子位有个小姐姐跑去故宫看雪景。

  这张是她发回的现场报道:


分享到:
  • 上一篇文章:

  • 下一篇文章: 没有了
  • 第一金融网免责声明:
    1、本网站中的文章(包括转贴文章)的版权仅归原作者所有,若作者有版权声明的或文章从其它网站转载而附带有原所有站的版权声明者,其版权归属以附带声明为准。
    2、文章来源为均为其它媒体的转载文章,我们会尽可能注明出处,但不排除来源不明的情况。转载是处于提供更多信息以参考使用或学习、交流、科研之目的,不用于 商业用途。转载无意侵犯版权,如转载文章涉及您的权益等问题,请作者速来电话和函告知,我们将尽快处理。来信:fengyueyoubian#sina.com (请将#改为@)。
    3、本网站所载文章、数据、网友投稿等内容纯属作者个人观点,仅供投资者参考,并不构成投资建议,与第一金融网站无关。投资者据此操作,风险自担。如对本文内容有疑义,请及时与我们联系。
    相关 AI造假视频 的新闻
    没有相关文章
    发表评论

    【发表评论】(网友评论内容只代表网友观点,与本站立场无关!)
     姓 名:
     评 分: 1分 2分 3分 4分 5分
     评论内容:
    验证码:   *
  • 请遵守《互联网电子公告服务管理规定》及中华人民共和国其他各项有关法律法规。
  • 严禁发表危害国家安全、损害国家利益、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容的评论 。
  • 用户需对自己在使用本站服务过程中的行为承担法律责任(直接或间接导致的)。
  • 本站管理员有权保留或删除评论内容。
  • 评论内容只代表网友个人观点,与本网站立场无关。
  • 全站精选
    [新闻]  明年1月1日起,AI造假视频不得随意发布
     黑五网购破纪录 但4800万美国人还在还去年黑五的
    [银行]  招行回应暂停“境外汇款计划”:境外汇款业务不
     老农莫名背莱商银行百万贷款担保 经鉴定签字为假
    [股票]  消费税带来波动 茅台千亿市值蒸发
     暴风集团危机加剧 官网和App因欠费“挂了”
    [基金]  中国千亿美元规模的火热ETF市场竞争加剧
     近六成私募年底策略偏进攻 青睐消费医药金融科技
    [保险]  199元买的“恋爱保险” 三年过去了真能获赔吗?
     人保车险理赔时间规定
    [期货]  中国商务部:上周猪肉批发价格下降1.9%
     国庆节后国内油价或迎“三连涨”
    [股评]  机构强推买入 六股成摇钱树(10/14)
     六大券商下周一看好六大板块(10/14)
    [港股]  香港市场出现一周内第三支闪崩个股
     软银拟长期持有阿里股票
    [美股]  研究机构:预计第四季度苹果手机产量超过华为
     身患绝症员工被保安赶出公司 网易正式道歉
    [外汇]  发生了什么?人民币汇率涨700点 大逆转前曾小幅
     华尔街突遭“美元荒” 本周重点关注欧美制造业P
    [债券]  房企密集发债输血背后:2800亿地产债集中到期
     中国财政部:前十个月全国发行地方政府债券4278
    [黄金]  中国央行黄金储备十连涨 多国央行加入购金行列
     2020庚子鼠年贺岁银条哪里预约?怎么购买?
    [理财]  李国庆俞渝离婚案现场:女方缺席,男方要求平分
     林书豪谈挚友高以翔:他热爱篮球 我要为他打球
    [信托]  信托频频“踩雷”上市公司
     跌破8% 集合信托收益或继续下跌
    [房产]  杭州二手房库存突破10万套 300万的房255万就卖
     破产倒闭或重组整合 楼市遇冷融资收紧中国房企入
    [汽车]  北京奔驰GLB正式上市 售价31.48-35.48万元
     中国工信部:新能源汽车产业需加快制定发展规划

    | 设为首页 | 加入收藏 | 关于我们 | 友情链接 | 版权申明 | 文章列表 | 网站地图 | 征稿启事 | 广告服务 | 意见反馈 |

    Copyright©2006-2027 afinance.cn All Rights Reserved 版权所有·第一金融网 ,未经授权禁止复制或建立镜像,否则将依法追究法律责任!

    声明:我们不做任何形式的代客理财及投资指导,凡是以第一金融网名义做股票推荐的行为均属违法!

    广告商的言论与行为均与第一金融网无关!股市有风险,投资需谨慎。

    合作邮箱:fengyueyoubian@sina.com 合作电话:18678839953 点击这里给我发消息