北京赛车pk10官网

中共中央宣传部委托新华通讯社主办

眼见为实?“深度伪造”了解一下

2019-09-25 10:47
来源:半月谈网

半月谈驻华盛顿记者 周舟

北京赛车pk10官网今年6月底,一款可以“一键脱衣”的应用DeepNude在网上受到追捧。这一应用借助神经网络技术,只需要上传一张照片,即可自动“脱掉”衣服,伪造出逼真的裸照。这款应用上线仅几个小时下载量就突破50万,吸引用户的“一键脱衣”效果正是利用“深度伪造”技术实现的。

北京赛车pk10官网“深度伪造”是一种基于人工智能的人体图像合成技术,它能“以假乱真”,不仅伪造裸照,还能实现换脸、模仿真人语言和动作,创造出不存在的人物及活动。这一技术,正在挑战人们“眼见为实”的传统认知。

何为“深度伪造” ?

北京赛车pk10官网“深度伪造”(Deepfake)是英文“deep learning”(深度学习)和“fake”(伪造)的混合词,即利用深度学习算法,实现音视频的模拟和伪造。

北京赛车pk10官网这一技术在我国虽没有被滥用,但在美国曾多次出现针对官员的伪造恶搞视频。2018年4月,一段主角为美国前总统奥巴马的视频,在推特上获得200多万次的播放和5万多个点赞。奥巴马在视频中说“特朗普是个彻头彻尾的笨蛋”。但实际上这段话并非出自奥巴马,而是美国一位导演公开发表的言论。

2018年5月,美国总统特朗普宣布中止全球气候变化协议,随后被比利时某政党利用“深度伪造”技术篡改,做出一个“特朗普宣告比利时政府也应退出”的假视频,引起比利时民众的公愤。

由图灵奖得主姚期智院士创办的西安交叉核心技术研究院孵化的深信科技,是专门从事“反深度伪造”技术研究的企业。

北京赛车pk10官网创始人杨子江博士介绍,美国出现的“深度伪造”大致有三类:一是换脸,在美国以色情网站、成人电影等为主要应用者;二是对嘴型,即表情迁移,多应用于恶搞官员、影视明星为主的视频;三是动作迁移,将一个人的肢体动作移植到另一个人的身上,也可形象比喻为“主人与木偶”的关系。“比如将来抖音上的网红可能是假的,他所说的话,做的事全是被‘深度伪造’技术所操控。”

真假难辨,引发广泛忧虑

从文本到音频,从视频到虚拟现实,随着媒体技术的进步,“深度伪造”应用技术门槛不断降低,“白纸黑字”“有图有真相”的传统认知标准遭遇了前所未有的信任危机。“不久的将来,任何人有可能做出任何视频。”中国传媒大学人工智能专家沈浩说。

北京赛车pk10官网目前,“深度伪造”技术正在平民化、大众化,但“反深度伪造”技术仍未成熟,这一局面或将对个人隐私、行政执法、司法取证等多方面带来困扰和威胁,引发社会忧虑和信任危机。

首先给个人和企业带来损害。制作虚假色情视频是“深度伪造”技术最常见的运用方式之一。“‘深度伪造’技术可能侵害肖像权、隐私权和知识产权等权利,也可能被用来实施诈骗、敲诈勒索等违法犯罪活动。”中央财经大学人工智能与网络法专家刘权说。

二是国家安全和公共安全受到威胁。美国专家西特伦举例说,“深度伪造”可能会影响美国大选,制造出一些候选人没做过的“错事”,这些影响都是不可估量的。

三是引发社会忧虑和信任危机。专家认为,“深度伪造”会加深公众对政府的不信任感。随着公众意识到“深度伪造”的危害,他们会对一般的真实视频产生怀疑,更容易把真实视频当作虚假视频,迷失在真假信息之中,对官方澄清也会持有怀疑态度。

加强监管,完善立法

“深度伪造”技术背后的深度学习技术是一把“双刃剑”。它可以为电影实现完美配音,可以让博物馆的艺术品“复活”,还可以合成真实医学影像,用于治疗疑难杂症。有专家认为,深度学习技术不宜管制,这样会阻碍技术创新和应用研究。

但“深度伪造”不仅是技术问题,更关乎个人隐私、司法公正、国家和网络安全。杨子江建议,可建立全网“数字水印或签名”系统,所有播发的视频、图片等在播发前,须打上数字水印或签名,如果被伪造篡改,这些印记会被破坏,从而立刻被标注为虚假信息。

美国国防部今年推出了“媒体法医”项目,开发用于鉴别和定位伪造图片和视频的技术,但专家认为,仅仅事后鉴别是不够的,有必要将识别能力部署在传播渠道的前端,禁止其发布或者至少提出警告。

北京赛车pk10官网另有专家认为,在以技术制约技术的同时,及时完善立法,不断加强执法,对一些技术解决不了的问题应该立法重罚,追究刑事责任。

责任编辑:常磊

热门推荐