注册 登录
中工网论坛 返回首页

托塔李的个人空间 http://blog.workercn.cn/?439211 [收藏] [复制] [分享] [RSS]

日志

好玩的AI换脸,也可能威胁国家安全?

已有 1237 次阅读2019-9-3 10:35 |系统分类:热点锐评

 ZAO可能产生的潜在危险和不安全性,也是人工智能为社会提供产品的同时人们必然面临的挑战。

  名为ZAO的AI换脸软件红遍网络,然而好景不长,一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧,仍在蔓延。

  实际上,ZAO软件就是一款经改造的换脸APP,2017年发源于美国,称Deepfakes,是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。

  既然是造假,当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全,如果涉及犯罪,轻而易举的换脸操作也会让真假罪犯难辨,同时加大司法成本。当然,在一些国家,如美国,换脸还可能成为反恐的梦魇,既可以让恐怖分子很容易通过换脸作案和逃脱,也加大了安全部门反恐的难度。

  所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性,这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此,如何监管才是最现实和最严峻的问题。

  现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸,美国欧盟等认为,即便是潜在的威胁,也极其严重,必须先出手防范。

  今年1月28日,美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes?》,指出,以Deepfakes为代表的换脸技术具有一系列潜在的危害,包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等,希望各国明确定义Deepfakes的不正当使用,亟须社会定义什么可以接受,什么不可以接受,这既有利于社会和法律的管理,也有利于社交媒体规范其平台,管理网上内容。

  今年6月13日,美国众议院情报委员会对Deepfakes举行了听证会,会上该委员会主席、众议员亚当·希夫称,篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景,让议员、新闻媒体和公众“难以分辨什么是真实的,什么是虚假的”。因此,他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条(互联网服务不必为其用户的行为负责)进行修改,以打击Deepfakes,保护用户免受假新闻的误导。

  针对Deepfakes换脸技术产生的具有破坏性的危险性内容,欧盟也在2019年初出台了应对指南,以帮助公众分辨某条信息的来源,信息是如何产生的以及信息是否值得信赖。

  可以看到,对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止,只是在进行论证。但迫于压力,美国的Reddit上关于换脸技术的讨论版被删除,换脸技术也在美国被全网封禁,其GitHub开源代码也被清除。

  尽管目前看来,ZAO软件还没有造成实际上的危害,但是,正如网友所指出,一个潜在危害非常实在:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。”因此,公众的担心并非杞人忧天,有必要及早以明确的法律条款予以规范。

  □张田勘(专栏作者)

评论 (0 个评论)

facelist

您需要登录后才可以评论 登录 | 注册

小黑屋|手机版|Archiver|中工网

GMT+8, 2019-9-15 22:26 , Processed in 0.055572 second(s), 16 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

返回顶部