央广网

AI“换脸”引公众对数据安全和隐私担忧 专家:技术无罪

2019-09-06 18:55:00来源:央广网

  央广网北京9月6日消息(记者景明 江苏台记者周洋)中央广播电视总台中国之声《新闻晚高峰》报道,换脸应用ZAO的隐私协议最近备受质疑,被工信部约谈要求依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。在昨天(5日)举行的第十六届长三角科技论坛暨江苏科技论坛上,中外人工智能领域的专家们就处在风口浪尖的“AI”技术潜藏用户数据安全和隐私方面的问题,回答了记者的疑问。

  8月30日,AI换脸应用ZAO突然风靡朋友圈。通过AI换脸技术,用户仅需上传一张照片,将短视频中的演员换成自己的脸,便能“出演天下好戏”。就在这时,部分用户从起初的用户协议发现,这个应用需要使用者同意把肖像权永久、不可撤销、免费地给它使用,还能修改,包括它的关联公司。这样的“霸王”协议,瞬间引发了大量的质疑和抵制。另外,有人也担心,上传的脸部信息一旦被不法分子窃取,财产和人身安全都将受到未知的威胁。

  9月3日,ZAO的运营团队北京陌陌科技有限公司相关负责人被工信部约谈。要求依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全。运营团队回应:已经上传了新版用户协议,并将确保用户个人信息安全和数据安全。

  事情虽然已经告一段落,但关于“AI”技术涉及的数据安全和隐私等问题,依然仍在争议中。在第十六届长三角科技论坛暨江苏科技论坛上,南京大学人工智能学院院长周志华坦言,技术无罪:“比如就‘换脸’这项技术,它对娱乐业可能是个重大的技术支持,像3D动画,原来要大量的人力,后来有了计算机辅助,大幅度提高了生产力、降低了成本。它对娱乐业可能是好事,但对司法系统等可能会带来一些新的挑战,所以关键要看怎样去用。”

  美国佐治亚理工学院教授帕斯卡·范·亨滕瑞克也表达了类似的观点:“技术是中立的,关键在于你如何使用它。”

  专家也表示,不能以“人脸识别”为代表的人工智能技术发展太快为由,让技术“背锅”。背后的伦理道德规范以及法律法规需要相应跟上,包括面部识别技术应该应用在哪些领域,程度如何,这些都有待解决。周志华说:“一方面在人才培养上,要提醒培养的学生,这些技术有巨大的威力,要小心用到正道上;另一方面可能还需要靠法律社会方面的专家。”

  除了伦理道德规范以及法律法规,也可以用技术打击“技术”。香港科技大学杨强教授表示,对抗学习和反欺诈,也是一个非常新的领域。可以简单地理解为,培养一个对手,也就是对抗网络,给自己的学习随时“找茬”,让自己更智能地识别造假。

编辑: 赵亚芸