央广网

人工智能如何对抗虚假信息?技术讨论引发各界关注

2017-09-27 17:04:00来源:央广网

  央广网北京9月27日消息(记者冯烁)“肉松面包上的肉松是棉花做的”、“‘刘明炜’同学的高考准考证丟了”、“虾头里面有两条白线,其实是白色寄生虫”……日前,有媒体盘点了“2017上半年十大谣言”,以上内容均被证伪。与此同时,北京相关部门也联合辟谣平台共同发布了6月科学流言榜,“霍金警告人类不要登月,‘月球背面有外星人’”、“注胶杨梅”等纷纷上榜。

  随着互联网社交媒体的快速发展,公共领域的虚假信息如何被甄别和消除,已经成为一个学界和业界共同关注的话题。

  由中国人民大学媒体融合实验室和今日头条联合发起的“公共领域虚假信息甄别与控制研究”项目于近日召开开题研讨会。该项目将通过对虚假信息进行基础性研究、相关伦理及法律问题研究及虚假信息甄别与管控研究,寻求有效的解决方法。

  由于目前互联网传播的快速发展和网民参与度高涨等因素,互联网管控和引导工作出现新的挑战,甚至在一些时候出现管控机制缺失现象凸显等情况,因此该课题一经启动便受到了广泛关注。来自中宣部、中央网信办、国家新闻广电总局、北京市网信办、央视网、浙报集团等部门和媒体的领导和专家参加了项目开题会。大家一致认为,“公共领域虚假信息甄别与控制研究”,对于网络信用体系的建设具有重大意义;希望这项研究能够为甄别控制虚假信息提供有效的方法论,结合机器算法和用户反馈,提升虚假信息识别的效率。

  项目负责人、中国人民大学教授宋建武认为,基于海量信息聚合并以算法驱动精准分发的个性化资讯服务,推动了信息传播方式的显著进步。虽然算法技术有局限,但不可否认,技术不仅鼓励了更多的内容生产,还提供了更多内容安全管控的手段。

  今日头条高级副总裁赵添介绍,今日头条已经于2017年5月建立“谣言库”,截至目前汇总7522个谣言事件,14981个谣言标题。对于命中谣言库关键词规则的文章,直接进入“谣言队列”作打压处理,准确率在80%左右。对机器模型暂时难以识别的内容,由人工进行判断,并借助辟谣平台和用户反馈识别渠道,对内容、账号进行多层次的惩罚与打压。

编辑: 王笑蕾
关键词: 人工智能;虚假信息;内容安全