央广网北京8月22日消息（记者白杰戈）据中国之声《新闻纵横》报道，最近，一则“AI（人工智能）当上鉴黄师，可能将取代人力审核”的消息在网上受到关注。昨天（21日），中国互联网协会在2018网络安全生态峰会上发布研究报告，讨论人工智能技术在网络内容安全保障领域的运用面临哪些机遇和挑战。

　　这份研究报告表示，网络内容具有即时性、海量性和多态性等特点，人工智能技术可以被用在文字、视频和图片（包括其中的人脸和特定标识），以及语音信息的检测识别，成本和效率都优于传统的人工审核。报告的撰写者之一、国家互联网应急中心高级工程师徐杰介绍，这源于人工智能的自我学习能力。比如，用传统的方法描述猫跟老虎的区别，非常复杂。对于机器学习而言，只要给它提供大量猫和老虎的图片，它会从这些图片中学习特征、建立模型，这是目前机器学习技术在网络内容安全方面最大的优势。

　　报告举例说，人工智能可以搜索和比对画面中的敏感人物，识别他们的声音。类似的技术在商业、生活等领域也有用武之地，比如商家识别顾客的姿态、情绪；直播或短视频网站检测涉黄内容、不良场景、侵权画面、低俗语言甚至验证主播身份；安防部门可以使用视频分析技术设置警戒区（线），判断是否有人进入禁区，并检测拥挤、追逐、打斗、跌倒、翻越等异常动作或事件，识别爆炸、燃烧、烟雾等危险场景。

　　不过媒体报道显示，人工智能也存在误差，两个倒扣的碗、喝矿泉水的女子、摔跤比赛等画面，都曾经被AI鉴黄师识别为色情图片。中国互联网协会的报告也坦言，人工智能要广泛运用在网络内容安全保障领域，技术上还存在挑战，比如画面内容识别的速度和准确率，语音识别系统支持的语言种类有限和噪声影响等。

　　此外，徐杰介绍说：“如果AI用在一些比较要害的方向，不知道它怎么训练出来的，我们不敢用。攻击者只要知道是根据哪些数据训练出来的，就可以根据这些数据有针对性地攻击、对抗这个模型，使其很快失效。”

　　不过，报告仍然对人工智能提高效率、降低成本、节省人力的作用表示肯定和期待。中国互联网协会副秘书长宋茂恩说，将人工智能引入网络内容安全保障建设中，将会在多方面促进社会价值进一步提升。比如维护国家安全及社会稳定，净化网络空间，保护知识产权，降低维护真实信息的社会总成本，提升互联网内容质量，舆情管控，应对以及维护公民权益。

　　人工智能在网络内容安全领域能否取代人类？阿里巴巴集团资深算法专家薛晖表示，与人类相比，AI技术的标准更客观，它不随着时间和个人的差异变化，并且它的模型、数据、特征更容易被传承，而人与人之间的一些审核经验、治理经验相对较难传承。如果中小企业通过使用专业的内容安全治理服务商的服务，能够将成本降到更低，也可保证业务创新不受风险的影响。

　　报告的撰写者之一、中国社会科学院世界经济与政治研究所博士后陈哲提醒：“仅靠技术不能解决所有问题。从长远来看，特别是在中国，要考虑到数据隐私的保护以及伦理问题。从研究人文社会科学的角度来说，做AI要有人文社科情怀，否则AI一定会变成一个冰冷的机器。”