央广网北京5月27日消息 据中央广播电视总台《新闻超链接》报道，随着人工智能技术的迅速发展，AI正逐步走入我们的生活，在成为我们得力助手的同时，也给了诈骗团伙可乘之机，成为了他们实施诈骗的新型工具。诈骗团伙不但能够利用“AI+大数据”筛选出容易受骗的潜在高危人群，将其锁定为诈骗对象，还能通过生成式AI技术识别并复刻他人的身份信息，利用“AI换脸”等方式，佯装“熟人”，实施诈骗。近期，福建省福州市的郭先生就在10分钟内被诈骗分子用AI换脸的方式骗走了430万元。安徽省安庆市的何先生也被类似的方法骗走了245万元。

普通人有办法找出“AI合成人”的破绽吗？如何用AI打败AI诈骗？从虚拟形象到数字生命，AI技术究竟还有多少路要走？

本期嘉宾

包冉 中国通信标准化协会互动媒体标准推进委员会副主席

朱巍 中国政法大学副教授 研究员

火眼金睛？靠人眼挡不住AI诈骗

网络诈骗手段层出不穷，利用AI合成实施诈骗成为诈骗团伙的“新花样”，这往往令人防不胜防。生成式人工智能技术能够基于特定对象的声音、长相等身份识别信息进行深度学习，进而实现对特定对象的人脸、声音合成。

生成式人工智能可以根据交互信息进行深度学习，让AI合成更加逼真。中国通信标准化协会互动媒体标准推进委员会副主席包冉解释，现阶段生成式AI正以月为单位实现能力迭代，这意味着生成式AI正在不断进化，普通用户难以自行分辨内容是否由AI生成。

包冉举例，生成式图像技术在初期阶段存在非常明显的破绽，由于AI对人类手部骨骼结构的学习能力比较欠缺，普通人也能一眼辨真假。但时至今日，生成式AI通过深度学习不断进化，所形成的图像，无论静态还是动态，都已经足够“逼真”，仅靠肉眼几乎不能甄别。

事实上，甄别AI生成内容需要法律和平台作为保障，不能仅依靠普通用户。中国政法大学副教授研究员朱巍介绍，去年年末，《互联网信息服务深度合成管理规定》发布；今年四月，国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知。

朱巍指出，仅实现“有法可依”还不够，甄别和监管生成式AI的关键在于让平台严格履行责任，通过内容筛选、风险识别标记等方式帮助普通用户规避诈骗风险。

让子弹飞一会儿，AI监管不宜“一刀切”

AI生成内容（AIGC）不仅可以用于网络诈骗，还可以生成虚拟真人形象，推动互联网文化产业的发展，前段时间爆火的AI真人歌手就是这一技术应用的代表作。包冉介绍，AI真人歌手其实就是对歌手的声纹进行识别提取，进而将歌手的独特音色应用到翻唱等领域。但它不同于之前出现的虚拟歌手和虚拟偶像，AI真人歌手是对真人身份识别信息的再加工，会涉及到复杂的版权纠纷问题。

目前，互联网上已经充斥着大量的AI生成内容（AIGC）。朱巍认为，AI生成内容（AIGC）的发展会对人类社会产生十分深远的影响，现阶段如果过度限制应用，可能会导致生成式AI技术发展迟滞。他提出，在划出法律底线，保护好个人的权利的基础上，可以对AI技术出现的其他问题持观望态度，适当保持“战略性模糊”，给予AI行业足够的发展空间。

复刻大脑？人类有望数字永生

AI生成内容（AIGC）的应用绝不仅仅止于创造出AI真人歌手，更重要的是有可能帮助人类实现数字永生。朱巍举例，在未来，人类可以利用生成式AI进行祭奠，在清明节等重要的节假日和逝去的亲人“重逢”。如果生成式AI演化到能够完全储存个体记忆的阶段，这就意味着人类有可能通过脑机接口实现真正意义上的永生。

尽管未来让人憧憬，但技术发展并不如想象般一帆风顺。包冉介绍，相关领域的研发企业在四年前曾经宣传过自己的研发成果，即利用微创技术在人类大脑浅皮层植入芯片，但目前为止暂无崭新成果落地。包冉进一步阐释，一方面人类对人脑的探索仍旧处于瓶颈期，未能取得实质性的突破，这势必会影响AI技术的深层次发展；另一方面，尽管生成式AI已经有堪比人脑复杂程度的神经网络，但现阶段仍旧无法克服算法“黑箱”，这导致生成式AI尚不能完全模拟人脑的学习机制。

最后，朱巍强调，现阶段AI技术的发展还面临一些瓶颈，但前景十分可观，重要的是要做好法律与制度上的保障，给予AI行业一定的容错空间，让AI技术能够实现快速迭代。

监制：郭静 李谦

制作人：富赜

记者：富赜 刘飞

编辑：潘雨薇 彭毓姬