议事时刻 | 雷军、靳东因AI换脸、换声登上热搜，AI治理道阻且长

AI（人工智能）技术飞速发展，逐渐在金融、商业、医疗等领域落地应用。然而，相关技术的快速普及也带来了诸多治理和安全挑战，尤其是在AI换脸、数据隐私、模型安全等方面。2025年两会期间，多位代表和委员围绕AI治理、AI安全等问题展开热议。

全国人大代表、小米集团创始人雷军提出应加快AI换脸拟声技术的立法进程，明确技术应用边界，完善侵权证据规则，并加大对利用AI技术实施犯罪行为的刑事处罚力度。全国政协委员、360集团创始人周鸿祎提出“以模制模”概念，利用安全大模型来解决大模型应用中的安全问题，建议对大模型的“幻觉”问题给予柔性监管。全国政协委员、奇安信集团董事长齐向东指出，AI发展正面临三个方面的安全问题，包括人工智能大模型自身的安全问题、利用人工智能开展网络攻击的问题，以及通过攻击人工智能引发的“网络攻击大爆炸”。他认为应从技术、制度、成果应用三方面入手，系统提升安全能力。

另外，“靳东两会建议AI换脸立法”“雷军回应国庆7天被AI雷军骂了8天” 等话题也在今年两会期间登上微博热搜，引发行业进一步讨论AI换脸换声的风险问题。对于AI伪造技术发展，瑞莱科技联合创始人萧子豪对第一财经表示，近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈，呈显著上升趋势。犯罪行为变得更具迷惑性，也更加隐蔽。

在萧子豪看来，背后的动机一方面是利益驱动，如AI诈骗迷惑性极强，颠覆普通人“眼见为实”的常识，一旦受害者“上钩”，不法分子不会轻易放过“大鱼”。从瑞莱的统计数据来看，AI诈骗涉案金额远超一般诈骗案件。AI造谣传谣是为了在短时间内博取关注、赚取流量，铤而走险，再伺机变现。AI造谣传谣的治理难点主要是造谣传言的成本很低，但辟谣的成本很高且时效性滞后。另外一方面，近年来生成式AI技术能力突飞猛进并持续开源开放，大量工具、产品问世，极大降低了不法分子利用AI的门槛和成本。

目前针对泛滥的“AI换脸”情况，有专家建议通过水印标注进行防御。但有业界人士指出，水印标注是主动式防御，它的门槛较高，需要提前对图片、视频等内容进行处理。如在照片内嵌入一些视觉上不可感知的噪声。当他人利用照片训练模型，会因为这种隐形干扰影响对视觉表征的提取，此类为对抗样本攻击。还有一种半脆弱性水印，是另一种主动防御方式，即添加水印之后，如果有人编辑照片，水印就会被破坏，后期检测能够得知照片经过处理。但水印无法直接阻止照片、视频被换脸，仅可以事后检测和认证图像的真实性。

对于AI换脸引发的安全风险，萧子豪表示，AI技术衍生安全风险的治理问题是个非常复杂的社会问题，涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒，也需要有技术手段令AI更加安全、可控。在技术层面，生成和鉴伪的对抗性非常强，需要持续长期投入，就像是“猫鼠游戏”，此消彼长，相互博弈。与互联网产品或者其他AI产品不同，AI鉴伪产品并非开发完就结束，而是要随着生成技术的进展不断研究、更新、迭代，没有终点。

举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者

吕倩

相关阅读 俞敏洪回赠雷军15袋东方甄选大米冲上热搜；董明珠：希望开10000家“董明珠健康家”店；特斯拉据称正与百度合作丨大公司动态

第一财经每日精选最热门大公司动态，点击「听新闻」，一键收听。

915 03-13 19:39 雷军：全球用户越来越认可中国科技创新的价值

雷军表示，要让广大的消费者能够享受科技带来的美好生活。

76 03-05 08:26 议事时刻|AI兴起伴随技术滥用，立法进程待加速

AI深度合成技术所需素材获取便利、技术使用门槛低等特点，给治理整治带来较大挑战。

97 03-04 18:17 全国人大代表雷军：建议优化新能源汽车号牌设计，加快推进自动驾驶量产

雷军表示，绿色的号牌与车体颜色的兼容性较差，不利于产品外观设计实现更高突破，建议有关部门能够启动新能源汽车号牌式样的调研论证，公开征求意见建议。

174 03-04 11:04 创历史新高后多空博弈激烈，小米股价开启回调

近期小米集团卖空股数和未平仓卖空股数显著增加。

239 03-03 15:00 一财最热 点击关闭