从“国庆7天被AI雷某骂了8天”事件，思考AI技术伦理与公民权益保护的平衡丨上海市华联律师事务所

在当今快速发展的数字时代，人工智能（AI）技术正以前所未有的速度颠覆着我们的生活方式和社会结构。然而，随着技术的进步，也带来了前所未有的挑战和风险。

■ 新闻报道

2025年3月8日下午，十四届全国人大三次会议北京市代表团召开代表小组会议。会上，谈到人工智能技术引发的问题，全国人大代表，小米集团创始人、董事长兼CEO雷军表示，这两年人工智能技术快速突破以后，出现了很多老百姓喜闻乐见的应用，比如AI换脸、拟声等，但任何一个人的脸和声音都能轻松被用来做各种视频，成了新的违法重灾区。

雷军结合自身经历说：“去年‘十一’，有网友说过了7天假，被我整整骂了8天，刚开始我觉得网民拿我开涮我也能接受。但这类内容增多且质量低劣后，防不胜防，网友也纷纷投诉。”雷军表示，当他想通过法律维权时，却发现对此没有专门的立法，只能用隐私权、肖像权、名誉权等法律起诉，而这些都要量化损失。“在网上被骂8天，损失根本没法量化。”雷军说。雷军在发言中呼吁，人工智能技术兴起以后产生了很多新问题，相关部门要提前预判，提前立法。（转自：红星新闻）

■ 律师观点

本应“技术向善”的AI屡屡在法律规范和道德伦理的边界反复横跳。AI换脸制造假视频进行诈骗、发布虚假新闻扰乱社会公共次序，这些新闻已经屡见不鲜。随着AI的日新月异，借助AI犯罪的手段更是层出不穷，数据的滥用和窃取致使个人隐私泄、财产遭受损失，更有甚者贩卖国家秘密、危害国家安全。现今的AI领域难道真是一片法外之地吗？

答案绝对是否定的。2024年欧盟率先通过的《人工智能法案》，堪称全球首个全面的AI技术管理规则，其主要目的是在保护公民权利与促进技术发展之间取得平衡。而我国于2023年8月15日起施行全球首部AI法规《生成式人工智能服务管理暂行办法》，其中明确了服务提供者的责任与安全要求，初步构建多层次的AI的治理制度。与此同时，国务院正在加快AI立法进程，加紧加紧筹备争对人工智能的法律法规，旨在兼顾AI技术发展的同时确保风险的防控和罪罚的认定。在这之前，现有的法律法规作为补充，如《网络安全法》、《数据安全法》、《个人信息保护法》等。

对于有些换汤不换药的犯罪手段，比如AI换脸技术在医保APP上进行人脸验证，盗刷账户余额，又或者诱导他人转账汇款等行为仍旧可以用现有的《刑法》来认定罪责。另外一些最新前沿的科技导致的事故，如AI系统控制的自动驾驶如发生交通事故，线上AI诊疗过错中因误诊导致患者健康受损，这些纠纷也可以借用《民法》中的过错原则、公平原则等，对存在明显的技术缺陷或管理不善的AI系统的设计者、开发者或使用者追究相应的法律责任。