卡伦尼AI（人工智能）技术是把“双刃剑”。近日，知名医学专家张文宏“被带货”事件再次印证了这句话。据媒体报道，有网友称在网络卖货视频中看到张文宏在售卖一种蛋白棒产品，仔细分辨能看出这是AI合成视频。对此，张文宏回应，他已发现多个以他的形象带货的账号，并向相关平台投诉，但屡禁不绝。

　　被AI技术假冒，张文宏并非第一个“躺枪者”。今年“十一”期间，短视频平台出现大量“雷军AI配音”视频，视频中“雷军”言辞犀利，还常爆粗口，这让雷军本人很无奈；11月，演员黄晓明在某节目中坦言，看到一段用AI换脸技术生成的“黄晓明”为某品牌代言的视频；同月，胖东来创始人于东来发现自己被人用AI技术生成声音卖药，他严厉谴责这种欺骗行为，表示将诉诸法律追究相关者法律责任。

　　AI技术快速发展，使得视频换脸、仿声等技术门槛越来越低。据了解，AI声音合成主要应用的是AI深度学习算法，通过AI模型对采集的声音样本进行处理，从而实现声音“克隆”。目前市面上有一些AI软件，读取一个人的声音，经过大约30分钟的分析和训练之后，再输入一段文字，就可以模仿其声音读出来，足可以假乱真。

　　AI合成图像、视频、声音技术日益成熟，让“耳听为真、眼见为实”的经验不再灵验，这也带来诸多问题。拟声、换脸等AI合成技术逼真的一个负面指向是“乱”真。不法分子可以利用此类技术轻易伪装成他人，并通过快速筛选目标人群，精准制定诈骗脚本。相关数据显示，全球基于AI技术的深度伪造欺诈事件在过去几年呈激增之势，2023年发生合成身份欺诈事件比2021年增加了两倍以上。相关研究机构提醒，目前，业界对AI潜在风险的研究与重视程度远远不够，在积极拥抱大模型等AI技术的同时，各界对其安全风险应保持警醒。

　　我国民法典规定，声音、肖像等都属于民事主体的人格权利，受到法律保护。未经允许，民事主体的声音、肖像等不仅不能被直接使用，也不能被加工处理，进行深度合成，放入合成物料库或场景库里。对民事主体的人脸信息、声音信息等进行编辑并展示，属于伪造信息行为，按照民法典和网络安全法的相关规定，相关当事人应承担包括精神损害赔偿在内的民事责任，甚至承担刑事责任。最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》明确，对利用深度合成等生成式人工智能技术发布违法信息的，依法从重处罚。

　　为有效防范AI技术被滥用，2022年11月，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，明确深度合成技术的使用规范，包括不得利用深度合成服务侵犯他人合法权益，深度合成服务提供者对深度合成的内容添加显式或隐式水印等规定。2024年9月，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，并配套发布国家标准《网络安全技术 人工智能生成合成内容标识方法》，提出AI生成合成内容须作出标识，并就标识方式和内容作出具体要求。

　　我国不断完善AI技术应用相关法规标准，将其装入规范的“笼子”里。但AI技术日新月异，应用场景快速扩展，相关法规和监管也要与时俱进，跟上节奏步伐，让AI技术应用始终“戴着镣铐舞蹈”。法律层面，立法机关应及时关注AI技术的发展动态，有针对性地完善相关法律法规，明确AI应用违法构成要件和法律责任，对使用AI技术虚假宣传、欺诈消费者的行为进行详细界定，规定相应的处罚措施，提高不法分子的违法成本；互联网平台层面，要承担起监管责任，加大技术研发投入，建立一套高效、精准的审核系统，利用AI技术反制AI违法行为，快速识别虚假AI直播内容，并对相关责任人进行处罚。