民警提示，以上两种诈骗方式都受限于样本数量■★◆◆■，所以可以通过延长通话时间、多次进行提问的方式让对方多说话，露出破绽■◆★★◆。

　　此外，国家也在通过多重手段防范“AI换脸诈骗◆★■★◆”■■■，近两年■★★，相关部门先后出台了互联网信息服务深度合成管理规定，生成式人工智能服务管理暂行办法等有关政策文件◆◆◆。先后开展了“互联网深度合成算法备案”★★◆“大语言模型算法备案”等有关工作。严厉打击利用AI换脸、变声等手段实施的违法犯罪行为。

　　值得警惕的是，AI换声带来的风险距离我们的生活并不遥远◆★◆★。派派君梳理媒体报道发现，目前已发生了多起由AI换脸换声导致的诈骗案件★■◆。

　　今年11月，青岛的一名大学生和他在网上认识的★◆“女朋友”视频聊天★★■◆★★，对方称需要，男孩打钱过去之后◆◆◆◆★★，发现竟然被诈骗了。

　　近年来，AI技术被广泛应用于短视频的二次创作，比如AI换脸及换声等。可以说，AI技术是把“双刃剑”。

　　对比原片可以发现，AI“翻译”后重新配音的新视频不仅进行了较准确翻译，而且连声线和情绪都近乎拟真，嘴型很贴合，难辨真假。

　　中国科学技术大学公共事务学院◆■■★、网络空间安全学院教授左晓栋表示，总体而言◆■■◆■◆，生成式人工智能仍处于发展的初期阶段，风险没有完全暴露，应用前景难以估量，所以应当采取包容审慎的态度，坚持发展和安全并重◆◆■★★■、促进创新和依法治理相结合■◆◆，要采取有效措施鼓励生成式人工智能创新发展■■◆★■。

　　在源头端★■★★★■，需要进一步加强公民个人信息保护。专家建议◆★★◆★■，加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。

　　●不要随意点击陌生链接，链接中的木马程序会窃取用户手机内的照片◆■■、监听回传通话内容；

　　（资料来源★★■◆：央视新闻、央视财经、中央广电总台中国之声、新京报、贝壳财经★★◆■、上观新闻、极目新闻、潮新闻、包头市公安局、国家金融监督管理总局）

　　对此，有网友表示，这种技术看起来很炫酷，应用场景很广泛，未来可能会越来越成熟。

　　但也有网友表示担忧，“这会不会被用来模仿声音进行诈骗？”★◆■★◆■“再加上换脸★◆，以后网上啥都不能信了■★。”“以后视频造假会越来越容易★★■◆■◆。★◆◆★■◆”

　　一方面★■◆◆■，AI换脸及换声技术对于工作效率的提高具有非常强的作用■◆◆■★★。清华大学新闻与传播学院教授司若举例说◆■◆■，AI换脸及换声技术让已故的演员、历史人物可以通过换脸技术重现在屏幕上◆■■★，在不同国家的语言转译上也可以通过AI的换声技术进行实时转译。

　　●开启定位服务◆◆、输入身份证号★◆★■◆■、录入人脸识别信息、指纹识别信息等个人生物信息时◆★◆■，一定要慎之又慎■★■★◆。

　　二是肖像权，根据《中华人民共和国民法典》■■★■，任何组织或者个人不得以丑化◆◆■◆、污损◆★◆◆★★，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作■■★★、使用、公开肖像权人的肖像■■★，但是法律另有规定的除外★★◆★◆。网友用他人形象制作视频，并在网站发布，需要取得肖像权人的同意★◆◆，否则涉嫌侵权◆★★■。

　　第一种是通过技术手段合成换脸★■、换声的视频或语音，在视频聊天★◆★◆◆■、普通电话中直接播放。这种诈骗主要出现于比较紧急的情况，如遭遇事故求助等，播放结束后就会中断连接，无法与被害人形成回合性对话■◆◆■★◆。

　　视频中的人物使用中英文表达自然真实■◆■，音乐几乎匹配本人，口型和字幕同步，没有译制片腔调。

　　在技术层面，数字水印鉴伪等技术有待进一步普及利用。比如AI生成的视频需带有不可消除的“AI生成★◆◆■★★”水印字样■★★。

　　不仅有中国的名人飙英文◆★■◆★◆，网络上也传播着不少外国明星用地道中文接受采访的视频。近期刷屏网络的一段短视频中◆■■◆◆，美国歌手泰勒·斯威夫特“说◆★■◆”着流利中文，音色和讲母语时的音色类似■◆■◆◆，甚至连口型都能对上。

　　10月13日■★◆★，国家金融监督管理总局在《关于警惕利用AI新型技术实施诈骗的风险提示》中指出，利用AI新型技术实施诈骗主要有“拟声”“换脸”两种手段，即通过模拟他人声音或形象骗取信任，进而诈骗钱财。国家金融监督管理总局提醒广大金融消费者：第一，网络渠道“眼见”不一定为实；第二，转账汇款务必核验对方身份■★★◆★★；第三，保护好照片、声音等个人信息。

　　三是声音权■★★★■，根据《中华人民共和国民法典》规定，对自然人声音的保护，参照适用肖像权保护的有关规定■◆★★◆◆。也就是说■◆■■■◆，需要取得声音权人的同意，才能够使用他人的声音◆★。

　　赵本山用英文演小品■◆★★◆、郭德纲用英文说相声、范明用英文演戏……近日，多个中国明星开口“说★◆■◆”英语的视频引发热议。

　　在法律制度层面★■★■★，进一步完善人工智能等领域相关法律法规◆◆■。今年8月15日★◆★◆◆，《生成式人工智能服务管理暂行办法》正式施行。《办法》规定，提供和使用生成式人工智能服务★◆■★◆■，应当尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权★★■■◆■、隐私权和个人信息权益。

　　据了解，目前我国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家。随着各项措施规范出台，我们期待未来人工智能发展更加健康规范◆◆★，从多方面助力人们的工作和生活。

　　一是著作权■◆◆◆★，例如相声、小品等都属于《中华人民共和国著作权法》保护的“作品■★★”■◆。网友用AI软件将相声、小品等“翻译■★★◆★”成其他语言，需经过著作权人授权■★★，否则就存在侵权问题。

　　北京岳成律师事务所高级合伙人岳屾山律师表示，用AI技术为他人更换声音、做“翻译★★”并发布视频，可能涉嫌侵权，主要有三个方面：

　　今年5月★★★★◆■，包头市公安局公布一则案件细节：郭先生的好友突然通过微信视频联系到他◆■，称想要借郭先生公司的账户走一下账★◆◆★■■。基于视频聊天信任的前提下，郭先生先后分两笔把430万元给对方打了过去■◆■★◆。最后，郭先生发现自己遇到了“高端★■◆◆★★”骗局■★，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。郭先生称◆◆★■◆■，“我在视频中也确认了面孔和声音■★◆，所以才放松了戒备★◆★■◆★”◆◆★■。

　　类似的视频还有很多★■◆■，有的甚至脱离了原本的内容◆★，仅使用明星的脸★■◆■，再加上创作者的声音和内容■◆★■★★，直接让安妮·海瑟薇唱起了“东北rap”……不少网友感叹，■◆“嘴型、手势都对得上，还有身体动作和语速的配合。太自然了，差点儿以为是真的。■■■◆◆★”

　　另一方面，近年来，有不法分子为了牟利，利用AI技术进行诈骗。比如利用AI换脸冒充熟人诈骗，甚至将★◆“魔爪◆◆■◆”伸向儿童★◆■★★◆，或者制作发布假新闻混淆视听★★★■■、赚取流量等。