如影随形

一键“换脸”背后隐藏着诸多危险。调查AI换脸技

发布时间：2025-11-25 09:53编辑：bet356亚洲版本体育浏览（67）

漫画/李晓君 记者 赵莉 本报内幕 王一飞 “你是温峥嵘，我是谁？” 演员温峥嵘本人在浏览短视频时，意外发现“他”正在直播。他在评论区提出问题后，就被屏蔽并被踢出了直播间。但对方依然用“他的脸”来保住带货的播出。 温峥嵘近期遭遇的“假直播”事件，就是滥用AI换脸技术的典型例证。冒充温峥嵘形象的AI互换行为出现在多个直播间。他的团队平均每天举报50个虚假账户，并出具法律函件，但虚假账户不断被举报。gbabawawal，给他留下了“难以证明我是谁”的问题。 这种现象并不是孤立的。 《法治日报》记者近日调查发现，人工智能人脸、声音克隆技术已经形成了覆盖教程传播、定制服务的完整灰色产业链，对个人权益和平台管理造成严重威胁。 变脸技术被用于犯罪 11月5日，温峥嵘在自己的短视频账号上举办了三场主题为“我是真正的温峥嵘”的直播，讲述了自己近期被AI淹没、改直播带货的经历。 过去，很多明星都被AI换脸的问题所困扰。直播间出现主持人李子萌的形象，虚假宣传深海鱼油“能治病”；奥运冠军全红婵由AI配音，用来卖土鸡蛋；张文宏医生脸色一变，用自己的形象在直播间推销某款蛋白棒产品，销量过千。张文宏表示：“假综合信息疫情就像蝗灾一样，一次又一次地发生……” 11月14日，国家网信办官方账号发布声明称，部分网络账号利用人工智能技术模仿公众人物形象，以直播、短视频等方式发布营销信息，虚假破坏网校，造成不良影响。网信部门严肃查处了一批网络违法违规账号。同时，鼓励网站平台发布管理公告，一次提取信息，进行集中清理和纠正。目前，已清理相关违法信息8700余条，查处假冒公众号账号11000余个。 AI换脸技术的滥用甚至延伸到了犯罪领域。 2024年10月，徐某审理的一案中江苏省南京市安武区人民法院审理认为，被告人付某非法获取公民视频195万条，利用AI换脸软件生成动态人脸视频，成功通过人脸识别金融工作卡、登录受害人账户，并盗窃食品银行卡。法院以侵犯公民个人信息罪、信用卡诈骗罪判处付某有期徒刑四年零六个月。 2024年，内蒙古鄂尔多斯市一位消费者遭遇AI换脸诈骗，差点损失40万多元。视频通话中，犯罪分子利用AI换脸技术冒充买家朋友，以资金周转为由，骗取其转账40万余元。所幸警方及时介入，未造成实际损失。 相关教程和服务可在网络上找到 记者调查发现，针对A的教程和服务网络平台上流传着“我变脸”、“克隆声音”的说法。当记者在各社交平台搜索“人工智能换脸”、“声音克隆”等关键词时，尽管平台弹出官方提醒，提醒用户“合法合规，注意识别”“切勿诱惑，谨防诈骗”，但相关内容在网络空间中仍然大量存在。 例如，有大量标有“AI科普”的账号在各个平台公开分享换脸教程。这些视频通常会详细列出可访问的网站地址，演示操作过程的流程，并包含技术细节。例如，建议用户“尽量保证替换素材的字符大小与原素材一致，利日干净、不受干扰”，以保证生成的效果。 根据教程中的指南，代表有网友登录相关网站核实，发现部分平台免费提供AI换脸或语音创作服务。支付几十元购买会员后，还可以解锁去水印、高清增强等高级功能。 除了公开教程之外，更多隐藏交易是通过网盘通道进行的。 记者注意到，一些“完整教程”以不到8元的价格打包出售，卖家声称“没有市场主流软件那么多的限制”。此类教程通常包括云端工作流程地址信息和详细操作说明，以及图像去AI、舞蹈动作模仿、人脸细化、相关文字说明等扩展功能。 语音克隆教程售价不到9.9元，促销强调“支持任何图像和声音”。记者询问商家发现，由于只要购买此安装包，无需注册会员，即可免费破解并使用口型同步、克隆声音等功能。据商家描述，您只需提供音频文件，系统即可克隆，无需身份验证。支持一次播放30秒音频，且无次数限制。 为了证明此类教程应用的实际效果，记者购买了一套售价8元的改版教程。该教程包括一个5分钟的视频教程和两份书面材料，其中明确提供了进入平台的链接、新用户福利步骤和操作步骤，并特别注明“敏感词限制很少”和“生成的内容无水印”。 记者发现，该平台提供了多种功能模板，涵盖了更换视频角色、给角色指定部位换衣服、强身健体等多种功能。加强或改变照片中人物身体部位的处理。每个模板都配有相应的即时说明文字和详细的操作步骤。用户需要上传参考照片、视频或待处理的材料，并等待一段时间才能生成内容。 记者尝试用5秒的视频进行穿衣操作，大约3分钟后视频成功生成。画面中，人物的动作和表情都得到了高度还原，被遮挡部位的服装恰当的效果也更加自然准确。 记者注意到，该平台的内容生成功能采用了按时计费模式，每秒收取0.2个虚拟币。教程有专属邀请码，用户可免费领取1000虚拟币。平台还设置了虚拟币奖励机制：每g奖励100个虚拟币每天登录ift，邀请新用户可获得500虚拟币。改变表达式可能会绕过求值机制 在电商平台上，一些商家变相兜售AI换脸服务。 在某购物平台，记者直接搜索“AI换脸”，没有找到结果。但记者注意到，部分商家在商品详情页使用表情符号，隐喻提供“换脸”服务；一些商家打着“什么都能做”、“视频内容不限，什么都懂”的口号，表示可以私聊客服了解商品详情。 记者发现，10秒变幻视频的价格从15元到300元不等。 Halim然而，一些商家提出对20秒的视频（包括仅生成音频的视频）统一收取80元的费用；部分商家还推出298元200分钟工作时间等套餐。我，还有490元的年卡，承诺“一对一的教学指导”。许多归纳性陈述，例如“让朋友和顾客难以识别真实性”。大多数商家只检查素材内容，并不对素材和资源进行筛选。 为了深入了解AI工具本身的内容分析机制，记者对用户常用的10款文森图和文森视频AI工具进行了实际测试，并用明星“一键换脸”等指令测试其技术边界和评测能力。 结果显示，只有一款人工智能工具明显拒绝生成真实公众人物的虚拟图像。有些应用程序经过简单的操作就可以生成有关名人的高度真实的虚假内容。 例如，“吉×”最初会以“涉及肖像权”为由拒绝换脸或变装指令，但记者可以尝试选择替代选项后会想出它； “斗×”和“文×”在没有明确危险警告的情况下直接执行指令； “童×”和“田×”只是在生成内容的角落里标注了AI“生成”的模糊字样。 值得注意的是，一些人工智能工具在第一次收到涉及真人的指令时会拒绝这些指令。但通过选择替代平台选项或改变表达方式，用户仍然可以绕过最初的限制并实现图像或视频生成。 平台部分人士公开回应称，AI内容侵权识别是行业技术难题，恶意假账号不断在平台上进行技术对抗。未来，他们将继续加大技术投入，积极应对挑战，保护创作者、商家、消费者的合法权益。 延吉长江大桥最大的四主缆悬索桥已成功合龙。延吉长江大桥是亚洲第一专业货运鄂州花湖国际机场的重要配套工程，也是鄂州第二过江通道的重要组成部分。 2025-11-24 09:02 第二十二届中国国际半导体博览会开幕。 11月23日，由中国半导体行业协会、中国电子信息产业发展研究院主办的第二十二届中国国际半导体博览会在北京开幕。 2025-11-24 03:15 我国最长石油管道已输送石油2亿多吨。从国家管网集团西部管道有限公司获悉，截至11月21日，全国最长的原油管道——原油管道已安全稳定运行18年，累计输送原油超过2亿吨。 2025年11月中南科技合作科普项目“听科空间”开启。作为中南交流、推动科学教育的重要技能，中国科技馆与南非科博诺科学中心共同打造的“科学聆听空间”21日正式向公众开放。百余位嘉宾和观众共同见证了此次活动。 2025-11-24 03:15 北京大学启动新的科学智能领域拔尖人才培养工程，为AI4S领域培养兼具理论素养和产业实施能力的复合型人才，同时助力企业创新技术和生态产业建设。 2025-11-24 03:15 熟悉科学，守时——守望2025年“十大”科普词汇。2025年“十大”科普词汇全面勾画总体情况和发展主要方向2025年我国科学传播，从科技、社会的维度，了解科学技术在科学社会和社会文化中的最新动态。 2025-11-21 15:11 风清科技携手麒麟软件，加速AI+新川技术落地。峰庆科技与麒麟软件达成战略合作。双方将围绕创新人工智能技术、产品研发、市场拓展等方面开展深入合作，共同推动新川产业生态的完善和发展。 2025-11-21 13:13 国家野生植物库辰山中心：种子库存已超亿粒国家重要野生植物种质资源库辰山中心冷库入口，零下20摄氏度的冷空气扑面而来。一排排整齐的储物容器里，放着各种野生植物的种子，已进入“休眠睡眠”状态。 2025-11-21 09:53 小雪：外御寒燥，内暖脾肾（日气养生法则） 小雪季节，容易出现皮肤寒冷、干燥、关节疼痛、咳嗽等不足，多因外寒燥湿、津液失衡所致。 2025-11-21 09:52 关于心理健康，你需要知道这些误区目前，公众对精神疾病和心理治疗普遍存在哪些误解？带着这些问题，记者采访了北京安定医院的多位专家。 2025-11-21 09:49 超导量子计算机“天眼287号”正式运行。 2023年11月，“天眼”体量计算云平台正式发布。截至目前，访问量已突破3700万，覆盖国内外60多个国家和地区的用户，实验任务数量超过270万。 2025-11-21 09:47 科学家发现5.4亿年前的“化石宝库”。 20日，南京大学记者获悉，该校沈树忠学术团队侯金波博士等人在湖北省通山县记录了一座距今约5.4亿年前的埃迪卡拉化石宝库，并将其命名为“通山独特的埋藏化石宝库”。 2025-11-21 09:38 规则支撑无技术广告，6G产业布局加速，一期6G技术测试已完成，形成了300多项关键技术储备，资本正在加速拓展6G生态圈……虽然6G网络预计2030年部署，但我国6G产业布局正在加速，呈现出政策护航、技术攻关、资本活跃的特点。 2025-11-20 09:11 沙漠中建起巨型“充电宝”孤山梁3之后GW/12.8GWH储能电站项目建成，预计每年向电网输送清洁能源电力36亿千瓦时。 “独立新能源储能电站发电时，是发电企业，充电时，算电力用户。电网的峰谷差产生利润空间，吸引企业投资。家乡唐山。为此，我在大学学习机械制造与设计，毕业后走上了轨道交通检测设备研发领域。【我对“十五五”规划的思考与希望】火箭的“心脏”更强 人们常说发动机是火箭的“心脏”，而我从事的是液体火箭发动机推力燃烧系统的高精度产品的生产加工，所以大家都叫我“火箭之心雕刻师”。“西电东送”能源战略实施取得丰硕成果——四川外送电量已突破1.9万亿千瓦时。全面户外应用四川发电量突破1.9万亿千瓦时。这一规模相当于江苏、浙江、安徽三省的年用电量。这标志着四川实施“西电东送”能源战略取得丰硕成果。 2025-11-20 04:25 主力国A重装再次传来好消息。中微子探测进入“中国精准”时代。大国重装再次传来好消息！建成并运行仅两个月后，江门中微子实验装置（JUNO）就取得了第一个物理成果——太阳中微子振荡参数的测量。结果比之前实验的最佳精度提高了1.5至1.8倍。 2025-11-20 04:35 我国基站卫星导航定位将实行“三个统一”。为促进卫星导航定位产业顺利发展，维护国家地理信息安全，我国将对卫星导航定位基站实行统一规划、统一标准、统一管理。针对当前基站重复建设、数据安全隐患等重大问题，《办法》规定，自然资源部会同有关部门制定全国建站建设规划。 2025-11-19 09:52 首台配备冷却塔的“华龙一号”核电机组全面开工建设。 18日，我国首台核电机组冷却塔诞生，中广核山东招远核电项目1号机组，苏顺利完成核岛首次混凝土浇筑，标志着一期工程全面启动。 2025-11-19 09:51 加载更多