一张照片、开源软件、万元设备，就能轻松打造一场以假乱真的AI换脸直播？
近日，记者全程以普通用户身份搜索、购买、安装、使用AI换脸软件，并完成直播测试后发现，一些二手交易平台暗地售卖换脸软件、视频网站公开教学、直播平台一路绿灯，无需标注、无需审核、无需授权，普通人的脸随时可能被复刻盗用。
换脸软件成“商品”，效果逼真难分辨
在某二手交易平台，记者输入关键词“AI换脸”，平台显示无此商品。更换关键词“视频换脸”后，随即跳出大量相关商品链接，页面未弹出任何风险提示、合规提醒。商品标题多标注“人物替换”“动作模仿”，标价普遍在5元以内。点开多款商品详情页，部分商家标注“替换一切”“啥都能做”。
记者随机私信其中一个商家，对方回复：售卖的是可用于实时直播换脸的软件，直接下载到电脑，解压完就能用，不用复杂设置，包安装指导。
记者下单购买后，发现文件压缩包内含三个不同版本的换脸软件。根据商家指导完成安装后，记者上传一张明星正面照片，打开电脑摄像头，镜头里记者本人的脸部就被替换成了照片中的人脸，画面同步度较高。但一旦用手遮挡脸部，或是做出大笑、摇头等幅度较大的动作，换脸画面会出现卡顿、延迟，边缘衔接处有轻微违和感，但正常平视、小幅动作状态下，肉眼很难快速分辨。
在某综合视频网站搜索关键词“AI换脸”，页面会弹出大量经验分享、软件实操教程，多位博主还在视频下方评论区公开软件的下载链接。
记者选取一条高赞教程，顺着链接安装了另一款功能更全面的换脸软件。这款软件可自主选择系统自带的人脸模型，模型库里成龙、宋慧乔等公众人物的脸部模型可直接一键调用，还支持微调五官轮廓、表情幅度，实时换脸效果比低配版更逼真。
记者将这款高级换脸软件接入快手直播平台，登录个人账号、开通基础直播权限后，直接开启直播，本人未做任何AI换脸标注，平台也未提前审核、未强制要求标识。
直播过程中，记者将脸部形象先后换成年轻女性、络腮胡男青年、外国男性、外国女性等多种形象，画面切换流畅，直播画面无任何AI生成标识。
国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定的《人工智能生成合成内容标识办法》第六条规定，文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容。
整场直播持续半小时，实时在线观看人数稳定在10人左右，互动观众未察觉主播并非真人原貌出镜，未触发内容审核机制，该平台也未发送任何违规警告。
一张单人正面照，可一键换脸直播
记者在抖音平台搜索“AI换脸”，首页前几屏多为主流媒体发布的科普、警示类视频。但更换相关关键词后，则刷到博主发布的换脸软件使用、实操演示等教程内容。
在快手平台搜索关键词“AI换脸”，页面顶部弹出一行提示：“请合法合规使用相关功能，注意甄别相关内容，谨防上当受骗。”但向下滑动一屏，页面便出现多条AI换脸相关视频教程。
这些教程视频部分将标题直接标注为“软件免费使用，需要评论999”，评论区内大量用户跟风回复“999”索要资源。另有博主在个人主页隐晦留下微信号、QQ号，刻意将平台内用户引流至外部聊天软件。
记者随机添加一位博主的QQ号，对方通过好友申请后随即发来一条外部链接，介绍售卖软件的详细功能、演示效果。该博主称，这款软件原价1280元，当前优惠价799元，下单附赠人脸模型生成教程。还表示“即便来不及定制专属模型，用一张单人正面照片，也能直接一键换脸直播。”
快手平台内还有一位昵称带有“脸模定制”字样的博主，专门承接人脸模型定制业务。对方告知记者，仅需提供目标人物2到3张清晰正面照片，2小时就能完成专属模型制作。一套脸模定制收费1980元，做好后可永久使用，还提供远程安装和一对一操作指导。该博主在朋友圈发布订单动态，最多的一天有6名客户支付定金。
“很多客户都是用我做的模型在平台直播，平台根本识别不出来。”该博主说，近一年时间里已经接了上千单定制业务，建议记者在社交平台上找2-3张年轻女性照片，定制脸部模型。同时在平台“语音厅”做不露脸情感主播，积累粉丝后，把打赏较多的“榜一大哥”引流至微信，再用换脸功能和对方视频通话，直言“这样来钱最快”。
然而，《互联网信息服务深度合成管理规定》中明确规定，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。《网络主播行为规范》中也明确规定，网络主播应当尊重公民和法人的名誉权、荣誉权，尊重个人隐私权、肖像权。
上述博主表示，可以制作明星脸模，网上明星公开照片多，建模效果更逼真，但并不建议选用明星脸：“直播和微信视频主打真实，明星脸一眼就能被看出来是假的，容易暴露。”
实操门槛降低，红线更要明确
南京超级头脑信息技术有限责任公司创始人张泽伟，从2023年起便涉足生成式人工智能应用落地，利用AI换脸等生成式技术，为用户“复活”已逝亲人。
张泽伟坦言，AI换脸技术成熟速度远超预期，实操门槛一降再降。“配一台显卡配置偏高的电脑，再备上直播用的补光灯、摄像头这类基础设备，搭配市面上现成的开源软件，整套下来一万元以内，就能做AI换脸直播。”他直言，现阶段普通换脸效果，普通人很难通过肉眼辨别。
“脸部模型的训练精度决定着换脸逼真度。模型训练得越到位，换脸后的表情、口型、神态就越自然，越不容易穿帮。”张泽伟说，高精度模型有着不低的成本门槛，一个近乎无破绽、适配各类直播场景的人脸模型，需要持续训练20-30天，市面售价在2万元到5万元之间。
“做灰色生意的商家，不会在模型上省钱，模型是他们牟利的基础。”张泽伟说，这条AI换脸黑色产业链里，最赚钱的环节是技术终端使用者。
记者梳理业内应用现状发现，AI换脸技术的应用场景呈现明显的两极分化：一端是正向应用，技术被用于情感慰藉、公益纪念，也有正规从业者将其用于影视短片制作、个人创意短视频开发；另一端则是灰色与黑色应用，大批无资质从业者盯上技术的低门槛与隐蔽性，未经授权制作他人人脸模型，用于虚假直播、消费欺诈，甚至电信诈骗。
“不用到明年，这项技术就会彻底炉火纯青，完全实现以假乱真。”东生成（山东）人工智能科技有限公司负责人武建一直关注AI换脸技术的迭代进程。在他看来，AI换脸本质属于深度合成技术，和所有技术一样具备两面性，新技术诞生后，往往会率先流向能快速产生商业价值的领域。
武建反复提及，技术本身没有对错之分，真正突破底线的，是利用技术侵害他人权益、从事违法违规行为的使用者。治理AI换脸乱象，不能一味放任，也不能一刀切封禁，核心是找准监管与技术创新的平衡点，尽快补齐相关法律短板，明确技术使用的红线，划定合规应用场景，同时压实平台审核责任，倒逼行业与使用者守住底线，让技术回归正向应用轨道。
来源：大众新闻客户端
编辑：z
【来源：临沂日报】
嘉喜网提示：文章来自网络，不代表本站观点。
