暗访起底AI造黄群组

封面新闻记者 郝莹

一张生涯照，从社交平台被偷偷搬到色情网站，中央隔着的，不是高不成攀的技术门槛，而是造售者分工明确、注册公司运营、移动支付就能实现的买卖。

2023年，网络安全钻研公司Security Hero颁布的汇报显示，全网传布的深度伪造视频中，超过95%是色情内容，重要角色99%是女性。三年后，在AI高速发展的布景下，涉色情内容的视频数量和质量不减反增，已形成一条成熟且极难追踪的产业链。

被造谣者只能在社交平台求助

天生式AI造作门槛降低

给造黄者提供技术基础

封面新闻此前报路，女大学生塔塔（化名）发在QQ空间的生涯照，被人恶意AI篡改成色情照，颁布在境表社交网站上。在塔塔的不懈致力下，犯罪嫌疑人最终认错、路歉、赔偿，联系平台删除了照片，但未能让对方承担司法责任。（有关阅读：《一张生涯照被盗篡改之后，“AI造黄”受害者若何维权？｜封面深镜》）

中国信通院人为智能所安全治理部副主任陈文弢介绍，AI换脸、一键脱衣等操作，最早可追忆为一种名为“深度伪造”（deepfake）的技术，能够对人脸、人声等进行编纂；近年来，天生式人为智能技术也提升了合成和天生的成效。“2017年前后，美国一个论坛上就有人用这种技术做了色情视频；后续出现了好多可用于深度伪造的开源模型，其利用难度不大。”随着技术迭代，AI具备了更好的文字理解能力以及视频天生能力，天生的成效也越来越真切。“几年前，AI天生的视频肉眼还是能看出来，有时会出现六个手指之类的显著谬误，但近几年写实风格的AI短剧已经和真人拍摄的成效很靠近了。”陈文弢说。当下的工具使用门槛低，生功成效然实，客观上给AI造黄提供了技术基础。

记者埋伏群组暗访

造作黄图工具明码标价销售

大无数受害者们不知路，一些拥罕见千名成员的群组里，造作黄图的工具被明码标价销售。

3月底起头，封面新闻记者先后暗访参与了共7个销售AI色情内容的群组，群成员总数超过6000人，其中人数最多的一个群，达到3400余人。

分歧群的分工极度明确，有的售卖AI工具平台使用的“焚决”（玄幻幼说中的一种壮大的功法，代指升级后的提醒词）指令，有的售卖制品视频，还有的直接销售工具包，凭据所谓的“教程装置”就能够自己造作视频，价值从最低20元到最高288元不等。

其中，“焚决”因其价值低、易于传布、使用方便最受迎接，部门以“焚决”互换、资源分享为名义的QQ群，也承担了将群成员引流至其他群组的工作。经过特殊设计后的“焚决”，能够绕开审查机造，记者测试后发现，升级后的提醒词，六条中有三条能够成功天生色情图片，渣滓三条则被提刑岚无法天生要求的内容。”

记者使用“焚决”天生图片 部门失败

对此，陈文弢诠释，大模型平台通常在大模型表围设置一个“护栏”过滤有害内容，但这个“护栏”往往因体量幼，对语意的理解能力有限，若是背后的大模型足够聪明，则能够理解经过特殊设计的提醒词，可能会绕过“护栏”并实现天生。

他说，国内平台在不休增长防护能力，但“焚决”也在迭代它的攻击能力，“事实上，并不存在一劳永逸的监管，这场攻防战会一向持续。”

记者在暗访中发现，有的卖家会销售真人换脸“定造”，提供照片即可天生对应的色情照片，一张5元。记者征询“卖家”得知，提供的照片越多越高清，天生的成效越真切，即便只有一张也能够实现。“卖家”还说，“什么需要都能够提，是自己的模型，国内正经AI搞不了这种。”

销售者称能够定造视频

其中一个群组尤其活跃，群成员近3500人。记者三月底入群，截至发稿前，一个月功夫新增入群者200余人。

群组成员近3500人

售卖者大无数使用中文沟通，每天会更新数个国内女明星、网红照片造成的色情视频，并附上采办链接，其中手机版动图套餐售价90元，佑装一键脱衣”职能的120元，电脑版能够造作视频，价值166元，还有全套产品打包，售价288元。

该群组内部还衍生了会商群和会员群。会商群能够轻易进入，人数达1300余人，群内成员能够自由讲话。有人在采办工具包后询问若何装置、若何下载vpn（虚构专用网络）等问题，其他成员会响应；褂腥税洳忌肀咚厝伺园槁碌氖悠，并询问“有分享身边伴侣的吗？”，很快得到其他人的响应：“佑妆。

会员群需付费26元进入，售卖者每天更新十余个视频，群成员提出想看某某女演员或女网红的换脸视频，询问“佑琢×的吗？”或发送某人的照片附言“求铺排”，随后便有造作好的换脸视频群内。

销售者自造网站上架商品链接

另一群组有80余人，只有采办48元的工具包后能够进群，群内有具体的图文注册使用教程，领导采办者在幼我电脑上部署造作网页，提供账号采办、充值领导。

造售涉黄产品成隐秘产业链

甚至有看起来较“正规”销售环节

前述3000人群组中，销售的商品类型最多，甚至有看起来较“正规”的销售环节。该售卖者的商品链接颁布在一数字商品销售平台，采办商品时，显示收款方为上海尚亿咖网络科技有限公司。企查查显示，该公司位于上海松江区，成立于2024年4月，注册本钱50万元，属于IT技术服务行业，法人万某文。记者尝试联系发现，其联系方式系工商代办机构注册，统一手机号关联多个企业，无法接通。

某收款方系注册公司账户

值得一提的是，颁布商品链接的数字销售平台，持有ICP登记和增值电信经营许可证，还列出蕴含“低俗色情服务”等在内共一百余种禁售商品。但前述商家使用“工作流”“会员群”等指向吞吐的描述定名商品，疑似为躲避禁售划定。但记者尝试注册后发现，在该平台注册成为商家只需提供手机号，不经任何审核即可上架商品链接。企查查显示，运营该网站的企业名为北京播动乐享公司，成立于2025年3月，法人夏某朋，属集群注册，无法查问联系方式。

其余售卖者，有的搭建无任何登记的一时网站承担同样的销售职能，使用注册资金10万元的百货零售类企业主体进行收款，有的则要求买家用支付宝口令红包点对点结算。

若何找到受多？

可通过传布擦边视频引流

这些在荫蔽角落批量出产的图片视频，是若何找到受多的？

记者发现，有视频平台用户在社交平台反映，深夜功夫总有被算法推荐AI天生的擦边视频。此表，该平台有很多账号持久专门颁布此类视频，其中也蕴含女明星、女网红的换脸视频。

某视频平台用户持久颁布女明星换脸擦边视频

部门账号从2022年不调换新至今，有的视频单条播放量超50万，通常视频也能等闲破万。其中部门账号开了然收益职能，同时在评论区和视频简介隐晦颁布信息，将用户引流至群组付费采办更大尺度的视频。

颁布AI软色情视频的账号开明充值打赏

律师说法

平台应承担起更多责任

对于已经面对篡改图片被传布的受害者而言，下架侵权违法内容的成本极高，目前没有专门机构掌管协助受害者下架违法内容。受害者只能自行向各个平台逐一举报，期待回应。

北京市千千律师事务所汪姝文暗示，在AI造黄的产业链上，平台应该承担起更多责任。若平台存在推流机造，且持久对违规内容放任不论，已涉嫌违反《网络安全法》关于网络运营者信息治理使命的划定，该当立即终场传输，采取解除等措置措施，预防信息扩散，并向有关部门汇报。不然可能面对？钌踔脸烦灰着普盏刃姓处罚。若受害者自己向平台举报，要求下架侵权内容，平台在收到举报后未处置，则还将对侵权行为就侵害扩大部门承担民事连带责任。

而AI平台则存在两方面问题，首先是平台未在用户上传真人照片时给出任何提醒或限度。《互联网信息服务深度合成治理划定》第十四条划定，“深度合成服务提供者和技术支持者提供人脸、人声等生物鉴别信息编纂职能的，该当提醒深度合成服务使用者依法奉告被编纂的幼我，并获得其单独赞成。”

记者尝试使用某AI平台对人脸进行编纂，该AI平台顺利实现了指令，并未收到任何提醒。这意味着任何人都可能在未经他人赞成的情况下，等闲地对他人人脸进行编纂，为犯法分子打开了方便之门。

其次，经过特殊设计的“焚诀”提醒词可绕过审查，天生色情内容。国度对天生式人为智能服务有根基的内容安全要求，划定模型天生内容合格率不低于90%，这一尺度是否得到切实执行，目前不足公开通明的核查机造。

5月4日，封面新闻记者向国度互联网信息办公室违法和不良信息举报中心检举前述线索，平台显示举报信息已成功提交。

每个环节都仰赖染指

深度伪造色情内容需专门罪名

2023年，《互联网信息服务深度合成治理划定》和《天生式人为智能服务治理暂行法子》正式执行，要求服务提供者不得利用深度合成技术从事违法活动，并承担内容安全主体责任。〖法典》则明确不容以信息技术伎俩伪造方式侵害他人肖像权。2026年1月1日，《网络安全法》订正版正式生效，初次在基础性司法层面写入AI条款；AI治理也初次被写入当局工作汇报。

业界人士以为，“深度伪造色情内容」剽一行为自身至今尚无专门罪名，受害者只能依附散落在各部司法中的肖像权、名望权、侮辱罪等条款追求救助。

当一张通常女孩的生涯照，在她不知情的情况下被扭曲、传布、售卖，每个环节都仰赖立法、法律者的染指，为这一产业链画下真正的终点。