据新华社电 外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真。记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。近期，多个平台对“AI起号”现象开展专项治理行动，清理违规内容并封禁部分账号。

AI造假起号成新套路

虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少

广西市民王夏经常刷到这样的视频：“帅哥”“美女”高频率更新日常生活，并在评论区与网友频繁互动。由于熟悉AI软件，王夏很快发现这些视频的主角是AI数字人，“但视频没有任何AI生成提示字样，好几个账号显示来自同一家MCN公司”。

当前，生成式人工智能技术日益普及，不少内容创作者通过AI创作出更具想象力的作品。但也有一些人利用AI造假，无底线博眼球，作为起号变现捷径。

记者在某社交平台上发现，部分账号将目标锁定中老年女性群体，利用AI打造“完美熟龄女性形象”，搭配“40+、50+长这样，怎么样”等话术，进行“年龄焦虑”营销。

此类账号发布的穿搭、保养、护肤、养生等视频多未设置AI生成提示，不少网友误以为是真人，在评论区咨询保养方法。一些账号背后运营者则借机推送“三无”保健产品广告，还有“水军”互动造势。记者注意到，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少。

记者调查发现，当前，主流网络平台普遍升级AI内容识别系统，要求对AI生成作品添加标注，但仍有一些人采用各种手段绕过审核。

“平台甄别AI内容主要依靠特征性技术痕迹，一些起号者通过多种手段削弱特征痕迹，逃避平台标注。”重庆理工大学计算机科学与工程学院教授李彦说，如通过微信转压缩等方式改变视频文件代码结构，再上传至平台，就较难判定为AI生成内容。

记者用一款AI软件生成一张人像图片，裁掉AI生图软件水印后发布在社交平台上。发布后，平台系统并未自动识别、提示添加标注。相当一部分网友辨别不出这是AI生成图，纷纷点赞、发送私信，账号后台收到超200条消息。

情感和养生类成“重灾区”

2.5万粉丝的AI养生号售价6000元，11万粉丝的AI宠物号售价1.6万元

记者调查发现，社交平台上有不少AI造假起号的教程，情感、养生、颜值等类别是“重灾区”，相关帖子常以“条条是爆款”“最适合普通人入局”“3天暴力起号”等为噱头。

以一则“养生赛道”起号教程为例，先向AI软件输入器官、食物等关键词，生成吸睛文案，批量产出拟人化素材、智能合成动态视频；再在片尾设置养生知识问答，引导互动并刺激转发，以提升账号互动权重。该教程声称：“按照此方法，单条视频制作最快仅需15分钟，单账号日均收益可达500+（元）。”

有专营平台起号的商家告诉记者，只需缴纳1680元，3到15天即可运营出一个万粉AI账号。当账号积累一定流量后，就可以通过电商带货、账号转卖等方式变现。

“后面的电商带货，从直播间搭建、选品策略、话术设计到违禁词规避等，我们有一套运营体系，学员照葫芦画瓢就行。”一名售卖AI账号起号教程的商家说。

一名博主透露，她借助AI软件生成的“氛围感美女”视频在多个平台“吸粉”过万，接到不少推广商单，月收入在1万元左右。

有商家称，手上有未标注AI生成的“美女”账号，粉丝量均在一万以上，且为“三无账号”（无实名、无账号违规、无作品违规），“现在平台风控很严，账号会升值”。

该商家说，这些账号销售十分火爆，买家经常催着加急起号，有个合作商“一周就要几十个万粉号”。在其提供的交易截图中，9个账号的成交价从700元至4000元不等，而百万粉丝的号要十几万元。

记者搜索发现，社交平台上有众多网友求购和出售账号。一名卖家称，2.5万粉丝的AI养生号售价6000元，11万粉丝的AI宠物号售价1.6万元，11.7万粉丝的AI母婴号售价1.35万，这些账号同样为“三无账号”。

专家

阻断违规账号 流量变现成关键

李彦等专家认为，AI造假起号的背后，涉及技术提供者、传播平台、内容发布者等多个参与方，技术、数据等关键信息存在壁垒，需加强协同治理，多方共同打击违规行为。

北京邮电大学互联网治理与法律研究中心执行主任谢永江建议，技术提供者强化技术的安全性和合规性研发，提供技术支持和解决方案；平台提高对深度伪造内容的检测精度，进一步完善相关规则，明确对AI造假起号等违规行为的界定和处罚标准等。

阻断违规账号的流量变现，是从根源上打击黑灰产业链的关键。受访专家建议，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号主体加大处罚力度，禁止违规账号进行带货、卖课等商业活动，持续开展AI造假起号整治，切断其获利渠道。

谢永江说，还应鼓励公众参与乱象治理，如举报可疑账号、引入专业机构开展评估等，“真实、优质的用户创作，是平台活力和创新的源泉”。

行动

3500余款违规AI产品被处置

根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借互联网账号。多个网络平台规定，账号仅限本人使用，禁止以任何形式出租、转让、售卖或以其他方式许可他人使用账号。

重庆公孝律师事务所执行主任徐斌表示，AI造假起号灰色产业链是技术异化的结果，可能造成低俗猎奇信息泛滥，加速虚假新闻、谣言传播，扰乱网络空间秩序，亟待加强清理整治。

今年4月以来，中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象开展重点整治。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

前不久，多家互联网平台发布专项治理公告，重点整治AI批量造假、AI起号引流带货、转让销售AI虚拟账号等违规行为。

据悉，专项行动第一阶段工作期间，中央网信办部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地。下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，着力维护清朗网络生态，推动人工智能向善向好。

来源：新华社