新快报讯 4月27日,小红书首次完整输出平台对AI内容的治理主张,共分为“平台鼓励的AI内容及行为”和“平台反对的AI内容及行为”两大板块,以给到创作者清晰指引。小红书明确了对待AI相关现象的核心态度:以真实性与原创价值作为AI内容治理的根本标尺,鼓励AI作为创意放大器,反对AI作为造假工具与低质内容生产机器,所有AI参与创作的内容均需主动标识。
“发布AI治理主张不是为了限制创作,而是为了给创作者提供更清晰的方向。” 小红书用户信任中心负责人吉吉表示。她介绍,平台观察了创作者和普通用户使用AI的各种方式,访谈了大量创作者,听取他们在使用AI过程中的困惑、尝试和担忧。基于社区一贯坚持的“真诚分享”原则,小红书第一次完整地输出了对AI的主张,希望给创作者和用户一个清晰的指引。吉吉透露,平台会将公域流量优先向优质内容倾斜。
AI治理主张再次强调了创作者应对AI参与创作的内容进行主动标识,未进行标识的AI内容,平台将在识别后统一添加AI标识贴条。吉吉表示:鼓励AI标识是为了保障用户的知情权,非违规内容,AI贴条不会影响流量。目前,小红书已上线针对AI笔记贴条提示的申诉通道,创作者如果对AI贴条有异议,可通过该通道反馈。
在明确“鼓励的AI内容”的同时,小红书也梳理出了四类平台反对的AI行为:利用AI违规运营、利用AI造假、利用AI侵权,以及利用AI进行低质创作。
具体来说,平台反对利用AI全自动托管账号、AI教唆做号等扰乱社区秩序的行为;反对AI造假行为,包括利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息,或是恶搞经典作品、借热点进行低质营销;反对利用AI侵犯肖像权、著作权的行为;也反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面,或是传播不良价值观等低质创作行为。平台会根据违规程度采取梯度处理,包括限制曝光、警告、封禁等;对于明确由AI托管运营、无真实人类参与的账号,平台将予以封禁。
据悉,今年以来,小红书累计处置各类AI不良行为超百万例,其中AI托管账号超80万个、AI造假笔记近15万篇。
