5月20日，国家网络与信息安全信息通报中心发布通报，经公安部计算机信息系统安全产品质量监督检验中心检测，35款移动应用存在违法违规收集使用个人信息情况。通报清单中包括智谱清言、Kimi等热门AI应用以及“智慧AI聊天”“虚拟恋爱AI”“AI智能秘书”等冠以AI名头的应用程序，存在违规使用个人信息、实际收集的个人信息超出用户授权范围、收集的个人信息与业务功能无直接关联等违法违规行为。这让公众对使用日趋频繁、种类也愈见繁杂的各类AI应用的信息安全问题开始感到担忧。

AI应用采集的个人信息更多了

记者在通报中看到，“智谱清言”存在的问题涉及“实际收集的个人信息超出用户授权范围”，而Kimi（版本 2.0.8）则被指“实际收集的个人信息与业务功能没有直接关联”。

智谱清言是北京智谱华章科技有限公司（智谱AI）于2023年8月正式上线的生成式AI助手，其基于智谱AI自主研发的中英双语对话模型ChatGLM2开发，在自然语言处理领域有较高知名度，已具备通用问答、多轮对话、创意写作、代码生成以及虚拟对话等丰富能力。创始团队是来自清华大学知识工程实验室等科研力量。自2019年成立以来，公司已完成多轮融资，目前正在冲刺IPO。

同为“AI六小虎”的Kimi由月之暗面科技有限公司（Moonshot AI）开发。其创立于2023年3月，创始团队5人中有4人来自清华大学。去年2月，月之暗面完成一轮10亿美元融资，投资方包括红杉中国、美团、阿里、小红书等。同年5月，有报道称其最新一轮估值报价已达30亿美元。

但截至昨日记者发稿，两家公司都没有回复媒体关于通报的查询。

公开报道显示，去年12月就有网友反映“豆包”APP能轻易查询到个人联系方式的问题。今年3月，多位小红书用户反映，小红书后台持续高频获取用户位置信息，有用户最高3天内被访问1.7万次，包含定位、照片与视频、设备状态、日程、剪贴板等，甚至凌晨未使用软件时段仍有高频操作。另有网友爆料称小红书的AI应用“点点”直接取用小红书用户的内容作为AI语料。

个人信息保护面临AI技术挑战

为规范AI服务和应用，保障公民合法权益，今年4月30日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，行动分两个阶段开展。

根据通知，第一阶段将强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力，重点整治包括未履行大模型备案或登记程序的违规AI产品，使用非法来源数据训练语料、安全管理措施薄弱等6类突出问题。

第二阶段则聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

尽管如此，有法律专家指出，在AI快速发展的当下，AI的深度思考模型本身就难以解释清楚，这种技术特性使数据流转路径更难被用户感知，个人信息控制的真空化正不断加剧。

同济大学法学院教授黄锫日前撰文指出，我国已于2021年11月1日正式施行个人信息保护法，然而生成式AI勃兴于2022年底，这意味着在个人信息保护法在制定过程中并未纳入对生成式AI发展的相关考量，这就导致该法中的一些规定面临着诸多挑战，可能会造成我国个人信息保护的新型风险，而且也可能会成为我国生成式AI产业发展的法律羁绊。

他举例说，生成式AI开发者就很难完全遵守个人信息保护法中的“告知-同意”基本原则，其技术特性决定了开发者事实上无法履行向信息主体真实、准确、完整地告知处理目的、方式等内容的义务，难以满足知情同意规则的法定要求。

采写：新快报记者 郑志辉