4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》，向社会公开征求意见。征求意见稿对隐私、知识产权、肖像权、名誉权、训练数据、人工标注、标识、不公平竞争、防沉迷等提出了规范。

4月11日，据《华尔街日报》报道，拜登政府已经开始研究是否需要对ChatGPT等人工智能工具实行检查。作为潜在监管的第一步，美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序。征求意见期限为60天。

5月16日，OpenAI CEO Altman呼吁美国国会对人工智能(AI)系统采取安全标准。他认为，政府可以将发放牌照和测试的要求结合起来，监管开发AI模型的公司。

5月18日，科学技术部部长王志刚表示，中国积极应对人工智能可能带来的风险挑战，推进人工智能伦理治理，发布人工智能治理原则和伦理规范，向全球表明负责任人工智能的鲜明立场。

5月19日，英国计划与OpenAI和DeepMind的高管举行关于AI风险会议，英国的人工智能峰会最快可能在本月举行。

AI 可能引发的安全问题，主要体现在以下方面：

大模型训练、调优所使用数据的安全问题。

比如意大利个人数据保护局因年龄审核、数据和隐私安全等问题，宣布限制ChatGPT运营；加拿大联邦隐私监管机构宣布，OpenAI涉嫌“未经同意收集、使用和披露个人信息”。

大模型生成内容的可靠性、使用方式等问题。

由于大模型在生成内容上基于概率统计的原理，其内容可靠性可能存在问题，如引用的客观数据是否是最新且来源可靠？此外，由AI生成的新闻图片出现在互联网中，真假难辨，或引发传播风险；欧洲刑警组织提示称，ChatGPT可能被滥用于网络钓鱼、虚假信息和网络犯罪。

网络攻击方面，搭载了AI能力的黑客将“如虎添翼”，ChatGPT的强大功能降低了网络攻击者用于制作恶意软件的技术门槛，使得攻击手法转向分布式、智能化、自动化，智能化对抗将成为主要的攻防形式。

那么，哪些技术有望用来应对AI风险？

由于大模型在训练、调优数据过程中涉及用户数据调用，伴随生成式AI技术热潮掀起，在数据采集、传输、存储、处理、共享、销毁等数据生命周期各阶段，通过加密、数据水印等技术手段保护用户数据特别是隐私，成为当务之急。

针对大模型生成内容的可靠性、使用方式，应对AI生成内容进行标记，同时对AI生成内容的可靠性及传播链路进行把关。

当前，对AI生成内容的判别，主要可以由两种技术途径来完成：

一是通过算法识别AI模型生成内容的特征，从而鉴别相应的内容是否由AI生成。

二是通过对AI生成的内容添加特定的标识，来区分相应内容是否由AI生成，这一方向的技术手段包括数字水印等相应的加密技术。

安全问题不能仅靠AI厂商自律解决，还需要外部力量监督。全球AI监管目前仍处于探索阶段，相关法律法规与指导意见也得逐步推进。人工智能趋势不可逆转，与科学技术的高速发展相比，现有法律和伦理仍处于不断起步探索的阶段。

据中财网