自去年ChatGPT发布以来，在全球迅速引发热潮，多国科技巨头也争相推出类似的生成式AI产品。在国内，除了百度推出的文心一言，华为、腾讯、阿里、360等也相继计划推出类ChatGPT产品。

但随着ChatGPT在全球的流行，越来越多的国家对其带来的潜在威胁表示担忧。

近日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》。其中最受瞩目的条例是要求AI生成式内容“应当体现社会主义核心价值观”，“不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家与破坏国家统一等”。

另外，《办法》也要求不得出现种族、信仰、性别等歧视，且不允许宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假讯息，以及可能扰乱经济秩序和社会秩序的内容。

《办法》也明确要求将向AI“提供者”问责，服务提供者要承担AI生成内容的责任，且对用户输入的信息和使用记录承担保护义务。

整体来看，《办法》若落地实施，意味着中国生成式AI产品将有着严格的审批和监管制度。

【全球AI监管“山雨欲来”】

值得注意的是，除了中国外，一些海外国家也已加速规范化生成式AI的发展与监管。以ChatGPT为代表的生成式AI应用的数据安全问题受到市场讨论。

今年3月份，马斯克联合1000多名科技领袖和研究人员发布公开信，心中警告AI工具对社会和人类构成深远的风险，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月，以便制定和实施安全协议。

据外媒报道，近日，美国商务部也就ChatGPT等相关AI产品服务问责措施正式公开征求意见，包括新AI模型在发布前是否应经过认证程序。征求意见期限为60天。

美国商务部下属国家电信和信息管理局局长艾伦·戴维森表示：“这些AI工具即使在相对初期阶段，也能做到很多令人惊讶的事情。但我们需要设置一些防护，以确保它们被负责任地使用。”

本月初，意大利的隐私监管机构突然宣布，从即日起禁止民众使用ChatGPT，限制ChatGPT的开发商OpenAI处理意大利用户的信息，并且表示已经对OpenAI公司立案调查。

意大利的这项禁令是全球先例，引起了广泛关注。意大利当局批评，AI聊天机器人不尊重用户数据，且未能验证用户年龄。

继意大利之后，加拿大也对ChatGPT所属的OpenAI公司展开调查。该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。

加拿大隐私专员办公室官网声明

德国也可能追随意大利的脚步“封杀”ChatGPT，原因同样是数据安全问题。此外，法国和爱尔兰的隐私监管机构也表示，已与意大利数据监管机构联系讨论其调查结果。

目前，欧盟正在制定全球第一部关于人工智能的立法，欧洲消费者组织副总干事表示，人工智能系统需要受到更严格的公众监督，

【政策先行，产业跟随】

关于我国政府对生成式AI监管政策的落地，业内人士认为，未来大概率将推出生成式AI的监管细则，并将其纳入到网络安全常规保护工作中。

有分析认为，AI大模型、GPT、生成式AI技术将大幅降低黑客攻击的门槛，包括批量钓鱼邮件生成、批量漏洞挖掘、批量恶意代码生成、批量威胁特征组合等等，通过赋能新手黑客，显著加剧了整体威胁态势，进而带来各类安全软硬件需求以及政企安全预算的提升。

比如，生成式AI的发展可能带来大量恶意生成的虚假信息，需要类似换脸甄别的技术来鉴别图像等信息是否有AI生成；

在国内，美亚柏科推出的“慧眼”系统便是其中之一，该系统便是利于AI技术鉴别出换脸、美颜、生成人脸、同图或异图复制篡改的影像。

正在数据隐私方面，隐私计算技术可在不暴露数据的情况下进行计算和分析，以实现数据隐私的保护。在国内的信息安全厂商中，安恒信息、奇安信、启明星辰、绿盟科技等厂商均推出了隐私计算平台的产品。

随着生成式AI的发展，安全问题正受到高度重视，相关的AI安全产品、网络安全厂商将迎来历史性的发展契机。