9月1日,2026年国家网络安全宣传周新闻发布会在北京举行。中央网信办网络安全协调局副局长王丽宏公布了一组关键数据:截至7月底,全国已备案大模型服务1028款,登记大模型应用630余款。
这个数字值得细看。今年2月28日的备案总量为796款。五个月新增232款,平均每天约有1.5款大模型通过备案。应用场景覆盖工业、农业、商业、教育、交通、法律等领域。中国AI产业跑得快,监管也没闲着。
框架3.0版,9月中旬见
发布会上最重磅的消息:今年网安周期间(9月14日至20日),将发布《人工智能安全治理框架》3.0版,同期还有2026年AI技术助推网络安全应用测试结果一并亮相。
回顾这个框架的演进路径。1.0版和2.0版已先后发布,核心思路是把分类分级、敏捷治理、共治共享三大理念落成可执行的方案。框架针对技术内生、技术应用、应用衍生三类安全风险,逐项给出治理措施,并研究风险分级治理方案与可信AI基本准则。
一句话概括:既有安全底线,也留创新空间。3.0版大概率会沿着这个方向继续细化,智能体安全、深度伪造治理可能成为重点章节。
备案制度:全球第一部生成式AI法规跑出加速度
这套体系的法律地基是《生成式人工智能服务管理暂行办法》。2023年8月15日正式实施,属于全球第一部生成式AI服务管理的官方法规。
三年过去,”备案+登记”双轨制已经运转成熟。大模型服务走备案通道,面向公众的应用功能走登记通道。监管态度一直是包容审慎、分类分级。1028这个数字,就是这套制度运转三年的成绩单。
标准体系也在快速铺开。《生成式人工智能服务安全基本要求》《生成式人工智能预训练和优化训练数据安全规范》等国家标准陆续出台,给训练数据使用划出安全基线。《政务大模型应用安全规范》则明确了政府部门的模型选型、建设部署、运行各环节要求。
三条容易被忽视的暗线
第一条:语料战争。 中央网信办组织建设了中文互联网语料资源平台,累计发布29个优质语料数据集,数据总量达3.0TB,其中包含3批正能量权威中文互联网基础语料。高质量中文语料长期稀缺,官方下场供料,直接影响国产大模型的价值观纠偏效果。
第二条:众测机制。 2026年人工智能大模型安全众测活动已经启动,指导单位包括中央网信办网络安全协调局和国家发展改革委高技术司,面向社会征集测试产品,白帽子可以报名参与。安全能力从厂商自证转向公开检验。
第三条:智能体分级治理。 今年5月发布的《智能体规范应用与创新发展实施意见》已明确路线:敏感领域和重点行业实行备案、检测、问题产品召回管理;生活娱乐、日常办公等低风险领域走合规自测、信息报告、行业自律路线。AI Agent爆发元年,配套的治理框架同步到位。
企业该怎么办
三件事需要马上排进日程。
第一,对照《生成式人工智能服务安全基本要求》做差距分析,训练数据来源、内容过滤机制、用户投诉渠道逐项检查。未备案的服务面临下架风险,代价比合规成本高得多。
第二,盯紧9月中旬发布的框架3.0版原文,第一时间比对自身业务的风险分类,判断落在技术内生、技术应用、应用衍生哪一类,对应的治理措施不同。
第三,做智能体产品的团队要重点研究分级治理条款,判断产品属于高风险还是低风险档位,备案、检测、召回三选一,路径完全不同。
写在最后
AI安全治理这件事,中国走出了自己的节奏:法规先行、标准跟进、备案落地、框架迭代。1028款备案大模型说明产业端没有被管死;框架一年一更、标准持续加码,说明监管层也没有躺平。
9月14日网安周开幕,框架3.0版会给出更细的答案。做AI产品的团队,这次真该逐字读一遍。
苏公网安备32010502011527号
发表回复