上海成立人工智能安全委员会:破局 AI + 安全协同新范式,筑牢千亿级产业安全防线
2025 年 8 月 28 日,上海网络安全产业创新大会在普陀区召开,标志着上海在人工智能安全与网络安全产业融合发展上迈出关键一步。本次大会以 “产业赋能 生态打造” 为主题,聚焦 AI 时代的安全挑战,通过政策创新、技术突破与生态构建,为城市数字化转型筑牢安全基座。
一、人工智能安全工作委员会成立,重塑防御范式
大会现场,由上海市人工智能行业协会牵头设立的上海人工智能安全工作委员会正式揭牌。该委员会集聚了上海仪电集团、商汤科技、斗象科技、上海观安等头部企业,以及高校和科研机构,旨在推动 “AI + 安全” 技术协同与治理创新,应对深度伪造、数据投毒等新型威胁。其核心职能包括:
技术攻关:围绕语料安全、算力安全、模型内生安全等领域开展研发,例如商汤科技的多模态内容检测技术已实现对深度伪造视频的精准识别(准确率达 98.7%)。
标准制定:计划年内发布《生成式 AI 内容安全评估指南》,明确模型训练数据合规性要求及风险评估流程。
实战防御:联合发起 “AI 安全攻防演练”,2025 年 6 月 - 7 月的 “工赋砺网” 专项行动中,电气数科、联影医疗等 15 家企业获 “优秀蓝方奖”,深信服、斗象科技等 8 家企业获 “优秀红方奖”。
委员会的成立,标志着上海从 “被动防御” 转向 “主动治理”,通过产学研用协同,构建覆盖 AI 全生命周期的安全防护体系。
二、20 项创新成果发布,聚焦 AI 与量子安全
大会同期发布的《2024 年度上海市网络安全产业创新攻关成果目录》,涵盖 AI 安全、量子安全等 14 个方向的 20 项成果,其中突破性进展包括:
AI 安全领域:上海 CA 的 “身份链服务体系” 入选,该系统基于区块链与分布式数字身份(DID)技术,实现政务、金融等场景的可信身份认证,已在普陀区政务服务中应用,日均处理认证请求超 10 万次。
量子安全领域:国盾量子的 “量子密钥分发网络” 实现百公里级密钥传输,误码率低于 0.1%,为金融交易、医疗数据传输提供量子级安全保障。
软件供应链安全:阶跃星辰的 “代码静态分析工具” 可检测开源组件漏洞,已为华为、小米等企业的供应链系统拦截高危漏洞 2300 余个。
这些成果的产业化应用,将推动上海网络安全产业规模从 “十四五” 初的倍增基础上,进一步向千亿级迈进。
三、政策驱动与生态构建,打造长三角安全枢纽
上海市经信委总工程师裘薇在致辞中明确,上海将重点推动 “安全 + AI 双向融合”,布局智能机器人、低空经济等新兴领域安全产业。具体举措包括:
空间载体建设:以普陀网络安全产业示范园为核心,联动徐汇 “模速空间”、浦东张江等载体,构建 “一核多极” 发展格局。普陀园区已集聚 360、上海控安等企业,2025 年目标引进 5 家龙头企业、培育 20 家细分领域明星企业,形成百亿级产业集群。
政策支持体系:出台全市首个网络安全产业专项扶持政策,对新引进企业最高给予 1000 万元开办费资助,对新建安全测试平台最高资助 100 万元,并将网络安全保险纳入财政预算。
标杆项目牵引:上海申电云、中国电信等 6 家企业签约共建轨道交通、通信网络安全示范工程;瑞金医院、中山医院等 13 家医疗机构获颁 “网络安全保险试点示范单位”,试点险种覆盖勒索损失、营业中断等风险,最高赔付额度达 5000 万元。
四、实战能力提升与产业生态完善
大会同期举办的 “工赋砺网” 专项行动成果显著:
攻防演练:62 家蓝方企业与 13 家红方企业开展 5 天实战,未失分蓝方占比 61%,暴露并修复工业互联网、卫星互联网等领域漏洞 127 个。
能力平台建设:发布 “上海市网络安全能力图谱”,整合 20 余家企业的 95 类细分能力,实现供需精准匹配。例如,观安信息的威胁情报平台已接入全市 80% 的关键信息基础设施,日均拦截攻击流量超 500G。
此外,上海在反诈、数据安全等领域的创新实践也值得关注。奇安信与金山警方合作的 “金护” 反诈 APP,通过实时预警与公安联动,使金山区诈骗案发下降 34.6%;杨浦区与奇安信共建数据安全总部,探索数据要素流通中的安全治理模式。
本次大会的召开,不仅展现了上海在网络安全领域的领先实践,更通过技术突破、政策创新与生态协同,为长三角乃至全国提供了 “安全 + AI” 融合发展的示范样本。随着人工智能安全工作委员会的运作与各项政策落地,上海正从 “安全保障者” 向 “安全标准制定者” 跃升,为全球数字经济发展贡献中国方案。