首页> 新闻>  正文
两会热议 AI 安全:从被动防御到主动智能协同
来源:赛迪网     作者:孙姗姗 2026-03-09 15:01:14
微信分享二维码

扫码分享到微信

关闭

【赛迪网讯】面对AI技术快速普及带来的全新安全风险,多位全国人大代表立足行业实际,精准把脉痛点难点,提出系统化治理方案,覆盖标准建设、技术突破、生态构建、数据安全等多个核心维度。

全国人大代表、海尔集团董事局主席周云杰聚焦AI应用衍生的安全、隐私与伦理三重挑战,提出三维协同治理框架,筑牢AI健康发展底线。其一,健全标准与责任体系,建立分级分类、风险导向的AI全流程管理体系,鼓励行业联盟牵头制定金融、工业、医疗等垂直领域安全与伦理专项标准,明确责任边界与合规要求;其二,强化技术源头防控,集中力量突破幻觉治理、深度伪造鉴别、对抗攻击防护等核心关键技术,推动AI原生可信能力建设,实现安全能力“左移”,从源头规避风险;其三,构建多元共治生态,稳步开展监管沙盒试点,探索包容审慎的创新监管模式,牵头成立“伦理治理联盟”,形成政府、企业、社会多方协同的共治格局。

全国人大代表、超聚变数字技术董事长刘宏云则聚焦数据安全与要素可信流通,着力破解产业发展中“数据荒”与数据安全的核心矛盾。他提出三大举措:一是完善数据治理与开放机制,全面摸清公共数据家底,建立全国统一的数据架构标准,扶持专业化、规范化数据服务商,夯实数据要素运营底座;二是大力推广隐私保护计算技术,打造安全可信的数据流通空间,实现数据“可用不可见、可控可计量”,推动企业间数据合规联盟搭建,促进数据安全共享;三是规范数据交易市场建设,明确数据定价机制、收益分配规则,激活数据要素核心价值,兼顾数据开放利用与安全防护。

全国人大代表、360创始人周鸿祎聚焦AI时代攻防格局重构,提出“以模治模”的核心应对思路。他建议,一是推动安全智能体规模化落地,推行“以AI对抗AI”防控模式,在关键信息基础设施、工业互联网、金融等重点领域批量部署安全智能体,发布场景化适配指南,提升智能防御覆盖率;二是打造普惠型安全能力,建设公共智能体安全服务平台,降低中小企业接入成本,助力中小微企业快速搭建垂直领域专属安全智能体;三是完善人才与体系支撑,加快培养“懂AI技术、精安全防护”的复合型实战人才,构建覆盖AI全生命周期的一体化安全防护体系。

绿盟科技陈珂专访:AI三重进化驱动产业升级 构建内生协同防御体系

作为国内领先的网络安全企业代表,绿盟科技集团股份有限公司副总裁陈珂在两会期间接受赛迪网专访,结合多年行业深耕实践,深度解读AI驱动下网络安全产业的未来图景与核心发展逻辑。陈珂指出,当前网络安全产业的发展路径已然清晰,AI自身安全是产业发展的基石,决定着技术创新的底线;AI赋能安全是产业升级的核心引擎,推动防护效能实现质的飞跃;AI赋能攻防是行业竞争的常态,定义未来数字安全对抗的基本规则。这三重进化环环相扣、相辅相成,推动整个网络安全产业彻底告别传统静态防御模式,迈向动态、内生、全域协同的全新防御阶段。唯有将安全能力深度融入数字化转型全流程,嵌入产业发展基因,构建智能、弹性、一体化的综合防御体系,才能为各行各业数字化转型保驾护航,助力数字经济在创新浪潮中行稳致远。

AI是生存线:自身安全从“加固项”转为全链路防护核心

陈珂强调,AI作为数字时代的核心关键资产,其自身安全已经从传统的辅助加固项,升级为关乎企业生存与业务连续运营的生命线。当前,大模型、智能体已经深度嵌入金融、工业、政务、通信等各行各业核心业务系统,AI系统的安全性直接决定业务能否稳定运行,一旦出现安全漏洞或被恶意攻击,将引发系统性风险。伴随AI应用场景的全面拓展,相关安全风险呈现出源头化、全链路、隐匿化的全新特征,威胁贯穿训练数据投毒、算法漏洞攻击、应用层提示词注入、供应链安全短板等AI研发与应用全生命周期。

这就意味着,传统外围加固的防护思路完全无法适配新时代需求,必须转向构建内生于AI开发、训练、部署、应用全流程的纵深免疫体系。未来AI安全防护的核心,是建立覆盖计算基础设施、训练数据、模型算法、应用接口及第三方组件的全栈式防御体系。实践中,集成内容过滤、数据安全保护、算力资源调度的一体化安全设备,可有效抵御多维度复合攻击;部署在人机交互前端的轻量级“安全围栏”,能针对实时对话、智能交互场景,实现毫秒级风险拦截与响应。而这一体系的核心支撑,在于专业安全大模型与高性能通用大模型的高效协同,依托双重模型能力,实现对复杂隐匿风险的专业化、精准化、高实时性管控,全方位守住AI安全底线。

AI是核心引擎:驱动安全运营从人力密集迈向智能协同

AI技术的深度赋能,正在引发网络安全运营模式的颠覆性革命,推动行业从传统人力密集型模式,全面迈向智能协同、主动前置的全新阶段。陈珂表示,传统安全运营高度依赖安全分析师人工研判告警信息、逐流程串联处置的“手工业”模式,效率低下、响应滞后,完全无法应对当前自动化、规模化、高频次的现代网络攻击。分散独立的各类安全工具,必须整合升级为统一、智能、可灵活编排的一体化安全作战平台,才能形成防控合力。

从一线实践来看,成熟的AI安全运营平台效能提升显著,可将日均数万条冗余告警信息,通过智能研判、精准降噪,压缩至百条左右核心风险事件,告警降噪率突破95%,同时协助完成40%以上常规安全事件的自动化闭环响应,实现安全运营效率与防护能力的双重升维。这类平台内置邮件安全、威胁情报、漏洞检测等多个垂直领域专属智能体,形成标准化“原子能力”,支持通过可视化编排方式,快速组合适配不同业务场景的自动化处置工作流。这不仅大幅解放了高端安全人才,让专业人才聚焦战略决策、高级威胁狩猎等核心工作,更通过AI语义理解、用户行为建模技术,构建动态安全防护基线,大幅提升对高级逃逸攻击、未知威胁变种的精准发现能力,实现从被动响应到主动预判的跨越。

AI是演变变量:攻防对抗从技能博弈升级为体系对决

AI的“双刃剑”特性,彻底重塑了网络安全攻防格局,成为推动行业规则迭代的核心演变变量。陈珂指出,AI技术拉平了攻防双方的技术门槛,攻防对抗节奏呈几何级加速,行业对抗彻底从传统的个人技能博弈,升级为体系化、智能化、规模化的全面对决。在攻击侧,智能体技术让单个攻击者具备了自主规划、智能决策、协同作战的能力,形成规模化“AI攻击军团”,攻击效率与破坏力堪比顶级专业攻击组织;传统勒索软件也逐步演进为全自动、多技术融合的“智能黑产”,攻击更隐蔽、扩散更快速、危害更严重。

面对全新攻防态势,防御方必须构建对等的智能化防控能力,网络安全攻防正式进入“模型对抗模型、智能体对抗智能体”的全新阶段。攻击者借助大模型生成高度仿真、难以甄别钓鱼内容与恶意代码,防御方则必须依托更先进的检测模型、更智能的防御体系,实现快速识别、精准阻断、闭环处置。因此,未来网络安全防御体系建设,必须深化智能体间的协同演化与动态博弈能力,让整个安全体系具备自我迭代、自适应调整的特性,快速适配攻击技战术的持续变化。同时,攻防对抗的核心焦点也全面拓展,从传统网络边界,延伸至业务流程、自然语言交互界面、智能体通信协议等新兴前沿领域,防御范围进一步扩大,对体系化、全域化防控能力提出更高要求。

业内人士表示,2026年作为数字化转型与AI产业发展的关键之年,网络安全的底座支撑作用愈发凸显。两会代表的建言献策与行业专家的实践解读,共同勾勒出AI时代网络安全产业的发展蓝图。未来,唯有坚持技术创新与治理协同并行,统筹AI创新发展与安全防护,凝聚政企社多方合力,才能构建起坚实可靠的数字安全屏障,为数字经济高质量发展保驾护航。(文/孙姗姗)

从点云级到图像级,华为乾崑全新激光雷达开启3D成像时代

3月4日,华为乾崑正式发布新一代双光路图像级激光雷达,高达896线,是目前全球量产最高规格的车载激光雷…

昨天

张文宏两度敲响警钟:AI诊疗必须坚守“医生主导、辅助定位”

全国政协委员、复旦大学附属华山医院感染科主任、国家传染病医学中心(上海)主任张文宏教授,近期在不同…

20小时前
你可能也喜欢这些文章