明确智能体安全可靠可信产业发展底线要求
法治日报 2026-05-15

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术迅猛发展,智能体正加速与网络空间、物理世界深度融合,深刻改变人类生产生活方式和社会治理模式。

为落实《国务院关于深入实施“人工智能+”行动的意见》,促进智能体规范应用与创新发展,近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。

构建发展与安全协同促进格局

近年来,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利人们工作生活。同时,智能体高自主性、高权限等特性也带来了隐私泄露、越权操作、行为失控等安全风险,需要统筹发展和安全,促进智能体规范应用和创新发展。

国家网信办有关负责人介绍,在制定《实施意见》过程中,重点把握四个方面:一是强化思想引领。深入实施“人工智能+”行动,推动智能体高质量发展。二是统筹发展和安全。遵循技术发展客观规律,夯实产业技术底座,完善治理体系,积极稳妥推动智能体规范应用,构建发展与安全协同促进的格局。三是坚持应用牵引。深入挖掘典型应用场景,推动形成以创新带应用、以应用促创新的良性循环,促进智能体赋能千行百业。四是守牢安全底线。坚持以人为本、智能向善、多元共治、安全稳妥,明确将安全、可靠、可信作为智能体产业发展底线要求,将安全可控贯穿智能体技术研发、应用部署与产品推广全过程。

《实施意见》为我国智能体产业的健康发展绘制了清晰的路线图。中国信息通信研究院院长余晓晖认为,《实施意见》既充分回应了当前智能体在大众消费、行业应用等领域快速发展的客观趋势,也为其朝着安全、可靠、可信方向高质量、健康有序发展提供了重要遵循与指引,将有力促进智能经济和智能社会新形态培育壮大,赋能新质生产力发展。

在赛迪研究院未来产业研究中心人工智能研究室主任钟新龙看来,《实施意见》标志着我国在智能体规模化应用的关键窗口期,率先构建起覆盖智能体全生命周期的发展和治理框架,推动智能体技术红利在可问责、可解释、可纠偏的有序轨道上释放,为产业发展划定了“安全底线”与“创新空间”的双重边界。

体系化推动智能体创新发展

在推动智能体创新发展方面,国家网信办有关负责人介绍,《实施意见》围绕智能体技术突破、场景应用和生态建设等重点方向,体系化推动智能体创新发展。

具体来看,一是夯实发展基础。通过强化基础技术研发、完善智能体工具链,为产业提供高水平技术底座。建立智能体标准体系,降低智能体研发、适配、应用门槛。前瞻布局多智能体协同、智能互联网等前沿领域,为产业持续演进打好基础。二是强化应用牵引。围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向,提出19个典型应用场景,牵引智能体技术产品优化提升,探索可复制、可推广的落地应用模式。三是建设创新生态。加强培育开源创新力量、搭建产业协作平台,推动产业高效协同,提升创新活力。通过构建应用推广渠道、推进重点场景开放,畅通供需渠道,形成市场牵引、内驱发展的产业生态。积极培育全球生态,推动国内外技术融通发展,营造开放共享的国际合作环境。

此次《实施意见》提出的19个典型应用场景备受社会各界关注。

工业和信息化领域科技伦理专家委员会主任委员魏一鸣指出,智能体通过重构“人机协作”的模式,将技术能力锚定在具体场景中,形成从任务执行到结果交付的闭环。《实施意见》围绕科学研究、产业发展、提振消费、民生福祉、社会治理等领域,布局19个典型场景,为智能体的规模化落地提供了清晰的路径牵引,促进智能体从技术探索走向场景深耕。

“《实施意见》开辟了从科学研究、产业发展到民生福祉的广阔应用试验田。通过建立智能体软件商店、行业供需发布平台以及推进重点场景的试点示范,《实施意见》旨在打通技术研发与市场需求之间的壁垒,以真实的商业和公共服务场景牵引智能体技术的快速迭代。”余晓晖说。

规范有序推动智能体落地应用

在规范智能体应用方面,国家网信办有关负责人介绍,《实施意见》将智能体安全、可靠、可信作为产业发展的底线要求,规范有序推动智能体落地应用。

具体来看:一是明确产品准则。要进一步完善政策法规和伦理规范,做好智能体权限管理、行为管控等工作,为智能体相关产品研发提供指引。二是防范安全风险。发挥技术手段作用,提升在智能体内生安全、供应链安全、应用衍生风险等方面的风险防范能力,实现智能体开发、部署、应用、维护全周期安全管理,有效防范系统性风险。三是完善治理体系。适应智能体技术演进规律,根据应用场景和潜在影响,构建审慎稳妥的分类分级治理框架,推动建设智能体合规服务体系,做到既“放得活”又“管得好”。四是强化行业自律。鼓励智能体相关企业、行业组织、研究机构加强责任意识,共同制定行业自律规则。引导智能体开发者、开发平台、分发平台、服务提供者参与信用评价,共同营造良好发展环境。

其中,在防范安全风险方面,《实施意见》提出,提升内生安全能力。研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术,提升智能体系统安全保障能力,防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。研究智能体安全检测技术,探索建立智能体安全评估体系。

在完善治理体系方面,《实施意见》提出,构建分类分级治理框架。根据应用场景和潜在影响,审慎稳妥开展智能体分级治理。对于敏感领域及重点行业,由网信部门联合行业主管部门确定开放场景,根据相关法律法规、监管要求和安全防护标准,实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域,完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。

谈及下一步落实《实施意见》的工作举措,国家网信办有关负责人说:“国家网信办、国家发展改革委、工业和信息化部将会同有关方面切实推进《实施意见》落地见效。聚焦智能体技术研发、场景开放、安全治理等关键环节,完善配套政策,形成工作合力,推动重点任务落实落地。同时,加强智能体规范应用与创新发展的监测评估、滚动实施和动态调整。”

相关阅读
猜你喜欢