三部门发文为智能体发展指路,确保其操作不超出用户授权范围
从去年“豆包手机”问世到今年“小龙虾”(OpenClaw)爆火,部门智能体产品及服务形态越来越丰富,发文发展范围它们能自主完成复杂任务时,为智带来的指路作数据泄露、恶意越权、确保其操权限失控等风险也引发广泛关注。超出智能体治理不仅要对静态“输出内容”进行管理,用户还需对动态“行为边界”作出规范。授权
近日,部门国家网信办、发文发展范围国家发展改革委、为智工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(下称《实施意见》),指路作旨在为智能体治理架构、确保其操应用场景和产业生态作出系统部署。超出这是用户我国首部专门针对AI智能体的规范性文件,或标志着智能体产业将从“野蛮生长”进入“规范发展阶段”。

国家网信办发文。
首先,为了降低智能体研发、适配、应用门槛,《实施意见》要求持续提升通用基础模型性能,支持行业发展细分领域专用模型,形成适应不同场景和设备的模型产品矩阵。同时完善智能体工具链,开展智能体底层框架研究,加快研发感知、记忆、决策、交互、执行等关键组件,完善智能体研发、测试、部署、运维等工具链,以及发展对抗样本检测、行为异常检测等安全与治理工具等。
当下人与AI、智能体与智能体、智能体与各类被访问资源之间的交互愈发频繁,传统安全协议已无法适配新场景,亟需构建新的标准协议,进一步明确工具调用、资源访问等操作的权限规则与约束标准。为此,《实施意见》就建立智能体标准体系作出明确要求。
具体而言,应制定智能体标准化工作指导文件,形成智能体标准框架,系统布局关键技术、重要产品、数据交换、应用场景、质量评测、安全保障、可信认证等标准体系,加快制定智能体与软件工具、应用服务、硬件外设接口等基础标准。加强智能体互联协议(AIP)等智能体互联关键国家标准、行业标准的推广应用。支持医疗、交通、媒体、公共安全等领域制定强制性标准。
在布局发展智能互联网方面,《实施意见》提出研究建立智能互联网体系架构,探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务,支持开发者、部署方式、接口协议、合规认证等信息查询和管理。提升多智能体协同能力,研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。这意味着,随着智能体产品及服务渐趋丰富,未来或出现智能体的“App Store”。
随着人工智能技术不断向执行端延伸,如今仅需一句指令,智能体就能帮用户完成点餐、叫车、订票甚至支付。其背后的技术原理,通常依赖于调用应用程序编程接口(API)或视觉识别功能来模拟用户操作两种技术路径,二者在实施过程中涉及的一系列授权和合规问题,频频引发争议。
《实施意见》释放了明确决策权限的信号。在遵守法律法规、尊重社会公德和伦理规范前提下,厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。
针对开放权限后,智能体可能出现曲解指令、执行失误,违背用户真实意愿等问题,《实施意见》要求发展规则内嵌、行为围栏等技术,确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制,防范智能体不当行为引发重大风险。
为进一步完善治理体系,还要构建分类分级治理框架。对于敏感领域及重点行业,由网信部门联合行业主管部门确定开放场景,根据相关法律法规、监管要求和安全防护标准,实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域,完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。
在健全合规服务体系方面,《实施意见》则强调强化智能体风险监测预警、检测评估、咨询、认证等专业服务供给,引导行业积极研发智能体监测工具。开展智能体功能、性能、质量、合规等第三方评测服务,推动认证与检测结果互通互认,为用户选择智能体提供参考。
采写:南都N视频记者 樊文扬
- ·OPPO就母亲节文案事件发布问责通告,高级副总裁职级直降两级
- ·福建一公司负债倒闭,5只“猫咪员工”将被法拍还债,打包起拍价1万元,知情人:猫咪血统比较纯正,正常售卖总价达四五万元
- ·综治联动解纠纷 司法护耕保民生
- ·广州:2025年GDP突破3.2万亿元 常住人口超1910万
- ·神舟二十三号载人飞行任务标识发布
- ·曝华为在测全新电池材料+电芯体系,落地容量可能远超10000mAh
- ·河南首个虚拟电厂AI核心平台“大鲨鱼2.0”正式上线
- ·12岁男孩确诊癌症晚期!研究证实:这5种添加剂正在升高癌症风险…
- ·老白干酒在衡水成立电商新公司
- ·北京海淀区2026年第一批公租房启动配租 共计958套房源
- ·今天起,穿衣调整一下
- ·广州:2025年GDP突破3.2万亿元 常住人口超1910万
- ·新华社聚焦!金平迎来蝴蝶漫山飞舞生态奇观
- ·就非法占用耕地问题 “两高”联合发布司法解释
- ·千问与淘宝打通 用AI也能“逛淘宝”了
- ·今天起,穿衣调整一下
- ·四川外国语大学新增三个本科专业 首次开设工学类专业
- ·“护眼神器”叶黄素,真的能治近视、解疲劳?
- ·网上找虚拟伴侣,可选性感黑丝、袒胸露乳、强制爱、小三,还能定制涉黄擦边人设?
- ·花有万种开法,融创万种玩法:2026五一档融创商业客流超400万,打造文旅美好生活情绪场
- ·粤BA常规赛第七轮:深圳、中山连胜终止,梅州成“七输公”
- ·专家在身边丨胃肠镜都查不到!以为是肺癌转移,却揪出另一种罕见癌
- ·兰州市市场监管局召开重大活动食品安全保障现场会
- ·科技育苗为杨凌田西村红薯产业带来飞跃式发展
- ·00后“临时妈妈”上线!农行小姐姐暖心带娃瞬间刷屏
- ·案例合集,光峰S Pro项目精选,光影绘就高亮“视”界
