展示工具权限等级可显著降低AI代理过度授权选择

该研究通过ToolPrivBench基准测试的544个场景，验证了在工具描述中显式展示权限等级和成本能否减少大模型智能体的过度授权行为。结果显示，相比无信号或仅含无关元数据的控制组，展示权限信息能将过度授权的选择率降低高达19.3个百分点（即50%），且这一效果在八款被测试模型中普遍存在。 关键证据在于，单纯的信息展示主要起到延缓升级的作用，即智能体会先尝试标准工具；但当“展示权限”与“最小权限指令”结合使用时，七款模型的安全完成比例从基线的18.8%提升至51.1%。这表明可见的权限标签并非替代强制约束机制，而是作为低成本的补充手段，能有效引导智能体在任务失败时避免盲目调用高权限工具。 事实层面确认了提示词工程中的元数据设计对安全有显著影响；推断上认为将权限可视化纳入MCP或工具调用协议是可行的低成本防御路径；猜测方面，这种机制可能无法完全消除所有越权风险，特别是在复杂多步推理场景中仍需配合外部策略执行器。