提出基于奖励优化的分级披露框架控制LLM信息泄露

该研究针对大语言模型在混合敏感上下文（从公开到机密）中运行时面临的泄露风险，提出了一种名为“分级披露”（graduated disclosure）的访问控制新范式。不同于现有方法仅在“完全回答”或“完全拒绝”之间做二元选择，该方法要求模型根据用户的授权级别动态校准回复中的信息详细程度和敏感度，从而在保障安全的同时保留信息的可用性。 作者将分级披露建模为感知披露的生成问题，并设计了一个基于奖励优化的框架。该框架通过奖励机制引导模型输出与授权级别相匹配的抽象层级，同时对未经授权的客观事实泄露（包括改写、近似表达等）施加惩罚。实验在企业和临床基准测试中进行，结果显示该方法在显著降低信息泄露的同时，保持了模型的准确性和任务效用，优于基于提示词、门控机制和监督微调的基线方法。 这一成果表明，有效的披露控制必须深度集成到生成过程本身，而非作为外部过滤层存在。事实层面，该工作定义了新的优化目标并验证了其在特定场景的有效性；推断层面，这暗示未来企业级部署可能需要重构现有的安全对齐流程，从简单的权限阻断转向细粒度的内容生成控制；猜测层面，这种机制若推广至通用模型，可能会改变开发者处理多租户数据隔离时的工程架构，但具体落地成本与性能损耗仍需后续实证。