TokenTrap 论文提出利用高成本任务消耗 LLM 诈骗系统的推理资源

该研究提出 TokenTrap，一种针对基于大语言模型的诈骗系统的资源导向型防御机制，旨在将可疑系统重定向至良性但低价值的计算任务，同时阻止其获取凭证、支付等可被利用的信息。该方法不依赖传统的诈骗检测，而是利用诈骗系统在推理步骤、模型调用和协调轮次中产生的推理成本作为攻击面。

实验数据显示，在 50 轮追踪测试中，相对于无 token 任务基线，TokenTrap 在三种工作流（单智能体、分层多智能体、扁平多智能体）中将令牌消耗分别放大了 2,487.0 倍、1,616.0 倍和 567.8 倍。其路由组件在 300 个架构标记的提示词上达到了 85.67% 的准确率。该机制包含三个核心组件：特定架构的令牌 - 任务库、用于选择工作流的路由器，以及执行令牌、轮次、时间和安全限制的有界反护栏策略。

事实层面，该论文展示了短小且非敏感的请求确实能对诈骗系统施加巨大的上下文处理和协调成本。推断层面，这种资源消耗策略可能成为现有检测手段的有效补充，特别是针对那些能够自适应对话和多智能体协调的复杂诈骗系统。猜测层面，虽然论文未明确提及，但这种高成本消耗策略在实际大规模部署时，可能会面临被诈骗方识别并调整策略的风险，或者需要持续更新任务库以维持有效性。