arXiv cs.CR· Aisvarya Adeseye, Adeyemi Adeseye, Mohammad Tahir, Jouni Isoaho·· 5 小时前AI 评分62
CARE-SD架构让本地3B小模型在安全访谈分析中匹配20B大模型效果
CARE-SD: Explainable Reasoning Architecture for Local SLM Self-Disclosure Analysis in Textual Data
AI 摘要
该论文提出CARE-SD(Context-Adaptive Reasoning and Explanation for Self-Disclosure)架构,旨在解决本地部署的小语言模型(SLM)在处理上下文依赖性强、类别重叠的安全访谈数据时,简单提示词无法保证事实可靠性的问题。研究通过四模块设计整合了上下文自适应处理、分层披露推理、解释一致性验证和跨批次协调机制,在82个独立标注的安全访谈数据集上评估了Llama 1B、Qwen 1.5B和Llama 3B等本地模型的表现。
关键数据显示,引入CARE-SD后,Llama 3B模型的Macro-F1分数从0.80提升至0.88,同时未经验证的主张减少了60%。最显著的发现是,经过优化的3B模型在类别Macro-F1指标上与20B参考模型持平,证明了该架构在不增加模型规模的情况下显著提升了推理能力和证据可靠性。实验对比了传统分类器、三种提示策略以及更大参数量的模型,并包含架构消融实验以验证各模块贡献。
这一结果暗示在需要隐私保护的端侧场景(如企业内部安全审计或敏感数据访谈),无需依赖云端大模型即可实现高可信度的自动化分析。事实层面确认了架构对特定任务的提升效果;推断层面认为该路径可能成为未来端侧Agent处理复杂合规任务的标准范式;猜测层面在于该架构是否具备跨领域迁移能力,目前仅基于安全访谈数据验证。
来源:arXiv cs.CR · arxiv.org