跳到正文
原文
arXiv cs.CR· Kofi Ampomah, Tu Le·· 7 小时前AI 评分75

针对Discord第三方社区机器人的用户安全隐私担忧实证研究与BotLens审计框架

Measuring Users' Security and Privacy Concerns About Third-Party Community Bots on Discord

AI 摘要

该论文分析了2021至2026年间23,102个第三方Discord机器人及183,142条用户评论,发现仅4.82%的评论涉及安全与隐私(S&P)问题,但特定类别如忏悔和匿名机器人中该比例超过50%。研究指出,传统的评分机制可能掩盖S&P讨论的频率与倾向,而权限数量和管理员状态等元数据特征与用户报告的S&P担忧关联微弱。

在方法论上,团队利用LLM知识蒸馏并微调DeBERTa分类器筛选出8,832条相关评论,构建了包含31个主题的S&P分类法。数据显示,数据共享(30.5%)和数据收集(16.2%)是用户最关注的两大主题。基于此,作者开发了BotLens概念验证审计框架,通过Model Context Protocol服务器暴露六个工具,支持机器人级检查、服务器间对比以及与AI智能体的集成。

事实层面,该研究证实了现有元数据指标在预测用户隐私风险上的失效,并建立了基于自然语言反馈的风险信号提取流程。推断层面,这意味着当前依赖静态权限列表或星级评价的Agent部署决策存在盲区,需引入动态的用户情感分析作为补充。猜测层面,若BotLens成为行业标准,可能会推动平台方重新设计机器人安装时的透明度协议,但这取决于生态系统的采纳意愿而非技术本身的必然性。

来源:arXiv cs.CR · arxiv.org