跳到正文
原文
Anthropic News·· 1 天前AI 评分52

Anthropic 披露 2026 美国中期选举前 Claude 使用数据与对抗测试发现

Preparing for the 2026 US midterms

AI 摘要

Anthropic 基于 2026 年 9 月 21 日至 27 日约 25 万条美国用户对话样本分析,显示涉及政治或社会议题的对话占比 5.75%,明确关于选举或投票的占 0.51%,而直接询问“该投给谁”的请求仅占约 0.01%。同时,违反选举完整性政策的请求比例低至 0.002%。这一数据分布表明,尽管公众担忧 AI 被用于操纵选举,但实际用户行为更多集中在获取信息和辅助研究,而非寻求直接的投票指令。

在防御层面,公司联合 ISD 和 McCain Institute 进行的压力测试揭示了新的威胁模式:虽然单步有害请求能被可靠拦截,但当恶意活动被拆解为多个看似无害的步骤(如分阶段构建虚假社交媒体账号)时,现有自动分类器可能失效。为此,Anthropic 已部署新分类器以识别此类多步骤滥用,并针对美国、以色列和巴西等国的本地化风险加强了检测能力。此外,Claude Opus 5.5、Sonnet 5.5 和 Haiku 5.5 在政治中立性评估中得分达到 99%,但仍存在对右倾立场论证软化不足的问题,正通过改进提示词处理逻辑进行修正。

事实部分确认了当前政治类对话的低频特征及多步攻击的防御盲区;推断部分指出未来选举期间将更依赖多步行为的监测而非单一关键词过滤;猜测部分认为随着选举临近,针对特定州选情的自动化内容生成可能会成为新的博弈焦点。

来源:Anthropic News · anthropic.com