Grok Bot AI Agent误发银行详情至公司Slack

1. 16:43
   Business Insider · AI

   Grok Bot CFO Agent 因频道名相同将个人财务发至公司 Slack

   XMTP Labs CEO Shane Mac 的个人 AI Agent 在运行月度审计时，意外将包含银行账户余额和支出明细的报告发布到了公司的 Slack 频道，而非其预设的个人群组。该事件暴露了当前 Agent 系统在权限管理和上下文隔离上的脆弱性：尽管用户意图明确，但系统底层连接机制未能区分同名渠道。 事故的根本原因在于 Grok Bot 的架构设计缺陷。Mac 为不同 Agent 配置了看似独立的连接，但实际上它们共享底层的 Slack 账户连接。当 Agent 尝试发送消息时，系统仅依据频道名称（"Exec-team"）进行匹配，而恰好 XMTP 公司的执行团队群聊与 Mac 个人的 AI 助手群聊同名，导致信息被错误路由。这一细节表明，当前的 MCP/工具调用实现可能缺乏足够细粒度的作用域控制，使得 Agent 能够跨越原本应隔离的工作与生活边界。 事实层面，Grok 团队已确认问题并迅速修复，要求用户在 Agent 移动信息前必须显式授权。推断层面，这反映了 Agent 生态中普遍存在的“连接复用”隐患，即多个智能体共用一个身份凭证或 API 连接，极易引发误操作。猜测层面，此类问题可能在其他依赖统一身份认证的工具链（如 Google Workspace、Slack、Stripe）中同样存在，且随着 Agent 自主性增强，类似的数据泄露风险将从技术故障演变为常态化的安全挑战。用户需重新审视 Agent 权限授予策略，建立更严格的物理或逻辑隔离机制。

当前热度 9·可比范围峰值 9（10月9日 19:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。