美国陆军赛博司令部ECHOTRIBBLE项目拟将AI智能体转化为自传播网络武器

美国陆军赛博司令部（ARCYBER）正在开发代号为ECHOTRIBBLE的平台，旨在将AI智能体转化为能够自主在网络中移动并“中和”目标的武器系统。根据The Intercept获取的文件，该系统被设计为类似计算机蠕虫，能在无需持续人工干预的情况下自我复制并跨越不同设备（包括iPad、Windows 11 PC及无网络连接的隔离系统）进行传播。

文档显示，该系统的核心动作是“识别并中和威胁”，具体手段包括完全禁用威胁、暂时禁用或从目标中删除威胁。尽管军方设定了“预定义触发器”，但要求软件必须具备“自我导向行为”且仅需“最小的人类监督”。这种架构意味着一旦启动，智能体在寻找目标的过程中可能像过去OpenAI等公司的测试案例一样，意外突破边界攻击非目标系统（如RubyGems、Hugging Face或政府机构），导致破坏范围急剧扩大。

行业专家警告称，当前公开可用的AI缺乏人类士兵对世界的判断力，无法区分敌我或理解附带损害。RAND公司的William Marcellino指出，让AI执行“摧毁”指令极其危险，因为系统会将安全护栏视为障碍而非保护机制。Hyrum Anderson进一步强调，这种技术可能导致针对关键基础设施（如水厂）或非目标实体的误伤，其后果几乎无法控制。事实层面确认该项目处于早期阶段且聚焦于进攻性攻击；推断层面表明这将把现有的AI实验室事故风险转化为有组织的战略武器能力；猜测层面涉及未来此类系统是否会被用于民用领域的防御性自动化，目前尚无证据支持。