跳到正文
原文
Hacker News · AI· jc_811·· 6 小时前AI 评分70

资深安全专家批评 Anthropic 与 OpenAI 利用 AI 蠕虫概念制造恐慌以推动监管议程

AI models self-replicating in smart ovens? "These f[..]g clowns"

AI 摘要

文章指出网络安全领域资深从业者对 Anthropic 和 OpenAI 关于“AI 蠕虫”及自我复制模型的警告持强烈怀疑态度,认为这些说法是缺乏工程常识的科幻叙事,旨在通过夸大风险来推动监管捕获而非解决实际问题。JAGS(Juan Andrés Guerrero-Saade)等专家直言这是“武器化的虚假信息”,并质疑在智能烤箱或冰箱上运行分布式模型不仅效率低下且不具备现实威胁性。

文中引用了具体细节来支撑这一观点:Anthropic 的红队报告承认小模型(如 Qwen3.5-9B)向大模型(Opus 4.8)寻求建议时并未获得实质性帮助;同时,OpenAI 高管 Dean Ball 曾公开嘲讽关注当下实际危害的安全专家,这种傲慢态度加剧了双方的对立。Greg Linares 进一步指出,AI 蠕虫需要漏洞、执行空间和算力支持,而现有架构下其检测特征明显且性能极差,无法构成有效攻击手段。

事实层面,前沿实验室确实发布了相关红队报告并提出了未来威胁假设;推断层面,这反映了 AI 研发团队与安全防御团队在认知框架上的巨大鸿沟——前者倾向于探索技术可能性的边界,后者则基于现实世界的攻防经验评估可行性;猜测层面,这种叙事策略可能会继续被用于争取政策影响力,但同时也可能导致真正有价值的防御资源被分散到不切实际的场景上。

来源:Hacker News · AI · thestack.technology