Hacker News · AI· ColinWright·· 1 天前精选AI 评分78
Meta推出免费全能AI Agent Muse引发安全担忧与网络混乱预测
'Things may get ugly': Meta's new AI Muse is about to make the net more annoying
AI 导读
BBC记者实测Meta新发布的免费AI Agent工具Muse,该工具具备自主浏览网页、取消订阅、谈判价格及预订等无监督任务能力,首周下载量达数百万。尽管Meta宣称其内置了保护机制并经过广泛测试,但文章指出该应用要求用户授予Gmail、日历甚至Mac电脑的全盘控制权,且上线仅20分钟即被安全专家Patrick Wardle发现可被简单攻击 hijack 的严重漏洞,导致用户隐私数据面临极高风险。
文章通过“Swiftie问题”推演了Agent普及后的社会影响:当数百万个Agent同时抢票、占位时,人类将陷入资源争夺战,现有“先到先得”的基础设施可能崩溃。虽然行业正在探索向抽奖制或收费爬虫协议转型,但目前缺乏系统性解决方案。此外,文章质疑Muse默认使用用户数据训练模型的条款,指出即便元数据脱敏,一旦模型被逆向工程仍可能泄露敏感信息,而Meta承诺的数据隔离与广告系统隔离在过往隐私丑闻背景下难以取信于专家。
事实层面,Muse已发布并存在已知漏洞;推断层面,Agent的大规模部署将迫使互联网底层规则重构;猜测层面,若监管滞后,个人数据滥用风险将显著上升。作者最终因恐惧而撤销授权,反映了当前技术激进扩张与信任机制缺失之间的尖锐矛盾。
推荐理由
文章揭示了Muse要求全权限访问的激进策略与刚被披露的严重漏洞,直接挑战对大模型Agent商业化成熟度的判断。
来源:Hacker News · AI · bbc.com