跳到正文
原文
The Decoder· Maximilian Schreiner·· 2 小时前精选AI 评分80

美国银行披露4000人投入修复Anthropic Mythos等模型发现的漏洞

Bank of America puts 4,000 people on fixing vulnerabilities uncovered by Anthropic's Mythos and other AI models

AI 导读

美国银行向媒体披露其已指派4000名人员专门修复由AI模型发现的安全漏洞,其中包含1000名外部承包商和3000名内部员工,这一规模自第二季度起开始运作。CEO Brian Moynihan透露,该行在第三季度为软件修复工作以及反洗钱合规要求合计花费了数亿美元,但未单独列出仅用于修补漏洞的具体金额。

该事件标志着行业风向的转变,此前外界曾质疑Anthropic发布Mythos模型及OpenAI推出Daybreak计划仅是公关手段,但随着Hugging Face被黑等安全事故发生以及独立评估确认新模型能力的增强,相关讨论已从怀疑转向行动。美国银行是首批披露此类具体人力投入的大型美国企业之一,Moynihan预期随着时间推移,修补漏洞的成本将会下降。

事实层面,这是关于特定企业在特定季度的资源分配数据;推断层面,这反映了金融机构对生成式AI作为红队测试工具的信任度显著提升,且愿意为此承担高昂的人力与资金成本;猜测层面,未来其他大型企业的类似披露可能会揭示更精细的单位经济模型,例如外部承包商与内部员工的成本效益比是否优于传统人工审计。

推荐理由

材料披露了银行将外部承包商与内部员工配比及季度支出,直接校正对AI安全漏洞修复成本结构的判断。

来源:The Decoder · the-decoder.com