跳到正文
原文
Hacker News · AI· hn_acker·· 5 小时前精选AI 评分78

EFF 获取新文件揭露美国医保 AI 审批项目 WISeR 的仓促部署与合规问题

New Records Obtained by EFF Expose More Problems with Medicare's AI Experiment

AI 导读

电子前哨基金会(EFF)通过诉讼获得超过 800 页关于美国医疗保险 AI 驱动预先授权计划 WISeR 的新记录,显示该项目在启动后六个月内即出现延误、拒付和患者伤害等问题。这些文件包含 CMS 向四家供应商发出的整改请求及供应商回应,证实了该项目的快速部署导致了广泛的技术失败和沟通中断。

具体证据显示,CMS 曾就 Virtix 和 Zyter 等供应商的响应延迟和不准确拒付发出质询,而 Innovaccer 则因未能实施功能完整的门户系统收到不合规通知。尽管供应商声称已采取“人机回环”(HITL)等安全措施,但 EFF 指出,现有数据无法证明人类审查员拥有足够的权威或时间来有效推翻 AI 的建议,甚至有案例显示临床审查员平均仅花费 1.2 秒处理案件。

事实层面,WISeR 项目在极短的时间线内上线,导致多家供应商面临技术和工作流稳定性的挑战;推断层面,这种仓促部署使得缺乏充分测试和制衡的自动化决策系统直接影响了患者的医疗权益;猜测层面,由于部分关于供应商保障措施的文档被涂黑,公众目前仍难以评估其是否真正防止了不当拒付。

推荐理由

原始记录揭示 WISeR 项目因时间压缩导致大规模运营故障,且“人工审核”机制存在被算法建议诱导的风险。

来源:Hacker News · AI · eff.org