人形机器人安全过滤器漏洞被证实可被正常用户利用

该论文指出人形机器人在部署于家庭、医院等环境时，其内置的安全过滤器（safety filters）仅在参数配置正确时能提供防碰撞的数学保证，但现有方法无法跨任务和环境通用地确定这些参数，导致部署后可能在特定场景下失效。作者开发了一个名为 SIREN 的自动化工具，用于识别针对给定任务和环境的易受攻击的插入目标，证明攻击者无需额外权限或能力，仅通过正常用户交互即可利用这些漏洞。 实验结果显示，SIREN 在 SPARK 数据集中所有脆弱场景下均成功识别出攻击，相比基线方法发现的攻击数量多出三倍。更关键的是，该工具能生成针对真实人形机器人的攻击指令，使其在执行任务过程中发生碰撞。这一发现表明，当前广泛采用的安全机制本身可能成为新的安全风险来源，而非绝对保障。 事实层面，论文证实了安全过滤器参数配置的局限性及 SIREN 工具的验证结果；推断层面，这意味着未来的人形机器人产品若未解决参数自适应问题，将面临更高的物理安全风险；猜测层面，行业可能需要重新评估“安全即默认”的假设，转向动态或上下文感知的安全策略，但这尚未在文中得到证实。