人形机器人安全过滤器在特定场景下失效可被正常用户利用引发碰撞

该论文指出人形机器人在部署于家庭、医院等环境时，其内置的安全过滤器（safety filters）仅在参数配置正确时能提供防碰撞的数学保证，但现有方法无法跨任务和环境通用地确定这些参数，导致部署后可能在特定场景下失效。作者开发了一个名为 SIREN 的自动化工具，用于识别针对给定任务和环境的易受攻击的插入目标，证明攻击者无需额外权限或能力，仅通过正常用户交互即可利用这些漏洞。

实验结果显示，SIREN 在 SPARK 数据集中所有脆弱场景下均成功识别出攻击，相比基线方法发现的攻击数量多出三倍。更关键的是，该工具能生成针对真实人形机器人的攻击指令，使其在执行任务过程中发生碰撞。这一发现表明，当前广泛采用的安全机制本身可能成为新的安全风险来源，而非绝对保障。

事实层面，论文证实了安全过滤器参数配置的局限性及 SIREN 工具的验证结果；推断层面，这意味着未来的人形机器人产品若未解决参数自适应问题，将面临更高的物理安全风险；猜测层面，行业可能需要重新评估“安全即默认”的假设，转向动态或上下文感知的安全策略，但这尚未在文中得到证实。