TechCrunch · AI· Tim Fernholz·· 5 小时前AI 评分68
Safeworld 获 1200 万美元种子轮融资以解决生成式 AI 机器人的不可预测安全问题
Can Safeworld convince people that GenAI robots won’t hurt them?
AI 摘要
Safeworld 从隐身状态中正式推出,完成由 Shine Capital 和 a16z Speedrun 领投的超过 1200 万美元种子轮融资,旨在为搭载生成式 AI 模型的机器人提供基于概率评估的安全验证服务。创始人丁照博士指出,传统算法的可预测性在生成式 AI 架构中失效,因此需要结合高级的概率评估与建立信任机制才能部署机器人。
该平台的核心逻辑是在 Genesis 或 MuJoCo 等仿真环境中构建数字孪生场景,插入待测机器人及其真实软件,运行数千个包含逼真人类模型的对抗场景。这种实证方法是为了解决非结构化环境中的边缘案例,例如工厂盲角处的碰撞风险、人类跌倒或携带重物时的检测问题。Gritt Robotics CTO Vishal Dugar 证实,由于人类行为(如跪姿、奔跑、跌倒)和外观(衣着、体型、肤色)的高度不可预测性,通过数学公式进行形式化验证几乎不可能,必须依赖此类大规模实证模拟。
事实层面,Safeworld 目前处于早期阶段,尚未确定最终产品形态是平台还是服务模式;推断层面,其商业模式依赖于规模化部署后的合规刚需,正如创始人所言“我们可能是该领域第一家盈利的公司”;猜测层面,关于其能否成为行业标准制定者尚需观察,但当前行业共识已转向承认第三方验证的必要性,因为内部工具无法替代跨竞争者的安全案例共享需求。
来源:TechCrunch · AI · techcrunch.com