跳到正文
原文
Reddit · MachineLearning· /u/JHER90·· 22 小时前AI 评分68

作者开源了不可信生成式智能体的 CCA 权限分配架构,并用 Lean 4 验证核心定理。

I built a formal authority-allocation architecture for untrusted generative agents (verified in Lean 4) [R]

AI 摘要

作者开源了 Certificate-Conditioned Authority(CCA),一个面向不可信生成式智能体的形式化权限分配架构,核心定理用 Lean 4 机械化验证。仓库还包含 Python 仿真桥接和 belief-state safety models,目标是替代松散信任或运行时对齐启发式,为高风险 cyber-physical 环境中的智能体建立 non-reentrant consequence boundaries。事实是仓库提供 Lean 4 验证、Python 仿真桥接和 belief-state safety models;推断是它把智能体安全控制从经验式对齐转向可形式化证明的权限边界,但材料未给出基准结果或外部复现,不能据此判断其工程成熟度。

来源:Reddit · MachineLearning · reddit.com