Circuit Breaker Labs 如何打造 AI 安全测试以保护儿童

Circuit Breaker Labs 推出模拟各类用户行为的 AI 智能体，用于对大模型进行红队测试以检测心理危害交互。该实验室每日运行数万至数十万次模拟对话，通过专有评分方法生成可审计的安全分数，目前正为 AI 教练、日记及心理健康支持等高风险应用提供测试服务。