Orca Security 如何用 Amazon Bedrock 构建 Discovery AI 实现自然语言安全查询

Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了 Discovery AI，这是一个将自然语言安全查询转换为 Sonar 结构化过滤器的智能体系统，成功解决了云基础设施数据查询门槛高、成本高和延迟大的问题。

该方案的核心在于采用多阶段混合架构替代了早期将全量 Schema 加载进单一 Prompt 的简单做法。Pipeline 包含请求上下文设置、快速确定性匹配器、LLM Guardrail 筛查、基于嵌入的语义候选召回、神经相关性重排序、LLM 驱动的相关模型选择、工具增强型智能体过滤器生成以及静态和 API 后端验证等步骤。这种设计允许团队根据每个阶段的特定需求分配不同的基础模型：Anthropic Claude Haiku 4.5 负责需要强推理能力的模型选择和过滤器生成，Amazon Nova 2 Lite 处理对速度和成本敏感的 Guardrail 和验证环节，而 Amazon Titan 则用于语义搜索的 Embedding 生成。此外，系统引入了 Cohere Rerank 3.5 进行重排序，确保生成器接收到的示例既多样又高度相关。

这一工程化改造带来了显著的性能提升。相比初始基线，新方案的输入 Token 消耗减少了 93%（从约 200 万降至 14 万），整体查询成本降低了 90%，端到端响应时间缩短了 75%（从 60 秒降至 15 秒）。为了维持长期的准确性，Orca 还建立了一个持续的人类反馈循环系统，利用内部标注工具收集生产环境中的低置信度查询并修正示例库，使得系统能够随着客户环境的演变而自我进化。