Hacker News · AI· nodstuff·· 12 小时前AI 评分68
Portus 0.2.3 发布:基于 Rama 引擎的 Rust API/AI/MCP 网关通过全量 Gateway API 测试
Show HN: Portus, A Rust Based API/AI/MCP Gateway
AI 摘要
Portus 0.2.3 作为一个基于 Rust 构建的统一网关正式发布,支持 Kubernetes 环境下的标准路由以及 AI 和 MCP(Model Context Protocol)服务,并通过了 Gateway API v1.6.2 实验通道的全部 130 项合规性测试且无跳过。该工具在单台 10-vCPU Linux VM 上运行,以 256 个并发连接实现了每秒 12.6 万次请求,p99 延迟为 0.35 毫秒,峰值代理内存占用仅为 131MiB。
核心架构差异在于其默认采用 Rama 网络引擎替代了早期的 Pingora,实测显示 Rama 在吞吐量上提升 3%–31%,内存消耗降低 2–2.6 倍。系统通过控制器将 CRD 编译为单个 Protobuf 消息流式分发至数据平面,确保密钥、预算和 Token 检查等逻辑在本地状态中完成,不阻塞请求路径。此外,它支持 ACME 自动证书续期,允许在无集群环境下作为独立反向代理运行,并能同时处理 HTTPRoute、TCPRoute、UDPRoute 及 BackendTLSPolicy 等十二种策略。
事实层面,该工具已明确集成 MCP 网关功能并支持 LLM 提供商路由;推断层面,这种“单一数据平面”设计可能显著降低多模态网关的运维复杂度与资源成本;猜测层面,其性能优势是否能在大规模生产环境的异构硬件上复现仍需观察。作者未提及具体的商业授权模式或企业级 SLA 承诺,仅提供了开源安装指令。
来源:Hacker News · AI · portus-gateway.dev