Cloudflare 优化一致性哈希节省 100 TB 内存

Cloudflare 通过优化 pingora-ketama 中一致性哈希的 Rust 实现，将内部负载均衡服务的内存占用减少了超 100 TB。团队利用概率论分析将每个后端服务器的哈希数量减少约 90%，并压缩数据结构使 Point 结构体从 8 字节降至 6 字节。新方案采用并行运行策略避免缓存失效引发的回源流量尖峰。