FlyHash用于LLM Agent记忆检索的实证验证与新应用

该论文首次将果蝇嗅觉电路启发的FlyHash机制应用于大语言模型智能体的外部记忆检索，通过严格实验验证其在保留邻居结构方面的质量优势，同时揭示了工程落地的现实约束。研究发现，在匹配比特的正确协议下，FlyHash在跨模态数据集上确实比传统随机超平面哈希（SimHash）更稳健地保持邻居结构，且这种优势在非循环的真实相关性标签下依然成立。 然而，关键发现在于这种质量优势并未转化为实际的内存或延迟收益。在同等比特数下，FlyHash生成的代码比SimHash更大且比较更慢，而当前从业者默认的稠密向量索引（HNSW）在常规规模下对两种哈希方法均占据主导地位。作者引入的稀疏集比较虽能追回部分延迟差距，但并未完全消除，使得哈希方法在实际应用中的生存空间比单纯的质量结果所暗示的要狭窄和具体得多。 本文不仅提供了实现代码、工作演示及方法论陷阱的详细记录，还明确区分了理论性能与实际部署的差异：FlyHash在特定高保真需求场景可能有效，但在追求通用低延迟和高吞吐的Agent记忆系统中，HNSW仍是更优解。这一结论修正了以往仅关注哈希质量指标而忽视系统开销的行业倾向，为后续研究指明了从“纯算法优化”转向“系统级权衡”的方向。