Hugging Face Bio 发布联合训练 DNA 与文本的开源 14.8B 模型 Carbon-X

Hugging Face Bio 发布了名为 Carbon-X 的 14.8B 参数解码器模型，该模型在单一 token 流中同时处理原始 DNA 序列和文本，采用 6-mer token 化方案，并在 302B tokens 数据上进行了中期预训练。在禁用思维链的情况下，该模型在五个 DNA 基准测试上的平均得分为 66.7%，略低于 GPT-6.1 Sol 的 67.5%。

关键工程细节在于其权重以 bfloat16 格式仅需占用单个 80 GB GPU 即可运行，且采用 Apache 2.0 协议开源。模型明确声明未经过临床验证，并建议精确的序列操作仍应由代码处理，其核心价值在于使敏感数据集的序列分析能够本地化进行。

事实层面确认了模型参数量、基准表现及硬件需求；推断层面表明该架构可能降低生物信息学分析的算力门槛，但具体性能增益是否适用于私有变异数据集尚待社区实测验证；猜测层面关于其在实际临床工作流中的替代能力目前缺乏证据支持。