面向微生物基因组学的分类学知识引导的稀疏DNA基础模型

内容形式：摘要译文

微生物是陆地生态系统不可或缺的组成部分，其基因组物质支撑着农业、生物技术和人类健康领域的关键功能与应用。尽管基因组语言模型已推动了DNA序列表征学习的发展，但微生物的广泛多样性以及预训练语料中不均衡的分类群代表性，仍对有效的微生物基因组序列建模构成挑战。在此，我们提出MicroGlot，这是一种融入分类学知识的微生物DNA基础模型，在覆盖99,700个物种、包含3,783亿个核苷酸的370万条序列上进行了预训练。MicroGlot通过双曲嵌入编码分类群之间的层级关系，将微生物分类学知识融入稀疏混合专家架构。对MicroGlot各层嵌入的零样本评估表明，该模型的表征编码了表型性状和分类学身份。与采用相同预训练方案训练、但移除了分类学信息的变体相比，融入分类学知识能够持续提升MicroGlot各层的表征质量。MicroGlot还将优化的训练技术与现代大语言模型中的高效架构组件相结合，以较低的计算开销，在各层实现了领先的零样本性能和具有竞争力的微调性能。在从主要细胞生物域和病毒域中抽样构建的1,000个物种集合中，MicroGlot的路由指纹与分类群的一致性高于四核苷酸组成与分类群的一致性，表明在微生物基因组的多语言建模中，专家路由呈现出分类学结构。总体而言，我们证明了MicroGlot是一种高效且有效的DNA基础模型

用于微生物基因组分析。

关键词：微生物基因组学 · DNA基础模型 · 分类学知识融合 · 稀疏混合专家 · 双曲嵌入 · 序列表征学习

原文链接：https://www.biorxiv.org/content/10.64898/2026.09.22.753215v1?rss=1