大语言模型零样本蛋白质推理的证据扩展

由 root 提交于 周五, 10/02/2026 - 10:47
大型语言模型(LLM)在蛋白质变体预测方面展现出新兴的零样本能力,但其表现仍落后于专门的蛋白质模型。我们探讨了这样一个问题:与调整模型参数相比,能否通过扩大对生物学证据的利用来缩小这一差距。为此,我们提出 BioEvidence——一种无需训练且与模型无关的接口,可将标准生物学工具提供的结构与进化信息转换为供冻结参数的 LLM 使用的紧凑证据。在 ProteinGym 基准测试中,我们观察到证据扩展效应:随着证据信息变得更加丰富,模型性能随之提升。结构证据和进化证据均能改善性能,二者结合则可带来进一步增益;而将同一证据错误地匹配到不相应的变体上,则会使性能下降至无证据基线以下。值得注意的是,在匹配的评估条件下,BioEvidence 能够使零样本排序达到性能强劲的专门蛋白质预测器的水平;并且,这一提升在模型知识截止日期之后发布的截止日期后数据上仍然存在。证据还会与传统的扩展方式产生交互作用:对于 GPT-5.6 Sol,在较低推理投入下使用证据,其性能优于中等推理投入下的无证据条件;此外,对六个模型的分析表明,无证据条件下性能越强的模型,其相对于进化排序融合方法所获得的优势幅度越大。这些结果表明,外部证据可作为科学预测中与模型能力和推理投入并列的互补性扩展维度。

wang.yiquan{at}ufl.edu

摘要

信息/历史

指标

预览 PDF

摘要

大型语言模型(LLM)展现出用于蛋白质变体预测的新兴零样本能力,但其表现仍落后于专门的蛋白质模型。我们探讨了这样一个问题:与调整模型参数相比,扩大模型获取生物学证据的规模能否缩小这一差距。我们提出了 BioEvidence,这是一种无需训练且与模型无关的接口,可将标准生物学工具提供的结构和进化信息转换为供冻结参数的 LLM 使用的紧凑证据。在 ProteinGym 基准测试中,我们观察到证据扩展效应:随着证据变得更加丰富,模型性能随之提升。结构证据和进化证据均能改善性能,二者结合还能带来进一步提升;而将相同证据错误地匹配到不相应的变体上,则会使性能下降至低于无证据基线的水平。值得注意的是,在匹配的评估中,BioEvidence 能够使零样本排序达到强大的专用蛋白质预测器的水平;在模型知识截止日期之后发布的后截止数据上,这种提升仍然存在。证据还会与传统的规模扩展发生交互:对于 GPT-5.6 Sol,在较低推理力度下使用证据的表现优于中等推理力度下不使用证据的条件;而对六个模型的分析表明,无证据条件下更强的性能与相较于进化排序融合更大的性能优势相关。这些结果表明,外部证据是科学预测中一种与模型能力和推理力度并行的互补扩展维度。

利益冲突声明

已声明的资助方信息

佛罗里达大学,

https://ror.org/02y3ad647

版权

本预印本的。

该预印本依据 CC-BY-NC-ND 4.0 国际许可协议公开。

返回顶部

上一篇

下一篇

发布于 2026 年 10 月 1 日。

下载 PDF

电子邮件

感谢您有兴趣传播 bioRxiv 的相关信息。

您的电子邮件地址

*

您的姓名

*

发送至

*

请在不同的行中输入多个地址,或使用逗号分隔。

您即将发送以下内容

使用大型语言模型进行零样本蛋白质推理的证据扩展

消息主题

(您的姓名)已从 bioRxiv 向您转发了一个页面

消息正文

(您的姓名)认为您可能会对 bioRxiv 网站上的这一页面感兴趣。

您的个人留言

验证码

此问题用于确认您不是自动程序访问者,并防止自动垃圾信息提交。

分享

使用大型语言模型进行零样本蛋白质推理的证据扩展

Zitong

Hao

,

Chaoyang

Wang

,

Dongyuan

Li

,

Yiquan

Wang

bioRxiv

2026.09.27.754822;

doi:

https://doi.org/10.64898/2026.09.27.754822

分享本文:

复制

引用工具

使用大型语言模型进行零样本蛋白质推理的证据扩展

Zitong

Hao

,

Chaoyang

Wang

,

Dongyuan

Li

,

Yiquan

Wang

bioRxiv

2026.09.27.754822;

doi:

https://doi.org/10.64898/2026.09.27.754822


📄 原文链接:https://www.biorxiv.org/content/10.64898/2026.09.27.754822v1?rss=1

🏷️ 大语言模型 蛋白质变体预测 零样本学习 结构证据 进化信息 证据扩展