分子结构数据十分丰富，而实验生物活性数据较为稀疏，并且分散在不同测定中。我们提出了 GRASP，这是一种拥有 9,350 万参数的图 Transformer，能够依次从这些数据源中学习。GRASP 首先基于 15.4 亿个 ZINC20 分子表示实例，通过替换标记检测任务学习分子结构；随后利用 642 个 ChEMBL 测定中的稀疏生物活性数据进行适应。在 23 个按簇留出的 OpenADMET 终点上，GRASP 的平均 MAE 达到 0.374，而 CheMeleon、ECFP4-LightGBM 和 Chemprop 分别为 0.383、0.408 和 0.440。经过 ChEMBL 适应后，平均 MAE 从 0.407 降至 0.374，并在 23 个终点中的 21 个上取得改进，表明中间阶段的生物活性监督具有重要价值。在 22 个 TDC ADMET 任务上，GRASP 在其中 13 个任务上取得了优于 CheMeleon 的点估计结果。这些结果支持分阶段的分子表征学习方法，即在训练的不同阶段，丰富的分子结构数据与稀疏的实验测量数据能够提供互补的监督信号。
Antonia.Mey{at}ed.ac.uk
摘要
全文
信息/历史
指标
PDF 预览
摘要
分子结构数据十分丰富，而实验生物活性数据则较为稀疏，且分散在不同测定中。我们提出了 GRASP，这是一种具有 9350 万个参数的图 Transformer，依次从这两类数据源中学习。GRASP 首先通过替换词元检测，在 ZINC20 分子的 15.4 亿次呈现上学习分子结构，随后利用 642 项 ChEMBL 测定中的稀疏生物活性数据进行适配。在按簇留出的 23 个 OpenADMET 终点上，GRASP 的平均 MAE 为 0.374，而 CheMeleon、ECFP4-LightGBM 和 Chemprop 分别为 0.383、0.408 和 0.440。ChEMBL 适配将平均 MAE 从 0.407 降至 0.374，并改善了 23 个终点中的 21 个，表明中间阶段生物活性监督具有重要价值。在 22 项 TDC ADMET 任务中，GRASP 在 13 项任务上的点估计优于 CheMeleon。这些结果支持分阶段分子表征学习，即丰富的分子结构数据与稀疏的实验测量数据在不同训练阶段提供互补的监督。
引言
学习有用的分子表征具有挑战性，因为有关分子结构的数据远多于有关实验测量性质的数据 [1, 2]。ZINC 等数据库包含数量庞大的分子结构 [3]，但其中只有一小部分分子具有可用的实验性质数据。获取此类数据成本高昂，因为每次测量都需要开展实验室实验，因此数据仍然稀疏。此外，这些数据分散在众多不同的测定中，每项测定涵盖不同的分子集合，彼此之间的重叠很少 [4]。大多数分子预训练流程利用前一种资源进行自监督学习，随后直接转向终点特异性的
微调。这使得一种宝贵的监督来源未得到充分利用：ChEMBL 等大型生物活性数据库，其不完整的测定矩阵仍将分子结构与实验观测到的化学行为联系起来 [5, 6]。
我们提出了用于分子性质预测的测定监督图表示学习模型（Graph Representation Learning with Assay Supervision for Molecular Properties，GRASP）。这是一个具有 9350 万参数的图 Transformer，依次从上述来源中学习。第一阶段通过替换词元检测（replaced-token detection，RTD）学习分子结构：一个紧凑的生成器根据上下文提出原子词元替换方案，判别器则预测哪些原子被替换 [7]。每个原子均以半径为 0 的 Morgan 词元表示，而基于最短路径的相对注意力则提供分子拓扑信息 [8–10]。结构训练使用来自 ZINC20 的 15.4 亿次分子呈现。第二阶段利用约 512,000 个分子和 642 项观测稀疏的 ChEMBL 测定对编码器进行适配。随后，可通过全量微调、LoRA 或冻结层混合，将所得模型适配于特定分子性质的预测 [11]。
在采用簇留出划分的 23 个 OpenADMET 终点上 [12–14]，全量微调取得的平均 MAE 为 0.374，而 CheMeleon、经过调优的 ECFP4-LightGBM 和 Chemprop D-MPNN 分别为 0.383、0.408 和 0.440。在 23 个终点中，GRASP 的终点 MAE 在 12 个终点上低于 CheMeleon，在 16 个终点上低于 ECFP4-LightGBM，在 22 个终点上低于 Chemprop。在冻结编码器的情况下，采用相同的数据划分和回归方案，GRASP 也在 23 个终点中的 18 个上优于 Mol-JEPA。
在条件匹配的阶段比较中，ChEMBL 适配将平均 MAE 从 0.407 降至 0.374，并改善了 21 个终点的表现；在 GRASP-Small 中，RTD 在 16 个终点上优于所实现的掩码词元目标。我们还在包含 22 项任务的 TDC ADMET 基准上评估了该模型，
该方法同时涵盖分类和回归任务 [15]。总体而言，结果表明，先大规模学习分子结构，再利用稀疏的实验数据进行适配，能够提升下游性质预测的性能。
相关工作
对照研究表明，分子预训练的收益取决于特征、架构、数据划分和下游优化 [16]；规模化研究则报告了扩大监督数据规模并提高其多样性所带来的益处 [17, 18]。因此，分子表征学习探索了多种信号，包括自监督图目标（GROVER）[19]、对比学习（MolCLR）[20]、分子字符串（ChemBERTa、MoLFormer）[21, 22]、几何信息（Uni-Mol/Uni-Mol2）[23, 24]、描述符（CheMeleon）[25] 以及生物活性监督（MolE）[26]。相比之下，GRASP 将最短路径相对注意力 [9, 10] 与 ELECTRA 风格的替换词元检测及梯度解耦的嵌入共享机制相结合 [7, 27]；基于替换的图目标也已在 DiscoGNN 中得到研究 [28]。我们不将性能归因于单个架构组件，而是检验两个受控问题：RTD 是否优于掩码词元预训练，以及稀疏的多测定生物活性适配会如何改变由此得到的表征。
GRASP 概述
分子表征与编码器
我们使用 RDKit 半径为 0 的 Morgan 哈希对每个分子进行词元化，从而为每个原子生成一个词元。词汇表包含 211 个词元，包括 PAD、MASK、UNK 和 CLS [8, 29]。输入中还包含相对距离索引 \(r(i,j)\)，该索引由最短路径键距离得出。对于相连的原子对，\(r(i,j)=\delta(i,j)+1\)，其中 \(\delta(i,j)\) 表示它们之间的最短路径键距离。对于涉及 CLS 或填充词元的原子对，我们令 \(r(i,j)=0\)。
以及对于不连通分量中的原子对。判别器是一个 12 层图 Transformer，隐藏层维度为 768，包含 12 个注意力头，前馈层维度为 3,072，编码器参数量为 93,484,800 个 [30]。该模型采用内容到位置（content-to-position）的相对注意力，并结合基于 RDKit 原子排序学习得到的绝对位置嵌入，同时注意力分数本身仍基于内容计算。
图替换标记检测
图 1 总结了该目标函数。
下载图像
在新标签页中打开
图 1.
图替换标记检测。
每个重原子被标记化为半径为 0 的 Morgan 哈希，并在位置 0 添加一个 CLS 标记。原子标记以 0.25 的概率独立地被选中并替换为 MASK，随后由一个三层生成器预测每个被选位置处的原始标记。生成器的 argmax 预测结果被写回图中，因此仅当生成标记不同于原始标记时，该位置才会被标记为已替换。12 层判别器接收所得的标记序列以及最短路径图距离矩阵，并在每个有效位置预测相应标记是否被替换。
每个原子标记以 0.25 的概率独立地被选中并替换为 MASK。一个隐藏层维度为 256 的三层生成器预测原始标记，并将其 argmax 预测结果插入图中。对于被选中的位置集合
\(M\)，生成器的交叉熵为
判别器在每个有效位置
\(T\)（包括 CLS）处预测实际输入是否不同于原始输入：
\[
r_i = \mathbb{1}[\tilde{x}_i \ne x_i],
\]
其中
\(r_{\mathrm{CLS}} = 0\)。其损失为
梯度解耦的嵌入共享实现为
\[
W_D = \operatorname{stopgrad}(W_G) + B_D：
\]
生成器提供共享的标记嵌入值，而判别器的梯度仅更新可学习偏置
\(B_D\)。
两阶段
训练
第一步在来自 1,538,240,669 条 ZINC20 记录的 1,538,240,768 个分子表示上应用 RTD，共进行 6,133,753 次优化器更新 [3]。第二步使用 511,898 个 ChEMBL 36 分子和 642 个二分类结合或功能测定，对编码器进行 80,000 次更新的微调 [5, 6]。标签依据活性注释或 pChEMBL 阈值确定（5.5 为活性，4.5 为非活性）；矛盾标签对予以剔除，且每项测定至少须包含 500 个分子。线性 642 维输出头读取最后一层的 CLS 状态，二元交叉熵仅针对已观测标签计算。下游任务使用固定的 50,000 步编码器检查点。
下游适配
对于 OpenADMET，三种适配模式均采用第 4、8、10 和 12 层的 softmax 加权混合、对原子 token（不包括 CLS）进行加性注意力池化，以及一个 512 维隐藏层的 MLP 头。全量微调会更新整个编码器；冻结混合模式保持编码器固定；LoRA [31] 则固定基础权重，并在每个注意力层中加入秩为 16 的查询/值更新（α = 32，dropout 为 0.1）。第二项 TDC 评估采用独立的任务特定方案，基于最后一层 CLS 表示，详见附录 ??。
结果
GRASP 提升了多种 ADMET 终点的分子性质预测性能
任务
我们在 OpenADMET 上评估分子性质预测。该基准涵盖多个终点，包括清除率、溶解度、渗透性、血浆和组织结合、外排、PXR 活性以及抗病毒 Mpro 效力（pIC50 或 pEC50）。给定一个分子图，模型分别预测各终点的连续数值。性能采用平均绝对误差（MAE）衡量，数值越低表示预测性能越好。
数据集与评估
OpenADMET 包含 23 个终点，共有 43,881 条带标签的测量数据。
覆盖14,261个独特的SMILES。每个终点均在三个重建的簇留出划分上进行评估，并报告三个划分测试MAE的平均值。数据集规模、目标变量变换及各终点的具体信息见附录表A4。
基线方法
我们将全量微调（FT）与ECFP4-LightGBM、RDKit-LightGBM、ECFP4随机森林、RDKit随机森林、Chemprop和CheMeleon进行比较，所有方法均在相同的数据划分上评估。对于冻结编码器的比较，我们采用各模型架构原生的分子表征：Mol-JEPA发布的CLS嵌入，以及GRASP学习得到的第4、8、10和12层混合表征，随后进行原子注意力池化。两种表征均使用相同的回归MLP、相同的数据划分和相同的下游训练方案进行评估。因此，下游评估设置保持一致，而表征读取方式仍因架构而异。
性能
在23个终点上，GRASP全量微调的平均MAE为0.374 ± 0.003，是所比较方法中最低的（表1）。相较于Chemprop D-MPNN，其MAE降低了14.9%（23个终点中有22个更优）；相较于经过调优的ECFP4-LightGBM，降低了8.2%（23个终点中有16个更优）。相对于表现最强的基线CheMeleon，优势较小：平均MAE降低2.4%，且在23个终点中有12个终点的MAE更低。所有方法的逐终点结果见表A2，配对比较结果见表A3；图2展示了相应的逐终点排名和两个具有代表性的拟合结果。在各种适配策略中，GRASP FT的平均MAE也最低（FT：0.374；LoRA：0.380；冻结混合：0.387）；经校正后，仅有证据表明其与冻结混合之间存在差异（p = 0.037）。在这一统一的下游评估方案下，GRASP的表现也优于Mol-JEPA（0.387 vs. 0.412；23个终点中有18个更优；ΔMAE = −0.025，95% CI】【。
[−0.042, −0.008]）。
下载图
在新标签页中打开
图 2.
OpenADMET-23 性能。
(A)
各方法在 23 个按簇留出端点上的排名，范围为 1（最佳，深色）至 7，端点按来源分组。排名根据表 A2 所报告的三个划分上的端点平均 MAE 计算。
(B, C)
GRASP 在两个端点上进行全量微调后的预测值与实验值对比，汇总了三个划分的结果，展示了该测试集内不同端点的难度范围：
(B)
ASAP 小鼠肝清除率（n = 183），这是所有方法表现均较弱的端点之一；以及
(C)
ExpansionRx LogD（n = 1,655），这是表现最好的端点之一。边缘密度图对比实验值和预测值的分布。虚线表示恒等线，实线表示最小二乘拟合线；由于各划分的测试集大小不等，汇总 MAE 与表 A2 中按划分求平均的 MAE 略有不同。
查看此表：
内嵌查看
弹出查看
下载 PowerPoint
表 1.
OpenADMET-23 汇总。
% impr. 表示 GRASP 全量微调（FT）相较于对照方法的平均 MAE 相对降幅，即 (1 − MAE_FT / MAE_comp) × 100；Wins/23 表示 FT 的 MAE 更低的端点数量（共 23 个）。在冻结编码器部分，比较对象改为 GRASP 冻结混合与 Mol-JEPA。所有比较均使用完全相同的重建按簇留出划分。
RTD 预训练优于 MLM
任务
我们比较了 GRASP 预训练中替换令牌检测（RTD）与掩码语言建模（MLM）的效果。两种模型采用相同的编码器架构、预训练数据、ChEMBL 适配阶段和下游评估，仅预训练目标不同。RTD 检测被替换的半径 0 原子令牌；MLM 则预测被掩码的半径 2 原子环境令牌。
数据集与评估
在完整规模下训练第二个模型
1.538B 次分子呈现规模需要大量计算资源。因此，我们使用较小的 GRASP-Small 配置比较 RTD 与 MLM。两种模型均使用 415M 次 ZINC 分子呈现，并采用相同的 12 层编码器，隐藏维度为 768。编码器约有 89M 个参数。两种模型的选中 token 比率均为 15%。随后，两种模型均使用相同的 ChEMBL 适配阶段，该阶段包含 641 个测定项目和 80,000 次更新。
在下游评估中，我们冻结两个编码器。我们使用相同的三个数据划分，在 23 个 OpenADMET 端点上进行评估。两种模型均采用相同的层混合读出模块和回归头。
表 3 报告了三个划分上的测试 MAE 平均值。
查看此表：
在线查看
弹出查看
下载 PowerPoint
表 2.
OpenADMET 适配方法比较。
平均 MAE 为 23 个端点在三个按簇留出的划分上的均值的平均值；在可用时， 表示各划分宏平均值之间的总体标准差。成对 p 值将每种方法与全量微调进行比较，并对全部三项适配对比进行 Holm 校正。LoRA 与冻结编码器的对比也纳入校正，但未在表中显示。总体 Friedman 检验结果为 χ²(2) = 7.91，p = 0.019。
查看此表：
在线查看
弹出查看
下载 PowerPoint
表 3.
RTD 与 MLM 方案在 OpenADMET-23 上的冻结迁移比较。
RTD-15%-S2 和 MLM-15%-S2 均使用 GRASP-Small，选中 token 比率为 15%。两者均使用半径为 0 的输入 token；MLM 则预测半径为 2 的环境。完成 ChEMBL 适配后，冻结两个编码器，并使用相同的可学习层混合读出模块和回归头进行评估。数值为三个按划分分别拟合的结果的平均 MAE ± 总体标准差。粗体标出未舍入均值较低的一项。Δ = 100(MAE_MLM − MAE_RTD) / MAE_MLM；正值表示……
RTD。
性能
与 GRASP-MLM 相比，RTD 的平均 MAE 更低（0.418 vs. 0.431），在 23 个终点中的 16 个终点上表现更优，详见表 3。配对平均改进幅度为 0.0122 MAE（Holm 校正后的精确 Wilcoxon 检验 p = 0.0969）。GRASP-RTD 在全部五个 LogD 和溶解度终点上均胜出，其中提升幅度最大的是 Biogen 溶解度（+16.5%）、ASAP LogD（+11.6%）和 SARS-CoV-2 效力（+10.3%）。MLM 胜出的七个终点均属于清除率或结合终点，其中表现提升最大的是 ASAP 人肝清除率（−10.8%）和 Biogen 大鼠血浆结合（−9.9%）。
ChEMBL 生物活性适配可提升分子性质预测
任务
我们检验 ChEMBL 生物活性适配阶段的影响。GRASP-S1 是仅通过结构 RTD 训练得到的 Step-1 检查点。GRASP 还在 642 个观测稀疏的 ChEMBL 测定实验上完成了 Step-2 适配。Step 2 同时包括在 ChEMBL 分子上的额外训练，以及基于实测测定值的监督。因此，此项比较衡量的是完整适配阶段的影响，而非仅测定实验监督的影响。
数据集与评估
我们在相同的 23 个 OpenADMET 终点上对两个模型进行完全微调。每个终点均采用相同的三个按簇留出的数据划分进行评估。报告的测试 MAE 为三个划分上的平均值。
性能
ChEMBL 适配使平均 MAE 从 0.4069 降至 0.3742，降低了 8.0%。在 23 个终点中，GRASP 有 21 个终点的 MAE 更低（表 4）。相对提升幅度最大的是 ASAP 溶解度（24.2%）、ExpansionRx 血浆结合（19.5%）、ASAP LogD（16.4%）和 ExpansionRx 脑结合（14.3%）。GRASP-S1 在两个终点上的 MAE 更低：ASAP 小鼠肝清除率（6.7%）和 ExpansionRx 肌肉结合（1.0%）。
查看此表：
行内查看
弹出查看
下载 PowerPoint
表 4。
ChEMBL 生物活性适配的影响。
OpenADMET-23。
GRASP-S1 使用结构预训练；GRASP 则额外采用 ChEMBL 进行适配。两个检查点均在相同的三个按簇留出的划分上进行完全微调。各条目报告各划分单独拟合所得测试 MAE 的均值及总体标准差。均值行的偏差根据三个划分的宏平均 MAE 计算。粗体表示未四舍五入的均值较低者。Δ = 100(MAE_S1 − MAE_GRASP) / MAE_S1；正值表示 GRASP 表现更优。
次级评估：TDC
有关 TDC 的所有必要信息均见附录
GRASP 在各项 TDC ADMET 任务中仍具竞争力
任务
我们在 22 项 TDC ADMET 任务上评估 GRASP，其中包括 13 项分类任务和 9 项回归任务，涵盖吸收、分布、代谢、排泄和毒性。
数据集与评估
我们采用 TDC ADMET 基准组的固定测试集，不额外应用重原子筛选或分子截断。我们使用基准训练集和验证集进行五次独立设种的骨架划分，以选择超参数。超参数选择过程中不使用测试标签。完成超参数选择后，我们在三个独立训练运行中对 GRASP 进行完全微调。
基线
我们与已发布的 CheMeleon D-MPNN 结果进行比较。
性能
GRASP 在 13 项任务上的点估计更优，CheMeleon 在 9 项任务上更优（表 5）。GRASP 优势最大的任务为半衰期（Spearman 相关系数为 0.455，对比 0.325）、VDss（0.665，对比 0.546）和生物利用度（AUROC 为 0.687，对比 0.579）。CheMeleon 最明显的优势体现在 hERG 任务上（AUROC 为 0.867，对比 0.773）。
查看此表：
行内查看
弹出查看
下载 PowerPoint
表 5.
GRASP 在 22 项 TDC ADMET 基准任务上的表现。
GRASP 数值为仅基于验证集进行超参数选择后，三个随机种子运行结果的均值及总体标准差。
RTD 提升了 GRASP 在各项 TDC 任务上的表现
任务与
评估
我们在第 4.15 节的 GRASP-Small 配置下比较 RTD 与 MLM 在 TDC 上的表现（4.15 亿个 ZINC 分子、15% 的选中 token 比例、80,000 次更新的 ChEMBL 阶段）。RTD 检测被替换的半径为 0 的 token，而 MLM 预测被掩蔽的半径为 2 的环境，因此该比较针对的是实际实现的训练方案，而非单一损失函数。支架划分、下游预测头、训练设置和三个随机种子均保持一致。
性能
在 22 项任务中，RTD 有 17 项的点估计更优，MLM 有 5 项更优（精确双侧符号检验，原始 *p* = 0.0169，Holm 校正后 *p* = 0.0338；表 A12）。RTD 的优势包括微粒体清除率（Spearman 相关系数：0.589 vs. 0.467）、hERG（AUROC：0.818 vs. 0.753）和亲脂性（MAE：0.459 vs. 0.505）。MLM 优胜的五项任务包括三项 CYP 底物任务、DILI 和 P-糖蛋白。完整的任务级结果见表 A12。
ChEMBL 生物活性适配提升了模型在 TDC 任务间的迁移能力
任务
我们测试 ChEMBL 生物活性适配阶段对下游迁移的影响。GRASP-S1 仅包含结构 RTD 阶段。GRASP 还包含带有稀疏测定监督的 ChEMBL 适配阶段。该比较衡量的是完整适配阶段的效果，而非仅测定监督的效果。
数据集与评估
我们在相同的 22 项 TDC ADMET 任务上评估两个检查点。两个模型使用相同的固定测试集和下游预测头。我们使用训练集和验证集相同的五个支架划分选择超参数。两个模型在下游训练中使用相同的三个随机种子。
性能
根据表 5 中报告的 GRASP 结果，GRASP 在 22 项任务中有 19 项的点估计优于 GRASP-S1。具有代表性的提升包括 CYP3A4 底物预测（AUROC：从 0.565 ± 0.046 提升至 0.674 ± 0.035）、CYP2D6 抑制（AUPRC：
（Spearman：0.624 ± 0.009 至 0.716 ± 0.017）、肝细胞清除率（Spearman：0.408 ± 0.042 至 0.471 ± 0.018）和微粒体清除率（Spearman：0.556 ± 0.048 至 0.602 ± 0.017）。GRASP 还降低了 Caco-2 渗透性（0.470 ± 0.040 至 0.389 ± 0.009）、溶解度（0.794 ± 0.003 至 0.736 ± 0.009）、亲脂性（0.449 ± 0.011 至 0.406 ± 0.003）和 LD50（0.576 ± 0.002 至 0.486 ± 0.002）的 MAE。GRASP-S1 在半衰期、hERG 和 HIA 上仍保持较优的点估计。总体而言，适配后的 GRASP 检查点在 TDC 的大多数终点上表现较好，分类和回归任务均有所提升。
讨论、结论与局限性
GRASP 表明，分子编码器可以通过大规模结构学习获益，并进一步整合稀疏的实验生物活性数据。在 OpenADMET-23 上，全量微调的平均 MAE 为 0.3742，相比之下，ECFP4-LightGBM 为 0.4075，Chemprop 为 0.4395。各终点的数量对结果解读十分重要：GRASP 在 23 项任务中的 16 项优于 ECFP4-LightGBM（Holm 校正后的符号检验 p = 0.093；对相同终点进行的配对 Wilcoxon 检验结果为 p = 0.006），在 23 项任务中的 22 项优于 Chemprop。因此，该结果并非仅体现为宏平均值更低；在所评估的大多数清除率、溶解度、渗透性、结合、外排和活性终点上，该模型均具有实用价值。GRASP 在 23 项终点中的 9 项上为单项最佳方法（表 A2）；在当前训练集规模下，经调优的指纹和描述符模型在个别终点上仍具竞争力，而我们报告的优势体现为稳定的总体表现。在独立的 TDC 基准测试中，GRASP 在 22 项任务中的 13 项上取得较优的点估计，CheMeleon 的表现与其相当；该评估进一步涵盖了基于骨架划分的分类和回归任务。
冻结编码器实验表明，这种……
性能提升并不局限于更新整个骨干网络。采用相同的终点划分和回归 MLP 时，冻结的 GRASP 平均 MAE 为 0.3869，优于 Mol-JEPA 的 0.4123，并在 23 个终点中的 18 个上取得更好的表现。下游适配可进一步提升性能：全量微调的 MAE 为 0.3742，LoRA 为 0.3800，冻结层混合为 0.3869。LoRA 仅更新 1.04% 的参数，因此当多个终点专用模型需要共享同一个预训练编码器时，它是一个有力的选择。经多重性校正后，全量微调与 LoRA 之间的差异未达到统计显著，而全量微调与冻结层混合之间的差异则达到统计显著。
受控训练比较结果支持该方案的两个阶段。在 GRASP-Small 中，与所实现的 MLM 目标相比，RTD 在 23 个 OpenADMET 终点中的 16 个以及 22 个 TDC 任务中的 17 个上表现更好。加入稀疏的 ChEMBL 生物活性适配后，OpenADMET 平均 MAE 从 0.4069 降至 0.3742；与第 1 阶段检查点相比，23 个终点中有 21 个得到改善。GRASP 在个别终点上的表现并非总是占优，但其总体趋势在主要比较、冻结编码器分析、阶段比较和次要基准测试中均保持一致。因此，GRASP 为分子性质预测提供了一种实用的基础方案：使用一个经大量分子结构和稀疏实验测定数据训练的图编码器，同时支持以准确率为导向的全量微调和参数高效适配。
这种利用有限实验监督进行适配的能力，也有望支持前瞻性分子发现，包括低数据量检测建模、主动学习 [32] 以及实验室闭环工作流。在这些工作流中，编码器会随着新测量数据的获得而持续更新，以便筛选后续待评估化合物。
局限性
若干结论的适用范围有意窄于完整训练方案。首先，GRASP-S1 与 GRASP 的比较评估的是完整的 ChEMBL 适配阶段，并未单独区分测定监督、额外优化或对 ChEMBL 分子分布的接触所产生的影响。其次，结构重叠分析检验了分子接触情况，但不能证明 ChEMBL 与下游终点之间不存在语义相关的测定监督。第三，RTD–MLM 比较在 GRASP-Small 中进行，比较的是实际实施的预训练方案，而非单独考察预训练规模。第四，主要下游实验使用了 Step-2 的 50,000 步检查点，未系统研究下游结果对检查点的敏感性。最后，与已发布的 CheMeleon 分数进行的 TDC 比较仅为描述性比较，因为两种方法并非在同一配对实验流程中训练和筛选。
AI 使用披露
生成式 AI 工具用于辅助论文撰写与编辑。作者已审阅并核实所有经 AI 辅助生成的内容，并对最终成果承担全部责任。
代码与模型可用性
实现代码及模型发布信息见：
https://github.com/caithmac/GRASP
。
补充实验细节
架构与训练细节
本附录说明复现该模型所需的输入表示、架构和训练设置。
RDKit 使用半径 0、useFeatures=False、启用冗余环境且禁用手性。32 位哈希对应 207 种观测到的原子类型，以及 PAD、MASK、UNK 和 CLS（共 211 个条目）；未见过的哈希映射为 UNK。这些哈希无法还原为特征元组。对于相连的原子对，图距离
d
被存储为相对距离索引
d
+ 1；
索引 0 保留用于涉及 CLS 或填充的分子对，以及来自不连通组分的原子对。实现中的 edge_attr 张量存储的是距离索引，而非化学键特征。
ChEMBL 的结合和功能标签根据活性注释或 pChEMBL 值推导：值为 5.5 时标记为活性，值为 4.5 时标记为非活性，中间值则予以剔除。矛盾的分子–测定配对会被移除，且每项测定至少需要包含 500 个分子。
查看此表：
内嵌查看
弹出查看
下载 PowerPoint
表 A1.
编码器与预训练配置。
Step 1 的曝光次数根据训练清单重建。由于中断的作业重启时使用了打乱顺序的数据流，1.538B 表示分子呈现次数，而非唯一分子数。训练包括：以全局批次大小 256 进行 2,500,000 次更新（640M 次呈现）；以全局批次大小 192 进行 500,000 次续训更新（96M 次呈现）；以及用于校正曝光次数的 3,133,753 次后续更新（全局批次大小 256，共 802,240,768 次呈现）。优化器更新总数为 6,133,753 次。最后一阶段续训采用混合精度，在四块 GPU 上进行，每设备批次大小为 32，梯度累积步数为 2。训练使用 AdamW，峰值学习率为 5 × 10⁻⁵、权重衰减为 0.01、预热步数为 10,000、余弦衰减，并将梯度范数裁剪至 1.0。
Step 2 采用四 GPU 分布式训练，每设备批次大小为 32，梯度累积步数为 4，全局批次大小为 512。Adam 的学习率为 5 × 10⁻⁶，权重衰减为 0，先进行 10,000 步线性预热，再进行线性衰减；dropout 为 0.1，梯度范数裁剪至 1.0。训练持续至 80,000 步；在任务聚合之前，主要下游实验采用固定的 50,000 步编码器。留存记录显示，Step 1 最后阶段的续训和 Step 2 均使用了四块 GPU。
但早期 Step-1 阶段的加速器型号、墙钟时间、GPU 小时、能耗及完整硬件使用记录并未保留；我们将这些数据报告为不可用，而不尝试重构。
Step-2 标签矩阵与快照敏感性分析
本附录介绍生物活性标签的稀疏度和类别平衡情况，并比较现有的训练快照。
最终的 Step-2 矩阵包含 511,898 个分子和 642 个测定，共有 328,638,516 个可能的分子—测定单元格。其中，4,536,721 个单元格有观测值（密度为 1.3805%）：1,097,029 个为阳性（24.18%），3,439,692 个为阴性（75.82%）。
OpenADMET 数据、数据划分与评估
在源测定代码中，HLM、MLM 和 RLM 分别表示人、小鼠和大鼠肝微粒体；而在其他语境中，MLM 表示掩码语言建模。主要结果中使用了完整的清除率测定名称，以便区分二者。
所有终点的结果见表 A2。
统计分析
所有配对差值均按 GRASP 的 MAE 减去比较方法的 MAE 计算。我们通过 100,000 次重采样对终点均值进行自助法估计，并采用精确双侧 Wilcoxon 检验和符号检验。六项基线对比在每项检验中构成一个 Holm 校正族；三项适配对比构成另一校正族。规模与骨架的关联使用终点平均值，并在每个验证集或测试集校正族内对四项关联进行 Holm 校正。
三个外层划分分别存储为 split1–split3。在每个外层训练分区内，使用种子 7301、7302 和 7303，将完整簇分配至占 15% 的验证子集。三个划分中，冻结、LoRA 和全量适配的神经网络拟合种子分别为 9200–9202、9300–9302 和 9400–9402。训练目标仅依据内层训练行进行标准化，并在计算 MAE 前对预测值进行逆变换。
表 A4 报告了已执行的行数、目标变换，以及
测试集规模；原始 MAE 因此仍是针对各终点的特定指标，仅在对每个终点评分后才进行宏平均。
经典基线模型搜索
对于每种特征类型，随机森林网格搜索采用 500 棵树、最大特征数选项 sqrt 或 0.33，以及最小叶节点样本数 1、2 或 4（共六种配置）。LightGBM 网格搜索采用 600 棵树、31 或 63 个叶节点、最小子节点样本数 10 或 20，以及 0.03 或 0.06 的学习率（共八种配置）；行采样率为 0.9，特征采样率为 0.8，L2 正则化系数为 1.0。根据验证集 MAE，为每个终点和数据划分选择一种配置。Chemprop 2.3.0 使用固定的默认 D-MPNN 架构，单模型、不进行集成，批量大小为 64，训练轮数上限为 60，并采用验证损失早停，耐心值为 12。
分子大小处理
96 个重原子的限制仅在预训练期间实施，并未对 OpenADMET 全局施加该限制。下游分子既未截断，也未按大小筛除：保留所有原子 token，仅将输入补齐至每个批次中最长分子的长度。编码器的绝对位置容量为 512 个 token。在 OpenADMET 的 43,881 条终点记录中，只有一条记录超过预训练限制：一个含 123 个重原子的 PXR 分子。该分子在全部三个 PXR 划分中均位于内部训练分区，从未出现在验证集或测试集中。因此，所有报告的 OpenADMET 测试集均只包含重原子数不超过 96 的分子。
查看此表：
内嵌查看
弹出查看
下载 PowerPoint
表 A2。
OpenADMET-23 上各终点的 MAE（越低越好）。
每个条目报告三个按簇留出的数据划分上的总体标准差均值。这些标准差衡量的是不同数据划分之间的变化，而非固定划分上不同随机种子之间的变化。CheMeleon
模型基于其已发布的基础检查点初始化，并进行了全量微调。粗体表示每个终点的最佳均值，下划线表示次佳均值。排名依据未四舍五入的均值确定。Δ = 100(MAE_competitor − MAE_GRASP) / MAE_competitor。当 GRASP 表现最佳时，比较对象为排名第二的方法；否则，比较对象为总体表现最佳的方法。正值表示 GRASP 更优；负值表示比较方法更优。所有方法均在相同的数据划分上进行评估。
ChEMBL 适配与 OpenADMET 之间的重叠
ChEMBL 适配阶段与 OpenADMET 中有少量共享分子结构。我们将 OpenADMET-23 中 14,261 个唯一的标准化分子，与 ChEMBL 适配期间使用的 511,886 个有效标准化分子进行了比较。分子标准化步骤包括分子清理、选择片段母体、去质子化以及合法性检查。
我们采用了四种逐步扩大的暴露定义：(i) 标准化结构完全相同；(ii) 分子连接关系相同，即通过 InChIKey 的连接关系字段进行度量，因此不考虑立体化学和质子化状态；以及与 ECFP4 邻居的 Tanimoto 相似度达到 (iii) 0.90 或 (iv) 0.70。这些定义依次对应范围更广的结构暴露概念，但彼此独立评估，其计数不应相加。
仅凭结构匹配，无法确定某项 ChEMBL 测定在语义上是否与下游 OpenADMET 终点相关。在适配期间，匹配的分子与所选 642 项 ChEMBL 结合或功能测定的标签相关联，而非与用于下游评估的 OpenADMET 记录相关联。尽管如此，结构暴露以及可能相关的生物学监督，仍可能使匹配分子更容易……
迁移。因此，我们检验结构上已暴露的分子是否能够解释所报告的 OpenADMET 性能。
查看此表：
内嵌查看
弹出查看
下载 PowerPoint
表 A3.
配对基线对比。
差异及其 95% bootstrap 区间基于 23 个端点。Wilcoxon 检验和符号检验的 p 值分别在两个包含六项比较的检验族内进行 Holm 校正。
查看此表：
内嵌查看
弹出查看
下载 PowerPoint
表 A4.
OpenADMET 数据集与划分统计。
建模前先进行正对数变换；identity 表示保留原始来源目标。测试集大小对应于存储的三组外层聚类划分；其余外层训练行则划分为内层训练集和按聚类留出的验证集，验证集占 15%。
我们从每个测试分区中移除已暴露分子，并使用存储的预测结果重新计算 MAE。模型未重新训练，且对 GRASP 和 ECFP4-LightGBM 应用了相同的行筛选条件。GRASP 原始的端点平均 MAE 为 0.3742。移除精确匹配分子后，该值降至 0.3724；移除所有与 ECFP4 分子相似度至少为 0.70 的测试分子后，该值降至 0.3693。因此，排除此前见过的分子后，模型性能并未下降。
在所有排除规则下，GRASP 相较于 ECFP4-LightGBM 的优势也得以保留：筛选后的平均 MAE 差异介于 0.0330 至 0.0355 之间，GRASP 在 23 个端点中的 16–17 个上表现更优。因此，我们没有证据表明，所报告的 OpenADMET 优势是由 ChEMBL 适配期间直接接触分子所致。本分析检验的是结构暴露，并不能确定 ChEMBL 中的特定测定在语义上是否与某些 OpenADMET 端点所测属性相关。
查看此表：
内嵌查看
弹出查看
下载 PowerPoint
表 A5.
已执行 OpenADMET 下游配置。
三种 GRASP 适配模式均采用 512 单元的端点预测头、AdamW、Smooth-L1 训练损失、10% 线性预热、1.0 梯度裁剪，以及基于验证集 MAE 的早停。
查看此表：
查看内嵌内容
查看弹出窗口
下载 PowerPoint
表 A6.
在全部 69 个端点划分产物中验证的适配参数量。LoRA 会增加适配器参数，因此其总参数量与基础编码器略有不同。
查看此表：
查看内嵌内容
查看弹出窗口
下载 PowerPoint
表 A7.
OpenADMET 各端点的适配结果（在三个重建的簇划分上取平均 MAE；数值越低越好）。FT 更新整个编码器；冻结混合模式在固定的编码器层之上学习读出层；LoRA 更新低秩 query/value 适配器。
查看此表：
查看内嵌内容
查看弹出窗口
下载 PowerPoint
表 A8.
OpenADMET-23 上采用匹配协议的冻结编码器比较（数值越低越好）。
Mol-JEPA 使用其发布的冻结 CLS 表征，而 GRASP 使用其冻结编码器，并通过学习层混合和原子注意力池化生成表征。两种表征均使用相同的回归 MLP，并基于相同的三个重建簇留出划分进行评估。
粗体
表示较低的 MAE，
下划线
表示另一个结果。Δ% = 100 × (Mol-JEPA − GRASP) / Mol-JEPA；正值表示 GRASP 表现更优。
查看此表：
查看内嵌内容
查看弹出窗口
下载 PowerPoint
表 A9.
OpenADMET-23 与 ChEMBL 适配数据之间的结构重叠。
OpenADMET 包含 14,261 个唯一的标准化分子和 43,881 条已标注的端点数据行。“测试行”汇总了 23 个端点和三个簇留出划分中的 12,021 个测试实例。同一分子可能出现在多个端点中，因此分子数与数据行数不同。
查看此表：
查看内嵌内容
查看弹出窗口
下载 PowerPoint
表 A10.
剔除在 ChEMBL 适配期间出现过的分子后，OpenADMET 的性能。
Δ_filter 表示筛选后 GRASP 的 MAE 减去原始 GRASP 的 MAE；负值表示剔除后误差更低。置信区间通过对 23 个端点级差值进行 100,000 次自助抽样获得。GRASP–ECFP4 列在相同的保留行上进行评估；负值表示 GRASP 表现更优。
查看此表：
行内查看
弹出查看
下载 PowerPoint
表 A11。
TDC ADMET 评估任务。
N 表示固定训练–验证数据池与测试集中的标注行总数。AUROC、AUPRC 和 Spearman 相关系数以越大越好为准；MAE 以越小越好为准。
TDC 数据、划分与评估
数据
我们使用 Therapeutics Data Commons（TDC）ADMET 基准组评估分子性质迁移能力 [15]。该基准包含 22 个针对特定端点的数据集，涵盖吸收、分布、代谢、排泄和毒性。13 个端点属于二元分类任务，9 个属于回归任务。我们采用 TDC 为各任务指定的评估指标：8 个分类任务使用 AUROC，5 个分类任务使用 AUPRC，5 个回归任务使用 MAE，另有 4 个回归任务使用 Spearman 相关系数。
表 A11 列出了完整的评估任务集合。
这 22 个数据集总计包含 81,809 条已标注的“端点–分子”记录。该总数是对各端点求和，而非对不同分子去重计数，因为同一分子可能出现在多个端点数据集中。标签采用 TDC 提供的原始尺度；我们不会对回归目标进行标准化，也不会施加额外的目标变换。
评估基准文件中的所有 SMILES 均通过 RDKit 验证。下游数据加载器不会施加统一的重原子数量筛选条件，也不会截断分子。大于……的分子
用于构建预训练数据的 96 个重原子上限仅适用于预训练数据；对于 22 个任务文件中包含的分子，只要其长度不超过编码器的位置容量，均按原样处理。因此，22 个任务文件中有 70 条端点级记录包含超过 96 个重原子。由此可见，96 个重原子的阈值是预训练数据的限制，而非下游 TDC 的排除规则。
数据划分
对于每个端点，我们使用 TDC ADMET_Group 基准提供的固定测试集。在最终模型的 GRASP 评估中，该测试集的样本构成保持不变。历史冻结编码器比较将在第*节另行说明。测试集不用于超参数选择、检查点选择或提前停止。
除固定测试集外，TDC 还提供训练集与验证集的合并数据池。我们使用 TDC 默认的 scaffold 划分程序，并采用种子 0–4 对该数据池进行划分，得到五个采用不同随机种子的 scaffold 训练—验证划分。训练—验证数据池的名义划分比例为训练集 87.5%、验证集 12.5%，对应整体名义上的训练集/验证集/测试集比例 70/10/20。由于完整的分子 scaffold 会被分配至同一集合，实际比例可能有所不同。这是五个经 scaffold 重采样的验证划分，并非传统交叉验证中五个互斥的折。
对于每个端点，学习率和 dropout 均根据这五个划分上的平均验证性能进行选择。搜索空间为
所选配置使该端点的验证指标达到最优。对于 MAE 任务，这通过最大化负 MAE 实现。因此，在确定最终测试配置之前，每个端点需要进行 3 × 3 × 5 = 45 次验证运行。
模型与优化
分子使用相同的 radius-0 方式表示。
GRASP 使用原子环境分词。每个分子序列均添加一个 [CLS] token。该 token 在编码器最后一层的表示会输入任务专用的预测头，该预测头依次由 dropout、线性层、GELU、dropout 和线性层构成。除非明确标注为冻结编码器实验，否则编码器与预测头均进行联合微调。
分类模型采用 logits 上的二元交叉熵进行优化。回归模型均采用均方误差进行优化，不因报告指标是 MAE 还是 Spearman 相关系数而改变。优化器使用 Adam，权重衰减设为 0，批量大小为 32，梯度范数裁剪阈值为 1.0。训练最多进行 100 个 epoch。学习率在前 10% 的优化步数中线性递增，预热结束后保持恒定。每 5 个 epoch 进行一次验证，并保留任务特定验证指标最佳的检查点。
锁定测试集评估
学习率和 dropout 确定后，我们使用随机种子 100、101 和 102，分别开展三次独立的下游训练。这三次训练依次采用由划分种子 0、1 和 2 生成的 scaffold 训练集—验证集划分，同时确保固定测试集的成员完全一致。仅在选定某次运行的最佳验证检查点后，才对测试集进行评估。
对于每个终点，我们报告三次测试运行结果的算术平均值和总体标准差。
因此，报告的偏差同时反映了下游训练的随机性以及三种 scaffold 训练集—验证集划分之间的差异，并不代表预训练种子带来的不确定性。
AUROC、AUPRC 和 Spearman 相关系数均为数值越高表示性能越好；MAE 则越低越好。
由于各终点采用的指标不同，而且 MAE 的目标尺度也不相同，因此我们不对 22 个 TDC 任务计算数值平均值。比较结果改为汇总各个任务的结果，以及各方法点估计更优的任务数量。ClinTox 不属于这 22 项任务的评估范围，因此不计入任务数量。
查看此表格：
查看内嵌版本
查看弹出版本
下载 PowerPoint
表 A12.
在受控的 4.15 亿分子配置下，RTD 与 MLM 在 TDC 上的比较。数值为三个随机种子结果的均值 ± 总体标准差。粗体表示点估计较优。由于没有可用的有效 MLM 结果，故不纳入 BBB。
参考文献
[1] Satya Pratik Srivastava、Rohan Gorantla、Sharath Krishna Chundru、Claire JR Winkelman、Antonia SJS Mey 和 Rajeev Kumar Singh。《用于配体结合亲和力预测的可解释主动学习框架》。《Digital Discovery》，5（2）：769–779，2026。
[2] Naifeng Wen、Guanqun Liu、Jie Zhang、Rubo Zhang、Yating Fu 和 Xu Han。《一种基于指纹和 BERT 模型的分子性质预测方法》。《Journal of Cheminformatics》，14（1）：71，2022。
[3] John J. Irwin、Khanh G. Tang、Jennifer Young、Chinzorig Dandarchuluun、Benjamin R. Wong、Munkhzul Khurelbaatar、Yurii S. Moroz、John Mayfield 和 Roger A. Sayle。《ZINC20：用于配体发现的免费超大规模化学数据库》。《Journal of Chemical Information and Modeling》，60（12）：6065–6073，2020。doi：10.1021/acs.jcim.0c00675。网址：https://doi.org/10.1021/acs.jcim.0c00675。
[4] Rohan Gorantla。《药物发现中的机器学习：推进蛋白质-配体结合亲和力预测》。博士论文，2025。
[5] Barbara Zdrazil、
Eloy
Felix
、
Fiona
Hunter
、
Emma J.
Manners
、
James
Blackshaw
、
Steve
Corbett
、
Marleen
de Veij
、
Haralambos
Ioannidis
、
David M.
Lopez
、
Juan F.
Mosquera
、
等。
2023 年 ChEMBL 数据库：一个涵盖多种生物活性数据类型和时间跨度的药物发现平台
。
《核酸研究》
，
52
（
D1
）：
D1180
–
D1192
，
2024
。
doi：
10.1093/nar/gkad1004
。
URL https://doi.org/10.1093/nar/gkad1004。
OpenUrl
CrossRef
PubMed
[6]。
↵
ChEMBL 团队
。
ChEMBL 数据库第
36
版，
2025
。URL
doi：
10.6019/CHEMBL.database.36
。
OpenUrl
CrossRef
[7]。
↵
Kevin
Clark
、
Minh-Thang
Luong
、
Quoc V.
Le
和
Christopher D.
Manning
。
ELECTRA：将文本编码器预训练为判别器而非生成器
。
载于《国际学习表征会议》
，
2020
。URL
https://openreview.net/forum?id=r1xMH1BtvB
。
[8]。
↵
David
Rogers
和
Mathew
Hahn
。
扩展连接指纹
。
《化学信息学与建模杂志》
，
50
（
5
）：
742
–
754
，
2010
。
doi：
10.1021/ci100050t
。
URL https://doi.org/10.1021/ci100050t。
OpenUrl
CrossRef
PubMed
Web of Science
[9]。
↵
Chengxuan
Ying
、
Tianle
Cai
、
Shengjie
Luo
、
Shuxin
Zheng
、
Guolin Ke
、
Di He
、
Yanming
Shen
和
Tie-Yan
Liu
。
Transformer 在图表征方面的表现真的很差吗？
载于《神经信息处理系统进展》，第
34
卷，
2021
。URL
https://proceedings.neurips.cc/paper/2021/hash/f1c1592588411002af340cba…
。
[10]。
↵
Wonpyo
Park
、
Woong-Gi
Chang
、
Donggeon
Lee
、
Juntae
Kim
和
Seung-won
Hwang
。
GRPE：用于图 Transformer 的相对位置编码
。载于
ICLR 2022 药物发现机器学习研讨会
，
2022
。
[11]。
↵
Rohan
Gorantla
、
Aryo Pradipta
Gema
、
Ian Xi
Yang
、
Álvaro
Serrano-Morrás
、
Benjamin
Suutari
、
Jordi
Juárez-Jiménez
和
Antonia SJS
Mey
。
学习
通过对蛋白质和配体语言模型进行微调来预测结合亲和力。《Journal of Chemical Information and Modeling》，65（22）：12279–12291，2025。
OpenUrl
CrossRef
PubMed
[12] Hugo MacDermott-Opeskin、Jenke Scheen、Cas Wognum、Joshua T. Horton、Devany West 等。《一项关于泛冠状病毒药物发现数据的计算社区盲测挑战》。《Journal of Chemical Information and Modeling》，66（6）：3129–3149，2026。doi：10.1021/acs.jcim.5c02106。网址：https://doi.org/10.1021/acs.jcim.5c02106。
OpenUrl
CrossRef
PubMed
[13] Maria A. Castellanos、Hugo MacDermott-Opeskin、Jon Ainsley、Jonathan A. Swain、Sean Colby、Devany West、Georgia Channing、Andrew Good、Elyse Bourque、Lakshminarayana Vogeti、Renato Skerlj、Tiansheng Wang、Mark Ledeboer、David Alencar Araripe、Rafal Bachorz、Amitesh Badkul 等。《评估ADMET预测的最新进展：OpenADMET-ExpansionRx社区盲测挑战的启示》。《ChemRxiv》，2026（0923），2026。doi：10.26434/chemrxiv.15009342/v1。网址：https://chemrxiv.org/doi/abs/10.26434/chemrxiv.15009342/v1。
OpenUrl
CrossRef
[14] Cheng Fang、Ye Wang、Richard Grater、Sudarshan Kapadnis、Cheryl Black、Patrick Trapa 和 Simone Sciabola。《吸收、分布、代谢和排泄预测机器学习算法的前瞻性验证：工业界视角》。《Journal of Chemical Information and Modeling》，63（11）：3263–3274，2023。
OpenUrl
CrossRef
PubMed
[15] Kexin Huang、Tianfan Fu、Wenhao Gao、Yue Zhao、Yusuf Roohani、Jure Leskovec、Connor W. Coley、Cao Xiao、Jimeng Sun 和 Marinka Zitnik。《Therapeutics Data Commons：用于药物发现与开发的机器学习数据集和任务》。载于《神经信息处理会议论文集》……
数据集与基准专题，卷 1，2021。网址：https://datasets-benchmarks-proceedings.neurips.cc/paper_files/paper/20…。
[16] Ruoxi Sun、Hanjun Dai 和 Adams Wei Yu。GNN 预训练有助于分子表征吗？《神经信息处理系统进展》，35：12096–12109，2022。
[17] Maciej Sypetkowski、Frederik Wenkel、Farimah Poursafaei、Nia Dickson、Karush Suri、Philip Fradkin 和 Dominique Beaini。GNN 在分子图上的可扩展性。《神经信息处理系统进展》，37：19870–19906，2024。
[18] Harshit Singh、Aastha Malhotra、Satya Pratik Srivastava、Rajeev Kumar Singh 和 Rohan Gorantla。采用链感知蛋白质语言建模预测抗体-抗原亲和力。《bioRxiv》，页码 2026–06，2026。
[19] Yu Rong、Yatao Bian、Tingyang Xu、Weiyang Xie、Ying Wei、Wenbing Huang 和 Junzhou Huang。大规模分子数据上的自监督图 Transformer。《神经信息处理系统进展》，33：12559–12571，2020。
[20] Yuyang Wang、Jianren Wang、Zhonglin Cao 和 Amir Barati Farimani。通过图神经网络进行分子表征的对比学习。《自然·机器智能》，4（3）：279–287，2022。
[21] Seyone Chithrananda、Gabriel Grand 和 Bharath Ramsundar。ChemBERTa：用于分子性质预测的大规模自监督预训练，2020。网址：https://arxiv.org/abs/2010.09885。
[22] Jerret Ross、Brian Belgodere、Vijil Chenthamarakshan、Inkit Padhi、Youssef Mroueh 和 Payel Das。大规模化学语言表征捕捉分子结构与性质。《自然·机器……
《智力》，4（12）：1256–1264，2022。doi：10.1038/s42256-022-00580-7。网址：https://doi.org/10.1038/s42256-022-00580-7。
[23] Gengmo Zhou、Zhifeng Gao、Qiankun Ding、Hang Zheng、Hongteng Xu、Zhewei Wei、Linfeng Zhang 和 Guolin Ke。《Uni-Mol：一种通用的三维分子表征学习框架》。载于《国际学习表征会议》，2023。网址：https://openreview.net/forum?id=6K2RM6wVqKu。
[24] Xiaohong Ji、Zhen Wang、Zhifeng Gao、Hang Zheng、Linfeng Zhang、Guolin Ke 和 Weinan E。《Uni-Mol2：探索大规模分子预训练模型》。载于《神经信息处理系统进展》，第 37 卷，2024。网址：https://papers.neurips.cc/paper_files/paper/2024/hash/53923bb44655a7def…。
[25] Jackson Burns、Akshat Zalte 和 William H. Green。《基于描述符的分子性质预测基础模型》，2025。网址：https://arxiv.org/abs/2506.15792。预印本。
[26] Oscar Méndez-Lucio、Christos A. Nicolaou 和 Berton Earnshaw。《MolE：一种采用解耦注意力的分子图基础模型》。《自然·通讯》，15：9431，2024。doi：10.1038/s41467-024-53751-y。网址：https://doi.org/10.1038/s41467-024-53751-y。
[27] Pengcheng He、Jianfeng Gao 和 Weizhu Chen。《DeBERTaV3：采用 ELECTRA 风格预训练和梯度解耦嵌入共享来改进 DeBERTa》。载于《国际学习表征会议》，2023。网址：https://openreview.net/forum?id=sE7-XhLxHA。
[28] Jun Xia、Shaorong Chen、Yue Liu、Zhangyang Gao、Jiangbin Zheng、Xihong Yang 和 Stan Z. Li。《DiscoGNN：一种样本高效的自监督图表征学习框架》。载于《2024 年 IEEE 第 40 届……》
国际数据工程会议（ICDE），第 2876–2888 页。IEEE，2024 年。
[29] Greg Landrum 等。RDKit：开源化学信息学软件，2025 年。网址：https://www.rdkit.org。
[30] Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez、Lukasz Kaiser 和 Illia Polosukhin。《Attention Is All You Need》。载于《神经信息处理系统进展》，2017 年。
[31] Edward J. Hu、Yelong Shen、Phillip Wallis、Zeyuan Allen-Zhu、Yuanzhi Li、Shean Wang、Lu Wang 和 Weizhu Chen。《LoRA：大型语言模型的低秩适配》。载于《国际学习表征会议》，2022 年。网址：https://openreview.net/forum?id=nZeVKeeFYf9。
[32] Rohan Gorantla、Alzbeta Kubincova、Benjamin Suutari、Benjamin P. Cossins 和 Antonia SJS Mey。《用于配体结合亲和力预测的主动学习方案基准评测》。《化学信息与建模杂志》，64（6）：1955–1965，2024 年。
返回顶部
上一页
下一页
发布于 2026 年 10 月 2 日。
下载 PDF
电子邮件
感谢您有意传播 bioRxiv 的内容。
注意：我们要求您提供电子邮件地址，仅用于确认您是本文的发送者。
您的电子邮件地址
*
您的姓名
*
收件人
*
请在不同的行中输入多个地址，或使用逗号分隔。
您即将通过电子邮件发送以下内容：
GRASP：利用实验测定监督进行分子性质学习的图表示学习
邮件主题
（您的姓名）向您转发了 bioRxiv 网站上的一个页面
邮件正文
（您的姓名）认为您可能会对 bioRxiv 网站上的这个页面感兴趣。
您的个人留言
验证码
此问题用于确认您是真人访客，并防止自动垃圾信息提交。
分享
GRASP：图】【。
利用测定实验监督进行分子性质的表征学习
Satya Pratik Srivastava、Rohan Gorantla、Sharath Krishna Chundru、Harshit Singh、Antonia S. J. S. Mey、Rajeev Kumar Singh
bioRxiv
2026.09.28.755019
doi: https://doi.org/10.64898/2026.09.28.755019
分享本文：
复制
引用工具
GRASP：利用测定实验监督进行分子性质的图表征学习
Satya Pratik Srivastava、Rohan Gorantla、Sharath Krishna Chundru、Harshit Singh、Antonia S. J. S. Mey、Rajeev Kumar Singh
bioRxiv
2026.09.28.755019
doi: https://doi.org/10.64898/2026.09.28.755019
引用管理器格式
BibTeX
Bookends
EasyBib
EndNote（tagged）
EndNote 8（xml）
Medlars
Mendeley
Papers
RefWorks Tagged
Ref Manager
RIS
Zotero
推文组件
Facebook 点赞
Google Plus +1
学科领域
生物信息学
学科领域
所有文章
动物行为与认知（8093）
生物化学（18912）
生物工程（15071）
生物信息学（44867）
生物物理学（22789）
癌症生物学（19922）
细胞生物学（27132）
临床试验（138）
发育生物学（14064）
生态学（21230）
流行病学（2067）
进化生物学（25633）
遗传学（16265）
基因组学（23664）
免疫学（18846）
微生物学（42855）
分子生物学（18218）
神经科学（94301）
古生物学（708）
病理学（3011）
药理学与毒理学（5137）
生理学（8197）
植物生物学（16138）
科学传播与教育（2105）
合成生物学（4604）
系统生物学（10317）
动物学（2405）
关键词：分子图表示学习 · 图Transformer · 分子性质预测 · 生物活性测定 · ADMET预测
原文链接：https://www.biorxiv.org/content/10.64898/2026.09.28.755019v1?rss=1