- 1次围观
对于包含数千个神经元和图像的数据集，视觉Transformer已被证明能够成功预测神经元对刺激的反应。然而，预计在低数据量条件下，其表现会逊于CNN和高斯过程，后两者通常被认为更为有效。我们探讨了能否使Transformer在小规模神经预测任务中具备竞争力，并表明，通过引入恰当的归纳偏置，可以扭转其在该条件下的性能劣势。我们为视觉Transformer配备了一个在特征空间中可微分的、逐神经元的圆形裁剪操作。该裁剪区域以每个神经元的感受野为中心，其半径针对不同神经元分别选择，因此模型只需观察驱动该神经元的小范围图像区域，而非整幅图像。这使得注意力机制的计算成本随感受野大小而非图像大小增长。所有神经元共享同一个Transformer堆栈：每个神经元的特异性体现在裁剪区域中，而非体现在模型架构中。我们将这一模型称为圆形感受野视觉Transformer（circular receptive-field vision transformer，CiRF-ViT）。我们在小规模多电极阵列记录数据上对其进行了评估，这些数据来自小鼠和蝾螈视网膜：其中，小鼠数据包含41个神经节细胞，两个蝾螈数据集共包含49个神经节细胞；每个数据集仅有几千个刺激—反应样本，比Transformer通常训练所需的数据规模低两个数量级。与CNN和高斯过程基线模型相比，CiRF-ViT在两个数据集上均取得了最高的平均解释方差（小鼠数据集为0.94，蝾螈数据集为0.95）。通过局部脉冲触发平均（local spike-triggered average，LSTA）进行探测——这是一种用于检验上下文依赖性、非线性刺激敏感性的零样本测试——CiRF-ViT重现了定性上的极性反转，而线性模型从其构造上无法捕捉这一现象。因此，一个具有生物学依据的逐神经元局部性先验，便足以使Transformer在远低于其通常所需数据规模的神经预测任务中具备竞争力；与此同时，在视网膜非线性计算的一项已确立的功能特征上，它也达到了与参考模型相当的表现。
基于生物学的局部性先验弥合视觉变换器在神经预测中的数据差距 | bioRxiv
跳转至主要内容
主页 关于 投稿 提醒 / RSS 搜索此关键词 高级搜索 最新结果
# 基于生物学的局部性先验弥合视觉变换器在神经预测中的数据差距
查看 ORCID 主页
Matteo Farina ， pietro zamberlan ， 查看 ORCID 主页 Arno Onken ， 查看 ORCID 主页 Ulisse Ferrari
doi： https://doi.org/10.64898/2026.09.03.749141
Matteo Farina 1 米兰理工大学；
在 Google Scholar 中查找该作者 在 PubMed 中查找该作者 在持有人为作者/资助方，其已授予 bioRxiv 永久展示该预印本的许可。
本文依据 CC-BY 4.0 国际许可协议提供。
返回顶部
上一篇 下一篇
发布于2026年9月8日。
下载 PDF
数据/代码
电子邮件
感谢您有意帮助传播 bioRxiv 上的内容。
您的电子邮件地址 *
您的姓名 *
发送至 *
请在不同地址之间换行或使用逗号分隔。
您即将发送以下内容：
基于生物学的局部性先验弥合视觉变换器在神经预测中的数据差距
（您的姓名）从 bioRxiv 网站向您转发了一个页面
邮件主题
（您的姓名）认为您可能会对 bioRxiv 网站上的这一页面感兴趣。
邮件正文
（您的姓名）的个人留言
验证码
此问题用于测试您是否为人类访客，并防止自动垃圾邮件提交。
分享
# 基于生物学的局部性先验弥合视觉变换器在神经预测中的数据差距
Matteo Farina ， pietro zamberlan ， Arno Onken ， Ulisse Ferrari
bioRxiv 2026.09.03.749141； doi： https://doi.org/10.64898/2026.09.03.749141
分享本文：
复制
引用工具
# 基于生物学的局部性先验弥合视觉变换器在神经预测中的数据差距
Matteo Farina ， pietro zamberlan ， Arno Onken ， Ulisse Ferrari
bioRxiv 2026.09.03.749141； doi： https://doi.org/10.64898/2026.09.03.749141
📄 原文链接：https://www.biorxiv.org/content/10.64898/2026.09.03.749141v1?rss=1
🏷️ 视觉变换器 神经元反应预测 感受野 视网膜神经科学 归纳偏置 小样本学习