- 2 次围观
神经科学学习理论认为,大脑通过构建关于世界的内部模型来获取知识。深度神经网络(DNN)中占主导地位的监督学习依赖外部类别标签,因此难以与生物学习相协调。当前,越来越多的研究转向更具生物学合理性的学习方法,例如预测性目标(最小化未来的意外程度)或对比性目标(最小化对预期输入的反应,并最大化对非预期输入的反应);然而,这些方法通常依赖于预训练的DNN模型,而这些模型在架构、规模和超参数方面差异很大,从而使直接比较变得困难。在本研究中,我们通过比较采用预测性、对比性和监督学习目标训练的相同小型网络,以及局部学习(受限于单个层)与全局学习(完整反向传播)之间的差异,分离出学习本身的影响。我们发现,统计学习后形成的大脑表征,更适合由预测性局部目标加以建模,而非监督性或对比性目标;并且在学习过程中,大脑会削弱类别特异性表征,同时保留预测性表征。此外,我们还发现,预测性目标能够解释标准监督式DNN无法解释的大脑活动方差,而这种方差与预测加工相关,而非与刺激加工或失配加工相关。这些发现展示了一种用于检验学习算法基础的受控方法,并确定预测是学习的核心机制。
神经科学学习理论认为,大脑通过构建内部世界模型来获取知识。深度神经网络(DNN)中的主流方法——监督学习——依赖外部类别标签,因此难以与生物学习相协调。近年来,人们日益倾向于采用更具生物学有效性的方法,例如预测性目标(最小化未来惊奇)或对比性目标(最小化对预期输入的反应,同时最大化对非预期输入的反应)。然而,这些方法通常依赖于预训练的DNN模型,而这些模型在架构、规模和超参数方面存在较大差异,从而难以进行直接比较。在本研究中,我们通过比较采用预测性、对比性和监督学习目标训练的相同小型网络,以及局部学习(受限于单层)与全局学习(完整反向传播),将学习本身的影响孤立出来。我们发现,统计学习后的脑表征由预测性局部目标建模的效果优于由监督性或对比性目标建模的效果;并且在学习过程中,大脑会减弱类别特异性表征,同时保留预测性表征。我们还发现,预测性目标能够解释标准监督式DNN无法解释的脑反应变异,而且这种变异与预测加工有关,而非与刺激加工或失配加工有关。这些发现展示了一种用于检验学习算法基础的受控方法,并揭示了预测是学习的核心机制。
📄 原文链接:https://www.biorxiv.org/content/10.64898/2026.09.18.752626v1?rss=1
🏷️ 预测编码 神经表征 深度神经网络 监督学习 脑模型比较
来源出处
预测编码网络捕获了监督式深度神经网络中缺失的人类神经表征
https://www.biorxiv.org/content/10.64898/2026.09.18.752626v1?rss=1