用于脉冲神经网络多目标学习的上下文感知证据门控可塑性

root 提交于 周三, 07/01/2026 - 12:47
背景/引言:受生物启发的脉冲神经网络能够建模适应性行为,但多目标学习较为困难,因为针对不同目标的突触更新可能相互干扰。我们检验了多时间尺度可塑性与上下文特异性的信用分配是否能够改善一种受内嗅皮层—海马回路启发的脉冲导航系统中的持续性多目标学习。 方法:我们构建了一个闭环脉冲模型,其中包含类网格、类位置、目标相关、关联以及运动输出等神经元群体。智能体在二维环境中以随机化起始位置进行导航,并通过奖励调制的脉冲时序依赖可塑性(STDP/RL)和一种新颖的证据门控可塑性(EGP)框架进行学习。EGP会累积候选突触修改,利用奖励证据对其进行评估,并仅巩固那些能够提升性能的变化。其目标上下文变体则为每个目标分别维持独立的候选存储和奖励评估机制。 结果:STDP/RL能够学习并保持单目标导航策略,但多目标训练会产生显著干扰,包括在学习后对错误目标产生吸引。基于10个连接随机种子,目标上下文EGP在学习后期获得了高于全局EGP的奖励,改善了最弱目标的表现,并提高了获得正奖励目标的比例。在一个更长时程的持续学习仿真中,所有目标的奖励均有所增加,测试阶段(TEST)的表现逐渐超过训练阶段(TRAIN),且候选修改的幅度随着学习而增大。停留时间混淆分析表明,相较于多目标STDP/RL,目标上下文EGP减少了对错误目标的吸引,并提高了目标选择性。 结论:这些结果表明,脉冲导航回路能够利用局部可塑性学习目标导向行为,但稳健的多目标学习受益于上下文特异性的、基于证据的巩固机制。目标上下文EGP为在脉冲神经网络中持续强化学习期间减少干扰提供了一种具有生物学启发意义的机制。

在此网站上搜索该作者

摘要

信息/历史

指标

预览 PDF

摘要

背景/引言:受生物学启发的脉冲神经网络能够对适应性行为进行建模,但由于针对不同目标的突触更新会相互干扰,学习多个目标仍然较为困难。我们检验了多时间尺度可塑性与情境特异性的信用分配是否能够改进一个受内嗅皮层—海马回路启发的脉冲导航系统中的持续多目标学习。

方法:我们构建了一个闭环脉冲模型,其中包含类网格、类位置、目标相关、关联以及运动输出神经元群。智能体在一个二维环境中以随机化的起始位置进行导航,并通过奖励调制的脉冲时序依赖性可塑性(STDP/RL)和一种新颖的证据门控可塑性(EGP)框架进行学习。EGP 会累积候选突触修饰,利用奖励证据对其进行评估,并仅巩固那些能够改善性能的变化。目标情境变体则为每个目标分别维护独立的提议存储与奖励评估机制。

结果:STDP/RL 能够学习并保留单目标导航策略,但多目标训练会产生显著干扰,包括在学习后被错误目标吸引。在 10 个连接种子条件下,目标情境 EGP 在学习后期获得了高于全局 EGP 的奖励,提升了表现最差目标的性能,并增加了实现正奖励目标的比例。在一个更长时程的持续学习仿真中,所有目标的奖励均有所提高,测试阶段(TEST)的表现逐渐超过训练阶段(TRAIN),且提议幅度随学习过程而增大。驻留时间混淆分析表明,与多目标 STDP/RL 相比,目标情境 EGP 减少了对错误目标的吸引,并改善了目标选择性。

结论:这些结果表明,脉冲导航回路能够利用局部可塑性学习目标导向行为,但稳健的多目标学习受益于情境特异性的、基于证据的巩固机制。目标情境 EGP 为在脉冲神经网络中的持续强化学习过程中减少干扰提供了一种具有生物学动机的机制。

利益冲突声明

已声明的资助信息

DEVCOM 陆军研究实验室, https://ror.org/011hc8f90 合作协议 W911NF-22-2-0139,ARL/ORAU Fellowship

美国国立卫生研究院, https://ror.org/01cwqze88 R01DC012947 R01DC019979 R01MH134118 R01NS128924 P50MH109429

版权

持有人为作者/资助方,其已授予 bioRxiv 永久展示该预印本的许可。 本文依据 CC-BY-NC-ND 4.0 国际许可协议 公开提供。

返回顶部

上一篇

下一篇

发布于 2026 年 6 月 30 日。

下载 PDF

电子邮件

感谢您有兴趣帮助传播 bioRxiv 的内容。 您的电子邮件

*

您的姓名

*

发送至

*

请输入多个地址,每行一个,或用逗号分隔。

您将要发送以下内容的电子邮件

《脉冲神经网络中用于多目标学习的情境感知证据门控可塑性》

消息主题

(您的姓名)已从 bioRxiv 转发一个页面给您

消息正文

(您的姓名)认为您可能希望查看 bioRxiv 网站上的此页面。

您的个人留言

验证码

此问题用于测试您是否为人工访客,并防止自动垃圾信息提交。

分享

《脉冲神经网络中用于多目标学习的情境感知证据门控可塑性》

Samuel A Neymotin, Hananel Hazan, Gozde Unal, Christopher Earl, Haroon Anwar, Piotr Franaszczuk, David Boothe

bioRxiv 2026.06.25.734613; doi: https://doi.org/10.64898/2026.06.25.734613

分享本文:

复制

引文工具

《脉冲神经网络中用于多目标学习的情境感知证据门控可塑性》

Samuel A Neymotin, Hananel Hazan, Gozde Unal, Christopher Earl, Haroon Anwar, Piotr Franaszczuk, David Boothe

bioRxiv 2026.06.25.734613; doi: https://doi.org/10.64898/2026.06.25.734613


📄 原文链接:https://www.biorxiv.org/content/10.64898/2026.06.25.734613v1?rss=1

🏷️ 脉冲神经网络 多目标学习 证据门控可塑性 持续强化学习 海马导航模型