离散突触状态与情境调制读出支持持续学习

生物神经系统能够在保留既有行为的同时学习新的行为，而经过序列训练的人工网络则往往会覆写参数，从而遗忘先前学到的行为。我们提出了情境调制突触状态循环神经网络（Context-modulated Synaptic-states Recurrent Neural Network，CoSyn-RNN），这是一种受异质性突触状态和神经调质控制启发的新型持续学习模型。CoSyn-RNN 将稀疏循环分配与离散保护规则相结合：在每项任务完成后，循环神经元中突触权重超过固定阈值的神经元会构成任务特异性神经元群，其相关参数则在后续学习过程中进入受保护状态。针对单个神经元的增益以及施加于固定基础读出层的任务提示掩码，共同控制循环活动对行为的贡献。在由众多认知任务构成的多种任务序列中，训练和验证损失及准确率在整个学习过程中均得以保持。该保护规则产生了模块化且按任务排序的循环结构，并支持对既有计算过程的前向复用。成对招募测量进一步定义了最小成本和最大成本课程，从而产生显著不同的最终循环结构，以及不同程度的未来学习剩余容量。因此，CoSyn-RNN 提供了一种受生物学启发的模型，其中受保护的突触状态、稀疏分配和依赖情境的调制共同支持持续学习。

生物神经系统能够在保留既有行为的同时学习新的行为，而经过序列训练的人工神经网络则往往会覆写参数，从而遗忘先前学到的行为。我们提出了情境调制突触状态循环神经网络（Context-modulated Synaptic-states Recurrent Neural Network，CoSyn-RNN），这是一种受异质性突触状态和神经调质控制启发的新型持续学习模型。CoSyn-RNN 将稀疏循环分配与离散保护规则相结合：在每项任务结束后，其突触权重越过固定阈值的循环神经元构成一个特定于任务的神经元群组，并且这些神经元所关联的参数在后续学习过程中进入受保护状态。神经元特异性的增益以及作用于固定基础读出层的任务提示掩码，共同控制循环活动对行为的贡献。在由众多认知任务组成的不同任务序列中，训练损失、验证损失以及相应的准确率在整个学习过程中均得以维持。该保护规则产生了模块化且按任务顺序组织的循环结构，并支持对早期计算过程的前向复用。成对招募测量进一步界定了最小成本和最大成本课程；二者产生了显著不同的最终循环结构，以及不同程度的未来学习剩余容量。因此，CoSyn-RNN 提供了一种受生物学启发的模型，其中受保护的突触状态、稀疏分配和依赖情境的调制共同支持持续学习。

📄 原文链接：https://www.biorxiv.org/content/10.64898/2026.09.11.750704v1?rss=1

🏷️ 持续学习 循环神经网络 突触状态保护 情境调制 灾难性遗忘 稀疏神经元分配