脑启发学习算法实现了人工神经网络和脉冲神经网络的元可塑性

大脑中的神经调控。（A） 四种类型的神经调节剂及其生物学途径。（B） 非线性神经调控。（C） 神经调控使局部可塑性多样化

灾难性遗忘是反向传播学习算法固有的问题，是人工神经网络和脉冲神经网络研究中的一个难题。

大脑利用多尺度可塑性在某种程度上解决了这个问题。在特定通路的全局调控下，神经调节剂被分散到目标脑区，突触和神经元的可塑性都受到神经调节剂的局部调节。具体来说，神经调节剂改变神经元和突触可塑性的能力和性质。这种修饰被称为元塑性。

中国科学院自动化研究所徐波教授及其合作者提出了一种基于神经调节依赖可塑性的新型脑启发学习方法(NACA)，该方法有助于减轻人工神经网络和SNN中的灾难性遗忘。这项研究发表在8月25日的《科学进展》杂志上。

该方法基于大脑中复杂神经调节通路的结构，并依赖于预期矩阵编码形式的神经调节通路数学模型。接受刺 激信号后，产生不同强度的多巴胺监督信号，进一步影响局部突触和神经元的可塑性。

NACA在课堂上的持续学习任务。（A，B）神经调控对局部神经元可塑性和突触可塑性的影响。NACA与EWC和BP相比的（C-G）性能

NACA支持使用纯前馈流学习方法来训练ann和snn。通过全局多巴胺扩散支持，与输入信号同步，甚至在输入信号前向传播信息。与选择性调整峰值时间相关的可塑性相结合，NACA在快速收敛和减轻灾难性遗忘方面表现出显著的优势。

在两个典型的图像和语音模式识别任务中，研究小组评估了NACA算法的准确率和计算成本。在使用图像分类(MNIST)和语音识别(TIDigits)标准数据集的测试中，NACA获得了更高的分类准确率(约1.92%)和更低的学习能耗(约98%)。

此外，研究小组重点测试了NACA在类连续学习上的连续学习能力，并将神经调节扩展到神经元可塑性的范围。

在连续MNIST手写体数字、连续字母表手写体字母、连续MathGreek手写体数学符号、连续cifare -10自然图像和连续DvsGesture动态手势等5个不同类别的连续学习任务中，NACA比反向传播和弹性权巩固算法能耗更低，能够显著缓解灾难性遗忘问题。

徐教授说:“NACA是一种生物学上合理的全局优化算法，它利用宏观可塑性进一步‘调节’局部可塑性，可以看作是一种‘可塑性的可塑性’方法，与‘学会学习’和‘元学习’具有直观的功能一致性。”