新财经综合实验室博士生陶然研究成果被国际期刊Neurocomputing录用   

       近日，实验室类脑计算及学习机制课题组在类脑大模型微调方向研究成果”SpikeLoRA: Power-Efficient Low-Rank Adaptation Based on Spiking Neural Network”被国际期刊Neurocomputing录用。论文作者包括陶然（博士生）、占求港博士（实验室老师）、丁方一（硕士生）、刘贵松教授（通讯作者）、解修蕊研究员（电子科技大学）、唐华锦教授（浙江大学IEEE Fellow）。

图1 Neurocomputing期刊录用首页

  针对现有基于传统人工神经网络（ANN）的参数高效微调方法计算开销较大的问题，该工作提出了一种融合脉冲神经网络（SNN）低功耗特性的参数高效微调方法SpikeLoRA，为资源受限场景下大模型的高效部署提供了新的思路。具体而言，该方法将脉冲驱动机制引入低秩适配过程，利用SNN稀疏激活与事件驱动的计算特性，在保证模型性能的同时显著降低微调阶段的能耗。针对SNN与ANN在参数更新机制上的差异，进一步设计了基于知识蒸馏的专用初始化策略，通过对齐低秩矩阵与预训练模型中的先验表示，有效缓解两种网络范式间的优化鸿沟，从而实现SNN对ANN语言模型的稳定高效微调。最终，SpikeLoRA在多个自然语言处理任务上取得了与LoRA及其变体相当甚至更优的性能，同时展现出更低的功耗与更强的鲁棒性，为类脑计算与大模型参数高效微调的结合提供了新的研究方向。

图2 论文方法概览

   Elsevier旗下的《Neurocomputing》创办于1989年，是人工智能、机器学习与认知神经科学领域的重要国际学术期刊之一。该期刊2025年影响因子约为6.5，五年平均影响因子为6.0，JCR分区为Q1，2025年中科院分区为计算机科学2区Top，在人工智能、计算机科学应用以及认知神经科学等方向具有较高学术影响力。

新财经综合实验室由西南财经大学和中国农业银行2021年联合成立，刘贵松教授担任实验室主任。实验室聚焦可信人工智能基础理论、财经科技及数字经济深度融合等领域开展有组织科研和人才培养，近三年实验室持续在多个顶会和顶刊发表最新科研成果，包括IEEE TPAMI、IEEE TIP、IEEE TKDE、IJCV、CVPR、NeurIPS、ICML、ICDE等。团队现有教师17人、本硕博学生和博士后近80人。