脈沖神經網絡中基于短時突觸可塑性的無監督訓練后學習機制研究

《Scientific Reports》:Unsupervised post-training learning in spiking neural networks

【字體: 時間:2025年05月22日 來源:Scientific Reports 3.8

編輯推薦:

  為解決傳統脈沖神經網絡(SNN)訓練后無法持續學習的問題,研究人員創新性地將短時突觸可塑性(STP)與三重態時序依賴可塑性(Triplet STDP)結合,提出"訓練后學習"新范式。研究表明,該機制使SNN在保持突觸權重不變的情況下,通過神經遞質釋放動態調節突觸效能,顯著提升MNIST/EMNIST數據集分類準確率(最高提升17%),并增強模型抗噪能力。這一生物啟發的多時間尺度學習策略為類腦計算提供了新思路。

  

人腦作為動態學習系統,通過多時間尺度的突觸可塑性實現復雜認知功能。然而當前脈沖神經網絡(SNN)多依賴單一學習規則(如時序依賴可塑性STDP),且訓練后突觸權重固定,這與生物神經系統的持續適應能力存在顯著差距。如何將生物學習機制融入SNN,成為類腦智能領域的關鍵挑戰。

來自克爾曼沙醫科大學醫學技術研究中心和安特衛普大學的研究團隊在《Scientific Reports》發表創新研究,提出將短時突觸可塑性(STP)整合至已完成STDP訓練的SNN中,實現"訓練后學習"。通過設計包含三重態STDP訓練階段和STP增強階段的兩階段學習管道,使網絡在不改變突觸權重前提下,通過神經遞質釋放動態調節突觸效能。研究采用Brian2模擬器構建基于漏積分發放(LIF)模型的SNN,在MNIST/EMNIST數據集(含噪聲/無噪聲版本)上驗證性能。關鍵技術包括:三重態STDP權重更新規則、Tsodyks-Markram(STP)動態突觸模型、基于Poisson編碼的輸入轉換,以及包含400個興奮性神經元的網絡架構。

方法
研究構建了三個學習管道:傳統管道(僅Triplet STDP)、管道1(STDP+STP)、管道2(STDP+STP+標簽更新)。Triplet STDP通過前/后突觸活動痕跡(apre, apost1, apost2)實現長時程增強/抑制;STP則通過神經遞質釋放概率(us)和可用資源(xs)動態調節突觸電導(公式19:ge←ge+w+kwrs)。

結果與討論

  1. 性能提升:管道2在噪聲MNIST數據集準確率從58%提升至75%,所有數據集平均提升5.5-17%。STP的加入使網絡收斂速度加快,首輪epoch準確率即提高15%。
  2. 神經動態變化:STP使興奮性神經元激活數量增加2-3倍(圖5),同步放電現象更顯著(圖7),神經元貢獻分數(NCS)分布更均勻(圖9)。
  3. 抗噪能力:噪聲條件下,管道2性能下降幅度(MNIST降11%)僅為傳統方法(降22.5%)的一半。
  4. 計算代價:管道2因"標簽更新"步驟使單epoch耗時增至102-105分鐘,但顯著優于聯合訓練STDP+STP的方案(耗時翻倍)。

結論
該研究首次證明SNN可通過STP實現訓練后持續學習,突破傳統"訓練-凍結"范式。三重態STDP捕獲長時模式特征,STP則通過神經遞質動態釋放(參數k=8-10.5時最優)增強短時信息處理,二者協同提升模型生物合理性與計算效能。未來可拓展至星形膠質細胞調控等更復雜生物機制研究。這項工作為開發具備持續學習能力的類腦智能系統提供了重要理論框架。

相關新聞
生物通微信公眾號
微信
新浪微博
  • 急聘職位
  • 高薪職位

知名企業招聘

熱點排行

    今日動態 | 人才市場 | 新技術專欄 | 中國科學人 | 云展臺 | BioHot | 云講堂直播 | 會展中心 | 特價專欄 | 技術快訊 | 免費試用

    版權所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    聯系信箱:

    粵ICP備09063491號

    亚洲欧美自拍偷拍,亚洲人成77777,亚洲男女自偷自拍,亚洲成年在线