會發(fā)育的人工智能在2024諾貝爾物理學(xué)獎與化學(xué)獎都頒給了與人工智能和神經(jīng)網(wǎng)絡(luò)相關(guān)的研究的背景下,10月10日,中國科學(xué)院自動化研究所曾毅研究員領(lǐng)導(dǎo)的“類腦認(rèn)知智能研究組”近期在人工智能領(lǐng)域權(quán)威期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》上發(fā)表了一篇題為“發(fā)育可塑性啟發(fā)的深度脈沖與人工神經(jīng)網(wǎng)絡(luò)自適應(yīng)剪枝模型”的新研究。 該研究融合生物腦多尺度發(fā)育可塑性機制,基于“用進(jìn)廢退”的原則設(shè)計自適應(yīng)剪枝策略去除網(wǎng)絡(luò)中冗余的突觸和神經(jīng)元,探索腦發(fā)育可塑性如何賦予深度神經(jīng)網(wǎng)絡(luò)以動態(tài)結(jié)構(gòu)調(diào)整能力,使其像生物腦一樣逐步“發(fā)育”為更高效的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),在“會發(fā)育”的人工智能研究方面取得進(jìn)展。 研究團(tuán)隊負(fù)責(zé)人和論文的通訊作者曾毅研究員說:“我們的研究可以說是腦科學(xué)與人工智能雙向啟發(fā)又一個典型的案例。我們在同一個神經(jīng)網(wǎng)絡(luò)計算模型中融合了腦發(fā)育過程中多尺度的突觸、神經(jīng)元自適應(yīng)新生與消亡機制,探索了這些原理在計算層面的協(xié)同,通過計算建模進(jìn)一步驗證了腦發(fā)育原理。在此基礎(chǔ)上提出基于類腦發(fā)育可塑性的通用結(jié)構(gòu)學(xué)習(xí)理論,受此啟發(fā)構(gòu)建結(jié)構(gòu)動態(tài)發(fā)育的低能耗、高性能類腦神經(jīng)網(wǎng)絡(luò)。這項研究揭示了發(fā)育可塑性在助力神經(jīng)網(wǎng)絡(luò)自適應(yīng)形成類腦高效結(jié)構(gòu)方面的重要價值和關(guān)鍵作用,同時也從一個側(cè)面驗證了這些原理對于生物腦在發(fā)育過程中將大腦塑造為更具自適應(yīng)性的結(jié)構(gòu)。這項研究將為發(fā)展高適應(yīng)性、高性能的類腦人工智能模型與平臺提供了有力的理論與技術(shù)支持! 關(guān)鍵詞: 人工智能
|