麻省理工研發(fā)出超快光子處理器,效率極高!由麻省理工學院科學家設計的新型光子芯片以光學方式執(zhí)行所有深度神經網絡計算,在納秒內完成任務,準確率超過92%。 這將徹底改變高需求計算應用,為可實時學習的高速處理器打開大門。 光子機器學習 深度神經網絡是當今最先進的機器學習應用背后的驅動力,它變得如此龐大和復雜,以至于突破了傳統(tǒng)電子計算硬件的極限。 光子硬件使用光而不是電來執(zhí)行機器學習計算,提供了一種更快、更節(jié)能的解決方案。 然而,光子設備很難實現(xiàn)某些神經網絡操作,這就不得不依賴外部電子設備,從而減慢了處理速度,降低了效率。 研究人員展示了一種完全集成的光子處理器,它可以在芯片上以光學方式執(zhí)行深度神經網絡的所有關鍵計算,從而為激光雷達或高速通信等計算要求苛刻的應用實現(xiàn)更快、更節(jié)能的深度學習。 光子芯片技術的突破 經過十年的研究,麻省理工學院和合作機構的科學家們開發(fā)出一種突破性的光子芯片,克服了這些挑戰(zhàn)。 他們展示了一種完全集成的光子處理器,能夠完全利用光執(zhí)行所有基本的深度神經網絡計算,無需外部處理。該光學設備能夠在不到半納秒的時間內完成機器學習分類任務的關鍵計算,同時達到 92% 以上的準確率--性能與傳統(tǒng)硬件相當。 光子神經網絡及其影響 該芯片由相互連接的模塊組成一個光神經網絡,采用商業(yè)代工工藝制造,可實現(xiàn)該技術的擴展和與電子產品的集成。 從長遠來看,光子處理器可為激光雷達、天文學和粒子物理學科學研究或高速通信等計算要求苛刻的應用帶來更快、更節(jié)能的深度學習。 用光進行機器學習 深度神經網絡由多層相互連接的節(jié)點或神經元組成,它們對輸入數(shù)據進行運算以產生輸出。 深度神經網絡的一個關鍵操作是使用線性代數(shù)來執(zhí)行矩陣乘法,在數(shù)據從一層傳遞到另一層時進行轉換。 但除了這些線性運算外,深度神經網絡還能執(zhí)行非線性運算,幫助模型學習更復雜的模式。 激活函數(shù)等非線性運算賦予了深度神經網絡解決復雜問題的能力。 2017年,恩格倫德的研究小組與塞西爾和艾達-格林物理學教授馬林-索爾亞契奇實驗室的研究人員一起,在單個光子芯片上演示了一個光神經網絡,它可以用光進行矩陣乘法運算。但當時,該設備無法在芯片上執(zhí)行非線性操作。 光學數(shù)據必須轉換成電信號,然后發(fā)送到數(shù)字處理器,才能執(zhí)行非線性操作。 Bandyopadhyay解釋說:“光學中的非線性具有相當大的挑戰(zhàn)性,因為光子之間不容易相互作用。這使得觸發(fā)光學非線性變得非常耗電,因此建立一個能夠以可擴展的方式實現(xiàn)非線性的系統(tǒng)變得非常具有挑戰(zhàn)性。” 他們通過設計稱為非線性光學功能單元(NOFUs)的設備克服了這一挑戰(zhàn),這種設備結合了電子學和光學,可以在芯片上實現(xiàn)非線性操作。研究人員在光子芯片上構建了一個光學深度神經網絡,利用三層設備執(zhí)行線性和非線性操作。 完全集成的網絡 首先,他們的系統(tǒng)將深度神經網絡的參數(shù)編碼成光。 然后,2017 年論文中展示的可編程分光器陣列對這些輸入進行矩陣乘法運算。然后,數(shù)據進入可編程 NOFU,NOFU 通過將少量光虹吸到光電二極管,將光信號轉換為電流,從而實現(xiàn)非線性功能。 這一過程無需外部放大器,能耗極低。 Bandyopadhyay說:“我們一直處于光域中,直到最后讀出答案。 這使我們能夠實現(xiàn)超低延遲。” 實現(xiàn)如此低的延遲使他們能夠在芯片上高效地訓練深度神經網絡,這一過程被稱為原位訓練,通常會消耗數(shù)字硬件的大量能量。這尤其適用于對光信號進行域內處理的系統(tǒng),如導航或電信,也適用于想要實時學習的系統(tǒng)。 光子系統(tǒng)在訓練測試中達到了 96% 以上的準確率,在推理中達到了 92% 以上的準確率,與傳統(tǒng)硬件不相上下。 此外,該芯片還能在不到半納秒的時間內完成關鍵計算。 這項工作表明,計算(從本質上講,就是輸入到輸出的映射)可以編譯到線性和非線性物理學的新架構中,從而實現(xiàn)計算與所需工作量之間根本不同的比例規(guī)律。 整個電路的制造采用了與生產 CMOS 計算機芯片相同的基礎設施和代工工藝。 這樣就能利用在制造過程中引入極少誤差的成熟技術,大規(guī)模制造芯片。 Bandyopadhyay 說:“擴大設備規(guī)模并將其與相機或電信系統(tǒng)等實際電子設備集成將是未來工作的重點! 此外,研究人員還希望探索能利用光學優(yōu)勢更快、更節(jié)能地訓練系統(tǒng)的算法。 論文鏈接:https://www.nature.com/articles/s41566-024-01567-z 關鍵詞: 光子處理器
|