|
·在傳統(tǒng)馮·諾伊曼架構(gòu)下，計算和存儲分離。而北極點芯片使存儲單元在物理上盡可能接近計算單元中的計算元件。北極點芯片由256個計算單元組成，每個計算單元都有內(nèi)存，通過消除片外內(nèi)存，將計算與片上內(nèi)存交織在一起。這些計算單元以一種網(wǎng)絡(luò)連接在一起，設(shè)計靈感來自于人類大腦。 北極點處理器芯片消除了頻繁訪問外部存儲器的需要，在圖像識別任務(wù)中比現(xiàn)有架構(gòu)更快，能源消耗更少。 IBM研發(fā)的北極點（NorthPole）處理器芯片可避開訪問外部存儲器，提高計算能力，節(jié)約能源。 美國加利福尼亞州圣何塞的IBM研究人員開發(fā)了一種以大腦為靈感的計算機芯片，這款北極點處理器芯片消除了頻繁訪問外部存儲器的需要，在圖像識別任務(wù)中比現(xiàn)有架構(gòu)更快，能源消耗更少。這表明計算和內(nèi)存可以大規(guī)模集成。相關(guān)研究10月19日發(fā)表在《科學(xué)》雜志。 北極點芯片采用神經(jīng)推理結(jié)構(gòu)，由簡單計算單元組成的多層陣列通過編程來識別數(shù)據(jù)中的模式。底層接收數(shù)據(jù)，例如圖像中的像素；每一個連續(xù)的層檢測日益復(fù)雜的模式，并將信息傳遞給下一層；頂層輸出結(jié)果，例如可以表示圖像含有貓、汽車或其他物體的可能性。 在傳統(tǒng)馮·諾伊曼架構(gòu)下，計算和存儲分離。傳統(tǒng)計算機芯片可以有效處理計算，但每次計算時仍然需要使用被稱為RAM的外部存儲器。因此不管處理器運行多快、性能多好，每次執(zhí)行運算時都需要把數(shù)據(jù)從存儲器搬到處理器中，數(shù)據(jù)處理完再搬回到存儲器。在以數(shù)據(jù)為主的AI計算之下，馮·諾伊曼架構(gòu)的“存儲墻”和“功耗墻”挑戰(zhàn)凸顯。論文合著者、IBM計算機工程師達門德拉·莫達（Dharmendra Modha）表示，他曾估計在這種架構(gòu)上模擬人類大腦可能需要12個核反應(yīng)堆的能源輸出。 而北極點芯片使存儲單元在物理上盡可能接近計算單元中的計算元件。北極點芯片由256個計算單元組成，每個計算單元都有內(nèi)存，通過消除片外內(nèi)存，將計算與片上內(nèi)存交織在一起。這些計算單元以一種網(wǎng)絡(luò)連接在一起，這種網(wǎng)絡(luò)的靈感來自于人類大腦皮層之間的白質(zhì)連接。 在不使用最先進工藝的情況下，北極點芯片能耗是使用最先進技術(shù)的人工智能芯片的1/5。論文作者估計，如果北極點芯片設(shè)計采用最先進的制造工藝，其效率將是目前設(shè)計的25倍。論文提到，“在ResNet50基準(zhǔn)圖像分類網(wǎng)絡(luò)上，相對于使用類似12納米技術(shù)工藝的GPU， 北極點實現(xiàn)了每瓦FPS（每秒傳輸幀數(shù)）的能量度量高25倍，每個晶體管FPS的空間度量高5倍，延遲時間度量低22倍。” 不過，據(jù)《自然》雜志報道，即使是北極點芯片224兆內(nèi)存對于大型語言模型來說也是不夠的，比如聊天機器人ChatGPT這樣的語言模型，即使在最精簡的版本中也要占用幾千兆的數(shù)據(jù)。而且該芯片只能運行預(yù)先編程的神經(jīng)網(wǎng)絡(luò)，這些神經(jīng)網(wǎng)絡(luò)需要在單獨的機器上提前訓(xùn)練。但論文作者表示，北極點芯片架構(gòu)可能在速度關(guān)鍵型應(yīng)用中有用，比如自動駕駛汽車。 |
