国产精品免费无遮挡无码永久视频-国产高潮视频在线观看-精品久久国产字幕高潮-国产精品99精品无码视亚

IBM開發(fā)新芯片為AI提速:消除片外內存,靈感來自大腦

發(fā)布時間:2023-10-20 17:54    發(fā)布者:eechina
·在傳統(tǒng)馮·諾伊曼架構下,計算和存儲分離。而北極點芯片使存儲單元在物理上盡可能接近計算單元中的計算元件。北極點芯片由256個計算單元組成,每個計算單元都有內存,通過消除片外內存,將計算與片上內存交織在一起。這些計算單元以一種網絡連接在一起,設計靈感來自于人類大腦。


北極點處理器芯片消除了頻繁訪問外部存儲器的需要,在圖像識別任務中比現有架構更快,能源消耗更少。

IBM研發(fā)的北極點(NorthPole)處理器芯片可避開訪問外部存儲器,提高計算能力,節(jié)約能源。

美國加利福尼亞州圣何塞的IBM研究人員開發(fā)了一種以大腦為靈感的計算機芯片,這款北極點處理器芯片消除了頻繁訪問外部存儲器的需要,在圖像識別任務中比現有架構更快,能源消耗更少。這表明計算和內存可以大規(guī)模集成。相關研究10月19日發(fā)表在《科學》雜志。

北極點芯片采用神經推理結構,由簡單計算單元組成的多層陣列通過編程來識別數據中的模式。底層接收數據,例如圖像中的像素;每一個連續(xù)的層檢測日益復雜的模式,并將信息傳遞給下一層;頂層輸出結果,例如可以表示圖像含有貓、汽車或其他物體的可能性。

在傳統(tǒng)馮·諾伊曼架構下,計算和存儲分離。傳統(tǒng)計算機芯片可以有效處理計算,但每次計算時仍然需要使用被稱為RAM的外部存儲器。因此不管處理器運行多快、性能多好,每次執(zhí)行運算時都需要把數據從存儲器搬到處理器中,數據處理完再搬回到存儲器。在以數據為主的AI計算之下,馮·諾伊曼架構的“存儲墻”和“功耗墻”挑戰(zhàn)凸顯。論文合著者、IBM計算機工程師達門德拉·莫達(Dharmendra Modha)表示,他曾估計在這種架構上模擬人類大腦可能需要12個核反應堆的能源輸出。

而北極點芯片使存儲單元在物理上盡可能接近計算單元中的計算元件。北極點芯片由256個計算單元組成,每個計算單元都有內存,通過消除片外內存,將計算與片上內存交織在一起。這些計算單元以一種網絡連接在一起,這種網絡的靈感來自于人類大腦皮層之間的白質連接。

在不使用最先進工藝的情況下,北極點芯片能耗是使用最先進技術的人工智能芯片的1/5。論文作者估計,如果北極點芯片設計采用最先進的制造工藝,其效率將是目前設計的25倍。論文提到,“在ResNet50基準圖像分類網絡上,相對于使用類似12納米技術工藝的GPU, 北極點實現了每瓦FPS(每秒傳輸幀數)的能量度量高25倍,每個晶體管FPS的空間度量高5倍,延遲時間度量低22倍!

不過,據《自然》雜志報道,即使是北極點芯片224兆內存對于大型語言模型來說也是不夠的,比如聊天機器人ChatGPT這樣的語言模型,即使在最精簡的版本中也要占用幾千兆的數據。而且該芯片只能運行預先編程的神經網絡,這些神經網絡需要在單獨的機器上提前訓練。但論文作者表示,北極點芯片架構可能在速度關鍵型應用中有用,比如自動駕駛汽車。

本文地址:http://m.4huy16.com/thread-843962-1-1.html     【打印本頁】

本站部分文章為轉載或網友發(fā)布,目的在于傳遞和分享信息,并不代表本網贊同其觀點和對其真實性負責;文章版權歸原作者及原出處所有,如涉及作品內容、版權和其它問題,我們將根據著作權人的要求,第一時間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

廠商推薦

  • Microchip視頻專區(qū)
  • 常見深度學習模型介紹及應用培訓教程
  • “芯”光璀璨,鵬城共賞——2025 Microchip中國技術精英年會深圳站回顧
  • 技術熱潮席卷三城,2025 Microchip中國技術精英年會圓滿收官!
  • 電動兩輪車設計生態(tài)系統(tǒng)
  • 貿澤電子(Mouser)專區(qū)
關于我們  -  服務條款  -  使用指南  -  站點地圖  -  友情鏈接  -  聯系我們
電子工程網 © 版權所有   京ICP備16069177號 | 京公網安備11010502021702
快速回復 返回頂部 返回列表