|
引言
& a* z3 Z& ?% s/ A) F9 }' u近年來,計(jì)算能力的需求急劇增長(zhǎng),主要由ChatGPT等大型語(yǔ)言模型(LLMs)的日益復(fù)雜性推動(dòng)。這些模型模仿人類認(rèn)知,用于各種任務(wù),需要龐大的計(jì)算資源。隨著模型復(fù)雜度呈指數(shù)級(jí)增長(zhǎng),傳統(tǒng)計(jì)算系統(tǒng)難以跟上。本文探討新興的神經(jīng)形態(tài)計(jì)算領(lǐng)域及其在信息處理方面的潛力,重點(diǎn)關(guān)注光電子技術(shù)在這一新范式中的作用[1]。
3 C* U& W1 i2 Y9 p8 T- }9 K6 Q- b: O& n& k. W" ^: @
理解神經(jīng)形態(tài)計(jì)算& X, b! V5 W. Q8 S
神經(jīng)形態(tài)計(jì)算旨在硬件和軟件中模仿人腦的結(jié)構(gòu)和功能。與傳統(tǒng)計(jì)算機(jī)分離內(nèi)存和處理單元不同,神經(jīng)形態(tài)系統(tǒng)整合了這些功能,類似于我們大腦中的神經(jīng)元和突觸。這種方法有幾個(gè)優(yōu)勢(shì):能源效率:人腦執(zhí)行極其復(fù)雜的計(jì)算,僅消耗約20瓦的功率。神經(jīng)形態(tài)系統(tǒng)旨在實(shí)現(xiàn)類似的效率。并行處理:與大腦類似,神經(jīng)形態(tài)計(jì)算機(jī)可以同時(shí)執(zhí)行多項(xiàng)操作,而不是順序執(zhí)行。適應(yīng)性:這些系統(tǒng)可以學(xué)習(xí)并適應(yīng)新信息,類似于我們的大腦形成新的神經(jīng)連接。內(nèi)存計(jì)算:通過結(jié)合存儲(chǔ)和處理,神經(jīng)形態(tài)系統(tǒng)可以減少在獨(dú)立內(nèi)存和處理單元之間傳輸數(shù)據(jù)所浪費(fèi)的能源。- x0 [3 K* o# |9 L4 ~* z
[/ol]) u: I% K, F' T
, S/ g% b7 T$ L7 o1 U( }" {6 M
hxxfcmkjlef64090411656.jpg (341.36 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
hxxfcmkjlef64090411656.jpg
2024-11-5 03:27 上傳
8 \% S6 r$ H$ Z! A* h7 G
圖1:SpiNNcloud具有48個(gè)節(jié)點(diǎn)板的機(jī)架,是擁有100億個(gè)神經(jīng)元的神經(jīng)形態(tài)計(jì)算機(jī)的一部分。+ u7 ^. Z* b/ U6 l7 w
7 E0 ~# q+ s1 U% o神經(jīng)形態(tài)硬件的興起2 X4 n1 U: I% D. D: {1 V9 K, s0 _
幾家公司和研究機(jī)構(gòu)正在開發(fā)神經(jīng)形態(tài)硬件:
# Z' R. K) P2 g: s6 ]1. 英特爾的Loihi 2:英特爾第二代神經(jīng)形態(tài)芯片每個(gè)芯片支持約100萬(wàn)個(gè)神經(jīng)元。2022年,研究人員發(fā)現(xiàn)英特爾的神經(jīng)形態(tài)硬件在深度學(xué)習(xí)任務(wù)中的能源效率是傳統(tǒng)芯片的16倍。
7 q% ^% l. z/ `
m4s2xlfochw64090411756.jpg (133.38 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
m4s2xlfochw64090411756.jpg
2024-11-5 03:27 上傳
3 h: D9 D. X# f- J
圖2:英特爾的神經(jīng)形態(tài)硬件,在執(zhí)行深度學(xué)習(xí)任務(wù)時(shí)顯示出比傳統(tǒng)芯片高16倍的能源效率。: Q8 ]8 Q5 w2 Q3 K5 \ U
9 ~) ]) \7 b5 _5 Y4 E: b ^; F$ P2. SpiNNcloud Systems的SpiNNaker2:2024年5月宣布的這個(gè)系統(tǒng)擁有超過69,000個(gè)互連微芯片,總計(jì)超過100億個(gè)神經(jīng)元。每個(gè)芯片包含152個(gè)基于ARM的處理器核心,每個(gè)核心支持至少1,000個(gè)神經(jīng)元。
3 h: S& t0 P% O; ~4 T; [# D E
3. 桑迪亞國(guó)家實(shí)驗(yàn)室:2024年,桑迪亞擁有一個(gè)由英特爾構(gòu)建的11.5億神經(jīng)元系統(tǒng),由1,152個(gè)Loihi 2芯片組成。該系統(tǒng)的神經(jīng)元數(shù)量約等于貓頭鷹大腦,正用于探索神經(jīng)形態(tài)計(jì)算的潛在應(yīng)用并開發(fā)算法。
# ]% t5 E( j. f/ }# M* ]
5 l/ c4 T a$ A+ t5 f
nrtscf2q4nl64090411856.jpg (124.91 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
nrtscf2q4nl64090411856.jpg
2024-11-5 03:27 上傳
" _8 D) x! S( N1 f$ Y$ w圖3:桑迪亞計(jì)算研究人員檢查由1,152個(gè)英特爾Loihi 2芯片組成的新型11.5億神經(jīng)元神經(jīng)形態(tài)系統(tǒng)。
' D: w0 ]9 |7 }" ^; J+ J7 a. f) m- A3 L3 T' D% x
光電子技術(shù)在神經(jīng)形態(tài)計(jì)算中的作用
" G, S2 N v8 H; t隨著神經(jīng)形態(tài)系統(tǒng)的擴(kuò)大,組件之間快速和高能效的連接變得至關(guān)重要。這就是光電子技術(shù)發(fā)揮作用的地方。光電子技術(shù)為神經(jīng)形態(tài)計(jì)算提供了幾個(gè)優(yōu)勢(shì):高速互連:光連接可以以接近光速的速度在長(zhǎng)距離傳輸數(shù)據(jù),克服了電互連的限制。能源效率:特別是在較長(zhǎng)距離上,光信號(hào)消耗的功率比電信號(hào)少。帶寬密度:光互連可以實(shí)現(xiàn)比電連接更高的帶寬密度。* L2 b, a6 L3 h2 U% p9 @
[/ol]& e. o; H" Q' ?- H; d
! i( _0 i% r( g6 J+ H
5wx5bv2agk364090411956.jpg (123.75 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
5wx5bv2agk364090411956.jpg
2024-11-5 03:27 上傳
+ U" _! N" N/ }
圖4:英特爾的光計(jì)算互連,將光電子集成芯片與電子集成線路co-package的chiplet,能夠以4Tb/s的速度傳輸和接收數(shù)據(jù)。
9 H. }4 B" a N. P2 \; a( D5 Z2 P q- |6 v7 @. D5 W$ T
英特爾的光計(jì)算互連9 k; b4 @ u" ?& q8 J- Z g
英特爾開發(fā)了光計(jì)算互連,將光電子集成線路與電子集成線路結(jié)合。這項(xiàng)技術(shù)提供了幾個(gè)好處:更高的帶寬密度:co-package設(shè)計(jì)允許更高的數(shù)據(jù)傳輸率。提高功率效率:光信號(hào)在長(zhǎng)距離傳輸中消耗更少的功率。長(zhǎng)距離通信:光信號(hào)可以傳輸數(shù)百米而不會(huì)顯著衰減。
$ s) E6 q5 Q" K- |) }% x[/ol]5 y; H' n: h L0 B( F; V3 m
英特爾計(jì)劃將使用的波長(zhǎng)數(shù)量從8增加到16,將線速率從32增加到128 Gb/s,并將光纖對(duì)數(shù)量從8翻倍到16。預(yù)計(jì)這些改進(jìn)將在未來十年內(nèi)將帶寬從4 Tb/s提高到64 Tb/s。
3 G! Q0 i0 m3 J0 B8 W4 k0 M' C; \
: E. l. o: R& g% K) N7 zHPE的光電子神經(jīng)形態(tài)加速器# y" X$ t' u. q# q3 Z) L
惠普企業(yè)(HPE)正在開發(fā)一種將光電子技術(shù)與憶阻器技術(shù)結(jié)合的神經(jīng)形態(tài)加速器。該系統(tǒng)的主要特點(diǎn)包括:
4 d2 [% W* O* n, }8 w憶阻器激光器:這種器件可以電子方式改變其發(fā)射波長(zhǎng),并在斷電后保持該調(diào)整,模仿生物突觸的功能。基于波長(zhǎng)的數(shù)據(jù)存儲(chǔ):信息被編碼在光的波長(zhǎng)中,允許高效的數(shù)據(jù)存儲(chǔ)和處理。硅基光電子上的化合物半導(dǎo)體:這個(gè)平臺(tái)能夠?qū)⒓す馄、光檢測(cè)器、放大器和調(diào)制器集成到單片線路中。
$ f- W' k' V. Z9 H
$ Z3 E k7 p9 q0 y這種光電子方法的優(yōu)勢(shì)包括降低延遲、提高功率效率和固有的并行性。HPE計(jì)劃今年向DARPA提交原型,并計(jì)劃在五年內(nèi)基于這項(xiàng)技術(shù)開發(fā)商業(yè)神經(jīng)形態(tài)計(jì)算機(jī)。
/ R" V* g$ p2 W
) _* t7 [7 @% u3 Y! {神經(jīng)形態(tài)計(jì)算的應(yīng)用8 J" {/ l- t4 C, L6 }8 T
神經(jīng)形態(tài)系統(tǒng)有潛力在各種應(yīng)用中表現(xiàn)出色:/ R9 }' I" m) y* }9 y
大型語(yǔ)言模型:支持像ChatGPT這樣的AI模型的日益復(fù)雜性。優(yōu)化問題:解決復(fù)雜的調(diào)度和物流挑戰(zhàn),例如航空公司航班重新安排。科學(xué)模擬:模擬熱傳遞、氣體擴(kuò)散和核聚變反應(yīng)等現(xiàn)象。成像:提高醫(yī)療保健中圖像分析的速度和準(zhǔn)確性。金融建模:改進(jìn)風(fēng)險(xiǎn)評(píng)估和市場(chǎng)預(yù)測(cè)。
* ?; A$ t6 Q! h, L! N! F) F( S. K2 s+ }% p9 p: S6 k. E
挑戰(zhàn)和未來方向
4 Q- I' K$ @* n. v0 k) y3 s7 j1 i盡管神經(jīng)形態(tài)計(jì)算顯示出巨大潛力,但仍需解決幾個(gè)挑戰(zhàn):
4 }1 n6 b4 d3 d算法開發(fā):創(chuàng)建能夠充分利用神經(jīng)形態(tài)硬件獨(dú)特架構(gòu)的軟件。可擴(kuò)展性:開發(fā)高效連接和協(xié)調(diào)大量人工神經(jīng)元的方法。理解大腦功能:隨著我們對(duì)大腦如何編碼和處理信息的認(rèn)知改進(jìn),神經(jīng)形態(tài)設(shè)計(jì)可能需要相應(yīng)進(jìn)化。與現(xiàn)有系統(tǒng)集成:在異構(gòu)系統(tǒng)中找到神經(jīng)形態(tài)加速器和傳統(tǒng)計(jì)算組件之間的正確平衡。. T+ f7 K- v$ ~5 o6 p' o1 d, m3 R
! X1 c0 o7 x/ Q! F# A& F1 S
計(jì)算的未來可能是異構(gòu)的,專用加速器與傳統(tǒng)CPU和GPU一起工作。神經(jīng)形態(tài)系統(tǒng)可能成為這個(gè)生態(tài)系統(tǒng)的重要組成部分,處理從類腦處理中受益的特定類型問題。0 y5 R& P8 Y. H
( R# [; h7 s7 B5 \, b5 R
結(jié)論
0 \! {. t- d; P9 {) ? W0 d神經(jīng)形態(tài)計(jì)算代表了處理信息方式的范式轉(zhuǎn)變。通過模仿大腦的結(jié)構(gòu)和功能,這些系統(tǒng)提供了在能源效率、適應(yīng)性和并行處理能力方面實(shí)現(xiàn)顯著改進(jìn)的潛力。將光電子技術(shù)集成到神經(jīng)形態(tài)架構(gòu)中進(jìn)一步增強(qiáng)了這些優(yōu)勢(shì),有可能克服傳統(tǒng)電互連的限制。
6 ^( w' c- _) ~# V/ T" O! Z8 j# k$ E, M) R! K) I
隨著這一領(lǐng)域研究的進(jìn)展,可以預(yù)期神經(jīng)形態(tài)系統(tǒng)將在解決復(fù)雜計(jì)算挑戰(zhàn)方面發(fā)揮越來越重要的作用,從支持先進(jìn)的AI模型到解決各行業(yè)的優(yōu)化問題。雖然傳統(tǒng)計(jì)算仍將有其地位,但神經(jīng)形態(tài)計(jì)算的興起和光電子技術(shù)的結(jié)合可能預(yù)示著計(jì)算能力的新時(shí)代。
8 P3 a9 ~! e2 P# H0 p) u/ G3 W+ W
" I$ s! Q0 i, m c, b( g參考文獻(xiàn)' a" j$ y6 _% w3 I: G
[1] H. Hogan, "The rise of brain-like computers and the role of photonics," SPIE Photonics Focus, Sep./Oct. 2024. [Online]. Available: https://spie.org/news/photonics-focus/septoct-2024/building-brainlike-computers#_=_; `$ N- k( g1 g2 K+ z/ I
END- } B; r0 u9 l8 T2 L1 }
2 x0 H, J* \0 }# i
( J: m5 Y J1 ?9 B% U軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。' J- m8 L# Y0 z! _& O! Q$ L
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
1 h) u: z/ G" a/ {! I* G: G9 [$ d5 ^9 N4 e: B& H
歡迎轉(zhuǎn)載
7 ^ F4 o& Z# ^6 i
& d; i& w4 b# t/ X7 a' {* z8 s轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!2 c* `: O" X# p) K6 ?
! j; X5 y# A# Y- O" k2 z- n
4 l; K: V0 |3 s5 S, c, L" D+ E5 C3 l1 v7 \8 w3 Z, e A' \
d1hstlpcjme64090412056.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
d1hstlpcjme64090412056.gif
2024-11-5 03:27 上傳
4 p6 I8 @, H( s( Q+ {
, H d+ n6 { b/ S. C/ z, }關(guān)注我們, m0 P4 ~7 `/ k- V5 m
' ?3 [. @3 K4 \# c& Z# p4 |, g
0 S6 Z! I( V4 E9 X( m5 p2 C3 @! x
pfn3bej03ke64090412156.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
pfn3bej03ke64090412156.png
2024-11-5 03:27 上傳
) [ w8 {. R. p0 M+ c. T4 [
|
1 B% _- z- r; K- q. U
izga3q5lg5364090412256.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
izga3q5lg5364090412256.png
2024-11-5 03:27 上傳
& X. x6 [# J: Y4 X% j: m |
, r; C* v) L5 l- f
vgkquissgn364090412356.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
vgkquissgn364090412356.png
2024-11-5 03:27 上傳
' K0 w: O: i4 M, n4 f1 Q1 Y | 9 J& Y, E* h2 _& G \# U% M
/ \- ^$ B+ e+ N1 E% I0 R0 C5 I2 B! t. P6 g* O
3 q0 } i! ~. r3 j% S& A& q
關(guān)于我們:! b4 ~7 K9 O/ b( z! Q" Q H% M% a
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
6 @! G8 E& D; }7 C- V
0 f5 Q0 y* P# X) Q# H. thttp://www.latitudeda.com/6 W s7 a t/ `# n
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|