|
引言8 F" D: n6 D, ]( p1 L! `: e
基于可編程馬赫-曾德干涉儀(MZI)網(wǎng)格實(shí)現(xiàn)的光神經(jīng)網(wǎng)絡(luò)(ONN)已成為加速機(jī)器學(xué)習(xí)計(jì)算的方法。本文概述了基于MZI的光處理器,重點(diǎn)介紹了兩種關(guān)鍵架構(gòu) - Reck網(wǎng)格和Diamond網(wǎng)格,并分析了實(shí)現(xiàn)ONN的性能。" [) q$ D: c* ]* D
+ ?% y1 I+ x' t1 `; DMZI光處理器基礎(chǔ)" k1 C. l8 Y0 Q" K& [" {
光處理器的基本構(gòu)建模塊是2x2可重構(gòu)MZI,如圖11所示。由兩個(gè)3-dB耦合器組成,帶有可調(diào)相移器θ和φ,用于控制功率分配比和兩個(gè)輸出之間的相對(duì)相位。8 l0 U& ]' t/ W4 `9 E" O# B
oopqxrhyxww64076734929.png (420.64 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
oopqxrhyxww64076734929.png
4 小時(shí)前 上傳
, h" w6 g) r! c8 V& n( a9 {# j7 a1 [圖1:具有可調(diào)相移器θ和φ的2x2可重構(gòu)MZI示意圖。9 R4 V: u3 Y/ O! r
$ u+ R# c- @- y/ N7 t6 d單個(gè)MZI的單一轉(zhuǎn)移矩陣由下式給出:
% B5 W/ _8 V& s
3potgicok5u64076735029.png (106.42 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
3potgicok5u64076735029.png
4 小時(shí)前 上傳
* {% X. r4 r5 n+ [5 ?
/ O/ v5 P3 m" g" u4 y% n; S7 c通過(guò)在網(wǎng)格中級(jí)聯(lián)多個(gè)MZI,可以實(shí)現(xiàn)更大的單一變換。圖2所示的4x4處理器的Reck網(wǎng)格是一種三角形排列,可使用6個(gè)MZI實(shí)現(xiàn)任何4x4單一矩陣。& H: }0 n+ a4 c* K0 Y
5 \6 S( s, j+ C& b
bbtbhgtws5d64076735129.png (84.74 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
bbtbhgtws5d64076735129.png
4 小時(shí)前 上傳
0 i5 z. H) @) N7 r& `; t圖2:由6個(gè)MZI組成的4x4 Reck網(wǎng)格光處理器示意圖。, |7 P* ^1 O( Q1 [
, m% q/ d+ z1 d0 Q! y完整4x4 Reck處理器的單一矩陣由各個(gè)MZI矩陣的乘積給出:9 Q. h2 i$ k6 x7 [& F
v5gyerqtnfy64076735230.png (38.98 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
v5gyerqtnfy64076735230.png
4 小時(shí)前 上傳
: z! g5 D& e+ S. |- \, v) e/ j
) g% E9 H/ d" ?$ c6 z8 e光處理器編程+ [- h, j4 G$ F
要對(duì)光處理器進(jìn)行編程以實(shí)現(xiàn)所需的單一變換,必須確定每個(gè)MZI所需的相移。這是通過(guò)分解過(guò)程完成的,該過(guò)程將目標(biāo)矩陣依次乘以逆MZI矩陣:
$ \2 {5 o( @" s" [" o% p4 y' X
i2d2rtbjzyu64076735330.png (40.11 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
i2d2rtbjzyu64076735330.png
4 小時(shí)前 上傳
T; y( {% c9 W! c
6 M; F' L* _" g7 S' ] t
通過(guò)在每個(gè)步驟中將非對(duì)角元素設(shè)置為零,可以提取所需的相移。圖3顯示了4x4 Reck網(wǎng)格在此分解過(guò)程中考慮MZI的順序。- K, Q( n" g% z
x5rbbssmxsr64076735430.png (146.39 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
x5rbbssmxsr64076735430.png
4 小時(shí)前 上傳
3 X. b y; C9 F4 F圖3:4x4 Reck網(wǎng)格中用于編程的MZI分解順序。
& ~) y3 o2 |3 r% h1 z" h, v; |5 E& q! c5 r4 [& m+ O5 d
光神經(jīng)網(wǎng)絡(luò)
) B* Q+ j% i7 y, r! M! bONN利用這些可編程光處理器來(lái)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)層中的線性變換。圖4顯示了單層ONN的結(jié)構(gòu)。3 q6 `# |9 V" J' _6 q' K
1ioqdxfr24i64076735530.png (222.16 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
1ioqdxfr24i64076735530.png
4 小時(shí)前 上傳
/ `! \5 n U) T9 p# C
圖4:光學(xué)實(shí)現(xiàn)的單層神經(jīng)網(wǎng)絡(luò)示意圖。/ j( M( h; G8 u. d5 k$ B: x; o
0 N4 u6 r+ x, |7 b* D+ {光處理器實(shí)現(xiàn)權(quán)重矩陣W,而非線性激活函數(shù)通常以電子方式應(yīng)用。對(duì)于分類任務(wù),網(wǎng)絡(luò)接受多維輸入I0并為每個(gè)類別產(chǎn)生輸出概率。; H* Y) Q: {1 k0 Q7 s5 P
" P, u# {+ V0 J
網(wǎng)絡(luò)使用反向傳播進(jìn)行訓(xùn)練,通過(guò)最小化均方誤差等損失函數(shù)來(lái)優(yōu)化權(quán)重矩陣:
- S9 @+ E h, f) ]7 X
0jkfbzbd0vd64076735630.png (25.62 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
0jkfbzbd0vd64076735630.png
4 小時(shí)前 上傳
+ @( G2 w& r& A, x- e
0 J; y; x( m$ L; \; L0 O/ d圖5顯示了4類數(shù)據(jù)集示例和4x4 ONN的訓(xùn)練過(guò)程。# \+ A1 b. r9 h0 I9 \
v1o45em4svh64076735730.png (253.27 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
v1o45em4svh64076735730.png
4 小時(shí)前 上傳
: N) C* W4 b- P z% ?* a: i
圖5:(a)4類高斯數(shù)據(jù)集和(b)顯示4x4 ONN的損失和準(zhǔn)確度與訓(xùn)練周期的關(guān)系的訓(xùn)練過(guò)程。
3 b! c( e/ t9 Z: ^- p. i& N: _1 t4 V" ^& G2 r8 w# @
Diamond網(wǎng)格架構(gòu)
, R9 }: r* H0 pReck網(wǎng)格可以實(shí)現(xiàn)任何單一矩陣,但對(duì)制造誤差和光損耗很敏感。為解決這個(gè)問(wèn)題,提出了一種替代的Diamond網(wǎng)格架構(gòu),如圖6所示的4x4處理器。) [2 f+ b4 V W4 E' Z( u/ ^
1qdmqy20vq364076735831.png (496.17 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
1qdmqy20vq364076735831.png
4 小時(shí)前 上傳
% j. x s0 B+ H8 x: Y- r圖6:具有9個(gè)MZI的4x4 Diamond網(wǎng)格光處理器示意圖。
& k( ]! B. A% A/ j
4 j5 _ ?( u3 h0 H( J. R4 u6 Z% l4 O0 y與相同大小的Reck網(wǎng)格相比,Diamond網(wǎng)格使用額外的N(N-1)(N-2)/2個(gè)MZI。這提供了幾個(gè)優(yōu)點(diǎn):更對(duì)稱的拓?fù)浣Y(jié)構(gòu),具有平衡的光路能夠?qū)⒉恍枰墓庵囟ㄏ虻筋~外的輸出優(yōu)化權(quán)重矩陣的額外自由度. v; ~* L9 U) `2 N, z% |1 I8 N* ^( [
[/ol]
; [- r) n% P& P( E4x4 Diamond處理器的單一矩陣由下式給出:
4 A/ ]5 y" \) g6 k$ k
1prnfvrpj5e64076735931.png (71.81 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
1prnfvrpj5e64076735931.png
4 小時(shí)前 上傳
$ O: p& j, {+ d; [
9 H$ f4 a4 b, V; J1 I可以使用與Reck網(wǎng)格類似的分解過(guò)程對(duì)其進(jìn)行編程,遵循圖7所示的順序。
8 J1 C9 ?+ ^! l( `% D
zz1clakmcvm64076736031.png (236.55 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
zz1clakmcvm64076736031.png
4 小時(shí)前 上傳
|) a; Y2 e$ a2 T
圖7:4x4 Diamond網(wǎng)格中用于編程的MZI分解順序。
7 }# [; B+ ^$ r+ W. Z9 E8 s% N5 ^6 z6 X* |6 p8 e2 j
性能比較( W; M5 \% U9 S" i* q! ^( X
為比較Reck和Diamond架構(gòu),分析了各種大小的單層ONN的實(shí)現(xiàn)性能。圖8顯示了4x4處理器的分類準(zhǔn)確度與相位誤差的關(guān)系。
3 L8 K, h, C' X7 F* D* |4 A/ w
rlujfeftugo64076736131.png (125.34 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
rlujfeftugo64076736131.png
4 小時(shí)前 上傳
3 v8 S7 i/ t" X4 u* Y
圖8:4x4 Reck和Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系,每個(gè)MZI的損耗為(a)0 dB和(b)1 dB。
b# P1 I$ H$ }/ z5 R, k, j* U) G! ]4 _5 ]' \
Diamond網(wǎng)格對(duì)相位誤差表現(xiàn)出更好的魯棒性,尤其是在存在光損耗的情況下。這種優(yōu)勢(shì)在更大的網(wǎng)絡(luò)規(guī)模中變得更加明顯。
* g' x5 i, p4 v8 d
3 M+ |7 L8 }' [& V圖9比較了不同大小處理器(最大64x64)的準(zhǔn)確度與相位誤差的關(guān)系。, P8 u/ k: N$ y. O! S% ^9 g
p0oz0wwbgf364076736231.png (416.84 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
p0oz0wwbgf364076736231.png
4 小時(shí)前 上傳
~& D% o9 O- J) P圖9:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系。
" \* ?6 w+ \. i4 a7 n
; Y9 ]; U& K4 m7 j+ e& J% O對(duì)于較大的網(wǎng)絡(luò),高精度區(qū)域縮小,但Diamond網(wǎng)格在所有尺寸上都保持更好的性能。
% j2 j8 K2 v5 }1 y7 ~" @
5 C) j" p0 T7 M2 S+ c/ s& u圖10將此分析擴(kuò)展到包括每個(gè)MZI的光損耗影響。( e% G. a% X, c; \% f" P
kagrofhrnyk64076736332.png (391.07 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
kagrofhrnyk64076736332.png
4 小時(shí)前 上傳
9 ?+ B' a( ?1 c' U7 i+ Z1 N0 f圖10:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與損耗和相位誤差的關(guān)系。; S, z' j+ k' a$ k
1 n& ?7 R' {# M, t1 E
再次,Diamond網(wǎng)格在所有網(wǎng)絡(luò)規(guī)模上表現(xiàn)出更優(yōu)的魯棒性。
* } H# `8 E0 {5 c% ?
2 {: A l2 G* I; V最后,圖11總結(jié)了不同網(wǎng)絡(luò)規(guī)模的兩個(gè)關(guān)鍵性能指標(biāo) - 性能指標(biāo)(>75%準(zhǔn)確度的區(qū)域)和訓(xùn)練期間達(dá)到的最終損失值。
! O6 ^9 Q* X3 ]- r! J0 k9 k
ry5kcbvddlr64076736432.png (92.32 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
ry5kcbvddlr64076736432.png
4 小時(shí)前 上傳
7 q1 M$ ?' u6 m- K% U$ F; r$ B圖11:不同大小的Reck和Diamond ONN的(a)性能指標(biāo)和(b)最終損失值比較。
H/ q3 p% V. ?! l, e! w
I; w9 B% U% i/ @8 z i' }Diamond網(wǎng)格在這兩個(gè)指標(biāo)上始終優(yōu)于Reck網(wǎng)格,優(yōu)勢(shì)隨網(wǎng)絡(luò)規(guī)模增大而增加。
( h, `; v1 B u; P. B$ @0 ~5 h2 B
3 C4 U* E! `: U" ?8 N6 Q( y5 n結(jié)論' y' i) p# e4 \" p3 j
基于可編程MZI的光處理器為實(shí)現(xiàn)ONN和加速機(jī)器學(xué)習(xí)計(jì)算提供了有前途的平臺(tái)。Reck網(wǎng)格提供了可實(shí)現(xiàn)任何單一變換的緊湊設(shè)計(jì),但Diamond網(wǎng)格提高了對(duì)制造誤差和光損耗的魯棒性。這使Diamond架構(gòu)更適合實(shí)際的大規(guī)模ONN。硅基光電子制造和架構(gòu)設(shè)計(jì)的持續(xù)進(jìn)步可能會(huì)進(jìn)一步提高這些光處理器的性能,有望實(shí)現(xiàn)新一類超快速、節(jié)能的機(jī)器學(xué)習(xí)加速器。
# Z9 {4 B+ O5 D/ H
2 c9 e6 u) D( k; D8 ?3 s參考文獻(xiàn)* k# W: _% c) X. m2 L& _! m
[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.. L0 n( w: q1 ?# ]% T( c" u
END0 H$ X# w; U6 _- L) |
( m8 B, T6 V; [0 b: }6 F }/ \4 J# c
9 |) I, u! o# i8 F+ g軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
: y1 L( a, U7 O% T點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
) Q% S' i8 f3 w) o+ [7 T
! `( U& w j' y& h歡迎轉(zhuǎn)載
9 m+ B# q$ y3 Q P% X9 r' }8 `7 n X7 d- c: k& |
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!
/ @7 x+ V& j% {/ v; T u' w& w+ i! S/ J. @$ M) K* _; c. S% O+ H6 Y5 L
! u5 W9 w% E8 g- Z
, ~% C# i2 a, U8 l1 m8 b R
3xfam3wcrst64076736532.gif (16.04 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
3xfam3wcrst64076736532.gif
4 小時(shí)前 上傳
3 s o9 u& |6 m% h" A) z6 c2 `* N L5 k9 D& @/ `; ^
關(guān)注我們
* y( c5 U- U) ?0 O* @; E
+ }4 D/ f6 i0 K d1 W7 f: g! k- ?- ?! h' ]/ {; ~ b
vodpuva2mj564076736632.png (31.33 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
vodpuva2mj564076736632.png
4 小時(shí)前 上傳
4 h) W* Q7 D6 x$ Y1 A | 7 F* ^/ l6 p+ U2 E, R7 s. z
u5is0s3sr5f64076736732.png (82.79 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
u5is0s3sr5f64076736732.png
4 小時(shí)前 上傳
. E! ~! A: s v$ Z7 _
|
0 Q3 X/ L6 l! x) I5 E1 n
txrhkjadsy064076736832.png (21.52 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
txrhkjadsy064076736832.png
4 小時(shí)前 上傳
# U" ]& \$ ~! F+ `8 d | ) x' _. R% r' W7 e R5 \8 D2 ~8 W/ }
5 Z: p# k* f! s9 ?
$ \! D- F& i% {+ P3 I* M- K8 _; @, i
關(guān)于我們:" L- E" G. \' e- d! j
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
/ V% k r& [( Z* C* D* j3 ]6 ?
2 E6 q9 X3 S8 ^: W7 }- Z$ D4 thttp://www.latitudeda.com/) N% V5 |( ]! s, h: P7 W7 a7 Q# ?7 o g
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|