|
引言
) e1 O, {* | m基于可編程馬赫-曾德干涉儀(MZI)網(wǎng)格實現(xiàn)的光神經(jīng)網(wǎng)絡(luò)(ONN)已成為加速機器學(xué)習(xí)計算的方法。本文概述了基于MZI的光處理器,重點介紹了兩種關(guān)鍵架構(gòu) - Reck網(wǎng)格和Diamond網(wǎng)格,并分析了實現(xiàn)ONN的性能。
8 q6 L* r/ M8 S. q
* ]7 d9 t3 b4 d. V' G% YMZI光處理器基礎(chǔ)
% V' t, r2 _' v' T光處理器的基本構(gòu)建模塊是2x2可重構(gòu)MZI,如圖11所示。由兩個3-dB耦合器組成,帶有可調(diào)相移器θ和φ,用于控制功率分配比和兩個輸出之間的相對相位。6 P6 ?, s1 X/ s5 }* x! E
oopqxrhyxww64076734929.png (420.64 KB, 下載次數(shù): 5)
下載附件
保存到相冊
oopqxrhyxww64076734929.png
6 小時前 上傳
# ]+ K2 K/ R; |" `4 z圖1:具有可調(diào)相移器θ和φ的2x2可重構(gòu)MZI示意圖。( |3 {3 C8 o6 A9 a/ f d
0 w4 D' L& _$ q( w: r
單個MZI的單一轉(zhuǎn)移矩陣由下式給出:
/ i7 p, ^' d7 S2 Y% O* u) d
3potgicok5u64076735029.png (106.42 KB, 下載次數(shù): 6)
下載附件
保存到相冊
3potgicok5u64076735029.png
6 小時前 上傳
" o7 @$ N- _9 A: U. x m
# n/ j2 y' t! K通過在網(wǎng)格中級聯(lián)多個MZI,可以實現(xiàn)更大的單一變換。圖2所示的4x4處理器的Reck網(wǎng)格是一種三角形排列,可使用6個MZI實現(xiàn)任何4x4單一矩陣。- s" _4 D- q5 W; V0 c
1 L+ @- m' ]; h B
bbtbhgtws5d64076735129.png (84.74 KB, 下載次數(shù): 6)
下載附件
保存到相冊
bbtbhgtws5d64076735129.png
6 小時前 上傳
9 t; @4 P1 t+ n9 H& j
圖2:由6個MZI組成的4x4 Reck網(wǎng)格光處理器示意圖。
! ~9 A4 e2 V3 I P$ A, ^1 m5 \ ^4 _# q$ z& g5 ~# T
完整4x4 Reck處理器的單一矩陣由各個MZI矩陣的乘積給出:; W$ p! V7 T; Y& A. X
v5gyerqtnfy64076735230.png (38.98 KB, 下載次數(shù): 6)
下載附件
保存到相冊
v5gyerqtnfy64076735230.png
6 小時前 上傳
) J% ]6 N0 P3 n* t- n% F9 c+ Q/ a, o# h! y
光處理器編程
% v$ c$ t; x. R/ L6 P要對光處理器進行編程以實現(xiàn)所需的單一變換,必須確定每個MZI所需的相移。這是通過分解過程完成的,該過程將目標矩陣依次乘以逆MZI矩陣:
4 M" ]% h+ Y4 s3 ?8 Y& Q0 c
i2d2rtbjzyu64076735330.png (40.11 KB, 下載次數(shù): 6)
下載附件
保存到相冊
i2d2rtbjzyu64076735330.png
6 小時前 上傳
" S, d) N! Y- V
8 x, Q3 z+ s+ \+ X" q通過在每個步驟中將非對角元素設(shè)置為零,可以提取所需的相移。圖3顯示了4x4 Reck網(wǎng)格在此分解過程中考慮MZI的順序。2 P m" h' z6 W
x5rbbssmxsr64076735430.png (146.39 KB, 下載次數(shù): 5)
下載附件
保存到相冊
x5rbbssmxsr64076735430.png
6 小時前 上傳
- a) W# ]) w9 h% e8 A1 M5 }0 y
圖3:4x4 Reck網(wǎng)格中用于編程的MZI分解順序。- ]$ z& b) s9 G' w
" @9 u) `, K2 D! ]
光神經(jīng)網(wǎng)絡(luò)
. z7 [$ c9 \+ a5 GONN利用這些可編程光處理器來實現(xiàn)神經(jīng)網(wǎng)絡(luò)層中的線性變換。圖4顯示了單層ONN的結(jié)構(gòu)。/ k, h8 e) Y& u8 ?# s; O
1ioqdxfr24i64076735530.png (222.16 KB, 下載次數(shù): 5)
下載附件
保存到相冊
1ioqdxfr24i64076735530.png
6 小時前 上傳
/ V. p6 i* w6 I% W9 L# E
圖4:光學(xué)實現(xiàn)的單層神經(jīng)網(wǎng)絡(luò)示意圖。
! Z/ y; _3 j( w& H" M1 J) d- q
光處理器實現(xiàn)權(quán)重矩陣W,而非線性激活函數(shù)通常以電子方式應(yīng)用。對于分類任務(wù),網(wǎng)絡(luò)接受多維輸入I0并為每個類別產(chǎn)生輸出概率。& | t$ ?# E5 [4 N5 v4 w+ [) K6 o
1 L' H' ], j# j" k9 m+ w9 o& |網(wǎng)絡(luò)使用反向傳播進行訓(xùn)練,通過最小化均方誤差等損失函數(shù)來優(yōu)化權(quán)重矩陣:
7 q; D5 ~- I# T' X# v; m: {* x( g
0jkfbzbd0vd64076735630.png (25.62 KB, 下載次數(shù): 8)
下載附件
保存到相冊
0jkfbzbd0vd64076735630.png
6 小時前 上傳
# T- `. `& G# ]) _! Y) f3 k6 I
, b+ `; e9 T- t# T- z
圖5顯示了4類數(shù)據(jù)集示例和4x4 ONN的訓(xùn)練過程。
1 }( Y& b8 ^/ L( J9 _4 b
v1o45em4svh64076735730.png (253.27 KB, 下載次數(shù): 7)
下載附件
保存到相冊
v1o45em4svh64076735730.png
6 小時前 上傳
" k3 t3 q2 {) S/ b, ^- P& F圖5:(a)4類高斯數(shù)據(jù)集和(b)顯示4x4 ONN的損失和準確度與訓(xùn)練周期的關(guān)系的訓(xùn)練過程。
; ]/ \4 V9 x' }' |4 x+ O0 z) q: ~- k3 P
* P1 G+ l4 L r2 D& YDiamond網(wǎng)格架構(gòu)0 ~/ L* B3 |7 }0 F6 _
Reck網(wǎng)格可以實現(xiàn)任何單一矩陣,但對制造誤差和光損耗很敏感。為解決這個問題,提出了一種替代的Diamond網(wǎng)格架構(gòu),如圖6所示的4x4處理器。1 X' G* V3 Z3 Q. Y
1qdmqy20vq364076735831.png (496.17 KB, 下載次數(shù): 6)
下載附件
保存到相冊
1qdmqy20vq364076735831.png
6 小時前 上傳
i: c) S' H2 u! V1 R0 L圖6:具有9個MZI的4x4 Diamond網(wǎng)格光處理器示意圖。
# V# {2 U9 i+ O2 {: `$ b0 P
; `: V: U' l" \8 T與相同大小的Reck網(wǎng)格相比,Diamond網(wǎng)格使用額外的N(N-1)(N-2)/2個MZI。這提供了幾個優(yōu)點:更對稱的拓撲結(jié)構(gòu),具有平衡的光路能夠?qū)⒉恍枰墓庵囟ㄏ虻筋~外的輸出優(yōu)化權(quán)重矩陣的額外自由度& Q* p* Q4 T. a1 R! r3 u' C: h$ \
[/ol]
! c q4 i0 k2 G8 X: d+ T! p4x4 Diamond處理器的單一矩陣由下式給出:9 I: N3 G, q" l7 i) h
1prnfvrpj5e64076735931.png (71.81 KB, 下載次數(shù): 5)
下載附件
保存到相冊
1prnfvrpj5e64076735931.png
6 小時前 上傳
5 g4 |1 Z! u9 n: j
# d; E7 I. i& N0 l$ t. ]: M" ~+ E# v1 }
可以使用與Reck網(wǎng)格類似的分解過程對其進行編程,遵循圖7所示的順序。
: _/ P% S6 M! v `: P5 Q
zz1clakmcvm64076736031.png (236.55 KB, 下載次數(shù): 6)
下載附件
保存到相冊
zz1clakmcvm64076736031.png
6 小時前 上傳
# N3 c/ x3 f' y' j) q0 s圖7:4x4 Diamond網(wǎng)格中用于編程的MZI分解順序。6 @6 N! M9 b4 J. z5 e! D
0 {. D: I+ ]' C4 B2 o
性能比較
T, s% A/ f& H( D, t- ]為比較Reck和Diamond架構(gòu),分析了各種大小的單層ONN的實現(xiàn)性能。圖8顯示了4x4處理器的分類準確度與相位誤差的關(guān)系。
) R4 S. u) ]$ E
rlujfeftugo64076736131.png (125.34 KB, 下載次數(shù): 4)
下載附件
保存到相冊
rlujfeftugo64076736131.png
6 小時前 上傳
4 x( E2 J6 i _6 f" u' @: N
圖8:4x4 Reck和Diamond ONN的分類準確度與相位誤差的關(guān)系,每個MZI的損耗為(a)0 dB和(b)1 dB。) J& N! f! J( Q4 m, r; z
" `/ W' i! K, @- T. k8 Q. [) J
Diamond網(wǎng)格對相位誤差表現(xiàn)出更好的魯棒性,尤其是在存在光損耗的情況下。這種優(yōu)勢在更大的網(wǎng)絡(luò)規(guī)模中變得更加明顯。9 C" e& R9 @# d) o- |( R
- H& f4 n' M! W. Z; ^! g3 `. u圖9比較了不同大小處理器(最大64x64)的準確度與相位誤差的關(guān)系。
+ ~" e6 |8 ?2 p+ L4 h
p0oz0wwbgf364076736231.png (416.84 KB, 下載次數(shù): 6)
下載附件
保存到相冊
p0oz0wwbgf364076736231.png
6 小時前 上傳
% I2 [0 }$ `9 Q圖9:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準確度與相位誤差的關(guān)系。1 P$ U& |' j: J+ w2 s
' c. H, a! y/ s, j1 c) |, o- h對于較大的網(wǎng)絡(luò),高精度區(qū)域縮小,但Diamond網(wǎng)格在所有尺寸上都保持更好的性能。
, W& C. l' C$ I2 D s3 D0 L2 l$ p, \' F; u# L, K8 }: }
圖10將此分析擴展到包括每個MZI的光損耗影響。/ M4 b- @7 u$ ?- T& S
kagrofhrnyk64076736332.png (391.07 KB, 下載次數(shù): 6)
下載附件
保存到相冊
kagrofhrnyk64076736332.png
6 小時前 上傳
8 K: f& l" O; H( @
圖10:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準確度與損耗和相位誤差的關(guān)系。
, a$ V& B2 J, T
) F& E# C4 u9 a! x4 a% y3 h再次,Diamond網(wǎng)格在所有網(wǎng)絡(luò)規(guī)模上表現(xiàn)出更優(yōu)的魯棒性。6 K8 w! p! k' X5 L8 C- ~ z
% x& ~$ ?! K2 n2 h$ p, L最后,圖11總結(jié)了不同網(wǎng)絡(luò)規(guī)模的兩個關(guān)鍵性能指標 - 性能指標(>75%準確度的區(qū)域)和訓(xùn)練期間達到的最終損失值。8 m. O& W! X; @4 d" T6 r
ry5kcbvddlr64076736432.png (92.32 KB, 下載次數(shù): 7)
下載附件
保存到相冊
ry5kcbvddlr64076736432.png
6 小時前 上傳
- v* n6 B, W" e$ O: H圖11:不同大小的Reck和Diamond ONN的(a)性能指標和(b)最終損失值比較。, O3 m9 Q4 u9 n$ y$ v# p
9 _' U* i6 M0 S. D3 tDiamond網(wǎng)格在這兩個指標上始終優(yōu)于Reck網(wǎng)格,優(yōu)勢隨網(wǎng)絡(luò)規(guī)模增大而增加。4 i" s9 a) _2 A; d, N7 Q1 \
3 }1 {, A) C' @ P4 T結(jié)論
/ v7 ?! O) w% ~+ w基于可編程MZI的光處理器為實現(xiàn)ONN和加速機器學(xué)習(xí)計算提供了有前途的平臺。Reck網(wǎng)格提供了可實現(xiàn)任何單一變換的緊湊設(shè)計,但Diamond網(wǎng)格提高了對制造誤差和光損耗的魯棒性。這使Diamond架構(gòu)更適合實際的大規(guī)模ONN。硅基光電子制造和架構(gòu)設(shè)計的持續(xù)進步可能會進一步提高這些光處理器的性能,有望實現(xiàn)新一類超快速、節(jié)能的機器學(xué)習(xí)加速器。6 ]$ ~3 |# X& U4 }
! n* U! m( }- ^
參考文獻 M7 G! m6 O6 X" _2 R
[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.
# i/ N/ Z' K O; PEND
. G7 v7 w' j2 s& y
3 ~" E3 O( w: U9 ^+ \
' q& [( s8 k0 k( x g軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。, M1 J+ [) Y3 C$ e/ B
點擊左下角"閱讀原文"馬上申請' b( }& \1 O) n G
# a8 R6 z, A" h0 H" m
歡迎轉(zhuǎn)載
0 }) [: _8 M' B. M+ y: N4 Z. ]- k% w2 j/ m- G Y% L
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
( ? y9 f6 n, ]8 y: Y8 B# ?1 X2 ?6 `& x2 }! k- X; C# s% ?
& r6 e7 }3 p6 i( ~& F& v
4 R- }9 O: w: `1 B) }$ c
3xfam3wcrst64076736532.gif (16.04 KB, 下載次數(shù): 5)
下載附件
保存到相冊
3xfam3wcrst64076736532.gif
6 小時前 上傳
2 @5 j2 E& Y7 R$ P7 G3 e/ v
, p6 h4 q* m( v& C關(guān)注我們/ d& h5 d1 i$ d+ Z
. F! K5 I0 t4 S# j6 k& o
4 h5 v8 c/ x j$ k$ Y0 b! @$ K" [
vodpuva2mj564076736632.png (31.33 KB, 下載次數(shù): 5)
下載附件
保存到相冊
vodpuva2mj564076736632.png
6 小時前 上傳
4 a% k5 C: c0 m3 k# O! C% P |
0 o1 M# j V- e1 D! _3 S
u5is0s3sr5f64076736732.png (82.79 KB, 下載次數(shù): 8)
下載附件
保存到相冊
u5is0s3sr5f64076736732.png
6 小時前 上傳
8 m4 u0 A; [& m8 I( }7 m
| - v" l! Y9 N! e5 x1 T \( |
txrhkjadsy064076736832.png (21.52 KB, 下載次數(shù): 7)
下載附件
保存到相冊
txrhkjadsy064076736832.png
6 小時前 上傳
6 T' V6 J" V! o' R! H W _* S
|
W/ |% |9 I! Q0 {1 ]% J/ D! I. g- G- U1 j. c$ [% [5 C( a0 j) m3 z! U
3 G( e" L' N( A6 D' t A' }
% ~2 p' m9 h0 N6 j/ G8 O' G) }關(guān)于我們:
* J, V( s8 c) G& F/ w) Q+ @' c深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。" C9 U$ ?* D1 e9 V
- u% k6 q S, ~( H" o- b3 ?
http://www.latitudeda.com/
- M7 D1 c+ t+ e% t2 }: W0 ?9 u% h(點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|