電子產業(yè)一站式賦能平臺

PCB聯盟網

搜索
查看: 16|回復: 0
收起左側

IEEE J. Quantum Electron更新 | 基于相位到振幅轉換的全光學神經激活函數

[復制鏈接]

371

主題

371

帖子

2000

積分

三級會員

Rank: 3Rank: 3

積分
2000
跳轉到指定樓層
樓主
發(fā)表于 2024-9-14 08:00:00 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
引言
% H4 T$ Y, ^' c人工神經網絡(ANNs)在人工智能領域引發(fā)了革命,在圖像識別、音頻處理和自然語言處理等多種任務中展現出卓越的性能。然而,現代ANNs日益增長的計算需求促使研究人員探索受人腦啟發(fā)的非常規(guī)硬件平臺。硅基光電子技術作為神經形態(tài)計算的有前途的候選者脫穎而出,具有波長輔助并行性、固有線性處理能力和低功耗等優(yōu)勢。
9 |' p, w- K: t2 D
# i7 b- _% d; A* I4 @  QANNs的關鍵方面是激活函數,為網絡引入非線性,使復雜的模式識別成為可能。在本文中探討創(chuàng)新方法,利用無源光學諧振器中的相位到振幅(PTA)轉換來實現全光學、可重構和功率無關的神經激活函數。# I6 {# |0 ~0 m7 `3 d3 J( e. \% C% _

9 F, C# o8 J  L) b) c- Z
% w; W/ [1 U. I. f$ V, @
! E: U( H3 }9 H" A" G0 ]8 V相位到振幅轉換! F# p& R- m( O: T
這種方法的核心概念是在無源光學濾波器(如微環(huán)諧振器,MRRs)中發(fā)生的非線性相位到振幅轉換。在這種方案中,信息被編碼在光載波包絡的相位中:+ U0 \8 S2 o% n: s4 H$ M" ?+ K# E

) N' N3 s8 U' a1 F, | 1 K# z$ J* G" [, ?1 W. `' Y
其中P是輸入功率,m是調制指數,n(t)是范圍從-1到1的歸一化信號。$ `9 z4 _/ _1 n: Q
2 j. K& D, F8 E" a* b* C& @$ k
6 c( z/ G) ?4 }. M
圖1展示了相位梯度對基于微環(huán)諧振器漏端口的IIR光學濾波器透射率的影響。; u5 o3 C) k+ P4 l; X

! t9 V0 e% M$ J) T光信號的頻率由相位編碼信息調制:! d0 A& k) O6 Z0 a2 }

7 s* L  u: i' X* G& c% ~+ H隨著光信號頻率因相位調制而變化,光學濾波器的透射率也隨之改變。這個過程產生了非線性PTA響應,該響應與輸入功率無關,使其非常適合低功耗應用。
7 Y) L& |: P) C5 F5 }/ Q% d' k1 n0 ^+ f) r8 T8 Q2 u" r! I& Y
作為可重構光子神經元的微環(huán)諧振器
' N- j& C' [4 u+ K. S0 R/ p為了演示PTA轉換機制,我們將使用微環(huán)諧振器(MRR)作為光學濾波器。MRR漏端口的傳遞函數為:
- f" j0 V6 y5 ?% u" y3 A
: s4 x; ], a* F
; _2 @8 j4 X" p; o6 J: y' N- f
- [3 t% e7 z" [# P# B其中s = √k,c = √(1-k),k是耦合系數,ζ = γ exp(-j(2π(f + df)Tring))。
7 W5 ?; ?9 }- i. W
/ O  r% I  q' A  @1 r- t1 h% I + ~% b4 V/ U7 {) C  y% p" P6 z
圖2
& [7 }+ L- c& ]: m7 I* x
* B) D6 ^# ?7 `$ T' U* }圖2顯示了通過PTA轉換從單個MRR節(jié)點的漏端口獲得的不同激活函數:0 F8 \; B! B' f- }3 O' A6 v3 A7 y
(a) Soft-plus函數
& R/ j/ S/ T5 D# T(b) Sigmoid函數' b. |8 I) |8 s* \
(c) 高斯函數
0 z6 A" r. q6 r  \+ o* N! e  H; K+ ?7 o$ E# K: X
通過調整兩個關鍵超參數 - 調制指數m和頻率失諧df - 可以控制激活函數的形狀。這使我們能夠重現多種獨立于輸入功率且對相位不確定性具有容忍度的激活函數。
7 N. j/ \3 o. Q8 K( C; g
$ L, q# \% f% J$ c8 T時延儲備計算9 d  M* C1 m/ ?$ p; E) s
為了展示PTA轉換機制的實際應用,將實現一個時延儲備計算(TDRC)方案,用于Santa Fe混沌時間序列的一步預測。
- K/ [2 `) j; v8 M6 d  j
+ `- M0 i1 M8 s1 s9 b
3 T, k* u0 ?# F. z! M$ p' o圖3展示了用于Santa Fe混沌序列一步預測的TDRC設置。
/ ?* Y  e1 c4 b% E; J) k0 C7 n
+ Y" S; }7 Q% x( ]: Y( N( c- A. bTDRC設置包括以下組件:
! T' _; }4 C- |6 C6 W1.輸入處理:時間序列被歸一化并與掩碼矩陣相乘以進行維度擴展。8 ?( B; T% h3 e6 H; Z; ?
2.數模轉換:處理后的輸入轉換為模擬信號用于光學調制。" y: G3 {! _! S/ e
3.光學調制:信號使用幅度調制(AM)或相位調制(PM)調制光載波。; g* D' v/ T6 k( ~
4.光子儲備:帶有外部反饋環(huán)的MRR為儲備提供物理存儲。
) P1 [% \6 l) F7 p+ h5.光電檢測和模數轉換:光子儲備的輸出被檢測并數字化。
1 n* W8 }8 U; v/ i' [, n6.線性回歸:處理后的數據用于進行一步預測。
, e" i5 D7 s) ]# T" R
- \8 j! E0 z) l性能評估
3 v! T5 ^4 V% ~使用幅度調制(AM)和相位調制(PM)方案評估TDRC系統(tǒng)的性能。使用的性能指標是歸一化均方誤差(NMSE)。- f4 D$ Q: x+ c3 \6 Z* o( T, ?8 t
4 Y7 n( P' q! M9 `! ^" ?4 O9 J
圖4顯示了(a) AM的反饋強度和頻率失諧,以及(b) PM的調制指數和頻率失諧的NMSE函數。
2 M& f. L% Q! f" |+ P+ K6 s
# I! r1 ^1 H: s! ]$ X: }5 f2 ~對于AM方案,在-4 GHz的負失諧和反饋強度η = 1時觀察到最佳性能,NMSE為0.12 ± 0.019。8 a( A% w' D; ?: {
, V2 [- D6 ^; `( H4 D
利用PTA轉換的PM方案展現出更優(yōu)越的性能。在4 GHz的失諧和1.1的調制指數下,達到了0.024 ± 0.004的最佳NMSE。; C1 v( n+ U& l1 ^4 c

) C  h+ p# g. M; ]- l
2 R# P) K8 Y# v# g) Z3 j圖5顯示了AM(SR = 10 Gsa/s)和PM(SR = 10, 100 Gsa/s)的NMSE作為輸入功率的函數。8 [9 K1 j- }  X* z$ G, r& y1 X

2 @9 Q* J7 ?2 P6 r" k$ VPM方案在廣泛的輸入功率范圍內優(yōu)于AM方案,展現出更高的性能和更好的功率效率。即使在低輸入功率(-10 dBm)下,PM方案也達到了0.041的NMSE,展示了PTA機制的功率獨立性。; s# X- U) a2 E) d- U% w: R( C4 q! ]
5 z5 v" D* K  G: H* ?. t
優(yōu)勢和應用% p6 T( h' G0 b( I
提出的基于PTA的激活函數具有幾個優(yōu)勢:
" [, R- f. `0 A. }6 E4 Y7 o$ Q1.功率獨立性:即使在低輸入功率下也能保持非線性效應,適合低功率應用。
$ l& ]! [  K# \  }4 J2.可重構性:通過調整調制指數和頻率失諧,可以使用單個MRR實現各種激活函數。# ?6 d' n  U7 X1 [* R
3.高速操作:系統(tǒng)可以以高達2 Gsa/s的速率進行處理(對于100 Gsa/s的采樣率),適合高速應用。
  c# V5 q3 _% o8 s* w4.集成:MRR的無源性質使其與硅基光電子集成兼容,這對大規(guī)模神經形態(tài)系統(tǒng)至為重要。
( C8 }! ~" g4 _1 W# i) a( {( t( O1 s4 c% Z
這項技術的潛在應用包括:5 _# l: B) K" V5 \: D
1.光學神經網絡:基于PTA的激活函數可用于卷積神經網絡和前饋網絡,提供額外的可訓練元素。' H9 z2 m' K9 H) c/ g
2.復值神經網絡:PTA機制可用于實現復值ANNs的復雜激活函數。
: A( `- B5 P0 @7 I* a2 T9 Q3.全光信號處理:PTA非線性可用于諸如全光ASK到PSK轉換等任務。9 ~" I3 T2 D# @. m- w2 J9 g
4.穩(wěn)健光子結構:基于PTA的激活函數的功率獨立性可以為硅基光電子結構中的高光學損耗提供穩(wěn)健性。) A2 p) @" `2 d. H9 R
+ ?9 {+ O( E+ t# P% |3 _
結論, x) _3 f7 z. o) {+ @. J4 P* \
本文介紹了創(chuàng)新方法,利用無源光學諧振器中的相位到振幅轉換來實現全光學、可重構和功率無關的神經激活函數。通過利用微環(huán)諧振器的非線性響應,我們可以創(chuàng)建對人工神經網絡非常重要的各種激活函數。) E& e- W5 W4 w% A( s5 ~

0 c+ @7 J+ K$ s3 J2 T與傳統(tǒng)的幅度調制方案相比,該系統(tǒng)在時延儲備計算方面表現出更優(yōu)越的性能。其功率獨立性、可重構性和與硅基光電子技術的兼容性使其成為未來神經形態(tài)計算系統(tǒng)的有力候選者。
. ~$ N5 h) c# `/ l% P+ u& \/ J8 ^2 v/ V8 |7 |7 B  F  _5 w# j
隨著該領域研究的進展,有望看到全光學神經網絡的進一步發(fā)展,可能會產生更高效、更強大的人工智能系統(tǒng),克服傳統(tǒng)電子實現的局限性。
$ \6 ?% K: i2 W4 ^$ G% m& F2 F1 D: e  m7 W# W( ?, [2 Q" @
參考文獻
/ R/ g1 m& y- j  o0 s& m* R[1] G. Sarantoglou, A. Bogris and C. Mesaritakis, "All-Optical, Reconfigurable, and Power Independent Neural Activation Function by Means of Phase Modulation," IEEE Journal of Quantum Electronics, vol. 60, no. 5, pp. 1-10, Oct. 2024, Art no. 8700206, doi: 10.1109/JQE.2024.3437353.3 a8 f( l) b) ?: M; E5 c
! C# G6 t3 F; Q9 E6 Q0 ]
4 y6 I4 U+ h" x3 w

/ q; \; [5 |  w7 w$ v. B- END -
" f" _9 ^4 p# @7 [& C" m( v& O" U8 c
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用,PIC Studio都可提升您的工作效能。
2 @$ i4 ?- S/ s7 v$ m0 _& U6 T' W點擊左下角"閱讀原文"馬上申請8 Y% B4 l" K: j! Q

5 w6 h6 a1 p/ B) Y0 C  L% L歡迎轉載
/ T6 T6 f- C9 M. w, t" ^
( Q1 H% J: z# Y- c6 m6 ?. R# [轉載請注明出處,請勿修改內容和刪除作者信息!  {: a. ?7 i' u& h" A: \, u
若需原文鏈接,可留言或私信溝通~
: X$ v- V" J- H, M5 s. F, k5 K$ P; T4 S$ P

, R6 L0 a1 q" r; U) L2 k- g) d1 M- W! ]& o9 e9 J6 c, d! M1 H
- ~) \; u; s# K  ]$ y
: f5 v* ]3 v' y, p) _4 ^# z

. ?2 Y: D0 @) Z5 ~3 m8 F3 k關注我們
; e) g$ o' r0 E
, D6 L: E, O" I7 q# L  F/ ^
8 o, T9 M" T0 T8 f) i0 ]

: M, X; @# ^+ z: c0 w* j( e& V* ^
- V7 G% t4 @8 D. p3 M

8 \3 ~2 x" R0 M% }. w5 ^

, |8 B, e- f# k3 G1 E 5 D4 ~4 u' f# t! Z( B* u, v
                      % D, x7 A% A7 |6 F$ {+ F% ?

. `/ R' i  ^7 k2 @5 ^7 |
7 a$ ^2 ^" d1 W1 X2 m9 _1 d  X

% G- g9 v3 w7 T

9 u3 P* W7 T' L; D: q" P* f' ^
3 {" z5 B' v% u+ q% @0 f0 J
; j% G' x* c0 ~% j
關于我們:' G; K" l$ \! G+ |' v5 K
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導體芯片設計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件,提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務,廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導體產業(yè)鏈發(fā)展,致力于為客戶提供前沿技術與服務。  Y& y" I5 R' V" v4 U2 M; G4 ]9 I
- Q, e6 o) z6 D! k' q2 t9 u. L! r) K
http://www.latitudeda.com/
( I6 H1 D' a, R# u  o! [(點擊上方名片關注我們,發(fā)現更多精彩內容)
回復

使用道具 舉報

發(fā)表回復

您需要登錄后才可以回帖 登錄 | 立即注冊

本版積分規(guī)則


聯系客服 關注微信 下載APP 返回頂部 返回列表