IEEE J. Quantum Electron更新 | 基于相位到振幅轉(zhuǎn)換的全光學(xué)神經(jīng)激活函數(shù)

逍遙設(shè)計(jì)自動(dòng)化

引言
3 F9 T( I: j' H5 I2 M" K人工神經(jīng)網(wǎng)絡(luò)（ANNs）在人工智能領(lǐng)域引發(fā)了革命，在圖像識別、音頻處理和自然語言處理等多種任務(wù)中展現(xiàn)出卓越的性能。然而，現(xiàn)代ANNs日益增長的計(jì)算需求促使研究人員探索受人腦啟發(fā)的非常規(guī)硬件平臺(tái)。硅基光電子技術(shù)作為神經(jīng)形態(tài)計(jì)算的有前途的候選者脫穎而出，具有波長輔助并行性、固有線性處理能力和低功耗等優(yōu)勢。
% b$ ~4 M2 F2 I5 L3 T2 R
! n4 K) B% M2 _ANNs的關(guān)鍵方面是激活函數(shù)，為網(wǎng)絡(luò)引入非線性，使復(fù)雜的模式識別成為可能。在本文中探討創(chuàng)新方法，利用無源光學(xué)諧振器中的相位到振幅（PTA）轉(zhuǎn)換來實(shí)現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。
, b6 X, k& u1 i. ^/ u4 |5 A3 @3 j


, Q' ?5 X) S0 E5 d相位到振幅轉(zhuǎn)換
  t- M  ]5 k& m: e& S5 _; Y. ]' S這種方法的核心概念是在無源光學(xué)濾波器（如微環(huán)諧振器，MRRs）中發(fā)生的非線性相位到振幅轉(zhuǎn)換。在這種方案中，信息被編碼在光載波包絡(luò)的相位中：
. z  a8 M* F: G- p/ W6 ?

+ Q: p9 s7 }$ _其中P是輸入功率，m是調(diào)制指數(shù)，n(t)是范圍從-1到1的歸一化信號。
8 y2 |: b6 Y$ C+ y; I/ \

& S4 Q! h8 U1 f0 o% H圖1展示了相位梯度對基于微環(huán)諧振器漏端口的IIR光學(xué)濾波器透射率的影響。
" r4 X' ?" v- ], a2 N* R1 \
光信號的頻率由相位編碼信息調(diào)制：
, b0 R8 T) j# X' T" g1 [
隨著光信號頻率因相位調(diào)制而變化，光學(xué)濾波器的透射率也隨之改變。這個(gè)過程產(chǎn)生了非線性PTA響應(yīng)，該響應(yīng)與輸入功率無關(guān)，使其非常適合低功耗應(yīng)用。
/ v3 ^9 c; P# Y' i
作為可重構(gòu)光子神經(jīng)元的微環(huán)諧振器
為了演示PTA轉(zhuǎn)換機(jī)制，我們將使用微環(huán)諧振器（MRR）作為光學(xué)濾波器。MRR漏端口的傳遞函數(shù)為：


) c2 `7 @$ \# x! N: X% g. L) k8 R
& p2 k# i+ s& C0 \0 W6 C其中s = √k，c = √(1-k)，k是耦合系數(shù)，ζ = γ exp(-j(2π(f + df)Tring))。
; {0 C$ W' k* k5 V' i) _7 x6 \
( C: h3 i: B* _; B1 P8 `. P) M
8 w- P  z. a. l( s5 K7 ?+ Z; s圖2

1 {( \' [: o6 G- S% k2 t" O2 N8 _圖2顯示了通過PTA轉(zhuǎn)換從單個(gè)MRR節(jié)點(diǎn)的漏端口獲得的不同激活函數(shù)：
(a) Soft-plus函數(shù)
(b) Sigmoid函數(shù)
(c) 高斯函數(shù)
" Q4 ~# g4 M& D7 I% F+ i. I+ m
通過調(diào)整兩個(gè)關(guān)鍵超參數(shù) - 調(diào)制指數(shù)m和頻率失諧df - 可以控制激活函數(shù)的形狀。這使我們能夠重現(xiàn)多種獨(dú)立于輸入功率且對相位不確定性具有容忍度的激活函數(shù)。

時(shí)延儲(chǔ)備計(jì)算
為了展示PTA轉(zhuǎn)換機(jī)制的實(shí)際應(yīng)用，將實(shí)現(xiàn)一個(gè)時(shí)延儲(chǔ)備計(jì)算（TDRC）方案，用于Santa Fe混沌時(shí)間序列的一步預(yù)測。
, d! @5 I+ p# Q* `
. l% v9 o( ~7 E+ ^5 R; m
+ U3 D( y# i% H( M圖3展示了用于Santa Fe混沌序列一步預(yù)測的TDRC設(shè)置。
. H+ Y9 j3 v; F- q; A
TDRC設(shè)置包括以下組件：
- q2 ]% _* C% r# D' @* p1.輸入處理：時(shí)間序列被歸一化并與掩碼矩陣相乘以進(jìn)行維度擴(kuò)展。
& K6 h: f6 K' a: L( t2.數(shù)模轉(zhuǎn)換：處理后的輸入轉(zhuǎn)換為模擬信號用于光學(xué)調(diào)制。
3.光學(xué)調(diào)制：信號使用幅度調(diào)制（AM）或相位調(diào)制（PM）調(diào)制光載波。
! a) X: e2 Y/ @  u: s; w4.光子儲(chǔ)備：帶有外部反饋環(huán)的MRR為儲(chǔ)備提供物理存儲(chǔ)。
5.光電檢測和模數(shù)轉(zhuǎn)換：光子儲(chǔ)備的輸出被檢測并數(shù)字化。
6.線性回歸：處理后的數(shù)據(jù)用于進(jìn)行一步預(yù)測。

性能評估
( S/ w/ E8 Z( f5 W使用幅度調(diào)制（AM）和相位調(diào)制（PM）方案評估TDRC系統(tǒng)的性能。使用的性能指標(biāo)是歸一化均方誤差（NMSE）。

- `3 ?- m* N+ o9 _! }! y圖4顯示了(a) AM的反饋強(qiáng)度和頻率失諧，以及(b) PM的調(diào)制指數(shù)和頻率失諧的NMSE函數(shù)。

4 [! e# b$ [7 Q4 r4 w0 T! h: z1 ~( `對于AM方案，在-4 GHz的負(fù)失諧和反饋強(qiáng)度η = 1時(shí)觀察到最佳性能，NMSE為0.12 ± 0.019。

5 j& X. \& j8 M, _% n利用PTA轉(zhuǎn)換的PM方案展現(xiàn)出更優(yōu)越的性能。在4 GHz的失諧和1.1的調(diào)制指數(shù)下，達(dá)到了0.024 ± 0.004的最佳NMSE。
# o2 e. M$ _) {) T' s8 a

( `5 N8 N2 S& H圖5顯示了AM（SR = 10 Gsa/s）和PM（SR = 10, 100 Gsa/s）的NMSE作為輸入功率的函數(shù)。
+ O- G! L" e" i- C: U7 c
PM方案在廣泛的輸入功率范圍內(nèi)優(yōu)于AM方案，展現(xiàn)出更高的性能和更好的功率效率。即使在低輸入功率（-10 dBm）下，PM方案也達(dá)到了0.041的NMSE，展示了PTA機(jī)制的功率獨(dú)立性。
3 X" d1 z! U4 g  g* l
/ a' V8 N* }# U, S9 [1 O9 s優(yōu)勢和應(yīng)用
提出的基于PTA的激活函數(shù)具有幾個(gè)優(yōu)勢：
1.功率獨(dú)立性：即使在低輸入功率下也能保持非線性效應(yīng)，適合低功率應(yīng)用。
2.可重構(gòu)性：通過調(diào)整調(diào)制指數(shù)和頻率失諧，可以使用單個(gè)MRR實(shí)現(xiàn)各種激活函數(shù)。
6 h3 h  f6 k; k. J( C  ~3 D) T- O3.高速操作：系統(tǒng)可以以高達(dá)2 Gsa/s的速率進(jìn)行處理（對于100 Gsa/s的采樣率），適合高速應(yīng)用。
4.集成：MRR的無源性質(zhì)使其與硅基光電子集成兼容，這對大規(guī)模神經(jīng)形態(tài)系統(tǒng)至為重要。

- c9 p8 B/ r2 T# E2 \* g5 F: h  T5 U這項(xiàng)技術(shù)的潛在應(yīng)用包括：
1.光學(xué)神經(jīng)網(wǎng)絡(luò)：基于PTA的激活函數(shù)可用于卷積神經(jīng)網(wǎng)絡(luò)和前饋網(wǎng)絡(luò)，提供額外的可訓(xùn)練元素。
$ T1 U# u% g+ a2 b2.復(fù)值神經(jīng)網(wǎng)絡(luò)：PTA機(jī)制可用于實(shí)現(xiàn)復(fù)值A(chǔ)NNs的復(fù)雜激活函數(shù)。
( J, {! F' t! z* ?0 S" i3.全光信號處理：PTA非線性可用于諸如全光ASK到PSK轉(zhuǎn)換等任務(wù)。
2 R# n7 p% g5 S( G% c" C+ C3 q$ l4.穩(wěn)健光子結(jié)構(gòu)：基于PTA的激活函數(shù)的功率獨(dú)立性可以為硅基光電子結(jié)構(gòu)中的高光學(xué)損耗提供穩(wěn)健性。
  C' `/ Q: {! p9 k& N0 J8 P$ F
結(jié)論
本文介紹了創(chuàng)新方法，利用無源光學(xué)諧振器中的相位到振幅轉(zhuǎn)換來實(shí)現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。通過利用微環(huán)諧振器的非線性響應(yīng)，我們可以創(chuàng)建對人工神經(jīng)網(wǎng)絡(luò)非常重要的各種激活函數(shù)。
+ E' p; o' e" v8 c: @. M) W4 v  I
0 Q# ]3 x% }$ q0 o與傳統(tǒng)的幅度調(diào)制方案相比，該系統(tǒng)在時(shí)延儲(chǔ)備計(jì)算方面表現(xiàn)出更優(yōu)越的性能。其功率獨(dú)立性、可重構(gòu)性和與硅基光電子技術(shù)的兼容性使其成為未來神經(jīng)形態(tài)計(jì)算系統(tǒng)的有力候選者。
. c' J- w4 F0 G: Q3 F: l
! A  g9 i& d8 U7 N+ ]隨著該領(lǐng)域研究的進(jìn)展，有望看到全光學(xué)神經(jīng)網(wǎng)絡(luò)的進(jìn)一步發(fā)展，可能會(huì)產(chǎn)生更高效、更強(qiáng)大的人工智能系統(tǒng)，克服傳統(tǒng)電子實(shí)現(xiàn)的局限性。

4 P! g& o" |8 o" b1 N參考文獻(xiàn)
[1] G. Sarantoglou, A. Bogris and C. Mesaritakis, "All-Optical, Reconfigurable, and Power Independent Neural Activation Function by Means of Phase Modulation," IEEE Journal of Quantum Electronics, vol. 60, no. 5, pp. 1-10, Oct. 2024, Art no. 8700206, doi: 10.1109/JQE.2024.3437353.
. U1 a. X0 i; u* O0 @3 o
2 Y/ F# H; X: s0 Q1 o( j, f; k

- END -

$ r, m( u' b( k' Q3 R. v軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
: H5 d1 \' X, ^) p( Q點(diǎn)擊左下角"閱讀原文"馬上申請
) M) j+ F- l+ O7 c) ~
: L6 X4 d" `0 c歡迎轉(zhuǎn)載
5 V: G- A- h9 z0 k8 \
轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
5 c  m" n- ?5 p: V. w. a/ y; Y! z若需原文鏈接，可留言或私信溝通~




& i9 I. }1 E! U0 h# h7 j4 d( r
$ o; o, }: b1 h6 q7 E; C: G7 ~5 @3 y
+ R5 @. X* l  `0 u) `( @關(guān)注我們

/ f$ B! N3 e$ D0 c+ e  q

. R! T2 X( }( G* n7 ` # P% H9 `( V# _. R

: M$ ]& R  p; i5 p% m' Q; i1 K

0 `- `3 u# A& @& d

                     

6 }/ L, ^0 n, F8 g* \6 f6 H* f

0 {" v- E% K4 f6 Z# F! {* V7 M
. r) c9 h8 |2 i* h& k# R

關(guān)于我們：
7 G( ^0 U: v% G' B2 d5 ?深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
; t0 |% D% s  u3 q
http://www.latitudeda.com/
9 K0 I* l1 _, e% b（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）