|
引言! b" H8 F# M3 ]( s
基于可編程馬赫-曾德干涉儀(MZI)網(wǎng)格實(shí)現(xiàn)的光神經(jīng)網(wǎng)絡(luò)(ONN)已成為加速機(jī)器學(xué)習(xí)計(jì)算的方法。本文概述了基于MZI的光處理器,重點(diǎn)介紹了兩種關(guān)鍵架構(gòu) - Reck網(wǎng)格和Diamond網(wǎng)格,并分析了實(shí)現(xiàn)ONN的性能。. a5 [' ?, X8 S4 f/ p
9 o5 d( v( R# b" HMZI光處理器基礎(chǔ)4 e9 A8 M4 a% a! M; V: P- @
光處理器的基本構(gòu)建模塊是2x2可重構(gòu)MZI,如圖11所示。由兩個(gè)3-dB耦合器組成,帶有可調(diào)相移器θ和φ,用于控制功率分配比和兩個(gè)輸出之間的相對(duì)相位。
7 u2 n7 E' e8 \% [
oopqxrhyxww64076734929.png (420.64 KB, 下載次數(shù): 12)
下載附件
保存到相冊
oopqxrhyxww64076734929.png
11 小時(shí)前 上傳
8 I, K5 v6 m8 C" @1 Y; g @7 M
圖1:具有可調(diào)相移器θ和φ的2x2可重構(gòu)MZI示意圖。* v* T. C9 p9 N( w
6 F: L `: b n8 s
單個(gè)MZI的單一轉(zhuǎn)移矩陣由下式給出:
; P( w# A8 ?' \1 [$ n, G
3potgicok5u64076735029.png (106.42 KB, 下載次數(shù): 16)
下載附件
保存到相冊
3potgicok5u64076735029.png
11 小時(shí)前 上傳
V2 ]7 |; x' {* N$ H0 B9 g3 Z/ B) q, G+ r# g9 f8 a* }! P
通過在網(wǎng)格中級(jí)聯(lián)多個(gè)MZI,可以實(shí)現(xiàn)更大的單一變換。圖2所示的4x4處理器的Reck網(wǎng)格是一種三角形排列,可使用6個(gè)MZI實(shí)現(xiàn)任何4x4單一矩陣。! r/ ~2 k, t+ I" i% W s# {- ?* _7 T
2 Q2 z- d. V O* Y
bbtbhgtws5d64076735129.png (84.74 KB, 下載次數(shù): 15)
下載附件
保存到相冊
bbtbhgtws5d64076735129.png
11 小時(shí)前 上傳
! `/ B, r( j0 \( Q- A
圖2:由6個(gè)MZI組成的4x4 Reck網(wǎng)格光處理器示意圖。/ A4 z7 C) ? _( f
, K+ \; S# ]% B完整4x4 Reck處理器的單一矩陣由各個(gè)MZI矩陣的乘積給出:2 O8 g, q" O" n1 `& P' C1 U
v5gyerqtnfy64076735230.png (38.98 KB, 下載次數(shù): 10)
下載附件
保存到相冊
v5gyerqtnfy64076735230.png
11 小時(shí)前 上傳
! m2 t* @5 b/ K
) I- E5 j9 Q9 o# w
光處理器編程
8 L' ?" u) C4 t$ n$ x$ z. @* n要對(duì)光處理器進(jìn)行編程以實(shí)現(xiàn)所需的單一變換,必須確定每個(gè)MZI所需的相移。這是通過分解過程完成的,該過程將目標(biāo)矩陣依次乘以逆MZI矩陣:
8 T1 Z- f9 y. ]- Y( n
i2d2rtbjzyu64076735330.png (40.11 KB, 下載次數(shù): 15)
下載附件
保存到相冊
i2d2rtbjzyu64076735330.png
11 小時(shí)前 上傳
" D$ N; [; r$ D: w) N$ w- t
" g: K2 M6 G2 @# L# g2 t) U2 R通過在每個(gè)步驟中將非對(duì)角元素設(shè)置為零,可以提取所需的相移。圖3顯示了4x4 Reck網(wǎng)格在此分解過程中考慮MZI的順序。
2 w( `: H" h6 G% _2 e( g4 Z7 s+ V; o
x5rbbssmxsr64076735430.png (146.39 KB, 下載次數(shù): 15)
下載附件
保存到相冊
x5rbbssmxsr64076735430.png
11 小時(shí)前 上傳
, ^; R/ L0 g" m8 V* r$ Z' e3 H
圖3:4x4 Reck網(wǎng)格中用于編程的MZI分解順序。
+ v4 r8 ^' e, P; g; p% k6 G5 w4 X! K3 J0 x% Z* h- R- ^6 i
光神經(jīng)網(wǎng)絡(luò)
8 }8 \/ \7 r4 x( i5 ?ONN利用這些可編程光處理器來實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)層中的線性變換。圖4顯示了單層ONN的結(jié)構(gòu)。
/ o. l, {1 l/ x. ?7 P9 \4 k& h. ]
1ioqdxfr24i64076735530.png (222.16 KB, 下載次數(shù): 14)
下載附件
保存到相冊
1ioqdxfr24i64076735530.png
11 小時(shí)前 上傳
/ F5 R# \' S3 o: h圖4:光學(xué)實(shí)現(xiàn)的單層神經(jīng)網(wǎng)絡(luò)示意圖。
# V, ]" f4 m! l2 q/ O% q2 Q$ Q4 G) t/ Z1 i2 y \9 i# g
光處理器實(shí)現(xiàn)權(quán)重矩陣W,而非線性激活函數(shù)通常以電子方式應(yīng)用。對(duì)于分類任務(wù),網(wǎng)絡(luò)接受多維輸入I0并為每個(gè)類別產(chǎn)生輸出概率。9 \- n1 ^' ?0 ~* P _4 c8 U
& f4 e) ?3 E& p [1 T網(wǎng)絡(luò)使用反向傳播進(jìn)行訓(xùn)練,通過最小化均方誤差等損失函數(shù)來優(yōu)化權(quán)重矩陣:
6 {6 x% g" p! T
0jkfbzbd0vd64076735630.png (25.62 KB, 下載次數(shù): 18)
下載附件
保存到相冊
0jkfbzbd0vd64076735630.png
11 小時(shí)前 上傳
' |4 {: o6 P: P( `5 @4 A
( f; p' [; c, o; Q5 p/ O
圖5顯示了4類數(shù)據(jù)集示例和4x4 ONN的訓(xùn)練過程。
3 L9 `" r( B8 f
v1o45em4svh64076735730.png (253.27 KB, 下載次數(shù): 16)
下載附件
保存到相冊
v1o45em4svh64076735730.png
11 小時(shí)前 上傳
5 r( H4 y, O y5 |/ P* [3 Z
圖5:(a)4類高斯數(shù)據(jù)集和(b)顯示4x4 ONN的損失和準(zhǔn)確度與訓(xùn)練周期的關(guān)系的訓(xùn)練過程。
& Q3 p$ B( K: R' \! u5 s; R, G9 H& \8 v' Z
Diamond網(wǎng)格架構(gòu)- ^+ q X2 F2 W# X) \' F6 K
Reck網(wǎng)格可以實(shí)現(xiàn)任何單一矩陣,但對(duì)制造誤差和光損耗很敏感。為解決這個(gè)問題,提出了一種替代的Diamond網(wǎng)格架構(gòu),如圖6所示的4x4處理器。6 m* ^2 U5 V+ n( }6 c
1qdmqy20vq364076735831.png (496.17 KB, 下載次數(shù): 12)
下載附件
保存到相冊
1qdmqy20vq364076735831.png
11 小時(shí)前 上傳
4 B, J9 a1 C5 v: \: K& a, Y3 m
圖6:具有9個(gè)MZI的4x4 Diamond網(wǎng)格光處理器示意圖。0 P1 W1 C6 ?3 }1 A5 d# Q2 ^8 N* l8 V
9 K3 Z7 }' N5 u _與相同大小的Reck網(wǎng)格相比,Diamond網(wǎng)格使用額外的N(N-1)(N-2)/2個(gè)MZI。這提供了幾個(gè)優(yōu)點(diǎn):更對(duì)稱的拓?fù)浣Y(jié)構(gòu),具有平衡的光路能夠?qū)⒉恍枰墓庵囟ㄏ虻筋~外的輸出優(yōu)化權(quán)重矩陣的額外自由度) C* ?1 Y; H/ R. n4 u8 U9 n
[/ol]7 }, o0 U. V3 u/ X, {
4x4 Diamond處理器的單一矩陣由下式給出:' y v z3 Z: u% |( ~+ S
1prnfvrpj5e64076735931.png (71.81 KB, 下載次數(shù): 12)
下載附件
保存到相冊
1prnfvrpj5e64076735931.png
11 小時(shí)前 上傳
1 T2 p# l- D0 A* J8 c" n
3 I7 ~: \3 _7 T- {2 ^8 s可以使用與Reck網(wǎng)格類似的分解過程對(duì)其進(jìn)行編程,遵循圖7所示的順序。/ P9 G& O" V/ |6 w' c2 m4 J7 U
zz1clakmcvm64076736031.png (236.55 KB, 下載次數(shù): 16)
下載附件
保存到相冊
zz1clakmcvm64076736031.png
11 小時(shí)前 上傳
8 S, D+ k+ L2 E& G7 Y. p" q! O
圖7:4x4 Diamond網(wǎng)格中用于編程的MZI分解順序。
+ v0 }) f$ {8 h* `% |1 k" t# ^, n% G7 z
性能比較% u" _2 Y; j( {2 g. A) y# U8 R O
為比較Reck和Diamond架構(gòu),分析了各種大小的單層ONN的實(shí)現(xiàn)性能。圖8顯示了4x4處理器的分類準(zhǔn)確度與相位誤差的關(guān)系。# N7 D" X0 [: E+ U" f9 u& H4 z) S3 `9 e
rlujfeftugo64076736131.png (125.34 KB, 下載次數(shù): 14)
下載附件
保存到相冊
rlujfeftugo64076736131.png
11 小時(shí)前 上傳
6 `+ u, s+ D6 T7 d& M( e) Z
圖8:4x4 Reck和Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系,每個(gè)MZI的損耗為(a)0 dB和(b)1 dB。. _* @4 R. A2 w
4 V7 p/ q5 W8 BDiamond網(wǎng)格對(duì)相位誤差表現(xiàn)出更好的魯棒性,尤其是在存在光損耗的情況下。這種優(yōu)勢在更大的網(wǎng)絡(luò)規(guī)模中變得更加明顯。
: X) T. [! @7 k- I7 w: d! a" }) S% M
圖9比較了不同大小處理器(最大64x64)的準(zhǔn)確度與相位誤差的關(guān)系。
6 |& p$ W \4 h e5 Q" U0 \
p0oz0wwbgf364076736231.png (416.84 KB, 下載次數(shù): 14)
下載附件
保存到相冊
p0oz0wwbgf364076736231.png
11 小時(shí)前 上傳
# J1 r$ k# K% K! h/ U圖9:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系。
/ P6 T2 t+ V' ?2 @; }
5 e- m; W2 C0 l對(duì)于較大的網(wǎng)絡(luò),高精度區(qū)域縮小,但Diamond網(wǎng)格在所有尺寸上都保持更好的性能。
% O. O. e' P7 V) H; }7 A( i
) Z8 P, \' R& g) e圖10將此分析擴(kuò)展到包括每個(gè)MZI的光損耗影響。( V/ T! q9 O( f: `2 H# i; v& t
kagrofhrnyk64076736332.png (391.07 KB, 下載次數(shù): 13)
下載附件
保存到相冊
kagrofhrnyk64076736332.png
11 小時(shí)前 上傳
9 c+ q/ j2 i% F5 O& N( L' O
圖10:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與損耗和相位誤差的關(guān)系。
- B: R: F5 D, I1 v" P4 R r
9 p; P' a1 H0 p* S再次,Diamond網(wǎng)格在所有網(wǎng)絡(luò)規(guī)模上表現(xiàn)出更優(yōu)的魯棒性。6 g. v- Y" I9 Y4 W+ n+ d. f8 p$ `# X
3 j" j+ U7 @# b1 H/ @最后,圖11總結(jié)了不同網(wǎng)絡(luò)規(guī)模的兩個(gè)關(guān)鍵性能指標(biāo) - 性能指標(biāo)(>75%準(zhǔn)確度的區(qū)域)和訓(xùn)練期間達(dá)到的最終損失值。2 x. e" ~; K& C$ N, U
ry5kcbvddlr64076736432.png (92.32 KB, 下載次數(shù): 14)
下載附件
保存到相冊
ry5kcbvddlr64076736432.png
11 小時(shí)前 上傳
1 P1 Y9 d" S$ u2 v% d7 I8 G
圖11:不同大小的Reck和Diamond ONN的(a)性能指標(biāo)和(b)最終損失值比較。# Y H N/ k" i4 s7 ~" H! @
1 d" W) c. V1 F& `Diamond網(wǎng)格在這兩個(gè)指標(biāo)上始終優(yōu)于Reck網(wǎng)格,優(yōu)勢隨網(wǎng)絡(luò)規(guī)模增大而增加。5 F" c7 D1 a5 V
7 t; K( }8 O) s5 C
結(jié)論
8 J G* G' U+ w r% ]基于可編程MZI的光處理器為實(shí)現(xiàn)ONN和加速機(jī)器學(xué)習(xí)計(jì)算提供了有前途的平臺(tái)。Reck網(wǎng)格提供了可實(shí)現(xiàn)任何單一變換的緊湊設(shè)計(jì),但Diamond網(wǎng)格提高了對(duì)制造誤差和光損耗的魯棒性。這使Diamond架構(gòu)更適合實(shí)際的大規(guī)模ONN。硅基光電子制造和架構(gòu)設(shè)計(jì)的持續(xù)進(jìn)步可能會(huì)進(jìn)一步提高這些光處理器的性能,有望實(shí)現(xiàn)新一類超快速、節(jié)能的機(jī)器學(xué)習(xí)加速器。
& \, E0 A' Z* ~: G6 y) w
0 p5 j6 ^6 p& m V參考文獻(xiàn)
$ _7 m$ M5 P# z# w7 _) G# Q[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.
! m6 G6 x! U( t4 E& f9 OEND
1 V: E2 q" s7 V% ?7 P/ R
' X, L: j5 a+ D1 O. h' O4 a0 L6 a* i6 ^9 z5 }" {9 p5 P
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。4 B) R6 N S8 ^3 t. u' K/ v. V
點(diǎn)擊左下角"閱讀原文"馬上申請$ M* W0 a8 T! h {- T6 o3 v. T
8 b8 X" x; V8 E, ^4 ?/ k6 s# ?
歡迎轉(zhuǎn)載5 r; K; _7 s" v8 l a6 G
+ E& u! p( d. U# J7 A9 i$ w
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
! X3 X) |# F" P( o7 f- D
" {0 `- F! z& w+ ?) l
( _+ U7 H# p7 ]- Y4 J' q$ n) D; x- `* I% [ q( D/ u
3xfam3wcrst64076736532.gif (16.04 KB, 下載次數(shù): 13)
下載附件
保存到相冊
3xfam3wcrst64076736532.gif
11 小時(shí)前 上傳
( G2 u3 P o2 P6 K7 p7 h
6 m6 W7 ^. P; L# t' A關(guān)注我們
' K9 E% H- i( x) q
5 _3 M0 r% q, R& s" ?& H
9 A( n6 |3 _% X1 N* W
vodpuva2mj564076736632.png (31.33 KB, 下載次數(shù): 13)
下載附件
保存到相冊
vodpuva2mj564076736632.png
11 小時(shí)前 上傳
8 |5 z# k/ A' f" M | " l1 B$ v p% W, J/ F+ E
u5is0s3sr5f64076736732.png (82.79 KB, 下載次數(shù): 14)
下載附件
保存到相冊
u5is0s3sr5f64076736732.png
11 小時(shí)前 上傳
! }: F0 w+ D) o4 W% \! l. X* i
| ' _: o( a7 x, Q! P' ~- F- o0 Z
txrhkjadsy064076736832.png (21.52 KB, 下載次數(shù): 14)
下載附件
保存到相冊
txrhkjadsy064076736832.png
11 小時(shí)前 上傳
! w9 f+ }& B: Z; ]
|
, R2 U- u5 X& P/ |0 i- S5 r7 }* L; q
B5 p0 P& ]: v- l6 x! y' U6 e
) H, b7 c$ ~6 Q! C5 M4 h2 P
關(guān)于我們:- X6 j' \: m3 l9 I7 `, ^& p: P+ k
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。* T, G% |" C3 c+ M/ K. v
6 l0 A) l) P3 dhttp://www.latitudeda.com/
" u. Y$ E/ y0 F+ p8 o1 g& k(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|