|
引言 J* T; L! x8 L3 t- Q1 f& E! t% l
基于可編程馬赫-曾德干涉儀(MZI)網(wǎng)格實現(xiàn)的光神經(jīng)網(wǎng)絡(luò)(ONN)已成為加速機(jī)器學(xué)習(xí)計算的方法。本文概述了基于MZI的光處理器,重點(diǎn)介紹了兩種關(guān)鍵架構(gòu) - Reck網(wǎng)格和Diamond網(wǎng)格,并分析了實現(xiàn)ONN的性能。
2 \8 \! L6 S7 @( x4 ?6 y! n/ e# [- \: n# @0 e) m
MZI光處理器基礎(chǔ)
. ^) F: C4 a! s0 ^" R光處理器的基本構(gòu)建模塊是2x2可重構(gòu)MZI,如圖11所示。由兩個3-dB耦合器組成,帶有可調(diào)相移器θ和φ,用于控制功率分配比和兩個輸出之間的相對相位。
6 ]$ f3 z+ b; B
oopqxrhyxww64076734929.png (420.64 KB, 下載次數(shù): 0)
下載附件
保存到相冊
oopqxrhyxww64076734929.png
2 小時前 上傳
6 k, J c+ R- s; L2 B( b圖1:具有可調(diào)相移器θ和φ的2x2可重構(gòu)MZI示意圖。
: p! }* y+ @1 j9 j% v! O6 Q) K- \" O. c% F9 s
單個MZI的單一轉(zhuǎn)移矩陣由下式給出:3 ? O( c, D3 N! r- |
3potgicok5u64076735029.png (106.42 KB, 下載次數(shù): 0)
下載附件
保存到相冊
3potgicok5u64076735029.png
2 小時前 上傳
6 e% e2 ]9 i g* l. {2 r
, \0 Q% l! S% H9 P通過在網(wǎng)格中級聯(lián)多個MZI,可以實現(xiàn)更大的單一變換。圖2所示的4x4處理器的Reck網(wǎng)格是一種三角形排列,可使用6個MZI實現(xiàn)任何4x4單一矩陣。+ p( M! G! W9 X
' o. \5 N" W+ }+ S$ {0 k# n) f2 O
bbtbhgtws5d64076735129.png (84.74 KB, 下載次數(shù): 0)
下載附件
保存到相冊
bbtbhgtws5d64076735129.png
2 小時前 上傳
# `6 I4 H, s! J/ L5 v, e圖2:由6個MZI組成的4x4 Reck網(wǎng)格光處理器示意圖。
C% P; ~6 h3 |" E& K8 H/ e; a. r7 b4 ]- K+ r
完整4x4 Reck處理器的單一矩陣由各個MZI矩陣的乘積給出:
7 G+ J! W6 m7 w0 G8 X
v5gyerqtnfy64076735230.png (38.98 KB, 下載次數(shù): 0)
下載附件
保存到相冊
v5gyerqtnfy64076735230.png
2 小時前 上傳
W, ?& O( ]7 H i$ O9 a D- q- K7 O& W
光處理器編程
7 }$ k. V( @" y" `, Q; G要對光處理器進(jìn)行編程以實現(xiàn)所需的單一變換,必須確定每個MZI所需的相移。這是通過分解過程完成的,該過程將目標(biāo)矩陣依次乘以逆MZI矩陣:
$ b5 Q" M. `" z( x4 M9 b) z
i2d2rtbjzyu64076735330.png (40.11 KB, 下載次數(shù): 0)
下載附件
保存到相冊
i2d2rtbjzyu64076735330.png
2 小時前 上傳
( F3 R0 r% R7 a1 d& i# `( v- A4 d% D
通過在每個步驟中將非對角元素設(shè)置為零,可以提取所需的相移。圖3顯示了4x4 Reck網(wǎng)格在此分解過程中考慮MZI的順序。
; Q8 Y8 M' o9 s* `3 r; q
x5rbbssmxsr64076735430.png (146.39 KB, 下載次數(shù): 0)
下載附件
保存到相冊
x5rbbssmxsr64076735430.png
2 小時前 上傳
4 e8 C* V( @* q; w9 O
圖3:4x4 Reck網(wǎng)格中用于編程的MZI分解順序。' Q6 y- t' d F# b7 R- I
! |* `% @9 f3 |/ D
光神經(jīng)網(wǎng)絡(luò)8 l3 J# m5 ~, |' a+ g; B, j/ F, S
ONN利用這些可編程光處理器來實現(xiàn)神經(jīng)網(wǎng)絡(luò)層中的線性變換。圖4顯示了單層ONN的結(jié)構(gòu)。
4 L" p" |" V7 X5 L
1ioqdxfr24i64076735530.png (222.16 KB, 下載次數(shù): 0)
下載附件
保存到相冊
1ioqdxfr24i64076735530.png
2 小時前 上傳
/ M' l# @9 A7 f7 I: U: t
圖4:光學(xué)實現(xiàn)的單層神經(jīng)網(wǎng)絡(luò)示意圖。
9 U3 b) k4 ]' O
$ r( R& I" O% S; A1 h1 F光處理器實現(xiàn)權(quán)重矩陣W,而非線性激活函數(shù)通常以電子方式應(yīng)用。對于分類任務(wù),網(wǎng)絡(luò)接受多維輸入I0并為每個類別產(chǎn)生輸出概率。
' G1 b0 C3 g3 K+ n0 [- s8 b3 y4 z9 ~
網(wǎng)絡(luò)使用反向傳播進(jìn)行訓(xùn)練,通過最小化均方誤差等損失函數(shù)來優(yōu)化權(quán)重矩陣:
, X3 d$ _3 S- U Y
0jkfbzbd0vd64076735630.png (25.62 KB, 下載次數(shù): 0)
下載附件
保存到相冊
0jkfbzbd0vd64076735630.png
2 小時前 上傳
& ] C# J* ?+ ]0 `3 m
2 @- K5 B0 @2 Q3 Q. W, e- }; Z圖5顯示了4類數(shù)據(jù)集示例和4x4 ONN的訓(xùn)練過程。: a- Z" o4 e$ T& C% H8 P
v1o45em4svh64076735730.png (253.27 KB, 下載次數(shù): 0)
下載附件
保存到相冊
v1o45em4svh64076735730.png
2 小時前 上傳
3 T4 h$ J; p6 O: |6 t7 B/ z7 j8 u5 Y圖5:(a)4類高斯數(shù)據(jù)集和(b)顯示4x4 ONN的損失和準(zhǔn)確度與訓(xùn)練周期的關(guān)系的訓(xùn)練過程。
& S- m7 i, g- ]' B9 n
- I: e ^2 w5 z) H0 Y) ~. |# T3 DDiamond網(wǎng)格架構(gòu)
9 W) u$ j2 N( mReck網(wǎng)格可以實現(xiàn)任何單一矩陣,但對制造誤差和光損耗很敏感。為解決這個問題,提出了一種替代的Diamond網(wǎng)格架構(gòu),如圖6所示的4x4處理器。
9 U9 o. A; B# V
1qdmqy20vq364076735831.png (496.17 KB, 下載次數(shù): 0)
下載附件
保存到相冊
1qdmqy20vq364076735831.png
2 小時前 上傳
1 t. Z! Q' x, [4 ^# O9 a9 Y" F圖6:具有9個MZI的4x4 Diamond網(wǎng)格光處理器示意圖。+ b) r* m: I+ j+ i/ Y
+ K g, E4 n6 i% }' q1 f與相同大小的Reck網(wǎng)格相比,Diamond網(wǎng)格使用額外的N(N-1)(N-2)/2個MZI。這提供了幾個優(yōu)點(diǎn):更對稱的拓?fù)浣Y(jié)構(gòu),具有平衡的光路能夠?qū)⒉恍枰墓庵囟ㄏ虻筋~外的輸出優(yōu)化權(quán)重矩陣的額外自由度
! L. i- s8 d* d[/ol]
7 U8 g# U- q* E2 h* n4x4 Diamond處理器的單一矩陣由下式給出:1 A1 T& J$ j9 O' S9 Z: X9 m+ l- s
1prnfvrpj5e64076735931.png (71.81 KB, 下載次數(shù): 0)
下載附件
保存到相冊
1prnfvrpj5e64076735931.png
2 小時前 上傳
4 H. E* p! I: n) b) h0 t
$ M7 X2 k& W% A! o
可以使用與Reck網(wǎng)格類似的分解過程對其進(jìn)行編程,遵循圖7所示的順序。
/ P' p$ [& y) U1 A
zz1clakmcvm64076736031.png (236.55 KB, 下載次數(shù): 0)
下載附件
保存到相冊
zz1clakmcvm64076736031.png
2 小時前 上傳
0 Q1 j" Z2 r) C
圖7:4x4 Diamond網(wǎng)格中用于編程的MZI分解順序。
% u' q5 M& b) K, h% D' c( _5 X3 M
$ E( J' _0 K: k6 Z性能比較
. ], N& {- O/ B為比較Reck和Diamond架構(gòu),分析了各種大小的單層ONN的實現(xiàn)性能。圖8顯示了4x4處理器的分類準(zhǔn)確度與相位誤差的關(guān)系。
) \1 F& T7 B/ \2 M2 d5 ^* w
rlujfeftugo64076736131.png (125.34 KB, 下載次數(shù): 0)
下載附件
保存到相冊
rlujfeftugo64076736131.png
2 小時前 上傳
, R. N& P7 x6 Z$ |! c
圖8:4x4 Reck和Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系,每個MZI的損耗為(a)0 dB和(b)1 dB。# _2 K! k5 ] H3 C
0 ]6 U: |% l6 e' j3 ]Diamond網(wǎng)格對相位誤差表現(xiàn)出更好的魯棒性,尤其是在存在光損耗的情況下。這種優(yōu)勢在更大的網(wǎng)絡(luò)規(guī)模中變得更加明顯。
3 k% `6 [- G4 S# X$ |# y
3 o0 d3 W( L# c5 l7 b) ?/ F( v圖9比較了不同大小處理器(最大64x64)的準(zhǔn)確度與相位誤差的關(guān)系。
+ H+ B! h, x- b4 S, @* _; N4 M9 C
p0oz0wwbgf364076736231.png (416.84 KB, 下載次數(shù): 0)
下載附件
保存到相冊
p0oz0wwbgf364076736231.png
2 小時前 上傳
3 {, @$ n# c7 J# A, {) M
圖9:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系。
' |: E7 e% v: J) L) v7 P2 J9 R6 r6 G3 W( K
對于較大的網(wǎng)絡(luò),高精度區(qū)域縮小,但Diamond網(wǎng)格在所有尺寸上都保持更好的性能。
& x z7 o- n& X% k) d; ?& c$ h% i/ A, T" C
圖10將此分析擴(kuò)展到包括每個MZI的光損耗影響。8 ?0 A! G$ S4 q( H0 D( [
kagrofhrnyk64076736332.png (391.07 KB, 下載次數(shù): 0)
下載附件
保存到相冊
kagrofhrnyk64076736332.png
2 小時前 上傳
! D3 l& D' ?& R' w
圖10:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與損耗和相位誤差的關(guān)系。3 {* e: p# m0 u( E+ [' A( M
! B) j3 r! }, r0 d; L再次,Diamond網(wǎng)格在所有網(wǎng)絡(luò)規(guī)模上表現(xiàn)出更優(yōu)的魯棒性。# h* _ O; N* m9 G
( i# s" U# Y$ [6 S9 f
最后,圖11總結(jié)了不同網(wǎng)絡(luò)規(guī)模的兩個關(guān)鍵性能指標(biāo) - 性能指標(biāo)(>75%準(zhǔn)確度的區(qū)域)和訓(xùn)練期間達(dá)到的最終損失值。) {" Y) y/ R9 J' f g. q( @
ry5kcbvddlr64076736432.png (92.32 KB, 下載次數(shù): 0)
下載附件
保存到相冊
ry5kcbvddlr64076736432.png
2 小時前 上傳
( l+ ^/ q6 D+ w8 } X! O/ |圖11:不同大小的Reck和Diamond ONN的(a)性能指標(biāo)和(b)最終損失值比較。
5 h2 v# P) o) x' O+ ~2 t. R# j' q9 o- o5 Y/ B
Diamond網(wǎng)格在這兩個指標(biāo)上始終優(yōu)于Reck網(wǎng)格,優(yōu)勢隨網(wǎng)絡(luò)規(guī)模增大而增加。& B& f1 ]: B. `# q# g
6 _: \! L$ N/ |0 E$ C4 ^結(jié)論
/ y. W0 u# n* ?, e基于可編程MZI的光處理器為實現(xiàn)ONN和加速機(jī)器學(xué)習(xí)計算提供了有前途的平臺。Reck網(wǎng)格提供了可實現(xiàn)任何單一變換的緊湊設(shè)計,但Diamond網(wǎng)格提高了對制造誤差和光損耗的魯棒性。這使Diamond架構(gòu)更適合實際的大規(guī)模ONN。硅基光電子制造和架構(gòu)設(shè)計的持續(xù)進(jìn)步可能會進(jìn)一步提高這些光處理器的性能,有望實現(xiàn)新一類超快速、節(jié)能的機(jī)器學(xué)習(xí)加速器。
4 `8 P. g' ~: g( ~8 K \+ \9 `! l% L( j3 a( |/ Z+ c1 y0 K& J) a
參考文獻(xiàn)
- A0 I' G0 v/ P; v' O2 l# d. G[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.
3 q; |- x5 F1 d, _& wEND
# B0 t2 l4 j% O, b: y
' {# p7 n, {0 G/ L% h2 s4 N8 c
6 j" ~! h: l) m! a9 K: }8 H4 V軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
8 q" [( J4 o" q' d點(diǎn)擊左下角"閱讀原文"馬上申請$ o1 {: r3 |: B
( W; N; s& x$ O2 t; G0 |歡迎轉(zhuǎn)載
7 d( r; d7 V2 [6 j( j
/ k: Z7 p. [) A' ~' _/ c, R轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
7 Z1 N) u3 z9 i
|% ~/ ~2 ]% X" y3 e! p
4 O7 \9 T2 n+ c ]2 _. V7 F
# E. l5 K$ a5 B! k
3xfam3wcrst64076736532.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊
3xfam3wcrst64076736532.gif
2 小時前 上傳
; C, B3 _) L3 e! x" M& W4 H
9 M7 F3 |' d& {5 m* t
關(guān)注我們! `3 S/ I4 t0 Q- q: I8 z g
4 y) r, ^7 O# a" {: }2 l$ m4 R8 X! w) ^5 b
vodpuva2mj564076736632.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊
vodpuva2mj564076736632.png
2 小時前 上傳
8 K n! x1 k$ f' t | 1 }* _ C; o! k Q
u5is0s3sr5f64076736732.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊
u5is0s3sr5f64076736732.png
2 小時前 上傳
" p1 f; M" N1 i9 ^ | # G8 S& b& m* `
txrhkjadsy064076736832.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊
txrhkjadsy064076736832.png
2 小時前 上傳
" H! Z1 ]7 N/ N" x5 w
|
- ^$ ?$ ]/ i8 C* W: K" J
5 k9 d- W+ S5 O
, p7 r% P" d1 j( ~* t8 d! n# J- F. {; }" a% H8 B/ w& A
關(guān)于我們:
4 R, ?/ q+ l6 ^7 \' `深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。% F# U( q: y) j+ L6 f1 _
4 o- I. \' J( v r3 ^' A# Uhttp://www.latitudeda.com/3 A' `& k+ p& \ x( {) a3 r7 v
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|