高帶寬應(yīng)用正以無形卻深刻的方式重塑現(xiàn)代社會的運轉(zhuǎn)肌理，在數(shù)字經(jīng)濟、民生服務(wù)、產(chǎn)業(yè)升級等多元領(lǐng)域構(gòu)筑起高效運轉(zhuǎn)的「隱形脈絡(luò)」。如人們指尖輕點完成的跨境購物，亦或是游戲玩家同步沉浸的云端游戲，這些看似尋常的日常背后，都依賴著高速數(shù)據(jù)中心的強勁支撐——而高帶寬正是保障數(shù)據(jù)中心高效運行的關(guān)鍵。

然而高帶寬應(yīng)用對應(yīng)的高性能計算成本正日益高昂。其所需的采樣和處理時鐘速率受到半導(dǎo)體物理特性和功率限制的雙重約束，導(dǎo)致速率越高，功耗和散熱壓力就會越大。如數(shù)據(jù)中心中采用的傳統(tǒng)電子信號處理鏈中，信號經(jīng)過有損耗的介質(zhì)傳導(dǎo)時，需要被精確計時和采樣，然后通過復(fù)雜的同步電路重建傳輸、恢復(fù)完整性，才能確保信息準確傳遞至下一個節(jié)點。這一過程依賴大量耗電的并行處理，成為制約效率提升的關(guān)鍵瓶頸。

深度學習技術(shù)為高帶寬應(yīng)用提供了新的探索方向。不過當前將模擬計算模式與深度學習相結(jié)合的方案，通常只針對圖像、語音或手勢在內(nèi)的低帶寬應(yīng)用。即便已經(jīng)開發(fā)出專為高寬帶設(shè)計的微波光子芯片，也僅限于少數(shù)固定的數(shù)據(jù)函數(shù)，且存在體積龐大、功率效率低下等問題。

針對這一困境，康奈爾大學團隊提出了微波神經(jīng)網(wǎng)絡(luò)（Microwave Neural Network, MNN）——一種可同時處理超高速數(shù)據(jù)和無線通信信號的集成電路。 MNN 通過捕獲信息稀疏但帶寬寬廣的輸入數(shù)據(jù)特征來處理頻譜分量。其優(yōu)勢是僅需兆赫茲（MHz）級的低速控制，便能以可編程方式處理跨數(shù)吉赫茲（GHz）的信號。然后利用耦合微波振蕩中的強非線性，在較窄的頻譜中表達其計算結(jié)果，便于電子讀出。在后期處理中，可通過線性回歸模型將其映射為二進制輸出。

傳統(tǒng)數(shù)字中繼和 MNN 方案對比

此外，MNN 還具有無可比擬的集成性能。其采用標準的互補金屬氧化物半導(dǎo)體（CMOS）技術(shù)制造，芯片面積僅占 0.088 mm2，功耗低于 200 毫瓦，可直接集成于通用模擬處理器當中。

相關(guān)研究成果以「An integrated microwave neural network for broadband computation and communication」為題，發(fā)表于 Nature Electronics 。

研究亮點：

* 研究開發(fā)并制造了首款可同時處理超高速數(shù)據(jù)和無線通信信號的低功耗集成電路，突破了傳統(tǒng)數(shù)字電路框架，利用微波物理原理實現(xiàn)計算 

* 與依賴于數(shù)字時鐘的傳統(tǒng)神經(jīng)網(wǎng)絡(luò)不同，MNN 在微波頻段利用模擬、非線性行為，可處理數(shù)十吉赫茲的數(shù)據(jù)流，且功耗低于 200 毫瓦，精度達 88%

* 應(yīng)用場景廣泛，涵蓋雷達跟蹤、便攜式智能設(shè)備（如智能手表）等多元領(lǐng)域，為高帶寬應(yīng)用提供了低功耗、高性能且輕量化的解決方案

論文地址：

??https://go.hyper.ai/rMZ2K??

關(guān)注公眾號，后臺回復(fù)「微波神經(jīng)網(wǎng)絡(luò)」獲取完整 PDF

更多 AI 前沿論文： 

??https://hyper.ai/papers??

訓練數(shù)據(jù)生成：針對多項任務(wù)「量身裁衣」

在數(shù)字模擬的后端訓練中，MNN 輸出的光譜數(shù)據(jù)包含從原始輸入中提取的信息，而非直接的數(shù)字輸出。對此，研究人員使用線性回歸模型，在降低帶寬內(nèi)對 625 個測量頻率進行了處理，并將這些特征映射到最終輸出。

之后，為得到最佳的參數(shù)化比特流，研究人員通過隨機選擇參數(shù)化比特流并在實驗中運行，最終為每個任務(wù)選擇出驗證性能/準確率最佳的選項。以下為在具體任務(wù)的優(yōu)化和評估中的數(shù)據(jù)設(shè)置：

* 在線性搜索和條件算法模擬方面，每個參數(shù)化比特流包含 500 個隨機生成 32 位序列的數(shù)據(jù)集，在十折交叉驗證中，將數(shù)據(jù)集分為 10 份，輪流用 9 份訓練，1 份用于驗證。使用 sklearn software package（scikit-learn 軟件包）的線性支持向量機，最大迭代次數(shù)為 5,000 次，采用平方合頁損失函數(shù)，正則化參數(shù)為 C=0.02，在 40 個參數(shù)化比特流上進行測試。

* 比特計數(shù)方面，類似于線性搜索，但最多進行 10,000 次迭代，并對 C 從 0.02 到 0.22 進行超參數(shù)掃描，構(gòu)建一個 32 類分類任務(wù)，標簽來自線性搜索數(shù)據(jù)集。

* 在基本位運算方面（與非、異或和或非），通過隨機梯度下降法擬合一個線性模型，采用邏輯損失函數(shù)和 0.3 的 L1 正則化強度，數(shù)據(jù)集包含 500 個隨機生成的 32 位序列，其中 16 位為固定標簽位。使用十折交叉驗證，任務(wù)是對每個輸出位進行多標簽分類，并在 120 個參數(shù)化比特流上進行測試。

* 在編碼分類方面，采用了 RadioML2016.10A 數(shù)據(jù)集，按照 8:2 的比例劃分為訓練集和驗證集。在 PyTorch 框架中，使用交叉熵損失訓練一個線性模型（單層），然后通過 AdamW 在 150 個 epoch 上進行優(yōu)化（學習率為 0.05；權(quán)重衰減為 0.03；批量大小為 128；衰減因子為 0.98）。訓練期間，數(shù)據(jù)會添加高斯噪聲（標準差為 0.01）進行增強，并在 13 個參數(shù)化比特流上進行測試。

在 MNN 雷達任務(wù)評估中，研究人員使用了一個數(shù)字神經(jīng)網(wǎng)絡(luò)后端預(yù)測目標的飛行模式，每次捕獲提供一個寬帶為 2GHz 的頻譜，每個場景的輸入為（L, S），其中 L=1000 次捕獲（涵蓋場景的總時間），S 為頻譜大小。之后研究人員采用深度 ResNet 架構(gòu)直接處理 MNN 輸出的頻譜數(shù)據(jù)。

其中，ResNet 由一個兩倍下采樣池化層和一個帶有兩個卷積層（內(nèi)核大小為 3）的殘差分支組成。卷積之間采用批量歸一化、修正線性單元激活和隨機失活正則化。

為訓練該模型，研究人員采用將比特流搜索與在實驗輸出上訓練后端神經(jīng)網(wǎng)相結(jié)合，以生成所需的分類結(jié)果。研究人員選擇了在目標計數(shù)任務(wù)中準確率最高的比特流，并收集了 500 種飛行場景實驗數(shù)據(jù)來訓練最終模型。為了訓練后端，研究人員應(yīng)用了交叉熵損失、二元交叉熵損失和均方誤差損失對模型進行優(yōu)化。

最后為了提升泛化性能，研究人員采用數(shù)據(jù)增強的方式進行，其中包括隨機移位、隨機偏置、隨機噪聲和隨機掩蔽等操作，所有增強操作以 20% 的概率應(yīng)用于每個樣本。

模型架構(gòu)及方法：通過非線性系統(tǒng)實現(xiàn)瞬間計算

MNN 微芯片的整體構(gòu)造如下圖所示。作為一款可同時處理超高速數(shù)據(jù)和無線通信信號的低功耗、輕量化集成電路，研究團隊將其稱為「一個以大腦為模型的計算系統(tǒng)」。其核心由一個非線性波導(dǎo)（標記為 A）和三個線性波導(dǎo)（分別標記為 B 、 C 、 D），以及增益單元（標記為 E）和耦合器（標記為 F）組成。

基于 45 nm RF CMOS 工藝制程的 MNN 芯片

具體來說，MNN 是一個非線性系統(tǒng)（下圖為其工作機制）。該系統(tǒng)通過 GSGSG（接地-信號-接地-信號-接地）波導(dǎo)注入千兆赫速度的信號，然后利用兩個重疊金屬層構(gòu)建的微型正交混合耦合器將這些輸入信號的功率分配到各個波導(dǎo)，這些較小部分的驅(qū)動信號隨后從波導(dǎo)反射回來并在耦合器的輸出端口疊加，最終再通過另一組 GSGSG 波導(dǎo)提取出來。

其中，非線性波導(dǎo)的頻率受入射微波驅(qū)動信號的幅度和相位影響較大；線性波導(dǎo)則不受其影響，提供穩(wěn)定的諧振模式。

輸入敏感源主要是波導(dǎo) A 內(nèi)的級聯(lián)耦合非線性諧振器。這些諧振器由非線性電容器與電感段組合而成，利用反并聯(lián)二極管產(chǎn)生具有多項式非線性的電容，其非線性程度受偏置電壓和微波信號強度影響。線性波導(dǎo)為可調(diào)長度的傳輸線，通過安裝在其長度上的開關(guān)調(diào)整微波信號返回路徑的長度，且不會引入失真。

之后更重要的是，通過一對連接在成對波導(dǎo)之間的開關(guān)（Spar）來建立參數(shù)（時變）耦合，這些開關(guān)由 N 型金屬氧化物半導(dǎo)體（NMOS）晶體管構(gòu)成，開關(guān)由速度僅為輸入數(shù)據(jù)百分之一（150 Mbit/s）的比特流控制，并通過第三條 GSGSG 波導(dǎo)傳輸。這種通斷參數(shù)耦合序列是為各種計算任務(wù)動態(tài)重新編程該神經(jīng)網(wǎng)絡(luò)模式的關(guān)鍵。

最后，為維持電路中由高幅度微波傳輸引起的非線性，研究采用薄柵氧化層功率放大器級 NMOS 晶體管的交叉耦合晶體管對提供再生飽和增益。

這套設(shè)計與傳統(tǒng)的 CMOS 振蕩器、用于光譜分析的復(fù)雜脈沖銳化電路，以及通過被動耦合高品質(zhì)因數(shù)諧振器產(chǎn)生窄帶梳的設(shè)計均有不同，它利用了商用 CMOS 工藝，故意讓耦合波導(dǎo)暴露于輸入微波中，借助諧振器內(nèi)部的非線性和不對稱性，實現(xiàn)了近乎瞬間的計算。

實驗設(shè)置及結(jié)果：分類任務(wù)最高準確率可達 88%，功耗低于 200 毫瓦

在實驗中，研究人員認為將電路簡化為最基本的組件可能會有所幫助，因此通過使線性波導(dǎo)與波導(dǎo) A 的標稱振蕩頻率高度失諧，減少了物理電路參數(shù)的數(shù)量。

MNN 中的非線性動力學建模方面，研究人員利用廣義耦合模理論簡化了 MNN 電路分析，將其簡化為耦合模模型。線性諧振器簡化為 LC tank 電路，通過調(diào)整開關(guān)改變傳輸線長度，以此改變其固有頻率；非線性波導(dǎo)包含多項式非線性電容器。電路中的損耗由交叉耦合晶體管對實現(xiàn)的飽和增益元件補償，且存在時變耦合。

之后進一步簡化實驗參數(shù)，重點關(guān)注非線性分布式諧振和線性諧振器的相互作用，將參數(shù)驅(qū)動開關(guān)表示為可調(diào)電容器。通過一組耦合模式表示簡化電路的非線性動力學，包括非線性諧振器與線性諧振器之間的耦合、內(nèi)部損耗以及與輸入驅(qū)動的相互作用等，這些動力學受非線性偏置電壓初始條件和微波驅(qū)動、慢速參數(shù)比特流的影響。

在電路仿真和布局上，研究人員在 Cadence Virtuoso 環(huán)境，基于 GlobalFoundries 45nm RF 絕緣體上硅（silicon-on-insulator）工藝的晶體管模型設(shè)計和仿真 CMOS 芯片，利用西門子的 Calibre 工具提取寄生電阻和電容，通過 2.5D EMX 電磁工具模擬波導(dǎo)、耦合器和傳輸線的布局，以準確建模高頻性能。

在用微波電路模擬高速數(shù)字任務(wù)中，因為由方波信號組成的千兆比特速率數(shù)字信號本質(zhì)上是頻譜范圍跨越數(shù)十吉赫茲的模擬信號，表明了 MNN 可以利用微波電路特性直接在頻域中執(zhí)行計算。這與在時域中運行的傳統(tǒng)數(shù)字硬件形成鮮明對比。 MNN 處理信號時，將輸出以特定振蕩模式呈現(xiàn)于窄頻段，無需嚴格保證時域信號完整性，還能從輸入信號寬帶寬捕獲特征，減少訓練單層數(shù)字神經(jīng)網(wǎng)絡(luò)所需的壓縮特征數(shù)量。

下圖所示展示了不依賴固定功能數(shù)字 CMOS 電路的情況下模擬超高速數(shù)字運算。期間以 150 Mbit/s 速率輸入 32 位比特流，非線性諧振迅速響應(yīng)，頻譜分析儀記錄并平均輸出以確保傅里葉變換可靠。重點關(guān)注 10-14 GHz 范圍（對應(yīng)衛(wèi)星通信 X 波段和 Ku 波段頻率）的計算特征。

MNN 模擬數(shù)十吉赫茲的超高速數(shù)字計算

結(jié)果表明，調(diào)整 150 Mbit/s 32 位參數(shù)比特流內(nèi)容并提取特定頻譜特征，可產(chǎn)生正確數(shù)字邏輯操作結(jié)果，如 8 位 NAND 操作，盡管存在有損傳輸電纜，測得的最佳準確率依然能達到約 85% 。而在由數(shù)百個邏輯門組成的一個總數(shù)計數(shù)器，即一種對輸入比特流中 1 的數(shù)量進行計數(shù)的電路，通過使用參數(shù)化比特流模擬這種行為的方法，經(jīng)線性層映射輸出，在驗證集上也達到了 81% 的準確率。這表明了其計算能力不因等效數(shù)字電路的復(fù)雜度增加而顯著下降。

另外，MNN 還被證明可在 10 Gbit/s 的數(shù)據(jù)流中執(zhí)行比特序列搜索，具有非常高的準確率，這為傳統(tǒng)通信中的高功耗最大似然序列檢測（Maximum Likelihood Sequence Detection, MLSD）技術(shù)提供了替代方案。同時，通過組合搜索和技術(shù)功能，MNN 成功模擬了一個條件算法，在保持低于 200 毫瓦功耗（176 毫瓦）的同時實現(xiàn)了 75% 的準確率。

在雷達目標檢測任務(wù)中，研究人員發(fā)現(xiàn) MNN 檢測細微頻率變化的能力非常適用于寬帶雷達應(yīng)用。研究通過模擬多架飛機沿不同多邊形軌跡飛行的空域場景，記錄雷達反射信號并轉(zhuǎn)換為模擬電壓波形，再調(diào)制方波中心頻率后輸入 MNN ，提取 8-10 GHz 頻譜范圍內(nèi)的平均輸出響應(yīng)，由數(shù)字神經(jīng)網(wǎng)絡(luò)后端推斷飛行軌跡。如下圖所示：

結(jié)果表明，在模擬 500 個飛行場景后，發(fā)現(xiàn) MNN 可通過對長時間捕獲的頻率變化形成不同響應(yīng)來學習飛行模式，從而表征目標飛行模式。 MNN 不僅可以預(yù)測動態(tài)目標數(shù)量、隔離特定目標運動、估計目標速度，還能識別多種多邊形飛行軌跡，且在不同數(shù)量飛機場景下均能實現(xiàn)高 F1 分數(shù)。

在無線信號分類任務(wù)中，研究人員測試了 MNN 處理最低頻率信號的能力，從而探索其在無線通信編碼方案識別中的應(yīng)用。實驗使用 RadioML2016.10A 數(shù)據(jù)集，包括 11 種調(diào)制類別（9 種數(shù)字調(diào)制和 2 種模擬調(diào)制）。各種基帶信號調(diào)制 50 MHz 載波后輸入 MNN，利用其靈敏度將低頻驅(qū)動信號的瞬態(tài)變換轉(zhuǎn)換為可觀測特征，在 8-8.5 GHz 范圍內(nèi)提取特征訓練后端線性層。

結(jié)果表明，部分參數(shù)能使 MNN 在調(diào)制分類任務(wù)中達到非常高的準確率，無線信號分類任務(wù)準確率可達 88%，與數(shù)字神經(jīng)網(wǎng)絡(luò)相匹配。這表明了 MNN 可作為深度學習加速器，在邊緣計算中發(fā)揮重要作用，不僅如此，還能大幅減小模型尺寸。

深度學習融合模擬計算大有可為

正如開篇所提，深度學習技術(shù)的不斷發(fā)展，為高帶寬應(yīng)用探索出一條新路徑。在本次研究之前，不少機構(gòu)已經(jīng)在此領(lǐng)域展開了探索，并發(fā)表多篇研究成果。這些成果為模擬計算和深度學習相結(jié)合的方式不斷演進、革新奠定了理論與實踐基礎(chǔ)。

例如，康奈爾大學團隊與馬里蘭大學團隊聯(lián)合發(fā)表的「Microwave signal processing using an analog quantum reservoir computer」提出，利用超導(dǎo)微波電路的連續(xù)時間模擬量子非線性動力學作為量子水庫，可直接處理模擬微波輸入信號，無需離散化，且連續(xù)變量系統(tǒng)能讓量子水庫訪問更大的希爾伯特空間。與以往基于數(shù)字量子電路的實驗不同，該方法能直接接收弱模擬微波信號并提取特征，克服了輸入瓶頸。

論文地址：

??https://www.nature.com/articles/s41467-024-51161-8??

又如，牛津大學、明斯特大學和?？巳卮髮W等團隊聯(lián)合發(fā)表的題為「Higher-dimensional processing using a photonic tensor core with continuous-time data」的研究。其中提出一種利用連續(xù)時間數(shù)據(jù)表示，開發(fā)空間、波長和射頻三個自由度，實現(xiàn)三維陣列輸入的矩陣向量乘法（MVM）計算。通過電光控制的光子張量核心與可重構(gòu)非易失性相變材料存儲器實現(xiàn)光子內(nèi)存計算，系統(tǒng)并行度高達 100，較僅使用兩個自由度的先前實現(xiàn)高兩個數(shù)量級，驗證了為光子內(nèi)存計算添加射頻自由度的可行性。

論文地址：

??https://www.nature.com/articles/s41566-023-01313-x??

而康奈爾大學此次提出的 MNN，進一步推動了模擬計算與深度學習在高帶寬場景的融合。其無需依賴數(shù)字時鐘、以微波物理原理實現(xiàn)超高速信號處理的特性，不僅彌補了傳統(tǒng)數(shù)字電路在功耗、帶寬上的局限，更展示了模擬計算在復(fù)雜任務(wù)中的潛力 —— 從雷達軌跡跟蹤到無線信號分類，MNN 以低功耗、小體積的優(yōu)勢，為邊緣計算、高速通信等領(lǐng)域提供了全新范式。

未來，隨著動態(tài)參數(shù)調(diào)節(jié)、端到端聯(lián)合訓練等技術(shù)的發(fā)展，模擬計算與深度學習的融合有望突破更多帶寬與效率瓶頸，為超高速數(shù)據(jù)處理、毫米波通信等前沿領(lǐng)域開辟更廣闊的應(yīng)用空間。一鍵獲取 2023—2024 年 AI4S 領(lǐng)域高質(zhì)量論文及深度解讀文章 ??