光學線路交換在 AI 資料中心的五種架構角色

本文根據 Futurewei Technologies 的 F. Effenberger 於 2025 年 9 月發表的簡報，整理光學線路交換（Optical Circuit Switching，OCS）技術原理、商業部署現況，以及其在 AI 資料中心 Fabric 中的五種架構應用。

為何重要

AI 叢集中數千個加速器之間的全對全（all-to-all）通訊要求每個節點以微秒精度同步交換梯度與模型權重，電氣封包交換機每跳產生的序列化延遲與 O/E/O 轉換功耗已成為制約叢集規模的明確瓶頸。NVIDIA 在 OCP EMEA 2025 的公開分析顯示，OCS 與共封裝光學（Co-Packaged Optics，CPO）的組合可將網路功耗從 83 pJ/b 降至 31 pJ/b，改善幅度達 2.6 倍。

為何選擇 OCS 而非光學突發交換

OCS 以整個光學埠為粒度建立直接光通道，信號路徑中完全不經過 O/E/O 轉換，對速率與協議完全透明：今日承載 100G 流量的 OCS 無需改動硬體即可承載 800G。相對地，光學突發交換（Optical Burst Switching）仍需封包感知能力，無法達到相同程度的透明性；傳統電氣脊（spine）交換機每個交換節點產生約 1 μs 延遲加上每個光學模組 100 ns 延遲，而 OCS 的交換延遲僅約 5 ns 且無光學模組延遲，每跳節省約 1 μs。AI 訓練的線路重配置發生在任務邊界（秒至分鐘時間尺度；各類 OCS 實現技術（MEMS、液晶、矽光子）均可滿足此需求門檻，選擇取決於埠數、插入損耗與成本的整體取捨。

OCS 功耗改善量測結果

電氣可插拔光學搭配傳統脊層架構（無 OCS）的網路每比特能耗基準為 83 pJ/b；改用 CPO 後降至約 53 pJ/b；加入 OCS 取代電氣脊交換機後進一步降至 31 pJ/b，總降幅達 62%。此數據來自 NVIDIA 在多個架構場景下的完整分解分析，涵蓋收發器、交換機與互連各級的能耗貢獻，而非單一元件測試結果，因此代表系統層級的可重現改善。

NVIDIA OCP EMEA 2025 能耗分析，比較四種架構場景（可插拔光學/無 OCS、可插拔光學/有 OCS、CPO/無 OCS、CPO/有 OCS）的每比特網路能耗分解。CPO 搭配 OCS 實現每比特 31 pJ/b，相較 83 pJ/b 基準達 2.6 倍功耗改善。

OCS 五種架構角色的驗證結果

脊層替換以 OCS 取代電氣脊交換機，使 58 層 Transformer 訓練的靜態通訊延遲累計減少 508 μs；在 TPOT（每 token 輸出時間）為 10 ms 的推理場景下，換算吞吐量提升達 5.08%。以 OCS 作為第三層的規模橫向擴展（scale-out）實測顯示，LLAMA2-13B 訓練迭代時間從 18,592.5 ms 降至 18,261.2 ms（提升 1.78%），GPT-MoE 從 22,712 ms 降至 22,368.8 ms（提升 1.51%）；此改善來自路徑從 5 跳縮短為 4 跳，ECMP 雜湊碰撞點從 4 個降至 3 個。備援池化場景中，單一共用備援加速器資源池可服務多個超節點（superpod），OCS 對 200G/400G/800G 匯流排協議透明，故障替換對訓練軟體完全無感知。Google 已在生產叢集中以層次化 OCS（POD 內部 X/Y/Z OCS 加上 POD 間 Lightwave Fabric）完成商業驗證，無任何電氣節點介入核心轉發路徑。

整體評估

OCS 透明的光通道特性消除了電氣脊層的序列化延遲，使大規模全對全通訊的累計延遲降幅足以在真實訓練工作負載上產生可量測的吞吐量改善；加上 CPO 消除可插拔光學模組功耗，兩者疊加才能實現系統層級 2.6 倍的能耗改善，任一方案單獨部署均無法達到此效果。這直接回應了 AI 叢集在功耗預算與通訊延遲兩個維度同時收緊的設計壓力，但 OCS 更廣泛採用的前提是 IEEE/OIF、ITU-T Q5/15 與 OCP/IETF 在收發器規格、元件框架與控制 API 三個層次完成標準化，目前缺乏標準仍是非超大規模業者部署 OCS 的主要障礙。

參考資料

F. Effenberger, "Beyond CLOS: Reimagining AI Data Center Networks with Optical Circuit Switching (OCS)," Futurewei Technologies, Sep. 2025.