NIC、SmartNIC、DPU 是什麼？AI Server 網路介面與高速互連解析｜技術年份：2022

AI Server 不只需要 GPU 算力，也必須把大量資料快速送進、送出不同 Server 與 GPU Cluster。

在這條資料路徑中，經常會看到：

NIC
SmartNIC
DPU

三個名詞。

它們都可能位於 Server 與高速網路之間，但不能簡單理解成：

NIC → SmartNIC → DPU = 初階 → 中階 → 高階網卡

更精確的理解是：

NIC 主要負責 Host 與 Network 的高速連接；SmartNIC 強調更多 Hardware Offload 與 Programmability；DPU 則進一步把 Networking、Storage、Security 與 Infrastructure Services 放到獨立的可程式化處理平台上。

而且 SmartNIC 並不是一個完全統一的硬體標準名稱。不同 Vendor、產品世代與使用情境，對 SmartNIC 的定義可能有所不同。NVIDIA 在 2021 年即將 SmartNIC 定義為可程式化 Network Accelerator，並指出其實作可以包含 ASIC、FPGA 或 SoC 等不同架構。

NIC、SmartNIC、DPU 最大差別是什麼？

項目	NIC	SmartNIC	DPU
核心角色	Host Network Interface	Network Offload / Acceleration	Infrastructure Processing
網路傳輸	是	是	是
Hardware Offload	可具備	通常較強	通常非常完整
Programmability	視產品而定	重要特徵	核心能力
On-board CPU	通常不是必要條件	可能有，也可能沒有	通常具獨立 CPU Core
Local Memory	較有限／依產品	依架構	通常具獨立 Memory
Networking Processing	是	是	是
Storage Offload	部分產品支援	可支援	常為核心功能之一
Security Offload	部分支援	可支援	常整合 Security Infrastructure
Infrastructure Isolation	較有限	視架構	DPU的重要價值之一
典型用途	Server Networking	高效能／可程式化網路卸載	Cloud、AI、Security、Storage Infrastructure

要注意的是：

高階 NIC 本身也可能具有 RDMA、Encryption、Virtualization、Storage Offload 等大量硬體加速功能，因此不能把普通 NIC 理解成完全沒有 Offload 能力的「笨網卡」。

例如 NVIDIA ConnectX-7 現行產品定位為 NIC，可提供最高 400Gb/s 連線，並整合 Networking、Storage、Security 與 Manageability Hardware Acceleration。

NIC 是什麼？

NIC 全名：

Network Interface Card / Network Interface Controller

主要工作是建立：

Server / Host
↔ Network

之間的資料通道。

在一般 Server 中，NIC 可能負責 Ethernet；在 HPC／AI Cluster 中，也可能使用支援 InfiniBand 或高速 Ethernet／RoCE 的 Adapter。

以 NVIDIA ConnectX-7 為例，產品可提供最高 400Gb/s Ethernet；InfiniBand 版本亦可提供 NDR 400Gb/s 等級的高速連線。

因此現代 Data Center NIC 已經不只是：

收封包 → 丟給 CPU

而可能同時執行：

RDMA
Virtualization Offload
Checksum
Encryption
Storage Acceleration
Traffic Steering

等工作。

但它的基本角色仍然是：

讓 Host 高效率地連上外部 Network Fabric。

SmartNIC 是什麼？

SmartNIC 通常可理解為：

具有更強 Hardware Acceleration 與 Programmability 的網路介面卡。

它的主要目的，是把原本需要 Host CPU 執行的一部分 Infrastructure Workload 移到 NIC 上處理。

例如：

Packet Processing
Virtual Switching
Encryption / Decryption
Firewall
Traffic Management
Storage Processing

等工作。

NVIDIA 將 SmartNIC 描述為可程式化 Accelerator，可將 Networking、Security 與 Storage 工作從 Server CPU Offload；不同 SmartNIC 又可能使用 ASIC、FPGA 或 SoC 架構。

這也說明一個很重要的觀念：

SmartNIC 是功能與 Architecture 的分類概念，不是像 PCIe Gen5 或 QSFP56 那樣具有唯一固定規格的 Interface Standard。

甚至同一產品名稱在不同時期的市場定位也可能有所變化。

例如 NVIDIA 在 2022 年 Spectrum-4 發表時將 ConnectX-7 稱為 SmartNIC；目前 NVIDIA 官網則主要以 ConnectX-7 NIC 稱呼這個產品系列。

所以實際選型時，比「它到底算不算 SmartNIC」更重要的是：

它能 Offload 什麼？
能不能 Program？
Data Path 在哪裡執行？
CPU 還需要負責多少工作？

DPU 是什麼？

DPU 全名：

Data Processing Unit

它不是單純把 NIC 做得更快，而是將網路介面進一步發展成：

Infrastructure Computing Platform

NVIDIA 對 DPU 的架構定義，是一種 SoC，整合高效能 Network Interface、可程式化 Processor Core 與 Hardware Accelerator，用來處理 Data Center Infrastructure 工作。

以 BlueField-3 為例，目前 NVIDIA 將其定位為最高 400Gb/s 的 Infrastructure Compute Platform，可對：

Software-Defined Networking
Storage
Cybersecurity

進行 Line-Rate Processing。

因此 DPU 通常會包含：

**High-Speed Network Interface

• Arm / General-Purpose Processor
• Local Memory
• Hardware Accelerator
• PCIe Interface
• Programmable Software Stack**

這使它可以在 Host CPU 之外執行 Infrastructure Services。

概念上可以理解成：

Traditional Architecture

Application
↓
CPU
↓
Networking / Storage / Security Processing
↓
NIC
↓
Network

而加入 DPU 後：

Application / GPU
↓
CPU
↓
PCIe
↓
DPU

• Networking
• Storage
• Security
• Virtualization
• Management
  ↓
  Network

DPU 的價值因此不只是：

「CPU 少算一點。」

而是可以進一步建立：

Application Compute 與 Infrastructure Compute 的分工與隔離。

SmartNIC 和 DPU 到底差在哪？

這兩個名詞的 Boundary 並不是所有 Vendor 都完全一致。

比較實用的判斷方式，是看裝置是否已經具備：

**Independent Compute

• Local Memory
• Programmable Infrastructure Services
• Networking / Storage / Security Acceleration**

如果一張卡主要是在 Network Data Path 上做硬體 Offload，通常比較接近 SmartNIC。

如果它已經可以獨立執行：

Networking
Storage
Security
Virtualization
Management

等 Infrastructure Software，並擁有自己的 Processor 與 Memory，則更接近 DPU。

因此：

DPU 可以視為比傳統 SmartNIC 更完整的 Infrastructure Processing Architecture，但不能假設所有產業品牌都使用完全相同的分類方式。

目前 NVIDIA 的 BlueField-3 平台甚至同時區分 DPU 與 SuperNIC，也反映 Data Center Network Accelerator 的產品分類仍持續演進，並非只有 NIC／SmartNIC／DPU 三個永久固定層級。

NIC、SmartNIC、DPU 在 AI Server 裡怎麼連？

典型 AI Server 的 Scale-Out Network Path 可以簡化成：

GPU
→ PCIe
→ NIC / SmartNIC / DPU
→ OSFP / QSFP
→ DAC / AEC / AOC / Optical
→ Network Switch
→ Other AI Servers

如果使用 RDMA 與 GPUDirect RDMA，支援的 Network Device 還可以透過 PCIe 與 GPU 建立更直接的 Data Path。

NVIDIA GPUDirect RDMA 的官方說明指出，這項技術能讓 GPU 與第三方 PCIe Device，例如 Network Interface，直接交換資料，避免資料一定要先經過 CPU Host Memory。

因此傳統資料路徑可能是：

Network
→ NIC
→ CPU Memory
→ GPU

而適當架構下的 GPUDirect RDMA 則可形成：

Network
→ NIC / DPU
→ PCIe
→ GPU Memory

目的在於減少不必要的 Data Copy、CPU Participation 與 Latency。

這也是 NIC／SmartNIC／DPU 在 AI Cluster 裡特別重要的原因：

GPU 算得再快，如果資料無法有效率進出 GPU，整個 Cluster 的實際運算效率仍可能受到網路瓶頸限制。

AI Server 應該使用 NIC、SmartNIC 還是 DPU？

沒有一個答案適合所有 Server。

如果系統主要需要：

**High-Speed Ethernet / InfiniBand

• RDMA
• Basic Hardware Offload**

高效能 NIC 就可能已經足夠。

如果需要：

**Programmable Packet Processing

• Virtual Switching
• Advanced Network Offload**

則 SmartNIC Architecture 可能更適合。

如果系統進一步要求：

**Networking

• Storage
• Security
• Infrastructure Isolation
• Independent Infrastructure Processing**

則 DPU 的價值會更加明顯。

可以簡化成：

需求	較可能的方向
高速網路連線	NIC
RDMA / Network Hardware Acceleration	NIC / SmartNIC
Programmable Data Path	SmartNIC / DPU
Virtual Network Offload	SmartNIC / DPU
Storage Infrastructure Offload	DPU
Security Infrastructure Offload	SmartNIC / DPU
Infrastructure Isolation	DPU
Cloud / Multi-Tenant Infrastructure	DPU
AI Back-End High-Speed Fabric	High-Performance NIC / Network Accelerator

因此選型不能只問：

「DPU 是不是一定比 NIC 好？」

而應該問：

哪些 Infrastructure Workload 需要從 CPU Offload，以及系統需要多少 Programmability、Isolation 與 Independent Compute？

NIC 與 DPU 為什麼也和高速 Cable 有關？

NIC／SmartNIC／DPU 最終仍需要透過 Physical Interface 連到外部 Network。

例如目前 ConnectX-7 與 BlueField-3 等 Data Center Adapter 可使用高速 OSFP／QSFP112 等介面，並支援最高 400Gb/s 等級 Ethernet 或 InfiniBand 連線。

因此完整 Network Path 不只是：

GPU → NIC

而是：

GPU
→ PCIe
→ NIC / SmartNIC / DPU
→ High-Speed Connector
→ Cable / Optical Transceiver
→ Switch

實際 Cable Selection 還需要確認：

**Protocol

• Port Type
• Data Rate
• Cable Length
• Host Compatibility
• EEPROM / Firmware
• FEC
• Thermal Condition**

同樣使用 OSFP 或 QSFP Form Factor，也不代表 Cable、Protocol 與 Equipment 一定互相相容。

在短距離 Rack Interconnect 中可能使用：

DAC

距離或 Electrical Reach 增加後則可能考慮：

AEC
AOC
Optical Transceiver + Fiber

因此 NIC／DPU 的 Network Architecture 與 High-Speed Cable Selection 本身就是同一條 End-to-End Channel 的不同部分。

SyncTronics 現有高速傳輸產品包括 SFP28、QSFP28、QSFP56 與 PCIe Cable Assembly，其中 QSFP56 200G Cable 即定位於 Data Center Switch、Server、NIC 與 HPC Equipment 等高速互連應用。

NIC、SmartNIC、DPU 核心結論

最重要的是不要把三個名詞理解成單純的性能排行。

NIC 的核心是 Host Network Connectivity，但現代高階 NIC 本身就可以具有大量 Hardware Offload。

SmartNIC 強調 Programmability 與 Network／Infrastructure Offload，但產業並沒有唯一固定的 SmartNIC Hardware Definition。

DPU 則進一步整合獨立 Processor、Memory 與 Hardware Accelerator，讓 Networking、Storage、Security 與 Management 等 Infrastructure Workload 可以在 Host CPU 之外執行。

對 AI Server 而言，真正需要評估的是：

**GPU Data Path

• PCIe Topology
• RDMA
• Network Offload
• Infrastructure Processing
• Ethernet / InfiniBand
• Port Speed
• High-Speed Cable / Optics**

而不是只比較：

NIC、SmartNIC、DPU 哪一個名稱比較高階。

隨著 AI Cluster 持續提高 GPU 數量與 Scale-Out Network Bandwidth，Network Interface 已經從傳統的「Server 網卡」，逐步成為整個 AI Infrastructure Data Path 的核心運算與互連節點。

SyncTronics 解决方案

AI Server 的 NIC、SmartNIC 與 DPU 高速互連需依 Ethernet／InfiniBand、Port Data Rate、OSFP／QSFP Interface、PCIe Topology、Cable Length、DAC／AEC／AOC／Optical、Signal Integrity、Thermal Condition 與設備相容性進行完整評估。SyncTronics 可依 AI Server、NIC、Networking、Switch、Data Center 與 HPC 專案需求，協助進行 SFP28、QSFP28、QSFP56、PCIe 高速 Cable Assembly、Connector 與客製化電子互連方案的規格確認及 NPI 評估。

有線束、連接器、機電元件或客製化需求？歡迎與我們聯絡

如果您正在尋找合適的連接器、線材、線束加工、機電元件或電子互連解決方案，無論是產品選型、規格確認、少量試產（NPI）、OEM／ODM 客製化，或高速傳輸、高可靠度等特殊應用需求，金譽電子科技 可提供專業技術支援與評估。

歡迎前往【聯絡我們】頁面，留下您的需求與聯絡資訊。我們將以專業且快速的服務回覆您的需求，根據您的產品規格、應用需求與專案條件，協助評估最適合的產品與電子互連解決方案，並提供相關技術建議與客製化支援，協助您縮短選型與開發時間、降低專案風險，讓產品更順利導入量產。期待有機會與您合作，為您的每一項專案需求提供值得信賴的技術支援與解決方案。

相關延伸文章

• Ethernet vs InfiniBand：AI GPU Cluster 高速網路怎麼選？
• AI 資料中心 Scale-Up vs Scale-Out 是什麼？GPU 高速網路架構完整解析
• AI 伺服器內部高速線材怎麼走？GPU、NIC、Switch 與 Cable 架構解析
• AI 資料中心高速線材怎麼選？DAC、AOC、光模組與高速互連比較

免責與交流聲明

本內容係依公開資訊與產業經驗整理，僅供技術交流參考，不構成任何商業、技術或法律之建議或依據。內文所述之規格、材料、製程、應用方式及相關資訊，可能因設計條件、環境因素或使用情境不同而有所差異，相關內容不保證其完整性、正確性或適用性。
讀者應視實際應用情境，與相關設計或技術負責人員確認適用性，並自行評估相關風險。