平台選型指南P1 常青技術頁NVIDIA Jetson 官方產品頁、JetPack 文件與開發者技術文章;2026-08-18 複查

Jetson Orin vs Jetson Thor:機器人運算平台怎麼選?

Jetson Orin vs Jetson Thor 不是單純新舊世代對決。從功耗、記憶體、感測器 I/O、JetPack 與實際部署條件,選出適合物理 AI 與機器人平台。

直接答案

Jetson Orin 是涵蓋 Nano、NX 與 AGX 的多級平台;Jetson Thor 則面向更高記憶體、多感測器與生成式機器人工作負載。不能直接把 Orin 的 TOPS 和 Thor 的 FP4 TFLOPS 排成同一個名次。先量模型、相機、記憶體、功耗與控制期限,再確認 JetPack、載板、驅動和熱設計,才知道該留在 Orin,或升到 Thor。

本文重點

  • Jetson Orin 是一個從 Nano、NX 到 AGX 的平台家族;Jetson Thor 也有 T4000 與 T5000,不是一對一型號比較。
  • TOPS、FP4 TFLOPS 與特定模型 tokens/sec 的精度、測試條件不同,不能混成單一效能排名。
  • Orin Nano、NX、AGX 的功耗帶從 7 W 到 60 W;Thor T4000、T5000 則是 40 W 到 130 W 等級,電力與散熱會先淘汰不適合的候選。
  • Thor 的大記憶體與多感測器 I/O 是平台能力訊號,但最終仍取決於實際載板、相機、網路、容器與模型版本。
  • JetPack 7 官方支援 Orin 與 Thor;Thor 採 SBSA 軟體堆疊,遷移前要重新驗證映像、周邊驅動與自訂載板。
  • 高階模型可協助感知與規劃,但即時控制、急停與安全限制仍要保留在獨立且可驗證的層。

直接答案:先選工作條件,再選 Orin 或 Thor

Jetson Orin 與 Jetson Thor 都能做機器人和邊緣 AI,但它們不是單純的新舊世代替換。

  • Jetson Orin 是一個從 Orin Nano、Orin NX 到 AGX Orin 的平台家族,功耗與記憶體範圍差異很大。
  • Jetson Thor 目前要再分 T4000 和 T5000,面向更高記憶體、多感測器與生成式 AI 工作負載。

最穩的選法不是先問「哪個跑分比較高」,而是依序確認:

  1. 機器要接哪些相機、LiDAR、CAN、Ethernet 或其他 I/O?
  2. 模型、影像緩衝、點雲與其他程序同時要多少記憶體?
  3. 電池、電源、尺寸與散熱能接受多少瓦?
  4. 哪些工作需要低延遲,哪些工作有硬性 deadline?
  5. 現有的 JetPack、容器、驅動與自訂載板是否能在目標平台重現?

只有這五件事都能回答,才有意義比較模組規格。

先把官方規格放在正確位置

NVIDIA 對 Orin 與 Thor 使用的效能單位、精度和測試條件不完全相同。因此下表保留官方原始說法,但不是跨列效能排名

平台官方 AI 效能訊號記憶體官方功耗範圍適合先拿來判斷什麼
Jetson Orin Nano最高 67 TOPS4 GB 或 8 GB7 W 到 25 W尺寸與功耗很受限的邊緣推論;先驗證模型與影像緩衝是否放得下。
Jetson Orin NX最高 157 TOPS8 GB 或 16 GB10 W 到 40 W需要比 Nano 更高推論與 I/O 餘裕、但仍有明確功耗上限的裝置。
Jetson AGX Orin最高 275 TOPS32 GB、64 GB 或 Industrial 版本15 W 到 60 W多模型、較多感測器或需要較大記憶體的機器人與場域邊緣平台。
Jetson Thor T40001200 FP4 TFLOPS(sparse)64 GB LPDDR5X40 W 到 70 W模型、記憶體與感測器需求已超過 Orin,但功耗仍需要被控制的部署。
Jetson Thor T50002070 FP4 TFLOPS(sparse)128 GB LPDDR5X40 W 到 130 W高記憶體、多感測器與較重的 VLM、VLA 或多模型組合;必須同步驗證電源和熱設計。

原始欄位可下載:JSON 選型表CSV 選型表。資料只整理官方公開欄位,刻意不把不同單位變成本站的效能分數。

哪些條件會讓 Thor 成為合理候選?

以下不是「一定要買 Thor」的規則,而是值得把 Thor 放進 PoC 比較的訊號:

  • 模型、影像、點雲與服務程序已讓 AGX Orin 的記憶體沒有足夠餘裕。
  • 機器需要多路高頻感測器,而且資料進入 GPU 的路徑是瓶頸。
  • 工作負載包含較大的 VLM、VLA 或多模型並行,且已在代表性資料上量到推論或排隊問題。
  • 整機可以接受 40 W 以上的電力、散熱、電池與機構成本。
  • 團隊願意重新驗證作業系統映像、周邊驅動、容器、載板與現場回復流程。

Thor 的官方資料列出較大的記憶體、25 GbE 網路、相機與 PCIe 能力,也列出 JetPack 7、Holoscan、Isaac 與相關軟體堆疊。這些是系統能力的起點,不是保證任何相機、任意容器或自訂載板都能直接運作。

哪些情況先留在 Orin 比較務實?

如果下面條件成立,先把 Orin 的實機測試做紮實通常更有價值:

  • 任務只需要較小的感知模型或固定功能推論,沒有明確的記憶體壓力。
  • 機器是電池供電、空間有限,或熱設計不能超過既有功耗帶。
  • 已有 Orin 載板、相機、CAN、Ethernet、容器與遠端維護流程,改平台的整合成本高。
  • 真正瓶頸是感測器校正、資料品質、控制週期或安全流程,而不是模型吞吐。

不要把「Orin 能跑」直接寫成「所有任務都適合 Orin」。同樣地,也不要把「Thor 有更多算力」寫成「會自動提高機器人的安全或任務成功率」。

軟體遷移不是只換一塊板子

JetPack 7 官方同時列出 Orin 與 Thor 支援,但 Thor 採用 SBSA 軟體堆疊與對應安裝方式。實際遷移至少應拆成下面幾項:

驗證面向要驗證什麼不能只靠什麼判斷
系統映像與容器JetPack 版本、CUDA、TensorRT、ROS 2、容器基底與模型 runtime 是否可重現。開發機能建置成功。
感測器與 I/O相機、編碼器、CAN、Ethernet、USB、PCIe 與時間同步是否在實際載板上穩定。模組規格表列出介面。
模型與記憶體代表性模型、相機數、並發與資料緩衝下的記憶體餘裕與 OOM 行為。單一模型 Demo。
功耗與散熱持續負載、環境溫度、風道與降頻下的耗電、時脈和回復狀態。短時間 MAXN 跑分。
控制與安全模型超時、感測器失效、網路中斷與重啟時的降級、停止與人工接管。模型平均延遲或展示影片。

不要把供應商 benchmark 當成你的機器 benchmark

NVIDIA 的 Jetson Thor 技術文章有列出在指定模型、量化、序列長度、並發與 MAXN 模式下,Thor 與 AGX Orin 的比較結果。這類資料可用來確認某一組工作負載值得 PoC,但不能直接回答你的機器人能跑多快,因為結果還會受感測器、資料前處理、模型版本、控制頻率、散熱與實際載板影響。

要做自己的判斷,至少在代表性任務上記錄:

  1. 感測器輸入到模型輸出的平均、P95、P99 與最差延遲。
  2. 模型、影像、點雲與其他程序的記憶體上限與餘裕。
  3. 實際功耗、溫度、降頻、風扇與電池續航。
  4. 網路或感測器異常時,系統是否會受控地降級或停止。
  5. 模型、JetPack、驅動與載板版本是否能被記錄和回復。

選型結論

Orin 適合不是因為它比較舊或便宜,而是因為它在你的模型、感測器與功耗邊界內已經足夠;Thor 適合不是因為跑分比較大,而是因為你的真實工作負載確實需要它的記憶體、多感測器與生成式邊緣 AI 餘裕,而且整機能承受新的電力、散熱與軟體驗證成本。

先把問題量出來,再決定是否換平台。這比先選世代、最後才發現 I/O、散熱或安全流程不合格,更接近可部署的物理 AI。

常見問題

Jetson Thor 一定比 Jetson Orin 更適合嗎?

不一定。Thor 提供更高的官方算力與記憶體帶,但也落在更高功耗、散熱與整合要求。若任務的模型、相機、記憶體與控制期限已能在 Orin 的實際功耗和載板條件內穩定完成,升級不一定帶來等比例的部署價值。

Jetson Orin 的 TOPS 和 Thor 的 FP4 TFLOPS 可以直接比嗎?

不可以直接排名。TOPS 與 FP4 TFLOPS 的精度、計算方式和條件不同;特定模型的 tokens/sec 又受模型、量化、序列長度、並發與功耗模式影響。應先比較同一模型、同一測試方法和同一系統條件。

既有 Jetson Orin 軟體可以直接搬到 Thor 嗎?

JetPack 7 官方同時支援 Orin 與 Thor,但 Thor 使用 SBSA 軟體堆疊。容器、CUDA 相依套件、相機與 CAN 驅動、硬體加速、載板 BSP、開機與熱設計都要在目標平台重新驗證,不能把「有支援」當成免測遷移。

開發套件可以直接當量產機器人的主機嗎?

開發套件適合 bring-up、原型與軟體驗證。量產前仍要確認量產模組、載板、供電、散熱、介面、機構、遠端更新與供應生命週期;開發板跑得動不等於現場設備能長期運作。

Jetson 能取代工作站或安全控制器嗎?

Jetson 適合貼近機器的感測、AI 推論與部分規劃工作。工作站仍適合模擬、訓練和資料處理;安全控制、急停與硬性限制應有獨立、可驗證的機制,不能只依賴高階模型或單一邊緣電腦。

來源與查證

  1. NVIDIA:Jetson Orin
  2. NVIDIA:Jetson Thor
  3. NVIDIA Developer:Jetson 模組與產品線
  4. NVIDIA Developer:JetPack 軟體堆疊
  5. NVIDIA Developer:Introducing Jetson Thor
  6. NVIDIA Jetson Linux:Jetson Thor 電力與散熱文件

下一步閱讀