榮格工業(yè)資源APP
了解工業(yè)圈,從榮格工業(yè)資源APP開(kāi)始。
歡迎來(lái)到榮格工業(yè)資源網(wǎng)!
英偉達(dá)將Blackwell GPU引入機(jī)器人“大腦”。
8月25日?qǐng)?bào)道,今日,英偉達(dá)推出專(zhuān)為物理AI和人形機(jī)器人打造的NVIDIA Jetson Thor,它被英偉達(dá)創(chuàng)始人兼CEO黃仁勛稱(chēng)作是“推動(dòng)物理AI和通用機(jī)器人時(shí)代的終極超級(jí)計(jì)算機(jī)”。
Jetson Thor采用英偉達(dá)Blackwell GPU、14核Arm Neoverse CPU和128GB顯存,顯存帶寬為273 GB/s,F(xiàn)P4精度下AI峰值算力為2070 TFLOPS,F(xiàn)P8精度下AI峰值算力為1035 TFLOPS,可在邊緣加速生成式AI與大型Transformer模型。
它支持包括VLA(視覺(jué)語(yǔ)言動(dòng)作)模型、LLM(大語(yǔ)言模型)、VLM(視覺(jué)語(yǔ)言模型)在內(nèi)的各種生成式AI模型,能處理實(shí)時(shí)視頻數(shù)據(jù)流和AI推理,適用于構(gòu)建可在邊緣執(zhí)行視覺(jué)搜索和總結(jié)任務(wù)的AI agents。
包括CPU、GPU、SLC、DRAM連接、網(wǎng)絡(luò)、電源管理等在內(nèi),整個(gè)Jetson Thor計(jì)算機(jī)的功率可配置在40W到130W之間。
借助4個(gè)25 GbE網(wǎng)絡(luò)、攝像頭卸載引擎和Holoscan傳感器橋接器,Jetson Thor可提取高速傳感器數(shù)據(jù),實(shí)現(xiàn)實(shí)時(shí)性能。
全新機(jī)器人芯片專(zhuān)攻的重點(diǎn)特性,就是運(yùn)行多AI工作流,讓機(jī)器人能與人類(lèi)和物理世界進(jìn)行實(shí)時(shí)、智能的交互,推動(dòng)視覺(jué)AI agents和復(fù)雜機(jī)器人系統(tǒng)的發(fā)展。
與上一代Jetson Orin相比,Jetson Thor的AI計(jì)算性能提升多達(dá)7.5倍,能效提升多達(dá)3.5倍,CPU性能提升多達(dá)3.1倍,I/O吞吐量提升多達(dá)10倍。
如果跟10年前相比,性能提升就更猛了——AI性能足足提高多達(dá)7000倍。
Jetson Thor與機(jī)器人AI軟件平臺(tái)搭配,支持各種主流AI框架,以及字節(jié)跳動(dòng)、DeepSeek、阿里Qwen、谷歌Gemini、Meta、Mistral AI、OpenAI、Physical Intelligence(π)等企業(yè)的生成式AI模型。
它還與英偉達(dá)從云到邊緣的軟件棧完全兼容,包括用于機(jī)器人仿真和開(kāi)發(fā)的Isaac平臺(tái)、Isaac GR00T人形機(jī)器人基礎(chǔ)模型、用于視覺(jué)AI的NVIDIA Metropolis和用于實(shí)時(shí)傳感器處理的NVIDIA Holoscan等。
機(jī)器人需要搭載豐富的傳感器來(lái)感知世界,并實(shí)現(xiàn)低延時(shí)的AI處理。實(shí)時(shí)控制框架通常在100Hz-1kHz頻率上運(yùn)行,感知與規(guī)劃通常在30Hz頻率上運(yùn)行,高級(jí)推理通常在1-5Hz頻率上運(yùn)行,就像人思考一樣,可能會(huì)想幾秒鐘。
在并行處理16個(gè)傳感器輸入時(shí),運(yùn)行Llama 3B和Qwen 2.5 VL 3B模型,Jetson Thor生成第一個(gè)token的時(shí)間在200ms內(nèi),輸出每token的時(shí)間在50ms內(nèi),這意味著運(yùn)行這些模型可以每秒生成超過(guò)25個(gè)token,相較前代翻倍提升。
Jetson Thor為通用推理而設(shè)計(jì),運(yùn)行阿里Qwen 3-30B-A3B、英偉達(dá)Cosmos Reason 1 7B、DeepSeek-R1-Qwen-32B等推理模型時(shí),F(xiàn)P8精度下性能已經(jīng)提升多達(dá)3~5倍,F(xiàn)P4精度下更是猛躥一大截,最多提升至10倍。
英偉達(dá)CUDA生態(tài)系統(tǒng)中的軟件在Jetson整個(gè)生命周期中不斷優(yōu)化。例如,在整個(gè)生命周期中,通過(guò)軟件升級(jí)將Xavier的性能提高了50%,將Orin的性能提高了100%。
隨著未來(lái)軟件持續(xù)優(yōu)化,Jetson Thor將實(shí)現(xiàn)更大幅度的性能提升。
自2014年以來(lái),英偉達(dá)Jetson平臺(tái)與機(jī)器人軟件棧吸引了200多萬(wàn)開(kāi)發(fā)者和150多個(gè)硬件系統(tǒng)、軟件和傳感器合作伙伴組成的生態(tài)系統(tǒng)。7000多家客戶(hù)已采用Jetson Orin。
眾擎機(jī)器人、銀河通用、優(yōu)必選、宇樹(shù)科技等明星人形機(jī)器人公司,還有聯(lián)影醫(yī)療等醫(yī)療企業(yè)、萬(wàn)集科技等智能交通企業(yè),都已經(jīng)率先采用Jetson Thor。
英偉達(dá)Jetson AGX Thor開(kāi)發(fā)者套件現(xiàn)已上市,全球開(kāi)售,定價(jià)3499美元(約合人民幣2.50萬(wàn)元)。
Jetson T5000、Jetson T4000模組可從全球分銷(xiāo)合作伙伴處獲得。Jetson T5000購(gòu)買(mǎi)1000片以上單價(jià)2999美元(約合人民幣2.15萬(wàn)元)。
具體規(guī)格如下:
英偉達(dá)DRIVE AGX Thor開(kāi)發(fā)套件是英偉達(dá)為安全自動(dòng)駕駛汽車(chē)設(shè)計(jì)的開(kāi)發(fā)平臺(tái),已通過(guò)安全認(rèn)證,同樣搭載了內(nèi)置生成式AI引擎的Blackwell GPU,有豐富的SDK套件和庫(kù)。該開(kāi)發(fā)套件已經(jīng)可以預(yù)訂。
比亞迪、元戎啟行、廣汽、智己、理想、文遠(yuǎn)知行、小米、極氪、卓御等領(lǐng)先的智能駕駛汽車(chē)企業(yè)都在積極擁抱DRIVE AGX Thor。
面向人形機(jī)器人開(kāi)發(fā),英偉達(dá)提供了基礎(chǔ)的系統(tǒng)、藍(lán)圖、工具、服務(wù)、算法及其他機(jī)器人技術(shù),與生態(tài)系統(tǒng)合作,為構(gòu)建機(jī)器人產(chǎn)品并將其帶到現(xiàn)實(shí)世界的四個(gè)重要步驟(數(shù)據(jù)生成、模型訓(xùn)練、仿真測(cè)試、部署推理)提供端到端完整工作流。
英偉達(dá)機(jī)器人業(yè)務(wù)正在快速增長(zhǎng)。今年,英偉達(dá)在財(cái)報(bào)中將汽車(chē)和機(jī)器人業(yè)務(wù)合并,第一季度收入為5.67億美元,同比增長(zhǎng)72%。
目前,英偉達(dá)專(zhuān)注于為物理AI和機(jī)器人打造3臺(tái)計(jì)算機(jī),包括用于訓(xùn)練模型的NVIDIA DGX AI超算、用于合成數(shù)據(jù)生成與仿真測(cè)試的NVIDIA OVX計(jì)算機(jī)以及安裝在機(jī)器人本體上的實(shí)時(shí)計(jì)算機(jī)(如Jetson Thor)。
從感知AI、生成式AI、Agentic AI到面向未來(lái)的物理AI,英偉達(dá)正將其計(jì)算疆域鋪滿AI的整個(gè)生命周期。