台山饰良建材有限公司

生成式AI添利器!英偉達推出超級芯片GH200 Grace,內存增3.5倍、帶寬增三倍

生成式AI又添強大助力,英偉達升級產(chǎn)品,推出容量和速度雙雙大幅提升的超級芯片GH200 Grace,力求鞏固AI芯片領(lǐng)域的霸主地位。

發(fā)布產(chǎn)品當天,英偉達股價(jià)周二低開(kāi)低走,臨近午盤(pán)時(shí)刷新日低,日內跌幅達3%。

美東時(shí)間8月8日周二,英偉達發(fā)布新一代GH200 Grace Hopper平臺,該平臺依托于搭載全球首款HBM3e處理器的新型Grace Hopper超級芯片(下稱(chēng)GH200),專(zhuān)為加速計算和生成式AI時(shí)代而打造。


【資料圖】

新平臺旨在處理世界上最復雜的生成式AI工作負載,涵蓋大型語(yǔ)言模型、推薦系統和矢量數據庫,將提供多種配置。英偉達稱(chēng),GH200將于2024年第二季度投產(chǎn)。

新平臺采用的GH200可以通過(guò)英偉達的NVLink技術(shù)連接其他GH200芯片,共同部署在生成式AI的大模型上。這種技術(shù)讓GPU能充分訪(fǎng)問(wèn)CPU內存,在雙芯片配置時(shí)提供合計1.2TB的快速內存。

英偉達的超大規模和高性能計算主管Ian Buck介紹,GH200比英偉達基于H100 的數據中心系統配備了更多內存和帶寬。它采用的英偉達的Hopper GPU,并結合基于A(yíng)rm架構的英偉達Grace CPU。

相比前代平臺,新GH200 Grace Hopper平臺的雙芯片配置將內存容量提高3.5倍,帶寬增加三倍,一個(gè)服務(wù)器就有144個(gè)Arm Neoverse高性能內核、8 petaflops 的 AI 性能和282GB的最新HBM3e內存技術(shù)。

HBM3e是一種高帶寬內存,帶寬達每秒5TB。該內存比當前的HBM3快50%,可提供總共每秒10TB的組合帶寬,使新平臺能運行比前代大3.5倍的模型,同時(shí)通過(guò)快三倍的內存帶寬提高性能。

本周二,在計算機協(xié)會(huì )(ACM)計算機圖形和交互技術(shù)特別興趣組織(SIGGRAPH)的年度大會(huì )上發(fā)表主題演講時(shí),英偉達CEO黃仁勛將GH200稱(chēng)為“世界上最快的內存”。

黃仁勛說(shuō),為了滿(mǎn)足生成式 AI 不斷增長(cháng)的需求,數據中心需要有針對特殊需求的加速計算平臺。新的GH200 Grace Hopper 超級芯片平臺提供了卓越的內存技術(shù)和帶寬,以此提高吞吐量,提升無(wú)損耗連接GPU聚合性能的能力,并且擁有可以在整個(gè)數據中心輕松部署的服務(wù)器設計。

黃仁勛表示,在A(yíng)I時(shí)代,英偉達的技術(shù)可以替代傳統數據中心,投資800 萬(wàn)美元的新技術(shù)可以取代用舊設備建造的1億美元設施,而且用電量可以減少20倍?!斑@就是數據中心在向加速計算轉變的原因。你買(mǎi)的越多,越省錢(qián)?!?/p>

快速創(chuàng )建生成式AI的工具包AI Workbench

除了GH200,英偉達周二還發(fā)布了新的統一工具包AI Workbench,以及對英偉達Omniverse軟件服務(wù)的重大升級。

AI Workbench為開(kāi)發(fā)者提供了統一且便于使用的工具包,可在個(gè)人電腦(PC)或工作站上快速創(chuàng )建、測試和微調生成式AI模型,然后將其擴展到幾乎任何數據中心、公共云或者英偉達的DGX云。

英偉達稱(chēng),AI Workbench讓企業(yè)的AI項目入門(mén)不再復雜。通過(guò)在本地系統運行的簡(jiǎn)化界面進(jìn)行訪(fǎng)問(wèn),它讓開(kāi)發(fā)者能使用自定義數據微調Hugging Face、GitHub 和 NGC 等常用存儲庫中的模型,然后可以在多個(gè)平臺上輕松共享模型。

借助AI Workbench,開(kāi)發(fā)者只需點(diǎn)擊幾下即可自定義和運行生成式AI,而且他們能夠將所有必要的企業(yè)級模型、框架、軟件開(kāi)發(fā)套件和庫整合到一個(gè)統一的開(kāi)發(fā)者工作區中。

用黃仁勛的話(huà)來(lái)說(shuō)就是:“人人都可以做到?!?/p>

Omniverse平臺升級 通過(guò)OpenUSD軟件利用生成式AI

英偉達的升級版Omniverse平臺為開(kāi)發(fā)者和工業(yè)企業(yè)提供新的基礎應用與服務(wù),以OpenUSD框架和生成式AI優(yōu)化及增強他們的3D管道。

升級版Omniverse平臺是一個(gè)高性能3D場(chǎng)景描述技術(shù)OpenUSD的原生軟件平臺,用于跨3D工具和應用的連接、描述和模擬,能加快創(chuàng )建虛擬世界和工業(yè)數字化高級工作流程。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics現已通過(guò) OpenUSD 連接到 Omniverse。

新平臺的亮點(diǎn)包括更新開(kāi)發(fā)原生OpenUSD應用及擴展的引擎——Omniverse Kit,以及英偉達Omniverse Audio2Face基礎應用和空間計算功能的更新。

Omniverse 和模擬技術(shù)副總裁 Rev Lebaredian表示,更新后的Omniverse 讓開(kāi)發(fā)人員可以通過(guò)OpenUSD利用生成式AI強化他們的工具,并且讓工業(yè)企業(yè)能構建更大、更復雜的世界級模擬,作為其工業(yè)應用的數字測試場(chǎng)。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險,投資需謹慎。本文不構成個(gè)人投資建議,也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資,責任自負。

關(guān)鍵詞: