台山饰良建材有限公司

黃仁勛是如何管理萬億英偉達的

“我們意識到,大模型的發展可能是自60多年前IBM推出System/360使用GPS和深度學習加速計算以來,真正創造并重新發明了計算機?!秉S仁勛表示。

近日,英偉達創始人兼首席執行官黃仁勛參加了Sana舉辦的人工智能峰會。會后,黃仁勛和Sana創始人Joel Hellermark展開了一場精彩對話。對話中,黃仁勛暢談了對AI發展的想象,他還表示,未來我們了解信息、預測需求以及與供應鏈合作的方式都會被AI徹底改變。

黃仁勛除了談AI未來的發展,他還分享了自己管理英偉達的方法。分享中,他反復強調賦予員工獲取信息的權利非常重要,要讓員工清楚地了解每一個決定的由來,有助于他們理解并執行該決定。同時他希望自己的公司規模不要太大,這樣公司信息的傳播能更有效率,扁平化的公司管理結構,使得他的公司能夠在技術變革來臨時做出快速反應,他認為這對于一家技術驅動型公司來說是非常重要的。

以下是訪談的精彩觀點:


(相關資料圖)

1.大模型的發展可能是自60多年前IBM推出System/360使用GPS和深度學習加速計算以來,真正創造并重新發明了計算機。

2.我們第一次實現了編程的民主化,我相信這將賦予數十億人權利,利用計算機去創造更多價值,我也希望AI的發展能彌合現有的數字鴻溝。

3.隨著時間的推移,我們了解所需信息的方式、預測需求的方式以及與供應鏈合作的方式,所有這些都將被人工智能徹底改變。

4.創建并經營管理一家公司,要做的第一件事就是從基本原則開始。

5.現代領導力真正的偉大之處,在于如果我做錯了什么,我只會說那是錯的,我改變主意了。

6.為他人創造生活、工作的環境是領導者的使命——實現這一使命最重要的方式是不讓人們做商品工作。

以下為對話全文(有刪改):

AI改變世界

Joel Hellermark:你還記得是什么時候開始了解深度學習并對其發展產生信心的嗎?

黃仁勛:我了解深度學習的時間和其他人差不多,也許稍微早一點。2012年,我們有幾位研究人員同時向ImageNet提交大型圖像,參加那年的大規模視覺識別挑戰賽(ILSVRC)。當時我們做了兩件事,一是使用最新的GPU,也就是當時剛推出的GeForce GTX 580。第二就是學習了深度神經網絡編程。我們很幸運,這么早就了解接觸了這些。不過那時人工智能還不是很流行,神經網絡研究在當時是一個存疑的研究領域。盡管如此,我們覺得這個研究領域還是非常有希望的,所以一直堅持去研究它。

真正讓我印象深刻的,是它的有效性。當你看到令人驚訝的技術時,就會產生更濃的興趣去探究它,比如規模如何、能解決什么其他問題等。由于深度神經網絡的性質,每一層的性質都是相互隔離的,并且在反向傳播學習中非常有效——它會被極大地擴展,會有更大的規模。事實證明我們是對的,根據觀察,深度學習既是一種解決難題的算法,也是一種開發軟件的新方法。

假設你有一個任意維度的通用函數,無論問題的維度和大小如何,只要你有一個足夠大的模型,你就讓它學習并不斷解決這個問題。這個推斷對我們來說非常重要。我們對它的潛力深信不疑,這將成為開發軟件的新方法。從那時起,我們意識到大模型的發展可能是自60多年前IBM推出System/360使用GPS和深度學習加速計算以來,真正創造并重新發明了計算機。這是一個非常重要的時刻,我們也很幸運地把所有的點都連接起來。

Joel Hellermark:你覺得這種模型驅動架構的發展,下一步會回到哪里?

黃仁勛:研究人員要把幾乎所有問題或者每種數據都轉化為Transformer可以學習的內容。你可以創建一個視覺Transformer、音頻Transformer、文本Transformer等等。多模態確實非常重要,它們有更高的性能。例如,你正在訓練一個視覺神經網絡,但你沒有見過斑馬,這個時候如果再加上另一種形式的訊息,比如文字,你就會明白斑馬是一匹有黑白條紋的馬,馬的圖像和形容斑馬的文字組合起來,能夠讓你在從來沒見過斑馬的情況下想象到它是什么樣的。這就延長了你的感知能力。使用多模態可以增強我們的感知能力,所以過去我們會使用相機、雷達或激光雷達來延長我們對環境的感知范圍。

現在我們有了Transformer,并且以一種理解多模態的方式表達了Transformer。所以我認為下一代的人工智能模型將會有更好的性能,也會更安全、更穩健,做更多的事情。

Joel Hellermark:我認為真正令人著迷的是,我們幾乎能夠從語言中去獲得所有信息,建構世界模型。之前您也提到了要教這些模型基礎的物理知識,如果這些模型是多模態的,或許在使用中就可以推導出這些物理定律,那我們還有必要去教這些基礎知識嗎?

黃仁勛:幾乎所有的東西都能用文字描述,物理學、牛頓定律這些都已經用文字描述過了,你可以想象我們可以通過世界上的詞匯庫來學習幾乎所有的物理學知識。如果你從來沒見過紅色,那你很難想象紅色意味著什么,但是,如果有足夠多的詩歌來描述紅蘋果的美麗,用紅色來表達愛心或者其他東西時,我不會感到驚訝。

把所有這些單詞連接起來,通過比較你就能感受到,“哦,這一定是紅色的。”你能夠在沒有親眼見過的情況下能了解到這一點。如果你沒有能力將所有這些不同的事物結合起來,你就永遠不會理解事物之間的微妙之處和細微差別?,F在我認為教人工智能物理是可能的,但如果你想預測物理定律,想把人工智能建立在物理基礎上,這與今天使用強化學習人類反饋來建立大語言模型沒有什么不同。

在未來,你會使用強化學習物理反饋來建立大模型。通過某種物理模擬來表達,而不是由人類來實現。我們創建了這個名為Omniverse的系統,它遵循物理定律,這樣我們就可以為Omniverse提供本質上是實體機器人的數字孿生。該具體的語言模型將通過Omniverse獲得強化學習物理反饋、模擬物理反饋,數字孿生反饋。所以我確認某些類型的機器人需要以物理事實為基礎。你想要以道德真理為基礎,這就是人性。這兩者應該對齊,幫助我們創建更安全的聊天機器人。

Joel Hellermark:你覺得我們目前AI發展的瓶頸在哪里,我們是在現有的模型基礎上去改進,還是需要徹底地突破?

黃仁勛:首先,我不太清楚它背后的科學原理,但直覺告訴我,我們的很多應用規則,要么是后天習得的,要么是直接表達出來的。在公司或者社會里,許多原則和規則是通過簡單的語言來表達的,不需要人學習,比如“你不能殺人”這并不是我們學會的,是被賦予的,不能違背。很多規則無需學習即可表達出來。我認為某種形式的符號推理可以增強這些已有學習模型。

我不知道這背后的科學原理是什么,但我們的確通過強化學習、經驗學習來增強我們的智力。

Joel Hellermark:隨著時間的推移,如果人工智能達到了一定的數量級,遠遠超過了人類的智慧,那這個時候人類應該處于什么位置,還能發揮什么作用?

黃仁勛:我不知道,但是我周圍的確有人在某些技能方面比我聰明好幾倍,但我和他們共處并沒有什么困難。我已經生活在一個被超級智能所包圍的環境中,他們能夠做一些我無法想象的事。但不知為何,我也能和他們和諧相處。隨著時間的推移,我們已提升了很多,我們已經將非常重要的人力資源商品化,也能通過耕種使食物的捕獵民主化,不需要被強制追著食物跑,不再被食物追趕。然后,我們實現權利行使民主化,即使是弱小的人也能在這個世界活得很好。再后來,我們實現了能源獲取的民主化,社會生產力得以提高?,F在,我認為我們正在實現信息生產的民主化。

那些擁有深厚專業知識的或者對世界有著探索激情的人,仍然會提供更大的價值。

在過去40年的職業生涯中,依然存在相當一部分人沒有學會如何使用計算機。你在十幾歲的時候可能就開始學習計算機編程了,但對世界上絕大多數人來說,他們不知道Python、Pascal、Fortran、C++或Java。他們不知道如何進行計算機編程。現在有了ChatGPT,可以使用人類的語言進行編程。

我們第一次實現了編程的民主化,我相信這將賦予數十億人權利,利用計算機去創造更多價值,我也希望AI的發展能彌合現有的數字鴻溝。

AI能做什么

Joel Hellermark:人工智能在應用層面,你最感興趣的是什么?

黃仁勛:我把它歸類為三件事。

第一件事就是人工智能可以做什么?它們可以增強、改變我們所做的工作,比如現在我們設計芯片的方式已經完全改變了。

二是,人工智能現在可以讓我們做哪些事情,讓我們的產品與眾不同?它不僅徹底改變了我們設計產品的方式,也徹底改變了我們制造的產品。例如,世界上有很多游戲玩家,用過去構建顯卡的方式,設計可編程著色器,我們推出了一款出色的處理器和出色的編譯器,并將它們與游戲等集成在一起。但現在你甚至無法單獨運送GeForce,因為有一臺超級計算機在后面學習如何預測混合丟失的像素。就像玩拼圖游戲一樣,你給出一塊,然后應該猜出其它16塊。所以我們教人工智能,我們在后臺有一臺超級計算機,只是學習如何做到這一點,并改進算法,每當我們改進算法時我們都會下載它。現在,我們使用人工智能不僅革新了我們設計GPU的方式,而且還改變了GPU生成圖像的方式。因此,它幫助我們創造了更節能的處理器,其功能超過了“摩爾定律”的預測。

第三點是把整個公司變成一個人工智能。所有的員工都能通過這個一直在運行的系統增強自身能力。這樣我們就不會去尋找那些永遠找不到的信息,可以把這些點連接起來,去預測市場中的機會。有時候供應鏈變了或者市場需求變了,我們不可能看到所有的信號,但對于人工智能來說,這并非不能實現。

因此,隨著時間的推移,我們了解所需信息的方式、預測需求的方式以及與供應鏈合作的方式,所有這些都將被人工智能徹底改變。

Joel Hellermark:你現在對人工智能的發展會有逆反觀點嗎?比如反對它的開發這些。

黃仁勛:我在這方面沒有什么逆反的想法。目前大多數關于人工智能的討論要么超出了對其發展前景的熱情,要么超出了對其危險性的擔憂,但其實介于發展前景和危險性的極端情況之間的,很可能才是事實。

縱觀歷史,任何有能力的技術都給社會和經濟帶來了巨大的變革和中斷,所以我們必須要考慮發展技術的風險。以前誰會想到會有一大群人在做網頁設計師,這在從前是一個不存在的職業,但今天卻變得很火熱。人工智能的早期版本就能讓我們創建一個全新的行業?,F在我們必須重新進行培訓,重新掌握技能,以便能夠改變被取代的工作崗位。

我相信,將來會有我們從未想過的全新行業被創造出來,例如,現在很活躍的Prompt Engineer(提示工程師),它將是一個巨大的產業,確切說,它可能是最重要的編程行業。你會看到AI正在幫助編寫提示,來提示其他AI,這確實非常棒。我喜歡關于安全的討論,我們必須在人工智能的能力和安全性方面盡可能多地投入。我們恰好也從事自動駕駛汽車領域的工作,可能有同樣多的資源投入來確保人工智能和汽車的安全。

構建人工智能相關的技術,以便將其保留在與對齊相關的技術操作領域,強化學習人類反饋,用事實來補充它的學習,降低出錯的概率。我們將會看到新想法的爆發,大模型被其他人工智能技術、方法和實踐所包圍,所有這些行動把大模型變成更有用的聊天機器人。

英偉達是怎樣煉成的

Joel Hellermark:你是如何經營一家公司的,在你創建并經營管理這家公司的過程中,有沒有一些技巧和方法?

黃仁勛:創建并經營管理一家公司,要做的第一件事就是從基本原則開始。你創建的這臺機器是什么?它的輸入是什么?輸出是什么?所處的條件是什么?這個行業是怎樣的?這是一個快速發展的行業嗎?它是受到嚴格監管的行業嗎?你想構建什么?你可以從這個角度來想一下:我想和公司一起做幾件事情,我想創造什么東西。NVIDIA的使命是解決那些幾乎不可能解決的計算問題。如果一個問題可以用普通計算機解決,我們就不會去做。我們必須去尋找普通計算機無法解決的問題,這樣你也能吸引那些想發明新的計算方式并將其應用于解決一些真正困難問題的優秀人才。

其次,我其實想要一家更小的公司,而不是更大的公司。通常公司需要盡可能大才能做好很多工作,但也要盡可能小。如果想要一個服從命令和控制的組織,那么你就把它做成一個金字塔,就像羅馬帝國時期的舊軍隊一樣。但如果你想賦予人們權利,就要盡可能地讓它變得平坦,這樣信息傳播得更快。為了使組織結構盡可能平坦,必須充分考慮第一層。第一層恰好是資深工作人員,他們需要的管理最少,我的管理團隊中沒有一個人會來找我尋求工作建議,他們自己就做得很好。

有很多人向我匯報工作,我不需要一對一進行指導。他們都非常快樂,他們知道自己在做什么,且都是各自領域的專家,所以那些一對一的交流真的沒有必要。如果有一個重要的戰略方向,你為什么要告訴一個人?你得告訴所有人。因此,當我們在制定未來的發展戰略時,我會在某個時間發送給所有人,然后他們會給我反饋,我們再完善它。公司的管理是扁平化的,而且你已經對公司十分了解,再加上給員工充分授權去訪問公司的信息,這樣公司也很敏捷。

事實證明,通過很多直接下屬,而不是一對一,能使公司管理扁平化,信息傳播更快、更通暢。我們沒有業務部門,也沒有分歧,每個人都像一個人一樣工作。公司的運行方式使我們能夠快速構建加速計算。如果你讓我去做炸雞,或者瑞典肉丸,肯定沒有機會,但是在加速計算領域,我們就可以做得很好。

Joel Hellermark:你有40名直接下屬?

黃仁勛:對,但我面臨的最大挑戰是把大家聚在一起。當我想聚一聚的時候,要么有人出去了,或者有人在度假,或者有人在做什么。確切地說,每個人都坐在辦公室的概率大約是0%。

Joel Hellermark:隨著時間的推移,你的領導風格發生了怎樣的變化?

黃仁勛:我真的沒有風格,只有我自己,有很多事情我想做的更好。如果工作中發生了什么事,而我不喜歡它的方向,我會直接說出來,不會把任何人拉到一邊,不會做一對一指導。這可能有點直接,但人們知道我除了提出問題之外并不想做任何事情。我還花了很多時間對我的決定進行推理和解釋,這賦予了員工權力,讓他們了解領導是如何思考并作出這個決定的。我參加的每一次會議,都會解釋我是如何思考這個問題的,我會推理一下。我認為這種管理過程就是一種賦權。我們也不會只召開副總裁會議,或者董事長會議,我開的會議里都有剛畢業的大學生,他們來自不同組織,都坐在那里。這是一件非常有趣的事情,那里就像我的辦公室,大家都聚在一起討論問題。

我最想要的是見多識廣、技能嫻熟、經驗豐富的人,他們可能曾經遇到過現在出現的問題,他們是能直接解決問題的人,我們需要的是真正的專家。

Joel Hellermark:你為那里的員工提供了怎樣的交流模式,你是怎么把優先要做的事情傳達下去的?我聽說過一些關于發送電子郵件的事情,這是怎么回事?

黃仁勛:我不看任何的狀態報告。因為這種報告在你得到它的時候就沒有價值了,它幾乎不再提供任何信息,它們已經被提煉過,并且加入了視角和偏見,讓你再也看不到基本的事實了,所以我傾向于接受任何人提供的信息。如果你發送電子郵件,并將其命名為“最重要的五件事”,無論你的最重要的五件事是什么,是你觀察到了什么,做了什么,學到了什么或都只是事情,這都是重要的信息,將其發給我,我都會閱讀。所以折合這些,我每天早上的閱讀量大約有一百本書那么多,但我每天都會去讀。

Joel Hellermark:你是如何去平衡團隊決定和你自身的計劃?剛才你說的“最重要的五件事”是一種自下而上的想法傳遞,比如你的團隊里資深的工程師,他做了一個決定,那你的戰略計劃同時也需要執行,你應該怎么去平衡和取舍呢?

黃仁勛:首先,戰略不是文字,是行動。如果公司有一套戰略,但人們的行動,他們“最重要的五件事”不是這樣的,那么顯然他們沒有執行該戰略。所以事實證明,戰略并不是我說了什么,而是他們所做的。你得對你的員工在做什么有了解,我甚至都不需要每周閱讀他們“最重要的五件事”,只需要進行系統采樣,就大致了解他們在干什么,公司有沒有在朝著你的目標發展。

其次,我們不做定期規劃,因為世界是有生命、會呼吸的。所以我們沒有5年計劃,也沒有1年計劃,我就是在做現在正在做的事情,不斷地調整和適應。

Joel Hellermark:會不會遇到偏離劇本的情況?是什么讓你在這些事情上這么相信自己的直覺?

黃仁勛:公司所追求的大多數事,都應該是通過基本原則推理出來的。如果有一個重要的假設讓你相信計算機必須改變,或者芯片架構必須改變,或者軟件開發的方式、數據中心必須改變。你不知不覺中,就會形成一種基于第一原則思維的世界觀。下一步就是你以足夠的奉獻精神和信念去追求它,這樣你就能實現它,通常這真的很難。但如果你錯了,你就會改變主意?,F代領導力真正的偉大之處,在于如果我做錯了什么,我只會說那是錯的,我改變主意了。有趣的是,由于你不斷地適應和調整計劃,隨著時間的推移,人們甚至都不會注意到你在去年已經改變了35次主意。所以我從來不做長期規劃,5年計劃對技術行業來說實在太荒謬了。

Joel Hellermark:很少有公司真正專注于幫助人們去完成他們的工作,但是你一直熱衷于此。這期間,你采取了哪些措施去幫助NVIDIA的員工從事他們畢生的事業?

黃仁勛:為他人創造生活、工作的環境是領導者的使命——實現這一使命的最重要的方式是不讓人們做商品工作。

例如,我們公司從不談論市場份額。我有23%的市場份額,他們有27%的市場份額,這有什么好討論的。你為什么要和別人爭奪市場份額?市場份額的整體概念表明,有一大群人在做同樣的事情。如果他們在做同樣的事情,我們為什么要這么做?為什么我要浪費這些才華橫溢的人的生命去做一些已經做過的事情?除非我們只是享受競爭(但我不享受競爭)。所以我們不會去和人們爭奪已經商品化的市場,這是一種去做以前從未做過的事情的思維方式。

證明這一點的另一方面就是,放棄已經商品化的業務。我們過去已經放棄了許多業務,這向員工清楚表明,我們不會去做商品工作。因此,選擇正確的工作和遠離錯誤的工作相結合,這是為員工創造環境的最佳方式。剩下的就是你我已經討論過的問題,即賦予員工獲得信息的權利。

有些公司是非常沉默的,信息不對組織之外傳播,我鼓勵我們公司保持透明。賦予人們獲取信息的權利,剩下的就看你在工作中如何表現自己了。如果公司里存在等級觀念,那么顯然這就沒有賦權。但如果任何人都能參加會議并作出貢獻,哪怕是一個剛畢業的大學生,這就賦權到位了,所以我認為賦權是一件非常重要的事情。

本文來源:中國企業家雜志,原標題:《黃仁勛是如何管理萬億英偉達的》。

風險提示及免責條款 市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。

關鍵詞: