英偉達的成長與黃仁勛的故事(圖)
【看中國2023年12月13日訊】前些天,紐約客發了篇超級長的文章「黃仁勛的英偉達如何給AI革命提供動力」,講了黃仁勛的很多往事,有不少笑點,摘編出來給大家分享。
黃仁勛1963年出生於臺灣,九歲跟哥哥一起被送到美國,上了一所教會寄宿制學校。幾年後,他爸媽才獲准進入美國,跟兄弟倆團聚。亞裔身份+瘦弱矮小+留著長發+父母不在身邊,buff疊滿了,黃仁勛受了多少霸凌可想而知。
小黃雖然住在寄宿學校裡,但由於年齡太小,還不能在這所學校上課,只能去旁邊一所公立學校,同學大部分都是肯塔基州煙農的窮孩子,每個人都抽煙,每個人都好狠鬥勇,他的說法是:「我想我是唯一不帶刀的男生」。
那會兒,對中國人有個歧視稱謂,C開頭的。黃仁勛回憶說,「我們每天都被這麼叫」。他每天上學時,必須要經過一座搖搖擺擺的橋,橋很舊,鋪的木板不少缺失了。每當他過橋時,當地男孩都抓住繩索搖晃,試圖把他搖下去。
黃仁勛的室友是個文盲,兩人認識第一晚就撩起衣服,給老黃展示身上被捅的傷口。所以他們達成了一個協議,他教室友讀書,室友教他臥推,於是小黃在中學時期就養成了睡前做一百個俯臥撐的習慣。多年後,他認為這段經歷培養了他的韌性,「你只能堅強起來,繼續前進」。2019年黃仁勛衣錦還鄉,向學校捐贈了一棟教學樓,並深情地談起了那座破橋(現已不復存在),但沒提那些曾試圖把他從橋上晃下去的霸凌者。
由於高中時跳了兩級,黃仁勛16歲就畢業,成績優異,乒乓球也打到了全美排名靠前。上了俄勒岡州立大學之後,他主修的是電氣工程,整個系250個學生,只有3個女的,小黃藝高人膽大,向其中一個發起了攻勢。
他追的女同學名字叫Lori Mills,是他入門課程的實驗室搭檔。老黃追的方式也很奇葩——纏著女方與他一起做作業。「我試圖打動她,當然不是用我的外表,而是用我完成作業的強大能力」。最後,Lori Mills成了他的妻子,有兩個孩子。
1993年,黃仁勛與兩位合夥人在加州Denny's餐廳創建了Nvidia。公司最初的名字叫NVision,但被一家衛生紙生產商註冊,於是很長時間裏英偉達都沒有名字,只用NV來簡稱,後來,小黃在拉丁文裡找到「invidia」(嫉妒)一詞,改成Nvidia,寓意為他們設計的晶元能讓競爭對手「嫉妒」。但是,Nvidia的第一款產品非但沒能讓對手「嫉妒」,反而差點把自己搞破產。1996年,Nvidia推出一款用四邊形(傳統是用三角形)作為圖元的圖形晶元,但不久微軟就宣布他家的圖形軟體將只支持三角形。於是老黃不得不裁掉一半的員工,用僅剩的資金回到傳統的三角形上。
現在,英偉達總部大樓就是三角形(三個角被修剪),辦公室內部裝修時也用了大量三角形元素,不知道是不是跟這段歷史有關。
位於加州聖克拉拉市矽谷中心位置的英偉達(Nvidia)總部大樓(來源:維基百科)
困境之下,老黃只能豪賭一款產品,「賭注是五五分成」,「反正我們也要倒閉了」。這款產品就是Riva128,上市時英偉達賬上只能發一個月的工資。「我們離倒閉還有三十天」這句話,至今仍是公司的非正式座右銘。Riva128後來大獲成功,4個月裡賣了100萬套。
1999年,英偉達在上市之後不久推出了一款名為GeForce的顯卡,並將其定義為GPU。採用並行計算的GPU打從一開始就跟英特爾主導的CPU截然不同。黃仁勛把他和英特爾的關係形容為湯姆與傑瑞的關係。「每當他們靠近我們時,我就會拿起我的晶元跑路。」
2000年,斯坦福大學一位名叫Ian Buck的研究生,把32塊GeForce卡連接在一起,並動用了8臺投影玩《雷神之錘》。在玩完遊戲之後,Buck想著能不能開發下這張顯卡別的功能,於是,在美國DARPA的資助下,Buck破解了英偉達原始的編程工具(著色器),組合出了一臺超算。
幾個月後,Ian Buck就來英偉達上班了。他就是日後的CUDA之父。
2006年CUDA發布,但市場並不看好。CUDA的下載量在2009年達到峰值,之後就是連續三年的下降。英偉達為了推廣CUDA絞盡腦汁,比如,找了通用磨坊(哈根達斯和灣仔碼頭的母公司),幫他們CUDA模擬烹飪冷凍披薩的熱物理過程。
2009年,日後的AI教父Geoffrey Hinton率先用CUDA平臺訓練神經網路,結果大超預期。於是,他主動寫郵件聯繫英偉達,說:「聽著,我剛剛告訴一千名機器學習研究人員,他們應該去買Nvidia顯卡。你們能免費送我一塊嗎?"
然後笑點來了:英偉達拒絕了Geoffrey Hinton的請求。
那會兒,黃仁勛可能還沒意識到Hinton是英偉達的大恩人,深度神經網路將徹底改變英偉達的屬性。不過,後來OpenAI成立時,他就第一時間親自上門,送上了最新款的DGX-1,由當時擔任OpenAI董事長的馬斯克親自拆封。
Hinton大神雖然受到冷遇,但繼續帶著兩名學生用GeForce卡來訓練模型,其中一位學生就是最近在OpenAI掀起奪權大戲的Ilya Sutskever。後來的事情就都知道了:ImageNet大賽奪冠、深度學習復興、OpenAI成立、Transformer出世、ChatGPT誕生、英偉達市值飆過萬億。
文章記錄了黃仁勛的一些工作細節:他思維方式很實際,不喜歡投機取巧,也從未讀過科幻小說,他喜歡從第一原理出發,來推斷晶元今天能做什麼,然後賭它們明天能做什麼。
另外,黃仁勛每天通過寫幾百封電子郵件與他的員工進行溝通,通常這些郵件只有幾個單詞。他脾氣暴躁,即使在冷靜的時候,強度也會讓人喘不過氣來。一位員工說:「與他交流,就像把手指插進電插座裡。」
儘管英偉達已經成為世界上最炙手可熱的公司,但黃仁勛在跟紐約客的記者吃早餐接受採訪時,仍然強調:「我盡一切努力來避免公司倒閉,我竭盡所有全力來避免失敗」。