close
臺灣之音立刻下載官方APP
開啟
:::

另類「衛生紙之亂」!GPU因AI熱潮 成短缺搶手貨

  • 時間:2023-05-30 15:49
  • 新聞引據:採訪、華爾街日報
  • 撰稿編輯:陳文蔚
另類「衛生紙之亂」!GPU因AI熱潮 成短缺搶手貨
繪圖晶片大廠輝達 (NVIDIA) 所生產的高階圖形晶片廣泛使用在AI運算上,但因供貨短缺引發的搶貨潮已經釀另一場「衛生紙之亂」。輝達晶片示意圖。(路透社/達志影像)

谷歌(Google)執行長將人工智慧(AI)革命與人們懂得用火相提並論,但現在憂慮的是,雖然人們懂得用火,卻缺少可以點火的火種!《華爾街日報》報導,現在生成式AI所需的先進晶片變得奇貨可居,正在業界掀起一波軍備競賽,在ChatGPT 暴紅下,由輝達(Nvidia)掌握多數的AI所需的圖形處理器(GPU)供不應求,猶如疫情期間掀起的「衛生紙之亂」一樣,業內估計,這波短缺恐持續到明年。

《華爾街日報》報導指出,目前幾乎所有用於AI的圖形處理器(GPU)幾乎都是由輝達製造,且由於AI開發商需要伺服器容量來做為開發和運作它們日益複雜的模型,並幫助其他公司構建AI服務,但先進晶片的短缺效應,已經限制了亞馬遜公司(Amazon)和微軟(Microsoft)等雲端服務公司能夠提供像是ChatGPT開發商OpenAI等客戶的運算處理能力。

現在晶片短缺問題有多嚴重?協助企業建構AI模型的Lamini聯合創辦人暨執行長Sharon Zhou形容,目前供應吃緊的狀況「就像疫情期間的衛生紙一樣」,她還透露,「因為存在短缺,所以人脈很重要」,但即使是全球人脈最強大的科技創業者,也難以獲得充足的伺服器容量。

人類終「懂得用火」卻缺火種 

誠如OpenAI執行長奧特曼(Sam Altman)於5月16日在國會聽證會上所說,「正因為處理器的瓶頸,使用ChatGPT的人少一點會更好。」而電動車龍頭特斯拉正在打造OpenAI的對手X.AI,執行長馬斯克也說,「GPU比毒品更難取得」。

不過馬斯克畢竟不是常人,知情人士透露,今年早些時候,部分正在競爭獲取甲骨文(Oracle)運算能力的新創公司,突然被告知有一個買家已經把閒置的伺服器空間買走,而這位買家正是馬斯克。

報導指出,對那些正在生成原始文本與分析的大型AI公司來說,取得數以萬計先進圖形晶片至關重要,若缺少這種晶片,AI背後的大型語言模型的運算工作就會變的相當慢,而輝達的高階圖形晶片最擅長就是同時進行大量運算。

根據瑞銀分析師估計,早期版本的ChatGPT約需一萬個圖形晶片,而馬斯克的進階版則需要三到五倍之多的這類圖形晶片。

GPU供不應求恐持續到明年

輝達最近表示,它正在擴大供應以滿足不斷增長的需求,而市場則有銷售商正以高價出售這些圖形晶片,但業界對GPU的需求相當強勁,許多AI公司創辦人認為,晶片短缺至少會持續到明年。

現在,許多伺服器製造商以及其客戶多表示,他們必須等待六個月以上才能獲得輝達最新的圖形晶片,另一家晶片商超微也表示,該公司的圖形晶片系統訂單處於歷史最高水平,該公司正急於增加製造能力。

報導表示,部分公司正在封鎖雲端容量,因為擔心之後無法獲得輝達晶片,也有許多創始人和投資者表示,能夠獲得晶片的公司也需要等待數周才能使用它,即使已經付費也不代表這些圖形晶片第二天或一周內就可以送到。因此現在許多AI投資者和新創公司只能退而求其次,先縮小AI模型來提高效率,或者找其它較不熱門的伺服器廠商像是甲骨文等先合作。

相關留言

本分類最新更多