
AI基建市場正出現重大轉變:推理(Inference)正取代AI模型訓練(Training),成為主要增長動力;Bloomberg 英特爾ligence預期推理市場至2032年年複合增長約32%,規模達約1.3萬億美元,約為同期AI訓練市場約6,580億美元規模的兩倍。
在推理支出預期迅速上升而半導體板塊近期遭拋售的背景下,以下是五隻可把握推理增長的AI股份。
1.Nvidia
在推理領域,Nvidia(NVDA)並不具備如在AI訓練中般絕對優勢——在訓練上,它是不折不扣的領導者;不過,要完全排除Nvidia顯然並不明智。
公司今年作出一項極具智慧的「收購」——把Groq及其language processing units(LPUs)納入旗下;LPUs內嵌片上SRAM(static random-access memory),有助降低延遲,令其成為處理推理解碼階段(模型為查詢提供答案)理想芯片。
與此同時,搭載高頻寬記憶體(HBM)的GPU則可在前置填充階段負責重型運算(即模型讀取查詢);這是一套優雅解決方案,令Nvidia在推理領域未來扮演重要角色。
2.Advanced Micro Devices
AI訓練主要講求純粹運算能力,而推理則更受記憶體限制;這亦是為何Advanced Micro Devices(AMD)在推理市場扮演的角色遠較訓練強;它採用chiplet設計,令GPU可作為更大型互聯系統一部分,並與更多記憶體封裝。
公司已與OpenAI、Meta Platforms、微軟及Anthropic簽訂大型推理合約,未來數年將推動強勁增長;它最近亦與下文公司Cerebras(CBRS)合作,把Cerebras的SRAM方案整合入新Helios機櫃,以提升解碼效能。
3.Cerebras
Cerebras使用內嵌SRAM的芯片,與Nvidia LPUs類似;但由於SRAM體積龐大,Cerebras並非像Nvidia般少量嵌入SRAM,而是生產晶圓尺寸的巨型芯片;受制於尺寸及散熱、供電管理要求,這類芯片一般只以完整系統形式提供。
Cerebras CS系統原本屬高價位高端方案,目前已開始打入主流市場,並與OpenAI等客戶簽訂合約;與AMD的合作亦有助其採用成本較低的系統架構——由AMD GPU負責較具成本效益的前置填充推理階段。
4.博通
運行AI工作負載成本高昂,而推理屬持續性支出,愈來愈多hyperscalers轉向設計自家客製AI芯片負責該任務;博通(AVGO)便在此扮演關鍵角色:它協助把AI芯片設計轉換成可擴大量產並搭載HBM的實體芯片。
博通曾協助Alphabet開發備受好評的Tensor Processing Units(TPUs),現正乘TPU浪潮而起;同時,其他hyperscalers亦相繼求助其團隊開發自家客製AI芯片;公司預期相關業務在2027財年規模逾約1,000億美元,往後增長前景亦相當亮麗。
5. SK Hynix
由於推理受記憶體約束,HBM需求正急速上升;SK Hynix(SKHY)在此領域處於領導地位——它是HBM這種專用DRAM(dynamic random access memory)的創造者,目前市佔約為60%,並是Nvidia的主要供應商;公司最近更與該GPU巨頭簽訂約5,000億美元大型合約。
雖然記憶體市場歷來周期性極強,但在AI基建建設強勁需求及新長期供應合約支持下,SK Hynix在推理市場中頗有機會成為最大贏家之一。
作者:Geoffrey Seiler, The Fool
原文刊登於 HKMoneyClub
更多你或感興趣內容:
華爾街1.5萬億美元「火藥桶」的倒數計時已啟動 歷史顯示時間所餘無多
睇完新聞,記得追蹤hkmoneyclub以下平台,接收更多分析評論!
YouTube:hkmoneyclub (https://www.youtube.com/@hkmoneyclub)
本文所提供的信息僅供一般參考之用,並不構成任何個人化的投資勸誘或建議。作者沒持有以上提及的股票。 HK MoneyClub (www.hkmoneyclub.com)
