AI晶片時代的 散熱 商機:台灣產業領先全球

2024-11-19
NVIDIA GB200 NVL72 是採用單一機架的百萬兆級電腦。NVLink 交換器系統具備 36 個 GB200,由史上最大型的 NVIDIA® NVLink® 網域互連,為人工智慧和高效能運算 (HPC) 工作負載提供每秒 130 TB (TB/秒) 的低延遲 GPU 通訊。 散熱

圖片來源:https://wccftech.com/nvidia-first-blackwell-gb200-nvl72-server-shipped-amidst-reports-of-thermal-issues/

2024年被譽為AI元年,隨著人工智慧技術的飛速發展,AI晶片的高功耗問題也日益凸顯。這也意外地為台灣的散熱產業帶來前所未有的商機。根據摩根士丹利的預測,至2027年,僅輝達在數據中心的GPU散熱系統就將創造48億美元的市場價值!

AI伺服器對散熱技術的要求遠超以往。以一款搭載最新AI晶片的NVIDIA GB200 NVL72機架為例,其總功耗高達116千瓦,遠遠超過傳統氣冷散熱的20千瓦極限,這意味著傳統的散熱方案已無法滿足AI時代的龐大需求。  因此,液冷及浸沒式散熱技術應運而生,成為產業發展的新趨勢。

目前市場上主要有三種散熱技術:氣冷、液冷和浸沒式散熱。氣冷散熱技術雖然成本低廉,但散熱能力有限,在高功耗AI晶片面前顯得力不從心。  台灣熱管理協會理事長龔育諄(同時也是英特爾水冷團隊技術總監)指出:「全世界散熱供應商有7成是台廠包辦。」但他同時也提到:「目前約有6~7成的資料中心還是使用(水對氣)這樣的散熱方式。」這顯示氣冷散熱技術仍佔據一定的市場份額,尤其是在功耗要求相對較低的應用場景中。

    氣冷散熱:成本低,但散熱能力有限,適用於低功耗設備。

    液冷散熱:散熱效率高,但成本較高,且需考慮液體洩漏及腐蝕等問題。液冷散熱方案又可分為「水對氣」和「水對水」兩種。龔育諄理事長表示,目前「水對氣」方案仍佔據主導地位,但「水對水」方案在高階應用中也逐漸受到重視。

    浸沒式散熱:散熱效果最佳,但成本最高,且維護較為複雜,環保議題也需考量。資策會分析師陳牧風指出,資料中心導入浸沒式方案需要考量工廠樓層耐重程度和基礎設施等問題,成本非常龐大。</li>

台灣散熱廠商積極布局AI散熱市場,例如台達電預計明年在AI冷卻收入將高達逾90億元,充分展現了台灣廠商在全球散熱產業中的領先地位。  然而,競爭也相當激烈。工研院電光系統所博士彭奐森提到,風量風速並不能無限上綱,否則會產生震動和噪音問題;高力副總經理吳俊英則表示,目前氣冷散熱在市場需求還是很有空間,但GB系列晶片出貨後,液冷取代氣冷的速度就會加快。  這也顯示,台灣廠商需要持續研發創新,才能在這個快速變化的市場中保持競爭力。

除了台灣廠商積極投入外,美國晶片三巨頭多次來台展示AI晶片,也顯示出全球AI晶片算力競爭的激烈程度,間接推動了散熱技術的快速發展。  從美國晶片廠商到阿里巴巴、中東地區的資料中心業者,全球對高性能AI伺服器的需求不斷增加,為台灣散熱產業帶來巨大的發展潛力,但同時也帶來了技術和成本上的挑戰。  值得注意的是,Tier 1雲端業者更重視散熱方案的穩定性和可靠性,而非單純的價格競爭。

總而言之,AI晶片散熱市場的爆發,為台灣散熱產業帶來前所未有的機會。  然而,廠商需要積極應對技術挑戰、成本壓力以及市場競爭,才能在這個快速發展的領域中佔據一席之地。  這是一則最新的即時報導,值得持續關注。

詠通科技工程專注於高密度節能的IDC機房工程、先進的冷凍空調工程、可靠的不斷電系統、以及全面的消防和環境控制系統設計與實施。

您的專業機房建置與永續發展好夥伴,詠通科技將您的數據潛力最大化

回到技術分享文章列表 聯絡我們