新加坡數據中心業者透過創新液體冷卻技術，使數據中心更為環保

一、依據新加坡聯合早報本(2024)年8月12日報導指出，生成式人工智慧的發展依賴強大的運算能力，但數據中心極為耗電。因此，數據中心業者Sustainable Metal Cloud(簡稱SMC)透過創新液體冷卻技術及減少輸出的電子(electron)數量等方式，在保障運算能力之際，亦可打造綠色數據中心。SMC的「永續人工智慧工廠」透過微調LLaMa-2-70B大語言模型(LLM)，能源消耗較傳統方式所需電力減少45%，每月產生的二氧化碳亦減少2.21噸。
二、依據長期以來驅動全球數位革命的「摩爾定律」(Moore’s Law)，微晶片可容納的晶體管數量，每兩年翻倍，亦即微晶片性能可提高一倍。近年來人工智慧領域出現的「新摩爾定律」則主張，未來運算能力的提升，將更依賴「異質運算」(heterogeneous computing)、3D晶片堆疊等創新技術，而非僅靠增加晶體管密度。
三、 SMC聯合創辦人兼聯合首席執行長Oliver Curtis指出，輝達「Blackwell B100圖形處理器(GPU)」的「散熱設計功率」(thermal design power, 簡稱TDP)已高達70kW。然而，全球數據中心基本上皆為容納約10 kW而建造，僅有5%數據中心可處理至少50 kW的「散熱設計功率」。TDP係指中央處理器(CPU)或圖形處理器在運算應用程式達到最大負荷時，可產生的熱量。
四、 SMC在新加坡的數據中心採用液體冷卻技術，「電源使用效率」(power usage effectiveness，簡稱PUE)僅為1.1，倘以輝達的H100圖形處理器為例，一個數據大廳全為H100圖形處理器，能耗可高達14kW，但在SMC數據中心，則可降低至7.7kW。H100已成為全球人工智慧產業訓練大語言模型及運行生成式AI的熱門圖形處理器選擇。
五、依據2024年6月發布的MLPerf(Machine Learning Performance)數據顯示，與傳統風冷數據中心託管的圖形處理器相比，SMC數據中心可節省最多5成的能源。MLPerf基準測試是由學術界和工業界共同組成的非營利性組織，旨在建立一個公平、透明的機器學習性能評估平臺。
六、新加坡數據中心的用電量占全國總電量約7%。一座數據中心要符合新加坡建設局(BCA)及新加坡資訊通信媒體發展局(IMDA)的綠色建築標章白金認證，其「電源使用效率」至少須達1.3。星國數據中心容量將在未來幾年增加至少300 MW，因此新加坡政府於2024年5月30日正式推出「綠色數據中心路線圖」，持續在硬體與軟體改善能源效率及加速推動數據中心使用綠色能源，以優化數據中心的永續發展，同時將為使用綠色能源的數據中心業者，額外保留200 MW的容量。