AWS推出全新資料中心元件支援AI創新並進一步提升能源效率 (台北新聞網-大台灣新聞網)

【拉斯維加斯訊，2024年12月13日】亞馬遜（Amazon）旗下Amazon Web Services（AWS）在2024年re:Invent全球大會上，宣布推出一系列資料中心新元件，旨在支援新一代人工智慧（AI）創新並滿足客戶不斷變化的需求。AWS對電源、冷卻和硬體設計等進行的一系列創新，建構更加節能的資料中心，為客戶進一步創新奠定基礎。AWS在全球新推出的資料中心都將具備這些新元件，而許多關鍵元件皆已部署於現有的資料中心。更多詳情請參考：https://www.youtube.com/watch?v=NUIrNGwUu14
。


AWS基礎設施服務副總裁Prasad Kalyanaraman表示：「AWS持續推動基礎設施創新，致力於為全球客戶建構效能卓越、可靠、安全且永續的雲端服務。藉由資料中心的新功能，包括能源效率的提升以及對新興工作負載的彈性支援，是我們在雲端運算領域的一大重要進展。同時，更令人興奮的是，這些功能均採用模組化設計，讓我們得以對現有基礎設施進行升級改造，實現液體冷卻並提高能源效率，這不僅為生成式AI應用提供強大的動能，也降低了碳足跡。」


AWS擁有18年建構大規模資料中心、13年為AI工作負載提供基於GPU的伺服器之豐富經驗。目前，AWS的資料中心為全球數百萬活躍客戶提供服務，包括數十萬使用AWS AI和機器學習服務的客戶，以及全球數萬個使用Amazon Bedrock建構生成式AI應用程式的客戶。隨著生成式AI日益普及與客戶對GPU容量需求不斷增長，AWS不斷調整和優化資料中心，以支援更高的功率密度需求。主要的升級包括：


1. 簡化電力和機械設計，提高可用性

AWS致力於打造業界最可靠的基礎設施。簡化的電力和機械設計將更可靠，並易於維護，能確保客戶受益於高可用性，這是AWS自始至終為客戶提供的優勢。


AWS最新的資料中心設計優化中，包括簡化的電力分配和機械系統，使基礎設施的可用性達99.9999%。同時，簡化的系統將可能受到電力問題影響的機架數量減少89%。


在AWS的資料中心內，電力供應需經過一系列轉換與分配過程，才能抵達IT設備。這個流程中每一步驟都伴隨著低效率、能源的消耗以及潛在的故障風險。在新的設計案例中，AWS簡化了電力分配系統，進而將潛在故障點的數量減少了20%。簡化的另一個例子還包括將備用電源更緊密地

整合至機架附近，並減少排熱風扇的數量。AWS運用天然的壓力差異來排出熱空氣，這提高了伺服器的可用電力。這些改進措施不僅顯著降低整體能源消耗，更最大限度地減少了故障風險。


2. 在冷卻、機架設計和控制系統進行創新

AWS推出了一系列新功能及升級功能，致力於為客戶提供具有高效能、高可用性和能源效率的基礎設施。AWS資料中心的創新包括：


• 液體冷卻：新型的AI伺服器將受益於液體冷卻，更有效地應對高密度運算晶片的冷卻需求。AWS開發了一項先進的機械冷卻解決方案，在新建及現有資料中心配置「液體到晶片」的冷卻系統。部分AWS技術運用不需要液體冷卻的網路和儲存基礎設施，因此更新後的冷卻系統將無縫整合氣體和液體冷卻功能，用於支援包括AWS Trainium2的強大AI晶片系列，NVIDIA GB200 NVL72等機架級AI超級運算解決方案，以及AWS網路交換器和儲存伺服器。無論客戶運行傳統工作負載還是AI模型，這種彈性的多模式冷卻設計確保AWS能以最低的成本為客戶提供最佳效能和效率。這種獨特的液體冷卻機架設計是AWS與領先的晶片製造商合作開發的，旨在加快AI工作負載的上市時間。

• 支援高密度AI工作負載：AWS透過優化資料中心的機架布局，最大化電力使用效率。AWS透過軟體實現了這一點，由資料和生成式AI驅動的軟體能夠精確預測伺服器的最佳部署方式。AWS將減少浪費電力，包括閒置以及未充分運用的能源，進而更有效地善用可用的能源。


此設計旨在滿足AI工作負載對新一代硬體和高密度機架配置的需求，同時又保持足夠的彈性，適用於其他廣泛的硬體需求。AWS基礎設施為客戶提供廣泛而深入的運算執行個體選擇，現已提供超過750種Amazon Elastic Cloud Compute（Amazon EC2）執行個體，讓客戶可為幾乎所有工作負載選擇最合適的處理器、儲存、網路、作業系統以及購買模型。除了彈性的多模式冷卻解決方案外，AWS在電力傳輸系統上也實現了工程突破，使AWS未來兩年內能夠將機架功率密度提升6倍，並有望在未來進一步提升3倍。這部分得益於新電源架的應用，新電源架能夠高效地在整個機架內分配電力，顯著降低了電力轉換過程中的耗損。


整體而言，這些創新措施讓AWS每個站點為客戶工作負載增加12%的運算能力。這項進步意味著在提供同等運算能力的情況下，所需的資料中心數量將會減少。


• 升級的控制系統：新推出的由亞馬遜自行研發的控制系統已應用於AWS的電力與機械設備中，實現了監控、警報和營運流程的標準化。例如，運用AWS內部建構的遙測工具使用AWS的技術，能夠提供即時診斷和故障排除服務，這些服務確保客戶保持最佳運行狀態。此外，AWS在提升控制系統冗餘度的同時，也簡化了系統複雜性。這些升級使得AWS基礎設施可用性設計達到99.9999%。


3. 實現能源效率與永續雙提升：機械能耗降低46%，混凝土含碳量減少35% 多年來，AWS在推動基礎設施能源效率與永續方面始終走在業界前列。據研究顯示，AWS的基礎設施效率是企業自建基礎設施的4.1倍，透過在AWS上優化工作負載，相關的碳足跡能夠減少最高99%。在2023年，AWS已提前實現營運所需電力100%來自可再生能源的目標，比原訂的2030年提前了七年。


AWS不斷評估資料中心的運行，透過不懈的創新提高基礎設施的能源效率。新元件在能源效率和永續發展的升級如下：


• 更高效的冷卻系統，在高峰冷卻需求期間，與前一代設計相比預計機械能耗降低高達46%，同時每兆瓦的用水量不變。設計改變包括全新的單側冷卻系統、減少冷卻設備數量以及引入液體冷卻功能。

• 降低資料中心建築外殼混凝土的固有碳排放量，相較於業界平均水準最高可降低35%。AWS採用了規範的低碳鋼和低碳混凝土，並透過優化結構設計來減少鋼材的使用總量。

• 備用發電機將採用可再生柴油，這是一種可生物降解且無毒的燃料，與傳統的化石柴油相比，其生命週期內的溫室氣體排放量可減少高達90%。AWS已開始在歐洲和美國的資料中心推廣使用可再生柴油作為備用發電機的燃料。


NVIDIA超大規模與高效能運算事業部副總裁Ian Buck表示：「隨著AI需求不斷發展，資料中心也需同步加速演進。先進的液體冷卻解決方案能夠高效地冷卻AI基礎設施，同時顯著降低能耗。我們與AWS在液體冷卻機架設計上攜手合作，將協助客戶以卓越的效能和效率運行高強度的AI工作負載。」


Anthropic運算部門傑出工程師James Bradbury表示：「Anthropic致力於開發領先業界的基礎模型，而安全、高效能且節能的基礎設施是我們成功的關鍵。AWS致力於建構先進的資料中心，這是我們選擇AWS作為主要雲端服務供應商和模型訓練合作夥伴的重要原因之一。AWS的新設計顯著提升了基礎設施的安全性、可擴展性和效率，為AI模型的運行和創新提供了強有力的支援。」


AWS的資料中心新元件將在AWS全球基礎設施進行部署，覆蓋全球34個區域、108個可用區域，以及如Amazon Local Zones等其他基礎設施。預計在2025年初，包含完整元件的新型AWS資料中心將在美國開始建設。

欲了解更多關於AWS基礎設施的資訊，請至：https://aws.amazon.com/about-aws/global-infrastructure/。

按此進入「新聞快訊區」,快速掌握即時情報!