在近日由中國信息通信研究院主辦的“GOLF+IT新治理領導力論壇”上，阿里云正式揭曉了其全棧AI負載高可用架構，這一創(chuàng)新方案旨在滿足AI大模型在企業(yè)級應用中對于云服務處理能力的嚴苛要求，特別是在大規(guī)模參數(shù)量、復雜結(jié)構以及高性能算力背景下，確?？蓴U展性、服務連續(xù)性、服務質(zhì)量和快速故障恢復。
阿里云此次發(fā)布的架構，核心目標是為生成式AI提供持續(xù)卓越的用戶體驗。具體而言，該架構能夠?qū)崿F(xiàn)GPU故障預測準確率高達92%，在千卡規(guī)模集群中，連續(xù)訓練的有效時長超過99%，同時支持秒級模型自動保存和分鐘級故障恢復。它還具備每分鐘擴展10000個pod的能力，實現(xiàn)分鐘級自動擴容，以及核心模型服務99.99%的API SLA，確保模型應用服務的全鏈路可觀測性。這些特性在大規(guī)模數(shù)據(jù)處理和訓推場景下，為Gen AI應用的業(yè)務連續(xù)性、響應速度、穩(wěn)定性和安全性提供了全面保障。
在論壇期間，2025年中國數(shù)字化治理領域的最新評估結(jié)果也同步揭曉，阿里云憑借出色的表現(xiàn)，成為首批通過信通院“企業(yè)用云治理能力成熟度評估”的兩家企業(yè)之一，并榮獲該項評估的最高等級。這一榮譽不僅是對阿里云在云治理能力上的認可，也體現(xiàn)了其在推動企業(yè)數(shù)字化轉(zhuǎn)型方面的卓越貢獻。
隨著AI算力需求的不斷增長，以GenAI為代表的應用場景和技術正以前所未有的速度發(fā)展。云上企業(yè)需要處理的數(shù)據(jù)量呈指數(shù)級增長，AI驅(qū)動的應用在高負載環(huán)境下對業(yè)務連續(xù)性、響應速度、穩(wěn)定性和安全性提出了更高要求。阿里云在升級云平臺技術服務能力的同時，將GPU、異構算力集群、容器集群、存儲、向量數(shù)據(jù)庫、機器學習平臺等全面融入云平臺架構設計，構建了全棧AI負載高可用架構。
在高可用模型訓練方面，阿里云將AI基礎設施的高可用能力融入云服務整體架構設計，通過基于AI算法的故障預測，實現(xiàn)訓推環(huán)節(jié)的性能瓶頸分析和潛在故障分析。GPU故障預測準確率高達92%，同時接入異常預測自愈鏈路，訓練恢復自愈率超過90%。CPFS高性能存儲集群在超大集群中具備20TB/s的吞吐能力，支持更大、更頻繁的Checkpoint讀寫，有效防止數(shù)據(jù)丟失，提升訓練的穩(wěn)定性和可靠性。阿里云自研的高性能網(wǎng)絡則采用業(yè)界首創(chuàng)的雙平面高可用網(wǎng)絡架構，確保網(wǎng)絡Link和設備中斷時，訓練任務不中斷。
在推理資源方面，阿里云容器計算服務ACS的彈性擴展能力每分鐘可完成10000個pod的擴展，實現(xiàn)分鐘級自動擴容。PAI-EAS模型在線服務適用于多種AI推理場景，包括實時推理和近實時異步推理，能夠感知每個請求的執(zhí)行進度，實現(xiàn)更公平的任務調(diào)度，提高擴縮容效率。同時，阿里云將跨區(qū)域的主動式重路由技術應用于數(shù)據(jù)中心間通信，達到跨域帶寬業(yè)界最高的99.995% SLA，實現(xiàn)秒級內(nèi)重新路由，提供穩(wěn)定的網(wǎng)絡通信延遲。
對于實時語音交互、實時AI搜索等高性能場景下的推理需求，阿里云百煉模型服務平臺基于預訓練模型為用戶提供模型推理與應用構建托管服務。核心模型服務API的SLA達到99.99%，高性能場景核心用戶用例中的首包延時小于300毫秒，有效解決應用開發(fā)、模型調(diào)用過程中的跨區(qū)域TPM限制和高并發(fā)需求下API響應變慢等問題，提升用戶體驗。
在數(shù)據(jù)高可靠方面，阿里云數(shù)據(jù)存儲與數(shù)據(jù)庫服務針對不同計算引擎和多種AI框架進行了深度集成，形成了承載PB級甚至EB級大規(guī)模數(shù)據(jù)的統(tǒng)一存儲底座。同城冗余容災能力高達99.995% SLA，數(shù)據(jù)多副本冗余、大文件斷點續(xù)傳、批量和多線程數(shù)據(jù)操作確保數(shù)據(jù)服務的高可靠性。這一架構支持面向單AZ、雙AZ、三AZ及跨Region的高可用服務，實現(xiàn)跨Region AI數(shù)據(jù)的就近讀寫和負載均衡，滿足AI數(shù)據(jù)多活的強一致性要求。
在AI時代的浪潮中，阿里云不僅通過全棧AI負載高可用架構為企業(yè)奠定了堅實的技術基礎，還致力于與用戶共同構建一個AI-Native的智能化、自動化和可持續(xù)的IT治理體系。阿里云推出的卓越架構Well-Architeched framework旨在幫助企業(yè)在云上構建一個安全、穩(wěn)定、高效的應用環(huán)境。該框架根據(jù)云計算的彈性、實時交付和自助化等特點，進一步升級了用云企業(yè)運維管理和治理規(guī)則基線的最佳實踐。
阿里云開放平臺負責人表示，構建可靠的系統(tǒng)是云廠商與用戶共同的責任。云廠商負責提供云平臺的可靠性，確保云服務可用性符合或超過阿里云服務等級協(xié)議；用戶則需要根據(jù)業(yè)務需求選擇合適的產(chǎn)品服務，并根據(jù)云相關文檔的指導搭建高可用架構，確保云上應用的可靠性。在AI迅猛發(fā)展的背景下，企業(yè)應讓業(yè)務系統(tǒng)利用現(xiàn)代云平臺的基礎設施達到高可用，實現(xiàn)面向失敗的設計架構、面向精細的運維管控以及面向風險的應急快恢。
阿里云在企業(yè)用云治理能力方面取得了顯著成就。根據(jù)信通院發(fā)布的《企業(yè)用云治理能力成熟度分級要求》，阿里云測評結(jié)果為L4+，這是目前階段云服務提供商實際獲得的最高等級。此前，阿里云的企業(yè)用云治理能力已多次獲得信通院的認可，并聯(lián)合埃森哲發(fā)布了《云治理企業(yè)成熟度發(fā)展2024年度報告》。該報告基于400多家企業(yè)客戶的調(diào)研數(shù)據(jù)，旨在幫助用戶理解云治理概念、企業(yè)用云實踐的現(xiàn)狀及變遷趨勢，并為面向AI時代的IT新治理和云上架構優(yōu)化提供參考與決策依據(jù)。
