【ITBEAR】在AI技術(shù)日益融入企業(yè)核心應(yīng)用的今天，英特爾推出的第四代和第五代至強可擴展處理器正引領(lǐng)著一場性能革命。這些處理器內(nèi)置的英特爾高級矩陣擴展（AMX），顯著提升了AI功能，為企業(yè)優(yōu)化AI管線帶來了新的可能。
與第三代英特爾至強可擴展處理器相比，第五代產(chǎn)品的推理工作負載性能提升了高達10倍，每瓦性能也提升了7倍。這一飛躍性的進步，意味著企業(yè)在運行AI應(yīng)用時能夠更高效地處理復(fù)雜環(huán)境和海量數(shù)據(jù)，從而解鎖更多商業(yè)價值。
如今，AI已廣泛應(yīng)用于圖書和電影推薦、數(shù)字化零售、自然語言處理等多個領(lǐng)域。隨著技術(shù)的不斷發(fā)展，預(yù)計到2025年，將有90%新發(fā)布的企業(yè)應(yīng)用版本包含嵌入式AI功能。在這一趨勢下，英特爾的第四代和第五代至強可擴展處理器成為了企業(yè)優(yōu)化AI管線的理想之選。
內(nèi)置AI加速器的處理器之所以受到青睞，是因為它們能夠針對AI推理工作負載提供出色的性能。英特爾的AMX技術(shù)專為平衡推理而設(shè)計，同時具備更強的訓(xùn)練能力。目前，在已裝機的數(shù)據(jù)中心處理單元中，英特爾至強可擴展處理器占據(jù)了高達65%的市場份額。選擇內(nèi)置AMX的第四代和第五代產(chǎn)品，無疑是一種既高效又具有成本效益的AI工作負載加速方式。
相較于采用英特爾深度學(xué)習(xí)加速技術(shù)（DL Boost）的第三代產(chǎn)品，內(nèi)置AMX的第五代至強可擴展處理器在實時推理性能上有了顯著提升。具體來說，其性能提升了1.23至1.35倍，每瓦性能也提升了1.2至1.38倍。這一進步為企業(yè)帶來了更低的總體擁有成本（TCO）和更高的能效。
以NLP推理工作負載為例，僅需13臺基于第五代英特爾至強可擴展處理器的服務(wù)器，就能達到50臺第三代產(chǎn)品服務(wù)器的性能水平。這不僅降低了能耗和CO2排放量，還實現(xiàn)了高達64%的TCO節(jié)約。英特爾AMX帶來的性能提升遠超過歷代產(chǎn)品通過增加內(nèi)核所實現(xiàn)的進步，為企業(yè)在AI領(lǐng)域的持續(xù)創(chuàng)新提供了有力支持。
