英特爾至強處理器助力Aible加速生成式AI工作負載

供稿 / 2024-07-02 17:044349

近日，英特爾與端到端Serverless（無服務(wù)器）生成式AI和增強型分析方案提供商Aible合作，為企業(yè)客戶提供了創(chuàng)新的解決方案，助力其在不同代際的英特爾?至強? CPU上運行生成式AI與檢索增強生成（RAG）用例。此次合作包含了工程優(yōu)化和基準測試項目，顯著增強了Aible以低成本為企業(yè)客戶提供生成式AI結(jié)果的能力，并幫助開發(fā)人員在應(yīng)用中部署AI。在雙方的通力合作下，該可擴展、高效的AI解決方案可通過高性能硬件幫助客戶迎接AI挑戰(zhàn)。

【新聞快訊】英特爾至強處理器助力Aible加速生成式AI工作負載597.png

英特爾至強處理器

英特爾數(shù)據(jù)中心與人工智能事業(yè)部高級首席工程師Mishali Naik表示：“現(xiàn)在，客戶正在尋求高效的企業(yè)級解決方案以充分釋放AI潛力。我們與Aible的合作，也表明了英特爾正與行業(yè)緊密協(xié)作，推動AI創(chuàng)新，降低客戶使用英特爾至強處理器運行最新生成式AI工作負載的門檻。”

至強處理器的生成式AI性能：Aible的解決方案展示了CPU如何顯著提升從運行語言模型至RAG的一系列最新AI工作負載性能。基于針對英特爾處理器的優(yōu)化，Aible技術(shù)采用高效、智能的“端到端無服務(wù)器”方法，僅在產(chǎn)生用戶請求時才會進行資源消耗。例如，基于用戶查詢，向量數(shù)據(jù)庫僅需幾秒即可激活并檢索相關(guān)信息，而語言模型同樣只需簡單啟動即可處理并響應(yīng)用戶請求，這種按需操作的運行模式有助于企業(yè)降低總擁有成本（TCO）。

雖然在多數(shù)情況下，RAG功能需通過利用GPU和加速器的并行處理能力來實現(xiàn)，但Aible的無服務(wù)器技術(shù)與英特爾至強處理器相結(jié)合，可使RAG用例完全由CPU來驅(qū)動。性能數(shù)據(jù)顯示，多款不同代際的英特爾至強處理器均可高效運行RAG工作負載。

【新聞快訊】英特爾至強處理器助力Aible加速生成式AI工作負載1068.png

配置詳細信息如圖，結(jié)果可能會有不同

重要意義：Aible通過無服務(wù)器的方式使用CPU，可在多個客戶之間更為安全地共享底層計算資源，從而幫助客戶有效降低生成式AI項目的運營成本。這種降低成本的方式可以類比為用戶僅需在使用時購買電力，而非直接租賃發(fā)電機。此外，隨著生成式AI需求的增長，性能優(yōu)化和節(jié)能降耗變得愈發(fā)重要。Aible所提供的基于CPU的服務(wù)，為客戶提供了一種經(jīng)濟、高效的解決方案。

根據(jù)Aible的基準測試分析，當客戶采用基于CPU的無服務(wù)器解決方案運行RAG模型時，成本節(jié)省可高達55倍1。大幅降低的成本證明了Aible獨家方法的有效性，同時這種無服務(wù)器的CPU采用方式也減少了通過共享服務(wù)或?qū)Ｓ梅?wù)器構(gòu)建更為昂貴的、基于GPU的基礎(chǔ)設(shè)施需求。

此次英特爾及英特爾實驗室與Aible的合作，共同優(yōu)化了至強處理器上的AI工作負載。值得一提的是，通過優(yōu)化Aible針對AVX-512的代碼，Aible在至強處理器上實現(xiàn)了顯著的性能及吞吐量提升，這也彰顯了戰(zhàn)略性的軟件優(yōu)化對于整體效率的影響。

在Aible平臺的支持下，RAG模型與英特爾至強處理器的結(jié)合可推動以下應(yīng)用落地：

· 自然語言處理（NLP）

· 推薦系統(tǒng)

· 決策支持系統(tǒng)

· 內(nèi)容生成

英特爾與Aible的合作始于第四代至強處理器的發(fā)布。此后，雙方針對至強處理器的AI工作負載、代碼和庫進行了一系列優(yōu)化，并大幅提升了Aible的產(chǎn)品性能。

點個贊580