黄色高清无码色页色网址|精品视频高清视频不卡|在文字幕永久av|超碰97成人无码|十月丁香九月婷婷综合|国精产品一区一区三区有av|欧美高清00久久|亚洲精品久久久久久视按摩|特黄无码一级AV片|黄片高清无码免费的

第 10輪MLPerf®Inference結(jié)果發(fā)布，僅在v6.0這一輪中，HPE不僅橫跨廣泛的AI工作負(fù)載測(cè)試奪得了18項(xiàng)第 一名，還提交了總計(jì)862項(xiàng)結(jié)果。

從大語(yǔ)言模型基準(zhǔn)測(cè)試到邊緣性能測(cè)試，再到能效測(cè)試，HPE ProLiant服務(wù)器持續(xù)為真實(shí)世界的AI推理樹(shù)立行業(yè)標(biāo)準(zhǔn)。

HPE ProLiant Compute 的Llama性能

我們的產(chǎn)品HPE ProLiant Compute DL380a Gen12在以Llama為重點(diǎn)的測(cè)試中斬獲了8項(xiàng)第 一名，在Llama3.1-8B交互式基準(zhǔn)測(cè)試中，性能比次優(yōu)系統(tǒng)高出29%，并在六個(gè)不同的Llama場(chǎng)景中超過(guò)競(jìng)品。此外，配備四塊英偉達(dá)GPU的HPE ProLiant DL385 Gen11在Llama基準(zhǔn)測(cè)試中獲得了4項(xiàng)第 一名，并且在Llama3.1-8B基準(zhǔn)測(cè)試中與DL380a類似，性能比次優(yōu)提交高出24%。

HPE ProLiant DL385 Gen11在語(yǔ)音轉(zhuǎn)文本測(cè)試中持續(xù)保持強(qiáng)大

在的Llama基準(zhǔn)測(cè)試表現(xiàn)之上，HPE ProLiant DL385 Gen11在語(yǔ)音轉(zhuǎn)文本工作負(fù)載中展現(xiàn)了持續(xù)的統(tǒng)治力。在MLPerf^®Inference v5.1中，DL385 Gen11在Whisper語(yǔ)音轉(zhuǎn)文本基準(zhǔn)測(cè)試中奪得第  一名，為準(zhǔn)確性和吞吐量設(shè)定了高標(biāo)準(zhǔn)。這一勢(shì)頭延續(xù)到了此次新的v6.0輪次，DL385 Gen11再次證明了其實(shí)力，以每秒4712個(gè)樣本的表現(xiàn)超過(guò)了四個(gè)競(jìng)爭(zhēng)系統(tǒng)，在兩GPU配置下實(shí)現(xiàn)了每GPU每秒2356個(gè)樣本¹³。這些結(jié)果進(jìn)一步證明了：DL385 Gen11作為高 效、高性能解決方案，是AI驅(qū)動(dòng)型語(yǔ)音識(shí)別應(yīng)用客戶的理想之選。

HPE ProLiant DL385：能效與性能兼?zhèn)?/span>

可持續(xù)性和能效對(duì)于AI部署日益關(guān)鍵，而HPE ProLiant DL385 Gen11兩者兼具。在近乎對(duì)等的配置下，DL385 Gen11中的GPU功耗被限制在至高450瓦，而競(jìng)品使用的GPU運(yùn)行功率更高（600瓦）。DL385 Gen11在關(guān)鍵基準(zhǔn)測(cè)試中產(chǎn)生了幾乎相同的推理結(jié)果^1?，為必須在吞吐量與能耗及散熱限制之間取得平衡的客戶提供了良好的經(jīng)濟(jì)性。

詳見(jiàn)表1，對(duì)比HPE與競(jìng)品在llama3.1-8b、llama2-70b-99和Whisper (Offline)中的結(jié)果^1?。雖然DL385在Llama測(cè)試中與競(jìng)品系統(tǒng)表現(xiàn)接近，但它在Whisper Offline測(cè)試中超過(guò)了競(jìng)品系統(tǒng)。這一結(jié)果凸顯了較低的GPU功耗并未實(shí)質(zhì)性損害語(yǔ)音轉(zhuǎn)文本吞吐量——并且在本案例中反而產(chǎn)生了可衡量的優(yōu)勢(shì)。

HPE ProLiant DL145 Gen11：邊緣利器

HPE ProLiant DL145 Gen11在本輪中亮相MLPerf^®，它專為邊緣AI推理而設(shè)計(jì)。除了采用強(qiáng)大的英偉達(dá)GPU之外，DL145 Gen11還提供了多項(xiàng)附加功能，使其成為苛刻環(huán)境下分布式部署的理想選擇：可選配的加固套件使服務(wù)器達(dá)到MIL-STD-810H等級(jí)，工作溫度范圍從-5°C到55°C，并能憑借空氣過(guò)濾系統(tǒng)應(yīng)對(duì)多塵或工業(yè)環(huán)境。

HPE的創(chuàng)新和專業(yè)能力

為您的AI環(huán)境帶來(lái)高性能

縱觀MLPerf^®Inference v6.0測(cè)試結(jié)果，可見(jiàn)HPE ProLiant產(chǎn)品組合的深度和一致性——從旗艦數(shù)據(jù)中心平臺(tái)到針對(duì)電源效率和部署靈活性進(jìn)行優(yōu)化的邊緣就緒系統(tǒng)。這些成就進(jìn)一步證明了HPE在提供針對(duì)AI工作負(fù)載定制的高性能計(jì)算解決方案方面的領(lǐng)*地位。除了創(chuàng)新技術(shù)，HPE負(fù)責(zé)運(yùn)行基準(zhǔn)測(cè)試的AI性能工程專家團(tuán)隊(duì)對(duì)于取得這些成果也起到了關(guān)鍵作用。他們對(duì)系統(tǒng)能力、架構(gòu)和存儲(chǔ)細(xì)微差別以及微調(diào)的深刻理解，可助力客戶評(píng)估AI工作負(fù)載規(guī)模并調(diào)整應(yīng)用，以優(yōu)化其環(huán)境的性能。

無(wú)論您是在運(yùn)行大規(guī)模LLM推理、語(yǔ)音轉(zhuǎn)文本工作負(fù)載，還是能耗限制的邊緣AI，HPE ProLiant服務(wù)器都證明了其良好性能并不局限于單一配置或使用場(chǎng)景。