浪潮NF5488A5服務器:為算力提供強大支撐 加速應用創(chuàng)新
隨著人工智能的發(fā)展,各行各業(yè)的業(yè)務開始爆發(fā)式增長,AI應用已邁入規(guī);渴痣A段,產業(yè)AI化進一步提速,AI服務器市場需求旺盛。目前,在市場份額占有率上,浪潮AI服務器強勢領跑,連續(xù)三年超過50%以上,穩(wěn)坐國內冠軍寶座。那么浪潮AI服務器究竟有怎樣的優(yōu)勢呢?接下來就拿NF5488A5服務器來舉例驗證。
近日,在GTC China元腦生態(tài)技術論壇上,中科極限元、趨動科技、睿沿科技等元腦生態(tài)伙伴分享了多個場景下浪潮AI服務器NF5488A5的實測數(shù)據(jù),結果表明浪潮NF5488A5服務器大幅提升了智能語音、圖像識別等AI模型的訓練和推理性能,促進了產業(yè)AI解決方案的開發(fā)與應用。
NF5488A5是浪潮自研的新一代AI服務器,采用模塊化設計,適用于更廣泛的數(shù)據(jù)中心環(huán)境,可極大程度上降低部署成本,提高運行效率。在4U空間內支持8顆第三代NVLink全互聯(lián)的A100芯片,可為用戶提供高達5 PetaFLOPS的AI計算性能和超高速帶寬,為各類AI應用場景提供強大的計算力支撐,加速應用創(chuàng)新。NF5488A5曾屢次打破全球權威AI測試榜單MLPerf的記錄,基于ImageNet的ResNet50基準測試顯示,NF5488A5完成訓練僅需33.37分鐘,單機性能高居第一;推理性能達到每秒54.9萬張圖片,3倍于去年推理榜單的服務器最好性能。
中科極限開發(fā)的智能語音交互解決方案在國內處于領先水平,廣泛應用于教育、交通、呼叫中心、智能硬件等多個領域,本次在浪潮NF5488A5服務器進行加速。NF5488A5高性能、高帶寬、易部署的特性極大地促進了智能語音模型訓練及線上推理。測試數(shù)據(jù)顯示,在相同準確率下,與原有的系統(tǒng)相比,NF5488A5將模型訓練速度提升了50%,單機最大推理路數(shù)提升88%,推理延遲提升65%。
趨動科技與浪潮聯(lián)合打造了業(yè)內領先的一體化GPU資源池化解決方案。本次測試采用TensorFlow框架的Benchmark,測試小模型推理、大模型訓練等多種AI應用場景,驗證趨動科技OrionX AI加速器資源池化方案對浪潮NF5488A5服務器的兼容性和性能。結果表明, NF5488A5服務器性能優(yōu)異,部署資源池化方案后,本機性能損耗小于1%,對比以往服務器的GPU性能,數(shù)據(jù)提升近50%。
睿沿科技推出的高山雨燕工業(yè)視覺平臺是為工業(yè)生產場景構建的智能多業(yè)務管理安全生產管理平臺,可實現(xiàn)遠程巡檢、作業(yè)安全監(jiān)管、區(qū)域安防等功能。該平臺在計算層使用了浪潮NF5488A5加速訓練和推理。實測結果顯示,在圖片視頻分辨率相同的情況下,模型原來的訓練時間為140分鐘,使用NF5488A5之后,訓練時間可縮短到105分鐘,速度提升25%。單機最大推理FPS(每秒傳輸幀數(shù))由20800提高到28000,提升35%。
根據(jù)以上實測數(shù)據(jù)顯示,浪潮NF5488A5服務器可廣泛應用于圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景,幫助AI用戶高效完成AI基礎設施和開發(fā)環(huán)境的構建,縮短開發(fā)周期,顯著提升AI開發(fā)和應用效率。
另外,浪潮在人工智能領域還積極打造了各種AI平臺,并與領先的人工智能科技公司深度合作,共同創(chuàng)建了“元腦生態(tài)”,以應對產業(yè)AI化進程中算力、算法和應用等方面的挑戰(zhàn)。
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉型:年底前裁員15000人、拋掉2/3房產
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產業(yè)新飛躍
- 4 國產AI芯片公司破產!白菜價拍賣
- 5 AI+賦能新質生產力——中國移動政企亮相中國國際信息通信展覽會
- 6 三次錯失風口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 7 英偉達的麻煩在后頭?
- 8 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 9 智慧貨架管理引領零售新風尚
- 10 格創(chuàng)東智“工博會時間”:人機協(xié)同系統(tǒng)精彩亮相,解鎖裝備智造提效的秘訣
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市