品玩10月28日訊,據(jù)高通官方消息,高通近日宣布推出新一代數(shù)據(jù)中心AI推理優(yōu)化解決方案,包括基于AI200、AI250芯片的加速卡及機架系統(tǒng),依托其NPU技術優(yōu)勢,以高性價比與能效推動生成式AI規(guī)模化落地。
AI200為機架級方案,主打低總擁有成本(TCO),單卡支持768GB LPDDR內(nèi)存,優(yōu)化大語言及多模態(tài)模型推理性能;AI250采用近存計算架構,有效內(nèi)存帶寬提升超10倍且功耗更低,支持分布式推理。兩者均配備直接液冷、PCIe/以太網(wǎng)擴展、機密計算功能,機架功耗160kW。
配套超大規(guī)模AI軟件棧覆蓋全鏈路,支持主流框架及Hugging Face模型一鍵部署。AI200、AI250預計分別于2026年、2027年商用,高通承諾將按年度迭代數(shù)據(jù)中心產(chǎn)品路線圖。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.