上海
品玩10月28日訊，據(jù)高通官方消息，高通近日宣布推出新一代數(shù)據(jù)中心AI推理優(yōu)化解決方案，包括基于AI200、AI250芯片的加速卡及機架系統(tǒng)，依托其NPU技術優(yōu)勢，以高性價比與能效推動生成式AI規(guī)模化落地。
AI200為機架級方案，主打低總擁有成本（TCO），單卡支持768GB LPDDR內(nèi)存，優(yōu)化大語言及多模態(tài)模型推理性能；AI250采用近存計算架構，有效內(nèi)存帶寬提升超10倍且功耗更低，支持分布式推理。兩者均配備直接液冷、PCIe/以太網(wǎng)擴展、機密計算功能，機架功耗160kW。
配套超大規(guī)模AI軟件棧覆蓋全鏈路，支持主流框架及Hugging Face模型一鍵部署。AI200、AI250預計分別于2026年、2027年商用，高通承諾將按年度迭代數(shù)據(jù)中心產(chǎn)品路線圖。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
