品玩10月29日訊,據(jù) venturebeat 報(bào)道,IBM今日發(fā)布四款Granite 4.0 Nano新模型,參數(shù)規(guī)模僅3.5億至15億,遠(yuǎn)小于OpenAI、Anthropic、谷歌等廠商面向服務(wù)器的同類模型。
該系列模型具備高可獲取性:3.5億參數(shù)版本可在配備8-16GB內(nèi)存的現(xiàn)代筆記本CPU上流暢運(yùn)行;15億參數(shù)版本通常需至少6-8GB顯存的GPU,或足夠系統(tǒng)內(nèi)存與純CPU推理交換空間。Hugging Face機(jī)器學(xué)習(xí)工程師、Transformer.js創(chuàng)建者Joshua Lochner(Xenova)稱,最小參數(shù)版本甚至可在瀏覽器本地運(yùn)行,適合開發(fā)者在消費(fèi)級(jí)硬件或邊緣端開發(fā)應(yīng)用,無(wú)需依賴云計(jì)算。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.