
經常搞AI的朋友肯定都在想,現在AI芯片的算力越來越強,是不是只要堆算力,AI性能就能一直往上沖?
最近圖靈獎得主約翰·軒尼詩出來說話了,他說GPU設計的瓶頸不是算力,數據傳輸的成本比計算高100倍。這說法一出來,好多人都開始琢磨,原來AI芯片的問題,不只是算力不夠啊。
![]()
咱們先聊聊數據傳輸。新一代AI芯片,最大的麻煩就是數據傳輸太費錢了。打個比方,芯片從外面的主內存讀數據,這個過程的能耗,比做一次浮點乘法運算高100多倍。這就像你要算道數學題,結果找紙和筆的功夫,比做題本身還費時間精力。所以現在大家都想著盡量少傳輸數據,能用計算代替就代替。像TPU和GPU,都是這么干的,多做運算,少傳數據。
但這么做也有到頭的時候。要是想搞更高的并行規模,效率反而會下降,最后成了性能的瓶頸。這就讓人想起當年CPU的情況,CPU性能后來不怎么漲了,就是因為能優化的地方都優化完了。現在AI芯片好像也到了這個關口。
就在大家為這事頭疼的時候,華為昇騰384超節點用的光模塊,在數據傳輸上的優勢就很突出了。
傳統的數據傳輸方式,在大規模傳數據的時候,信號容易衰減,速度也上不去,就像城里的老路,車多了就堵。而華為用的光模塊,就像給數據修了條高速路。
光模塊用的是光信號傳數據,比傳統的電信號傳,損耗要小很多。長距離傳數據的時候,光模塊能減少信號衰減,保證數據能準確傳到。比如在很大的AI訓練集群里,各個計算節點要頻繁交換大量數據,用光模塊就不容易出錯,不用老重傳數據,數據傳輸的可靠性就高多了。
而且光模塊傳數據的速度特別快。像智能安防要實時識別圖像,自動駕駛要處理海量數據,這些場景都需要數據快點傳。華為昇騰的光模塊能滿足這些需求,讓AI芯片能及時拿到數據,把算力都用起來,不會因為等數據把算力浪費了。
另外,光模塊抗干擾能力也強。機房里電磁干擾多,傳統電信號傳數據容易受影響,數據就不準了。光信號傳數據基本不受電磁干擾,就像在吵雜的地方,也能清楚說話,能保證數據傳輸穩定,讓AI芯片能一直高效干活。
華為輪值董事長徐直軍說,未來幾年華為昇騰的算力能保持世界第一。從光模塊在數據傳輸上的優勢來看,這話是有道理的。因為光通信是華為的老本行,別人想要摻一腳進來門檻也不低啊,這就給昇騰的算力領先打下了基礎。
網友們對這事也有不少看法。有網友說:“華為這光模塊確實厲害,數據傳輸快又穩,保證堆砌算力芯片讓算力能保持第一,昇騰說不定能帶著AI芯片行業往前沖。”
還有網友說:“科技發展就是這樣,一個問題解決了,又會有新問題。不過華為在這方面的嘗試,能給大家指條路。”
也有做相關工作的網友說:“我們搞芯片的,得好好看看華為的做法,光模塊在數據傳輸上的創新,可能就是下一個突破點。”
其實這也符合科技發展的規律,每一項技術發展到一定程度,都會遇到自己的限制。對我們搞科技的來說,這既是挑戰,也是機會。
硅谷分析師談黃仁勛害怕華為原因:當年干翻蘋果后,華為這3方面都比英偉達強!網友:殖人看不起華為,美帝卻怕得很
聯想、紫光競標中國海油大規模采購電腦被評審不合格!網友:釋放出明顯信號
谷歌前CEO:中國機器人在復制電動車策略,未來全世界全是中國機器人!
美前駐華大使“警告”:我親眼見過解放軍,我們低估了中國的軍事和技術實力!網友:美政客一卸任就不演了
比爾蓋茨道出實情:別再迷信輟學逆襲,我當時隨時能回哈佛讀書!網友:不早說!!!
馬院士霸氣發聲:我們的電磁彈射技術,比美國福特級領先一代!曾聲稱搞研究不為做官,就為領先美國!
雷軍:只有對標iPhone才能超越,不過對標挺沒意思的,小米屏幕更好,游戲體驗更好,相機更好,信號遙遙領先!
華為輪值董事長:堅決不兼容英偉達CUDA!網友:以開源挑戰閉源,超節點+集群揚長避短!
印空軍司令:印度叫停了印巴沖突,參考俄烏巴以繼續沒好處,給世界上了一課!網友:又準備放假慶祝了哇
軍事大V:殲10-C發射完導彈扭頭回家了,陣風雷達還沒發現,這差距怎么打!殲10-C打F35也妥妥的!
沙特和巴鐵簽戰略共防協議后,卡塔爾、阿聯酋也來了!網友:巴鐵贏麻了,收保護費就賺盆滿缽滿!
黃仁勛對中國表示“失望”,因疑似政府要求中國企業停止采購英偉達顯卡!網友:不要特供閹割歧視版
馬斯克暢想:如果我們走出地球,可能會發現大批滅絕的文明!網友:先把地球上的爛攤子收拾好
美媒談對中國反壟斷調查:英偉達違反承諾,現在處于兩難境地!網友:奧利奧夾心
德媒感慨:中國車我們估計趕不上了,現在咋辦?網友:學習中國,注入靈魂
百度資深副總透露:李彥宏在百度沒寫過一行代碼!李彥宏:我是刻意控制不寫的!網友:可惜了
華為霸氣!在歐洲法庭完勝WiFi 6專利戰!美科技巨頭需賠償10億歐元!網友:尊湃事件太惡劣,損失不止這些
英媒報道:全球停電風險攀升,中國電力設備成為破局關鍵
NASA局長:禁止中國公民參與其太空項目,中國想搶在美國前面重返月球那是不可能!
微軟總裁警告:在公司內部參與加沙相關抗議活動的員工,將被辭退!網友:說好的言論自由呢?

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.